МЕТОД ЗАЩИЩЁННОЙ АГРЕГАЦИИ ПАРАМЕТРОВ МОДЕЛИ В СИСТЕМЕ ФЕДЕРАТИВНОГО ОБУЧЕНИЯ НА ОСНОВЕ ГОМОМОРФНОГО ШИФРОВАНИЯ

Аннотация

Теперь интеллектуальные системы ежедневно работают с личным и конфиденциальным потоком данных. Угроза распространения этой информации в сети и несанкционированного доступа действительно значительно возросла. По этой причине растет интерес к федеративному обучению, а не к традиционным подходам к центральному обучению. В статье мы представляем безопасный метод агрегации, основанный на гомоморфном шифровании Paillier для защиты параметров модели в федеративных системах обучения. Этот подход позволяет передавать параметры модели от клиентов к серверу в зашифрованном виде, а не в открытом виде. Затем сохраняется конфиденциальность данных, и центральный сервер выполняет дальнейшую обработку. Новый метод ограничивает просмотр сервером исходных данных, и клиенты обновляют модель в зашифрованном виде. Для количественной стабильности мы ввели коэффициент квантования и масштабирования параметров (κ = 10²). Мы провели эксперимент с наборами данных MNIST на архитектуре полностью связанной нейронной сети (784, 64, 10), смешанной с 5 клиентами. Данные были разделены в независимом и одинаково распределенном (IID) состоянии, и федеративное обучение проводилось в течение 10 раундов. Каждый клиент использовал алгоритм SGD со скоростью чтения 0.01. Мы сосредоточились на том, как изменяется точность модели при использовании шифрования Paillier. В течение первых 1-3 раундов точность модели быстро растет, а затем в течение 4-5 раундов это увеличение замедляется. В последних 8-10 раундах модель накапливается, а точность стабилизируется. Результаты показывают, что предлагаемый метод обучает модель устойчиво и эффективно, сохраняя при этом конфиденциальность данных.