[정보관리기술사 137회 1교시 13번] 연합학습(Federated Learning)의 개념과 프라이버시 보호 AI

I. 개요

연합학습(Federated Learning)이란 원시 데이터를 중앙 서버로 전송하지 않고 각 클라이언트(기기·기관)가 로컬에서 모델을 학습한 후 모델 파라미터(gradient)만 공유하여 글로벌 모델을 갱신하는 분산 머신러닝 패러다임이다. Google이 2016년 Android 키보드(Gboard) 개인화에 최초 적용하였으며, GDPR·의료정보보호법 등 데이터 규제가 강화되면서 금융·의료·통신 분야로 확산되고 있다.

II. 연합학습 3가지 유형

III. FedAvg 알고리즘과 동작 원리

McMahan et al.(2017)이 제안한 FedAvg는 다음 4단계를 반복한다: ① 중앙 서버가 현재 글로벌 모델 파라미터를 선택된 클라이언트에 배포 → ② 각 클라이언트가 로컬 데이터로 E에폭 SGD 학습 후 로컬 gradient 계산 → ③ 클라이언트가 gradient를 중앙 서버에 전송 → ④ 서버가 가중 평균(데이터 샘플 수 기준)으로 글로벌 모델 파라미터 갱신. 통신 횟수를 최소화하면서 중앙 집중 학습에 준하는 정확도를 달성한다.

IV. 보안 위협과 프라이버시 강화 기술

V. 결론 및 기술사 관점

연합학습은 데이터 주권 보호와 AI 모델 성능 향상을 동시에 추구하는 Privacy-Preserving ML의 핵심 기술이다. GDPR·개인정보보호법 준수가 강화되는 환경에서 의료·금융 분야 AI 협력의 현실적 대안으로 부상하고 있다. 도입 시 통신 비용·Non-IID 대응·보안 위협에 대한 아키텍처 수준의 설계가 선행되어야 한다.

연합학습 공격 유형과 방어 체크리스트

연합학습의 보안 논의는 크게 참여자가 공격자인 경우와 서버가 호기심 많은 경우로 나뉩니다. 전자는 모델을 망가뜨리거나 숨은 동작을 심는 공격, 후자는 전달된 업데이트에서 개인정보를 읽어 내는 공격입니다.

모델 포이즈닝은 악의적 클라이언트가 조작한 업데이트를 보내 전체 모델의 정확도를 낮추거나, 특정 입력에서만 오작동하는 백도어를 심는 공격입니다. 추론 공격은 업데이트를 분석해 특정 샘플의 학습 참여 여부(멤버십 추론)나 원본 일부(속성·복원)를 추정합니다.

• 이상 업데이트 탐지: 크기와 방향이 평균에서 크게 벗어난 업데이트를 제한하거나 제거(클리핑, 로버스트 집계).
• 안전한 집계: 서버가 개별 업데이트를 볼 수 없고 합계만 볼 수 있게 합니다.
• 차분 프라이버시: 업데이트에 잡음을 더해 개인 영향도를 제한합니다.
• 참여자 관리: 클라이언트 인증과 참여 빈도 제한.
• 의사결정 기준: 개인정보 위험이 높을수록 보호 기법을 겹겹이 쌓되 정확도 손실을 측정해 균형을 잡습니다.

※ 이 글은 학습·참고용 정리입니다. 제품 사양과 표준 개정 사항은 공식 문서에서 최신 내용을 확인하세요.