(128 관리 3-6) 연합학습의 보안 및 프라이버시 보장형 기술

개인정보 보호를 위한 분산 인공지능(AI, Artificial Intelligence) 학습 모델인
연합학습 (Federated Learning)에 대하여 아래 사항을 설명하시오.

가. 연합학습의 동작 원리
나. 연합학습의 주요 알고리즘
다. 연합학습의 보안 및 프라이버시 보장형 기술

 

멘토링

실제 시험을 봤다면 이 문제는 선택하지 않았을 겁니다. 
제 전공이 AI 도 아니고, 선택해서 푼다해도 고득점을 예상하기 어려웠을 듯 합니다.

그러나, 연합학습에 대한 세부 내용은 잘 모를수 있어도,
관련 주요 용어에 대해서는 개념을 확실히 잡고 넘어가야 합니다. 

주요 용어들은 1교시형으로 충분히 언제든지 나올수 있다고 생각합니다.

특히 보안 및 프라이버시 보장형 기술에 동형 암호가 있는데,
125회 정보관리기술사 1교시에 출제된바 있습니다.

차등정보보호, 동형암호, 안전한 다자간 계산에 대해 개념만이라도 확실히 정리하기를 
권고 드립니다.

행복한 일상 되세요.

 

차동안
차등정보보호, 동형암호, 안전한 다자간 계산

최근 연구에 따르면 앞서 설명한 연합학습 알고리즘만으로는

프라이버시 보호로부터 완전히 자유로울 수는 없다는 사실들이 증명되고 있다.

 

연합학습이 가진 이러한 프라이버시 및 보안 문제를 해결하기 위해 최근 다양한 알고리즘 연구가 진행되고 있다.

프라이버시 보장형 연합학습(Privacy-Preserving FL),

보안 연합학습(Secure  FL),

보안 및 프라이버시 보장형 연합학습(Secure  and Privacy-Preserving FL) 등 대표적이다.

 

기존 연합학습 과정에 다른 알고리즘을 추가 적용하여 프라이버시와 보안을 강화하려는 시도다.

이와 관련하여

차등정보보호 (Differential  Privacy),  

동형암호(Homomorphic  Encryption),  

안전한 다자간 계산 (Secure Multi-Party Computation) 등이 최근 주목받고 있다.  

 

각각의  개념과  연합 학습 적용 방안에 대해 살펴보면 다음과 같다.

 

『 차등정보보호(Differential Privacy) 』

 

차등정보보호는 원래의 데이터에 수학적 노이즈를 추가하여 프라이버시 노출 위험을 낮추려는 기술이다.  

 

차등정보보호란 주어진 질의(query)를 하나의 개인정보만 차이가 있는 두 개의 데이터베이스에 적용했을 때, 질의 결과의 차이를 제어함으로써 해당 개인정보에 대한 노출 위험을 제한할 수 있다는 것이다.

 

차등정보보호 기술은 FedSDG, FedAVG 등 연합학습 알고리즘을 사용하여 단말에서 학습한 결과값을 서버로 전달하는 과정에 적용된다. 즉, 파라미터에 노이즈를 줘서 프라이버시 노출을 방지하려는 것이다.

 

『 동형암호 (Homomorphic Encryption) 』

 

동형암호는 암호화된 데이터를 복호화 없이도 연산할 수 있는 암호기술이다.

즉, 평문을 암호화한 상태에서 각종 연산을 했을 때, 그 결과가 암호화하지 않은 상태의 연산 결과와 동일하게 나오는 암호 알고리즘이다. 

 

FedSDG, FedAVG 등 연합학습 알고리즘은 동형암호를 추가 사용함으로써 보안성 을 한층 강화할 수 있다.

즉, 그림과 같이 엣지 단말에서 학습한 결과값의 동형암호 화한 값을 서버로 전달하면, 서버는 암호화한 값에 대한 합을 구한 후 복호화하여 사용할 수 있다.

 

『 안전한 다자간 계산 (Secure Multi-Party Computation) 』

 

다자간 계산은 동형암호와 경쟁적인 알고리즘이다. 

다자간 계산 알고리즘은 동형암호와 유사하게

각 단말에서 서버로 전달하는 원래의 값을 노출하지 않으면서 전체 합을 알 수 있도록 하는 방법이다. 

즉, 다수의 사용자가 각자의 비밀값을 입력값으로 하여 함수값을 함께 계산하는 기술로서 

관련 개념은 1982년에 양자간 계산으로 제안되었고  이후  다자간  계산으로  발전했다.  

 

연합학습에 사용되는 가장 대표적인 다자간 계산 알고리즘으로 Secure Aggregation이 있다.

이는 보안성과 프라이버시를 강화하면서 서버에 대한 공격에도 강인한 방법을 포함하고 있다.

 

참고 자료

 

한국전자통신연구원 전자도서관 (etri.re.kr)

한국전자통신연구원 전자도서관

연합학습 기술 동향 및 산업적 시사점

 

상세한 내용은 원본을 참조해 주시기 바랍니다. 

 

행복한 일상 되세요.