프라이버시 보호 AI

개인 데이터를 한곳에 모으거나 그대로 드러내지 않고도 AI를 학습·활용하게 하는 기술 모음으로, 의료·금융처럼 데이터를 밖으로 내보낼 수 없거나 모델이 개인 정보를 기억하면 안 될 때 쓴다. 기술 하나를 가리키는 말이 아니라서, 무엇을 지키려는지에 따라 연합학습·차분 프라이버시 같은 기법 중에서 골라 쓴다.

연합학습: 데이터는 그 자리에, 모델만 오간다

각 병원이나 스마트폰이 자기 데이터로 모델을 조금씩 학습하면, 중앙 서버는 그 업데이트만 모아 합친다. 병원 여러 곳이 환자 데이터를 공유하지 않고 진단 모델을 함께 개선할 수 있다. 스마트폰 키보드도 입력 내용을 서버로 보내지 않고 다음 단어 추천을 개선할 수 있다.

직접 해 보려면 Flower, TensorFlow Federated 같은 오픈소스 프레임워크로 시작하면 된다. 다만 업데이트 값만 보고도 원본 데이터를 일부 추측할 수 있다. 그래서 보안 집계나 차분 프라이버시를 함께 쓰는 경우가 많다.

차분 프라이버시: 노이즈로 개인을 가린다

학습 과정에 계산된 노이즈를 섞는다. 그러면 결과만 보고는 특정 한 사람의 데이터가 들어갔는지 알기 어렵다. PyTorch에서는 Opacus, TensorFlow에서는 TensorFlow Privacy 라이브러리로 기존 학습 코드에 붙일 수 있다.

핵심 설정은 보호 강도를 나타내는 값인 엡실론이다. 작게 잡을수록 보호가 강해지지만, 노이즈가 커져 정확도가 떨어진다. 사용자 행동 로그나 채팅 기록처럼 모델이 외웠다가 그대로 내뱉으면 안 되는 데이터에 특히 쓸모 있다.

공짜는 아니다: 정확도·속도와 맞바꾼다

대부분의 기법은 성능이나 비용을 내주고 보호를 얻는다. 민감 정보가 없고 데이터를 합법적으로 한곳에 모을 수 있다면 굳이 쓸 필요가 없다. 반대로 이런 기법을 쓴다고 개인정보 관련 법적 의무가 저절로 해결되지도 않는다.

현실적인 순서는 이렇다. 먼저 가명 처리, 필요한 데이터만 모으기 같은 기본 조치를 한다. 그래도 남는 위험이 있을 때 거기에 맞는 기법을 고른다.

기기 안, 기관 사이, 클라우드에서 주로 쓴다

가장 흔한 쓰임은 원본 데이터를 옮기지 않고 학습하는 것이다. 데이터가 어디에 있고 누구에게 보여주면 안 되는지에 따라 쓰는 기법이 달라진다.