구글 지보드(Gboard) 베타 버전에 사용자가 보낼 답장 예상해 보내는 기능 추가
‘연합학습’ 통해 개인정보 서버 전송 없이 인공지능 성능 강화

[보안뉴스 이상우 기자] 구글이 자사의 키보드 앱인 지보드(Gboard) 베타 테스트 버전에서 새로운 인공지능 기능을 선보였다. 사용자의 평소 메시지 내용이나 평소 습관을 분석해 상대방이 보낸 메시지에 적절한 답장을 자동으로 추천하는 ‘스마트 답장(Smart Replies)’ 기능으로, 현재 일부 지역 및 언어에서 시험 운영 중이다.

이처럼 사용자가 입력할 답장 내용을 예측하기 위해서는 사용자가 주고 받은 메시지 내용이나 자판을 입력하는 습관 등 세부적인 개인정보를 통해 학습해야 한다. 그만큼 사용자 입장에서는 개인정보가 노출될 수 있다는 불안감이 커진다.


인공지능 성능을 높이기 위해서는 더 많은 데이터를 기반으로 학습해 모델을 개선해야 하며, 사용자 맞춤형 서비스를 제공하려면 개인정보를 어느 정도 활용할 수밖에 없다. 이는 빅데이터와 개인정보보호 사이의 딜레마다. 개인정보보호를 위해 원본 데이터에서 주요 정보를 제거하면 데이터로서의 가치가 떨어지고, 반대로 정보를 그대로 사용할 경우 사용자의 사생활이 침해될 수 있다.

하지만 구글은 이러한 인공지능 학습 과정이 스마트폰 내에서만 이뤄지며, 사용자의 실제 데이터는 서버로 전송하지 않는다고 설명했다. 앞서 언급한 것처럼 인공지능 성능 강화를 위해서는 최대한 다양한 형태의 데이터를 한 곳에 모아 학습해야 한다. 그렇다면 구글 인공지능은 어떻게 개인정보를 서버에 전송하지 않고도 인공지능 성능을 강화하고 있을까?

이는 구글이 제안한 인공지능 학습법인 ‘연합학습(Federated Learning)’을 통해 이뤄진다. 연합학습은 데이터를 한 곳에 모아 학습하는 기존 방식과 달리 사용자의 스마트폰에 탑재된 학습 알고리즘이 개인의 행동양식을 학습하며 모델을 구축 및 강화한다. 사용자가 잠든 야간에는 사용자의 데이터 대신 구축한 모델을 전송하며, 서버에서는 여러 스마트폰에서 생성된 모델을 모아 분석하고, 더 나은 성능을 낼 수 있도록 모델을 업데이트해 사용자 스마트폰으로 배포한다.


이러한 학습 과정에서 사용자의 실제 정보가 아닌, 정보를 이해하고 처리하는 방법만 공유하기 때문에 개인정보 유출 가능성 역시 적다. 구글은 이러한 학습 방식을 의사의 학술대회에 비유한다. 학회에 참석한 의사가 서로 경험한 환자의 증상이나 치료법을 공유하며 실력을 높이지만, 환자의 개인정보는 서로 공유하지 않는 것과 같은 맥락이다.

국내에서는 개인정보를 어떻게 활용할까?
4차산업혁명 시대에서 데이터는 ‘연료’라고 부를 만큼 중요한 요소지만, 활용하는 데이터가 늘어날수록 개인정보가 침해될 가능성 역시 커진다. 이에 따라 국내에서도 데이터3법 개정안을 지난 8월부터 시행하는 등 ‘가명정보’의 기준을 제시하고, 개인정보를 보호함과 동시에 산업에서 활용할 수 있는 정보를 남기기 위해 노력 중이다.

가명정보란 사람의 성명, 주민등록번호 등 개인을 식별할 수 있는 개인정보를 제거해 특별한 수단 없이는 특정 인물을 구분할 수 없도록 처리한 것을 말한다. 과거에는 기관이나 기업이 이러한 정보를 이용해 빅데이터 관련 사업을 펼칠 때 개인의 동의를 얻어야 했으나, 데이터3법 개정을 통해 가명정보를 비교적 자유롭게 이용할 수 있도록 했다. 한편으로는 개인정보를 가명처리 시 재식별 가능성을 줄이는 등의 기술적 수준을 제시하고, 이를 활용하는 기관이나 단체가 해당 정보를 적절한 범위 내에서 안전하게 이용하도록 권고하고 있다.

데이터 산업 발전을 위해 이러한 규제 완화는 필요하다. 활용할 수 있는 데이터가 많아지면 그만큼 다양한 형태의 빅데이터 기반 사업을 펼치고 연구를 진행할 수 있다. 동시에 이 과정에서 정보주체의 권리 역시 보장돼야 한다. 이러한 관점에서 인공지능 분야 선도 기업 중 하나인 구글의 연합학습 사례는 개인정보 보호와 데이터 활용에 있어 좋은 선례가 될 것으로 보인다.
[이상우 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>