AI 시대의 진정한 경쟁력, ‘얼마나 안전하고 신뢰할 수 있는 AI를 지켜내느냐’에 달려

[보안뉴스=배종찬 인사이트케이 연구소장] ‘보안’의 중요성은 날이 갈수록 더욱 커지고 있다. 아무리 시스템을 잘 갖춰놓았다고 해도 한 번 뚫리면 또는 무너지면 원래 상태로 돌아가는 것은 거의 불가능에 가깝다. 국가정보자원관리원 화재로 얼마나 큰 국가적 손실을 입었는지 뼛속까지 깊이 체감하고 있고 SK텔레콤, KT, 롯데카드 사태 등으로 기업들은 이미 혼쭐이 난 바 있다.


21세기 초반까지 보안의 중심은 주로 네트워크 보안과 데이터 보호에 있었다. 바이러스, 해킹, 피싱, 랜섬웨어 등은 기술적 침입과 정보 탈취를 중심으로 한 공격이었다. 하지만 인공지능(AI)이 산업과 사회 전반에 깊숙이 스며들면서 보안의 개념은 완전히 달라지고 있다. AI는 단순한 프로그램이 아니라 스스로 학습하고 판단하는 시스템이다. 즉, 과거의 보안이 ‘시스템을 보호’하는 것이었다면, 오늘날의 AI 보안은 ‘지능을 보호’하는 것으로 확장되고 있다. AI 보안이란, 인공지능 시스템이 오작동하거나 악용되지 않도록 보호하는 모든 기술적·윤리적·정책적 대응체계를 뜻한다.

AI 보안은 크게 세 가지 축에서 이해할 수 있다. 첫째는 AI 시스템 자체의 보안이다. AI 모델은 데이터를 기반으로 학습하기 때문에, 학습 데이터가 조작되거나 공격받으면 결과도 왜곡된다. 이를 ‘데이터 포이즈닝(Data Poisoning)’ 공격이라 한다. 예를 들어, 자율주행차의 인공지능에 도로표지판 이미지를 일부 변형해 학습시킨다면, 차량은 실제 표지판을 잘못 인식하여 사고를 일으킬 수 있다.

둘째는 AI가 보호해야 할 대상의 보안이다. AI는 이제 보안 시스템 자체에 내장되어 있다. 수많은 로그 데이터를 분석해 이상 징후를 탐지하는데 만약 AI가 공격자에 의해 속거나 교란된다면, 보안 체계는 오히려 무력화된다. 공격자가 AI를 이용해 방어 시스템을 역이용하는 ‘적대적 인공지능(Adversarial AI)’ 공격은 이미 현실화되고 있다.

셋째는 AI의 결정과 행동에 대한 보안이다. AI는 점점 더 인간의 의사결정 영역으로 들어오고 있다. 의료진 대신 질병을 진단하고, 금융기관 대신 대출을 승인하며, 법률기관 대신 판결 예측에 참여하기도 한다. 이 과정에서 AI의 판단 근거가 불투명하거나 조작될 경우, 개인의 생명·재산·명예가 막대한 피해를 입을 수 있다.

이렇게 중요한 AI 보안에 어떤 조건이 필요할까. 보안 관련 언론 매체인 <보안뉴스>가 국내 보안 분야 종사자 998명을 대상으로 진행한 설문조사 분석 결과다. ‘올해 상반기 여러 건의 보안사고 이후 관심 있게 보게 된 보안 분야는?’이라는 질문에 ‘AI 기반 보안 자동화’를 꼽은 응답자가 34%로 1위다. 이어 ‘레드팀, 모의해킹 등 오펜시브 보안’이 18%로 2위다. 오펜시브 보안은 알려지지 않은 취약점(제로데이)를 미리 진단하는 등 ‘선제적 보안’ 구현을 위한 대표적 솔루션으로 부상하고 있다. 3위는 ‘리눅스 취약점 등 오픈소스 보안’이다.


그렇다면 AI 보안에 대한 빅데이터 반응은 어떨까. 빅데이터 심층 분석 도구인 썸트렌드(SomeTrend)로 지난 10월 1일부터 14일까지 AI 보안에 대한 빅데이터 감성 연관어를 도출해 보았다.

AI 보안에 대한 빅데이터 감성 연관어는 ‘강화하다’, ‘진화하다’, ‘위협’, ‘선도하다’, ‘성장하다’, ‘신뢰’, ‘단순하다’, ‘주목받다’, ‘세계최초’, ‘회복하다’, ‘필수’, ‘한국적’, ‘높은평가’, ‘편의성제공하다’, ‘합리적요금’, ‘강세’, ‘위험’, ‘무료’, ‘관리되다’, ‘피해’, ‘충격’, ‘경쟁력강력하다’, ‘상받다’, ‘신뢰구축하다’, ‘매력있다’, ‘눈보이지않다’, ‘기대하다’, ‘신뢰하다’, ‘경고하다’, ‘입지다지다’ 등으로 나타났다(위 그림). 특히 ‘신뢰’라는 연관어에 시선이 모아진다.

결국 AI 시대의 진정한 경쟁력은 ‘얼마나 똑똑한 AI를 만드느냐’가 아니라, ‘얼마나 안전하고 신뢰할 수 있는 AI를 지켜내느냐’에 달려 있다.

[글_ 배종찬 인사이트케이 연구소장]

저자 소개_ 연세대 정치외교학과를 졸업하고 서울대 국제대학원에서 석사 학위를 받았다. 고려대 행정학과 박사과정을 수료했다. 이 외에 미국, 일본, 홍콩 등에서 연구 경험을 가지고 있다. 주된 관심은 정치시사와 경제정책인데 특히 대통령 지지율과 국정 리더십, 글로벌 경제 분석 그리고 AI 인공지능 및 블록체인 보안 이슈다. 한국교육개발원·국가경영전략연구원·한길리서치에서 근무하고 리서치앤리서치 본부장을 거친 데이터 분석 전문가다. 현재 인사이트케이 연구소장을 맡아 심층 리서치뿐 아니라 빅데이터·유튜브까지 업무영역을 확대하고 있다.

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>