인공지능 서비스가 성공하려면 빅데이터, 인간 경험, 그리고 이에 기반한 국가·기업 전략 필요
인공지능 시대, 해킹 등 사이버공격 더욱 기승...체계적·종합적으로 판단해 사회적 성숙 이뤄야

[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 1590년 3월 조선은 일본의 실력자 도요토미 히데요시에게 일본 전국 통일을 축하해준다는 명목으로 통신사를 보냈다. 통신사의 정사는 서인이었던 정사 황윤길, 부사는 동인이었던 김성일이었다. 1여 년간 일본에 체류하면서 그들은 일본의 전쟁준비 상황 등 여러 정보를 수집했다. 조선으로 돌아온 황윤길과 김성일은 선조 임금에게 자신들이 보고 들은 걸 소상히 알렸다.

황윤길은 “필시 전쟁이 있을 것이며, 도요토미 히데요시의 눈빛이 반짝반짝해 담과 지략이 있는 사람인 듯 했습니다”라고 보고했다. 일본의 대규모 침공이 있을 것이니 전쟁 준비에 만전을 기해야 한다는 것이었다. 하지만 김성일은 “그러한 정황은 발견하지 못했는데, 황윤길이 장황하게 아뢰어 민심이 동요되게 하니 사의에 매우 어긋납니다. 도요토미 히데요시의 눈은 쥐와 같으니 족히 두려워할 위인이 못 됩니다”라면서 일본을 너무 두려워 할 필요가 없다고 보고했다. 왜 그들은 하나의 현상을 바라보면서 서로 상반된 생각을 했을까?


사실, 인공지능을 설계할 때에는 왜곡되지 않은 정보가 중요하다. 그런데 ‘왜곡’은 내 시각에서 바라봤을 때의 차이다. 그러므로 내 판단이 잘못되었다면 왜곡이라고 보지 않는다. 결국 정보는 그것을 판단하는 인공지능을 누가 학습시켰느냐에 따라서 다르게 나타난다. 그러니까 입력된 정보의 질과 수준에 따라 인공지능이 똑똑한지 멍청한지가 판가름 나는 것이다. 실제로 인공지능은 훈련 받은 대로 행동하므로 잘못이 없다. 인공지능에게 훈련 받은 것 이상의 결과를 얻고자 하는 바람은 욕심에 불과하다. 인공지능이 정보를 입력하고 훈련시킨 주체는 인간이기 때문이다.

또한, 정보가 아무리 정확하더라도 시간이 흐르면서 그렇지 않게 될 수도 있다. 마치 음식이 부패하듯이 말이다. 그러니까 자연 환경의 변화에 따라, 시대의 흐름에 따라 변할 수 있는 것이 정보다. 즉, 중간 단계에 너무 많은 변수(예상치 못한 상황)가 존재하는 것이다. 예를 들어, 일본군이 출발하기 직전에 도요토미 히데요시가 사망한다면? 그랬다면 우리가 아는 결과는 임진왜란은 아예 일어나지도 않았을 것이라는 점이다. 결국 인간이 아무리 정확한 정보를 인공지능에 주더라도 기댓값이 높아질 뿐이지, 그것이 ‘참(true)’일 수 없다. 그래서 일부 회의론자들은 “다양한 변수로 인해 인공지능은 인간의 영역을 결코 넘을 수 없다”고 단언한다.

이와 반대로 인공지능에 너무 예민하게 대응하는 경우도 발생한다. 사실, 새로운 기술이나 서비스의 출현으로 인한 사회적 파장과 변화는 예나 지금이나 불가피한 사회적 현상이다. 심지어 이로 인해 내전 같은 상황이 벌어지기도 했다. 산업혁명이 본격화되던 19세기 초반에 영국 등에서 노동자들과 농민들이 재봉틀, 방직기, 곡식 수확기 등을 파괴하던 활동을 보라. 이 또한 기존 산업과 새로운 산업의 충돌이었다. 이러한 사태의 가장 큰 원인은 “내 밥그릇이 없어질 수 있다!”는 우려였다.

필자는 기계를 파괴하던 자들이 새로운 문물을 터부시하거나 시대적 변화에 둔감했다고 생각하지는 않는다. 그들은 자신들이 애써 가꾸고 이룬 업적과 성취가 새로운 기술·서비스로 인해 한순간에 물거품이 되면서 사라지는 것을 인정하고 싶지 않았던 것이다. 이러한 상황은 오늘날에도 나타나고 있다. 2014~2015년경에 심각한 사회적 이슈였던 우버(Uber)나 타다의 사례를 보라. 외국에서는 일상화된 이러한 탈것 공유 서비스가 한국에서는 유독 논란의 중심이 된 이유는 결국 기존 택시 산업과의 시장이 겹치기 때문이다.

택시 사업자와 운전기사의 입장에서 보면 공유 서비스는 그들의 생존을 위협한다. 하지만 새로운 서비스를 제공하는 입장에서 보면 이 또한 새로운 일자리의 창출이다. 물론 기존 산업에 소속된 노동자가 자연스럽게 새로운 산업으로 이동하면 좋겠지만, 현실은 그렇지 않다. 결국 택시 산업에 종사하던 노동자들은 새로운 기술에 적응하지 못해 그냥 소멸당할 뿐이다. 물론 재교육이 이루어질 수 있지만, 기존에 안정적으로 보장받던 급여를 받을 수 있으리라고 아무도 보장해주지 않기에 새로운 서비스를 거부하는 것이다.

이러한 변화는 비단 공유 서비스만의 문제가 아니다. CCTV가 경비원의 업무를 대체하고, 음성 인식기가 번역사의 일자리를 위협하고 있다. 더구나 코로나19 사태로 인해 비대면·비접촉이 일상화되면서 기술의 발전을 가속화시켜 다수의 직업 앞날까지 좌우하고 있다. 여행·외식·공연 등 오프라인 관련 직종은 타격을 입는 데 반해, 원격·화상·통신·네트워크·동영상 등 온라인 관련 분야는 호황을 맞고 있다. 이에 따라 인공지능에 대한 관심과 수요도 그야말로 폭발적으로 증가하고 있다.

실제로 과거의 기술과는 달리 인공지능은 이미 우리 주변에 전 방위로 녹아들어가는 중이다. 아이들의 교육 프로그램이나 장난감도 인공지능을 기반으로 했다고 홍보하는 것을 보라. 결국 인공지능 관련 기술이 부족한 기업이나 노동자는 “가뜩이나 먹고 살기도 빠듯한데, 인공지능마저 사람의 직업을 빼앗으려 한다”며 불편해한다. 심지어 의료·금융·법률 등 일부 전문직 종사자들도 자신들의 영역이 인공지능에 침해당하는 것은 아닐지 불안해한다. 그러니 이렇듯 인공지능을 곱게 볼 수 없는 사람들을 위해서 무엇을 어떻게 해줄 것인지를 심각하게 고민해야 한다.

사실, 인공지능은 어지간한 법률가나 의사, 투자 전문가보다 더 정확하게 파악하고 명쾌하게 처방한다. 물론 사람이 할 때처럼 오차가 발생할 수도 있고, 새로운 판례나 질병, 민감한 사항을 고려하지 못하는 경우도 있겠지만, 그렇다고 해서 신뢰하지 못하는 수준은 아니다. 그래서 앞으로는 법원에 가기 전에, 병원을 찾기 전에, 투자를 하기 전에 인공지능으로 사전에 조사·분석해보는 게 일상화될 것이다.

물론 인공지능이 만능은 아니다. 아니, 생각보다 허약하다. 인공지능은 인간보다 더 빨리 노화하고, 인간에게서 쉽게 외면당한다. 처음에는 혹하고 관심을 끌다가도 얼마 못 가 서랍 속에 들어가거나 전원이 꺼진 채 폐기처분된다. 갈수록 복잡해지다보니 쉽게 바이러스에 감염되어 이상증세를 보일 수도 있다. 그러니 인공지능이 상황에 따라서 유연하게 변화할 수 있도록 해야 한다. 즉, 인공지능 서비스가 성공하려면 빅데이터(Big Data), 인간의 경험, 그리고 이를 기반으로 하는 국가와 기업의 전략이 필요하다. 빅데이터와 인간의 경험은 지금까지 많이 언급했기에 생략하고, 여기서는 국가와 기업의 전략에 대해서만 다루겠다.

다시 임진왜란으로 돌아가자. 필자는 당시 조선의 기술 수준이 일본보다 낮았다고 보지는 않는다. 일본은 개인화기인 조총이 있었다지만, 당시 화기 관련 기술은 조선이 일본보다 뛰어났다. 이순신 장군이 해전에서 일본군을 격파할 수 있었던 이유 중 하나로 우리 거북선에 장착된 화포와 질 좋은 화약이다. 조선이 당파싸움만 했을 뿐 전쟁준비를 하지 않았다는 것도 사실이 아니다. 당시 조선도 성곽을 보수하고 무기를 확보했다.

하지만 일본의 전쟁 의지를 꺾을 수 있을 만큼의 준비를 못했다. 전쟁이 날지 안 날지 모르는 상황에서 백성들을 부역시킬 수는 없었기 때문이었다. 또한, 조선이 충분한 군사력을 확보한다는 것도 명나라의 의심을 살 만한 일이었다. 이와 반대로 일본은 20만 대군을 확보했다. 조선은 주요 거래처였던 쓰시마 섬을 통해 전쟁 전에 조총을 입수했지만, “별로 대단한 무기는 아니다”라는 판단을 내렸었다. 총구에 화약과 총알을 넣고 심지에 불을 붙인 후 상대방을 향해 겨냥하고 있다가 방아쇠를 당긴 뒤 다시 이를 반복하는데 최소 2~3분이 소요됐기 때문이다. 문제는 조선군이 조총의 이러한 특성에 주목하여 처음부터 치고 빠지는 전투 방식을 택했다면 일방적으로 당하지는 않았으리라. 즉, 적의 문제점이 무엇이고 어떻게 대응해야 할지를 정밀하게 파악·분석한다면 효과적으로 대비할 수 있다. 물론 기초 체력도 튼튼히 길러두어야 하고 말이다. 그러니까 기술력도 앞서야 하고, 국민 모두가 정신적으로 무장되어 있어야 한다.

이렇듯 임진왜란을 통해 전략의 중요성을 깨달을 수 있었다. 즉, 인공지능 관련 분야를 육성․성장시키려면 인공지능의 도입․발전으로 인해 소외될 계층을 배려하기 위한 정책을 마련하고, 인공지능의 결함을 해결할 방법도 미리 마련해야 한다. 인공지능으로 인해 새로운 사회적 문제와 혼란이 더해지는 것은 바람직하지 않지 않다.

인공지능이 인간이 만든 것 중에서 최고의 도구가 될 수 있도록, 어떻게 활용하고 지속적으로 안전하게 향상시킬지를 모두의 공감과 합의를 바탕으로 모색해야 한다. 신은 인간이 너무 오만하지 않게 하려고 자식을 낳게 하고, 그 자식으로 하여금 이 세상에서 자신의 뜻대로 되지 않는 것이 있다는 사실을 깨닫게 했다고 한다. 인공지능 역시 인간이 아무리 똑똑하게 만들더라도 결국 결함이 있을 것이다. 그 결함 덕분에 인간은 반성하면서 겸손해질 것이다. 그 반성과 겸손을 사이버보안으로 승화시켜 나가야 하지 않을까?

앞으로의 인공지능 시대에는 해킹과 같은 사이버공격이 더더욱 기승을 부릴 것이다. 그 공격으로 인해 많은 피해와 고통이 뒤따를 것이다. 물론 그 상황을 지혜롭게 분석해 앞으로는 피해가 발생하지 않도록 해야 할 것이다. 즉, 체계적·종합적으로 판단하고 이와 비슷한 사태에 대응할 수 있도록 사회적 성숙을 이루어야 한다. 두려워할 필요 없다. 오히려 사이버공격에 대해 유연하게 판단하고 슬기롭게 해결한다면 인간은 인공지능과 함께 인간의 영역을 넘어 신의 영역으로 한층 다가설 것이다.

그동안 <스토리텔링으로 이해하는 인공지능(AI) 보안>에 많은 관심과 성원을 보내주신 애독자 분들께 진심으로 감사드리고 싶다. 아울러 안전한 인공지능 기술 개발로 세상이 더욱 편리하고 행복해지도록 우리 모두가 머리를 맞대고 함께할 수 있기를 기원한다.
[글_ 김주원 사이버보안 분야 칼럼리스트]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>