지능형과 스마트의 시대, 인공지능은 과연 안전할까?

[시큐리티월드 문가용] 기계의 지능이 고도로 발달해 인간과의 관계가 역전되는 상상은 많은 창작자들을 자극해왔다. 하지만 그 상상을 현실감 있게 받아들이기에는 우리가 아는 기계들이 아직도 원시적이기에 그 상상력은 엔터테인먼트 용도만 가졌을 뿐이었다.

그러나 인공지능이 위험하다는 말이 빌 게이츠나 스티븐 호킹, 엘론 머스크 같은 사람들의 입에서 나왔을 때는 마냥 웃을 수만은 없게 된다. ‘지능형’이니 ‘스마트’니 하는 말들이 기계와 결합하는 때, 우리는 지금 어디로 가고 있는가.

\n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n
비록 시리즈가 진행되면서 영화 질이 급격히 하락하긴 했지만 영화 ‘매트릭스’가 준 충격은 영화사에 분명한 획을 그을 정도로 적지 않았다.

인간의 지능 이상으로 지능이 발달한 기계가 인간을 정복한다는 설정 자체야 새로울 것도 없었지만, 그 기계들이 인간이 정복당했다는 사실을 망각시키기 위해 태어나서 죽을 때까지 꿈만 꾸게 한다는 세계관은 영화관을 나오는 관객들에게 ‘혹시 이것도 꿈이 아닐까’라는 의심을 품게 할 정도로 그럴 듯했기 때문이다.

게다가 처음 매트릭스가 나온 90년대 말~2000년대 초반은 지금의 모바일처럼 인터넷과 PC라는 것이 본격적으로 모든 사람의 삶에 무섭게 치고 들어오던 시기이기도 했다. 즉 인간의 기술발전이라는 것에 대한 자신감이 알게 모르게 정서 속에 자리 잡았던 때였다는 것이다.

대중의 문화 속에서 - 그것이 영화든 소설이든 - 인공지능이란 대체로 공포를 조장하는 상상의 소재였다. ‘스스로 학습하고 배울 줄 아는 기계가 기어이 인간을 넘어 세상을 지배할 것’이라는 조금은 허황되어 보이는 시나리오부터 ‘어느 날부터는 기계가 인간의 노동력을 대신해 실업률이 높아질 것’이라는 보다 현실적인 내용까지, 지난 60여 년간 인공지능을 열심히 탐구해온 것과 달리 우리의 마음 한 구석은 항상 ‘지배를 당할 것’이라는 공포에 열려 있었던 것이다.

초창기의 인공지능, 과도한 자신감
하지만 처음부터 인공지능이 공포의 분야였던 건 아니다.

1950년대 중반, 처음 인공지능이라는 분야가 생겼을 때 과학자들의 목표는 인간보다 더 잘 이해하고 문제를 해결하는 지능을 보유한 존재를 창조하는 거였다.

스스로 발전할 줄 아는 기계에 대한 열망도 이때부터 진즉에 생겼다.

활기차고 희망이 넘쳤다. 당시 인공지능 분야의 개척자들은 수년 안에 이런 꿈을 이룰 수 있을 거라고 믿었다. 노벨상 수상자인 허버트 시먼(Herbert A. Simon)은 57년 당시 “이미 지적인 기계와 같이 살아가는 시대가 왔다”고 자신 있게 발표했을 정도였다.

당시 그는 “게다가 이 분야의 발전이 놀라울 정도로 빠르며, 곧 인간의 사회적인 역할을 모두 장악할지 모르니 단단히 준비를 해야 할 것”이라고 경고했다. 하지만 이는 공포감에서 비롯된 것이라기보다 자신감의 표현에 더 가까운 것이었다.

세상을 깜짝 놀라게 했던 시몬의 발언은 랜드 연구소의 연구원이었던 앨런 뉴웰(Allen Newell)의 동참으로 더 힘을 받았다. 둘은 일반 문제 해결자(General Problem Solver)라는 컴퓨터 프로그램을 만들기에 온 힘을 기울였다.

성공만하면 어떠한 문제라도 인간보다 쉽고 빠르게 해결할 수 있는 지능의 시초가 될 것이라고 굳게 믿었다. 실제로 성과가 없던 것도 아니었다.

50년대 초반만 해도 ‘컴퓨터가 사람을 상대로 체스를 둔다’는 것에 코웃음을 치는 게 일반적인 반응이었는데 시몬과 뉴웰이 자신감을 가지고 일반 문제 해결자의 개발을 시작한 57년에는 그것이 실제로 가능해졌다. 러시아 문장을 영어로 자동 번역해주는 알고리즘도 개발됐다.

심지어 수학 이론을 증명하는 것도 가능해졌다. 10년도 채 걸리지 않은 놀라운 성과를 생각하면 이들이 인공지능에 대해 넘치는 자신감을 가지고 있었던 것도 이해가 간다. 심지어 프린스턴 대학의 수학교수였던 존 맥카시(John McCarthy)는 이런 빠른 발전 속도에 “가까운 미래에 엄청난 혁신을 볼 것 같다”고 전망하기도 했었을 정도다.

그리고 그 다음은 우리가 잘 아는 바 그대로다. 도서관에 일렬로 가지런히 앉아 공부하고 있는 건 지능을 탑재한 컴퓨터나 로봇이 아니라 쉽게 도달할 줄 알았던 인공지능의 꿈이 생각보다 멀었다는 걸 자각한 과학자들이었다. 인공지능의 계발이 진행되어 온 60여 년 동안 우리가 기계에게 심어주려고 했던 ‘지능’을 우리 자신도 이해하고 있지 못하다는 것만 아프게 깨달았을 뿐이었다.

문제를 조금 더 빨리 푼다고 해서, 신경을 통해 정보가 조금 더 빨리 전달된다고 해서 위대한 지적 존재가 되는 게 아니었다. 시몬과 뉴웰도 ‘어, 이게 아닌데’하고 한 발 물러섰다.

일반 문제 해결자가 시몬과 뉴웰의 꿈을 이룰 수 없었던 이유는 기계에게 문제를 제공할 때 일정하게 규격화된 형식으로 ‘번역’해서 입력해야 했기 때문이다. 즉 풀어야 할 문제를 기계가 이해할 수 있도록 하는 ‘사람의’ 중간과정이 반드시 필요했고, 이를 해결할 궁극의 방법은 아직까지도 존재하지 않는다. 있어도 굉장히 한정적이다.

인공지능, 파트너가 되다
이때로부터 먼 훗날인 1976년 예일대학의 드류 맥더못(Drew McDermott) 교수는 시몬과 뉴웰의 일반 문제 해결자를 두고 ‘문제를 해결하는 데에 특별히 어리석은 프로그램’이라고 조롱했다.

하등의 도움도 되지 않을뿐더러 오히려 방해만 된다는 거였다. “이 프로그램 때문에 인공지능이란 분야가 엉뚱한 곳에 집중하느라 너무나 긴 시간을 방해했다”는 게 그 이유였다.

실패의 원인을 맥더못 교수는 “지능을 단순히 문제를 해결하는 추론 능력으로만 이해했기 때문”이라고 말했다.

즉 위에서 언급한 대로 ‘지능 자체에 대한 이해 부족’이 성급한 인공지능에의 자신감에 찬물을 끼얹었다는 것. 그렇다면 지능이란 어디에 있는 것일까? 그때부터 과학자들은 문제 해결 능력을 제쳐두고 ‘지식(Knowledge)’에 기반을 둔 추론 능력을 탐구하기 시작했다.

그래서 70년대에 등장한 것이 더글러스 레나트(Douglas Lenat)의 학습 프로그램인 ‘유리스코(EURISKO)’다. 유리스코는 인간과의 대결에서 수차례 이기며, 드디어 인간 위에 군림하는 듯 했다. 일반 문제 해결자가 유연성 부족으로 실패한데 반해 유리스코는 유연했다. 새로운 정보를 덧붙이고 수정하고 지우는 게 가능했다. 즉 지식을 늘려가는 데에 적합했던 것이다.

게다가 규칙마저 스스로 생성할 줄 알아 기계로서는 나름의 ‘창의력’을 구현하기도 했다. 레나트는 유리스코를 실험해보기 위해 TCS라는 워게임을 실행했다.

유리스코가 한 번도 접해보지 못한 것이었다. 사실 레나트 자신도 마찬가지였다. 레나트는 TCS의 규칙을 유리스코에 입력했고, 워게임에 능숙한 인간 상대와 맞붙였다.

처음 상대들은 유리스코의 게임 운영에 박장대소했다. 그러나 게임이 진행될수록 웃음은 사그라졌고 결국 유리스코가 모든 이들을 제치고 게임의 승자가 되었다. 게임을 진행하며 스스로 규칙을 익히고 새롭게 만들어낸 것이다. 실제 유리스코는 해당 워게임 전국 토너먼트에서 수차례 우승을 거머쥐었다.

하지만 이를 좀 더 자세히 들여다보면 인공지능의 온전한 승리이자 성취라고 보기 힘든 구석이 있다. 인간이 개입했기 때문이다. 게임 초반, 유리스코가 두는 여러 수들은 웃음을 유발할 정도로 어처구니없는 것들이었다.

게다가 유리스코는 좋은 수와 나쁜 수를 분간할 능력이 없었다. 규칙만 입력해놓은 상태의 유리스코에게는 좋고 나쁜 것, 새로운 전략 등을 만들어 낼 지능이 없었기 때문이다.

이는 결국 수백, 수천 번의 게임 실행을 하면서 인간의 ‘피드백’이 쌓여가면서 해결이 됐다. 결국 인간이 코칭을 해주었기 때문에 가능했다는 거다.

레나트 자신도 “우승의 공로를 따지자면 유리스코가 40%, 내가 60%”라고 했을 정도다. 그렇다면 유리스코 역시 인공지능의 역사에서 실패로 인식되고 있을까? 일단 레나트는 “인공지능이 단독으로 우승을 못했다는 게 중요한 사실이 아니다.

나나 유리스코 혼자서는 절대 이룰 수 없을 공적을 둘이 함께 이루어냈다는 게 이 실험의 핵심이다”라고 했다. 지배자로서의 인공지능이 아니라 파트너로서의 인공지능을 발견해낸 것.

\n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n
80년대, 뇌 따라 하기
그러나 그것이 어떤 큰 의미가 있었던 건 아니다. 오히려 유리스코의 기술적인 실패로 인해 ‘지능은 지식에 있다’는 가설이 버려졌다. 문제 해결 능력에 의한 추론도 아니고, 지식도 아니고, 그렇다면 우리의 머릿속에 있는 이 ‘지능’이란 도대체 어떻게 이식해야 하는 것일까?

당시의 상황에 대해서 구글의 리서치 책임자인 피터 노빅(Peter Norvig)은 “지식이 아무리 많다 한들, 그것이 난제를 푸는 데에는 전혀 도움이 되지 않는 법”이라며 “지금에 와서 보자면 지식에 기반을 둔 지능을 추구한 건 결과적으로나 수학적으로 매우 잘못된 방향”이었다고 평한다.

두 차례 잘못된 가설을 뒤집고 80년대 후반부터 등장한 건 ‘신경망 분석’이란 개념이었다.

마치 거대한 쇳덩이를 띄우기 위해 비행기가 새의 모양을 본떠 만들어졌듯, 쇳덩이가 생각하게 하기 위해서는 인간의 뇌 구조를 본떠야 한다는 생각에 이른 것이다. 기계로 뇌를 따라 만들기 시작하자 인공지능에 대한 공포감은 늘면 늘었지 결코 줄어들지 않았다.

당시 만들어진 영화 ‘블레이드 러너’나 소설 ‘뉴로멘서’ 등으로 볼 수 있듯이 말이다.

하지만 그런 대중 혹은 창작자들의 공포어린 상상력은 진지하게 받아들여지지 않았다. 50년대나 70년대와 달리 과학과 엔지니어링이 이미 일상에 깊숙이 들어와 버려 ‘인공지능이 지배하는 시대’에 대한 우려를 그저 ‘재미있지만 비현실적인 상상’으로 이해할 수 있게 만들었기 때문이다.

게다가 90년대와 2000년대 초반까지의 눈부신 기술 발전으로 만들어진 강력한 컴퓨터의 등장으로 인공지능은 ‘무인 운전’이 가능한 수준에까지 도달했다. 이런 때를 거치며 인공지능은 이제 공포감보다 기대감을 더 많이 불러일으키는 것이 되었다.

새로운 분야, 새로운 용어
공포의 극복은 알게 모르게 자신감으로 이어졌고, 이에 ‘지능’이라는 단어는 온갖 다른 분야에서 여러 합성어로 사용되기 시작했다.

물리보안 분야에서는 지능형 CCTV, 지능형 영상분석이 나오고 있고, 정보보안 분야에서는 신경망 분석이란 개념이 꾸준히 발전하여 현재는 딥 러닝(Deep Learning)이나 머신 러닝(Machine Learning)이라는 새로운 용어를 낳기까지 했다.

이는 소프트웨어가 스스로 위험 요소들이 갖는 패턴을 익히게끔 해, 사람이 일일이 방어할 수 없는 부분까지 스스로 방어할 수 있도록 하는 데 목적을 가진 개념이다.

즉 사이보그나 로봇이 사람처럼 움직이고 행동하는 게 아니라 워크스테이션 안에 들어있는 소프트웨어 하나하나에 지능을 심어주려는 데까지 온 것이다. 그리고 게임 우승 파트너인 유리스코의 업적인지, ‘지능’이 붙은 새로운 기계 혹은 툴들의 등장에 거부감을 갖는 이들은 거의 없다.

오히려 더 안전하기 위해서, 더 쾌적하기 위해서, 더 편리하기 위해서 지능형 솔루션들을 찾는 게 요즘의 소비자들이다.

최근 딥 러닝은 전혀 사전지식이나 규칙 입력 없이 아타리(Atari) 사의 컴퓨터 게임을 익히고 능숙하게 조작하기까지 했고, 이는 유튜브를 통해 전 세계에 공개되기도 했다.

프로그램이 다른 프로그램의 조작법을 스스로 익힌 것이다. 그것도 인간으로서는 따라할 수 없는 정도의 속도로 말이다. 해당 영상은 www.youtube.com/watch?v=V1eYniJ0Rnk에서 접할 수 있다.

그런데 이 영상이 오히려 인공지능을 바라보는 사람들의 마음에 공포심이란 불을 다시 지폈다. 테슬라 모터스의 엘론 머스크(Elon Musk)와 같은 업계 지도자급 되는 인물과 스티븐 호킹(Stephen Hawking)이라는 위대한 과학자들이 경고의 메시지를 내보내기 시작했다.

엘론 머스크는 트위터를 통해 “인공지능의 발전에 조심할 필요가 있다.

핵 보다 더 큰 위험성을 내포한 것으로 보인다”라고 했으며, 스티븐 호킹은 “완벽한 인공지능의 개발은 곧 인류의 종말일 수도 있겠다”고까지 했다. 머스크는 스스로 천만 달러를 ‘안전한 인공지능’을 연구 중인 기관에 기부하기도 했다. 빌 게이츠(Bill Gates) 역시 “엘론의 말에 동의한다.

왜 아무도 인공지능을 낙관적으로 보는 지 이해하지 어렵다”고 했다.

과학과 기술에 대한 이해가 평균을 훨씬 웃도는 이들이 이런 공포감을 내비치는 데에는 어떤 이유가 있는 걸까? 정말 인공지능은 미래의 어느 날 인간의 천적이 될까?

이를 착하게 길들여 놓는 게 가능할까? 해외 과학 및 기술 매체인 불레틴 오브 아토믹 사이언티스트(Bulletin of the Atomic Scientists)에서는 인공지능을 다룬 기사의 끝에 다음과 같은 결론을 내리고 있다. “위험의 가능성은 분명이 내포되어 있다.

또한 기계는 원시의 인공지능 기술로도 인간을 이겨온 전적이 있다. 그러나 당분간은 그런 위험이 발휘되지는 않을 가능성이 훨씬 크다. 아직 기계들이 우리의 일자리를 빼앗거나 우리를 종으로 삼을 이유 또한 없기 때문이다.

심지어 기계가 우리와 생존의 싸움을 시작하지도 않았고, 그렇기에 우리보다 더 똑똑해질 동기도 부재한다. 현재 우리가 가지고 있는 인공지능 기술이란 그저 예전 기술을 더 빠르게 만드는 기능만을 가졌을 뿐이다.”

[글 시큐리티월드 문가용 기자(sw@infothe.com)]

[월간 시큐리티월드 통권 224호 (sw@infothe.com)]

<저작권자 : (http://www.securityworldmag.co.kr) 무단전재-재배포금지>