검증되지 않은 AI 기술을 성급하게 도입할 때 치명적인 위험 따를 수 있어

2026년 9월, 미국 CNN 방송이 국방부 내부 소식통을 인용해 보도한 한 건의 단독 기사는 전 세계 안보 전문가들에게 커다란 충격을 던져주었다. 올 봄 이란전의 여파로 긴장이 극에 달했던 중동 해역에서 미군이 인공지능(AI)의 잘못된 판단에 속아 중국 선박을 상대로 군사 작전을 감행하기 직전까지 갔다는 사실이 뒤늦게 밝혀진 것이다.

▲이란 호르무즈 해협을 해군 함정들이 지나고 있다. [출처: 연합]

썸트렌드(SomeTrend)의 빅데이터 연관어 분석 자료(9월 17~19일)에 따르면 중심에 위치한 ‘ai오판’을 축으로 ‘미군’, ‘국방부’, ‘미국’, ‘중국’, ‘cnn’, ‘소식통’, ‘선박’, ‘작전’ 등의 키워드가 대거 도출되며 이 사건이 지닌 파급력이 얼마나 엄중한지를 잘 보여준다.

이번 사건의 발단은 미 태평양 특수작전사령부 소속 한 정보 분석관이 업무 효율을 높이기 위해 AI 챗봇 프로그램을 활용하면서 시작되었다. 해당 분석관은 중동 해역을 운항 중이던 한 중국 선박의 화물 목록 관련 정보를 인공지능 지능 시스템에 입력하고 분석을 요청했다.

그러나 해당 AI 프로그램은 공개된 정보와 미 정부가 수집한 기밀 신호 정보(SIGINT)를 종합 분석하는 과정에서 거대한 환각과 데이터 오류를 일으켰으며, 선박에 적재된 일반 화물을 핵무기 프로그램 관련 핵심 부품으로 잘못 식별하는 치명적인 오답을 내놓았다. 분석관은 AI가 출처 없이 내놓은 이 결론을 별도의 정밀 검증 절차 없이 미군의 표준 정보 보고서 양식으로 재가공하여 내부망에 배포했다.

▲‘AI 오판’ 연관어 빅데이터 분석 [출처: 인사이트케이]

보고서를 접한 미군 지휘부는 즉각 비상 작전 준비에 들어갔고, 중동 해역에서 핵 관련 물자의 이송을 좌시할 수 없었던 미군은 해당 중국 선박을 차단하고 나포하기 위해 무장 병력의 승선 준비와 공중 지원 군용기 출격까지 마친 상태였다. 다행히 작전 실행 불과 수 분 전, 당국자들이 보고서의 원천 출처를 재검토하는 과정에서 해당 결론이 AI 챗봇의 오판에 의한 전적인 허위 정보였음이 극적으로 밝혀졌으며 국방부 소식통은 자칫 전쟁이 시작될 뻔했다고 당시의 아찔했던 상황을 전했다.

이 사태는 군사 안보 영역에서 검증되지 않은 ai 기술을 성급하게 도입할 때 얼마나 치명적인 위험이 따르는지를 명백히 증명한다. 현재 미 국방부를 비롯한 주요국 군 당국은 정보 분석, 타격 표적 선정, 물류, 공급망 관리 등 군 내 다양한 업무 영역에 AI 가속화 전략을 추진하고 있으나, 군사적 속도전만을 강조한 채 안전 기준과 검증 절차를 등한시한 결과는 치명적인 사건으로 귀결될 수밖에 없다.

▲배종찬 연구소장 [출처: 인사이트케이]

특히 AI 오판과 허위 정보 제공이 야기하는 안보적 위험성은 인간의 자동화 편향과 정밀 검증 부재에서 더욱 극대화된다. 아무리 정교한 인공지능이라 하더라도 환각이나 데이터 왜곡에서 자유로울 수 없음에도, 지휘관과 분석관들이 첨단 알고리즘의 결론을 무비판적으로 신뢰하면서 AI의 오답이 검증 없이 정식 안보 보고서로 승격되는 구조적 허점이 노출되었다.

실제 중동 해역에서 미·중 간 무력 충돌이 발생했을 경우 초래되었을 파국은 수많은 인명 피해와 통제 불능의 전면전으로 이어졌을 것이다.더욱 심각한 문제는 교전 상황이 무인화되고 자동화된 지휘통제 및 정찰 시스템과 결합될 경우, 인간 지휘관이 이성적 상황 판단과 회고를 거칠 시간적 여유조차 빼앗긴 채 상호 보복 타격이 자동적으로 진행된다는 점이다.

빅데이터 분석에서 주요 연관어로 도출된 ‘핵’, ‘핵무기’, ‘전쟁’ 등의 키워드가 가리키듯 AI의 작은 오판에서 비롯된 국지적 갈등이 순식간에 핵전쟁 위협으로 비화하는 시나리오는 결코 영화 속 상상이 아니라 현실의 안보적 재앙으로 다가올 수 있다. 결국 미군의 AI 오판 사건은 군사 기술의 발전이 속도와 효율성에만 몰두할 때 어떠한 재앙이 찾아올 수 있는지를 명확히 보여준 경고장이다.

[글_ 배종찬 인사이트케이 연구소장]

연세대 정치외교학과를 졸업하고 서울대 국제대학원에서 석사 학위를 받았다. 고려대 행정학과 박사과정을 수료했다. 이 외에 미국, 일본, 홍콩 등에서 연구 경험을 가지고 있다. 주된 관심은 정치 시사와 경제정책인데 특히 대통령 지지율과 국정 리더십, 글로벌 경제 분석 그리고 AI 인공지능 및 블록체인 보안 이슈다. 한국교육개발원·국가경영전략연구원·한길리서치에서 근무하고 리서치앤리서치 본부장을 거친 데이터 분석 전문가다. 현재 인사이트케이 연구소장을 맡아 심층 리서치뿐 아니라 빅데이터·유튜브까지 업무영역을 확대하고 있다.

출처 : 보안뉴스(https://www.boannews.com)