AI 블루팀 이끈 김선우 소령, “실험실 넘어 실제 현장 적용할 수 있는 초저지연 가드레일 고도화”
국가사이버안보센터, AI 블루팀 ‘프로젝트 팔랑크스’ 개발 주도... 다국적 연합 훈련 참여
자동화된 병렬 작업과 로컬 LLM 기반 실시간 복구 체계 실증

“사이버 공격은 날로 지능화되는데, 사람이 일일이 로그를 들여다보며 대응하는 기존 방식은 이미 한계에 이르렀습니다. 이제 방어의 유일한 해법은 인공지능(AI)을 통한 전 과정의 완전 자동화뿐입니다.”

▲ APEX에서 AI 블루팀 총괄을 맡은 국가사이버안보센터 김선우 정책관 (국방부 소령) [출처: 보안뉴스]

서울 코엑스에서 개최된 글로벌 사이버 안보 행사 CSK 2026의 부대행사로 열린 국제 사이버 훈련 ‘APEX(Allied Power Exercise) 2026’은 세계 보안 전문가들에게 큰 충격을 안겼다. 특히 이번 훈련에서 세계 최초로 실전 검증한 자율형 AI 방어팀 ‘프로젝트 팔랑크스’(Project Phalanx)가 주목받았다.

다국적 정예 요원들이 모인 치열한 실전 방어 전투의 최전선에서, AI 블루팀 총괄을 맡은 국가사이버안보센터 김선우 정책관을 만나 자율형 AI 방어 체계의 실체와 의미를 들여다봤다.

‘사일로’를 부수고 ‘완전 자동화’ 향한 도약

국방부 소속으로 국가사이버안보센터에 파견 근무 중인 김선우 소령은 10여년간 사이버보안 및 침해사고 조사를 이끌어온 베테랑이다. 그는 해외 사이버 훈련에 참여하며 쌓은 경험이 AI 기반 자동화 방어를 기획하는 동기가 됐다. 

김 소령은 “해외 유수의 훈련에 참여하며 느낀 것은 사람이 수동으로 개입하는 속도로는 밀려오는 지능형 위협을 절대 감당할 수 없다는 점이었다”며 “마침 APEX라는 모의전 플랫폼이 있었기에, 설령 시스템이 망가지더라도 마음껏 실패하며 한계를 시험할 수 있다는 믿음으로 AI 방어팀 도입을 제안했다”고 말했다.

이번 훈련에서 AI 블루팀은 8개 다국적 연합팀과 어깨를 나란히 하며 놀라운 성과를 거뒀다. 핵심은 ‘병렬성과 전문성’에 있었다. 기존 사람 중심 팀이 한 번에 한 가지 이슈를 처리하느라 지연되던 것과 달리, 김 소령의 블루팀은 최대 16개에서 50개에 이르는 병렬 작업을 동시에 수행했다. 에이전트 계층 구조를 통해 최상위 마스터 에이전트가 하위 서브 에이전트들에게 업무를 위임하고, 결과를 실시간 종합하는 오케스트레이션을 구현한 덕분이다.

병렬 오케스트레이션의 힘... 자율 복구력 빛났다 

김 소령은 AI 블루팀이 단순 탐지를 넘어 ‘초고속 자율 복구’를 구현한 점을 이번 훈련의 가장 큰 성과로 꼽았다. AI 블루팀은 극한의 비상 상황 속에서도 에이전트 간 유기적 협업으로 시스템 무결성을 지켜냈다.

그는 “방어의 성패는 결국 거대언어모델(LLM)이 복잡한 시스템 코드를 이해하고, 얼마나 정확하게 긴 복구 명령어를 유기적으로 작성하느냐에 달렸다”고 말했다. 이번 훈련에서 LLM은 한번에 10줄이 넘는 고난도 복구 명령어를 스스로 조합해 시스템을 정상화하는 등 인간 관리자의 대응 범위를 아득히 뛰어넘는 정교함과 회복력을 과시했다.

▲ (왼쪽부터) 김영민 국가보안기술연구소 선임, 정건우 스틸리언 연구원, 김선우 국방부 소령, 김명현 스틸리언 연구원, 김진우 금융보안원 주임, 백부승 스틸리언 연구원이 속한  APEX AI 블루팀 개발팀이 기념 촬영을 하고있다. [출처: 국가사이보안보센터]

‘로컬 LLM’의 가능성과 상향 평준화의 비전

이번 프로젝트에서 주목할 또 다른 대목은 프론티어 상용 모델과 국산 인프라 환경을 고려한 로컬 LLM 병행 운용이다. 국방 및 공공 분야에선 정보 유출 방지와 보안성이 절대적으로 필요하다. 블루 팀은 프론티어 모델뿐만 아니라 내부망 환경에 맞춘 오픈웨이트 기반 로컬 LLM의 주력 가동 가능성을 성공적으로 입증했다.

김 소령은 “처음엔 상용 프론티어 모델에 의존했지만, 훈련을 거듭하며 로컬 모델이 주력으로 시스템을 복구하는 것을 보고 우리도 적잖이 놀랐다”며 “보안 방어는 수학 난제를 푸는 것이 아니라 꼼꼼함과 실시간 변별력의 싸움이기 때문에, 일정 이상 성능만 갖추면 로컬 모델도 현장 적용에 아무런 문제가 없었다”고 말했다.

김 소령은 이번 시도가 단순한 일회성 실험에 그치지 않고, 국내 보안 역량의 ‘상향 평준화’를 이끌 마중물이 되기를 기대하고 있다. 기관별로 천차만별인 보안 대응 역량을 시스템화된 AI 방어 아키텍처로 묶어낸다면, 전국 어떤 기관이라도 최고 수준의 방어 퍼포먼스를 상시 보장받을 수 있다는 의견이다.

그는 “이번 APEX 훈련은 방어자가 공격자보다 항상 불리하다는 패러다임을 깰 수 있는 실마리를 제공했다”며 “훈련 플랫폼의 장점을 극대화해 실제 현장에 즉시 투입할 수 있는 초저지연 가드레일과 자율 방어 체계를 고도화하겠다”고 말했다. 대한민국 사이버 안보의 체질을 완전히 바꾸는 데 앞장서겠다는 다짐이다. 

출처 : 보안뉴스(https://www.boannews.com)