국군 방첩사령부, AI 체계 실제 침해사례와 국방AI 보안수칙 교육
국방 분야 AI 시스템 구축 시 준수해야 하는 ‘국방AI 보안 가이드’ 전군에 배포

[보안뉴스 김경애 기자] AI 시대가 도래하면서 AI 보안 위협도 거세지고 있다. 특히 국가안보차원에서 AI 보안 위협은 매우 중대한 사안이다. 이에 따라 그 어느 때보다 AI 보안 위협에 대비하기 위한 교육은 더욱 중요해지고 있다.


이와 관련 최근 국방부가 전 장병의 AI에 대한 관심과 활용능력 제고를 위한 ‘현장 밀착형 패키지 프로그램’인 ‘권역별·부대별 국방 AI 확산프로그램’을 추진한다고 밝힌 바 있다. 이러한 가운데 국방부는 방첩사 장병 대상으로 ‘AI 보안 교육’도 실시하겠다고 밝혀 AI 보안 교육 강화에 이목이 집중되고 있다.

국방부는 방첩사 장병 대상으로 이번 AI 보안 교육을 통해 AI 기술의 취약점과 실제 침해사례를 장병들에게 알기 쉽게 소개하고, 보안수칙과 가이드라인을 설명해 보안 강화에 심혈을 기울이겠다는 계획이다.

이에 <보안뉴스>는 국군방첩사령부에 어떤 교육이 진행됐는지 알아봤다. 취재결과 방첩사는 ①AI 체계 실제 침해사례 ②국방AI 보안수칙에 대해 교육했다고 밝혔다.

① AI 체계 실제 침해사례
AI 체계 실제 침해사례와 관련해 방첩사는 “국방 AI 체계 침해사례는 현재까지 식별된 바 없어 교육 간에는 상용AI(Chat GPT, 아마존 음성비서 등)의 민감정보 유출사례와 학계에 발표된 AI 보안 위협에 대해 소개했다”며 “데이터 탈취, 데이터 오염, 회피(Evasion), 모델 추출, 모델 전도, 멤버십 유추, 백도어, 탈옥 등 8개의 AI 보안 위협에 대해 교육했다”고 설명했다.

② 국방AI 보안수칙
또한, 방첩사는 국방 분야 AI 시스템 구축시 준수해야 하는 보안 원칙인 ‘국방AI 보안 가이드’를 전군에 배포했다고 전했다.

‘국방AI 보안 가이드’의 주요 내용은 첫째, 국방 AI 시스템의 보호요구 수준 및 AI 모델 보안 등급분류 기준 정립이다. 둘째, 군 데이터 수명주기(수집 → 준비 → 개발 → 활용 → 폐기 순)에 따른 보안대책 제시이다. 셋째, 민간 AI 서비스 사용 및 활용간 필요한 보안대책 규정, 보안 체크리스트 수록 등에 관한 내용이 담겨 있다.
[김경애 기자(boan3@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>