금융보안 AI 워킹그룹 출범, 2025년 AI Safety Framework 개발 추진

[보안뉴스 김경애 기자] 금융보안원은 AI로 인한 디지털 환경 및 업무 패러다임 변화에 발맞춰 금융회사가 안전하게 AI를 활용할 수 있도록 AI 전담 조직인 AI혁신실을 필두로 올해 보안성 검증체계와 이해도 지표를 개발하는 등 정책적·기술적 지원 업무를 수행했다.

금융보안원은 급변하는 AI 환경에 대해 선제적으로 대비하기 위해 3년 동안 지속적으로 인력 및 조직을 확대해왔다. 2022년 AI활용지원 TF → 2023년 AI데이터팀 → 2024년 AI혁신실로 확대했다.

특히 올해 금융보안원은 금융분야 AI 관련 가이드라인, 검증체계, 지표 등을 개발하며 활발하게 기술적 지원 업무를 수행했다.

지난해 4월에 작성·배포한 ‘금융분야 AI 보안 가이드라인’에 대한 후속 연구로 AI 관련 책임과 역할 정립을 위한 AI 거버넌스 관련 연구를 진행했으며, AI 신뢰성 확보를 위해 ‘금융 AI 보안성 검증체계’를 마련해 보안위험 요소를 사전 식별 및 해결하도록 지원하고, 주요 금융회사를 대상으로 시범 검증을 실시했다.

또한, 금융회사가 금융보안 관련 업무에 활용할 AI 모델의 성능을 비교해 최적의 모델을 선정할 수 있도록 금융보안 이해도 지표(FSKU: Financial Security Knowledge Understanding)를 개발했다. 나아가 금융당국 및 금융회사와의 협업을 통해 제도적 기반 마련을 위한 정책적 지원 업무를 수행했다.

금융위 주관의 ‘금융권 AI 협의회’에 구성원으로 참여해 금융당국과 금융회사 간 가교 역할을 했고, 23개 금융회사·학계·법조계와 함께 금융보안 AI 워킹그룹을 출범시켜 안전한 AI 활용 방안을 위한 AI Safety Framework를 논의했다. 또한, 5개 은행이 참여한 소그룹을 통해 FDS 연합학습 추진 관련 논의를 활발히 진행했다.

아울러, 세계적인 AI 분야 국제학회 ‘ACM ICAIF 2024’에서 주최한 국제 금융 AI 대회(FinanceRAG)에서 2위 수상 및 초청 발표를 수행하고, 빅데이터 국제학회 ‘IEEE BigComp’ 및 데이터과학 국제학회 ‘ACM CIKM’에 SCI 논문 2편을 게재하고 최우수 논문을 수상하는 등 다양한 성과를 달성하며 AI혁신실의 전문성을 입증했다.

한편, AI 모델 성능 경진대회와 생성형 AI 활용 아이디어 공모전으로 구성된 ‘AIxData Challenge’를 개최해 AI를 활용한 신사업 아이디어 발굴에도 적극적으로 나섰다.

2025년에는 ‘금융 AI 보안성 검증체계’를 활용해 금융회사 AI 서비스에 대한 제3자 검증을 수행하고, 상반기에는 생성형 AI와 관련된 주요 내용을 반영해 ‘금융분야 AI 보안 가이드라인’을 개정할 계획이다.

향후에는 기존의 가이드와 안내서 등을 종합해 전반적인 AI 안전성을 점검할 수있는 ‘AI SafetyFramework’로 확대 개편을 연구할 예정이다. FDS 연합학습, 합성데이터 등 다양한 AI 프라이버시 강화기술(PET)을 연구하고, ‘금융권 생성형 AI 활용 지원방안(2024년 12월)’에 따라 사전 기능테스트(PoC) 환경을 구축·제공하며 보안대책 수립 및 이행을 지원할 예정이다.

금융보안원 김철웅 원장은 “AI 기술의 발전 속도가 매우 빠르고, 금융권의 활용 범위도 크게 확대되고 있는 상황에서, 금융권의 안전하고 신뢰성 있는 AI 기술 활용을 위해서는 ①핵심 기술의 확보, ②사전적 보안 검증, ③적극적인 정보 공유와 협력이 중요하다”면서, “금융보안원은 앞으로도 금융권 AI 플랫폼을 적극 지원하며 금융회사가 안전하게 AI를 활용할 수 있도록 지속적으로 노력할 것”이라고 밝혔다.
[김경애 기자(boan3@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>