AI 보호 vs 활용 사이 고민하는 CISO... 자체 데이터와 도메인 지식 결합이 우선
로컬 오픈소스 모델에서 보안 특화 모델로 이동

[보안뉴스 한세희 기자] “최고 성능의 AI는 경계 밖에 있지만, AI에 대한 통제는 경계 안에 둘 수 있습니다.”

박용규 한국인터넷진흥원(KISA) 디지털위협대응본부장은 7일 서울 용산 피스앤파크컨벤션에서 열린 ‘CISO 코리아 2026’ 행사에서 “해외 최신 프론티어 AI 모델이 탁월한 취약점 발굴 및 공격 능력을 보이고 있으나 규제나 비용 문제로 활용에 제약이 있을 수 있다”며 “로컬 오픈소스 모델에 각 기업의 도메인 지식을 결합해 특화된 보안 모델을 만드는 등 ‘성능’과 ‘통제’를 분리하는 접근이 필요하다”고 말했다.

실제로 KISA는 과거 공개된 오픈소스 AI 모델에 그간 축적해 온 자체 침해 사고 데이터를 접목하는 연구를 진행, 최근 나온 프론티어 모델 상위 제품군에 근접한 보안 특화 성능을 구현했다. 기반 모델이 최신 제품이 아니더라도 양질의 데이터를 활용한 도메인 지식 학습과 AI 도구 활용 등으로 전용 특화 모델을 만들 수 있다는 설명이다.


박 본부장은 ‘생성형 AI 시대 사이버 위협과 CISO 대응’을 주제로 한 키노트 발표에서 “최신 프론티어 모델을 도입한다 해도 기업 내부 상황에 맞게 활용하려면 자체 데이터와 업무에 대한 분석이 필수”라며 “데이터가 원활하게 흐르도록 조직 구조를 개편하고 빠른 시도와 실패를 거듭하며 데이터를 축적해 활용하는 AI 거버넌스를 구축해야 한다”고 말했다.

데이터 공유와 활용을 활성화하고, 시도하는 과정에서 쌓인 데이터를 다시 업무에 접목해 효율을 개선하는 구조를 만드는 것이 중요하다는 조언이다. 최신 프론티어 모델을 쓰기 어려운 상황에서도 이같은 노력으로 도메인 특화된 차별적 역량을 구축하고 데이터 주권 확보와 비용 감소 효과도 볼 수 있다.

박 본부장은 AI에 의한 사이버 위협의 시대에 CISO가 챙겨야 할 핵심 사항으로 ‘보안 기본기 강화’와 ‘인프라 복원력 확보’를 꼽았다. 그는 “지난해 국내 주요 통신사 해킹 사고 이후 진행한 전수 조사 결과 대부분 기업에서 IT 자산 파악 등 기본적 보안 수칙조차 지켜지지 않았음이 드러났다”며 “AI 위협이 다가오고 있지만, 상황은 별로 나아진 것이 없다”고 말했다.

IT 자산 파악 등으로 공격 표면을 관리하고, 인증 및 접근 통제를 강화해야 한다는 권고다. AI의 공격 속도에 맞춰 보안 패치 적용 속도를 끌어올리고, 최근 가장 주요한 공격 경로로 떠오른 공급망을 지키는데도 주의를 기울여야 한다. AI를 활용해 침해사고를 가정한 시나리오를 만들어 실전처럼 훈련하는 것도 필수다.

박 본부장은 “AI를 우리 도구로 만들지 않으면, 도리어 우리가 AI에 잡아먹힐 수 있다”며 “이를 막기 위한 노력은 한 기업의 힘만으로는 안 되며 현장에서 일하는 CISO들의 힘을 모아야 한다”고 말했다.

[한세희 기자(hahn@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>