국내 최초 AI 보안 서비스...4월 초 시범 서비스 오픈
AI 판단 결과의 신뢰성과 이해도를 높이는 ‘설명형·생성형 AI’ 기술 접목

[보안뉴스 김영명 기자] 시큐리티·인텔리전스 기업 이글루코퍼레이션(대표 이득춘)이 검증된 인공지능(AI) 기술력에 기반해 보안 담당자 누구나 손쉽게 활용할 수 있는 온라인 AI 탐지모델 서비스인 ‘이글루XAI(IGLOOXAI)’(가칭) 서비스를 개발했다고 밝혔다. 이글루XAI(IGLOOXAI)는 AI가 판단한 공격 결과에 대한 신뢰성과 이해도를 높이는 서비스로 AI 모델 확대 적용 및 개선 과정을 거쳐 4월 초 시범 서비스를 오픈할 예정이다.


‘이글루XAI’는 특정 보안 데이터에 대해 AI 모델이 판단한 근거를 알려준다. 서비스에는 △AI가 어떤 기준에 따라 특정 행위를 이상·정상으로 탐지했는지를 알려주는 ‘설명 가능한 AI(XAI, eXplainable AI)’ 기술 △기존 콘텐츠에 대한 학습을 토대로 새로운 콘텐츠를 만들어내는 ‘생성형 AI(Generative AI)’ 기술이 적용됐다. 사용자들은 AI 모델이 특정한 예측을 내린 기준 확인을 통해 AI 답변의 신뢰도를 평가하고, 자연어 형태의 설명을 토대로 AI 답변에 대한 이해도를 높일 수 있다.

보안 담당자들은 ‘이글루XAI’ 활용을 통해 AI 탐지모델의 판단 근거와 빅데이터 분석 결과, 자연어 형태의 답변을 비교 확인해 보안조직의 분석 역량을 상향 평준화할 수 있게 된다. 사용자가 공격 유무를 판단하고자 하는 페이로드(payload)를 입력하면 △AI 탐지 모델이 예측한 결과와 이 예측에 영향을 미친 공격 특징(feature)의 중요도 △빅데이터 기반 분석 결과 등이 제공된다. 챗GPT(ChatGPT)를 통한 대화형 분석 옵션도 선택가능하다.

이글루코퍼레이션은 더 많은 보안조직이 이글루XAI를 활용할 수 있도록 서비스 모델을 다양화할 계획이다. 설치 및 개발 부담이 없는 온라인 웹페이지·응용프로그램인터페이스(API) 형태로 서비스를 제공하고, 현재 적용된 보안 이벤트 분류 모델에 이어 엔드포인트 및 행위 기반 모델을 추가할 예정이다. 또한, 예측 결과에 대한 보안 전문가의 피드백 적용을 통해 모델의 신뢰도를 지속해서 높일 방침이다.

이글루코퍼레이션은 2015년경부터 AI 기술 확보에 힘을 실어왔다. 2019년 국내 최초의 AI 보안관제 솔루션을 출시하고 주요 기관과 기업에 공급하며, AI 시스템 개발 및 구축 역량을 축적했다. 회사는 XAI 등을 포함한 20건 이상의 AI 특허 획득 및 사이버보안 AI 데이터셋 구축을 통해 데이터 중심의 AI 역량 확보에도 공을 들였다. 이밖에도 양질의 학습 데이터 선별 및 공격 특징 추출, 학습 방향을 정하는 레이블링 작업 등을 통해 AI 보안의 정확성과 신뢰성을 높이는데 집중했다.

이글루코퍼레이션은 향후 기존 확보한 AI 기반 탐지 기술 및 XAI 기술에 생성형 AI 기능을 접목하며, AI 사업 포트폴리오를 확대할 계획이다. 챗GPT 모델를 시작으로 복수의 생성형 AI 모델 연계를 통해 고객의 선택 폭을 넓히고, 중장기적으로는 보안에 최적화된 이글루코퍼레이션 고유의 생성형 AI 모델도 적용할 전략이다. 더불어, 정상적인 AI 서비스를 악용한 우회·적대적 공격에 맞서 진행 중인 AI 방어 기술 및 방법론 연구도 확대할 예정이다.

이글루코퍼레이션 이득춘 대표는 “이글루코퍼레이션은 다년간 보안, 빅데이터, 데이터 마이닝, AI 등 여러 분야의 전문가로 구성된 AI 조직을 운영하며, AI 탐지모델의 신뢰성과 정확성을 높이는 데 공을 들여왔다”며 “검증된 고유의 AI 기술력에 생성형 AI 기술을 적용하며, 더 많은 조직이 AI의 혜택을 누릴 수 있도록 지원하겠다”고 밝혔다.
[김영명 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>