소프트웨어 개발·법률·금융·사이버 방어 부문 최첨단 성능 내세운 새 프론티어 모델
미국 정부 자발적 출시 전 접근 절차 참여... 이용 범위 차츰 확대

구글이 차세대 프론티어 AI 모델 ‘제미나이 4 아르곤’(Gemini 4 Argon)을 공개했다. 우선 신뢰할 수 있는 사이버 보안 전문 기업 일부에게만 쓰게 했다.

[출처:구글 블로그]

코라이 카부크추오글루(Koray Kavukcuoglu) 구글 최고 AI 아키텍트 겸 딥마인드 수석부사장은 지난달 30일(현지시각) 이 모델을 소개했다. 제미나이 4 아르곤은 실제 소프트웨어 개발과 법률·금융 같은 기업 지식 업무, 사이버 보안 방어의 복잡한 작업에서 최첨단 성능을 낸다.

그러면서도 구글은 초기 접근을 ‘신뢰할 수 있는 사이버 방어자’ 집단으로 제한했다. 더버지는 모델이 오정렬되지 않았는지 확인하려고 구글이 제한된 형태로 먼저 출시한다고 보도했다. 오정렬은 AI가 개발자 의도와 다르게 움직이는 문제를 말한다.

카부크추오글루는 “이용 범위를 점차 넓혀 가는 동안 미국 정부의 자발적 출시 전 모델 접근 절차에 적극 참여하고 있다”고 말했다.

구글은 더 넓게 공개하기 전에 핵심 프론티어 안전장치를 강화할 계획이다. 모델 오용과 프롬프트 인젝션 공격을 막고 오정렬 여부를 감시하는 장치다. 프롬프트 인젝션은 AI가 읽는 내용에 악성 지시를 몰래 끼워 넣어 AI를 조종하는 공격이다.

카부크추오글루는 제미나이 4 아르곤이 이미 구글 내부 업무에 쓰이고 있으며, 대규모 코드베이스 이전 같은 작업을 도왔다고 말했다. 구글은 여러 벤치마크에서 오픈AI와 앤트로픽 경쟁 모델보다 앞선다는 수치도 공개했다. 다만 이 비교는 구글이 직접 내놓은 자료다. 이번 주 초 X에선 새 모델의 벤치마크로 보이는 유출 자료를 두고 AI 업계가 떠들썩했다.

발표는 오픈AI가 개발자 행사 데브데이(DevDay)에서 AI 에이전트 닷츠(Dots)와 GPT-6.1 솔(Sol) 모델을 내놓은 지 하루 만에 나왔다. 오픈AI는 이번 주 안전 우려로 GPT-6.1 아스트라(Astra) 모델을 내놓지 않겠다고 밝혔다. 카부크추오글루가 8월 딥마인드 새 수장에 오른 지 얼마 되지 않은 시점이기도 하다.

출처 : 보안뉴스(https://www.boannews.com)