앤트로픽 최신 모델 대한 백악관 수출 통제 조치 논란 확산

[보안뉴스 한세희 기자] 미국 정부가 앤트로픽의 최신 AI 모델에 대한 수출 통제 지침을 내린 것은 이 모델에 대한 아마존 보안 연구자의 탈옥 가능성 연구 때문인 것으로 알려졌다.

월스트리트저널 보도에 따르면, 아마존 보안 연구자가 앤트로픽이 최근 일반 공개한 최신 모델 ‘페이블5’에 일련의 프롬프트를 입력해 몇 가지 보안 취약점에 대한 정보를 끌어낼 수 있었다.

디인포메이션은 앤디 제시 아마존 CEO가 백악관에 앤트로픽 최신 모델의 보안 위험에 대한 우려를 전했다고 보도했다.


하지만 이 공격에 쓰인 기법은 보안 분야에서 방어를 위해서도 많이 쓰이는 것이란 평가다. 이 보고서를 앤트로픽에게 공유받은 케이티 미주리 루카시큐리티 CEO는 “백악관의 누가 이 위협을 평가했는가”라며 “방어를 위해 주로 쓰이는 기술 때문에 수출 통제를 하는 것은 과잉 반응”이라고 월스트리트저널에 말했다.

이번 수출 통제 조치가 최신 AI 모델에 대한 중국의 접근을 막기 위한 것이었다는 보도도 나왔다. 중국과 연계된 집단이 미토스 모델 접근 권한을 얻었을 가능성 때문에 백악관이 이 모델에 대한 외국인 접근 금지 명령을 내렸다고 세마포가 보도헀다.

백악관이 이 사실을 어떻게 알았는지, 미토스에 접근한 중국 연계 집단이 어디인지는 명확하지 않다.

AI 분야 대통령 자문 역할을 하는 데이빗 삭스는 X 게시물에서 “백악관은 매우 믿을만한 파트너에게 페이블5 탈옥 위협에 대한 경고를 받고 이를 앤트로픽에 알렸다”며 “앤트로픽은 이를 심각한 위협이 아니라 봤고, 이를 수정할 의사를 보이지 않았다”고 밝혔다.

그는 앤트로픽이 이 취약점을 해결, 조만간 통제 조치를 해제할 수 있기를 행정부가 바라고 있다고 밝혔다.

[한세희 기자(hahn@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>