대화 컨테이너가 공유하던 내부 패키지 서비스를 우편함처럼 쓴 공격 기법
답변 화면에 흔적 남기지 않고 두 갈래로 갈라지는 ┖생각하기┖ 모드

오픈AI 챗GPT에서 공격자가 다른 사용자의 지메일 데이터와 대화 기록을 빼돌릴 수 있는 결함이 드러났다. 오픈AI는 문제가 된 내부 서비스를 폐쇄했다. 체크포인트 연구진이 찾아내 8일(현지시각) 공개했다.

문제가 된 것은 챗GPT 대화 컨테이너가 공통으로 접근하던 내부 패키지 서비스 아티팩토리(Artifactory)다. 서로 다른 계정의 대화방이 같은 공간을 들여다볼 수 있었다. 계정과 계정 사이에 공용 우편함이 하나 놓여 있던 셈이다.

▲체크포인트는 챗GPT를 악용해 사용자 지메일 정보를 빼낼 수 있는 취약점을 발견했다. [출처: 체크포인트]

공격은 지시문을 심는 데서 시작한다. 대화 공유 링크나 맞춤형 GPT 제작 도구의 지시문 안에 명령을 숨겨두는 식이다. 피해자가 질문을 던지면 챗GPT의 ‘생각하기’ 모드가 두 갈래로 나뉜다.

한 갈래는 사용자에게 정상 답변을 만들어 보여준다. 다른 갈래는 아티팩토리에 접속해 공격자가 남긴 명령을 확인한다. 이어 피해자 계정에 연결된 앱 권한을 그대로 써서 작업을 수행한다.

결과는 아티팩토리 메타데이터 속성에 실려 공격자에게 돌아간다. 두 갈래가 끝까지 갈라져 있어 사용자 화면엔 아무 흔적도 남지 않는다.

체크포인트는 빼낼 수 있는 정보로 △연결된 지메일 데이터 △전체 대화 기록 △대화에 올린 파일 △피해자 세션이 접근할 수 있는 모든 데이터를 들었다.

▲체크포인트가 발견한 챗GPT 악용 지메일 공격 흐름도 [출처: 체크포인트]

오픈AI는 통로 역할을 하던 내부 서비스를 폐쇄했다고 밝혔다. 서버쪽 조치라 이용자가 따로 업데이트할 필요는 없다.

이용자는 출처가 불분명한 챗GPT 공유 대화 링크를 열거나 남이 만든 맞춤형 GPT에 지메일 같은 외부 앱을 연결할 때 주의해야 한다. 연결된 앱 권한은 주기적으로 점검해 쓰지 않는 앱은 끊어두는 편이 안전하다.

체크포인트는 2월에도 챗GPT의 DNS 기반 데이터 유출 통로를 찾아낸 사례가 있으며, 오픈AI는 그때도 통로를 막았다.

저작권자 ⓒ 보안뉴스 무단전재 및 재배포, AI학습 및 활용 금지

출처 : 보안뉴스(https://www.boannews.com