AI와 대화하며 기업 업무 지원하는 코파일럿 챗 오류
‘기밀’ 라벨 붙은 데이터까지 접근해 활용

[보안뉴스 한세희 기자] 마이크로소프트 코파일럿이 기업 사용자의 기밀 메일에 접근해 관련 내용을 요악 제공하는 등의 버그가 발생했다고 블리핑컴퓨터가 18일(현지시간) 보도했다..

마이크로소프트는 코파일럿이 기업 고객의 워드와 엑셀, 파워포인트, 아웃룩, 원노트 등에 접근해 사내 업무 환경의 맥락에 맞춰 사용자와 대화하며 업무를 돕는 ‘코파일럿 챗 워크탭’ 기능을 제공한다.


하지만 이 기능을 구현하는 코드에 오류가 있어 사용자의 ‘보낸 편지함’이나 ‘임시 보관함’에 저장된 이메일을 부정확하게 읽고 요약하는 버그가 생겼다. 이 과정에서 AI 모델의 접근을 막는 ‘기밀’(Confidential) 라벨이 붙은 메일의 내용도 노출됐다.

사내 정보의 외부 유출을 막는 정보유출방지(DLP) 솔루션이 적용된 상태에서 데이터가 노출되기도 했다.

마이크로소프트는 “코드 문제로 ‘기밀’ 라벨이 적용된 상태에서도 ‘보낸 편지함’과 ‘임시 보관함’ 폴더에 있는 내용을 코파일럿이 활용하는 문제가 발생했다”고 밝혔다.

마이크로소프트는 이달 초 오류를 수정하고, 현재 문제가 해결됐는지 확인하기 위한 모니터링 작업을 하고 있다고 밝혔다. 최종적 피해 규모는 향후 조사 결과에 따라 달라질 전망이다.

[한세희 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>