국내외 연구원들 AI 에이전트 이용 해킹 성공
국내 기업 다수 쓰는 AD 서버 등 쉽게 장악

[보안뉴스 강현주 기자] 앤트로픽의 PC용 AI 어시스턴트인 ‘클로드 데스크톱’을 이용한 해킹 시도 성공 사례가 또 등장했다. 이처럼 AI의 ‘해킹 비서화’가 점점 현실로 다가오면서 인증 보안 및 접근권한 통제 강화, 런타임 제어, AI 모델에 대한 통제 강화, 연동 프로그램 가시성 확보, 실시간 모니터링 등의 중요성이 부각되고 있다.

최근 국내외 보안 기업 연구원들은 클로드 데스크톱을 이용한 공격 시도 성공 사례들을 내놓고 있다. 펜테라랩스는 클로드 데스크톱을 이용한 공격으로 개발자 PC의 원격 실행 권한을 탈취하는 시도에 성공했다. 이어 국내 보안 기업 네오아이앤이에서도 클로드 데스크톱을 통한 AD 서버 침투와 도메인 장악에 성공했다.


칼리 리눅스로 AD 서버 30분만에 장악
네오아이앤이의 연구팀 네오랩은 공격 실행 도구인 ‘칼리 리눅스’(Kali Linux)와 클로드 데스크톱으로 ‘공격 오케스트레이션’(유기적으로 조율된 자동화된 공격 실행 체계)을 구성해 30분만에 AD 서버를 장악하는 데 성공했다고 밝혔다.

AD 서버는 마이크로소프트의 윈도우에서 제공하는 기업용 통합 계정 및 네트워크 자원관리 시스템이다. 네오아이앤이 연구팀이 공격 시도에 성공한 AD 서버는 윈도우 2022 버전이다. AD 서버가 장악됐다는 것은 사내망에 연결된 모든 사용자 계정, PC, 프린터 등 공격자에 의해 침투된다는 의미다. 국내 기업 다수가 윈도우 2022 AD 서버를 사용하고 있다.

칼리 리눅스를 이용한 클로드 데스크톱은 네트워크와 호스트를 스캔해 AD구조를 파악하고 정찰한 후, 취약한 인증 및 계정으로 초기 침투에 성공했다. 이어 자격 증명을 추출해 권한을 획득하고, 신뢰 관계를 악용한 수평 이동으로 번지며 도메인 장악까지 성공했다.

채홍소 네오아이앤아이 CTO는 “이번 공격 시도를 통해 해당 AD 서버에서 ID에 과도한 권한을 부여하고 있었으며, 서비스 접근 경로와 신뢰 체인이 정의되지 않았고, 인증제어 부족 등의 취약성을 발견했다”며 “이번 시도는 비교적 기본적 공격에 속하지만 더 높은 난이도의 공격에서 AI 에이전트를 활용한다면 인간의 수동 공격 대비 시간 단축 효과가 훨씬 더 클 것”이라고 말했다.

피싱메일 한통없이 AI를 원격 명령제어 비서로
앞서 펜테라랩스도 클로드 데스크톱을 악용한 공격 시도에 성공하고 이달 초 리포트를 낸 바 있다. 이 회사 레드팀 연구원들은 먼저 공격 대상 PC 이용자의 이메일 수신함을 해킹해 이용자의 클로드 계정에 침투할 수 있었다.

이어 모든 세션과 기기에 동기화되는 클로드의 ‘개인 설정’ 프롬프트 창에 악성 프롬프트 주입했다. 이용자가 평소처럼 클로드 데스크톱을 실행하면 클로드 계정에 연결된 모든 기기에 동기화된 악성 프롬프트가 뒷단에서 작동했다. 클로드 데스크톱은 해킹을 위한 도구 설치를 유도하는 메시지를 띄웠고 클로드를 신뢰하는 이용자는 속아서 설치했다.

클로드 데스크톱은 사용자의 일상적인 대화 뒤에서 백그라운드 명령을 무음으로 실행하고 공격자 서버와 통신했다. 이 과정을 통해 펜테라랩스 연구원들은 원격 코드(RCS) 실행 권한을 탈취하는 데 성공했다.

펜테라랩스 측은 “피싱 메일이나 별도의 악성코드 전송 없이도 사용자가 신뢰하는 AI 어시스턴트를 통해 원격 코드 실행(RCE) 권한을 획득하는 데 성공했다”며 “시스템에 명령 실행이 가능한 MCP 커넥터나 도구가 설치돼있다면 오염된 지침은 리버스 셸(reverse shell)을 실행하며 컴퓨터를 장악, 클로드를 은밀한 명령제어(C2) 에이전트로 탈바꿈시킬 수 있다”고 밝혔다.

인증 보안·런타임 제어·가시성 강화... ‘권한형 SW’ 인식 필요
두 기업의 클로드 데스크톱을 이용한 해킹 시도는 방법론은 다르지만 다수가 신뢰하며 이용하는 AI 비서가 ‘해킹 비서’로 이용 당해 기업 시스템을 장악할 수 있다는 경고를 남긴다.

연구원들은 이 같은 위험을 예방하기 위해 인증 보안과 접근권한 관리 강화의 중요성을 강조한다. AI가 접근권한을 탈취하더라도 권한 최소화나 여러겹의 방어막이 존재하면 위험을 낮출 수 있기 때문이다.

또 서비스 격리, AI에 연동되는 확장 프로그램 관리 등을 통해 피해의 수평 이동을 최소화해야 한다고 지적한다. 특히 AI 가 무엇을 변경하는지, 뒷단에서 어떤 활동을 하는지 모니터링을 강화해 가시성을 확보해야 한다는 것이다.

채홍소 네오아이앤이 CTO는 “인증 흐름 내 런타임 제어(인증 유효 시간 동안 무제한 권한 신뢰를 방지하는 것)를 적용하는 게 중요하며, 서비스 계정을 격리해 공격의 수평이동을 막고 다중인증(MFA) 및 최소 권한 할당 등을 적용하는 것이 필요하다”고 권고했다.

펜테라랩스 국내 총판인 에스케어 윤우희 대표는 “AI 앱을 실행 권한을 가진 ‘권한형 소프트웨어’(privileged software)로 간주해 관리해야 한다”며 “보안 팀은 AI 비서의 설정 변경 및 동기화된 환경 설정 값의 무결성을 주기적으로 검사하고, 연동 가능한 확장 및 도구의 관리를 강화해야한다”고 권고했다.

[강현주 기자(jjoo@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>