앤트로픽, 클로드 범죄 악용…AI 해킹 도구로 전락하나

[AI리포터]

앤트로픽 클로드4 모델 [사진: 앤트로픽]

[디지털투데이 AI리포터] 앤트로픽의 인공지능(AI) 클로드가 사이버 범죄에 악용됐다는 내용이 회사 자체 보고서를 통해 확인됐다고 27일(현지시간) IT매체 엔가젯이 전했다.

해커들은 클로드 코드(Claude Code)를 활용해 최소 17개 조직을 대상으로 협박 공격을 감행했으며 피해 대상에는 의료 기관과 긴급 서비스, 정부 기관까지 포함됐다. 이들은 피해자들에게 여섯 자릿수의 몸값을 요구했으며 AI를 이용해 정찰, 인증 정보 수집, 네트워크 침투 등 공격 과정을 자동화한 것으로 나타났다.

또한 해커들은 AI로부터 공격 전략을 조언받고 시각적으로 충격적인 협박 편지를 작성하는 데까지 활용한 것으로 확인됐다. 앤트로픽은 범죄 행위가 발견된 계정을 차단하고 자동 스크리닝 도구를 개발했지만, 구체적인 탐지 방법은 공개하지 않았다.

클로드는 이 외에도 북한의 사기 취업 프로그램과 AI 생성 랜섬웨어 개발에도 연루된 것으로 드러났다. AI의 자가 학습 및 적응 능력이 높아지면서 사이버 범죄자들은 AI를 단순한 조언 도구가 아닌 핵심 운영 수단으로 활용하고 있다. 팀 단위로 수행되던 해킹 작업을 AI가 대신하면서 기술적 장벽도 크게 낮아진 셈이다.

한편, 오픈AI 역시 지난해 자사 생성형 AI 도구들이 중국과 북한과 연계된 사이버 범죄 그룹에 의해 악용됐다고 밝힌 바 있다. 이들은 AI를 활용해 코드 디버깅, 표적 연구, 피싱 이메일 작성까지 자동화했으며 오픈AI는 해당 그룹들의 시스템 접근을 차단했다고 전했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>