AI 챗봇, 해커 도구로 전락?…구글 검색도 위험

[AI리포터]

AI 챗봇을 활용한 새로운 해킹 수법이 등장했다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 인공지능(AI) 챗봇과 구글 검색을 악용한 새로운 해킹 방식이 발견됐다고 10일(현지시간) IT매체 엔가젯이 전했다.

보안업체 헌트리스(Huntress)에 따르면, 해커들은 AI 챗봇과의 대화에서 악성 명령어를 삽입하고 이를 구글 검색 결과 상단에 노출시키는 방식으로 악성코드를 유포하고 있는 것으로 나타났다.

헌트리스가 챗GPT와 그록(Grok)을 테스트한 결과, 사용자가 '맥 디스크 공간 정리'와 같은 검색어를 입력하면, 악성 명령어가 포함된 AI 챗봇 대화가 상단에 노출되는 것으로 나타났다. 사용자가 이를 무심코 실행하면 해커들이 기기 접근 권한을 확보해 악성코드를 설치할 수 있다. 특히 사용자가 파일을 다운로드하거나 의심스러운 링크를 클릭할 필요가 없어, 기존 보안 경고를 우회할 수 있다는 점에서 치명적이다.

이러한 공격 방식은 AI 챗봇과 구글 검색의 신뢰성을 악용한다는 점에서 더욱 위협적이다. 해커들은 AI 챗봇과의 대화를 공개 설정하고, 이를 구글에서 광고까지 걸어 검색 결과 상단에 노출시킨다. 헌트리스는 이러한 방식이 기존 피싱이나 악성코드 유포보다 훨씬 정교하며, 보안 시스템을 쉽게 우회할 수 있다고 경고했다.

현재까지는 챗GPT와 그록에서만 확인됐지만, 다른 AI 챗봇에서도 유사한 공격이 가능할 것으로 보인다. 이와 관련해 보안 전문가들은 "구글과 AI 챗봇의 권위를 맹신하지 말고, 명령어 실행 전 반드시 안전성을 확인해야 한다"고 조언했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>