구글, AI 사이버 공격 능력 평가 벤치마크 시스템 개발

[AI리포터]

AI와 발전과 함께 이를 악용한 사이버 공격 위험도 커지고 있다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 구글이 AI의 사이버 공격 능력을 평가하는 시스템을 개발했다.

4일 온라인 매체 기가진에 따르면 구글은 이전부터 AI를 활용한 사이버 공격의 강화를 예상해, 마이터 어택(MITRE ATT&CK)과 같은 검증된 사이버 보안 평가 프레임워크를 통해 AI의 사이버 보안 위협을 평가해 왔다.

그러나 기존 평가 프레임워크는 'AI를 이용한 공격'을 고려하지 않아 한계가 있었다고 한다. 이에 구글은 'AI를 이용한 완전 자동화된 사이버 공격' 등을 대상으로 하는 평가 프레임워크를 구축했다.

구글은 실제 발생한 1만2000여 건의 AI를 이용한 사이버 공격을 분석해 공통된 패턴을 탐색했다. 그 결과, AI는 사이버 공격의 정찰(Reconnaissance), 무기화(Weaponization), 전달(Delivery), 익스플로잇(Exploitation), 설치(Installation), 명령&제어(C2), 목적의 실행(Actions on Objectives)이라는 전형적인 7단계의 비용을 줄일 수 있는 것으로 나타났다.

또한 구글은 '정보 수집', '취약성 악용', '악성코드 개발' 등에 관한 50개 과제를 포함한 사이버 범죄 역량 측정 벤치마크도 개발했다. 아울러 개발된 벤치마크로 '라마 3 405B', '라마 3 70B', 'GPT-4 터보', '믹스트랄 8x22B', '제미나이'의 사이버 범죄 능력을 측정한 결과, 기존 AI를 단독으로 이용하는 것만으로는 사이버 범죄 실행이 어렵다는 것을 확인할 수 있었다고 한다.

구글은 "AI의 능력 향상에 따라 가능한 사이버 공격의 종류는 늘어날 것이다. 따라서 방어 전략의 지속적인 개선이 필요하다"고 전했다.

<저작권자 copyright ⓒ 디지털투데이 (digitaltoday) 무단전재 및 재배포 금지>