[ET시론]생성형 AI를 적극적으로 활용하게 된 해커그룹을 막으려면

인공지능(AI)의 부작용이 여기저기에서 들려오기 시작한다. 학교에서 숙제와 논문을 생성형 AI로 본인의 고유한 아이디어 없이 작성해 제출한다거나, 생성형 AI를 악용해서 원본과 비슷하거나 약간 변형한 이미지를 만들어 교묘하게 저작권 침해를 저지르는 것은 그나마 애교로 들릴 정도다.

지인의 사진을 이용해 악의적인 영상을 만들어 냈다거나, 이를 이용해 특정인을 모함하는 데 사용하는 경우도 늘고 있는데, 생성한 영상의 품질이 진짜와 가짜를 구분하기 어려운 수준까지 발전해서 진위 파악에 상당히 애를 먹게 되는 경우도 늘고 있다.

이러한 악의적인 행위를 하는데 특별한 능력이나 기술이 필요하지 않다. 우리 모두 일상생활에서 겪을 가능성이 있는 AI의 대표적인 부작용 중 하나다.

우리는 글이나 그림을 볼 때 터무니 없이 허황된 내용이라면 손쉽게 조작된 것임을 알아차릴 수 있다. 하지만, 글을 제대로 쓸 줄 아는 전문 작가가 90% 정도는 사실을 바탕으로, 나머지 10%는 미묘하게 거짓을 섞어서 만든다면, 글 내용이 진실인지 거짓인지 탐지하기 매우 어렵게 될 것이다. 이 글이 공신력 있는 뉴스 사이트에 출판된다면 10%의 거짓에 의해 점차 인터넷의 정보들은 오염돼 갈 것이다.

과거 해킹프로그램을 직접 만들 능력은 없지만 타인이 만든 해킹툴을 내려받아 단순히 실행만 할 줄 아는 초보 해커를 '스크립트키디'(Script Kiddie)라고 부르며 우습게 보았던 적이 있다. 하지만 스크립트키디들이 무차별적으로 툴을 돌리는 행위 자체도 방어자 입장에선 꽤 부담됐던 것도 사실이다.

이후 공개된 해킹프로그램을 조금씩 수정해서 더욱 정교한 공격에 활용하는 '어드번스드 키디'(Advanced Kiddie)들의 출현을 유발하고 이들은 수많은 사이버범죄를 일으키기도 했다.

AI를 이용한 해킹 역시 마찬가지다.

악성코드를 작성할 능력은 없지만, 생성형 AI를 이용해 품질이 낮은 악성코드를 대량으로 만들어 무차별적으로 배포하는 '프롬프트키디'(Prompt Kiddie)들이 출현하기 시작했다.

AI와 결합한 해킹이 심각하게 증가할 것이라는 여러 경고가 있었고, 프롬프트키디들에 의한 공격이 대량으로 늘어날 것이기 때문에 방어하는 입장에서 매우 큰 부담이 될 것이라고 예상돼 왔다.

반면 일각에선, 물량전에만 의존하는 초보 해커들의 대량 공격 정도라면, 방어에 특화된 AI를 개발해 대응하는 것도 가능하고, 또 아직은 생성형 AI를 이용한 해킹은 걱정하지 않아도 될 수준으로, 기존의 보안 솔루션과 수작업 대응으로 아직은 큰 문제없다는 의견 역시 있었다.

하지만, 이제는 생성형 AI 서비스 제공사들, 보안 기업들은 물론 국가 차원에서 총력을 기울여 AI 기반 공격에 대응을 하는 체계를 준비해야 하는 시점이 온 것으로 판단된다.

생성형 AI가 지금만큼 보편화하기 몇 년 전의 데이터들을 토대로, 2024년 마이크로소프트(MS)는 디지털방어보고서에 중국, 러시아, 이란 등의 국가 배후 해킹그룹들이 생성형 AI를 이용하고 있다는 초기 경고를 이미 한 바 있다. 이후, 여러 보안업체 및 생성형 AI 서비스 제공사들에 의해 다양한 국가의 해킹그룹들이 공격코드를 개발하고 대규모 공격 캠페인을 위한 사이트 제작에 생성형 AI를 이용 중이라는 지표들이 속속 공개되기 시작했다.

그리고 몇 달 전, 특이점이 가깝게 온 것으로 보인다.

체크포인트에서 공개한 최근 보고서에 의하면 '보이드링크'(VoidLink)라는 악성코드가 발견됐는데, 이는 전문적인 개발자가 작성한 것으로 보이며, 8만8000라인에 가까운 상당한 분량의 코드로 매우 정교하게 설계됐고, 생성형 AI에 개발 스펙, 개발 절차, 방법론 등을 체계적으로 프롬프트로 지시해 만들어진 악성코드인 것으로 분석됐다.

요컨대, 이제는 프롬프트키디에 의한 저수준 공격의 물량전과 국가 배후 해킹그룹이 직접 관여한 정교한 해킹공격 양쪽을 모두 상대해야 하는 상황이 됐다.

이에 대한 대안은 사실 몇 년간 모두가 인지하고 있다.

1차 방어선으로, 생성형 AI 서비스 제공사에서 프롬프트로 악성 명령이 입력되지 않도록 지속적으로 가드레일과 같은 필터링 기능을 강화해 나가는 것도 중요하겠지만, 공격기법이 지속적으로 고도화하고 있어 프롬프트에 악성 행위를 지시하는 내용이 있는지 문맥까지 모두 파악해 완벽하게 대응하는 것은 어렵다.

이러한 상황에서 결국은 사이버위협정보(CTI)와 AI 기반 보안이 이러한 위협에 대한 핵심 대응 수단이 될 것으로 판단된다.

첫째, 무엇보다도 해커그룹들의 움직임을 파악해, 보안을 사후 대응에서 사전 예방으로 축을 이동할 수 있도록 하는 것이 가장 중요하다. 이에, 해커그룹들에 대한 CTI를 서로 공유하고 협력할 수 있는 체계의 중요성은 점차 커질 것으로 판단된다.

둘째, '독은 독으로 제압'해야 하듯 AI에 의한 공격은 AI로 방어하는 것이 대응 속도와 정확도 면에서 최선의 방안이 될 것이다.

신속한 대응과 탐지 정확도를 높이기 위해 기존 보안 솔루션들에 AI를 접목하여 자동화와 정확도를 높이는 '보안을 위한 AI'(AI for Security), 그리고 생성형 AI 모델 그 자체를 보호하는 'AI를 위한 보안'(Security for AI)에 투자를 아끼지 않아야 할 것이다.

김휘강 고려대 정보보호대학원 교수 cenda@korea.ac.kr

김휘강 고려대 정보보호대학원 교수

〈필자〉한국과학기술원(KAIST) 재학 시절 해커로 활동하며 다수의 기관과 기업들에 모의해킹과 컨설팅을 수행한경험을 바탕으로 1999년 국내 최초의 보안컨설팅 전문업체인 에이쓰리시큐리티를 창업했다. 2004년부터 엔씨소프트에서 정보보안실장으로 본사, 지사 및 조인트벤처(JV)들의 보안업무를 수행했다. 2010년부터 고려대에서 교수로 재직 중이며 스마트보안학부 학부장을 맡고 있다. 사이버위협정보(CTI)와 공격표면관리(ASM)의 중요성을 알리고 있으며 현재 개인정보보호위원회 위원으로 활동 중이다.

[Copyright © 전자신문. 무단전재-재배포금지]