AI 잡는 AI … 딥페이크 퇴치, 최전방 출격한 구글

게티이미지뱅크

구글이 3월 18일(현지시간)부터 유튜브에서 인공지능(AI)을 이용해 만들어진 콘텐츠에 '생성·합성 여부'를 표시하는 라벨링 적용을 시작했다. 현실로 혼동할 수 있는 영상을 크리에이터가 유튜브에 올리는 경우 이 사실을 시청자들에게 알려야 한다는 취지다. 유튜브가 적용한 라벨링은 AI를 이용해 일어나지 않은 사건을 사실적으로 묘사하는 영상이나 누군가 하지 않은 말이나 행동을 보여주는 콘텐츠 등이 해당된다. 이에 따라 수주 내로 스마트폰 유튜브 앱을 비롯해 데스크톱, PC 버전 유튜브에 라벨이 적용될 예정이다. 유튜브가 전격적으로 AI 콘텐츠에 대한 라벨링을 도입한 것을 두고 정보기술(IT) 업계에서는 최근 전 세계적으로 화두가 된 전쟁·정치 관련 '딥페이크' 콘텐츠 논란에 대응한 것이라는 분석이 나왔다.

딥페이크는 딥러닝(Deep Learning)과 가짜(Fake)의 합성어다. AI를 활용해 특정 인물 또는 배경의 음성 이미지 영상을 조작한 뒤 일어나지 않은 일을 일어난 것처럼 만드는 것을 가리킨다.

최근 매일경제와 단독 인터뷰를 진행한 헤더 애드킨스(Heather Adkins) 구글 글로벌 보안 엔지니어링 총괄은 요즘 전 세계적으로 확산하는 딥페이크 리스크와 관련해 "업계와 학계 그리고 다양한 기관 사이에 딥페이크 문제를 해결해야 한다는 공통된 인식이 있다"면서 "구글의 경우(딥페이크 탐지와 조치에 대해) 가장 효과적인 대응이 무엇일지 실험 하고 보완을 해나가고 있는 과정 중에 있다"고 말했다. 애드킨스 총괄은 생성형 AI 기술 발전이 가져올 수 있는 보안 위협에 대해 "AI를 활용해 딥페이크를 만들어 허위 정보를 조작하거나 소프트웨어 약점을 찾아 공격하는 등 다양한 리스크가 상존한다"면서 "특히 AI 기술로 인해 현재까지 사용이 어려웠던 여러 (보안 위협) 기법들이 자동화돼 더 큰 규모로 활용될 수 있다"고 경고했다.

구글의 글로벌 '보안 사령관' 격인 애드킨스 총괄은 '구글 시큐리티팀'의 창립 멤버로 해당 분야에서 세계 최고 전문가로 통한다. 구글 네트워크·시스템·애플리케이션의 안전과 보안을 책임지는 팀을 구성해 운영하고 있다. 특히 그는 22년간 구글의 보안을 책임지면서 전 세계에서 가장 큰 인프라스트럭처를 구축하고 방어하는 역할을 수행해왔다. 애드킨스 총괄은 미국 국토부 산하 사이버인프라보안국(CISA)의 사이버 안전심의위원회(Cyber Safety Review Board) 공동의장으로 미국 정부에 사이버 보안 관련 자문을 제공하고 있다.

최근 딥페이크 확산과 관련해 전 세계 각국은 대책 마련에 분주하다. 미국은 지난해 10월 AI 생성 콘텐츠에 워터마크를 표시하는 등 AI에 대한 행정명령을 공개했다. 액시오스에 따르면 미국에서는 33개주에서 AI 딥페이크 방지 법안이 발의된 상태다. 유럽연합(EU)에서는 실존 인물 등과 유사하게 생성·조작된 정보는 별도로 표시하도록 의무화했다.

한국 정부 또한 'AI 생성 콘텐츠 표시제' 도입을 비롯한 대응책 마련에 착수했다.

방송통신위원회는 AI 서비스의 신뢰성을 보장하되 역기능으로부터 이용자를 보호하기 위한 'AI 서비스 이용자 보호에 관한 법률' 제정에 나선다고 지난 21일 밝혔다. 이용자 보호를 강화하기 위해 AI를 활용해 생성한 콘텐츠를 게시할 때는 'AI 생성물' 표시를 하도록 의무화하는 것이 골자다. 애드킨스 총괄은 "(각국) 정부 차원에서 딥페이크와 관련한 법 체계 정비, 규제 등을 두고 여러 실험을 하고 있어 앞으로 이에 대한 방향성을 지켜볼 필요가 있다"면서 "이 모든 것은 글로벌 공동체가 참여하는 하나의 긴 여정이 될 것"이라고 말했다. 애드킨스 총괄은 "구글은 기업 등 조직의 AI 시스템 보안을 지원하기 위한 프레임워크(SAIF)를 도입했다"면서 "MS와 오픈AI를 포함한 다른 기술 회사들과 라운드 테이블을 형성해 딥페이크와 안전한 AI 사용에 대한 논의를 지속적으로 이끌어갈 의지가 있다"고 밝혔다.

각국의 대응책과 맞물려 빅테크들도 실제 '액션'에 나서고 있다. 하지만 기업별로 리스크를 대하는 인식과 보유한 기술의 격차가 달라 대응 속도에서 차이가 나타나고 있다는 해석이 나온다.

특히 딥페이크 콘텐츠는 플랫폼에서 이를 이해하고 대규모로 식별할 수 있는 맥락이 상대적으로 부족하다는 분석이다. 이에 대한 해결책 역시 AI다. 유튜브 측은 "생성형 AI를 활용하면 AI 분류기가 학습하는 정보 세트를 빠르게 확장할 수 있어 이러한 콘텐츠를 훨씬 더 신속하게 식별하고 포착할 수 있다"면서 "시스템의 속도와 정확성이 개선되면 검토자들에게 노출되는 유해한 콘텐츠의 양도 줄어든다"고 설명했다. 그는 딥페이크에 대한 대응으로 '미디어 리터러시'의 중요성도 강조했다. 그는 "딥페이크에 대한 해법은 하나의 기술적인 형태로 존재하지는 않을 것이기 때문에 '딥페이크가 가능하다'는 현실을 이해·인지하고 조심해야 한다는 인식을 교육하는 것이 필요하다"고 설명했다.

생성형AI 기술이 고도화될수록 사이버 보안 위협도 비례적으로 증가할 것으로 보인다. 관련 시장도 비약적인 성장이 예상된다. 이에 대해 애드킨스 총괄은 "생성형 AI는 사이버 보안의 창(공격자)과 방패(방어자) 모두에게 영향을 미칠 수 있는 잠재력을 지녔다"며 "그럼에도 저는 방패가 더 두꺼울 것이라고 본다"고 말했다.

생성형 AI는 위협을 더 빨리 발견하고, 많은 작업이나 수작업을 덜어주기 때문에 사이버 보안 방어자에게도 강력한 도구가 될 수 있다는 것이 애드킨스 총괄의 설명이다. 보안업계에서 AI 활용에 관심을 갖는 이유는 인간을 한참 뛰어넘는 연산 능력 덕분이다. AI는 실시간으로 방대한 양의 데이터 분석이 가능해 잠재적인 보안 침해 위협과 해커들의 공격 패턴, 이상 징후 등을 식별할 수 있다는 설명이다. 또 사이버 보안 침해나 사고에 대처할 때는 속도가 매우 중요한데, AI는 개인과 조직이 더 빠르게 대응하도록 도와줄 수 있는 잠재력이 있다. 애드킨스 총괄은 "기술은 유익과 해악의 측면에서 모두 사용될 수 있고, 그럼에도 우리는 AI를 사용해 AI위협을 방어할 수 있는 방법을 찾아나갈 것"이라고 강조했다.

[황순민 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]