AI로 '가짜' 누드 사진 만드는 딥페이크 서비스에 2400만명 몰려

[AI리포터]

[디지털투데이 AI리포터] 미국에서 인공지능(AI)를 악용해 여성의 가짜 누드 사진을 만드는 딥페이크(deepfake) 애플리케이션(앱)과 웹사이트 이용자가 폭증해 논란이다.

지난 10일(이하 현지시간) 코인텔레그래프에 따르면 서비스형 소프트웨어 기업 그래피카(Graphika)가 지난 9월 한 달 동안에만 2400만명이 AI를 이용해 누드 이미지를 만드는 딥페이크 웹사이트를 방문했다고 분석했다.

해당 사이트는 올해 초부터 사용자가 늘면서 사용량이 급증하기 시작했다. 그래피카는 "엑스(트위터)와 레딧 등 소셜미디어에서 앱을 광고하는 링크와 게시물 수가 지난해에 비해 2400% 증가했다"고 전했다. 이곳들은 AI를 악용해 사람의 누드 이미지를 만든다. 상당수 앱은 여성 이미지만을 변환할 수 있는 것으로 전해졌다.

그래피카는 "AI를 사용하면 원하는 콘텐츠를 대량으로 쉽게 생성할 수 있어 비용면에서 굉장히 효율적이다"면서도 "노골적인 성 착취물 제작으로 성적 학대행위 등 범죄가 발생할 수 있어 주의가 필요하다"고 경고했다.

앞서 지난 6월 유엔은 딥페이크를 통해 만들어진 포르노물이 당사자의 동의 없이 무분별하게 소셜 미디어에 확산되는 것을 경고했다. 이에 유럽연합(EU) 내 유럽의회(EP)는 지난 8일 AI기술의 위험을 4등급으로 분류한 'AI 규제법'(The AI Act)에 합의했다.

이 법에 따르면, 가장 강한 등급인 '용인할 수 없는(unacceptable) 위험'에선 정치·종교적 신념과 성적 지향, 인종 등을 기준으로 사람을 분류하는 안면 인식 데이터베이스 구축을 위해 인터넷이나 보안 영상에서 생체 정보를 수집하는 행위를 금지한다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>