머스크 xAI '성착취 딥페이크 논란' 일파만파…한국은 여전히 잠잠

[디지털데일리 김보민기자] 일론 머스크가 세운 인공지능(AI) 기업 'xAI'가 개발한 챗봇 그록(Grok)이 성착취 딥페이크 콘텐츠를 생성한다는 논란에 휩싸였다. 미국은 앱스토어 운영사에 그록을 퇴출시키라 요청하고 인도네시아와 말레이시아는 접속 차단을 결단한 가운데, 한국은 잠잠한 분위기를 이어가고 있다.

12일(현지시간) 로이터통신 등 외신에 따르면 말레이시아 통신멀티미디어위원회(MCMC)는 성명을 통해 자국 내 그록 접속을 일시 차단한다고 밝혔다. MCMC는 "여성과 미성년자를 활용한 콘텐츠를 비롯해 음란물 및 조작된 이미지를 생성하는데 이 도구(그록)가 반복적으로 악용되고 있다"며 차단 이유를 설명했다.

이로써 말레이시아는 두 번째로 그록을 차단한 국가가 됐다. 지난 10일(현지시간) 인도네시아 통신디지털부는 세계 최초로 그록 접속 차단 조치를 발표하며 딥페이크 콘텐츠 생성을 문제점으로 꼽았다. 통신디지털부는 성명에서 "AI 기술로 생성한 거짓 음란물 콘텐츠 위험으로부터 아동과 여성을 보호하기 위한 조치"라고 부연했다.

xAI 본거지인 미국은 접속 차단을 논하기 전 구글·애플 등 앱스토어 측에 그록과 엑스(X·옛 트위터) 서비스 제공을 중단할 것을 요청했다. 엑스는 그록 챗봇이 주로 이용되는 소셜미디어로 알려져 있다.

미국 민주당 소속 론 와이든, 에드 마키, 벤 레이 루한 상원의원은 팀 쿡 애플 최고경영자(CEO)와 순다르 피차이 구글 CEO 대상으로 서한을 작성해 "(그록) 앱은 여성과 아동에 대한 비동의적 성적 이미지를 대량 생산하고 있고, 이는 앱스토어 배포 약관을 전적으로 무시한 행위"라며 "애플과 구글은 정책 위반이 해결될 때까지 해당 앱을 앱스토어에서 제거해야 한다"고 주장했다.

서한에 따르면 xAI 그록을 분석한 연구진은 아동 성착취물 형태의 이미지 100장이 포함된 그록 앱 아카이브가 존재한다고 보고했다. 이외 성착취 이미지가 다수 포함됐다고 밝혔다. 미 상원의원은 "구글 이용약관은 아동 착취나 학대를 조정하는 콘텐츠 생성, 업로드 또는 배포를 사용자에게 허용하는 것을 금지하도록 하고 있고, 애플도 불쾌한 또는 소름 끼치는 콘텐츠를 포함하는 앱을 금지하고 있다"며 "아무런 조치를 취하지 않는다면 안전한 사용자 경험을 제공한다는 (앱스토어 측) 주장이 훼손될 것"이라고 경고했다.

그록에서 생성된 딥페이크 콘텐츠가 X 등 소셜미디어에 유통되고 있다는 지적은 이전부터 제기돼 왔다. 일례로 한 사용자는 NBC뉴스를 통해 그록이 자신의 노출 사진을 "수없이" 제작했고, 그 중 일부는 14살 때 찍은 사진을 기반으로 악용됐다고 보고했다. 미국 와이어드와 협력하는 한 분석가는 지난해 12월31일 기준 두 시간 동안 약 1만5000개 규모로 성적 목적으로 생성된 AI 이미지를 확인하기도 했다.

한국은 별다른 입장을 내놓지 않고 있다. 2024년 텔레그램 등 온라인 상에서 딥페이크 음란물이 유포되고 있다는 소식이 이어지면서 정부는 물론 주요 기관이 "칼질"을 예고한 것과 대비되는 분위기다. 당시 방송통신심의위원회는 딥페이크 성범죄 영상물과 관련해 10대 종합대책을 내놓으며 불법정보 자율규제 협의 등 단계적 조치를 추진하기로 결정했다.

현재 그록은 국내 앱스토어에서 인기를 이어가고 있다. 일례로 애플 앱스토어에서는 '생산성' 항목에서 인기 차트 4위를 기록 중이다. 구글 제미나이, 챗GPT, K-패스를 이은 순위다.

이번 사태는 그록이 지난해 '스파이시 모드(Spicy Mode)'를 도입한 이후 성인 콘텐츠 제작이 가능해지며 촉발됐고, 추후 악용 가능성이 점쳐지고 있다. 영국 기술 담당 장관은 관련 사태에 대해 "절대적으로 끔찍하다"고 비난했다. 한편 애플과 구글은 앱스토어 퇴출 등 주요국 조치에 따라 별다른 입장을 내놓지 않고 있다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -