'성착취 딥페이크 논란' 머스크의 xAI, 전방위 퇴출 압박

[이데일리 김정남 기자] 일론 머스크의 인공지능(AI) 회사 xAI가 개발한 챗봇 ‘그록’이 성 착취물 딥페이크 생성 논란으로 전방위 퇴출 압박을 받고 있다.

9일(현지시간) 외신 등에 따르면 민주당 소속 론 와이든 상원의원(오리건주)과 에드 마키 상원의원(매사추세츠주), 벤 레이 루한 상원의원(뉴멕시코주) 등 3명은 이날 애플과 구글 최고경영자(CEO)에게 서한을 보내 xAI의 그록 앱과 이 챗봇이 주로 이용되는 소셜미디어 엑스(X·옛 트위터) 앱을 앱스토어에서 퇴출하라고 요구했다.

일론 머스크 테슬라 최고경영자. (사진=AFP)

이들은 “머스크가 이런 충격적이고 불법일 가능성이 큰 행위들을 해결할 때까지 엑스와 그록을 앱스토어에서 즉시 제거해야 한다”며 “엑스의 끔찍한 행위에 눈감는 것은 애플과 구글의 콘텐츠 관리 관행을 조롱거리로 만들 것”이라고 지적했다. 애플과 구글은 이에 대해 아직 입장을 내놓지 않았다. 머스크는 지난해 3월 자신이 소유한 엑스와 xAI 법인을 합병해 운영하고 있다.

앞서 그록은 지난 몇 주간 엑스에서 ‘여성들의 사진을 비키니 차림으로 편집해 달라’ 등의 이용자 요청에 따라 여성과 아동을 성적 대상화한 딥페이크 이미지를 다량 생성해내 전 세계적으로 물의를 일으켰다. 이같은 수천장의 딥페이크 사진들은 대부분 당사자의 동의 없이 생성됐다. 유럽 주요 국들은 이미 관련 조사에 나섰고, 말레이시아와 호주, 인도 역시 단속을 벌이겠다고 밝혔다.

논란이 커지자 엑스·xAI 측은 이날부터 엑스 플랫폼에서 그록의 이미지 생성·편집 기능을 제한하는 방침을 적용하기 시작했다. 그록 챗봇은 이미지 생성·편집을 요구하는 이용자에게 “유료 구독이 필요하다”고 답하고 있다. 이는 당초 무료로 제공됐었다.

다만 이는 미봉책에 불과하다는 비판의 목소리도 나온다. 토머스 레니에르 유럽연합(EU) 집행위원회 대변인은 “이는 근본적인 문제를 바꾸지 않는다”며 “유료 구독이든 무료 구독이든 우리는 그런 이미지를 보고 싶지 않다”고 했다.