“이건 해도 너무 심했다” “보기 민망하다” 84만명 ‘우르르’ 몰렸는데…결국 퇴출, ‘발칵’

일론 머스크의 AI 기업 ‘xAI’의 생성형 AI ‘그록’으로 만든 영상. 우리 일상생활에 있을 법한 인물을 AI로 구현한 모습이다. [유튜브 채널 ‘AI Freemium’ 캡처]

[헤럴드경제=차민주 기자] 지난해 12월 국내에서 역대 최대 월간활성사용자(MAU)를 기록한 일론 머스크의 인공지능(AI) 챗봇 ‘그록(Grok)’이 딥페이크 생성 논란에 휩싸였다. 인도네시아가 그록 서비스를 차단하는 등 각국 정부가 잇달아 조치에 나섰지만, 한국은 이를 규제할 법적 근거가 없어 관리 공백 상태에 놓여 있단 지적이 나온다.

13일 정보기술(IT) 업계와 블룸버그 통신 등 외신에 따르면 인도네시아 정부는 전 세계 최초로 그록의 서비스 접근을 차단했다. 그록이 AI를 이용해 딥페이크 성착취물을 생성·유포하는 것을 허용했다는 논란을 의식한 조치다.

이처럼 정부 차원에서 조치에 나선 국가는 인도네시아뿐만 아니다. 프랑스, 영국은 공식적인 위법 조사에 착수했다. 독일, 스웨덴, 이탈리아도 그록을 제작한 xAI의 모회사인 엑스(X·옛 트위터)에 즉각적인 시정을 요구했다.

미국 인공지능 전문 기업 xAI가 개발한 생성형 인공지능 챗봇 ‘그록(Grok)’의 로고가 표시된 화면. [AFP]

앞서 그록은 실존하는 인물의 사진을 성적으로 변형한 이미지 생성을 허용하면서 전 세계적으로 논란의 대상이 됐다. 특히 미성년자 사진까지 변형이 가능한 것으로 나타나면서 비판이 거세졌다.

예컨대 이용자가 엑스에 게시된 실존 인물의 사진을 활용해 그록에 올린 후, ‘수영복을 입혀라’ 등 명령어를 입력하면 그록이 이를 수행한다. 이미지를 생성하는 과정에서 나이, 본인 동의 여부 등을 확인하는 절차가 누락돼 미성년으로 보이는 인물의 이미지까지 변형하는 것으로 드러났다.

그록은 이에 대해 “안전장치의 허점을 확인했다”며 “긴급히 수정 중”이라고 밝혔다.

그록은 국내에서도 높은 MAU를 보유 중인 챗봇 서비스다. 모바일인덱스에 따르면 지난해 12월 그록 MAU는 84만9963명으로 역대 최대치를 기록했다. 12월 한 달간 그록의 신규 설치 수는 50만1750건에 달한다.

xAI가 개발한 그록 로고. [로이터]

문제는 이처럼 그록이 국내에서 몸집을 불리고 있음에도, 그록의 딥페이크 생성 관리는 사각지대에 놓여있단 점이다. 업계는 정보통신망법부터 오는 22일 시행되는 AI기본법까지, 한국 법안은 딥페이크 등 AI 기반 유해 콘텐츠를 개인 이용자 중심으로 규제한다고 입을 모은다.

즉 딥페이크 제작·유포에 대한 처벌을 이용자 책임 중심으로 처벌해, 플랫폼 자체의 딥페이크 생성 가이드라인에 대한 규제가 미흡하단 지적이다. 이로써 플랫폼 규제를 강화해 근본적인 ‘생성’의 단계를 차단해야 한단 업계의 평가가 나온다.

한 업계 관계자는 “AI기본법을 포함한 한국 법은 개인 이용자가 만든 불법 딥페이크 유포·소지·시청은 처벌하나 플랫폼이 어떤 내부 생성 가이드라인을 따르는지 사전 규제할 장치가 없다”며 “EU 국가들은 디지털서비스법(DSA) 등에 따라 플랫폼의 내부 정책·가이드라인·알고리즘을 사전 통제할 법적 근거가 있어, 빠른 조사가 가능한 것”이라고 설명했다.