'그록' AI 딥페이크, X 답변 기다리는 정부…타 AI 서비스도 성착취물 위험

엑스와 그록 로고 [사진=AFP연합뉴스]

정부가 일론 머스크가 이끄는 xAI의 인공지능(AI) 서비스 ‘그록(Grok)’에 대해 청소년 보호를 위한 안전장치 마련을 공식 요청하면서, 생성형 AI를 둘러싼 딥페이크 대응 문제가 수면 위로 떠올랐다. 정부 대응은 그록을 직접 겨냥했지만, 이미지·영상 생성 기능을 제공하는 다른 AI 서비스 전반에서도 유사한 위험이 존재한다는 점에서 논의가 확산되고 있다.

방송미디어통신위원회는 15일 그록 서비스를 제공 중인 엑스(X·옛 트위터)에 공문을 보내, 비동의 성적 이미지 확산을 막기 위한 기술적·관리적 조치를 요구했다. 방미통위는 2주 이내 조치가 이뤄지지 않을 경우 추가 자료 제출을 요구하는 등 후속 대응에 나서겠다고 밝혔다.

이번 조치는 X를 통해 성착취물과 비동의 성적 이미지가 확산된 사례가 확인된 데 따른 것이다. 최근 그록을 이용해 실존 인물의 사진을 성 착취물을 만드는 등의 행위가 이어졌고, 생성 과정에서 당사자의 동의 여부를 확인하거나 이를 기술적으로 차단하는 장치가 충분하지 않았다는 점이 문제로 지목되고 있다.

챗GPT나 구글 제미나이 등 주요 AI 서비스들이 성적 이미지 생성을 원칙적으로 제한하거나 엄격히 차단하는 정책을 적용하는 것과 달리, 그록은 ‘표현의 자유’를 내세워 상대적으로 폭넓은 허용 정책을 유지해 왔다. 이 같은 정책 차이가 이번 논란을 키운 배경으로 꼽힌다.

성적 이미지 생성을 제한하는 정책 자체가 딥페이크 위험을 근본적으로 해소할 수 없다는 문제도 있다. 이미지·영상 생성 기능을 제공하는 생성형 AI 서비스들은 기술적으로 유사한 구조를 갖고 있어, 정책이나 통제 장치가 미흡할 경우 우회적 사용이나 악용 가능성을 완전히 차단하기는 어렵다는 한계가 있기 때문이다.

오픈AI의 챗GPT 역시 이러한 구조적 한계를 의식해 성적 콘텐츠 정책을 지속적으로 조정해 왔다. 오픈AI는 지난해 성인 인증을 전제로 한 성적 콘텐츠 허용 방침을 공개하며 ‘성인 모드’ 도입을 예고했으나, 이후 연령 인증의 실효성과 우회 가능성에 대한 추가 검증이 필요하다는 판단에 따라 출시 시점을 올해 1분기로 재조정했다.

AI 콘텐츠가 유통되는 플랫폼 단계에서의 관리 책임도 거론되고 있다. 유튜브는 최근 아동·청소년 보호 기능을 강화해 부모가 자녀의 쇼츠 시청 시간을 직접 설정할 수 있도록 했으며, 쇼츠 피드 이용 제한과 청소년 계정의 취침·휴식 시간 관리 기능도 순차적으로 도입하고 있다.

백서현 기자 qortjgus0602@ajunews.com

- Copyright ⓒ [아주경제 ajunews.com] 무단전재 배포금지 -