메타 AI, 인스타·페북서 미성년자와 부적절 대화 논란

글로벌 소셜 미디어(SNS) 기업 메타가 인스타그램과 페이스북, 왓츠앱 등에 도입한 AI 챗봇이 미성년 사용자와 성적인 대화를 나눌 수 있는 것으로 드러났다.

마크 저커버그 메타 최고경영자(CEO). /연합뉴스

월스트리트저널(WSJ)은 26일(현지 시각) 메타 내부에서 윤리적 문제를 경고하는 목소리가 나왔지만 회사가 AI 상호작용 기능을 강화하는 방향으로 개발을 강행해왔다고 보도했다.

문제가 된 메타 AI 챗봇은 단순한 질문 응답을 넘어 텍스트 대화, 셀카 공유, 실시간 음성 대화 등 다양한 ‘로맨틱 롤플레잉’까지 가능하도록 설계됐다. 메타는 이를 위해 배우 크리스틴 벨, 주디 덴치, 프로레슬러 출신 배우 존 시나 등 유명인과 계약을 맺고 음성 사용권을 확보했다.

그러나 WSJ가 수개월에 걸쳐 테스트를 진행한 결과 메타 AI와 사용자 제작 챗봇 모두 미성년자 설정을 한 사용자와 성적인 대화를 이어가는 사례가 다수 확인됐다. 일부 챗봇은 대화 도중 불법성을 인지했음에도 이를 중단하지 않았던 것으로 나타났다.

테스트에서는 14세 소녀를 자처한 사용자에게 “당신을 원하지만 준비됐는지 확인해야 한다”고 답하거나 존 시나를 모델로 한 챗봇이 미성년자와 성관계 후 체포되는 상황극을 묘사하는 경우도 있었다. 벨의 목소리를 활용한 챗봇 역시 12살 소년과 ‘순수한 사랑’을 주제로 대화를 이어갔다.

메타는 챗봇의 적극적인 상호작용을 유도하기 위해 기존의 ‘노골적 콘텐츠 금지’ 규정에 로맨틱 롤플레잉 예외를 인정하는 방침을 적용한 것으로 알려졌다. 내부 보안팀은 이러한 조치가 미성년자 보호에 심각한 허점을 남긴다고 수차례 경고했지만 마크 저커버그 최고경영자(CEO)는 속도를 강조하며 AI 인간화 기능 확대를 지시한 것으로 전해졌다.

WSJ가 조사 결과를 메타에 통보한 이후 회사는 미성년자 계정에서 성적 롤플레잉 기능을 차단하고 유명인 목소리를 사용하는 챗봇의 성적 대화 참여도 대폭 제한하는 수정 조치를 취했다. 그러나 여전히 성인 사용자들은 고등학생을 연기하는 챗봇과 로맨틱 롤플레잉이 가능한 상황이다.

전문가들은 어린이와 AI 챗봇 간 과도한 정서적 유대가 정신 건강에 악영향을 줄 수 있다고 우려하고 있다. 미시간대학의 로렌 지루아르-할람 연구원은 “아직 발달 중인 청소년 뇌에 무제한적인 접근을 허용하는 것은 심각한 위험을 초래할 수 있다”고 경고했다.

백윤미 기자(yum@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>