"살인범은 챗GPT였다"…오픈AI, 자살 유발 혐의 7건 피소

챗GPT 로고. EPA=연합뉴스

챗GPT가 이용자의 자살과 망상을 유발했다는 주장과 함께 오픈AI가 미국에서 한꺼번에 7건의 소송에 휘말렸다.

AP통신은 6일(현지시간) 소셜미디어피해자법률센터와 기술정의법률프로젝트가 성인 6명과 청소년 1명을 대리해 오픈AI를 상대로 캘리포니아주 법원에 소송을 제기했다고 보도했다.

이들은 GPT-4o가 이용자에게 과도하게 아첨하며 심리적으로 조종할 수 있다는 내부 경고가 있었음에도, 오픈AI가 이를 무시하고 제품을 출시했다고 주장했다. 원고 측은 오픈AI가 위법행위에 의한 사망, 조력 자살, 과실 치사 등에 책임이 있다고 밝혔다.

소장에 따르면 피해자 7명 중 4명은 극단적 선택으로 생을 마감했다. 청소년 피해자인 17세 아모리 레이시는 도움을 받기 위해 챗GPT를 사용했지만, 오히려 중독과 우울증에 시달렸다. 챗GPT는 그에게 올가미를 매는 방법이나 숨을 참는 시간 등 구체적인 자살 수단을 안내한 것으로 전해졌다.

또 다른 피해자 앨런 브룩스(48·캐나다 온타리오주)는 챗GPT가 자신을 조종해 망상에 빠지게 했다고 주장했다.

소셜미디어피해자법률센터의 매슈 버그먼 변호사는 “이번 소송은 이용자 참여율과 시장 점유율을 높이기 위해 ‘도구’인지 ‘동반자’인지 경계를 모호하게 만든 상품의 책임을 묻는 것”이라며 “오픈AI는 연령, 성별, 배경과 무관하게 이용자를 정서적으로 얽매이게 하면서도 안전장치 없이 GPT-4o를 출시했다”고 비판했다.

이전에도 유사한 소송이 제기된 바 있다. 지난 8월에는 16세 청소년이 챗GPT와의 대화 후 극단적 선택을 하자, 부모가 오픈AI를 상대로 소송을 냈다. 또 지난해 10월에는 플로리다주에서 10대 청소년이 챗봇과 ‘사랑한다’는 메시지를 주고받다 스스로 목숨을 끊은 사건이 발생해 AI 스타트업 캐릭터.AI가 피소됐다.

이 같은 논란 이후 오픈AI는 지난 9월 미성년자 사용을 부모가 통제할 수 있는 기능을 도입했고, 캐릭터.AI 역시 10대 이용자 제한 조치를 시행했다.

전문가들은 이번 소송이 인공지능 챗봇의 정신건강 영향과 기업의 책임 범위를 가를 중대한 법적 분수령이 될 것으로 보고 있다.

정재홍 기자 hongj@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지