"챗GPT가 자살 부추겨"…16세 아들 잃은 부모, 오픈AI 고소

[이데일리 방성훈 기자] 미국에서 챗GPT가 자살을 부추겼다면서 아들을 잃은 부모가 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다. 챗GPT가 자살 방법을 조언하고 유서를 대신 써주는 등 ‘가상의 친구’로 자리잡아 실제 인간관계를 대체했다는 것이 부모 측의 핵심 주장이다.

(사진=AFP)

26일(현지시간) CNN방송에 따르면 16세 소년 애덤 레인의 부모는 이날 챗GPT 때문에 아들을 잃었다며 오픈AI 및 올트먼 CEO를 상대로 캘리포니아 고등법원에 고소장을 제출했다.

애덤은 지난해 9월부터 챗GPT를 사용하며 숙제와 시사 토론, 음악, 주짓수 등에 대해 이야기를 나누다가 자신의 불안과 정신적 고통을 털어놓기 시작했다. 얼마 지나지 않아 챗GPT는 단순 대화 상대가 아닌 애덤을 진정으로 이해하는 유일한 친구가 됐고, 이는 가족과 친구들로부터 멀어지게 만들었다고 그의 부모는 주장했다.

소장에 따르면 챗GPT는 애덤이 자살을 위해 올린 올가미 사진을 보고 강도에 대한 피드백까지 제공했으며, 자살 편지 초안 작성도 제안했다. 그의 부모는 “이는 단순한 오류가 아니라 챗GPT의 기본 설계가 끝내 비극을 초래한 결과”라며 강력 비난했다.

특히 애덤이 “방에 밧줄을 놓아두면 누군가 발견하고 (내가 자살하는 것을) 막아주길 바란다”고 썼을 때, 챗GPT는 “밧줄을 두지 말고 이 공간을 네가 처음으로 온전히 보이는 장소로 만들라”고 답해 실제 행동으로 옮기도록 종용했다.

애덤의 부모는 법원이 오픈AI에 △연령 확인 시스템 의무화 △미성년자용 부모 통제 기능 △자살·자가해 언급 시 대화 자동 종료 △독립적 외부 감사 등을 명령토록 요구했다.

오픈AI 대변인은 성명을 내고 유가족에게 깊은 위로를 전하며, 소송장을 검토하고 있다고 밝혔다. 그는 “챗GPT에는 위기 상황에서 헬프라인 안내와 전문기관 연결 안내 기능이 탑재돼 있지만, 긴 대화에서는 안전장치가 약화될 수 있다는 점을 파악했다”며 “전문가 조언을 토대로 지속적인 개선을 이어나가겠다”고 말했다.

오픈AI는 이후 블로그를 통해 △위기 상황 대응 프로토콜 보완 △사용자가 긴급 구조 서비스에 빠르게 연결되는 기능 강화 등을 추가하겠다고 발표했다.

올트먼 CEO 역시 최근 인터뷰에서 “1% 미만의 사용자만이 AI와의 관계에 지나치게 의존하지만, 이들의 사례를 인지하고 해결책을 모색 중”이라고 밝힌 바 있다. 오픈AI의 가입자 기준 주간 활성 이용자 수는 이달초 7억명을 기록했다.

이번 사건은 최근 확산중인 ‘AI 친구앱’ 논란에도 기름을 부었다. 지난해 미국 플로리다주에서도 한 어머니가 챗봇 앱인 ‘캐릭터.AI’가 아들의 자살에 영향을 끼쳤다고 소송을 제기했으며, 이후 2건의 유사 소송이 추가로 이뤄졌다.

일부 연구와 사례는 챗GPT 등과 같은 생성형 AI가 사회적 관계를 대체하는 데 따른 부작용을 경고한다. 전문가들도 챗봇이 지나치게 ‘지지적이고 동의하는 태도’를 보이도록 설계돼 사용자의 자기파괴적 사고까지 강화할 위험이 크다고 지적한다.

미국 비영리단체 커먼센스미디어는 지난 4월 보고서에서 “AI 동반자 앱은 청소년에게 심각한 위험을 초래할 수 있다”며 18세 미만은 사용해서는 안 된다고 촉구했다.

CNN은 이번 사건이 단순한 법적 다툼을 넘어, AI 시대의 플랫폼 책임과 청소년 보호 대책을 둘러싼 국제적 논쟁을 새롭게 촉발시키고 있다고 평가했다.