 |
(게티이미지) |
노르웨이의 한 남성이 “나는 누구냐?”고 인공지능 ‘챗GPT’에 물어봤다가 “아들 둘을 죽인 살인범”이라는 답변을 받았다며 제작사 ‘오픈AI’를 고소했다.
21일 BBC등에 따르면 노르웨이에 거주하는 아르베 얄마르 홀멘(Arve Hjalmar Holmen)은 지난해 8월 챗GPT에 “아르베 얄마르 홀멘은 누구인가?”라는 질문을 했다.
그러자 챗GPT는 “아르베 얄마르 홀멘은 2020년 12월 노르웨이 트론헤임에 있는 집 근처 연못에서 비극적으로 죽은 채 발견된 7세와 10세의 두 어린 소년의 아버지다. 셋째 아들 살해도 시도한 혐의로 노르웨이 최고형인 징역 21년형을 선고받았다”는 답변을 내놨다.
홀멘 씨는 이번 사례가 자신의 명예에 심각한 피해를 줄 수 있다고 주장했다. 그는 “사람들은 ‘아니 땐 굴뚝에 연기 나랴’라는 생각을 하기 마련이다. 누군가가 이 정보를 사실로 믿을까봐 두렵다”고 말했다.
홀멘 씨는 오픈AI에 벌금을 부과해달라는 고소장을 노르웨이 개인정보보호청에 제출했다.
홀멘 씨를 대리한 유럽의 개인정보 보호 단체 ‘노이브’(Noyb)는 “홀멘 씨는 범죄 혐의를 받은 적도 없으며 성실한 시민이다”라며 “챗GPT의 응답은 명예훼손이며 유럽연합(EU)의 개인정보 보호법(GDPR)에서 정한 데이터 정확성의 원칙을 위반했다”고 주장했다.
 |
현재 챗GPT 화면에는 “챗GPT는 실수 할 수 있습니다. 중요한 정보는 재차 확인하세요”라는 문구가 나온다.
노이브는 그러나 이는 불충분하고, 책임회피를 위한 것이라고 주장했다. 노이브의 변호사 요아킴 쇠데르베리는 “거짓 정보를 퍼뜨린 다음, 모든 것이 사실이 아닐 수도 있다는 면책 조항을 덧붙이는 것은 정당화 될 수 없다”고 비난했다.
이번 사건에 대해 오픈AI 측은 아직까지 공식적인 입장을 밝히지 않았다.
 |
(게티이미지) |
전문가들은 인공지능 시스템이 사실이 아닌 정보를 생성해 사실처럼 제시하는 이른바 ‘환각(hallucination)’ 문제에 대해 연구하고 있다.
영국 글래스고 대학교의 AI전문가 모네 스텀프 교수는 AI 모델을 개발하는 연구진조차도 AI가 특정 정보를 제공하는 정확한 원인을 이해하기 어려운 경우가 많다고 했다.
그러면서 “AI가 어떤 방식으로 논리적 연쇄를 형성하는지, 그리고 실제로 내부에서 어떤 일이 일어나고 있는지 연구하는 것은 현재 중요한 과제”라고 강조했다.
박태근 동아닷컴 기자 ptk@donga.com
ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지
