30년 경력 美변호사도 챗GPT 가짜 정보에 당했다

동아일보 DB

30년 경력의 미국 베테랑 변호사가 법원에 서류를 제출하면서 생성형 인공지능(AI) ‘챗GPT’를 사용해 판례를 인용했다 제재를 받을 처지에 놓였다. 챗GPT를 통해 인용한 판례가 실제로 존재하지 않는 ‘거짓’임이 밝혀졌기 때문이다. AI가 만들어낸 각종 거짓정보에 따른 부작용이 속출하는 가운데 전문직 종사자 또한 AI의 윤리적 사용에 상당한 주의를 기울여야 함을 보여준다는 지적이 나온다.

28일 CNN 등에 따르면 케빈 카스텔 뉴욕 맨해튼 연방지법 판사는 거짓 판례가 다수 포함된 서류를 법원에 제출한 30년 경력의 스티븐 슈워츠 변호사에 대한 제재를 논의하기 위해 다음 달 8일 청문회를 열겠다고 밝혔다. 카스텔 판사는 “슈워츠 변호사가 제출한 서류는 위조된 허위 사법부 결정 및 허위 인용문으로 가득했다”며 “전례가 없는 상황”이라고 질타했다.

슈워츠 변호사는 2019년 8월 중남미 엘살바도르에서 뉴욕으로 오는 콜롬비아 아비앙카항공을 이용한 로베르토 마타 씨의 사건에서 마타 씨의 변론을 맡았다. 마타 씨는 기내 음식 운반용 철제 카트에 무릎을 부딪혀 다쳤다며 최근 항공사를 상대로 소송을 제기했다.

항공사 측은 통상적인 항공 사건의 공소 시효(2년)가 지났다고 주장했으나 슈워츠 변호사는 시효와 무관하다며 대한항공, 중국 난팡항공 등 타국 항공사에서 발생한 유사 사건에 대한 판례를 담은 10쪽 분량의 의견서를 제출했다. 하지만 그가 인용한 판례 중 최소 6개가 거짓이었음이 드러났다.

논란이 확산되자 슈워츠 변호사는 25일 “업무를 ‘보완’하기 위해 챗GPT에 자문을 구했다”고 뒤늦게 시인했다. 챗GPT에 반복적으로 해당 판례가 진짜인지 물어봤고 그때마다 챗GPT가 ‘그렇다’고 답해 진위를 의심하지 않았다고 주장했다.

이채완 기자 chaewani@donga.com

ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지