아마존, AI 생성 줄거리 오류 논란…AI 품질 관리 부실

[AI리포터]

[디지털투데이 AI리포터] 아마존이 프라임 비디오 오리지널 시리즈 폴아웃(Fallout)의 AI 생성 줄거리 요약을 공개했으나, 기본 설정조차 틀린 오류가 드러나며 논란이 확산하고 있다.

11일(현지시간) IT매체 엔가젯에 따르면, 해당 AI는 시즌1에 등장하는 로스앤젤레스 회상 장면의 시점을 1950년대로 잘못 표기했으며, 시즌1 결말도 제대로 이해하지 못한 채 부정확한 요약을 내놓았다. 폴아웃은 1945년 이후의 대체 역사에서 2077년 핵전쟁이 벌어진 세계관을 기반으로 하는 만큼, 이러한 오류는 설정 자체를 무시한 결과라는 비판을 받고 있다.

AI는 클립·음악·대사를 조합해 영상 요약을 자동 생성하는 기능을 갖고 있지만, 스토리 구조나 맥락을 이해하는 능력은 여전히 부족한 것으로 드러났다. 특히 아마존이 이 같은 AI 생성물을 별도의 검수 없이 그대로 업로드했다는 점은 품질 관리 부실 논란으로 이어지고 있다.

이 같은 문제는 이번 사례에 국한되지 않는다. 아마존은 최근 애니메이션 바나나 피쉬에 AI 더빙을 적용했다가 음질과 발음 문제로 비판을 받으며 영상을 삭제한 바 있다. 잇따른 실패가 누적되면서 사용자들의 불만도 커지는 상황이다.

전문가들은 AI가 빠르게 발전하고 있지만, 줄거리 해석이나 맥락 이해가 요구되는 작업에서는 여전히 한계가 명확하다고 지적한다. 콘텐츠 생산 과정에 AI 활용이 증가하는 만큼, 아마존이 검증 체계를 강화하고 책임 있는 운영 방식을 마련해야 한다는 요구가 높아지고 있다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>