폭우에 경복궁이 물에 잠겼다?...진짜 같은 AI 영상에 '화들짝'

━

폭우로 인한 피해가 이어지고 있는 가운데 AI로 만든 가짜 폭우 영상이 화제가 되고 있습니다. 경복궁이 물에 잠기거나 침수된 강남역을 배경으로 중계방송을 하는 장면 등이 진위를 판단하기 어려울 정도로 사실적으로 묘사됐기 때문인데요. 이런 가짜 AI 영상이 빠르게 확산하는 데 비해 제도적 장치는 제대로 갖춰지지 않아 우려를 낳고 있습니다.

━

"와, 비가 엄청 왔습니다. 경복궁이 물에 잠겼어요"

"여기 대박! 고양이들 수영 겁나 잘해"

"강남은 폭우로 침수됐습니다. 몇 년 전에도 난리였는데 올해가 최악이네요"

유트브에 올라온 폭우 관련 영상들입니다.

물에 잠긴 경복궁에 물개가 나타나고, 고양이들은 침수된 도심 속에서 유유히 헤엄칩니다.

노란 우의를 입은 여성은 워터파크가 개장했다며 물에 뛰어들기도 합니다.

얼핏 보면 진짜 같지만 모두 AI로 만든 가짜 영상들입니다.

지난 5월 구글이 내놓은 AI 영상 제작 프로그램 '비오3(Veo3)'를 활용한 겁니다.

비오3 출시 두 달 만에 제작된 AI 영상은 전 세계적으로 4천만건이 넘습니다.

문제는 장난식으로 만들었더라도 진짜인지 가짜인지 구분하기 어려운 AI 영상이 사회적 혼란을 부추기고 있다는 점입니다.

참새가 러브버그를 쪼아먹는 AI 영상은 현실감 있는 묘사 때문에 실제 상황이란 오해를 불러일으키기도 했습니다.

사실 확인 없이 무차별적인 퍼 나르기가 이어지며, 일부 방송사들은 '러브버그의 천적이 등장했다'는 오보까지 냈습니다.

AI로 제작한 딥페이크 영상을 보이스피싱 등 범죄에 악용하는 사례도 급증하고 있습니다.

하지만 무분별한 AI 영상 제작과 확산을 방지할 법적 제재나 제도적 장비 마련은 더디기만 합니다.

AI로 만든 영상에 반드시 워터마크를 표기하도록 하는 'AI 기본법'이 내년 1월 시행될 예정이지만 워터마크를 쉽게 제거할 수 있다는 점에서 실효성은 의문입니다.

다만 일각에서는 과도한 규제가 국산 AI 기술 발전을 저해할 수 있다는 반론도 있습니다.



박준우 기자

JTBC의 모든 콘텐트(기사)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.

Copyright by JTBC All Rights Reserved.