[K-VIBE] 이은준의 AI 톺아보기…AI 영상 시대, 무엇을 보고 믿을까-②

[※ 편집자 주 = 한국국제교류재단(KF)의 지난해 발표에 따르면 세계 한류 팬은 약 2억2천500만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화와 K컬처를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재하며 영문 한류 뉴스 사이트 K 바이브에서도 영문으로 보실 수 있습니다.]

이은준 경일대 사진영상학부 교수 [본인 제공]

필자는 현재 인공지능(AI) 기술은 발전했지만, 신뢰의 기준은 아직 과거에 머물러 있다고 단언할 수 있다.

AI 영상 기술은 이미 다음 단계로 넘어갔다. 그러나 우리는 여전히 '직접 보면 믿어도 된다'는 기준으로 세상을 판단한다.

영화와 예술은 이 기술의 가능성을 가장 먼저 활용했고, 이제 일상은 그 부작용을 가장 먼저 겪고 있다. AI 영상이 열어준 새로운 국면은 분명 창작자에게 기회였다. 그러나 동시에, 현실을 확인하던 우리의 감각을 가장 먼저 무너뜨린 기술이기도 하다.

이제 중요한 질문은 AI가 무엇을 만들 수 있는가가 아니라, 우리는 무엇을 믿어야 하는가다.

◇ 존재하지 않았던 장면이 삶을 파괴할 때

AI 딥페이크 성범죄는 큰 이슈다. 최근 터진 그록(Grok)의 인플루언서 합성 영상 사태가 그 방증이다.

딥페이크 논란에 빠진 그록 [연합뉴스 자료 사진]

AI 영상의 부작용은 피싱 범죄에만 그치지 않는다. AI 영상 기술이 만들어낸 가장 폭력적인 결과 중 하나는 딥페이크 성범죄다. 이 범죄의 핵심은 노출이나 선정성에 있지 않다. 문제는, 존재하지 않았던 장면이 '이미 있었던 일'처럼 유통된다는 사실에 있다.

최근 보고되는 딥페이크 성범죄의 상당수는 실제 인물이 전혀 관여하지 않은 영상에서 시작된다. 범죄자는 SNS에 공개된 사진 몇 장, 인터뷰 영상의 일부, 혹은 단 몇 초 분량의 얼굴 데이터를 수집한다. 그다음, 성적 맥락이 설계된 영상 속에 해당 얼굴을 자연스럽게 합성한다.

결과물은 더 이상 조악한 합성이 아니다. 시선은 흔들리지 않고, 표정은 맥락에 맞게 반응하며, 조명과 해상도, 움직임은 실제 촬영 영상과 거의 구분되지 않는다.

여기서 중요한 점은, 이 영상이 피해자를 '닮은 누군가'를 보여주지 않는다는 것이다. 영상은 명백히 그 사람처럼 보이는 얼굴, 그 사람처럼 반응하는 표정, 그 사람의 일상적 이미지와 연결되는 맥락을 동시에 제시한다. 이때 피해자는 단순히 사생활이 침해된 것이 아니라, 자신의 존재 자체가 위조된 상태에 놓인다.

딥페이크 성범죄가 기존의 불법 촬영이나 합성 범죄와 근본적으로 다른 이유도 여기에 있다. 과거의 성범죄 영상은 '저 사람이 저 상황에 있었다'는 왜곡된 기록이었다면, AI 딥페이크 영상은 '그 장면이 실제로 존재했다'는 가짜 기억을 사회에 심는다.

피해자들이 가장 자주 호소하는 고통은 영상의 노출 그 자체보다, 그 이후에 발생한다.

"저게 진짜냐"는 질문을 끊임없이 받아야 하고, 설명해야 하는 사람이 피해자가 된다. 영상은 거짓인데, 해명은 현실이 된다.

더 심각한 문제는, 이 영상들이 특정 플랫폼이나 폐쇄된 공간에만 머무르지 않는다는 점이다. 최근 사례들을 보면, 딥페이크 성 영상은 메신저, 커뮤니티, 심지어 자동 추천 알고리즘을 통해 확산된다. 한 번 생성된 영상은 통제되지 않는다. 삭제 요청은 늦고, 복제는 빠르다. AI 기술은 장면을 만드는 데 몇 분이면 충분하지만, 그 장면이 한 사람의 삶을 파괴하는 데는 훨씬 짧은 시간이 걸린다.

이 범죄가 특히 위험한 이유는, 피해자가 스스로를 증명해야 하는 구조를 만든다는 점이다.

'그런 적 없다'고 말해야 하고, '저건 가짜'라고 설명해야 한다. 그러나 영상이 제시되는 순간, 설명은 언제나 영상보다 늦다.

딥페이크 성범죄는 피해자의 신체를 침해하지 않았다고 말할 수 있을지 모른다. 그러나 이 범죄는 사회적 존재로서의 신뢰, 관계, 정체성을 직접적으로 공격한다. 직장, 학교, 가족, 인간관계는 영상의 진위를 따지기 전에 이미 흔들린다. AI 영상은 여기서 조작 도구가 아니라, 사회적 현실을 재구성하는 폭력의 매개체로 작동한다.

◇ AI 영상 기반 가짜 뉴스의 확산

또한 최근에는 AI로 생성된 영상이 가짜 뉴스의 신뢰도를 비약적으로 끌어올리는 도구로 작동하고 있다. AI 영상이 가짜 뉴스를 위험하게 만드는 이유는 단순히 허위 정보를 '생성'할 수 있기 때문이 아니다. 더 근본적인 문제는, 무엇이 사실이고 무엇이 조작인지 판별할 수 있는 기준 자체를 붕괴시키고 있다는 점이다.

과거의 가짜 뉴스는 비교적 명확했다. 출처가 불분명했고, 문장이 조악했으며, 이미지의 해상도나 합성 흔적에서 조작의 냄새가 났다. 언론과 독자는 일정 수준의 '의심 장치'를 작동시킬 수 있었다. 그러나 AI 영상 기반 가짜 뉴스는 이 방어선을 정교하게 우회한다.

최근 가장 심각하게 떠오르는 문제는 언론 보도의 출발점 자체가 흔들리고 있다는 것이다.

이제 언론사는 현장 취재 이전에 독자나 제보자로부터 받은 영상과 이미지를 검토한다. 문제는 이 제보물이 AI로 생성된 영상인지, 실제 촬영된 영상인지 기술적으로 즉각 판별이 거의 불가능한 수준에 도달했다는 점이다.

실제 존재하지 않았던 시위 장면, 발생하지 않은 사고 현장, 실존 인물이 특정 발언을 하는 것처럼 보이는 영상이 특히 큰 문제다.

이러한 콘텐츠들이 '제보 영상'이라는 형식을 통해 유통되기 시작하면서, 일부 매체는 이를 충분히 검증하지 못한 채 보도에 활용했고, 이후 정정 보도를 내는 사례들이 늘고 있다. 이 과정에서 이미 여론은 한 번 오염된 뒤다.

AI 영상은 여기서 교묘하다. 실제처럼 보이게 설계된다. 흔들리는 카메라 워크, 과도하지 않은 해상도, 주변 소음, 자연스러운 프레이밍. 이 모든 것이 '현장성'이라는 시각적 신뢰 코드를 완벽히 재현한다. 결과적으로 언론조차 '의심해야 할 대상'을 기존의 기준으로는 구분할 수 없게 된다.

또한 어떤 AI 영상 기반 가짜 뉴스는 과거처럼 자극적인 주장으로 사람을 선동하지 않는다. 대신 차분하게 설명한다. 데이터 그래프, 자막, 용어가 함께 제시되며, 전문가처럼 보이는 인물이 등장하고, 논리적인 구조로 사건을 해석한다.

이 형식은 매우 위험하다. 사람은 주장을 들을 때 반박을 준비하지만, 설명을 들을 때는 판단을 멈춘다. 특히 영상 매체는 이 판단 중단을 훨씬 빠르게 유도한다. AI 가짜 뉴스는 바로 이 지점을 노린다. '믿어라'고 말하지 않는다. 대신 '이해해 보라'고 말한다.

그 결과, 시청자는 스스로 납득했다고 느낀다. 이것이 AI 영상 기반 가짜 뉴스가 기존 허위 정보보다 훨씬 교정이 어려운 이유다.

더 심각한 문제는, 이러한 사례들이 반복될수록 언론 전체에 대한 신뢰가 함께 붕괴된다는 점이다.

필자가 파악한바 다음과 같은 과정으로 신뢰가 붕괴된다.

AI 영상에 속아 잘못된 보도를 하면 언론은 비난받는다.

그러나 모든 제보를 의심하면 속보 경쟁에서 뒤처진다.

결국 '빠른 보도'와 '완벽한 검증' 사이의 균형이 무너진다.

AI 영상 기반 가짜 뉴스는 허위 정보 문제만이 아니라, 현대 뉴스 시스템 자체의 취약점을 정밀하게 공략하는 기술이 되고 있다. (3편에서 계속)

이은준 미디어아티스트·인공지능 영상 전문가

▲ 경일대 사진영상학부 교수

<정리 : 이세영 기자>

seva@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>