라바웨이브-카이스트, 딥페이크 생성 차단 기술 개발

라바웨이브가 KAIST 사이버보안연구센터와 공동으로 딥페이크 사전예방 기술을 개발했다고 밝혔다.

이 기술은 기존의 사후 탐지 방식과 달리 딥페이크 생성 자체를 차단하는 방식이다. 생성형 AI에 대한 적대적 공격(Adversarial Attack) 기법을 활용해 원본 이미지를 보호한다.

구체적으로는 사람의 눈으로 인지할 수 없는 수준의 미세한 노이즈를 원본 이미지에 추가하는 방식이다. 일반 사용자가 사진을 볼 때는 차이를 느낄 수 없지만, 딥페이크를 생성하는 AI 모델이 이 이미지를 학습하거나 처리할 때 심각한 오류가 발생해 정상적인 결과물을 생성하지 못하게 된다.

기존 딥페이크 탐지 기술이나 디지털 워터마킹은 이미 생성된 콘텐츠를 찾아내거나 추적하는 방식인 반면, 이번 기술은 생성 단계에서 차단하는 선제적 방어 방식이라는 점이 차별점이다. 스마트폰 카메라 앱, 클라우드 서비스, 소셜미디어 등 다양한 플랫폼과 디바이스에 적용할 수 있다.

김준엽 대표는 "딥페이크 범죄는 기술적 대응 없이 근본적인 예방이 불가능하다"며 "글로벌 플랫폼과 디바이스 제조사들과의 협력을 통해 안전한 디지털 환경을 만드는 데 기여할 것"이라고 말했다.

KAIST 사이버보안연구센터는 2010년 설립돼 AI 기반 딥페이크 분석 및 사이버 범죄 탐지 기술을 개발하고 있다. 라바웨이브는 2015년부터 악성앱 분석, 불법 영상물 유포방지, AI 기반 모니터링 시스템 등 디지털 범죄 대응 사업을 진행해왔다.


글 : 플래텀(editor@platum.kr)
ⓒ '스타트업 전문 미디어 & 중화권 전문 네트워크' 플래텀, 조건부 전재 및 재배포 허용