메타, 딥페이크 누드 앱 단속 위해 홍콩 기업 고소

[박찬 기자]

메타가 '누디파이(Nudify)' 앱 문제로 홍콩 기업을 상대로 법적 대응에 나섰다. 인공지능(AI) 기술을 이용해 개인의 동의 없이 누드나 성적 이미지를 생성하는 앱을 플랫폼에서 광고한 혐의다.

메타는 12일(현지시간) 공식 블로그를 통해 홍콩의 조이 타임라인이 페이스북과 인스타그램 등에 '크러시AI(CrushAI)' 앱을 광고한 것에 대해 홍콩 법원에 소장을 제출했다고 밝혔다.

이 앱은 타인의 동의 없이 AI로 누드나 성적 이미지를 생성할 수 있어, '비동의 성적 이미지' 확산을 부추긴다고 주장했다.

메타는 이번 조치가 온라인 성 착취, 협박, 학대에 악용될 수 있는 AI 기반 콘텐츠에 대한 광범위한 단속의 일부라고 설명했다. "이런 앱이 인터넷 전반, 심지어 앱스토어에서도 유통되고 있어 단일 플랫폼에서 제거하는 것만으로는 충분하지 않다"라고 지적하며, 앞으로 비슷한 콘텐츠나 계정 정보를 다른 기술 기업과 공유하겠다고 밝혔다.

특히, 최근 이런 앱 광고가 눈에 띄게 증가하고 있다고 지적했다. 광고주들이 단속을 피하기 위해 평범한 이미지로 위장하거나, 도메인을 반복적으로 바꿔가며 광고를 이어가고 있다는 점도 밝혔다. 이에 대응해 메타는 노출 이미지가 포함되지 않아도 불량 앱 광고를 탐지할 수 있는 새로운 기술을 개발했다고 설명했다.

이번에 고소당한 조이 타임라인은 과거 광고 검토에서 규정 위반으로 제거된 이후에도 이를 회피하기 위해 여러차례 시도를 반복한 것으로 알려졌다. 이 회사는 메타의 고소에 대한 공식 입장을 밝히지 않은 상태다.

메타는 최근 몇년 간 아동 보호가 부족했다는 질타를 받아 왔다. 따라서 이번 발표는 이런 문제에 강력 대응하겠다는 메시지를 담고 있다.

최근 호주에서는 세계 최초로 16세 미만의 소셜미디어 사용을 금지하는 법이 시행될 예정이며, 각국 정부도 청소년 보호와 온라인 콘텐츠 규제 강화를 추진 중이다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>