美 뉴저지 고교, AI 딥페이크 누드 사진에 발칵…경찰 수사

미국 뉴저지주의 한 고등학교에서 인공지능(AI) 기술을 활용, 여학생들의 합성 누드 사진이 퍼지면서 학교가 발칵 뒤집혔다.

전 세계적으로 AI 기술을 악용한 디지털 범죄 우려가 높아지는 가운데 AI 디지털 범죄가 이미 일상 속으로 깊이 파고든 사례라는 평가다. 조 바이든 미국 대통령은 지난달 30일 ‘안전하고 신뢰할 수 있는 AI 개발 및 사용에 관한 행정명령’을 발표했으나 딥페이크(AI로 만든 영상 합성·조작물) 피해는 더욱 확산할 전망이다.

사진=월스트리트저널(WSJ) 홈페이지 캡처

미 일간 월스트리트저널(WSJ)은 2일(현지시간) 미국 뉴저지주 부촌에 있는 웨스트필드 고등학교에서 복수의 학생이 AI 기술을 악용, 여학생들의 누드 사진을 만들고 유출한 것으로 나타나 경찰이 수사에 나섰다고 전했다. 매체는 해당 보도를 홈페이지 첫 화면에 비중 있게 보도했다.

WSJ에 따르면 학교는 학부모들에게 이메일을 통해 사건 발생을 공지했다. 학부모들은 자녀들이 수치심과 무력감을 느꼈다고 호소하고, 나중에라도 사진이 공개될 경우에 있을 피해를 걱정하고, 분노하고 있다고 매체는 전했다.

학교의 2학년 남학생들은 지난달 16일부터 이상한 행동을 하며 속삭이기 시작했고, 나흘이 지나 한 남학생이 다른 여학생에게 해당 사실을 알리면서 사건이 불거졌다. 한 학생이 AI 기반 웹사이트를 사용, 온라인에서 찾은 여학생 사진으로 누드 사진을 만들고 다른 남학생들과 그룹 채팅을 통해 공유한 것으로 알려졌다. 여학생들은 학교 관리자에게 이 사실을 알렸고, 관리자는 관련된 남학생을 면담했다고 매체는 전했다. 학교 교장은 해당 사진이 삭제됐으며 더 이상 유포되지 않는다는 메일을 학부모에게 보내고, 학생들에게 책임감 있는 기술 사용에 대해 교육하겠다고 밝혔다. 하지만 여학생들과 학부모들은 여전히 불안에 떨고 있고, 등교를 거부하고 있는 것으로 알려졌다.

WSJ는 미국 전역의 학교에서 스마트폰을 활용한 괴롭힘이 만연해 있다고 지적했다.

이제까지는 포토샵 등을 통해 이미지를 조작할 수 있었지만, AI를 활용한 기술을 활용할 경우 쉽게 조작된 사진을 만들 수 있고, 몇번의 조작 만으로 사회관계망서비스(SNS)에 공유할 수 있는 상황이라고 전했다.

챗GPT를 만든 오픈AI의 이미지 생성 AI인 ‘달리’(DALL-E), 어도비의 생성 AI인 ‘파이어플라이’(Firefly) 등은 사용자가 포르노 이미지를 만들지 못하도록 하는 설정이 있지만, 이미 온라인에 관련 제한이 없는 도구가 널리 퍼져 있다고 매체는 전했다.

이미지 분석 회사인 센시티(Sensity) AI에 따르면 딥페이크 허위 이미지의 90% 이상이 포르노라고 한다. 스냅과 틱톡 등의 기술 기업은 딥페이크 이미지 유통을 막기 위해 정부 단체와 협력하기로 했고, 스냅과 일부 회사들은 미성년자의 성적인 이미지를 AI로 생성하는 것을 금지하고 이를 국립 실종 및 착취 아동 센터에 신고한다고 밝혔다.

미국 내에서는 딥페이크 이미지 등에 대한 연방법이 뒤처져 있다는 지적도 나온다. 버지니아와 버지니아, 캘리포니아, 미네소타, 뉴욕 등 일부 주에서는 가짜 포르노 배포를 금지하거나 피해자에게 제작자를 민사 법정에 고소할 수 있는 권리를 부여하고 있지만, 당장 사건이 발생한 뉴저지주의 경우 관련법이나 계류 중인 법안이 있는지를 조사하고 있다고 WSJ는 전했다.

바이든 행정부는 지난달 30일 행정명령을 통해 AI가 생성한 콘텐츠에 워터마크(식별표시)를 부착하고 콘텐츠의 출처를 확인하는 기술 표준을 마련하도록 했다. 바이든 대통령은 행정명령 서명 전 연설에서 자신의 딥페이크 영상을 보고 자신도 깜빡 속았던 경험을 소개했다. 그는 “‘내가 도대체 언제 저런 말을 했지?’라고 말했다”며 규제 필요성을 강조했다.

워싱턴=박영준 특파원 yjp@segye.com

ⓒ 세상을 보는 눈, 세계일보