기시다·아베 등 日정치인 '가짜 음성' 앱 확산…"선거·재해 악용시 혼란"

[서울=뉴시스]생성형 인공지능(AI) 기술을 이용해 기시다 후미오 등 전·현직 일본 총리의 가짜 발언을 만들어낼 수 있는 앱이 인터넷에 공개됐다. 사진은 AI 기술을 사용해 기시다 총리의 목소리를 재현한 것으로 보이는 가짜 동영상. (사진출처: NHK) 2023.11.22. *재판매 및 DB 금지

[서울=뉴시스] 박준호 기자 = 생성형 인공지능(AI) 기술을 이용해 기시다 후미오 등 전·현직 일본 총리의 가짜 발언을 만들어낼 수 있는 앱이 인터넷에 공개됐다고 요미우리신문이 22일 보도했다.

보도에 따르면 앱에 문장을 입력하면 기시다 총리 등의 가짜 음성으로 낭독시키는 구조로, 스마트폰 등에서 무료로 사용할 수 있다.

이 앱에서는 기시다 총리 외에 아베 신조, 스가 요시히데 등 전직 총리의 가짜 발언을 작성할 수 있는 것도 공개돼 있다. 각각 3명의 얼굴 사진이 표시되며 입력란에 문장을 치면 3명과 비슷한 음성으로 해당 문장이 자동 낭독된다.

앱의 URL은 소셜미디어(SNS) 등에서 확산되고 있어 스마트폰 외에 PC 등으로 접속하면 바로 사용할 수 있다. 실제로 X(옛 트위터)에는 이 앱으로 만든 것으로 보이는 '가짜 발언'이 게시돼, 아베에게 "딥스테이트(Deep state·숨겨진 권력집단), 포위망 구축에 대해 푸틴 대통령과 위기감 공유" 등 허위 발언을 하게 했다.

요미우리에 따르면 문제의 앱은 일본 중부 효고현에 살고 있는 한 남성(25)이 개발한 것으로, 기시다 총리 등의 연설 동영상 등에서 음성을 학습시켜 가짜 음성을 만들고, 입력한 문장을 자동으로 낭독하게 하는 앱을 만들었다고 한다.

이 남성은 지난해 가을 이후 아베, 스가 외에 기시다 총리의 가짜 음성을 이용한 동영상을 제작해 정기적으로 글을 올리고 있다. 앱을 만든 이유에 대해 "나처럼 정치인들을 바보로 만든 패러디를 만드는 사람이 나타나길 바란다고 생각했다"고 말했다.

소셜미디어 전문가인 야마구치 신이치 고쿠사이대 교수는 딥페이크(deepfake·인공지능을 이용해 특정인의 얼굴 등을 다른 화면에 덧입히는 기술)의 대중화가 진행되고 있다고 분석하고 "정치인의 가짜 동영상이나 가짜 음성이 선거나 주가, 재해 시 등 여러 상황에서 혼란을 일으키는 것은 쉽게 상상할 수 있다"며 "SNS로 국경을 넘어 확산되는 것도 위협이고 선전에 이용되면 국제문제로도 발전할 수 있다"고 경고했다.

앞서 일본에서는 AI 기술을 이용해 기시다 총리의 목소리를 재현한 것으로 보이는 가짜 동영상이 소셜미디어에서 확산된 바 있다. 이 동영상에는 일본 민영 니혼TV의 실제 뉴스 프로그램과 유사한 로고나 자막 등이 표시됐다.

이에 대해 마쓰노 히로카즈 관방장관은 6일 기자회견에서 "정부의 정보를 거짓으로 발신하는 것은 경우에 따라서는 민주주의의 기반을 손상시킬 수도 있기 때문에 행해져서는 안 된다"고 지적했다.

☞공감언론 뉴시스 pjh@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개

<저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>