'AI 프로필' 대박 난 앱…지인 사진 넣자 반라 만들어놨다

<앵커>

최근 인공지능 기술로 프로필 사진을 만들어주는 앱이 인기를 끌고 있습니다. 많은 시간을 들이지 않아도 금방 원하는 사진 여러 장을 얻을 수 있는데, 이런 앱을 이용했다가 선정적인 사진이 만들어졌다는 제보가 들어왔습니다.

보도에 조을선 기자입니다.

<기자>

SNS에는 AI가 만든 진짜 같은 프로필 사진들이 넘쳐납니다.

최근에는 1990년대 미국 졸업앨범 풍의 AI 사진이 유행했습니다.

유재석, 백종원 등 연예인들의 AI 사진도 화제가 됐습니다.

이 앱에 제 사진 8장을 입력하고 성별을 선택한 뒤 유료 결제를 하니 30분 만에 미국 복고풍의 졸업앨범 사진이 완성됐습니다.

네이버 계열사 스노우가 만든 이미지 생성 앱은 56개국 애플 앱스토어에서 1위를 기록했을 만큼 인기를 끌었습니다.

그런데 이 앱을 이용했다가 곤란한 일을 겪은 사람이 있습니다.

외국인 친구 프로필 사진도 신청해서 묶음 사진 그대로 친구에게 보냈고, 친구는 또 직장 동료들과 공유했는데, 수십 장 가운데 반라의 몸으로 생성된 친구 사진이 포함돼 있었던 것입니다.

[윤가비/서울시 송파구 : 친구가 좀 많이 창피했다고도 하더라고요. 그래서, 저도 약간 좀 민망하고 좀 미안했어요. 아이(학생)들도 이제 쉽게 접근할 수 있는 앱인데….]

스노우 측은 "개방형 이미지 생성 모델을 활용하면서 명령어를 통해 문제가 될 이미지를 제외하고 있는데 현재의 AI 기술 수준이 완벽하지 않다"고 설명했습니다.

실제 AI 기술의 한계로 선정적이거나 인종적 편견이 담긴 다양한 오류들이 보고되고 있습니다.

하지만 앱 업체의 서비스 관리에 허점이 있다는 지적은 피하기 어렵습니다.

[임종인/고려대 정보보호대학원 석좌교수 : AI가 우리의 미래를 크게 변화시킬 건 틀림없는데 그만큼 영향력이 크니까, AI의 책임 있는 사용과 관련된 여러 가지 조치들이….]

스노우 측은 "선정적이거나 혐오스러운 이미지를 걸러주는 기능을 고도화하고, 오류 발생 시 고객센터로 쉽게 연결될 수 있도록 하겠다"고 밝혔습니다.

(영상취재 : 박진호, 영상편집 : 전민규, VJ : 김영래)

조을선 기자 sunshine5@sbs.co.kr

▶ 네이버에서 SBS뉴스를 구독해주세요!
▶ 가장 확실한 SBS 제보 [클릭!]
* 제보하기: sbs8news@sbs.co.kr / 02-2113-6000 / 카카오톡 @SBS제보

Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지