이제 트럼프 얼굴·나치 문양도 나온다…챗GPT ‘민감한 이미지’ 정책 완화

로이터연합뉴스

최근 이미지 생성 인공지능(AI) 모델로 선풍적인 인기를 끌고 있는 오픈AI가 민감한 이미지 생성과 관련한 콘텐츠 정책을 완화했다.

오픈AI의 조앤 장 모델행동 책임자는 최근 자신의 블로그와 엑스 등을 통해 “우리는 민감한 분야에서 일괄적인 거부보다 현실 세계의 피해를 예방하는 데 초점을 맞춘 접근 방식으로 전환하고 있다”며 이같이 밝혔다.

오픈AI의 정책 변화에 따라 잘 알려진 공인이나 혐오를 상징하는 표현, 인종적 특징을 묘사한 이미지 등을 생성할 수 있게 됐다. 과거에는 도널드 트럼프 미국 대통령이나 일론 머스크 테슬라 최고경영자(CEO)와 같은 유명인의 이미지를 생성할 수 없었다.

장 책임자는 “오픈AI가 중재자가 되어 챗GPT가 생성해야 할 사람과 생성해선 안 되는 사람을 선택하는 것을 원하지 않는다”고 설명했다. 대신 사용자 스스로가 이미지 생성을 원하지 않을 경우 허용하지 않는 선택지를 제공한다.

공격적인 콘텐츠나 혐오를 상징하는 이미지 역시 제한에서 벗어나게 됐다. 장 책임자는 나치를 상징하는 스와스티카 문양을 예로 들며 이것이 교육적 목적 또는 중립적인 맥락 안에서 사용될 수 있다고 말했다. 또한 ‘특정 인물의 눈을 더 동양인처럼 만들어달라’는 등의 인종 관련 요청도 과거엔 제한됐지만 이제 가능해졌다.

장 책임자는 “그것들을 완전히 금지하면 의미 있는 대화와 지적 탐구까지 막을 수 있다”며 “대신 우리는 유해한 오용을 더 잘 식별하고 거부할 수 있는 기술적 방법을 반복하고 있다”고 설명했다.

오픈AI는 정책을 완화하면서도 극단주의적 의제를 추종하는 등의 콘텐츠는 여전히 막겠다는 입장이다. 하지만 일각에선 이번 정책 변화로 혐오 표현이 확산할 수 있다는 우려도 나온다. 미국 정보기술(IT) 전문 매체 테크크런치는 “이제 AI 콘텐츠 관리를 둘러싼 문화 전쟁이 본격화할 수 있다”고 지적했다.

AI의 콘텐츠 생성과 관련한 논란은 끊이지 않고 있다. 최근 출시돼 큰 화제를 모은 오픈AI의 이미지 생성모델 ‘챗GPT-4o 이미지 생성’은 일본 애니메이션 스튜디오 지브리의 화풍을 모방한 이미지를 만들어내며 저작권 침해 논란을 일으켰다.

최민지 기자 ming@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 주3일 10분 뉴스 완전 정복! 내 메일함에 점선면 구독

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지