“이젠 AI가 틱톡 지킨다”…위반 콘텐츠 90% 사전 삭제

[디지털데일리 조윤정기자] 글로벌 숏폼 플랫폼 틱톡이 자사 플랫폼의 콘텐츠 신뢰도와 사용자 보호 강화를 위해 인공지능(AI) 기술을 적극 도입해 위반 콘텐츠의 90% 이상을 사전 차단하고 있다고 30일 밝혔다. 틱톡은 이날 온라인으로 진행된 '틱톡 신뢰와 안전(Trust & Safety)’ 브리핑에서 콘텐츠 감지·삭제 과정에서의 AI 활용 현황과 향후 계획을 공개했다.

아담 프레서 틱톡 운영 및 신뢰와 안전(Global Trust & Safety) 총괄은 “AI는 안전 정책 집행의 핵심 도구”라며 “커뮤니티 가이드라인을 위반해 삭제되는 콘텐츠의 85% 이상을 AI가 자동 감지하고 있으며, 전체 위반 콘텐츠의 90% 이상을 사전 삭제하고 있다”고 밝혔다. 이러한 성과는 수년간 AI 시스템에 대한 지속적인 투자와 고도화 작업의 결과라는 설명이다.

틱톡은 AI 기술을 통해 ▲유해 콘텐츠 및 패턴의 선제적 탐지 ▲양질의 콘텐츠 디스커버리 강화 ▲새로운 창작 도구 제공을 통한 창의성 증진이라는 세 가지 영역에서 플랫폼 가치를 확장하고 있다고 밝혔다.

특히 틱톡은 댓글 영역에서도 AI 기술을 실험적으로 도입해 커뮤니티 안전을 강화하고 있다. 틱톡은 대형언어모델(LLM)을 파일럿 형태로 도입해 댓글 내용을 검토하고 있다. 프레서 총괄은 “AI를 통해 지난해 그래픽 및 이미지 콘텐츠 검토 업무에서 직원들의 직접 확인 비중을 90%에서 60%로 줄일 수 있었다”며 “내부 콘텐츠 심사역 인력 보호와 사용자 보호를 동시에 실현하는 방향으로 AI를 활용하고 있다”고 덧붙였다.

이와 함께 틱톡은 AI로 생성된 악의적 콘텐츠 확산을 차단하기 위해 구체적인 가이드라인과 기술적 대응 방안을 운영하고 있다. 틱톡 관계자는 “크리에이터가 AI 생성 콘텐츠임을 명시한 경우, 사전 확인 후 라벨을 표시하며, 라벨이 없는 경우에도 자체 기준에 따라 선제적으로 조치한다”고 밝혔다. 또한 AI 콘텐츠 여부와 관계없이 커뮤니티 가이드라인을 위반한 콘텐츠는 모두 삭제된다고 강조했다.

또한 틱톡은 딥페이크를 비롯한 AI 생성 콘텐츠의 위험에 선제적으로 대응하고 사용자 보호를 강화하기 위해 다양한 외부 전문가 및 기관과 협력하고 있다.

프레서 총괄은 “관련 분야 전문가, 제3자 정보기관 등 외부 자문 네트워크를 통해 AI 콘텐츠와 관련된 위험 요소를 식별하고, 이러한 인사이트를 바탕으로 리스크를 어떻게 사전에 심사할지 결정하고 있다”고 밝혔다.

아울러 틱톡은 최근 글로벌 동영상 플랫폼 최초로 국제 콘텐츠 진위 표준인 C2PA(Content Provenance and Authenticity) 기술 표준을 도입해, 외부 플랫폼에서 생성된 AI 콘텐츠가 틱톡에 업로드되더라도 자동으로 ‘AI 생성 콘텐츠’임을 표시하는 시스템을 구축했다.

프레서 총괄은 “기술과 AI는 사용자 보호는 물론, 유해 콘텐츠를 사전에 감지하고 창작자들의 창의성을 촉진하는 데 중요한 역할을 한다”며 “틱톡은 앞으로도 새로운 기술과 정책을 시장에 선보이며, 업계 리더로서의 역할을 계속해서 확장해 나갈 것”이라고 말했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -