사람 대신 AI에 '위험성 평가' 맡긴다는 메타... 사용자 보호 우려

새 기능 출시·알고리즘 변경 때
인간 대신 AI가 90% 판단키로
"속도 좇다 사용자 보호 놓칠라"

페이스북, 인스타그램 등을 운영하는 메타 로고. AFP 연합뉴스

사회관계망서비스(SNS) 페이스북·인스타그램 등을 운영하는 메타가 앞으로 자사 플랫폼의 개인정보 보호와 사회적 영향 평가를 인공지능(AI)에 더 많이 맡기기로 했다. 지금까지 메타는 새로운 기능이나 알고리즘을 도입할 때 사람이 직접 그 위험성을 검토해 왔지만, 앞으로는 평가 작업의 대부분을 AI가 자동으로 처리하게 된다.

1일(현지시간) 미국 공영라디오 NPR에 따르면 메타는 위험성 평가의 최대 90%를 자동화할 예정이다. 지금까지는 새로 출시하려는 기능이나 알고리즘이 사용자의 개인정보를 침해할 가능성은 없는지, 청소년에게 해가 되지는 않는지, 허위정보나 폭력적인 콘텐츠 확산을 조장하지는 않는지 등을 내부 전담 평가팀이 검토 및 승인해 왔다. 그러나 이제는 AI의 자동 심사가 원칙이 된다. 다만 유럽연합(EU)에 한해 기존 방식을 유지한다. EU는 플랫폼 기업에 불법·유해 콘텐츠 차단 책임을 의무화한 디지털서비스법(DSA)을 시행 중이다.

위험성 평가의 자동화를 통해 메타는 새 기능 출시까지 걸리는 시간을 크게 줄일 수 있을 것으로 기대하고 있다. 생성형 AI 부상으로 기술의 발전 속도가 빨라지면서, 최근 테크업계의 신기능 출시 기간은 1년에서 수개월 단위로 단축된 상황이다. 오픈AI, 틱톡, 스냅처럼 조직의 규모가 비교적 작고 기민한 회사들과 상대하려면 메타 역시 더 빠르게 움직일 필요가 있다고 판단한 것으로 읽힌다.

그러나 부작용을 우려하는 목소리가 크다. 전 메타 프라이버시 책임자였던 즈비카 크리거는 "대부분 개발자나 제품 관리자들은 프라이버시나 청소년 보호 전문가가 아니다"라며 "이들이 AI 평가만 받게 되면 형식적 점검에 그칠 위험이 상당하다"고 NPR에 말했다. 현직 메타 위험성 평가 담당자도 "우리는 기술적 결함만을 보는 게 아니라, 사람 입장에서 '무엇이 문제일 수 있을까'를 고민하는 존재"라며 "그 시선이 빠지면 문제가 생길 수밖에 없다"고 지적했다.

메타는 향후 불법·유해 콘텐츠 감시 등도 AI로 자동화할 계획이다. 이를 두고 NPR은 "메타가 '단순히 속도를 좇다가 사용자 보호라는 본질적 책임을 놓치는 것 아니냐'는 우려가 커지고 있다"고 전했다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com