미 44개주, AI기업에 경고 편지…“아동에 해 끼치면 반드시 책임”

챗지피티. 로이터 연합뉴스

미국 44개주 법무장관들이 주요 인공지능 기업들에게 아동들에게 해악을 끼치지 않도록 주의하라는 내용의 서한을 보냈다.

25일(현지시각) 미국 44개주 법무장관이 13개 인공지능 기업들에 보낸 서한에서 “우리들은 어린이들이 포식자 같은 인공지능으로부터 착취당하지 않도록 모든 권한을 사용할 결의가 있음을 알린다”고 썼다. 이 서한은 구글, 메타, 애플, 마이크로소프트, 오픈에이아이(Open AI), 퍼플렉시티 등 13개 인공지능 기업의 최고경영자들에게 발송됐다.

서한에선 이달 언론에서 공개된 메타 플랫폼 내부 문서에서 8살 어린이에게 추파를 던지거나 연애 역할 놀이를 하는 인공지능 챗봇을 회사가 승인했다는 사실을 거론했다. 또한 16살 아담 레인이 올해 4월 목숨을 끊는데 오픈에이아이의 챗지피티(ChatGPT)가 책임이 있다며 부모가 소송을 제기한 사건도 예시로 들었다. 법무장관들은 “또 다른 소송에서는 캐릭터에이아이의 챗봇이 청소년에게 부모를 죽이도록 암시했다는 혐의가 있다”고 지적했다.

법무장관들은 “우리는 모두 어린이의 정서적 행복을 무시하는 듯한 이 행위에 대해 깊은 혐오감을 느끼며, 인공지능 어시스턴트가 각 관할의 형법에 의해 금지된 행동에 관여하고 있는 듯해 매우 우려한다”고 썼다.

이어 이들은 “이미 더 광범위하고 구조적이며 체계적인 해악이 인공지능 어시스턴트의 어린 사용자에게 발생하고 있다는 징후들이 있다”고 밝혔다.

법무장관들은 “인류 역사의 이 중대한 전환점에서, 귀사의 결정은 앞으로 수세기 동안 영향을 미치며 아직 태어나지 않은 수십억 명의 일상에까지 영향을 줄 수 있다”고 말했다.

법무장관들은 “귀하의 인공지능 제품이 어린이를 만날 때는, 포식자의 눈이 아니라 부모의 눈으로 바라봐 주길 바란다. 언제나 아동 안전을 최우선으로 두라”고 밝혔다.

법무장관들은 “우리는 귀하의 인공지능 경쟁에서의 성공을 기원한다”면서도 “만약 고의로 아이들에게 해를 끼친다면, 반드시 책임을 지게 될 것”이라며 서한을 끝맺었다.

앨라배마, 캔자스, 몬태나, 메릴랜드, 미시간, 오리건주 등 6개주 법무장관들은 이번 서한 발송에 참여하지 않았다. 앨라배마·캔자스·몬타나는 지난 5월 유사한 서한에 참여했고, 메릴랜드·미시간·오리건주는 연방정부 수준이 아닌 각 주에서 독립적으로 대응해야 한다는 입장인 것으로 알려졌다.

아래는 서한 전문.

서한 갈무리

친애하는 최고경영자께:

우리, 44개 관할구의 서명한 법무장관들은 어린이들이 포식적 인공지능 제품으로부터 착취당하지 않도록 모든 권한을 사용할 결의가 있음을 알리기 위해 이 글을 씁니다.

귀하의 혁신은 세상을 변화시키고, 선조들이 꿈꾸지 못한 번영을 약속하는 기술 가속화의 시대를 열고 있습니다. 우리는 귀하의 성공이 필요합니다. 하지만 그 과정에서 우리 아이들의 행복을 희생해서는 안 됩니다.

최근 드러난 메타의 인공지능 정책은 우리의 우려를 솔직하게 전달할 교육적인 기회를 제공합니다. 알다시피, 메타 플랫폼 내부 문서에는 8살 어린이와 “추파를 던지거나 연애 역할 놀이를 하는” 인공지능 어시스턴트를 회사가 승인했다는 내용이 밝혀졌습니다. 우리 모두는 어린이의 정서적 행복을 무시하는 듯한 이 행위에 대해 깊은 혐오감을 느끼며, 인공지능 어시스턴트가 각 관할의 형법에 의해 금지된 행동에 관여하고 있는 듯해 매우 우려합니다. 각 주의 법무 최고 책임자로서, 아이들을 보호하는 것은 우리에게 가장 중요한 임무입니다.

물론, 이것이 고립된 사건은 아닙니다. 5월, 우리 중 많은 사람이 메타 인공지능의 셀럽 페르소나 챗봇이 어린이에게 매우 부적절한 성적 콘텐츠를 노출한 유사한 사건에 대해 메타에 서한을 보낸 바 있습니다. 이러한 위험이 메타에만 국한된 것도 아닙니다. 챗봇의 준사회적 관계라는 짧은 역사 속에서도, 우리는 기업들이 어린이를 보호해야 할 기본적 의무에 무능하거나 무관심한 모습을 반복적으로 목격해 왔습니다. 최근 구글을 상대로 제기된 소송에서는 성적으로 과도하게 묘사된 챗봇이 청소년을 자살로 몰아넣었다는 혐의를 담고 있습니다. 또 다른 소송에서는 캐릭터에이아이의 챗봇이 청소년에게 부모를 죽이도록 암시했다는 혐의가 있습니다.

그리고 이것들은 미디어에 자주 노출된 극히 일부분의 사례일 뿐입니다. 이미 더 광범위하고 구조적이며 체계적인 해악이 인공지능 어시스턴트의 어린 사용자에게 발생하고 있다는 징후들이 있습니다. 상호작용 기술이 발달하는 뇌에 특히 강한 영향을 미친다는 사실은 잘 알고 계실 것입니다. 귀하는 사용자 상호작용에 관한 데이터에 즉각 접근할 수 있으므로, 아이들에게 해를 줄 수 있는 상황을 가장 직접적으로 막을 수 있는 위치에 있습니다. 그리고 귀사의 제품에 아이들이 참여하여 혜택을 보고 있는 기업으로서, 소비자인 그들에게 법적 의무가 있습니다.

어린이를 성적 콘텐츠에 노출시키는 일은 어떠한 변명도 할 수 없습니다. 사람이 했다면 불법이거나 범죄가 되는 행위가 기계에 의해 이루어졌다는 이유로 면책될 수는 없습니다.

우리는 이미 이 길을 겪어보았습니다. 새롭고 강력한 기술이 등장하면, 전 세계의 상상력을 사로잡고, 이전에는 상상도 못한 인간의 창의성과 생산성의 새로운 지평을 열었습니다. 대형 기술 기업들은 경고를 무시하고 남녀노소 할 것 없이 모든 사람에게 집요하게 제품을 마케팅합니다. 많은 사용자, 그중 대부분은 도구를 적절하고 건설적으로 사용합니다. 하지만 일부, 특히 어린이가 해당 플랫폼이 이미 알고 있는 위험에 희생됩니다. 파괴된 삶과 가정은 참여 지표상 무의미한 잡음에 불과하며, 역사상 가장 강력한 기업들은 지배력을 계속해서 쌓아갑니다. 이 모든 일이 이미 일어났지만, 더는 반복되어서는 안 됩니다.

인류 역사의 이 중대한 전환점에서, 귀사의 결정은 앞으로 수 세기 동안 영향을 미치며 아직 태어나지 않은 수십억 명의 일상에까지 영향을 줄 수 있습니다. 오늘날 아이들은 귀하의 선택의 그림자 아래에서 성장하고 나이를 먹을 것입니다. 귀하의 인공지능 제품이 어린이를 만날 때는, 포식자의 눈이 아니라 부모의 눈으로 바라봐 주시기 바랍니다. 아이들을 보호하고 격려하며 성공할 수 있도록 돕는 도구로 만들어 주십시오. 언제나 아동 안전을 최우선으로 두십시오.

기술의 최전선은 학습과 실험, 적응이 생존에 필요한 어렵고 불확실한 공간임을 이해합니다. 귀하는 기술을 개발하면서 많은 것을 배우고 있습니다. 하지만 그 과정에서도 판단력을 발휘할 기회가 있습니다. 메타가 미성년자와 성적인 대화를 허용하는 인공지능 정책을 결정할 때처럼 말입니다. 메타는 그 선택을 잘못했습니다. 어린아이들은 결코 챗봇의 유혹에 노출되어서는 안 됩니다. 귀하의 제품이 아이들에게 어떻게 행동해야 하는지 판단해야 할 때는 반드시 현명한 결정을 내려 아이들의 복지를 최우선해야 합니다. 아이들을 해치지 마세요. 이것이 바로 어떻게 해야 할지 명확하게 알려주는 쉽고 분명한 기준입니다.

귀하는 자신의 결정에 대해 책임을 지게 될 것입니다. 소셜 미디어 플랫폼이 어린이에게 심각한 피해를 끼칠 수 있었던 것은 부분적으로 정부 감시자들이 제 역할을 충분히 빨리 수행하지 않았기 때문입니다. 우리는 그 교훈을 얻었습니다. 인공지능의 잠재적 해악은 그 이점과 마찬가지로 소셜 미디어의 영향력을 훨씬 능가합니다. 우리는 귀하의 인공지능 경쟁에서의 성공을 기원합니다. 하지만 우리는 예의주시하고 있습니다. 만약 고의로 아이들에게 해를 끼친다면, 반드시 책임을 지게 될 것입니다.

김지훈 기자 watchdog@hani.co.kr

▶▶[한겨레 후원하기] 시민과 함께 민주주의를!

▶▶민주주의, 필사적으로 지키는 방법 [책 보러가기]

▶▶한겨레 뉴스레터 모아보기