AI 챗봇 '이루다' 서비스 잠정 중단…"차별·혐오 발언 사과"

아시아투데이 김나리 기자 = 인공지능(AI) 챗봇 ‘이루다’가 혐오 발언 및 개인정보 유출 논란으로 서비스를 잠정 중단한다.

이루다 개발사인 스타트업 스캐터랩은 11일 “특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다”며 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”고 밝혔다.

이어 “차별·혐오 발언이 발견되지 않도록 지속해서 개선 중이며 그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중”이라고 설명했다.

스캐터랩은 “이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라며 “이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획이다. 한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠다”고 언급했다.

스캐터랩은 논란이 되고 있는 개인정보 유출 의혹에 관련해 “개인정보 취급 방침 범위 내에서 활용했지만 이용자분들과 충분히 소통하지 못한 점에 사과드린다”며 “구체적 개인정보는 이미 제거돼있으며 개인을 특정할 수 있는 정보는 유출되지 않았다”고 해명했다.

또한 “전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다”며 “향후로는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 말했다.

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇으로 이용자가 40만명을 넘기는 등 출시 초반부터 주목을 받아왔다.

ⓒ "젊은 파워, 모바일 넘버원 아시아투데이"