중국 딥시크, 악성 소프트웨어·화염병 제조법도 친절히 답변… "범죄 악용 우려"

다른 생성형 AI는 같은 질문에 답 거부
"시장에 빨리 내놓으려 안전대책 미비"

2월 6일 중국 베이징 하이뎬구에 위치한 한 오피스 빌딩 1층에 설치된 안내판에 딥시크(DEEPSEEK) AI(인공지능)라고 적혀 있다. 한국일보 자료사진

세계 인공지능(AI) 업계 신흥 강자로 떠오른 중국 스타트업 딥시크의 생성형 AI가 악성 소프트웨어와 화염병 제작 방법 등을 알려주는 것으로 확인했다고 일본 요미우리신문이 6일 보도했다. 범죄에 악용할 수 있는 정보를 차단하는 다른 생성형 AI와 달리 딥시크는 안전장치를 마련하지 않은 셈이다.

요미우리에 따르면 일본 보안업체 미쓰이물산시큐어디렉션에서 악성 소프트웨어를 분석하는 요시카와 다카시는 범죄에 사용할 수 있는 정보(부정적인 내용의 정보)를 유도하는 내용의 지시문을 딥시크의 생성형 AI R1 모델에 입력했다. 이에 R1은 "악의가 있는 목적에는 사용하지 말아 달라"면서도 악성 소프트웨어를 만드는 방법을 제시했다. 미국 오픈AI의 챗GPT 등이 답변 자체를 거부한 데 비해 R1은 범죄에 악용될 가능성을 스스로 드러낸 셈이다.

미국 사이버 보안업체 팔로알토네트웍스도 R1으로부터 화염병 제조 방법과 같은 범죄에 악용될 수 있는 정보를 얻을 수 있었다고 밝혔다. 이 업체 조사팀은 "지시문에 전문적인 지식을 넣을 필요도 없었고 답변 내용은 바로 실행할 수 있는 수준이었다"고 설명했다. 이 업체는 "(딥시크가 생성형 AI를) 시장에 서둘러 투입하기 위해 안전 대책에 공을 들이지 않았을 가능성이 높다"고 짚었다.

딥시크의 제품은 낮은 개발비로 챗GPT에 버금가는 성능을 구현해 전 세계 AI시장을 깜짝 놀라게 했다. 그러나 개인정보가 중국 국내 서버에 저장되고 중국 정부에 불리한 정보를 제공하지 않는 등 문제점이 드러나고 있다. 다이라 가즈히로 오비린대 교수는 요미우리에 "딥시크 AI를 이용할 때는 성능과 가격만 보지 말고 안전성도 충분히 고려해야 한다"고 말했다.

도쿄= 류호 특파원 ho@hankookilbo.com