과기부-업스테이지, AI 윤리·신뢰성 강화 방안 논의

정부와 인공지능(AI) 스타트업 업스테이지가 AI 윤리·신뢰성 확산 방안을 논의했다.

박윤규 과학기술정보통신부 2차관은 15일 경기 용인시에 있는 업스테이지 연구소를 방문해 인공지능 윤리·신뢰성 확보 상황을 점검했다.

이활석 업스테이지 최고기술책임자(CTO)는 문서 인공지능 설루션 '다큐먼트 AI팩'과 인공지능 챗봇에 추천·검색 서비스를 더한' 애스크업 서제스트'를 소개하고 시연했다. 데이터 학습 과정에서 민감 정보 유출 방지 등을 위해 대책을 마련했던 경험도 공유했다. 환각 현상 완화를 위해 챗봇에 검색 기능을 연동한 '? 검색'도 소개했다.

정부는 업스테이지를 시작으로 의료, 제조, 교육, 교통·운송, 금융 분야에서 대표 인공지능 기업을 순차적으로 방문할 계획이다. 박 차관은 "인공지능이 빠르게 확산하고 있는 상황에서 기술개발부터 활용 전 단계에서 윤리와 신뢰성을 확보하는 것이 산업 발전의 전제조건"이라며 "산업현장에서 애로사항과 지원 필요 사항을 경청하겠다"고 말했다.

이활석 업스테이지 CTO는 “업스테이지는 선도적인 AI 기술을 바탕으로 민관 논의 등 다양한 노력을 통해 AI기술 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것”이라고 밝혔다.

김성태 기자 kim@sedaily.com
[ⓒ 서울경제, 무단 전재 및 재배포 금지]