안전한 AI 활용법은?…개정 '공공 개인정보 영향평가' 5일 시행

[디지털데일리 김보민기자] 공공기관이 인공지능(AI) 활용 사업을 추진할 때, 사전에 개인정보보호 위협 요인(리스크)을 식별할 수 있는 기준이 마련된다.

개인정보보호위원회(이하 개인정보위)는 전날 전체회의를 열고 '개인정보 영향평가에 관한 고시' 개정안을 의결했다고 4일 밝혔다. 개정 고시는 이달 5일부터 시행된다.

개인정보 영향평가는, 개인정보 처리가 필요한 사업을 추진할 때 사전에 개인정보에 미치는 영향을 분석하고 개선 방안을 수립해 사고를 예방하는 제도다. 공공기관을 이정 규모 이상 개인정보 파일을 구축, 운영, 변경할 경우 영향평가를 의무 실시해야 한다.

그러나 현행 고시에는 AI 분야에 대한 별도 기준이 없어, 그간 공공기관들은 개별 평가 항목을 개발해 반영해야 했다. 기관 입장에서 평가 항목이 적정한지를 알기 어려웠다는 의미다.

개인정보위는 고시 및 안내서를 개정해 ▲AI 시스템 학습 및 개발 ▲AI 시스템 운영 및 관리 등 2개 세부 평가 분야를 신설했다.

먼저 'AI 시스템 학습 및 개발'에는 개인정보를 처리할 때 적법한 법적 근거를 확보하고 있는지, 민감정보 및 14세 미만 아동 정보 등이 불필요하게 포함되지 않았는지 등을 검토하도록 했다. 아울러 AI 학습용 데이터 보유와 파기를 명확히 규정하도록 했다.

'AI 시스템 운영 및 관리'에는 AI 개발 및 운영주체 간 책임성을 명확히 하고, 생성형 AI 서비스를 제공할 때 허용되는 이용 방침을 제공하도록 했다. 또한 생성형 AI 시스템의 부적절한 답변과 개인정보 유·노출에 대한 신고 기능을 마련하도록 했다.

평가 항목에 대한 자세한 내용은 '개인정보 영향평가 수행 안내서'를 통해 공개된다. 개인정보위는 이번에 마련한 영향평가 기준이 공공기관뿐만 아니라 민간기업에서도 활용될 수 있을 것으로 전망했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -