와이즈스톤, AI기본법 대응 본격화…AI 신뢰성 인증 출범

이장욱 한국표준협회 검인증운영센터장, 윤형근 한국표준협회 인증본부장, 이동석 산업표준원 원장, 이영석 와이즈스톤 대표, 홍성욱 와이즈스톤 소장, 정세린 와이즈스톤 수석연구원(왼쪽부터)이 기념촬영했다.

국내 인공지능(AI) 시험·평가 전문기관 와이즈스톤(대표 이영석)은 한국표준협회와 함께 'AI+ 신뢰성(Trust) 인증'을 공식 발족하고, AI시스템 신뢰성을 시험과 평가를 통해 객관적으로 검증하는 신규 인증 제도 본격 운영에 돌입했다고 16일 밝혔다.

이번 AI+ 신뢰성 인증은 내년 1월 22일 시행 예정인 'AI기본법'이 요구하는 핵심 신뢰성 요건에 선제적으로 대응하기 위해 마련된 제도로, 고영향 AI시스템과 생성형 AI시스템을 포함한 다양한 AI시스템을 주요 대상으로 한다.

'AI기본법'은 안전성, 투명성, 공정성, 책임성, 설명가능성, 제어가능성(인적 감독), 프라이버시 보호 등 AI 신뢰성(Trustworthiness) 요소를 국가 핵심 요구사항으로 규정하고 있다. 이에 따라 AI시스템을 개발·운영·제공하는 기업과 기관은 단순한 규제 준수를 넘어, 사회적 책임과 위험 최소화를 위한 신뢰성 확보 활동을 객관적으로 입증해야 할 필요성이 커지고 있다.

와이즈스톤은 이러한 법적·사회적 요구에 대응해, AI시스템이 실제 운영 환경에서 안전하고 책임 있게 작동하는지를 시험과 평가를 통해 종합적으로 검증할 수 있는 AI+ 신뢰성 시험 체계를 구축했다. 기존 성능 중심 평가에서 나아가, AI가 현장에서 어떻게 운영·관리되고 있는지를 시험과 평가를 통해 확인하는 것이 인증의 핵심이다.

AI+ 신뢰성 인증은 AI기본법에 따른 분류 기준에 따라 △고영향 AI △생성형 AI △기타 AI로 구분된 모든 AI시스템을 대상으로 적용 가능하다.

에너지 공급, 식수 생산, 보건의료·의료기기, 원자력 발전, 범죄 수사(생체인식정보 활용), 채용 심사, 금융 심사, 교통체계, 공공서비스, 교육(유아·초등·중등) 등 사람 생명과 안전, 기본권 보호에 직접적인 영향을 미치는 영역에서 활용되는 AI시스템이 대표 인증 대상이다.

특히 △AI 신뢰성에 대한 객관적 증명을 요구 받는 기업 △고영향·생성형 AI 대응을 준비 중인 조직 △편향·안전·설명가능성 등 AI 리스크를 지속적으로 관리해야 하는 기관에 이번 인증이 권장된다.

AI+ 신뢰성 인증은 AI시스템 신뢰성을 단순 선언이 아닌 시험과 평가를 통해 객관적으로 확인하는 것이 특징이다.

와이즈스톤은 AI시스템 작동 방식이 투명하게 관리되고 있는지와 함께, 주요 판단 결과와 근거가 사람이 이해할 수 있는 수준으로 설명 가능한지를 시험한다. 또한 오작동이나 위험 상황 발생 시 인간이 개입할 수 있는 통제 구조와 공정성 확보 체계를 비롯해, 개인정보 보호, 비정상 상황에서 안정성, 기능적 오류에 대비한 안전 요구사항 충족 여부까지 종합적으로 시험한다.

AI+ 신뢰성 인증은 AI모델 성능 시험과 더불어, AI시스템 기획-데이터 관리-개발-운영-변경-폐기 전 과정에 대한 라이프사이클 기반 현장심사를 병행하는 방식으로 운영된다. 이를 통해 시험 결과가 실제 운영 환경과 정합성을 갖는지도 확인한다.

AI+ 신뢰성 인증은 ISO/IEC TR 24028(AI 신뢰성), ISO/IEC 42001(AI경영시스템), ISO/IEC 23894(AI 리스크 관리), ISO/IEC 42005(AI시스템 영향평가) 등 국제표준을 기반으로 설계됐으며, 국내 법·제도와 국제 AI 규제 환경을 동시에 고려한 인증 체계로 운영된다.

이번 인증 도입으로 AI+ 인증 체계는 △AI 성능 중심의 AI+ 스탠더드 △AI 품질 중심의 AI+ 프리미엄 △AI 시스템 운영 신뢰성 중심의 AI+ 신뢰성 인증으로 구분되는 단계적이고 상호 보완적인 구조를 갖추게 됐다.

이영석 와이즈스톤 대표는 “AI기본법은 AI를 '잘 만드는 것'뿐 아니라 '책임 있게 운영하고 그 결과를 증명하는 것'까지 요구한다”며 “AI+ 신뢰성 인증은 기업과 기관이 실제 운영 환경에서 AI 신뢰성을 어떻게 확보하고 있는지를 객관적으로 확인할 수 있는 실질적인 기준이 될 것”이라고 말했다.

이어 “와이즈스톤은 시험·평가 전문기관으로서 AI 신뢰성에 대한 객관적 검증 역량을 지속 고도화하며, 책임 있는 AI 생태계 조성에 기여해 나가겠다”고 밝혔다.

와이즈스톤은 이번 인증에서 AI시스템 신뢰성 시험 및 기술 평가 전반을 담당하며, 한국표준협회와 협력을 통해 고영향 AI와 생성형 AI를 포함한 다양한 AI 서비스에 대한 신뢰성 검증을 체계적으로 지원할 계획이다.

김현민 기자 minkim@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]