시민 천 명 참가 'AI 레드팀 챌린지' 국내 처음 열려

사람들의 집단지성을 이용해 생성형 AI의 취약점을 발견하기 위한 '생성형 AI 레드팀 챌린지' 대회가 국내에서 처음으로 열렸습니다.

대회 참가자는 직업·연령에 상관없이 AI에 관심이 많은 지원자 천 명으로 구성됐는데, 교묘한 질문으로 AI를 공격해 잘못됐거나 부적절한 대답을 도출해 내는 방식으로 진행됐습니다.

공격 대상 AI는 네이버와 SKT 등 국내 4개 기업의 거대언어모델, LLM인데, 유해한 답변이나 편견과 차별, 악성코드 정보제공, 오답이나 모순적 답변도 포함됐습니다.

과기정통부는 이번 AI레드팀 챌린지가 지난해 8월 미국 빅테크들에 이어 이번이 두 번째 라며, 결과를 정리해 AI 가이드라인을 만들 계획이라고 밝혔습니다.

YTN 김기봉 (kgb@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr

[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]

대한민국 24시간 뉴스 채널 [YTN LIVE] 보기 〉
대화로 배우는 이 세상 모든 지식 [이게 웬 날리지?] 〉
소리 없이 보는 뉴스 [자막뉴스] 〉