오픈AI "차세대 모델, 사이버 보안에 위협…방어 능력 강화해야"

[AI리포터]

오픈AI의 챗GPT 데이터 보존 명령이 해제됐다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 오픈AI가 차세대 인공지능(AI) 시스템이 심각한 사이버 보안 위협을 초래할 수 있다고 경고했다. 향후 AI 모델이 강력한 제로데이 공격을 감행하거나, 기업 및 산업 시설을 대상으로 실제 피해를 유발하는 정교한 공격을 지원할 가능성이 있다는 분석이다.

11일(혀닞시간) 블록체인 매체 크립토폴리탄에 따르면, 최근 오픈AI는 블로그를 통해 AI의 보안 능력이 급격히 향상되고 있다며, 2025년 8월 GPT-5가 보안 챌린지에서 27%를 기록했지만, 3개월 후 GPT-5.1 코덱스 맥스(GPT-5.1-Codex-Max)는 76%까지 도달했다고 밝혔다. 이제 오픈AI는 모든 신형 모델이 고도화된 사이버 보안 기능을 갖출 것으로 가정하며, 특히 잘 보호된 네트워크의 미확인 취약점을 공격하는 능력을 경계하고 있다고 밝혔다.

마이크로소프트(MS)의 지원을 받는 오픈AI는 AI를 방어적 보안에 활용하기 위해 노력 중이다. 보안 팀이 코드 문제를 점검하고 보안 취약점을 보완할 수 있도록 돕는 툴을 개발하고 있으며, 공격자보다 방어자에게 우위를 제공하는 것을 목표로 한다. 그러나 방어적 보안과 공격적 보안은 같은 기술을 활용하기 때문에 AI가 공격자에게도 유용할 가능성을 배제할 수 없다. 오픈AI는 단일 보호 조치에 의존하지 않고, 접근 제한, 인프라 보안 강화, 정보 흐름 통제, 지속적인 모니터링 등 다층적인 보안 시스템을 구축하고 있다.

오픈AI는 자사의 AI 모델이 사이버 공격을 지원하지 않도록 훈련하는 동시에, 합법적인 보안 작업과 교육에는 활용할 수 있도록 조정 중이다. 이상 활동이 감지되면 결과를 차단하거나, 약한 모델로 전환하거나, 인간 검토를 거치는 방식으로 대응한다. 또한, 전문 보안 테스트 그룹과 협력해 강력한 공격 시나리오를 시뮬레이션하며, 실제 위협보다 앞서 취약점을 발견하는 데 집중하고 있다.

AI의 사이버 보안 리스크는 업계 전반에서 우려되는 문제다. 오픈AI는 AI 기술이 공격자에게도 활용될 수 있다는 점을 인식하고 있으며, 새로운 보안 도구 '아드박'(Aardvark)을 비공개 테스트 중이다. 이 시스템은 개발자와 보안 팀이 대규모 취약점을 발견하고 수정하도록 돕는 역할을 하며, 오픈소스 소프트웨어에서도 새로운 취약점을 찾아냈다. 오픈AI는 비영리 오픈소스 프로젝트에 무료 보안 지원을 제공할 계획이며, 사이버 보안 전문가 그룹 '프론티어 리스크 카운슬(Frontier Risk Council)'을 신설해 AI 기술의 안전한 활용을 논의할 예정이다.

한편, 오픈AI는 다른 AI 기업들과 협력해 보안 위협에 대한 공통 이해를 구축하고 있으며, AI가 제로데이 취약점을 발견할 수 있다는 최근 연구 결과를 주목하고 있다. AI 기반 보안이 강화되고 있지만, 오픈AI 자체도 여러 차례 보안 침해를 경험한 만큼 AI 시스템 보호의 어려움을 강조했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>