[인터뷰] 전 세계 7000곳 기업·기관 보안 지킴이 ‘체크포인트’… 댄 카르파티 부사장 “AI 에이전트 시대 보안 위협 더 커졌다”

보수적으로 잡아도 앞으로 4년 후에는 인공지능(AI)이 대다수 인간의 일을 대신 처리할 수 있다고 본다. AI가 인간의 업무를 대체할수록 새로운 형태의 정보 유출·보안 사고가 발생할 수밖에 없다.

댄 카르파티(Dan Karpathi) 체크포인트소프트웨어테크놀로지스(이하 체크포인트) AI센터 총괄 겸 부사장은 지난달 27일 서울 소공동 웨스틴조선호텔에서 조선비즈와의 인터뷰를 통해 이같이 말했다. 그는 “지난 6년간 AI는 반년 주기로 ‘인간 대신 수행할 수 있는 업무 길이’가 2배씩 증가하고 있다”며 “우리는 AI로 인해 발생하는 사이버 보안 위협 수준이 굉장히 높아지는 것을 보고 있다”고 설명했다.

이스라엘계 글로벌 사이버보안 기업 체크포인트는 1993년 설립된 보안업계 ‘강자’다. 현재 전 세계 88개국에서 7000곳 이상 기업·기관의 보안을 책임지고 있다. 체크포인트에 소속된 보안 전문가만 3500명이 넘는다. 체크포인트는 ‘방화벽 소프트웨어’를 처음 개발했는데 현재 글로벌 기업에서 체크포인트 방화벽을 쓰지 않은 곳을 찾기가 힘들 정도다.

댄 카르파티 체크포인트 AI센터 총괄 겸 부사장이 지난달 27일 서울 소공동 웨스틴조선호텔에서 조선비즈와 인터뷰를 하고 있다./조선비즈

사이버보안 업계에서 약 25년간 경력을 쌓은 카르파티 부사장은 최근 몇 년 사이 AI의 발전으로 보안 환경이 완전히 달라졌다고 설명했다. 그는 “이제는 사람의 뇌와 비슷한 체계를 가진 AI가 나오고 있다”며 “과거에는 인간이 하는 업무를 AI가 대체하려고 했다면 AI 에이전트 시대에는 그 모든 업무를 AI가 책임을 갖고 스스로 해나갈 수 있게 된다”고 말했다.

“그러나 인간이 민감한 데이터를 AI와 공유할수록 새로운 형태의 사고·공격이 발생하고 있다. 가령 MCP(Model Context Protocol)로 AI가 지메일, 캘린더, 유튜브 등의 서비스와 연동되면서 AI가 스스로 생각하며 데이터 유출 등의 보안 문제를 일으킬 수 있다.”

2019년 체크포인트에 합류한 카르파티 부사장은 회사 내 AI센터를 구축하는데 핵심적 역할을 했다. 카르파티 부사장은 체크포인트의 AI 전략은 ‘통제 가능한 보안’이라고 강조했다. 이를 위해 체크포인트는 ‘사후 대응’이 아닌 ‘사전 차단’을 우선시하고 있다.

그는 “‘젠(Gen) AI 프로텍트(Protect)’를 통해 기업들이 AI를 어떻게 활용하는지 실시간으로 모니터링할 수 있는 수단을 제공하고 있다”며 “일종의 ‘가드레일’을 세워서 AI 적용 과정에서 허용할 수 있는 것과 절대 허용해서는 안 되는 것을 구분하고 필요한 경우 이를 차단하는 기능까지 갖췄다”고 말했다. 이어 “‘쓰렛클라우드(ThreatCloud) AI’는 글로벌에서 수집되는 위협 정보를 바탕으로 실시간 대응한다”며 “가령 서울에서 AI 에이전트가 공격을 받으면 단 2초 뒤에 다른 대륙에서 발생하는 같은 공격도 차단할 수 있는 구조”라고 말했다.

카르파티 부사장은 안전한 AI 환경을 만들기 위해서는 결국 관리 감독의 최정점에 인간이 존재하는 위계적 체계가 만들어져야 한다고 강조했다. 그는 “AI가 단순히 코드 작성을 넘어 직접 관리·감독 역할까지 맡게 될 것”이라며 “그렇다면 향후 업무의 가장 밑단에는 수많은 AI가 일종의 ‘직원’처럼 배치될 것이고, 그 위에는 이들을 관리하는 ‘AI 매니저’가 있을 것”이라고 예측했다.

그는 이어 “그 규모가 워낙 크다 보니 사람이 직접 모든 AI를 감독하기는 어려울 것”이라고 했다. “그래서 그 AI 매니저를 다시 감독하는 또 다른 레벨의 ‘AI 매니저’가 등장하고 그 위에 최종적으로 인간이 존재하는 구조로 발전할 것으로 예상한다”고 덧붙였다.

카르파티 부사장은 글로벌 AI 규제 부문에서 “규제가 AI 혁신을 저해하지 않는다”는 입장을 분명하게 밝혔다. 그는 “지난 2~3년간 규제가 거의 없는 상태에서 AI 혁신이 폭발적으로 일어난 것을 우리는 이미 경험했다”며 “이제는 AI가 단순한 가능성이 아니라 실제 위험으로 다가오고 있다는 점을 똑똑히 보고 있다”고 했다. 이어 “지금은 오히려 규제가 필요하고, 그 규제를 준수해야 할 시점”이라며 “규제는 혁신을 가로막기보다 앞으로 안전하고 지속 가능한 혁신을 위한 기반이 될 것”이라고 말했다.

김수정 기자(revise@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>