"MS의 AI '리콜' 기능, 사이버 보안 재난 될 수 있어"

[박찬 기자]

사이버 보안 전문가들이 PC에서 수행하는 모든 작업을 스크린샷으로 저장하는 마이크로소프트(MS)의 새로운 인공지능(AI) 기반 리콜(Recall) 기능에 대한 보안 취약성을 거듭 경고하고 나섰다.

더 버지는 3일(현지시간) MS가 차세대 AI PC '코파일럿+ PC'를 발표하며 소개한 리콜 기능이 사이버 보안에 치명적인 문제가 될 수 있다는 전문가들의 지적을 전했다.

리콜은 온디바이스 AI 기능을 활용해 컴퓨터에서 보고 수행한 모든 것을 스크린샷으로 기록, 나중에 이를 몇초 만에 검색하고 불러와 탐색할 수 있는 기능을 제공한다. MS는 리콜의 모든 기능은 로컬 및 디바이스 내에서 암호화돼 비공개로 유지되도록 설계돼 있으며, 데이터는 MS의 AI 모델을 훈련하는 데 사용되지 않는다고 밝혔다.

안전하고 암호화됐다는 설명에도 불구하고, 사이버 보안 전문가인 케빈 보몽트는 리콜 기능에 몇가지 보안 결함이 있음을 발견했다.

보몽트는 지난주 리콜을 테스트하면서 이 기능이 데이터를 텍스트로 데이터베이스에 저장한다는 사실을 알아냈고, 이는 공격자가 악성 소프트웨어를 사용하여 데이터베이스와 그 내용을 쉽게 추출할 수 있다는 것을 의미한다고 지적했다.

보몽트는 "리콜 기능은 몇초마다 사용자의 PC에서 스크린샷을 찍어 장치에서 실행되는 애저(Azure) AI에 의해 자동으로 OCR되고, 이후 사용자 폴더의 SQLite 데이터베이스에 텍스트로 기록한다"라며 "즉, 이 데이터베이스 파일에는 PC에서 본 모든 내용이 맬웨어를 통해 쉽게 추출할 수 있는 일반 텍스트로 기록된다"라고 설명했다.

또 이런 내용을 X(트위터)에 공유하면서, 해커가 원격으로 리콜 활동을 추출할 수 없다고 말한 MS를 비판했다. 데이터베이스는 PC의 로컬에 저장되고, PC 관리자라면 앱데이터(AppData) 폴더를 통해 접근할 수 있다. 보몽트는 관리자가 아니더라도 데이터베이스에 접근할 수 있다고 주장했다. 인포스틸러(InfoStealer) 트로이 목마와 같은 악성코드를 심어놓고 PC에서 관리자의 자격 증명이나 정보를 쉽게 훔칠 수 있다는 말이다.

보몽트는 직접 자신의 리콜 데이터베이스를 추출하고 데이터베이스를 업로드하여 즉시 검색할 수 있는 웹사이트를 만들어 보였다.

그는 "MS가 이 기능을 출시할 때까지 기술적 세부 사항 공개를 의도적으로 보류하는 중"이라며 "MS가 조치를 취할 시간을 주고 싶기 때문"이라고 밝혔다.

MS는 리콜이 기본적으로 활성화돼 있지만 설정을 통해 비활성화시킬 수 있는 선택적 기능이며, 이 기능에 개인정보보호 제어 기능이 내장돼 있다고 주장했다. 특정 URL과 앱에 대해 리콜을 비활성화할 수 있으며, 리콜은 디지털 권리 관리 도구로 보호되는 자료를 저장하지 않는다는 것이다. 따라서 리콜 기능을 사용하는 것은 모두 사용자의 책임이라는 설명이다.

또 리콜 스냅샷을 코파일럿+ PC의 로컬 하드 디스크에 암호화해 저장하기 때문에 훔쳐가도 소용없다고 주장하고 있다.

이에 대해 보몽트는 "암호화는 누군가가 집에 와서 물리적으로 노트북을 훔친 경우에만 도움이 될 뿐, PC에 로그인해 소프트웨어를 실행하면 모든 것이 해독된다"라고 짚었다.

MS는 리콜을 재작업하거나 경우에 따라서는 리콜을 철회해야 할 필요가 있을지도 모른다는 지적이 나왔다. 분명히 해결해야 할 명백한 허점이 있으며, 이를 정보 소유 당사자가 정보수집을 명시적으로 거부할 때에만 정보수집을 중단하는 옵트아웃 방식으로 제공하는 것은 개인정보보호에 대한 우려를 심화시킬 뿐이라는 지적이다.

리콜은 지닌달 '빌드' 컨퍼런스에서 가장 주목받았던 온디바이스 AI 기능이었다.

하지만 개인정보보호 옹호자들은 이를 잠재적인 '프라이버시 악몽'이라고 부르고 있다. 영국 정보위원회(ICO)도 이 AI 기반 기능의 사용에 대해 MS에 문의하기 시작했다고 밝혔다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>