[김주한 교수의 정보의료·디지털 사피엔스]전사적 AX와 데이터 프라이버시:AI의 경계를 설계하라

김주한 서울대 의대 정보의학 교수·정신과전문의

시속 170㎞의 추돌사고로 영국 왕세자빈 다이애나가 사망했다. 영화 '라 돌체 비타'에서 명칭이 유래했다는 '파파라초'의 집요한 사생활 추적이 사고 원인으로 지목됐다. “Please, leave me alone(나를 좀 혼자 내버려 두세요)”. 비운의 다이애나가 마지막 남겼다는 말이다. 사고 현장에도 카메라를 들이대는 파파라초, 프라이버시를 보호받지 못하는 삶은 참으로 견디기 힘든 삶이다.

1990년대 미국 메사추세츠주는 주 공무원의 의료기록을 공개했다. 이름, 고유번호, 주소, 등 식별정보를 삭제해 익명화했고 개인정보는 노출되지 않는다고 믿었다. MIT의 박사생 레이타냐 스위니는 주 투표인명부를 구해서 양쪽에 공통인 우편번호, 성별, 생년월일 등으로 두 데이터를 연결해서 익명화된 사람들을 재식별하는데 성공했고, 재식별된 주지사의 의료기록을 인터넷에 공개했다. 해킹도 최첨단 장비도 필요 없었다. 단순 '데이터 연결'만으로 '익명화로 프라이버시를 보호한다'는 소망은 무너졌다.

다이애나 빈의 절규 “Please leave me alone”은 사람이 사람으로 남기 위한 마지막 '경계'가 프라이버시임을 상징한다. 전통적 '프라이버시' 개념은 개인정보 침해없이 개인이 '익명성을 유지할 수 있는 권리'를 뜻했다. 최근 인공지능(AI) 대전환에 따른 '데이터 대통합'은 '개인'을 넘어 '개별 데이터베이스'도 사람처럼 거대언어모델(LLM)의 침공으로 침해받지 않을 권리를 요구한다는 '확장 데이터 프라이버시' 개념으로 발전하고 있다.

전사적 인공지능전환(AX)의 본격화는 회의록 요약, 보고서 작성, 사내 지식검색, 의사결정지원 등 거의 모든 업무를 연결시킨다. AX는 '데이터 연결'의 또 다른 이름이다. 읽고 요약하고 추론하는 특성으로 LLM은 그간 부서별로 관리돼 온 여러 데이터에 두루 접속하며 '부서 간 경계'를 허문다. 인사·평가 데이터, 재무 비용·보상 구조, 홍보 위기대응, 영업의 고객정보가 '전사적 인사이트'를 목표로 연결되며 유발되는 '사내 프라이버시 침해'는 외부 해커의 공격보다 무섭다. 누구도 훔치지 않았으나, 모두 다 알게 된다. 이제 전사적 AX의 최대 위협은 부서별로 관리되온 데이터베이스의 '데이터 프라이버시' 침해다.

전통적인 대응책인 '접근 통제'는 LLM 앞에 무력하다. LLM은 데이터를 '읽기'만 하는 것이 아니라 읽은 내용을 '요약'하고 '일반화'하고 벡터화한다. 기존의 기계학습들과 달리 LLM은 '데이터+알고리즘 복합체'다. 의미경계(Semantic Boundary) 설정은 '데이터 연결로 생성가능한 의미들의 범위와 수준의 경계를 설정'하는 데이터 프라이버시의 출발선이다. 장벽 쌓기나 문지기 두기보다 AX 시스템이 '무엇'을 계산하고 '무엇'을 말할 수 있는지의 의미론적 경계를 찾아 정의하고 선언하는 '조직의 헌법'에 가깝다.

헌법의 선언을 현실화하기 위한 집행이 필요하다. 질의차단(Query Firewall)과 출력필터(Output Filter)는 여전히 유용하다. 질문이 허용된 경계를 넘어 위험한 결론으로 이어질 가능성을 차단하거나 더 안전한 형태로 강등된다. 허용된 계산도 대량 또는 정밀 결과를 출력하는 것은 걸러낸다. 하지만 질의차단과 출력필터는 여전히 문지기라는 한계가 있다. 질문이 안전해도, LLM은 계산과정에서 방대한 데이터를 접하므로 '질문-계산-출력'의 중간단계인 '계산과정을 LLM 자신도 볼 수 없게(?)' 해야 한다. 역설적이지만 '손바닥을 보여주지 않고 손금을 보는 기술' 또는 '손금을 봐준 점장이를 그 자리에서 제거'하는 것이다. 함수암호(Function Encryption)는 '데이터를 주지 않고도, 허용된 함수계산 결과만 주는' 신개념이다. 제공자는 원본 유출 없이 소비자 질의의 결과값만을 팔 수 있고, 서버조차 원본 데이터는 볼 수 없다. 인사와 재무 자료의 결합 분석시 '개인 급여 노출 없는 부서 단위 비용효율을 산출'처럼 '의미 경계의 설정'이다.

전사적 AX는 데이터를 더 많이 모으는 프로젝트가 아니다. 더 많은 연결을 만들되, 그 연결로 도출가능한 결론의 경계들을 설계하는 프로젝트다. 프라이버시는 혁신의 브레이크가 아닌 안전벨트다. 스위니가 증명한 '익명화의 허구'는 경고이자 힌트였다. 이름 지우기로는 미래를 견딜 수 없다. '전사적 데이터 프라이버시'는 데이터 활용 차단이 아니라, 조직의 신뢰 정립이다. 그 신뢰는 '선의를 기대하는 소망'이 아니라 '위험한 결론 도출이 없음을 보장하는 구조'에서 나온다. '데이터 프라이버시'가 AX 대전환의 필수 인프라가 됐다.

김주한 서울대 의대 정보의학 교수·정신과전문의 juhan@snu.ac.kr

[Copyright © 전자신문. 무단전재-재배포금지]