폭증하는 AI 위협 해결사 'IBM 데이터 시큐리티 센터'…데이터 보안과 거버넌스 향상

AI 기술이 빠르게 발전하며 기업의 혁신을 가속화하고 있다. 하지만 동시에 AI는 막대한 데이터를 필요로 하며, 이 데이터를 수집·가공·학습하는 과정에서 다양한 보안 위협이 새롭게 등장하고 있다. 특히 AI 시스템은 민감한 정보를 다루는 경우가 많아 사이버 공격의 주요 표적이 되고 있다.

또한 AI가 생성하는 데이터의 양과 속도가 기하급수적으로 늘어나면서, 기업은 이 데이터를 효과적으로 통제하고 관리하는 데 큰 어려움을 겪고 있다. AI가 독자적으로 생성하거나 판단한 결과에 대한 설명 가능성과 투명성 확보 역시 중요한 과제가 되었다. 이러한 환경은 기업이 데이터 보안과 거버넌스 체계를 강화하도록 요구하고 있다.

규제 대응도 복잡해지고 있다. GDPR, CCPA 등 글로벌 수준의 개인정보 보호 규정은 AI 시스템에도 동일하게 적용되며, 기업은 AI 관련 데이터 수집, 사용, 저장, 폐기 등 모든 단계에서 규정을 준수해야 한다. 단순한 침해 대응을 넘어서 체계적이고 실시간 대응 가능한 보안 전략이 필수인 시점이다.

IBM은 이러한 복합적 과제에 대응하기 위해 IBM 가디엄 데이터 시큐리티 센터(Guardium Data Security Center, DSC)를 제안하고 있다. 이 플랫폼은 데이터를 전체 수명주기 동안 통합적으로 관리하며, 조직의 데이터 자산에 대한 단일 가시성을 제공한다. 이를 통해 보안팀은 다양한 보안 및 거버넌스 작업을 중앙에서 통합적으로 수행할 수 있다.

IBM 가디엄 DSC

IBM 가디엄 DSC는 △데이터 및 AI 보안 상태 모니터링 △데이터 암호화 관리 △데이터 접근 탐지 및 대응 △위험 분석과 거버넌스 정책 관리 등 다양한 기능을 통합한 단일 대시보드를 제공한다. 관리자는 실시간 상황을 직관적으로 확인하고 필요한 보안 조치를 즉시 취할 수 있다.

특히 생성형 AI 기능이 포함되어 있어, 데이터 보호 상황에 대한 요약 리포트를 자동으로 생성하고 보안 분석가의 업무 생산성을 높인다. 위협 분석부터 정책 조정까지 빠르게 대응할 수 있는 유연성과 속도는 기존 보안 솔루션과 차별화되는 강점이다.

IBM 가디엄 DSC의 핵심 모듈인 IBM 가디엄 AI 시큐리티(Guardium AI Security)**는 AI 데이터와 모델을 안전하게 보호하고, 기업이 AI 배포 환경에서 직면할 수 있는 위험 요소를 사전에 탐지하고 대응할 수 있도록 설계됐다. 이 솔루션은 섀도 AI(Shadow AI) 탐지 기능을 중심으로, 조직 내 승인되지 않은 AI 모델을 자동으로 식별하고, 보안 위협을 관리한다.

IBM 가디엄 AI 시큐리티

섀도 AI는 기업 내부에서 비공식적으로 운영되는 AI 시스템으로, 보안 취약점과 규제 위반 위험을 내포하고 있다. 가디엄 AI 시큐리티는 기업 내 존재하는 모든 AI 모델을 스캔하고 인벤토리에 추가하여, 적절한 거버넌스 프로세스를 자동 트리거한다. 이러한 기능은 보안 사각지대를 해소하는 데 큰 역할을 한다.

또한 AI 학습·운영 과정에서 발생할 수 있는 설정 오류나 취약점을 자동 분석해 심각도에 따라 우선순위를 지정하고, 해결 방안을 제시한다. 데이터 자산에 대한 단일 가시성을 기반으로 한 이 솔루션은 AI 모델의 신뢰성과 규정 준수를 동시에 보장할 수 있도록 설계되어 있다.

IBM 왓슨x.거버넌스(watsonx.governance)는 IBM 가디엄 AI 시큐리티와 연동되어 AI 모델의 수명주기를 체계적으로 관리하는 기능을 강화한다. 이 솔루션은 AI 모델의 문서화, 버전 관리, 성능 평가 등 다양한 거버넌스 기능을 자동화하여 운영의 복잡성을 줄인다. 특히 생성형 AI의 출력 결과에 대한 임계값 기반 모니터링으로, 부정확하거나 유해한 결과가 유통되지 않도록 사전 대응이 가능하다.

IBM 가디엄 AI 시큐리티는 IBM 왓슨x.거버넌스와 연동된다.

왓슨x.거버넌스는 텍스트 생성, 분류, Q&A, 검색 증강 생성(RAG) 등 다양한 사용 사례를 대상으로 성능 지표를 평가하며, 프롬프트와 응답 내용의 적절성도 지속적으로 모니터링한다. 내부 정책 및 업계 규정을 바탕으로 요구사항을 정의하고 이에 따른 통제를 적용해 규정 준수의 기반을 자동화한다.

두 솔루션의 통합을 통해 AI 배포 환경에서 발생할 수 있는 다양한 위협 요소를 체계적으로 파악하고 관리할 수 있다. 등록되지 않은 AI 인스턴스를 자동으로 인벤토리에 등록하고, 거버넌스 워크플로우를 자동 실행해 AI 보안과 데이터 거버넌스를 하나의 연속된 체계로 연결한다. 이는 AI 운영 전반에 걸쳐 책임성과 신뢰성을 높일 수 있다.

AI는 기업에 새로운 성장 기회를 제공하지만, 동시에 보안과 거버넌스의 새로운 도전도 안겨준다. IBM 가디엄 AI 시큐리티와 왓슨x.거버넌스는 이러한 도전에 대응하기 위한 강력한 수단으로, 보안 민첩성과 규정 준수 능력을 함께 강화한다.

특히 기업 내 다양한 부서와 역할이 협력하여 보안 정책을 수립하고 실행할 수 있는 통합 환경은 조직 전체의 보안 성숙도를 끌어올리는 데 도움이 된다. AI가 조직 내에서 안전하게 활용되기 위해서는 기술, 정책, 프로세스가 유기적으로 연결되어야 하며, IBM의 솔루션은 이 세 가지 요소를 통합적으로 제공한다.

향후 AI가 기업 경쟁력의 핵심이 되는 시대에는, 단순한 성능을 넘어서 신뢰 가능한 운영과 데이터 보호가 더욱 중요한 기준이 될 것이다. IBM의 통합 보안·거버넌스 솔루션은 이러한 기준을 충족시키며, 안전한 AI 도입을 원하는 기업에게 강력한 해답이 될 수 있다.

유은정 기자 judy6956@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]