AI가 전쟁 치르는 시대…인간의 책임, 어디까지[책과 삶]

파괴적인 전쟁은 모순적이게도 기술 발전을 동반한다. 증기기관과 철갑선이 대영제국의 번영을 지탱했고, 원자 폭탄은 제2차 세계대전의 마침표를 찍었다. 러시아·우크라이나 전쟁과 이스라엘의 가자지구 집단학살 등 현대의 전쟁에서도 역사는 반복된다.

2020년대의 전쟁터를 지배하는 핵심 기술은 인공지능(AI)이다. 더 이상 백병전은 없다. 전장에는 피아를 구별하기 위한 드론이 날아다닌다. 열 감지 센서와 AI를 탑재한 드론의 눈을 피하기란 불가능에 가깝다. AI를 결합한 미사일 또한 정밀타격에 능하다. 액션 게임처럼, 버튼 조작 몇 번에 무수한 사람들의 목숨이 위협 받는 시대가 왔다.

카이스트 산업및시스템공학과에서 학사·석사·박사 학위를 받은 저자는 책에서 ‘킬러 로봇’이 SF영화가 아닌 현실이 된 현대전을 보여준다. 특히 AI가 피아 식별 등에 활용되며 인간이 판단하는 영역이 축소되고 있다는 것을 문제로 지목한다. 과거의 무기들은 아무리 첨단을 달리더라도 인간의 손을 거쳐야 했다. 하지만 AI 무기는 알고리즘이 스스로 표적을 식별하고, 때로는 공격 여부까지도 결정할 수 있다. 사람을 데이터로 변환해 바라보는 AI의 시선은 등골을 서늘하게 한다. 한 번의 타격으로 더 많은 ‘적’(사람)을 죽음으로 내몰 수를 계산하는 것이 AI식 효율일 테다.

저자는 “살상의 결정권마저 기계에게 넘기는 단계에 이르렀다”면서 “기술이 더 이상 인간의 통제 아래 머물지 않을 수 있다”고 우려한다. 국가 차원의 투자가 아니라면 만들 수 없는 핵 무기와 달리, AI 기술이 사실상 누구에게나 열려 있다는 건 계산을 더 복잡하게 한다. 이미 AI 군비 경쟁 시대는 시작됐다. 더 늦기 전에 국제적 규범과 통제가 마련되어야 한다고 저자는 말한다.

전지현 기자 jhyun@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 더보기｜이 뉴스, 여기서 끝나지 않습니다 → 점선면

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지