AI와 드론이 인간을 죽인다면…책임은 누구 몫?

[이주의 MT문고]-'인간 없는 전쟁'

[편집자주] 매년 새로 쏟아지는 책은 6만 2865종(2023년 기준). 모든 책을 읽어볼 수 없는 당신에게 머니투데이가 먼저 읽고 추천해 드립니다. 경제와 세계 정세, 과학과 문학까지 책 속 넓은 세상을 한 발 빠르게 만나보세요.

/사진제공= 북트리거

러·우 전쟁이 한창인 2022년 3월. 우크라이나의 수도 키이우로 향하는 수백대의 러시아 전차들이 길게 늘어섰다. 대당 수백억원을 넘는 고가의 전차들이 1만 5000여명에 달하는 병력을 태우고 우크라이나로 진격했다. 2차대전 이후 전쟁에 투입된 가장 많은 전차였지만 이들은 1달여 만에 엄청난 손실을 본 채 퇴각해야 했다. 대당 수십만원의 우크라이나 드론이 퍼붓는 폭탄 세례 탓이다.

'인간 없는 전쟁'을 쓴 최재운 광운대학교 교수는 이 모습이 미래의 전장이라고 설명한다. AI(인공지능)와 로봇의 발달로 사람은 전쟁에서 물러나게 되고 기계가 대신 전쟁을 수행하는 형태로 변화할 것이라는 전망이다. 저자는 알고리즘으로 전략을 짜고 AI 드론이 날아다니는 시대도 멀지 않았다고 말한다. 비용이 비싼 인간 병사는 전장에 투입될 필요가 없다.

미국과 중국은 한 발 앞서 AI를 전장에 적용하는 연구를 활발하게 수행하고 있다. 로봇 전투차량과 자율주행 전투함부터 AI 지휘관까지 범위도 다양하다. 저자는 강대국뿐만 아니라 인도·파키스탄, 이스라엘·팔레스타인 전쟁에서도 'AI 전쟁 시대'의 서곡이 연주되고 있다고 강조한다. 국가 간 전쟁을 넘어 개인들의 분쟁에서도 AI가 도입될 것이라는 전망은 소름이 돋는다.

감정이 배제된 AI가 인간보다 더 냉혹한 결정을 내릴 수 있다는 관측도 흥미롭다. AI가 저지르는 범죄의 책임소재에 대한 논의는 이미 활발하게 이뤄지고 있다. 전장에서도 AI의 선택으로 수백, 수천명의 사람이 죽는다면 그 결과는 누가 책임져야 할까? AI가 잘못된 선택을 내릴 가능성은 없는가? AI가 인간의 생명을 좌지우지하는 것은 옳은가? 책은 끊임없이 질문들을 던진다.

전세계의 다양한 사례들을 소재로 했지만 우리나라의 현황에 대한 분석이 모자라다는 점은 아쉽다. AI의 발전을 막을 수 없는 흐름으로 규정하면서도 인간성을 지켜야 한다는 외침은 다소 공허하고 실현 가능성이 부족해 보인다. 인간의 역할이 완전히 사라진다거나 재래식 무기가 소멸될 것이라는 등 일부 대목에서는 지나친 주관이 반영돼 있다.

저자는 KAIST에서 인공지능을 공부한 AI 연구자다. 삼성전자 삼성리서치 AI센터를 거쳐 광운대에서 빅데이터경영을 가르치고 있다. '1일 1단어 1분으로 끝내는 AI 공부'와 'AI, 인문학에 길을 묻다' 등 다양한 AI 서적을 썼다.

◇인간 없는 전쟁, 북트리거, 1만 9800원.

오진영 기자 jahiyoun23@mt.co.kr

Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.