간단한 트릭에 무너진 바둑AI '카타고'

[정병일 위원]

카타고(Victim)와 약점 공격 프로그램(Adversary)의 대국. 카타고가 백돌. (사진=논문 "Adversarial Policies Beat Professional-Level Go AIs")

최강의 오픈소스 인공지능(AI) 바둑 프로그램인 '카타고(kataGo)'가 의외로 간단한 수법에 무릎을 꿇었다. 무적으로 여겨졌던 AI 바둑 프로그램에 버그와 같은 맹점이 발견돼 관심이 모아진다.

미국의 기술전문 매체인 아르스 테크니카는 8일(현지시간) 아담 글리브를 비롯한 AI 연구자들이 카타고의 사각지대를 이용하는 '적대적 방식(adversarial policy)'으로 카타고를 물리치는 방법을 개발, 이를 설명하는 논문을 논문수집 사이트 알카이브(arXiv)에 게재했다고 보도했다.

이들이 개발한 프로그램은 바둑판의 귀퉁이에 집을 짓는 전략으로 잇달아 승리를 거뒀다. 카타고는 상대가 반상의 한 구석에 집을 지으면 이를 제외한 영역을 자신의 집으로 인식해 이겼다고 판단하고 게임을 끝냈다.

그러나 계가 과정에서 카타고의 영역은 상대의 돌들이 점점이 놓여 있는 상태기 때문에 집으로 계산되지 않아 결국 카타고가 지게 됐다. 마치 속임수와도 같은 이 간단한 전략에 최강 바둑AI가 놀아난 셈이다.

카타고가 흑돌을 잡은 대국(오른쪽 기보)에서도 구석에 집짓기 전략은 통했다.(사진= 논문 "Adversarial Policies Beat Professional-Level Go AIs")

카타고는 오픈소스여서 누구와도 대국을 할 수 있다. 이에 따라 수백만회의 대국을 거치면서 카타고의 바둑 실력은 점점 더 향상돼 국내 프로 바둑기사들과 접바둑을 둘 정도로 강력해졌다. 그러나 상대의 기대하지 않은 행동에 대해서는 취약성을 드러낸 것이다.

보통 바둑 대국에서 한 귀퉁이에만 집을 지으면 질 수 밖에 없기 때문에 인간 대국자는 이런 비합리적인 행동은 하지 않는다. 따라서 카타고는 이 전략을 경험해 본 적이 없어 제대로 대응하지 못했다. 카타고를 이긴 프로그램은 그러나 카타고의 약점 찾기에 특화돼 있어서 인간 아마추어가 쉽게 이길 수 있다고 개발자들은 소개했다.

개발에 참여한 아담 글리브 박사는 "이같은 AI의 실수가 바둑에서는 즐길 거리에 불과하지만 안전을 요하는 시스템에서 발생한다면 위험할 것"이라며 "최악의 경우에 대비해 AI 시스템을 훈련할 필요가 있다"고 강조했다.

정병일 위원 jbi@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>