이세돌 '꼼수' 풀 AI 나올까... 뇌처럼 배우는 AI 가능성 열렸다 : zum 뉴스

KAIST·IBM AI 연구소 공동 연구
전두엽 정보 분리 구조 첫 규명
유연성과 안정성 갖춘 AI 설계 단서

이세돌 9단이 2016년 3월 서울 광화문 포시즌스호텔에서 열린 알파고와의 세 번째 대국에서 첫 수를 착수하고 있다. 구글 제공

이세돌 9단이 2016년 구글의 인공지능(AI) 알파고와의 대국에서 이길 수 있었던 건 AI의 학습범위를 벗어난 ‘꼼수’를 두어 계산 오류를 유발했기 때문이다. 이처럼 기존 AI모델은 환경 변화에 빠르게 적응하지 못하는 한계가 있었지만, 인간 전두엽의 독특한 정보처리방식이 규명되면서 ‘뇌처럼 유연한 AI’를 만들 가능성이 열렸다.

이상완 한국과학기술원(KAIST∙카이스트) 뇌인지과학과 교수 연구팀은 미국 IBM AI 연구소와 함께 인간의 뇌가 목표 변화와 불확실한 상황을 처리하는 방식을 규명하고, 차세대 AI 강화학습이 나아가야 할 방향을 제시했다고 14일 밝혔다. 이번 연구결과는 국제학술지 ‘네이처커뮤니케이션즈’에 게재됐다.

연구팀은 기존 AI 모델들이 예상치 못한 새로운 정보를 배우면 과거의 지식을 잊어버리거나 기존 지식을 유지하려다 새로운 환경에 적응하지 못하는 구조적 한계를 지닌 반면, 인간은 두 요소를 동시에 달성한다는 점에 주목했다. 그 차이는 학습 알고리즘이 아닌 전두엽의 정보 표현 방식에 있다는 것이 연구진의 가설이었다.

연구진은 사람 참가자들에게 다양한 목표와 불확실성이 섞인 학습 과제를 수행하게 한 뒤, 행동 데이터와 뇌영상 데이터를 수집했다. 이를 분석한 결과 인간의 전두엽은 ‘목표 정보’와 ‘불확실성 정보’를 분리해 저장하는 구조를 갖고 있음이 확인됐다. 이 구조가 뚜렷할수록 참가자들은 목표가 바뀌면 빠르게 전략을 전환하면서도, 환경의 잡음이나 우연한 변화에 흔들리지 않는 안정적인 판단을 유지했다. 나아가 연구진은 전두엽이 단순히 학습을 수행하는 데 그치지 않고, 상황에 따라 어떤 학습 전략을 사용할지 스스로 선택하는 ‘메타학습’ 역할을 하는 것을 규명했다.

이번 연구에서 밝힌 구조를 AI에 적용하면 인간의 의도와 가치를 더 잘 이해하고 위험한 판단을 줄이는 ‘뇌처럼 생각하는 AI’ 개발이 가능할 전망이다. 이는 자율주행이나 재난로봇 등 변칙적 판단이 필수인 영역에도 기여할 수 있다.

이 교수는 “이번 연구는 변화하는 목표를 유연하게 따라가면서도 안정적으로 계획을 유지하는 뇌의 원리를 AI 관점에서 규명했다”며 “앞으로 AI가 사람처럼 변화에 적응하고 더 안전하고 똑똑하게 학습하는 차세대 AI의 핵심 기반이 될 것”이라고 말했다.