뇌에서 얻은 '영감'으로 AI 한계 초월...IBS, 고성능 인식 기술 개발

AI와 실제 뇌의 시각 반응 비교

우리 뇌를 닮아 더 영리한 인공지능(AI) 기술이 등장했다.

기초과학연구원(IBS·원장 노도영)은 이창준 인지 및 사회성 연구단장팀이 송경우 연세대 응용통계학과 교수팀과 뇌 시각피질이 시각 정보를 선별·처리하는 방식을 응용, AI 이미지 인식 능력을 향상시키는 신기술을 개발했다고 22일 밝혔다.

인간 시각 시스템은 한눈에 사물을 인식하고, 복잡한 환경에서도 중요 정보를 빠르게 선별할 수 있다.

반면 합성곱 신경망(CNN)과 같은 기존 AI 모델은 넓은 맥락을 파악하거나 떨어진 정보 사이의 관계를 이해하는 데 한계가 있다. 작은 정사각형 필터로 이미지를 쪼개 분석하는 구조라 그렇다.

이를 보완한 비전 트랜스포머는 막대한 연산량과 대규모 데이터 세트가 필요해 실용성이 떨어진다.

연구진은 인간 뇌 시각 피질의 시각 정보 처리 방식에 주목했다. 특징이나 중요 부분에만 집중해 반응한다.

연구진은 이런 방식을 적용해 CNN 모델 성능을 크게 높이는 'Lp-컨볼루션' 기술을 제안했다. AI가 이미지를 분석할 때, 핵심 정보를 우선 파악할 수 있도록 설계했다.

각 이미지에 대해 자동 생성되는 필터인 '마스크'가 마치 시각 피질 뉴런처럼 중요 부분을 강조하고, 덜 중요한 것은 배제한다. 마스크는 학습 과정에서 스스로 형태를 조정하며, 다양한 환경에서도 일관되게 중요 특징에 집중할 수 있게 한다.

제1저자인 권재 IBS 박사후연구원(현 독일 막스플랑크 보안 및 정보보호 연구소)은 “Lp-컨볼루션은 뇌 정보 처리 방식에서 착안해 AI가 연산 자원을 효율적으로 활용하면서도 더 정확한 분석이 가능하도록 돕는다”고 설명했다.

이어 연구진은 이 기술을 다양한 CNN 모델에 적용·평가했다. 그 결과 기존 CNN 모델보다 이미지 분류 정확도가 크게 향상됐다. 필터 크기를 넓혀도 성능 저하가 없었고, 오히려 정확도는 향상됐다. 통상 분석 범위를 넓히면 정확도가 떨어지는데, 이런 한계를 극복한 것이다.

또 연구진은 Lp-컨볼루션이 실제 뇌 정보 처리 방식과 얼마나 유사한지도 확인했다. 생쥐에게 자연 이미지를 보여주며 시각 피질 뉴런 활동을 기록하고, 이를 바탕으로 AI 모델이 각 이미지에 대해 뉴런이 어떻게 반응할지를 예측하도록 학습시킨 결과, Lp-컨볼루션 적용 모델은 CNN 모델보다 뉴런 반응을 더 정밀 예측했으며, 오차도 감소했다.

이창준 단장은 “Lp-컨볼루션은 뇌가 정보를 어떻게 처리하는지 모방·이해하는 데에도 크게 기여할 수 있다”며 “AI와 뇌과학이 함께 발전할 수 있는 새로운 융합 모델의 좋은 사례가 될 것”이라고 말했다.

이번 연구는 오는 24~28일 싱가포르에서 열리는 'ICLR 2025'에서 발표될 예정이다.

김영준 기자 kyj85@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]