애플 “생성형 AI, 아직 ‘진짜 지능’과는 거리가 멀다” 경고 : zum 뉴스

WWDC 개막을 몇 시간 앞두고, 애플의 머신러닝팀이 생성형 AI에 대한 환상을 경계해야 한다는 내용의 연구 보고서를 발표했다. 인공지능이 실제로는 ‘표면적인 스마트함’만을 가졌다고 지적하며, 과대평가된 AI 기술에 제동을 걸고 나선 것이다.

일각에서는 애플이 경쟁사가 AGI(범용 인공지능) 개발을 향해 전진하는 동안 자사 기술의 더딘 진전을 감추기 위한 시도라는 분석도 나온다. 그러나 또 다른 시각에서는, 사회 전반에 빠르게 도입되고 있는 이 기술의 실체를 다시 생각해볼 필요가 있다는 경고로 해석된다. 제대로 작동하지 않는 기술에 점점 더 의존하게 되는 것은 아닐까. 결국 이는 사용자나 개발자의 편견을 되풀이하는 시스템일 수 있다는 것이다.

애플이 발표한 논문 제목은 ‘사고의 환상(The Illusion of Thinking)’이다. 이 보고서는 현재의 생성형 AI 기술이 사실상 ‘고도화된 패턴 매칭’에 불과하다는 점을 강조하고 있다.

“사고하는 것처럼 보일 뿐… 고난도 문제에서는 성능 붕괴”

총 32페이지에 달하는 이 논문에서 애플의 머신러닝 연구팀은 생성형 AI 모델이 ‘진정한 추론’을 수행하지 못한다고 지적했다. 이들은 오픈AI, 구글 딥마인드, 안트로픽, 딥시크 등 주요 기업의 최신 모델을 분석 대상으로 삼았다.

논문은 “최근의 프런티어 언어모델은 답변을 생성하기 전 복잡한 사고 과정을 만들어내는 대형 추론 모델(LRM)을 도입하고 있다”라며 “다양한 퍼즐을 대상으로 광범위한 실험을 진행한 결과, 특정 수준 이상의 복잡성을 넘어서면 정확도가 완전히 무너지는 현상(complete accuracy collapse)이 발생했다”라고 밝혔다.

또한 “이러한 모델은 문제의 복잡도가 증가함에 따라 추론 노력이 증가하다가, 일정 수준을 넘기면 오히려 성능이 급감하는 역직관적인 확장 한계를 보였다”라고 분석했다.

보고서는 LLM과 LRM 모두 복잡한 문제에서는 취약하며, 저복잡도 문제는 LLM이, 중간 수준 문제는 LRM이 상대적으로 우수한 성능을 보였다고 덧붙였다. 그러나 고복잡도 문제에서는 양쪽 모두 ‘완전 붕괴’ 현상을 보였다는 것이 애플의 설명이다.

추론한다고 믿어야 할까, 추론하는 척하는 것일까

애플 연구진은 “LRM은 정확한 계산 능력이 부족하며, 명시적 알고리즘을 사용하지 못하고 퍼즐 간에도 추론 방식이 일관되지 않다”라고 지적했다. 이어 “해결 패턴과 연산적 행동을 분석한 결과, 모델의 추론 능력의 한계와 강점이 동시에 드러났다”라고 설명했다.

핵심은 이렇다. 우리가 ‘사고 능력’이라 믿는 것은 실제 사고가 아니라, 마치 추론을 하는 것처럼 보이도록 훈련된 출력 결과일 수 있다는 점이다.

보고서는 AI 시스템이 무의미하거나 위조된 데이터를 입력받으면 이를 인식하지 못하고 실패하는 사례를 보여주며, 이들이 진정한 창의적 문제 해결에는 무력하다는 사실을 강조했다. 추상화와 일반화 능력이 부족하다는 점에서, AGI에 도달하기는 아직 요원하다는 경고다.

입소문에 휘둘리지 말고 냉정해야

애플만이 이런 문제를 지적하는 것은 아니다. AI 비평가 게리 마커스도 생성형 AI가 데이터 학습에 과도하게 의존하고 있으며, 진짜 ‘지능’과는 거리가 멀다고 꾸준히 경고해왔다. 이러한 과신은 오히려 기술에 대한 과도한 기대와 현실 사이의 간극만 키우고 있다는 지적이다.

애플은 이러한 시각에 힘을 실으며, 당분간은 생성형 AI에 지나치게 의존하기보다 실용적이고 점진적인 접근법이 더 필요하다고 주장한다. 이는 개발 측면에서도, 실제 활용 측면에서도 마찬가지다.

애플의 속내… ‘애플 인텔리전스’ 성과 미비 반영된 연구?

이 같은 발표는 애플이 지난해 WWDC에서 약속한 ‘애플 인텔리전스(Apple Intelligence)’의 도입이 예상보다 지연되고 있는 배경과도 관련이 있어 보인다. 지난 실적 발표에서 CEO 팀 쿡은 “해당 기능이 애플의 높은 품질 기준에 부합할 때까지는 시간이 더 필요하다”며 “기능 도입을 준비 중”이라고 언급했다.

결국 애플이 일부 AI 기능 도입을 미룬 것은 실제로 기대만큼 작동하지 않기 때문일 수 있다. 이는 이번 논문이 지적한 생성형 AI의 구조적 한계와도 연결된다.

현실적으로, AI로 전환된 ‘시리’와 API 개방, 타 AI 업체와의 협업 등은 여전히 애플이 추진 중인 계획이다. 그러나 진정한 경쟁우위를 확보할 수 있을지는 미지수다. 기술적인 한계를 인정한 상황에서, 애플이 얼마나 더 시간을 벌 수 있을지가 향후 관전 포인트다.

dl-itworldkorea@foundryco.com