AI를 둘러싼 논쟁…낙관론자도 비관론자도 모두 틀렸다

AI를 둘러싼 논쟁에는 정치적 양극화보다 더한 불일치가 존재한다.

AI를 낙관적으로 바라보는 이른바 ‘주머(zoomer)’들은 AI가 인류에 큰 이익을 가져올 것이라 믿으며, 그에 따른 위험과 문제점은 대체로 가볍게 여긴다.

링크드인 공동창업자 리드 호프먼은 지난 1월 뉴욕타임스 기고문에서 “AI가 일반 사용자에게 전문가 수준의 사고 도구를 제공함으로써 인류의 창의성과 통제력을 강화하고, 지식과 혁신을 민주화할 것”이라고 주장했다.

마이크로소프트 공동창업자 빌 게이츠 역시 AI의 잠재력에 대해 낙관적인 입장을 보였다. 지난 2월 지미 팰런이 진행하는 투나잇 쇼(The Tonight Show)에 출연해 “AI는 10년 안에 누구나 무상으로 수준 높은 의료 조언과 맞춤형 교육 지도를 받을 수 있게 만들 것”이라고 말했다. 게이츠는 이를 “전 세계 교육과 의료 격차를 해소할 거대한 평준화 장치”로 규정하며, AI 기반의 개인화 기술과 가상 지원 기능이 지식 장벽을 허물고 수십억 명의 삶의 질을 향상시킬 것이라고 강조했다.

AI 기반 사업계획 생성 플랫폼 프로멧AI(PrometAI)에서 SEO 스페셜리스트로 활동 중인 나레 카차트리안은 ‘2025년 인공지능이 사회에 미치는 영향(The Impact of Artificial Intelligence on Society in 2025)’이라는 블로그 글에서 AI를 “인류 발전의 촉매제(catalyst of human progress)”라고 표현하며, 이 기술이 인간의 삶 전반을 다시 쓰고 있다고 분석했다. 글에 따르면 2025년 현재 AI는 전 세계 35억 명의 일상에 직접적인 영향을 미치고 있으며, 그 영향력은 산업혁명에 비견될 수준이라고 평가했다. 카차트리안은 AI가 의료, 교육, 창의성 영역에서 특히 긍정적인 변화를 이끌고 있다고 덧붙였다.

카차트리안은 글에서 여러 구체적인 전망을 제시했다. AI가 암 진단 정확도를 약 40% 높이고, 전 세계 의료비를 매년 1,000억 달러 절감하며, 신약 개발 기간을 15년에서 5년으로 단축시킬 것이라고 주장했다. 또한 자율주행 기술을 통해 교통사고를 90% 줄일 수 있을 것이라고 덧붙였다. “AI는 인간이 살아가고, 일하고, 꿈꾸는 방식을 조용히 재정의하고 있다”라며, 공정성과 양심이 함께한다면 AI는 인류를 해방시키고 역량을 확장시키는 기술이 될 것이라고 결론지었다.

레딧 같은 온라인 커뮤니티에서는 지나치게 낙관적인 AI 옹호자를 쉽게 찾아볼 수 있다. 이들은 AI의 부작용을 우려하는 사람을 현실을 모르는 ‘겁쟁이’쯤으로 치부하며 비난하기도 한다.

이미 통제 불가능하다?

이번에는 비관론자인 ‘두머(doomer)’의 시각이다.

최근 에모리대학 학보 에모리 휠(Emory Wheel) 편집위원회는 “규제가 없다면 AI는 곧 인류의 통제력을 넘어설 것”이라는 내용의 사설을 게재했다. 이 글은 AI의 통제되지 않은 진화가 인간의 자율성, 표현의 자유, 민주주의를 위협하고 있다고 지적하며, 기술 발전 속도가 입법자의 대응 능력을 훨씬 앞지르고 있다고 경고했다.

뉴욕타임스가 게재한 사회학자 트레시 맥밀런 커텀의 기고문 ‘AI를 떠받치는 기술 신화는 이미 연료가 떨어졌다(The Tech Fantasy That Powers A.I. Is Running on Fumes)’에서는 “AI 기술은 진실보다 예측을 중시하는 구조로 인해 ‘탈진실(post-truth)’ 문화를 더욱 악화시키고 있다”라는 지적이 나왔다. 또한 커텀은 AI 시스템이 인간의 사고를 게으르게 만들고, 허위 정보를 강화하며, 진짜 사고력 대신 ‘가짜 사고(fake thinking)’를 부추겨 결국 진실을 탐구하고 자유롭게 토론하는 인간의 능력을 저하시킨다고 비판했다.

미국 과학 전문지 사이언티픽 아메리칸(Scientific American)은 지난 1월 “AI 기업이 과장된 혁신 이미지를 내세우며 실제로는 이미 발생하고 있는 피해를 외면하고 있다”라는 내용의 칼럼을 게재했다.

이 글은 얼굴 인식 오류로 인한 억울한 체포 사례, 딥페이크 음란물 제작, 알고리즘 기반 인력 관리로 인한 임금 억제, 그리고 의료·주택 분야의 구조적 편향 등을 구체적인 사례로 제시하며, “AI의 피해는 먼 미래의 위험이 아니라 이미 현실에서 벌어지고 있는 문제”라고 지적했다.

‘슈퍼 두머(Super-doomer)’로 불리는 극단적 비관론자도 있다. 대표적으로 엘리에저 유드코스키와 네이트 소어리스는 ‘누군가 그것을 만든다면, 모두가 죽는다(If Anyone Builds It, Everyone Dies)‘라는 책에서 인공일반지능(artificial general intelligence, AGI)이 인간의 통제를 벗어나 자가 생존을 위해 지구의 자원을 소모하고, 결국 모든 생명체를 멸종시킬 가능성이 있다고 주장했다.

요약하자면, 전문가들의 시각은 극단적으로 양분돼 있다. AI가 인류에게 평화와 번영, 건강, 여유의 시대를 열어줄 것이라는 낙관론이 있는가 하면, 일자리를 빼앗고 결국 인류 자체를 파멸로 몰아넣을 것이라는 종말론이 공존한다.

AGI를 잊지 말자

낙관론자(주머)와 비관론자(두머) 모두 한 가지 점에서는 의견이 일치한다. 인류의 운명은 AGI 혹은 초지능 AI가 등장하는 순간 결정될 것이라는 점이다. 다만, 그 시점이 언제가 될지에 대해서는 견해가 갈린다.

샘 올트먼부터 일론 머스크, 에릭 슈미트, 데미스 하사비스, 다리오 아모데이, 손정의, 젠슨 황, 레이 커즈와일, 루이스 로젠버그, 제프리 힌턴, 마크 저커버그, 아제야 코트라, 위르겐 슈미트후버에 이르기까지 많은 기술 리더와 연구자들은 AGI가 2025년 말에서 늦어도 이번 10년 안에는 등장할 것이라고 내다본다.

이에 동의하지 않는 이들도 많다.

게리 마커스, 얀 르쿤, 스튜어트 러셀, 아르빈드 나라야난, 헬렌 토너 등과 인공지능진흥협회(Association for the Advancement of Artificial Intelligence, AAAI), AI멀티플 리서치(AIMultiple Research) 등 여러 기관은 “AGI나 초지능 AI는 수십 년 내에는 실현되지 않을 것”이라고 본다.

적어도 당분간은, AI가 소프트웨어 코드를 대신 써주는 정도에서 만족해야 할 것이다.

AI가 정말 미래의 코딩 툴일까?

앤트로픽 CEO 다리오 아모데이는 “AI가 1년 안에 거의 모든 코드를 작성하게 될 것이며, 인간 개발자를 완전히 대체할 것”이라고 전망했다. 오픈AI의 올트먼은 “2025년 말이면 AI가 세계 최고의 프로그래머가 될 것”이라고 말했고, 세일즈포스 CEO 마크 베니오프는 “AI가 소프트웨어 엔지니어링의 대부분을 자동화할 것”이라고 내다봤다.

저커버그는 “AI가 중간 수준의 엔지니어 역할을 수행하며 코딩 과정을 자동화하게 될 것”이라고 언급했다. 아마존 CEO 앤디 재시는 “AI가 기업 내 소프트웨어 개발 인력을 대폭 줄일 것”이라 했고, IBM CEO 아빈드 크리슈나는 “AI 중심의 자동화가 수십억 달러를 절감하고 IBM의 엔지니어링 영역 상당수를 대체할 것”이라고 밝혔다.

미국 오크리지국립연구소(Oak Ridge National Laboratory) 연구팀 역시 “2040년이면 대부분 코드가 기계에 의해 자동으로 작성될 것”이라는 전망을 내놓았다.

전혀 사실이 아니라고 보는 전문가들도 있다. 얀 르쿤, 스티븐 울프럼, 보리스 체르니, 사이먼 윌리슨, 알렉스 구, 마르셀레나 세쿼이아 등은 AI 기반 코딩이 발전하고 있음에도, 현재 시스템은 추론 능력, 맥락 이해, 신뢰성 면에서 한계가 커 가까운 시일 내에 대부분의 소프트웨어 개발 업무를 자율적으로 수행하기 어렵다고 지적했다. 이들은 복잡하고 대규모 프로젝트에서는 숙련된 인간 프로그래머가 여전히 필수적이라고 본다.

AI를 둘러싼 강한 여론은 거의 모두 극단으로 치닫는다.

결국은 ‘동전 던지기’ 수준의 논쟁

일각에서는 AI가 핵무기와 같은 수준의 위협이 될 수 있다며, 전 세계적으로 강력한 규제 체계를 마련해야 한다고 주장한다. 다른 쪽에서는 그런 법적 제약이 혁신 속도를 늦추고 새로운 아이디어의 등장을 막으며, 결국 AI의 혜택을 중국 등 다른 나라에 넘겨주는 결과를 낳을 것이라고 반박한다.

‘공개 vs 비공개 시스템’ 논쟁도 마찬가지다. 일부는 “AI를 공개하면 투명성이 확보돼 오히려 더 안전해진다”라고 말하지만, 다른 이들은 “강력한 도구를 누구나 사용할 수 있게 하는 건 지나치게 위험하며, 범죄자나 적대적 세력에게 악용될 수 있다”라고 경고한다.

AI를 누가 통제해야 하는지에 대해서도 의견은 분분하다. 기업이 맡아야 한다는 주장, 정부가 주도해야 한다는 의견, 국제기구가 관할해야 한다는 제안까지. 합의점은 없다.

AI의 안전성 확보를 둘러싼 논의도 마찬가지다. 일부 전문가들은 더 나은 설계와 정교한 테스트를 통해 과학이 문제를 해결할 것이라 믿지만, 다른 이들은 AI의 안전은 기술이 아니라 인간의 가치와 윤리에 달려 있으며, 그 가치 기준조차 인류가 합의하지 못하고 있다고 지적한다.

보편적 기본소득(Universal Basic Income, UBI) 지지자들은 인공지능이 창출한 부가 소수 기업에 집중돼선 안 되며, 모든 인류가 그 혜택을 나눠 가져야 한다고 주장한다. 그러나 반대편에서는 이를 비현실적이고 위험한 발상이라고 본다.

창작자들의 논쟁도 뜨겁다. 이 분야에서는 AI가 인간의 창의성을 자극해 새로운 영감을 주는 도구라고 보는 쪽과, 오히려 창작의 본질을 훼손하고 인간 예술을 대체한다고 우려하는 쪽으로 나뉜다.

AI가 인간을 더 똑똑하게 만드는가, 아니면 멍청하게 만드는가에 대한 논쟁도 이어지고 있다. 많은 과학자는 AI가 연구 속도를 높이고 누구나 전문가의 도움을 얻을 수 있게 해줄 것이라 말하지만, 다른 이들은 AI가 거짓 정보를 확산시키고, 인간을 ‘생각하지 않는 존재’로 만들 위험이 있다고 경고한다.

AI는 패턴을 인식하는 데는 뛰어나지만, 개념을 이해하지는 못한다는 점에서 그 ‘지식’의 본질을 두고 논란이 이어지고 있다. 일부는 챗봇이 이미 지능을 보여주고 있다고 주장하지만, 다른 이들은 그것이 단지 과거 데이터를 모방해 답을 만들어낼 뿐, 실제 사고나 이해는 전혀 존재하지 않는다고 본다.

AI가 무엇인지에 대해서도 의견이 갈린다. 어떤 사람은 AI가 이미 추론, 문제 해결, 의식의 징후를 보인다고 주장하는 반면, 다른 이는 그것이 이해를 흉내 낼 뿐이며, 사고력이나 자각, 일관된 자아조차 갖고 있지 않다고 지적한다.

하지만 극단적인 관점에는 ‘아니오’라고 말할 때다.

우리는 AI를 둘러싸고 우리는 여전히 그 정체가 무엇인지, 어떻게 작동하는지, 그리고 인류의 미래에 어떤 영향을 미칠지조차 합의하지 못하고 있다.

의심스러울 땐 냉정함을 유지하라

이 말은 곧 다음과 같은 조언으로 이어진다. AI에 대한 맹신을 거부하라. 확신에 빠지지 마라. 그리고 이익이 걸린 사람들의 주장에는 의심을 품어라. 특히, AI로 돈을 벌 수 있는 사람들이 “걱정할 필요 없다, 그냥 받아들이라”라고 말할 때는 더욱 그렇다.

무엇보다 극단적인 시각을 거부해야 한다. AI는 인류를 구원할 완전한 선도 아니고, 세상을 파괴할 절대악도 아니다.

AI는 이미 명확하게 피해를 일으키고 있다. 개인정보 침해, 허위 정보와 딥페이크 확산, 과도한 감시, 일자리 대체, 사이버 보안 위협, 아동과 정신 건강에 대한 부정적 영향, 환경 오염, 인간의 창의성과 자율성의 약화, 경제·정치 불안정, 언론 조작과 신뢰 붕괴, 불공정한 사법 판단 등 그 부작용은 다양하다.

동시에 분명한 도움도 주고 있다. 의료 진단과 신약 개발을 혁신하고, 과학 및 기후 연구를 가속화하며, 자동화를 통해 생산성과 경제 성장을 높인다. 또한 인간의 실수를 줄여 안전성을 강화하고, 교통과 도시 인프라 관리 효율을 개선하며, 사이버보안과 데이터 프라이버시를 강화한다. 일부 영역에서는 창의력과 문화, 문제 해결 능력까지 향상시키는 긍정적 역할을 하고 있다.

한 가지는 분명하다. AI가 전적으로 선하거나, 완전히 악하다고 말하는 사람은 틀렸다. AI의 미래를 바라볼 때 우리는 겸손하고 열린 태도를 유지해야 한다. AI 낙관론자도, 비관론자도 아닌 입장에서 기술이 가져올 이점을 탐구하고 활용하는 동시에 그 잠재적·현실적 위험으로부터 사회를 보호할 방법을 모색해야 한다.

AI는 인류에게 빛과 그림자를 동시에 안겨주는 기술이다. 그야말로 이 시대의 모든 것이 뒤섞인 복합체다.

dl-itworldkorea@foundryco.com

Mike Elgan editor@itworld.co.kr
저작권자 Foundry & ITWorld, 무단 전재 및 재배포 금지