디지털 아노미, 알고크러시... AI 문명 시대에 대한 사회학자의 경고

김문조 교수 신간 <포스트소셜사회론> "디지털 전환이 인공지능 전환으로 비약하는 새로운 문명 단계"

━
오랫동안 실세계라는 단칸방에 칩거하던 사람들이 AI 문명 시대를 맞아 기능적 현존감을 더해 가는 가상세계의 방들이 들어찬 다중현실의 저택으로 이주하고 나면 이 방 저 방 넘나들며 다양한 현실을 체험할 것이다. 이 같은 상황을 주관적으로 정의하면서 새로운 현실관을 습득하게 될 때, 복수적 현실을 살아갈 그들은 종전까지 따르던 지배적 가치규범이 신종 가치규범과 뒤섞이는 의식적 혼란에 처하는 '디지털 아노미' 상태에 이를 것으로 본다.

━

한국을 대표하는 사회학자인 김문조 고려대학교 명예교수가 이달 출간한 새 저서 <포스트소셜사회론 - AI 문명 시대의 미래>(다산출판사)에서 경고한 '포스트소셜사회'의 초대형 난제들 중 하나다. 김 교수는 다가오는 신문명 시대의 세상을 '사회 이후의 사회'라는 뜻의 포스트소셜사회(postsocial society)로 규정했다.

이 신문명 시대는 그 총아가 AI(인공지능)다. 저자는 "AI가 주도하는 최근의 변혁은 극의 무대가 전면적으로 바뀌는 '문명 시대 제2장'으로 불러 마땅하다"며 "신경학적 심층연결망(Deep Neural Network: DNN)을 갖춘 AI가 꾸준한 자기학습과 풍부한 실전 체험을 통해 인간 활동 전반에 뿌리내리게 되면 급성장하는 인공지능이 조만간 인간지능을 넘어서는 특이점(singularity)에 도달할 것"이라고 말했다.

저자는 생성형 AI의 등장 이후 '알고크러시'(algocracy, 알고리즘의 지배)에 의한 여론 왜곡으로 민주적 통치성이나 통치 질서가 저해될 위험성이 고조된다고 지적했다. 영리주의, 국가주의, 파당주의 등으로 인한 정보 여과(filter bubble)나 추천 알고리즘으로 생각이 비슷한 사람들끼리만 어울리게 하는 정보의 편향화, 자동화된 연산처리 절차로 다양한 자료들을 엮어 결과물을 뚝딱 만들어 내는 포스트프로덕션으로 주류적 견해가 과잉 대변되는 경우 등이 알고크러시의 위협이다. 이는 창의적 대안 창출을 가로막아 공론장 질서를 넘어 통치성 위기로까지 연결되는 문제다.

대통령 선거 기간 중인 최근 우리는 이같은 위협들을 실제로 목도하는 경우가 있다. 각 정당들은 경쟁 정당 일부 지지자들의 AI를 활용한 가짜뉴스 공격, 진영 유튜버들의 편향적 공세를 가장 경계하고 있다. 저자는 "AI 시대에는 신뢰성 문제가 검색의 시대에 비해 전폭적으로 확대된다"며 "사진이나 동영상과 같은 시각 자료 같은 경우 과거에는 그 진위가 비교적 쉽게 가려졌으나 AI로 정교하게 조작된 이미지를 생성할 수 있게 되면서 진짜에 대한 의혹이 폭증하고 있다"고 지적했다. 또 "딥페이크 기술로 진짜와 가짜의 경계가 급속히 와해되고 있는 것"이라며 "가짜뉴스도 이미지의 경우와 다를 바 없다"고 했다. 사태를 왜곡하는 편파적 정보 생성이 AI 시대의 사회적 신뢰성을 약화시키는 치명적 요소라는 지적이다.

저자는 또 신문명 시대에 다양한 유형의 사이보그로 혼성화하는 개인은 정체성 위기를 유적(類的) 수준에서 체감하게 된다면서 사회 각처에서 인력 수요가 감축되는 무인화 경향으로 정체성 위기는 '휴먼 디플레이션'(human deflation) 현상이라는 존재론적 위기로 이어질 것이라고 우려했다.

AI 문명화가 진행되는 포스트소셜사회에서는 생명과 무생명의 경계가 희석되면서 삶과 죽음에 대한 관점도 혼돈을 초래할 것으로 예견된다. 죽음이 청천벽력 같은 절대적 기피 범주가 아니라 여건, 시기, 방법 등을 감안한 선택 사항이 될 수도 있고, 최첨단 기술에 의한 신체적·정신적 재현이 가능해질 수도 있다. 그러면 사망학(Tanatology)에 대한 관심이 확산돼 '행복한 죽음'이 '행복한 삶' 못지않게 의미 있는 이슈로 떠오르면서 새로운 사회인구학적 변화를 이끌 수 있을 것이라고 저자는 기대했다.

김문조 고려대 명예교수 /사진=이기범 기자 leekb@

━

유일무이 한 것이라 생각해 온 현실이 이리저리 넘나들 수 있는 여러 갈래로 분장(分場)되어 "내가 어디에 있는가(Where am I)?"라는 생활 현장에 대한 물음을 제기하고, 인간의 사물화 및 사물의 인간화라는 양방향 교류가 촉진되는 상황에서 "나는 누구인가(Who am I)?"라는 자아 정체성을 거듭 확인하며, "생명이란 무엇인가(What is life)?"라는 생존 여부를 탐지하면서, "그게 진짜냐(Is it true)?"라는 진실성/진정성을 되물으며 살아야 하는

━

우리가 처한 '현시점'에 대한 저자의 분석이다. 인류가 탄생한 시기부터 21세기 초반에 이르는 오랜 세월 동안 존속해 온 것과는 판이한 미래가 쏜살같이 다가오는 시점이다. 저자는 현시기가 인류사의 가장 급진적인 시기로 기록될 것이라고 확신했다. 신문명 시대는 AI가 자신을 창조한 인류와 더불어 역사를 이끌어 갈 주체로 동참한다. AI의 영향이 객관적 세계 및 주관적 세계는 물론, 우리 심신에까지 전면적으로 파급되는 문명사적 빅뱅 시기다.

그래서 기존의 현실, 인간, 생명, 진실에 관한 새로운 인식과 대응이 필요하다. 그것이 저자가 주창하는 포스트소셜사회론이다. 포스트소셜사회의 핵심적 동학은 △가상현실의 등장을 계기로 실제 현실의 독점적 지위가 상실되는 탈실재화(脫實在化) △인간 이외의 사유적 존재가 출현해 현존 인간의 위상이 도전받는 탈인간화(脫人間化) △사실에 입각한 객관적 지식의 정당성이 약화하는 탈진실화(脫眞實化)다. 포스트소셜사회의 징후는 △가상현실과 실제 현실이 혼재된 다양한 유형의 다중현실(multiple realities) △인간-비인간 복합체가 사회활동에 동참하는 포스트휴먼(posthuman) △진실이 존중받지 못하는 탈진정성(post-authenticity)이다.