[필동정담] AI가 만든 불신사회

연세대 한 강의의 중간고사에서 집단적인 부정행위가 발견돼 논란이다. 온라인으로 치러진 '자연어 처리(NLP)와 챗GPT' 과목 시험에서 상당수 학생이 챗GPT 등 인공지능(AI)을 사용한 것으로 알려졌다. 부정행위를 막기 위해 시험 시간 내내 컴퓨터 화면과 손·얼굴이 나오는 영상을 찍도록 했지만 소용없었다. 일부 학생은 촬영 각도를 조정해 사각지대를 만들거나 컴퓨터 화면에 여러 프로그램을 겹쳐 띄우는 식으로 부정행위를 저질렀다. 이 학교만의 문제도 아니다. 많은 대학 교수와 조교들은 학생들이 제출한 과제가 AI가 쓴 것인지 감별하기 위해 진땀을 뺀다.

기업들도 AI가 만든 가짜 영수증, 거래내역서와 전쟁을 벌이고 있다. 출장비 영수증부터 세금계산서까지 실제처럼 만들어진 'AI 문서'가 회계 시스템을 교란하고 있어서다. 최근 뉴욕타임스(NYT)와 파이낸셜타임스(FT)는 "AI로 위조한 가짜 경비 영수증에 기업들이 속는 사례가 늘고 있다"고 보도했다. 정보보안 업체 앱젠은 지난 9월 제출된 허위 문서의 14%가 AI로 만든 영수증이었다고 밝혔다. 핀테크 기업 램프도 최근 90일 동안 자사 소프트웨어가 100만달러(약 14억5000만원) 규모의 사기성 비용 청구를 탐지했다고 전했다. AI 기반 경비 관리 플랫폼 미디어스가 미국과 영국 재무 담당자를 대상으로 실시한 설문에서도 응답자의 30%가량이 GPT-4o 출시 이후 위조 영수증이 늘었다고 답했다.

영수증은 물론이고 임대차계약서, 진료기록 등 위조 분야가 다양해지면서 사기 범죄 문턱도 낮아지고 있다. 가짜뉴스와 이미지, 조작된 동영상 문제도 심각하다. 선거철마다 등장하는 'AI 합성 후보 영상'은 유권자의 판단을 흐리고, 연예인 얼굴을 딴 '딥페이크 영상'은 피해자를 양산한다. 그야말로 눈에 보이는 것을 그대로 믿을 수 없게 된 불신사회다. 가짜를 가려내고 감시하기 위한 기술도 발전하고 있지만, 사람들은 더 교묘한 방법을 찾게 될 것이다. 무엇을 믿고, 무엇을 의심해야 하는지 결정하는 일도 점점 더 중요해질 것 같다.

[이은아 논설위원]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]