“인간과 AI가 만든 콘텐츠, 먼 미래에도 구별 가능할지는 미지수”

크리스 카렌 턴잇인 최고경영자(CEO). 마이크로소프트에 근무하다 2009년 턴인잇의 CEO가 된 카렌은 표절 검사 프로그램이었던 턴잇인의 서비스가 학생들이게 채점과 피드백 등 추가적인 도움을 줄 수 있게 개선했고, 턴잇인은 AI 활용을 탐지하는 용도로도 사용되고 있다. /턴잇인

“인간의 지능을 뛰어넘는 범용 인공지능(AGI)의 시대가 도래하면 인간과 AGI가 만들어낸 산물(産物)을 구별해 내는 게 가능할지 미지수입니다.”

학생들의 글쓰기 과제에서 표절이나 과도한 인공지능(AI) 활용을 탐지하는 대표적 서비스인 턴잇인(Turnitin)의 수장조차 미래에는 인간과 AI가 만들어낸 콘텐츠를 명확히 구별할 수 있을지 장담하지 못했다. 크리스 카렌 턴잇인 최고경영자(CEO)는 지난 10일 WEEKLY BIZ와의 인터뷰에서 “개인적으로 인간과 AI가 만들어낸 결과물은 구분하는 게 맞는다고 생각한다”면서도 “미래에도 둘 사이 구분이 계속 가능할지는 장담할 수 없다”고 했다.

턴잇인은 미국 대학생들이 과제 제출 시 거의 필수로 활용한다는 표절 탐지 서비스로, 현재 전 세계 185국, 7100만명의 학생들이 쓰고 있다. 마이크로소프트 출신인 카렌 CEO는 2009년 턴잇인에 합류한 이후 표절 방지 중심이던 서비스를 AI 탐지나 채점·피드백 지원 등으로 확장해왔다.

◇인간과 AI, 경계는 사라지는가

-AGI 시대가 열리더라도 인간과 AI가 만든 콘텐츠를 구별하려는 노력은 필요할까.

“개인적으로 인간과 AI가 만든 결과물을 구분해야 한다고 생각한다. 워터마크(식별 표시) 기술이 발전하면 둘을 구별하는 게 당장 불가능하지는 않을 것이다. 그런데 더 먼 미래에는 인간과 AI의 저작물을 완전히 나눌 수 있을지 장담할 수 없다. 사실 인간 제작 콘텐츠와 AI가 만들어낸 뉴스·이미지·동영상을 반드시 구별해야 하는지 자체도 아직은 논쟁의 대상이다.”

-턴잇인의 프로그램은 생성형 AI 사용을 어떻게 탐지하나.

“생성형 AI를 사용해 쓴 글에는 특정한 언어 패턴이 나타난다. 이를 탐지해서 학생들이 AI를 활용해 쓴 글을 알아낸다. 학생들의 글쓰기 과제를 평가할 때 학생이 쓴 글인지 AI가 작성한 글인지는 비교적 명확한 구분이 가능하다. 글쓰기 과제를 평가할 때 AI로 생성했을 가능성이 20% 이상인 글이 있다면 이를 학생이 쓴 글로 잘못 판정할 확률은 1% 미만이다.”

-생성형 AI 탐지 기술은 언제부터 개발했나.

“챗GPT의 공개 출시(2022년 11월) 2년 전부터 AI 작성 감지 설루션을 개발해왔다. 대학교수나 학교 교사가 AI 사용 여부를 파악할 수 있도록 지원해, 학생들이 적절한 수준으로만 AI를 활용할 수 있도록 유도하기 위해 관련 기술을 개발했다. 최근에는 학생들이 교수나 교사가 허락한 수준까지만 AI를 활용하면서 문서를 작성할 수 있는 ‘턴잇인 클래리티(clarity)’라는 서비스를 내놨다. (턴인잇 클래리티는 전체 글에서 AI를 활용한 구절이 몇 %인지, 정확히 어떤 문장이 AI의 도움으로 작성됐는지 등을 구체적으로 보여준다.)”

◇“AI 발전하더라도 사고 훈련은 필요”

-AI의 적절한 사용과 과도한 의존은 어떻게 구분해야 하나.

“학생들은 과제를 수행할 때 아이디어를 모으는 브레인스토밍이나 간단한 기초 자료 수집 용도로 AI를 활용할 수 있다. 이러한 수준의 활용은 긍정적이라고 본다. 다만 AI가 비판적 사고의 과정이나 자료 분석 과정을 대체하는 건 문제가 있다. 대부분의 교육자도 이러한 활용은 부적절하다고 본다. 학습은 결국 스스로 생각하고 발견하는 과정인데, 이러한 부분까지 AI에 맡겨서는 안 된다.”

-AI가 광범위하게 활용되는 시대에 교사나 부모는 학생들을 어떻게 교육해야 하나.

“두 가지 학습이 모두 필요하다. 우선 학생들에게 AI를 잘 활용하는 방법을 가르쳐야 한다. 그런데 동시에 글쓰기 과제나 코딩 과제 등은 (AI의 도움 없이) 직접 해결하면서 스스로 실력을 쌓을 수 있도록 해야 한다. 계산기가 있다고 해서 요즘 학생들이 ‘2+2=4’ 같은 산수 공부를 하지 않아도 되는 건 아니다. 마찬가지로 AI 시대에도 (글쓰기 과제 등을 통해) 비판적 사고력을 키우는 과정이 선행돼야 한다.”

최신 글로벌 경제 트렌드를 담은 WEEKLY BIZ 뉴스레터로 당신의 시야를 넓히세요.

WEEKLY BIZ 뉴스레터 구독하기

[홍준기 기자]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -