AI 이미지는 왜 ‘노란’ 분위기일까... AI근친교배, AI 신뢰성 위협

황금빛 사진·빈티지 이미지 편향 누적
합성 데이터 재활용으로 편향 증폭

챗GPT에 개와 고양이가 행복하게 노는 모습을 그려 달라고 명령했을 때 생성한 이미지. 이처럼 웹상에서는 AI가 만든 이미지의 색조가 노란색을 띠는 경우가 많다는 글을 자주 발견할 수 있다. [그림=챗GPT]

최근 인공지능(AI)이 만든 이미지에서 ‘노란색 색조’ 현상이 반복적으로 관찰되고 있다. AI가 만들어낸 이미지 상당수가 마치 ‘노란색 필터’를 거친 것과 같아 여러 커뮤니티에서는 “노란색 색조를 없애는 프롬프트” 등이 유행할 정도다. 일각에서는 이러한 현상이 AI 근친 교배(Inbreeding)로 설명하고 있다. AI가 자기 생성 데이터를 다시 학습하면서 나타난다는 설명이다.

AI 이미지에 나타나는 노란색 편향은 여러 요인이 겹친 결과다. 먼저 훈련 데이터 자체에 ‘황금시간대(Golden Hour)’ 사진이 과다하게 포함된 점이 원인으로 꼽힌다. 해 질 무렵 특유의 따뜻한 톤을 담은 사진은 온라인에 다수 업로드된 만큼 이를 학습한 AI는 황금빛 색감을 ‘표준적’이고 ‘미적으로 우수한’ 결과물로 오인하게 된다. 오래된 사진이나 스캔본처럼 시간이 지나면서 자연스럽게 변색한 이미지가 포함된 점, 그리고 소셜미디어에서 자주 사용되는 따뜻한 톤의 필터 효과 이미지가 데이터 세트에 들어간 점도 노란색 편향을 강화했다.

일부 AI 모델은 사용자에게 ‘예술적’이고 ‘따뜻한’ 이미지를 제공하려는 의도로 색온도를 낮게 잡아두었는데, 이에 따라 과도하게 노란빛을 띠는 결과가 발생한다. 또한 색상에 대한 언어적 지시어를 모델이 제대로 해석하지 못하거나, 다른 프롬프트 요소보다 뒷순위로 처리하면서 색상 제어가 무력화되는 경우도 있다.

가장 근본적인 문제는 AI 이미지가 다시 AI 훈련 데이터로 쓰이는 ‘데이터 순환’ 현상이다. 이미 노란색 편향을 띤 이미지가 차세대 모델 학습에 투입되면서 편향이 기하급수적으로 증폭된다. 이를 ‘우로보로스(자기 자신을 삼키는 뱀)’ 현상으로 비유하기도 한다. 결과적으로 AI가 스스로 만든 한정된 세계에 갇히고, 결과물은 더욱 단조롭게 왜곡된다.

실제로 2024년 네이처에 발표된 논문에서는 AI가 만든 문장만으로 학습한 거대언어모델(LLM)은 문장 구조가 단순해지고 엉뚱한 내용을 답변하는 성향이 강해지는 것으로 나타났다.

AI 기업들은 대응책을 서두르고 있다. 오픈AI는 AP통신, 미스트랄AI는 AFP와 제휴를 맺고 고품질 인간 데이터를 확보하려는 노력을 기울이고 있다. [실리콘밸리 원호섭 특파원]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]