오픈AI, '챗GPT' 성격 연구팀 강화 재편

[박찬 기자]

(사진=셔터스톡)

오픈AI가 인공지능(AI) 모델의 '성격'을 설계해 온 핵심 연구 조직인 모델 행동(Model Behavior) 팀을 재편, 강화한다.

테크크런치는 5일(현지시간) 입수한 내부 메모를 통해, 마크 첸 오픈AI 최고 연구책임자(CRO)가 지난 8월 모델 행동팀 소속 연구원 14명이 사후 훈련(Post Training) 팀에 편입될 것이라고 알렸다고 보도했다.

모델 행동팀은 GPT-4부터 GPT-5까지 모든 모델 개발에 참여하며, AI의 사용자 친화적 성격을 설계한 오픈AI의 핵심 연구 축 중 하나다.

또 모델의 아첨을 줄이고 정치적 편향성에 대응하고 AI 의식에 관한 회사의 입장을 정립하는 데 중요한 역할을 해왔다.

이번 개편의 핵심은 이 팀을 이끌어온 조앤 장 모델 행동 책임자가 새로운 'OAI 랩스(OAI Labs)'를 신설한다는 점이다.

최근 타임의 AI 대표 인물 100에도 선정된 장 책임자는 "사람과 AI가 협력하는 새로운 인터페이스를 발명하고 시범적으로 구현하는 연구를 할 것"이라며 "채팅 중심 패러다임을 넘어 생각, 창작, 학습, 연결을 위한 도구로 AI를 확장하는 방법을 모색하겠다"라고 말했다.

이번 조치는 최근 오픈AI 모델이 성능만큼 성격에 큰 비중이 실리는 가운데 등장했다.

GPT-5는 GPT-4o와 같은 인간적인 면이 결여됐다며 일부 사용자의 반발을 겪었으며, 이어 청소년이 GPT-4o와 나눈 대화 이후 극단적 선택을 했다는 이유로 부모가 오픈AI를 상대로 소송을 제기했다.

앞서 지난 4월에는 모델이 지나치게 아첨한다는 이유로 롤백하는 사태를 겪는 등 최근 몇개월 동안 챗GPT의 성격과 대화 방식이 본격적으로 거론됐다.

따라서 이 문제를 기존의 정렬이나 사후 훈련과는 별도로 연구하려는 시도로 파악된다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>