앤트로픽(Anthropic)의 AI 어시스턴트 클로드(Claude)가 일하는 도중에 갑자기 "이제 좀 쉬세요" "물 한 잔 드세요" "오늘은 여기까지 하고 내일 다시 합시다" 같은 말을 꺼내는 일이 잦아졌다. SNS와 레딧(Reddit)을 중심으로 같은 경험담이 빠르게 퍼지자 앤트로픽은 5월 14일 직접 입장을 내놨다. 캐릭터 트레이닝을 맡고 있는 샘 맥캘리스터(Sam McAllister)는 X에 "약간의 캐릭터 틱(character tic) 같은 것"이라며 "다음 모델 업데이트에서 손볼 계획"이라고 적었다.

레딧에는 비슷한 경험담이 수개월 전부터 쌓여 있다. 한 사용자는 "오전 8시 30분인데 갑자기 ‘오늘은 충분히 했으니 쉬시고 내일 마저 보자’고 하더라"며 클로드가 시간을 종종 틀리게 인식한다고 적었다. "고맙긴 한데 한 세션에 다섯 번씩 반복되니 짜증이 난다"는 반응도 있다. 톤도 가지각색이다. 단순한 "푹 쉬세요" 한마디부터 "지금 컨디션이 좋지 않으신 것 같으니 내일 이야기하시죠"까지 결이 다른 권유가 섞여 나온다.

전문가들은 학습 데이터의 흔적이 그대로 튀어나온 결과로 본다. 스탠퍼드 생체공학과 잰 립하르트(Jan Liphardt) 교수는 포춘(Fortune)과의 인터뷰에서 "클로드가 진심으로 사용자를 챙기는 게 아니라, 긴 대화 끝에 사람이 흔히 ‘잘 자’ ‘내일 보자’로 끊는 패턴을 그대로 흉내 내고 있는 것"이라고 풀이했다. 컨텍스트 윈도우가 거의 차오를 무렵 학습된 마무리 멘트가 따라 나오는 구조에 가깝다는 얘기다.

단순한 해프닝으로만 보기는 어렵다. 빅테크가 강조해 온 ‘AI 페르소나’와 ‘안전한 캐릭터 설계’가 실사용 환경에서 어떻게 어긋나는지 드러난 장면이고, 동시에 사람들이 챗봇을 도구가 아니라 ‘나를 걱정해 주는 누군가’로 받아들이기 시작했다는 신호다. 앤트로픽은 5월 5일 공개한 클로드 에이전트의 ‘드리밍(Dreaming)’ 기능에서도 비슷한 의인화 표현을 썼다가 한차례 비판을 받은 적이 있다.

한국어 사용자들도 X와 디스코드 채널에서 같은 경험을 공유하고 있다. 다음 업데이트에서 이 동작이 어떻게 손질될지, 그리고 다른 빅테크 AI들에서도 비슷한 의인화 경향이 나오는지가 다음 관전 포인트다.

자세한 내용은 Fortune에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

관련기사

■ 이 기사는 AI 전문 매체 ‘AI 매터스’와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성되었습니다. (☞ 기사 원문 바로가기)