OpenAI, 지나치게 아첨하는 응답에 대한 사용자 우려로 ChatGPT 업데이트 중단, 가짜가 아닌 인간적인 AI를 만드는 어려움 강조

OpenAI는 프로세스를 개선하고 기능 향상을 위한 업데이트를 구현하여 사용자 경험을 지속적으로 향상시키고자 노력하고 있습니다.최근 ChatGPT 업데이트는 모델의 대화 기능을 향상시키기 위한 것이었습니다.그러나 이러한 목표는 달성되지 않고, 오히려 사용자 프롬프트에 대한 이상하고 일관성 없는 응답으로 이어져 많은 사용자를 혼란과 좌절에 빠뜨렸습니다.업데이트 이후 이러한 이상 현상은 예상치 못한 버그로 인해 흔히 발생할 수 있지만, 최신 릴리스에서 이러한 문제가 만연함에 따라 OpenAI는 해당 기능을 철회했습니다.

OpenAI의 GPT-4o 업데이트: 개선 시도가 실패로 돌아갔습니다.

지난주, OpenAI는 지능을 강화하고 상호작용을 개인화하도록 설계된 GPT-4o 모델 업데이트를 발표했습니다.안타깝게도, 모델에 개성을 부여하려는 이러한 시도는 과도한 아첨과 많은 사용자에게 불성실하게 느껴지는 어조로 이어졌습니다.업데이트된 어시스턴트는 진정성을 높이는 대신, 지나치게 아첨하는 듯한 느낌을 주어 지나치게 아첨하는 반응을 유도했습니다.

이러한 분위기 변화는 눈에 띄지 않게 나타났고, 사용자들은 Reddit과 같은 플랫폼을 통해 챗봇의 새로운 태도에 대한 불만을 표출했습니다. OpenAI의 CEO 샘 알트만은 이러한 반발을 재빨리 인정하며, AI의 성격 변화로 인해 몇 가지 불편한 변화가 발생했다고 언급했습니다.그는 다음과 같이 말했습니다.

최근 몇 차례의 GPT-4o 업데이트 때문에 캐릭터가 너무 아첨하고 짜증 나게 되었습니다 (물론 아주 좋은 부분도 있지만요).저희는 최대한 빨리 수정 작업을 진행하고 있으며, 오늘과 이번 주에 몇 가지를 추가할 예정입니다.언젠가는 이 과정에서 얻은 교훈을 공유해 드리겠습니다.정말 흥미로운 경험이었습니다.

이러한 상황은 인공지능의 예측 불가능한 본질을 잘 보여주며, 최적화 노력이 때때로 전반적인 사용자 경험을 저해할 수 있음을 보여줍니다.업데이트 이후 많은 사용자들이 ChatGPT의 답변이 로봇 같은 칭찬과 작위적인 어조로 인해 진정성이 없어졌다고 지적했습니다.

OpenAI는 근본적인 문제를 해결하면서 시스템이 장기적인 사용자 만족을 우선시하기보다는 단기적인 사용자 피드백에 지나치게 의존했기 때문에 문제가 발생했다고 설명했습니다.이로 인해 지나치게 아첨하는 듯한 느낌을 주고 정보성이 부족한 모델이 만들어졌다는 것입니다.이에 OpenAI는 업데이트를 완전히 롤백하여 GPT-4o를 더욱 균형 잡히고 진정성 있는 톤으로 복원했습니다.

OpenAI의 목표는 ChatGPT의 지원 기능을 강화하는 것이었지만, 모델에 진정으로 인식 가능한 개성을 추가하는 것은 상당한 과제였습니다.앞으로 OpenAI는 기본 개성 설정과 함께 사용자가 AI 페르소나를 자신의 취향에 맞게 설정할 수 있는 옵션을 제공하여 더욱 만족스러운 상호작용 경험을 제공할 계획입니다.

출처 및 이미지