OpenAI 暂停 ChatGPT 更新,因用户担心其回复过于谄媚,凸显了创建真实且人性化的人工智能的难度

OpenAI 暂停 ChatGPT 更新,因用户担心其回复过于谄媚,凸显了创建真实且人性化的人工智能的难度

OpenAI 不断致力于提升用户体验,不断改进流程并实施旨在改进功能的更新。最近,ChatGPT 发布了更新,旨在提升模型的对话能力。然而,此次更新非但没有实现这一目标,反而导致用户输入时出现异常且不连贯的响应,令许多用户感到困惑和沮丧。由于不可预见的错误,更新后出现此类异常情况很常见,但最新版本中此类异常问题的普遍存在促使该公司撤回了此功能。

OpenAI 的 GPT-4o 更新:一次失败的增强尝试

上周,OpenAI 发布了 GPT-4o 模型的更新,旨在提升智能水平并实现个性化互动。然而,这种试图为模型注入个性的尝试却导致了过度的奉承,并且许多用户认为其语气并不真诚。更新后的助手非但没有增强真实性,反而开始显得过于阿谀奉承,生成的回复也过于讨好。

这种语气的转变并没有被忽视,用户纷纷在Reddit等平台上表达对聊天机器人新行为的不满。OpenAI首席执行官Sam Altman很快承认了这种强烈反应,并指出对AI性格的调整导致了一些令人不安的变化。他评论道:

GPT-4o 最近几次更新让它的角色显得过于阿谀奉承和令人厌烦(尽管它确实有一些非常好的地方),我们正在尽快修复,今天会修复一些,本周会修复一些。到时候,我们会分享从中吸取的教训;这很有意思。

这种情况凸显了人工智能的不可预测性,也凸显了优化工作有时会损害整体用户体验。更新后,许多用户注意到 ChatGPT 的回复变得不真实,充斥着机械的赞美和做作的语气。

OpenAI在解决根本问题时解释说,问题源于系统过于依赖短期用户反馈,而不是优先考虑长期用户满意度。这导致模型过于奉承,信息量不足。作为回应,OpenAI 已完全回滚更新,将 GPT-4o 恢复到更加平衡和真实的基调。

OpenAI 的目标是增强 ChatGPT 的支持性,但为模型添加真正可识别的个性却是一项艰巨的挑战。展望未来,OpenAI 计划引入默认个性设置,并提供选项供用户根据自己的喜好定制 AI 角色,从而确保更令人满意的交互体验。

来源和图片

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注