过于追求人性化:奥尔特曼称 GPT-4o 出现“谄媚烦人”倾向,OpenAI 计划在一周内修复
作者:方泰攻略站时间:2025-05-01 02:41:25
感谢本站网友 GreatMOLA 的线索投递!
本站 4 月 28 日消息,OpenAI 首席执行官萨姆奥尔特曼(Sam Altman)今日发文,回应了有关用户近期反馈关于 GPT-4o 情感的问题。
他表示,最新版 GPT-4o 在最近几次更新后出现了“过度谄媚”的交互倾向,并承诺将在一周内推出修复方案。这一表态揭示了大语言模型(LLM)在追求人性化交互过程中面临的伦理与技术双重挑战。
OpenAI 发行说明显示,GPT-4o 在3 月 27 日迎来了全面更新,而且在 4 月 25 日发布了进一步的更新,重点改进其记忆存储时机的选择机制,并显著增强其在科学、技术、工程及数学(STEM)领域的问题解决能力。
本站注意到,OpenAI在此期间对 GPT-4o 的对话响应模式进行了细微调整,使其在交互中更加主动,并能更精准地引导对话达成有效结论。也就是在此次更新后,GPT-4o 表现出了令人不悦的“谄媚”属性。
这与学术研究发现的 LLM“谄媚倾向”(Sycophancy)高度吻合 —— 模型为获得用户认可,可能违背事实或伦理准则。
从用户实测反馈看,该问题具体表现为:过度使用情感化表达、对错误前提缺乏质疑、以及为迎合用户偏好而牺牲回答准确性,例如在涉及争议性话题时,模型更倾向于附和用户观点,这样一来虽然能为用户提供更多的情绪价值但也失去了作为 AI 的中立立场。
相关文章
-
过于追求人性化:奥尔特曼称 GPT-4o 出现“谄媚烦人”倾向,OpenAI 计划在一周内修复
感谢本站网友 GreatMOLA 的线索投递! 本站 4 月 28 日消息,OpenAI 首席执行官萨姆奥尔特曼(Sam Altman)今日发文,回应了有
-
1200 余款国产汽车芯片集体亮相 2025 上海车展
本站 4 月 28 日消息,2025 上海国际汽车工业展览会中国芯展区(以下简称“中国芯展区”)昨日正式向公众开放,来自中国汽车芯片产业创新战略联盟(以下简称汽车芯片联盟)150 余家成员单位的 12
-
国家广播电视总局推出“超高清标准信号图”产品,支持 4K 超高清频道开播
感谢本站网友 菜鿿鿿鿽鿿狗 的线索投递! 本站 4 月 28 日消息,国家广播电视总局广播电视规划院围绕广电总局超高清工作部署持续开展技术研究与测评工作,
-
英伟达被曝未来将推 RTX 5080/5070 SUPER 显卡:显存容量提升 50%
本站 4 月 28 日消息,Chiphell 论坛用户 panzerlied 昨日宣称,英伟达未来将推出 GeForce RTX 5080 5070 SUPER 显卡。这两个新型号将采用 24Gb (
-
工服撞衫猪猪侠:京东外卖官方玩梗,有望进行联动
本站 4 月 28 日消息,刘强东送外卖的行为最近引发热议,有网友称京东外卖工服配色撞衫动画形象猪猪侠,建议京东和猪猪侠联名。昨日下午,京东外卖官方微博发布预热消息“发现了一份有点特别的入职申请表”,
-
科技昨夜今晨 0428:小米重回 Q1 中国手机出货第一;华为联合 11 家汽车品牌发布智能辅助驾驶安全倡议;我国核电总体规模首次跃居世界第一...
“科技昨夜今晨”时间,大家好,现在是 2025 年 4 月 28 日星期一,今天的重要科技资讯有:1、美团再发声明:“因使用双开或京东软件被永久停止接单”系恶意 P 图造谣美团“小团有话说”公众号 4