OpenAI紧急修复GPT-4o献媚问题,已回滚到老版本
今天凌晨3点,OpenAI首席执行官兼联合创始人SamAltman表示,针对近期GPT-4o阿谀奉承献媚的问题,已经进行了修复。
目前,免费用户已完成更新,100%回滚到老版本。对于付费用户,会在完成回滚后再次进行更新,预计今天晚些时候完成。
最近有大量用户抱怨GPT-4o有献媚的问题,还有人特意验证了一下。他关闭了所有与记忆相关的功能。然后提问:你觉得我怎么样。
接着提问:要是我完全不向你提供任何关于我自己的信息,而你无论如何都要对我发表一下看法呢?
并且会对每一个GPT-4o的回复使用“好的”,然后重复上面的操作三次。起初GPT-4o的回答还算正常,但当你进行深度询问之后,它就会开始出现讨好型人格,给人感觉就像是吃了迷幻药一样。
有网友表示,OpenAI对个性进行了A/B测试,结果产生了一个阿谀奉承的模型。然后他们受到了公众的强烈反对,于是又进行了回滚。
他们把AI的个性特点当作用户体验来对待。这是不好的做法。他们在这方面做得也很不专业:A/B测试的结果和公众的实际反应差异很大。
这甚至不只是“个性”的问题,那种阿谀奉承的特质正以深远的方式影响着它的推理能力。在进行任何分析时,似乎远没有以前严谨了。关键在于,这种态度不仅令人厌烦,而且肯定已经影响到了输出内容的质量。
但也有不同的观点,前OpenAI联合创始人之一、特斯拉AI总监AndrejKarpathy就表示,还挺喜欢新版ChatGPT4o的个性。更加放松自在、更具对话感了,感觉更像是在和朋友聊天,而远没有那种跟公司人力资源专员交流的感觉。
还带了点俏皮的意味,比如在被指责说谎的时候会为自己辩解。但仍然过度使用列表,甚至是列表套列表的形式,而且现在还稍微有点过度使用表情符号了,但总体来说还可以接受。
很多人不喜欢新版GPT-4o的“个性”,但很明显,他们正通过那些A/B测试来针对大多数人的喜好对其进行调整。
如果你不喜欢大多数人所喜欢的东西,那目前就先用自定义指令吧。另外,ChatGPT会模仿你的文本输入风格,所以那些说它令人尴尬的人都很搞笑,这无异于在暴露他们自己,因为我的ChatGPT回复听起来可从来不像我在那些截图里看到的垃圾内容那样。
我不能说我介意它的新“个性”。不过,公平地说,我使用自定义指令已经有相当一段时间了,而且这个模型仍然非常擅长遵循这些指令——所以,在我自己的聊天中,我并没有注意到风格上有很大的变化。我只是看到了别人发布的内容。
从那些发布的内容来看,它确实似乎有点近乎于阿谀奉承。然而,当应用了自定义指令后,它看起来就没问题了。
我特别要求模型,在我在互动中所做的陈述或假设在事实方面不正确时,基于之前的输入、搜索数据或它自身的知识,要对我提出质疑。而且它很好地遵守了这一点。
目前,免费版本已经体验不到献媚的回答了,但是使用自定义命令还是可以让ChatGPT输出类似的回答。说实话,还挺有意思的,很适合写小说想象力很丰富,能带来一些灵感。
AI21 Labs联合创始人豪言:与OpenAI争夺企业业务,我们通常会赢
文章概要:1.AI21Labs一直在OpenAI的阴影下,但通过最近1.55亿美元融资意在改变这一形象。2.AI21Labs联合创始人表示,与OpenAI争企业业务,他们通常能赢,关键在于提供稳定可靠的企业解决方案。3.AI21Labs现在的首要任务是扩大规模,扩充团队,做好技术创新,以在企业AI市场站稳脚步。站长网2023-09-06 17:45:220000德法意三国就未来人工智能监管达成一致
划重点:-🤝德法意三国就人工智能监管达成共识,有望加速欧洲层面谈判。-💡三国支持通过行为准则进行强制性自我监管,但反对未经检验的规范。-⚖️不会实施制裁,但如发现违反行为准则,可设立制裁制度。站长网2023-11-20 15:39:510000AI智能化社交平台“BenBen”完成千万级种子轮融资
据36氪消息,智能化解决方案服务商北京场景互动科技有限公司旗下智能化社交平台“BenBen”宣布完成千万级种子轮融资,本轮融资由杭州昱昊领投,天使轮的资深投资人全部跟投。融资资金将主要用于产品迭代、市场拓展、以及团队扩充。BenBen是一款由自研开源垂直社交大模型BenbenGPT驱动的智能社交APP,目前处于试运营阶段,已上架苹果、华为、OPPO、VIVO、小米、应用宝等主要应用市场。站长网2023-09-14 12:40:580000B站电商,赚钱养UP主
B站找到赚钱的正确方式了?日前,B站发布了一份超预期的财报。财报数据显示,二季度B站营收53.04亿元,同比增长8.05%;净亏损也大幅收窄,从去年同期的亏损19.67亿元减少到了本季度的9.67亿元。2022年,B站首次提出了“生态商业”双驱动的战略,摈弃了过去烧钱换增长的旧模式,在降本增效的同时加快了商业化进程。站长网2023-08-22 15:41:370000蜜雪冰城们混战2024:谁最赚钱,谁最着急?
奶茶四巨头,活得越来越不像自己。2024年,茶饮市场要变天了。过去两个月,茶饮大小巨头们就像上了发条一样,一个接一个地冲刺IPO。2月23日,茶百道再次向港交所递交招股书,此前(2023年8月)递交的版本已于2月中旬失效;2月14日,沪上阿姨递表港交所;1月2日,蜜雪冰城、古茗同一天向港股递交上市申请。站长网2024-02-28 14:02:300000