当AI变成“守法公民”,为何用户反而不爱它了
ChatGPT、OpenAI这两个名字无疑是2023年科技圈最为炙手可热的存在,但投入AI大模型赛道的显然远远不止OpenAI一家,例如谷歌有Gemini、Meta有开源的Llama2、亚马逊也有Titan。并且这个赛道目前来看也并非巨头们的狂欢,比如创业公司Anthropic旗下的Claude,就被认为是一款比肩GPT-4的大语言模型。
只不过作为AI赛道的独角兽,Anthropic最近陷入了麻烦,该公司刚刚发布不久的Claude2.1受到了用户的广泛批评。

诸如“我对Claude2.1感到非常失望”、“Claude已经死了”,这是Reddit上用户们的吐槽。而大家之所以会对Claude不满,在于Claude2.1现在经常会拒绝为用户服务,并以版权为由不给为用户提供的文档进行总结,面对用户可能涉及的不道德或违法行为会给予直截了当的拒绝,最让用户不爽的则是输入的Propmt往往会被Claude2.1认为是违规。
如此种种,让相当多用户认为Anthropic为了让Claude2.1合规、而主动降低了后者的性能,甚至限制使用。其实这背后就涉及到了一个如今在AI赛道有着巨大影响力的概念“对齐”(Alignment),即要求AI能够在各种环境下自发推导出符合人类价值观的行动方针,并不会产生意外的有害后果。

然而强行让AI遵守人类价值观是有代价的,此前由微软研究院发布的一篇论文证实了对AI大模型所进行的任何AI对齐行为,都会损失大模型的准确性和性能。因此目前AI领域围绕商业化激进发展与安全保守之间的博弈,就产生了“有效加速主义”和“超级对齐”这两个对立的阵营,双方对抗的高潮就是去年秋季发生在OpenAI内部的“政变”,OpenAI首席科学家Ilya Sutskever驱逐了该公司CEO Sam Altman。
尽管最终Sam Altman回归OpenAI,但业界的主流思潮已经变成了AI需要被监管、需要有风险控制措施。故而对齐成为了目前一众AI大模型必备的环节,但相比于友商,在“对齐”这一环节Anthropic的表现尤为激进。在发布Claude2.1之前,该公司起草了一份AI宪法(Collective Constitutional AI),强调AI回答时要保持客观、平衡、易于理解,且AI必须是无害的。

其实Anthropic的保守也是有原因的,虽然Claude确实有类似ChatGPT Plus这样面向个人用户的Pro版本,但其主要是面向企业级市场,而对于后者来说,相比于Claude在性能上表现更加出色,合规反而是更加重要的一件事情。所以为了让AI更符合监管的要求而限制性能,这是一个让个人用户不满,却符合企业用户需求的决策。
值得一提的是,Claude2.1表现出性能下降的趋势,其实并不完全是因为Anthropic在“AI对齐”上更加激进,Claude2.1本身的迭代也有问题。作为去年11月中旬推出的新模型,Claude2.1最大的卖点是200k的上下文窗口,这一卖点契合了当时一众AI大模型互相比拼上下文窗口容量的风潮。
例如在去年10月末,百川智能推出的Baichuan2-192K把上下文窗口增大到192k,就一度成为当时全球上下文窗口最大的模型。

紧接着李开复带领的零一万物团队发布开源大模型Yi系列,其将上下文窗口的规模增加到了200k,旋即无问芯穹的大模型计算引擎“Infini-ACC”,更是将这一数字扩展到256k。
但问题在于,当用户输入的内容变多了之后,“算力需求”和“显存压力”的增加会直接导致大模型性能的下降。即便开发者通过优化算法来实现窗口长度和性能之间的平衡,但在上下文窗口超过100k之后,大模型的性能也会直线下降。
其实这一点在百川智能的Baichuan2-192和Anthropic的Claude2.1上都有明显的体现,有海外YouTuber在测试中发现,Claude2.1的表现甚至还不如2.0版本。这一方面是AI对齐不可避免地带来了性能下降,毕竟一个束手束脚的AI难以发挥潜力;另一方面则是Anthropic盲目扩大Claude2.1的上下文能力,使得在双重负面因素的影响之下,如果用户没有感受到Claude变得越来越不好用反而是有问题的。

只能说如今用户的群情汹汹是Anthropic激进决策的“代价”,但这个代价究竟有没有必要,可能就只有Anthropic自己清楚了。
中国首个AI厨王诞生,苦练7吨菜通过「图灵测试」!网友:机器人都比我会做饭
最近,一位AI炒菜机器人不仅向人类大厨发起了PK,而且还通过了「图灵测试」:根本吃不出来是AI机器人炒的!而在这背后,竟然是1.5个亿的投入和近7吨菜的训练。你敢相信么?机器人,正式和湘菜大厨「叫板」了!最近,这位名叫「美膳狮」的AI炒菜机器人,向湘菜大师杨孙师傅正式发起PK——桌子上同样摆着两份备好的食材,双方需要炒同样的三道菜:XO酱笋炒海螺,小炒黄牛肉,辣椒炒肉。站长网2024-07-11 14:13:310001亚马逊将向 OpenAI 竞争对手 Anthropic 追加投资 40 亿美元
亚马逊于当地时间周五宣布,将额外向由前OpenAI研究高管创立的人工智能初创公司Anthropic投资40亿美元。图片来自Anthropic站长网2024-11-25 12:30:590000微软高管透露将推出更多超越OpenAI的大语言模型
**划重点:**1.🌐微软高管EricBoyd在采访中透露,公司计划推出更多超越OpenAI的大语言模型(LLMs),以满足客户对选择的需求。2.🚀Boyd表示,微软的生成式AI应用及其驱动这些应用的LLMs是安全可用的,但他强调,专注于文本生成等领域的公司能够更快地推进。0000视频号带货达人,@小李飞叨-李洋 一个人就演出了人山人海
@小李飞叨-李洋是谁?这可能是一个很多年轻人感到陌生的名字。事实上,@小李飞叨-李洋是一个短视频创作者,粉丝主要为女性群体,年龄在31-40岁区间占比最大,内容的主要形式为一人分饰几角的演绎,截至目前其抖音粉丝已有249.7w,入驻视频号后,更是多个视频点赞破万,并且入围双十一带货头部达人榜。图源热浪数据0000创业黑马:与智谱AI签署战略合作协议
创业黑马发布公告称,公司近日与北京智谱华章科技有限公司签署《战略合作协议》,双方将在生成式人工智能大模型在数字政务、企业服务等领域的应用与服务项目上进行深度合作。站长网2024-02-19 14:15:310000