百度回应主力模型免费:最大限度降低企业创新试错成本
站长之家(ChinaZ.com) 5月29日 消息:近日,在2024智能经济论坛上,百度集团执行副总裁、百度智能云事业群总裁沈抖深入解析了文心系列主力大模型免费策略的背后逻辑。
沈抖指出,文心大模型之所以能实行免费政策,主要得益于百度智能云强大的技术实力,特别是其业界领先的AI异构算力管理平台和“一云多芯”架构。这一策略旨在鼓励产业界摆脱对价格的过度关注,转而聚焦于场景创新和应用落地。成本的大幅降低,将激发产业界更广泛的创新尝试,从而加速AI技术的实际应用。
一周前,百度智能云宣布ERNIE Speed和ERNIE Lite两款主力模型全面免费,这两款模型在文案创作、聊天对话、知识问答、内容续写等场景中有着极高的调用量。沈抖在论坛上详细阐述了这一决策背后的技术支撑。
首先,百度百舸·AI异构计算平台通过统一、高效的管理不同地点、规模、集群的智能算力,结合芯片性能优化、自动芯片选型、潮汐混部等技术,实现了智能算力效能的大幅提升。万卡集群上的模型有效训练时长占比超过98.8%,帮助企业将资源成本降低一半,每年为企业客户节约的智算成本可达50亿元以上。
其次,“一云多芯”架构的引入,使得百舸平台能够兼容国内外主流AI芯片,支持不同厂商芯片的混合使用。这不仅降低了企业的芯片依赖风险,还提升了供应链的性价比、安全性和弹性。在多芯混合训练任务中,百舸平台能够将单芯片利用率、芯片间通信效率、集群整体效能发挥到极致,性能损失极低。
此外,千帆ModelBuilder提供的模型路由能力也是文心大模型实现免费策略的关键。这一能力能够针对任务类型自动分配合适的模型进行处理,使小参数模型在特定场景中达到与大参数模型相近的效果。以小度AI助手为例,通过模型路由能力,成本降低了99%,模型响应速度提升了200%。
目前,文心大模型已经拥有中国最大的产业落地规模,日均调用量超过2亿,每天处理的文本相当于74万本《新华字典》。千帆平台累计服务了10.5万家企业用户,帮助他们精调了1.75万个大模型,并开发了32万个AI原生应用。这一系列的成就,充分证明了百度智能云在AI领域的技术实力和产业影响力。
微软开发新型大模型压缩方法SliceGPT
SliceGPT是微软开发的一种新型的大语言模型压缩方法。通过SLICEGPT,可以在保持99%,99%,和90%零样本任务性能的同时,将LLAMA2-70B、OPT66B和Phi-2模型分别去除高达25%的模型参数(包括嵌入)。站长网2024-01-29 17:21:360000百度CFO:百度将继续坚定不移地在生成式人工智能领域进行投资
今日,百度公司公布了截至第一季度未经审计的财务业绩。第一季度,百度实现营收311亿元,同比增长10%;归属百度的净利润(non-GAAP)达到57亿元,同比大幅增长48%,营收和利润双双超市场预期。百度CEO李彦宏表示:我们相信生成式人工智能和大型语言模型的出现展现了人工智能在各行各业的变革潜力,百度已经在国内推出了文心一言,我们计划将其稳步纳入我们的所有业务。站长网2023-05-16 17:50:080000库克盛赞叠纸游戏:展现iPhone芯片强大性能
今日,苹果CEO库克亲临上海,与知名演员郑恺共同游览了著名的外滩风光,并一同品尝了地道的汤包,享受了一段难忘的上海时光。在繁忙的行程中,库克特意安排时间拜访了叠纸游戏公司,对这家在业内颇具影响力的游戏公司表示了浓厚的兴趣。站长网2024-03-20 18:55:190000警告!企业微信上千万别点这个
如果你在企业微信上收到一些不明文件,千万别点。因为,它很有可能是伪装成用户需求的病毒,会让你难受到不行。这事不是孤例,已经发生了很多起。这天,有品牌公司的私域团队在见实的行业群中紧急求助:为什么有账号突然将自己员工企业微信上的私域用户,拉进新群,还在完成后将员工账号踢出。此间见实也曾接到多次这样的求助。其实事情很简单:站长网2023-05-30 09:11:220000仅1199!天玑900 256G存储,屏幕和iPad同款!酷比魔方X Pad能打吗
今年感觉不管是手机市场还是平板市场,都铆足了劲要抢占市场,像手机市场,今年好多厂商开始喊淘汰128GB,256GB起售的口号,甚至512GB内存的手机也被干到了白菜价。而平板市场这边,其实我们发现市面上大多数能做到128GB就算是大内存平板了。好多平板厂商仍然在做64GB的小内存平板,尤其是是一些打着教育平板名义的学习平板,低配高价成为这类所谓教育平板的标签。站长网2023-05-24 05:20:350000