Hugging Face组建H4团队,开源开发类似ChatGPT的AI模型
划重点:
- Hugging Face的两人团队H4致力于开源构建类似ChatGPT的AI模型。
- H4团队已发布多个开源大型语言模型,包括聊天型Zephyr-7B-α和改进型Falcon-40B。
- H4的主要研究重点是对齐技术,以使语言模型根据人类反馈行为进行学习。
AI初创公司Hugging Face最近组建了一个名为H4的两人团队,旨在开源开发类似ChatGPT的人工智能模型。H4的目标是提供工具和“配方”,以便AI社区能够构建类似ChatGPT的AI聊天机器人。
H4团队的两名成员Lewis Tunstall和Ed Beeching近期透露了一些有关他们的工作的信息。H4团队的成立灵感来自于OpenAI于2022年底发布的ChatGPT。当ChatGPT发布时,他们开始思考如何使用开源库和模型来复制其功能,这促使了H4团队的成立。
H4团队的主要研究重点是对齐技术,这意味着他们致力于教导大型语言模型(LLMs)如何根据人类的反馈行为来表现。为了训练他们的模型,H4团队依赖于一个拥有超过1000个Nvidia A100GPU的专用集群。虽然H4的两名成员都远程驻扎在欧洲,但他们得到了来自Hugging Face内部团队的支持。
不仅如此,H4团队还发布了多个开源大型语言模型,其中包括Zephyr-7B-α,这是法国AI初创公司Mistral最近发布的Mistral7B模型的聊天型版本。此外,他们还对来自阿布扎比技术创新研究所的Falcon-40B模型进行了修改,使其在自然语言请求方面更具帮助性。
尽管Hugging Face已从一系列投资者中筹集了数亿美元,但H4团队的Lewis Tunstall表示,H4并没有直接从他们的工具中获得商业化利益。相反,他们的工具有助于Hugging Face的专家加速计划,该计划旨在为企业提供来自Hugging Face团队的指导,以构建定制的AI解决方案。
此外,H4团队的Ed Beeching表示,他们并不将H4视为与其他开源AI倡议竞争的实体。相反,他们的意图是通过发布与其聊天模型相关的训练代码和数据集来“赋能”开源AI社区。
最近,H4团队一直在研究不同的对齐技术,并构建工具来测试社区和行业提出的技术的实际效果。该团队本月发布了一本手册,其中包含了用于构建Zephyr的所有源代码和数据集,并计划随着未来AI模型的发布更新手册。
阿里魔搭社区开源 Mistral AI 旗下新模型 Mistral7B
阿里巴巴达摩院模型开源社区ModelScope宣布开源法国人工智能初创公司MistralAI旗下新模型Mistral7B,可免费商用。据悉,Mistral7B在公开提供的指令数据集上进行了微调后的模型Mistral7BInstruct,在MT-Bench上超越了其他7B模型,并可与13B聊天模型相媲美。mistral-7b-instruct模型链接:站长网2023-10-16 08:35:090000美团 2023 年营收 2767 亿元 同比增长25.8%
美团今日公布了其截至12月31日的2023年第四季度及全年财报数据,展现出了稳健的增长态势。具体来看,第四季度营收达到了737亿元,同比显著增长22.6%。值得一提的是,净利润实现了扭亏为盈,达到22亿元,而去年同期则为亏损11亿元。经过调整后,净利润更是增长至43.7亿元,远高于去年同期的8.3亿元。站长网2024-03-23 05:18:470001人工智能安全治理专业委员会成立 由阿里云华为等发起
近日,中国网络空间安全协会人工智能安全治理专业委员会宣布成立。图源备注:图片由AI生成,图片授权服务商Midjourney站长网2023-10-16 08:44:250002英特尔在 Meteor Lake 中对 AI 的关注或将为行业注入新的活力
随着英特尔「MeteorLake」平台的发布,业界再次掀起一阵风暴,新平台采用了基于chiplet-based的设计,并专门用于人工智能(AI)应用的神经网络处理单元(NPU),这不仅仅是一次代际升级,更是英特尔引领计算新纪元的有力一步,它有望为近年来处于停滞状态的PC行业注入新的活力,而人工智能将成为这一切的核心。引领风潮的人工智能站长网2023-10-24 21:25:090000Groq大模型推理芯片每秒500tokens超越GPU,喊话三年超过英伟达
划重点:1.Groq公司推出的大模型推理芯片,每秒500tokens的惊人速度超越了传统GPU,挑战谷歌TPU。2.该芯片由初创公司Groq研发,由谷歌TPU团队原班人马打造,推理速度提高10倍,成本降低十分之一,支持多种大模型。3.Groq的目标是在三年内超越英伟达,采用自创的LPU方案,克服计算密度和内存带宽瓶颈,实现18倍于云平台速度的推理性能。站长网2024-02-20 14:23:500000