Hugging Face组建H4团队,开源开发类似ChatGPT的AI模型
划重点:
- Hugging Face的两人团队H4致力于开源构建类似ChatGPT的AI模型。
- H4团队已发布多个开源大型语言模型,包括聊天型Zephyr-7B-α和改进型Falcon-40B。
- H4的主要研究重点是对齐技术,以使语言模型根据人类反馈行为进行学习。
AI初创公司Hugging Face最近组建了一个名为H4的两人团队,旨在开源开发类似ChatGPT的人工智能模型。H4的目标是提供工具和“配方”,以便AI社区能够构建类似ChatGPT的AI聊天机器人。
H4团队的两名成员Lewis Tunstall和Ed Beeching近期透露了一些有关他们的工作的信息。H4团队的成立灵感来自于OpenAI于2022年底发布的ChatGPT。当ChatGPT发布时,他们开始思考如何使用开源库和模型来复制其功能,这促使了H4团队的成立。
H4团队的主要研究重点是对齐技术,这意味着他们致力于教导大型语言模型(LLMs)如何根据人类的反馈行为来表现。为了训练他们的模型,H4团队依赖于一个拥有超过1000个Nvidia A100GPU的专用集群。虽然H4的两名成员都远程驻扎在欧洲,但他们得到了来自Hugging Face内部团队的支持。
不仅如此,H4团队还发布了多个开源大型语言模型,其中包括Zephyr-7B-α,这是法国AI初创公司Mistral最近发布的Mistral7B模型的聊天型版本。此外,他们还对来自阿布扎比技术创新研究所的Falcon-40B模型进行了修改,使其在自然语言请求方面更具帮助性。
尽管Hugging Face已从一系列投资者中筹集了数亿美元,但H4团队的Lewis Tunstall表示,H4并没有直接从他们的工具中获得商业化利益。相反,他们的工具有助于Hugging Face的专家加速计划,该计划旨在为企业提供来自Hugging Face团队的指导,以构建定制的AI解决方案。
此外,H4团队的Ed Beeching表示,他们并不将H4视为与其他开源AI倡议竞争的实体。相反,他们的意图是通过发布与其聊天模型相关的训练代码和数据集来“赋能”开源AI社区。
最近,H4团队一直在研究不同的对齐技术,并构建工具来测试社区和行业提出的技术的实际效果。该团队本月发布了一本手册,其中包含了用于构建Zephyr的所有源代码和数据集,并计划随着未来AI模型的发布更新手册。
谷歌推具备空间推理能力的视觉语言模型SpatialVLM
要点:1、谷歌提出了SpatialVLM,旨在赋予视觉语言模型空间推理能力。2、研究者利用现实世界数据训练SpatialVLM,弥补了常见数据集对空间信息的限制。3、通过生成大规模空间VQA数据集,研究者成功使视觉语言模型具备直接空间推理和链式思维能力。站长网2024-02-18 15:27:180000元象大模型向全社会开放 多个高性能大模型全部开源并免费商用
元象信息科技有限公司(元象XVERSE)宣布,元象大模型将向全社会开放服务。元象大模型是元象从头训练、全链路自主研发的高性能通用大模型系列,具备优秀的中文创作、逻辑推理和任务执行能力。站长网2023-11-13 21:44:490000阿里文字生成图像产品“通义万相”将于月底逐步开放
近日,阿里巴巴达摩院基础视觉团队表示,基于阿里云,阿里构建了文字生成图像产品“通义万相”,将于本月底开放给公众。此前,阿里云已发布了大模型“通义千问”,开启企业邀测。阿里集团董事会主席兼CEO张勇表示,阿里巴巴所有产品未来都将接入大模型全面升级。站长网2023-04-21 18:11:21000216家网约车平台被约谈:落实降低过高抽成比例要求
7月29日消息,据新华社报道,近日,交通运输新业态协同监管部际联席会议办公室组织对滴滴出行、高德打车、T3出行、曹操出行等共16家网约车平台、聚合平台公司进行约谈。0002荣耀大事件尘埃落地!官网全新域名honor.com今日正式启用
快科技3月31日消息,两天前,荣耀官方发布了一条意味深长的微博,配图仅有简单的Hi,honor”字样并搭配倒计时2天,配文字越少事越大”。而荣耀官网主页则直接横幅显示Hi,honor”倒计时,在周日(3月31日)0点结束。今日,荣耀官网倒计时结束,荣耀大事件终于尘埃落地,原来是荣耀启用了全新的honor.com的域名,此前荣耀官网域名为hihonor.com。站长网2024-04-06 14:16:140000