潞晨科技旗下Colossal-AI开源650亿参数大模型预训练方案
站长网2023-07-20 15:26:490阅
AI创业公司潞晨科技宣布,旗下Colossal-AI 首个开源了650亿参数 LLaMA 低成本预训练方案。
据介绍,相比业界其他主流选择,该预训练方案可提升预训练速度38%,仅需32张 A100/A800即可使用,并且不限制商业使用。
开源地址:https://github.com/hpcaitech/ColossalAI
0000
评论列表
共(0)条相关推荐
阿里巴巴将派发 2023 财年年度股息 总额约为 25 亿美元
阿里巴巴在港交所公告,将向截至2023年12月21日香港时间及纽约时间收市时登记在册的普通股持有人和美国存托股持有人,就2023财年首次派发年度股息,金额分别为每股普通股0.125美元或每股美国存托股1.00美元,以美元支付。根据财报披露,股息总额约为25亿美元。站长网2023-12-06 09:16:360001华硕子公司发布福尔摩斯大模型Formosa Foundation Model
根据华硕官方消息,华硕旗下子公司台智云(TWS)在AIHPCconAI超算年会上发布了企业级大型语言模型——“福尔摩斯大模型”(FormosaFoundationModel)。“福尔摩斯大模型”共有1760亿个参数,可以与ChatGPT的GPT-3.5模型相媲美,支持多国语言。站长网2023-05-22 09:11:220001刚毕业年薪就能到30万!这四大热门专业市场需求很大!
近两年来,国内外互联网企业纷纷卷入裁员大潮,大厂裁员成为了主旋律,各行各业都在“降本增效”,那么当年的四大热门专业现在还值得学习吗?未来的就业前景又是怎样的呢?去年,互联网裁员潮集体爆发,腾讯、阿里巴巴、京东、快手、百度、小米、美团等各大互联网企业无一幸免,多家企业暂时冻结校园招聘!而国外互联网大厂也一样,亚马逊、meta、lyft等也纷纷宣布裁员,社交巨头推特更是裁掉了一半员工!站长网2023-05-23 17:22:540000豪掷290亿元!马斯克:特斯拉今年要买大量NVIDIA芯片
快科技6月5日消息,特斯拉CEO埃隆马斯克近日透露,特斯拉计划在今年投入高达40亿美元(约合人民币290亿元)用于采购NVIDIA芯片。马斯克在社交媒体上表示,特斯拉今年的人工智能相关支出大约为100亿美元,其中约一半将用于内部研发,包括特斯拉自行设计的AI推理计算机和传感器,以及Dojo超级计算机集群的建设。他进一步解释说,构建AI训练超级集群的成本中,NVIDIA硬件占据了大约三分之二。0000Windows或推出跨设备应用发现技术 兼容多个操作系统
微软最近提交的一项新专利显示,其正在研发一种名为“跨设备应用程序发现和控制”的技术,有望在未来的Windows版本中实现。该技术允许在运行不同操作系统的设备间发现和控制应用程序,支持包括Windows、Android、iOS等在内的多种操作系统。站长网2023-11-24 16:13:190000