《云计算白皮书(2023年)》发布:人工智能大模型引发数字应用使用方式和算力资源供给双向变革
中国信息通信研究院(以下简称「中国信通院」)日前发布《云计算白皮书(2023 年)》(以下简称《白皮书》)。
《白皮书》显示,2022 年全球云计算市场规模约达到 3.5 万亿元人民币,增速为 19%。在大模型、算力等需求刺激下,该市场仍将保持稳定增长,到 2026 年预计全球云计算市场将达到逾十万亿元。
此外,2022 年我国云计算市场规模为 4550 亿元,同比增长 40.91%。与全球 19% 的增速相比,我国云计算市场仍处于快速发展期,预计 2025 年我国云计算整体市场规模将超万亿元。
《白皮书》指出,人工智能大模型的快速发展,引发数字应用使用方式和算力资源供给的双向变革,加速了云计算向面向大体量分布式应用体系化、工程化创新的操作系统演进。
向下来看,算力资源呈现出计算异构、算网融合的特点。以 GPT-4 为例,其模型训练借助公有云能力在通用 CPU 的基础上整合上万个 GPU 芯片,通过云计算平合实现 GPU 集群和 CPU 集群的标准化封装,保障训练任务可以直接下发到大规模计算集群。同时在数据处理方面,模型训练涉及 PB 级的存储数据集、中问结果和训练好的模型参数等,且数据类型各异,也需要云计算平合提供的存储方案,实现复杂数据的统一调度和处理。计算芯片多样化、异构数据复杂化也加速云计算向能够一体化调度、处理计算、网络、存储资源的操作系统方向演进。
向上来看,数字应用呈现出分布式、多模态、超大量级的特点。以 ChatGPT 为例,ChatGPT 的模型参数已达千亿,且模型训练数据涉及文本、图片、音视频等多个模态,基于分布式训练框架实现了超大规模量级的并行计算,这对部署模型的云计算平合提出新的需求。云计算的焦点不仅仅在提升单点应用的研运效能,更要发挥出面向大规模分布式应用协调、分发、部署的中枢管控能力。模型构建的复杂性限制了技术的普惠发展,基于云计算构建开箱即用的大模型服务也成为刚需。
《云计算白皮书(2023 年)》全文:
https://www.caict.ac.cn/kxyj/qwfb/bps/202307/P020230725521473129120.pdf
B站2023最美的夜跨年晚会官宣 将于 12 月 31 日 举行
今天,B站2023年跨晚阵容终于全部官宣,将于12月31日20:00举行,用户可以上B站搜索“2023最美的夜”预约直播。据悉本次跨年晚会来自二次元的嘉宾包括了:红楼梦、猫和老鼠、蜘蛛侠、奥特曼、葫芦兄弟、猪猪侠、铠甲勇士、洛天依、王者荣耀等热门IP角色。站长网2023-12-25 18:52:310000Nucleus AI发布22亿参数大模型,致力农业领域的AI转型
文章概要:1.加利福尼亚初创公司NucleusAI发布了22B参数的大规模语言模型,计划用于农业领域的AI转型。2.该模型可在开源和商业许可下使用,性能优越,可用于不同生成任务。3.公司的远景是构建智能农业操作系统,以优化供需关系,解决农业领域的挑战。站长网2023-10-07 17:13:460000Apple Music国区订阅价格上涨 学生版和个人版涨1元 家庭版涨2元
站长之家(ChinaZ.com)12月8日消息:苹果官网显示,AppleMusic国区订阅价格已经调整。其中,学生版订阅价格为6元/月,上涨1元;个人版订阅价格为11元/月,上涨1元;家庭版订阅价格为17元/月,上涨2元。从网友分享的截图来看,自2024年1月7日起,AppleMusic家庭用户的订阅将以17.00元/月的价格自动续期,除非用户提前至少一天取消订阅。站长网2023-12-08 16:28:350000字节万卡集群技术细节公开:2天搞定GPT-3训练,算力利用率超英伟达Megatron-LM
随着对Sora技术分析的展开,AI基础设施的重要性愈发凸显。来自字节和北大的一篇新论文在此时吸引关注:文章披露,字节搭建起的万卡集群,能在1.75天内完成GPT-3规模模型(175B)的训练。具体来说,字节提出了一个名为MegaScale的生产系统,旨在解决在万卡集群上训练大模型时面临的效率和稳定性挑战。站长网2024-03-01 15:02:350004微软CEO:应该干掉所有独占游戏
快科技6月29日讯,微软和FTC日前的法庭交锋披露了大量Xbox与PlayStation之间的恩怨情仇,其中一个点就是独占作品。在一份法庭证词中,微软CEO纳德拉表示,如果让我来决定,我很乐意消灭一切独占作品,但如今的市场局面被索尼定义和主导者,Xbox作为一个游戏机市场低份额的玩家,没有决定权。虽然这是我们存在的世界,但不是我爱的世界。站长网2023-06-30 08:40:240000