阿里云推出第八代企业级实例g8i AI推理性能提升7倍
阿里云推出了第八代企业级通用计算实例 ECS g8i,采用了阿里云自研的「飞天 CIPU」架构体系和第五代英特尔至强可扩展处理器。新款实例的整机性能最高提升85%,AI 推理性能最高提升7倍,可以支持高达72B 参数的大语言模型。此外,ECS g8i 实例还提供了端到端的安全防护,为企业构建可信的 AI 应用提供了强大的隐私增强算力支持。
在通用算力方面,ECS g8i 实例的 L3缓存容量提升到320MB,内存速率高达5600MT/s,整机性能提升85%,单核性能提升25%。存储方面,ESSD 云盘提供100万 IOPS,全面搭载 NVMe,存储延迟低至百微秒。网络方面,PPS 高达3000万,标配阿里云自研 eRDMA 大规模加速能力,时延低至8微秒。安全方面,ECS g8i 实例支持可信计算与加密计算等特性,全球率先支持机密虚拟机 TDX 技术,构建了全面的安全防护。
对于 AI 应用来说,ECS g8i 实例采用了 Intel AMX 高级矩阵扩展加速技术,将生成式 AI 的运行速度提升了7倍,可以更快地运行知识检索、问答系统和摘要生成等任务。配合阿里云 Spot 抢占式实例,成本优势将进一步凸显,降低推理成本。此外,基于自研 eRDMA 超低延时弹性网络,ECS g8i 实例集群可以支持高达72B 参数的大语言模型分布式推理,推理性能随集群规模接近线性加速,并且支持超过32batchsize 的超大参数规模的 AI 模型负载。
在安全方面,阿里云通过硬件可信根和虚拟可信能力 vTPM,实现了服务器的可信启动和实例启动过程核心组件的校验能力。此次升级的 ECS g8i 实例全量支持 Trust Domain Extension TDX 技术,为大模型等 AI 应用提供了隐私增强算力。
阿里云表示,ECS g8i 实例的强劲表现证明了以 CPU 为中心的计算体系同样具备加速 AI 推理的潜力,公共云不仅可以胜任超大规模的 AI 模型,还为 AI 应用加速落地提供了新的路径。
联合国秘书长呼吁全球风险管理人工智能,警告 “严重的意外后果”
划重点:1.👉联合国秘书长安东尼奥・古特雷斯在达沃斯世界经济论坛上发表讲话,呼吁政治和商业领袖优先考虑处理人工智能和气候危机的全球战略。2.👉古特雷斯警告称,人工智能的快速发展可能导致“严重的意外后果”。3.👉国际货币基金组织警告称,人工智能的崛起可能会影响全球近40%的就业岗位,并可能在大多数情况下加剧整体不平等。站长网2024-01-18 14:04:340000B站崩了上热搜 相关页面无法加载
站长之家(ChinaZ.com)7月2日消息:今日上午,“B站崩了”登上微博热搜。用户纷纷反映,尝试加载评论区时,页面持续显示“加载中”,而访问UP主主页则遭遇了“-500”错误码的困扰,这一连串问题迅速在B站社区内引发了广泛关注。不仅如此,用户还发现自己的观看历史、精心收藏的内容等个人信息也无法正常显示,这一系列异常现象表明,此次故障可能波及到了B站的用户相关系统服务。站长网2024-07-02 15:31:250000504,Gateway,Time-out
快科技6月23日消息,今日,一加手机公布一加Ace3Pro全新绿野素青配色,采用超柔韧亲肤皮革”材质,首创松脉树纹工艺”。官方表示,一加Ace3Pro绿野素青通过30项严苛耐脏污测试验证,无惧户外风雨、紫外线,超柔韧亲肤皮革常用于高端跑车内饰,质感更高级。站长网2024-06-24 02:07:530000余承东升任华为车BU董事长 靳玉志任CEO
9月21日消息,日前,有消息称,华为光产品线总裁靳玉志已于近期接任智能汽车解决方案BUCEO一职,而余承东担任智能汽车解决方案BU董事长一职。据第一财经报道,华为知情人士称上述消息属实。该人士表示,此次调整,余承东将升任汽车BU董事长,整体是要帮助华为在智能汽车领域获得商业成功。“未来将持续加大对汽车相关领域的业务投入。”据了解,华为内部也对上述调整进行了内部正式发文。0000“剧本杀”馆使用盗版剧本 法院判决构成不正当竞争赔偿3万元
据长沙市开福区法院消息,近日,长沙市开福区人民法院审理了一起使用盗版剧本进行经营的案例。长沙某文化创意公司取得游戏剧本《阿卡姆症候群》(文字作品)的全部著作财产权,通过“城市限定”模式对外发行游戏剧本《阿卡姆症候群》,同时也为消费者提供剧本杀服务。某娱乐馆在网上购买盗版《阿卡姆症候群》剧本用于“剧本杀”经营。站长网2023-04-21 11:05:380000