阿里云Serverless应用引擎SAE2.0上线 函数计算集成大模型框架
阿里云宣布Serverless应用引擎 SAE2.0正式公测上线。全面升级后的SAE2.0具备极简体验、标准开放、极致弹性三大优势,应用冷启动全面提效,秒级完成创建发布应用,应用成本下降40%以上。
据悉,Serverless应用引擎(Serverless App Engine,简称SAE)是一款应用零代码改造、极简易用、自适应弹性的应用托管平台。在SAE上,用户只需要上传代码包或者容器镜像即可完成在线业务全托管,SAE 会自动运行应用和伸缩实例,并提供网络、负载均衡、监控等配套能力。
SAE2.0本次升级带来三大全新能力:
产品使用更简单,应用零改造上线,零学习成本,秒级完成创建发布应用,同时按照实际使用量付费,应用成本下降40%以上;
其次,标准更加开放,基于容器标准构建并且核心能力开源,提供了丰富的平台工程能力,助力研发运维提效50%;
在弹性能力上持续增强,SAE2.0实现了百毫秒级弹性伸缩,根据流量自适应调整资源使用,应用冷启动提效,支持缩容到0,没有业务流量就不需要付费,这对于新兴的业务以及一些创新创业的公司更加友好。
与此同时,阿里云还推出了全新的容器服务Serverless版,针对K8s做了大量优化,提升弹性能力,支持动态容量规划,K8s核心系统组件全托管。
同时,升级了智能弹性预测AHPA,相比手动配置,准确率提升80%;基于库存感知调度和可用区打散调度, 提高了弹性的确定性以及应用的高可用性,让万千企业与开发者更便捷、更弹性地使用云。
在AIGC领域,阿里云也升级了高度集成大模型框架的函数计算FC,开发者可以在函数计算上轻松部署来自 ModelScope、HuggingFace 等开源生态和社区的模型,目前函数计算的应用中心里已加入Stable Diffusion、通义千问、通义万相等10多款热门 AI 应用模版,大幅降低大模型的应用开发门槛。
阿里云周靖人:阿里云今日将发布通义千问2.0
在2023年的云栖大会上,阿里巴巴集团的创始合伙人、董事长蔡崇信表示,智能化时代已经来临,人工智能将成为新的生产力,推动各行各业快速发展。同时,他强调了算力的重要性,指出中国80%的科技企业以及一半的大模型公司都在使用阿里云作为他们的云服务提供商。站长网2023-10-31 11:48:1400012024大模型应用元年,科大讯飞率先打响商业化第一枪
浩浩荡荡的AIGC潮流,叠加资本资金如火如荼地注入,过去一年里,AI赛道焕发了新生,再度登上了科技语境的浪潮之巅。然而,与大模型战场的热闹相比,在商业化落地场景,AIGC的步伐却略显踌躇——技术层面,从文字到图像创作再到视频创作,AI屡屡交出了刷新大众视野的答卷,但如何使AI满足实际的商业期望,却仍是摆在行业面前的,一道复杂而严峻的课题。站长网2024-02-01 09:28:360000AI入侵B站鬼畜区!网友辣评:不如传统“活字乱刷术”
11月27日,B站UP主“女孩为何穿短裙”突破传统,投稿一则使用AI合成语音制作的鬼畜视频,标志着AI视频制作正式进入B站鬼畜区。视频播放量截至目前已达167.3万,获得14.5万的点赞和2.8万个投币。站长网2023-12-05 14:36:250000斯坦福博士推加速推理新方法Flash-Decoding 长上下文LLM推理速度提8倍
要点:1.FlashAttention团队推出了一种新的方法,Flash-Decoding,用于加速大型Transformer架构的推理,最高可提速8倍,特别适用于长上下文LLM模型。2.Flash-Decoding的优点在于使用并行操作加载Key和Value缓存,然后重新缩放和合并结果,以显著提高推理速度。站长网2023-10-18 21:22:190001Discord 封禁涉及大规模信息窃取及出售的账户
划重点:🛡️Discord封禁Spy.Pet相关账户,该网站涉嫌窃取并出售来自1.4万个Discord服务器的用户信息。💬Spy.Pet网站使用机器人从14,000个Discord服务器中获取信息,包括约6.2亿用户的消息。🔍Discord对此进行了调查,并封禁了多个与该网站相关的账户,考虑采取法律行动。站长网2024-04-28 16:57:240001