甩英伟达几百条街?Etched AI开创新技术 将Transformer架构直接“烧录”到芯片中
站长网2023-12-19 10:34:241阅
美国芯片初创公司Etched AI近日宣称,他们成功开创了一项新的技术,将Transformer架构直接“烧录”到了芯片中,创造出了世界上最强大的专门用于Transformer推理的服务器。据称,这项技术可以运行万亿参数的模型,甩英伟达几百条街。
官网地址:https://www.etched.ai/
该服务器具有多项功能,包括实时语音代理,能够在毫秒内处理成千上万的词;更好的编码与树搜索能力,可以并行比较数百个响应;多播推测解码功能,实时生成新内容;支持未来的万亿参数模型,只需一个核心,支持全开源软件栈,可扩展至100T参数模型;还具备高级解码技术,包括光束搜索和MCTS解码。
此外,每个芯片还配备了144GB HBM3E,支持MoE和转换器变体,为服务器的高性能提供了有力支持。这一突破性技术的问世,将为Transformer架构的应用带来新的可能性。
0001
评论列表
共(0)条相关推荐
华为宣布鸿蒙原生游戏《倩女幽魂手游》完成开发
近日,华为与网易共同宣布,网易首款鸿蒙原生游戏《倩女幽魂手游》已经完成开发。这款游戏成为首款完成开源鸿蒙适配的Unity中国引擎游戏,为鸿蒙原生应用生态注入了新的活力。《倩女幽魂手游》官方表示,游戏采用Unity2018开发,是网易游戏雷火事业群中唯一一个没有任何引擎源码改动的游戏。这也是网易选择《倩女幽魂手游》适配OpenHarmony(开源鸿蒙)的主要原因。0000报告:59%印度员工表示已准备好拥抱人工智能
**划重点:**1.🌐印度员工中有59%对人工智能(AI)工具的适应和利用感到自信,显示明年工作场所可能普遍接受AI。2.🏢仅有19%的调查雇主已经实施或正在实施GenerativeAI等下一代技术,根据全球招聘平台Indeed的报告。3.🤝雇主战略的关键部分是确保遵循道德AI原则,42%的受访者认为这是有效采用AI的关键。0000阿里钉钉与华为达成合作 启动“钉钉鸿蒙版”开发
11月23日消息,钉钉与华为举办鸿蒙原生应用开发启动仪式,双方将在产业创新、技术应用、商业发展等领域全面合作,并正式启动“钉钉鸿蒙版”的开发。鸿蒙最新数据显示,截至今年8月份,鸿蒙生态设备数已超过7亿,开发者突破220万人。目前,钉钉上有超过6亿用户、2300万企业组织。钉钉自2023年4月以来,通过接入大模型已完成17个产品线、60多个场景的AI改造,目前有50多万家企业在使用钉钉AI。站长网2023-11-23 16:01:070000带你穿越清明上河图!DragNUWA惊艳亮相:一拖一拽让静图秒变视频
【新智元导读】微软提出文本图像轨迹条件视频生成模型DragNUWA,支持手绘轨迹驱动图像动态化,实现复杂运动及场景控制。微软开发的视频生成模型DragNUWA让清明上河图动起来了!只要用拖动的方式给出运动轨迹,DragNUWA就能让图像中的物体对象按照该轨迹移动位置并生成连贯的视频。站长网2023-09-07 11:24:350000微信大改版!“momo大军”登陆公众号评论区,视频号挂链规则收紧
微信又有了新动作。两个多月前,新榜曾发文《天降10万?“看一看”能重新盘活公众号流量吗》,讨论微信流量算法的变化,这件事如今有了后续,近期,微信支持自行设置是否愿意文章被推荐,将进入公域流量池的主动权交还给了创作者。当时,评论区一位名为“柒个先生”的网友用近400字分析了“看一看”的入选逻辑,有人回复:“我觉得你的评论很好,什么时候能开放评论区点进个人主页或视频号。”站长网2023-09-06 17:47:430000