PyTorch团队推出轻量级runtime
站长网2023-10-19 18:08:130阅
要点:
PyTorch团队推出轻量级运行时,支持在边缘设备上运行
PyTorch Lite运行时具有轻量级、高效、低延迟等特点
PyTorch Lite还支持对TensorFlow、Caffe2等其他平台的模型进行转换
ExecuTorch: ExecuTorch 是 PyTorch Edge 团队推出的全新解决方案,旨在支持移动设备和边缘设备上的本地推断能力,得到了 Arm、Apple 和 Qualcomm Innovation Center 等行业领先公司的支持。
ExecuTorch的关键组成部分: ExecuTorch 提供了紧凑的运行时环境,具有轻量级操作员注册表,可以覆盖 PyTorch 模型生态系统,并为在边缘设备上执行 PyTorch 程序提供了简化的路径。
它还附带了软件开发工具包(SDK)和工具链,以便机器学习开发人员能够从模型创作到训练和设备委派的整个 PyTorch 工作流中进行操作。这些工具使机器学习开发人员能够在本地对模型进行分析和更好地调试原始 PyTorch 模型。
PyTorch Edge 旨在将研究和生产环境更紧密地联系在一起,使各种机器学习模型能够轻松部署到边缘设备。它提供了一个跨越各种边缘用例的框架堆栈,涵盖了视觉、语音、自然语言处理、翻译、排名、完整性和内容创建等多个领域。
PyTorch Edge 提供了核心组件的可移植性,这些组件适用于不同硬件配置、性能和效率的设备,通过自定义优化以及定义良好的入口点、表示和工具,提高了开发人员的生产力。
0000
评论列表
共(0)条相关推荐
拼多多改造双十一
双11电商大促步入第十五个年头,各大平台的竞争焦点回归低价。大促前夕,淘宝天猫将“全网最低价”设定为双11核心KPI,宣称将有超8000万款商品价格降至全年低点;京东公布双11主题为“真便宜”;拼多多提出“天天真低价”;抖音宣布“单品立减15%”起;快手也公布了“大牌百亿补”政策。站长网2023-11-04 15:20:070000共享出行持续走热 3000台曹操60在吉利4.0智能工厂交付大客户
5月22日,全球首个共享出行定制车品牌曹操汽车在吉利4.0智能工厂举办首场车型交付仪式,向共享出行行业大客户交付首批3000台曹操60。作为B端市场用车,曹操60自3月29日上市发布,仅1个多月时间已获得出租车公司、共享出行租赁公司的大量订单,广受行业和媒体的好评,快速获得共享出行市场认可。站长网2023-05-24 16:50:5900002024年生成式AI支出将翻倍,到2027年将超1500亿美元
#划重点1.🚀2023年企业在生成式人工智能(GenAI)解决方案上的全球投资达194亿美元,预计将在2024年翻番。2.💹国际数据公司(IDC)预测,2023年至2027年期间,包括GenAI软件、相关硬件和服务在内的支出将在2027年达到1511亿美元,年均增长率为86.1%。0000Stability AI 政策负责人:人工智能不会摧毁创造力
StabilityAI公共政策主管BenBrooks表示,人工智能不会摧毁创意市场,反而会为创作者赋能。BenBrooks在美国参议院知识产权小组委员会上发表讲话时表示,像Stability自己的stablediffution这样的生成人工智能工具将扩大创造性机会,就像过去的技术进步所做的那样。站长网2023-07-19 19:53:520000中国AI今天的问题,是大模型又多又乱
OpenAI的开发者日活动后,GPTs模式引发了新一轮的AI热潮,开发者调用过分火爆,甚至导致OpenAI服务器一度宕机。随后,花式把玩GPTs的经验,以及围绕这种新形态的巨大争议开始涌现。中国的IT从业者、软件开发者与AI工程师也积极参与讨论,迎来了一场新的AI狂欢。站长网2023-11-21 18:05:010000