Phi-3 WebGPU:允许用户直接在浏览器本地运行Phi-3模型
站长网2024-05-11 18:13:400阅
Phi-3WebGPU是一款由Xenova提供的AI模型,它在Hugging Face Space中推出,允许用户直接在浏览器中本地运行AI模型。这一创新工具结合了Transformers.js和onnxruntime-web,为用户提供了一个私密且高效的AI体验。
体验地址:https://top.aibase.com/tool/phi-3-webgpu
Phi-3WebGPU的主要特点
本地数据处理:所有数据处理在本地完成,确保用户隐私安全。
WebGPU加速:利用WebGPU加速技术,处理速度提升至超过20t/s。
模型缓存:首次下载模型后,模型文件将被缓存,避免重复下载。
用户在使用Phi-3WebGPU时发现,英文回答的效果令人满意,但中文回答存在一些幻觉现象,这可能与模型的训练数据或算法有关。
使用Phi-3WebGPU时,请注意,首次运行会自动下载2.3GB的模型文件,这可能需要一定的时间和带宽。
结语
Phi-3WebGPU的推出为用户提供了一种新的AI模型运行方式,它不仅提高了工作效率,还通过本地运行确保了数据处理的私密性。尽管在某些语言的处理上可能存在不足,但其在浏览器中提供的AI模型运行能力仍然值得关注。
0000
评论列表
共(0)条相关推荐
亚马逊宣布推出新的人工智能芯片「Trainium2」,深化与英伟达的合作关系
亚马逊的云计算部门AWS宣布推出新的芯片,供客户构建和运行人工智能应用程序,同时计划提供对Nvidia最新芯片的访问。亚马逊AWS服务致力于作为云提供商脱颖而出,提供多种成本效益高的选项。它不仅销售廉价的亚马逊品牌产品。与其在线零售市场一样,亚马逊的云服务还将提供其他供应商的顶级产品,包括来自顶级AI芯片制造商Nvidia的备受追捧的GPU。站长网2023-11-29 10:48:340000国产大模型卷翻机器人!这些火遍全网的机器人,都装上了星火「大脑」
【新智元导读】大模型这把火点燃了整个机器人行业的热情。纵观全世界,过去几个月,国内外大模型大厂和机器人初创公司的合作也是动作不断。看来,机器人的元年真的来了!大模型,已然卷入机器人领域。3月初,初创公司Figure发布了首个由OpenAI大模型加持的人形机器人Figure01的演示。凭借LLM「大脑」,Figure01可以看到桌面上的苹果,动手收拾餐具,并与人类进行无缝交流。站长网2024-04-26 04:12:270000腾讯回应财付通被罚没近30亿元:诚恳接受、服从整改
财付通支付科技有限公司今晚收到了中国人民银行的行政处罚决定,决定对其进行警告、没收违法所得56612.388789万元并罚款242677.827882万元,合计约29.9亿元。财付通官方微信号随后发布了一份公告,表示诚恳接受、坚决服从和落实该决定,并严格执行相关措施。站长网2023-07-09 23:25:530001HuggingFace diffusers轻量快速推理引擎stable-fast上线
不久前,HuggingFace的diffusers轻量快速推理引擎已经在GitHub上发布。这个引擎通过一系列小幅改进,已经实现了显著提高推理速度的目标,宣称每秒可达到60步,较之前的23步有了显著提升。在自然语言处理任务中,这一引擎表现出色,赢得了众多开发者的青睐。目前,stable-fast处于测试阶段,可能存在一些问题,但它承诺为深度学习爱好者带来颠覆性的变革。站长网2023-10-19 10:40:590000盖茨来华:29年,19次,这次不谈生意
01继库克、马斯克之后,美国又一重磅人物来华。6月14日晚,比尔·盖茨在社交媒体上宣布,他已经正式抵达北京。这是盖茨的第19次访华。比尔·盖茨是只要提起首富,中国人就能最先想起的那个人。1994年,为推动中文版Windows落地中国,盖茨首次来华。那时候以金山求伯君为代表的中国软件业刚崭露头角,马云在杭州开了一家翻译社,马化腾在深圳一家公司研究寻呼机。站长网2023-06-16 16:20:470001