英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU 能支撑更多的用户 并节省更多能耗
站长网2023-07-08 16:23:091阅
站长之家(ChinaZ.com) 7月7日消息:在今天的 2023 世界人工智能大会上,英伟达中国区首席技术官赖俊杰指出,全球数据中心计算问题存在两个重要趋势。
首先,人们对人机交互的期望提高,引发了全球第二波关于大模型的投入浪潮。其次,许多互联网公司面临用户需求增长和功耗增加的问题,尤其是人工智能的大模型访问比例增加,需要更多的能耗投入。因此,英伟达提出将任务负载从CPU移至GPU,以支撑更多的用户请求,并节省更多的能耗。
据了解,目前,AI GPU 市场主要由英伟达和 AMD 主导,但在用于推动像 ChatGPT 这样的大型语言模型(LLM)的 AI GPU 方面,英伟达占据了 90% 以上的市场份额。
0001
评论列表
共(0)条相关推荐
确保隐私的代价:私有版ChatGPT费用将高出常规版10倍
快科技5月3日消息,随着ChatGPT的发展与普及,越来越多的用户开始担心人工智能是否能够保证自己的隐私不被泄露。而对于各大企业来说,有三星由于使用ChatGPT导致内部资料泄露一事作为先例,更是很难信任此类AI的安全性。对此,微软作为OpenAI的技术转授权持有者,开始指定一个更为安全”的计划。近日,有知情人士透露,微软计划在本季度晚些时候,推出一款在专用云服务器上运行的ChatGPT。站长网2023-05-03 09:15:420000曝iPhone 17 Pro配备4800万潜望长焦:支持空间视频录制
快科技12月16日消息,据媒体爆料,iPhone16Pro将会配备4800万像素超广角、1200万潜望长焦,iPhone17Pro则是配备4800万超广角和4800万潜望长焦,再加上4800万像素主摄,iPhone17Pro将会是苹果史上第一款全系4800万像素的影像旗舰。与此同时,iPhone17Pro支持空间视频录制,两颗摄像头可以协同工作制作三维视频,这样他们就不会错过特殊时刻。0000视觉中国旗下vcg.com上线AIGC新功能“去除背景”
近日,视觉中国旗下网站vcg.com上线AIGC新功能——去除背景。去除背景功能基于人工智能技术,能够精确识别并抠取图中的目标物体,并且对于背景复杂及细节丰富的图像也具备处理能力。该功能使用操作十分简单,用户只需访问图片详情页,通过使用AI创意工具,选择去除背景功能,即可在几秒内借助AI智能算法将图片中的目标物体抠取出来。站长网2023-07-08 14:06:140001抖音生活服务上线数据平台「生意经」
抖音生活服务宣布官方数据平台「生意经」上线,平台提供官方权威的行业概览、优秀榜单,支持一键生成行业数据报告并定期推送,节省数据分析时间,提高数据使用效率,解决经营中的数据难题,帮助合作伙伴从数据中找到经营提升点和生意机会点。站长网2023-06-03 10:46:250000科学家在非手性体系中实现手性吸附与手性放大
站长网2023-05-24 18:23:130000