Bing Chat因GPU需求巨大,微软将找Oracle租用
划重点:
🔸 微软计划将Bing搜索使用的机器学习模型的一部分转移到Oracle的GPU超级集群,以满足其AI服务的巨大需求。
🔸 合作涵盖了微软与Oracle在云基础设施领域的合作,以满足搜索结果速度和扩展客户访问的需求。
🔸 微软的Bing Chat引入了生成式AI聊天机器人,需要大规模的GPU集群进行训练和推断。
据《The Register》报道,微软计划将Bing搜索中使用的一部分机器学习模型转移到Oracle的GPU超级集群,以满足其AI服务的高需求。这项跨多年的协议旨在帮助微软应对其AI服务的爆炸式增长,尤其是Bing Chat的推出,该服务于今年2月率先将生成式AI聊天机器人引入其搜索引擎中。
图源备注:图片由AI生成,图片授权服务商Midjourney
微软的Divya Kumar表示,与Oracle的合作以及与Microsoft Azure AI基础设施的协同使用,将有助于扩展客户访问并提高搜索结果的速度。这项合作基本上可以理解为,微软需要更多的计算资源来应对其AI服务的增长,而Oracle恰好有成千上万的Nvidia A100和H100GPU可供租赁。
Bing Chat不仅需要大规模的GPU集群用于训练,还需要在推断阶段以规模运行。而在这方面,Oracle的GPU集群将发挥关键作用。这两家云服务提供商的最新合作利用了Oracle Interconnect for Microsoft Azure,允许在Azure中运行的服务与Oracle Cloud Infrastructure(OCI)中的资源互动。此前,这两家超级企业已经使用该服务,允许客户将在Azure中运行的工作负载连接到OCI数据库。
根据StatCounter的数据,截止到2023年10月,Bing在全球网络搜索市场份额中占3.1%,而Google占91.6%,但与上月的3%相比有所增长。在桌面设备上,Bing的市场份额达到9.1%,而在平板设备上为4.6%。尽管如此,是否Bing真的如数据所示非常受欢迎仍有争议。也有可能微软希望营造Bing需求旺盛的形象,或者确实需要额外的计算资源来满足其增长需求。
Oracle声称其云超级集群每个都可以扩展到32,768个Nvidia A100或16,384个H100GPU,使用超低延迟的Remote Direct Memory Access(RDMA)网络。此外,它还提供了支持高度并行应用程序的高性能集群文件存储。
尽管微软尚未透露需要多少Oracle的GPU节点来支持其AI服务和应用程序,但这次合作不是微软和Oracle首次相互帮助。早在去年9月,Oracle宣布将其数据库系统放置在Microsoft Azure数据中心,旨在降低OCI中运行的Oracle数据库与Azure工作负载之间的延迟。
AI视野:百度千帆大模型适配Falcon-180B;OpenAI将举行首届开发者大会;微软测试新版画图工具
>>>>>>大模型动态<<<<<<百度智能云千帆大模型平台适配开源大模型Falcon-180B百度智能云千帆大模型平台宣布率先适配开源大模型Falcon-180B,提供全流程工具链和开发环境,帮助企业和开发者体验应用这一最新大模型能力。要点:1、百度智能云千帆大模型平台适配开源大模型Falcon-180B站长网2023-09-08 15:05:130000GPT-4最震撼我的一点
昨天我看了一遍OpenAI发的视频和论文,最震撼我的并不是根据手绘草图生成HTML页面代码,因为草图太简单,对于复杂的有交互的界面,还不知道它的能力究竟如何,能不能生成准确的、清晰的代码,我再实验一下再给大家分享。最让我震撼的是论文中关于“Steerability”的部分,它展示了AI在个性化教育方面极大的潜力,如果能充分利用,必将在教育领域掀起一场革命。站长网2023-05-23 10:08:480000GitHub Copilot主创离职创业,抱怨项目奖金仅2万刀,自立门户打造日常生活AI助手
官网已开启排队申请GitHubCopilot彻底改变了编程,背后的最大功臣获得了多少报酬呢?从开始到最终正式发布,只有2万美元奖金和一个头衔提升。他是AlexGraveley,Copilot团队的首席工程师和主架构师。更离谱的是,他不光没有得到应得的报酬,上头的副总裁后来还对他说“你不配得到晋升”。钱没给到位,委屈也受了。Alex老哥干脆离职,自己创业。站长网2023-07-15 16:26:330001蒋凡重回阿里合伙人
34岁便兼任淘宝天猫总裁的天才蒋凡,因为两年多前那场著名的风波,被阿里合伙人除名,“放逐”海外;两年后,蒋凡又杀了回来,重归阿里合伙人序列,而现在的他,也不过37岁。7月21日晚,这两年刻意低调的蒋凡,“高调”地出现在阿里最新财报里。他与万霖一起,出现在合伙人的名单中。2021年12月,蒋凡从阿里集团最核心的业务调离,去分管当时处于边缘的海外业务。这在外界看来就是一种“流放”,明升暗降。站长网2023-07-24 12:04:430000UP主的混剪,居然能改成一部古偶黑马?
“我有预感,未来几年短剧一定会胜过长剧。最近追的《古相思曲》,昨天才播出的《风月变》都挺好看的。”昨天,编剧于正发了篇微博,意料之外地夸了夸两部小成本的古装剧。“故事、人设、结构都异于现在所谓的大剧,不仅耳目一新,也让人看到了未来的希望。”正好前一天,《古相思曲》刚刚收官,这部B站自制的古装剧,不少用户称它是“这个夏天最大的惊喜”,豆瓣评分8.4,到了大结局,剧集评分涨到了8.6分。站长网2023-07-18 19:42:430000