Bing Chat因GPU需求巨大,微软将找Oracle租用
划重点:
🔸 微软计划将Bing搜索使用的机器学习模型的一部分转移到Oracle的GPU超级集群,以满足其AI服务的巨大需求。
🔸 合作涵盖了微软与Oracle在云基础设施领域的合作,以满足搜索结果速度和扩展客户访问的需求。
🔸 微软的Bing Chat引入了生成式AI聊天机器人,需要大规模的GPU集群进行训练和推断。
据《The Register》报道,微软计划将Bing搜索中使用的一部分机器学习模型转移到Oracle的GPU超级集群,以满足其AI服务的高需求。这项跨多年的协议旨在帮助微软应对其AI服务的爆炸式增长,尤其是Bing Chat的推出,该服务于今年2月率先将生成式AI聊天机器人引入其搜索引擎中。

图源备注:图片由AI生成,图片授权服务商Midjourney
微软的Divya Kumar表示,与Oracle的合作以及与Microsoft Azure AI基础设施的协同使用,将有助于扩展客户访问并提高搜索结果的速度。这项合作基本上可以理解为,微软需要更多的计算资源来应对其AI服务的增长,而Oracle恰好有成千上万的Nvidia A100和H100GPU可供租赁。
Bing Chat不仅需要大规模的GPU集群用于训练,还需要在推断阶段以规模运行。而在这方面,Oracle的GPU集群将发挥关键作用。这两家云服务提供商的最新合作利用了Oracle Interconnect for Microsoft Azure,允许在Azure中运行的服务与Oracle Cloud Infrastructure(OCI)中的资源互动。此前,这两家超级企业已经使用该服务,允许客户将在Azure中运行的工作负载连接到OCI数据库。
根据StatCounter的数据,截止到2023年10月,Bing在全球网络搜索市场份额中占3.1%,而Google占91.6%,但与上月的3%相比有所增长。在桌面设备上,Bing的市场份额达到9.1%,而在平板设备上为4.6%。尽管如此,是否Bing真的如数据所示非常受欢迎仍有争议。也有可能微软希望营造Bing需求旺盛的形象,或者确实需要额外的计算资源来满足其增长需求。
Oracle声称其云超级集群每个都可以扩展到32,768个Nvidia A100或16,384个H100GPU,使用超低延迟的Remote Direct Memory Access(RDMA)网络。此外,它还提供了支持高度并行应用程序的高性能集群文件存储。
尽管微软尚未透露需要多少Oracle的GPU节点来支持其AI服务和应用程序,但这次合作不是微软和Oracle首次相互帮助。早在去年9月,Oracle宣布将其数据库系统放置在Microsoft Azure数据中心,旨在降低OCI中运行的Oracle数据库与Azure工作负载之间的延迟。
SK 海力士称内存芯片复苏已经开始 人工智能需求强劲
韩国SK海力士周三表示,由于人工智能需求强劲,内存芯片市场正在从严重低迷中复苏,尽管其报告显示第二季度运营亏损。特别是企业买家和游戏个人电脑对内存芯片的需求预计将在今年下半年比上半年增加,这家全球第二大内存芯片制造商在一份声明中表示。站长网2023-07-26 11:20:480000iPhone16不送苹果logo贴纸:为保护环境
苹果公司在新一代iPhone16和iPhone16Pro的包装上进一步精简,除了不再提供数据线、充电器和耳机外,标志性的苹果Logo贴纸也不再标配。尽管如此,顾客在AppleStore线下直营店购买时,仍可要求店员提供苹果Logo贴纸。站长网2024-09-15 02:42:0700005248元起!iPhone 15全系京东破发:抢券比官网最高便宜801元
快科技10月29日消息,一年一度的双11电商大战已经打响,作为每年电商节的必争之地,iPhone已然出现神价”。据京东官方介绍,今日起,Apple产品京东自营旗舰店发放全线苹果产品大额券,iPhone13、iPhone14、iPhone15全系均参与此次活动,价格比苹果官网最高能便宜801元。iPhone15系列券后京东到手价如下:站长网2023-10-29 09:20:100000孟羽童个人简介是前500强董事长秘书 此前遭董明珠怒斥
12月14日,一则关于董明珠在格力电器2023届大学生入职仪式中怒斥孟羽童的视频引发热议,话题#董明珠怒斥孟羽童#迅速登上热搜。视频中,董明珠表示,当时在实习生节目中看中孟羽童的勤奋,选她做秘书。但在工作中,孟羽童的表现并未达到她的期望,反而只想借助格力平台成为网红,在公司产生了不良影响。站长网2023-12-15 10:15:020000抖音做酒旅,为什么必须上线「日历房」|服务商对话No.16
酒旅是本地生活市场里单价更高、利润也更高的领域。但也因为它高单价、消费频次更低、核销链条相对餐饮团购更为复杂等特点,综合性本地平台通常要在餐饮领域摸索出相对成熟的路径后,才能腾出手来做酒旅。成立两年多的抖音生活服务,也在今年开始发力对酒旅市场的探索。5月30号,抖音生活服务官宣「日历房」功能上线,更被业内认为是抖音酒旅切入OTA(OnlineTravelAgency)生意的标志性事件。站长网2023-06-15 10:10:420000