烧钱!OpenAI的ChatGPT每天维护成本高达70万美元
根据研究公司 SemiAnalysis 的数据,ChatGPT 的巨大知名度和强大功能使其维护成本高得惊人,The Information报道称,维护OpenAI的ChatGPT等对话式人工智能引擎每天的开销高达70万美元。。
该公司首席分析师迪伦·帕特尔 (Dylan Patel) 表示:“大部分成本都基于他们所需的昂贵服务器。”Patel透露,现在的成本可能更高,因为这些估算是基于 GPT-3,OpenAI 的最新模型 GPT-4的运行成本更高。

这不是 ChatGPT 才有的问题,OpenAI维护ChatGPT等对话式人工智能引擎每天需要支出高达70万美元,其中大部分开销来自于对昂贵服务器的需求。
这正是已向OpenAI投资数十亿美元的微软正在准备自己的专有 AI 芯片的原因。微软准备推出自有Athena芯片,有望将每颗芯片的成本降低三分之一。
“Athena”自2019年以来一直在开发中,现在可供少数微软和 OpenAI 员工使用。
在部署该芯片时,微软希望取代目前使用的 Nvidia 的GPU,转而使用更高效、运行成本更低的东西。“与 Nvidia 的产品相比,Athena 具有竞争力,可以将每个芯片的成本降低三分之一,”Patel 告诉The Information。
尽管这将标志着微软首次涉足 AI 硬件,但该公司可能并不打算全面取代 Nvidia 的 AI 芯片,因为两者各方最近同意进行为期数年的 AI 合作。
上周,OpenAI 首席执行官 Sam Altman表示,“我们正处于“巨型 AI 模型时代”的尾巴,因为像 ChatGPT 这样的大型语言模型似乎正在接近其庞大规模的收益递减点。根据OpenAI 自己的分析,OpenAI 最新的 GPT-4模型报告的参数大小超过一万亿,可能已经接近实际可扩展性的极限。
虽然更大的参数通常意味着人工智能的能力更强,但也会推高成本。
奇安信发布奇安信大模型Q-GPT 可降低数据安全风险
8月25日,奇安信集团发布了Q-GPT(奇安信大模型)安全机器人和大模型卫士。大模型卫士集安全风险发现、大模型访问控制、数据泄露管控、违法违规行为溯源、大模型应用分析等为一体,可以帮助企业更安全地向大模型要生产力。据悉,奇安信大模型卫士可为企业在使用大模型过程中提供四重防护:第一是防止数据投喂造成的敏感数据泄露。包括建立内部技术监管手段,防止员工向大模型投喂敏感数据。站长网2023-08-26 17:01:240000三星Galaxy S24系列曝光:双处理器回归 回归双芯片战略
近日,三星新一代旗舰GalaxyS24系列已经通过国家质量认证,该系列包含三星GalaxyS24、三星GalaxyS24和三星GalaxyS24Ultra三个版本。据数码博主透露,全新的三星GalaxyS24系列将继续采用三星祖传的25W充电,GalaxyS24(SM-S9260)和GalaxyS24Ultra(SM-S9280)则依然支持45W充电,与前代保持一致。站长网2023-09-17 09:21:050000腾讯推出「银龄守护卡」卡片手机 专门为老年人设计
腾讯最近推出了一款名为「银龄守护卡」的卡片手机,专门为老年人设计。这款手机非常简约,只有四个按键,大小和工卡相似,重量不到70克。它没有一些常见的功能,如刷微博、打游戏等,但却提供了一些针对老年人需求的特殊功能。站长网2024-01-11 11:52:180000微软开始测试 Edge 浏览器中添加的首批 Bing Chat 插件
站长之家(ChinaZ.com)8月8日消息:微软宣布对其人工智能驱动的BingChat进行了一系列更新,意味着微软将进一步努力使聊天机器人在各个平台上更易于访问和功能更丰富。站长网2023-08-08 16:36:120000华为重磅发布会在即:nova13系列今晚发布
华为nova13系列将于今晚正式发布。此前,华为nova13系列现已正式开启预订。消费者可以在华为官方商城预购这两款新机型,并享受新品上市优惠50元以及6期免息分期付款的福利。0000