尴尬!谷歌手动删除搜索中奇怪的 AI 回答
划重点:
- 谷歌的 AI Overview 产品在推出时出现了一些怪异回答,导致谷歌需要手动禁用特定搜索的 AI Overviews。
- 一些用户在社交媒体上发布了各种有趣的回答,但很快就被删除。
- 这个失误显示了 AI 领域竞争的艰难性,以及在 AI 技术完善之前进行优化的风险。
谷歌的 AI Overview 产品最近推出后,社交媒体上涌现了一些怪异的回答,例如建议用户在披萨上涂胶水或吃石头。这个失误导致谷歌不得不手动禁用特定搜索的 AI Overviews,因为各种有趣的回答很快就被发布到社交网络上。
谷歌的发言人梅根・法恩斯沃思在邮件中表示,虽然许多例子都是罕见的查询,但也有些例子是被篡改或无法重现的。
图源备注:图片由AI生成,图片授权服务商Midjourney
令人奇怪的是,谷歌已经在过去一年中进行了 AI Overview 的测试,这个功能于2023年5月作为搜索生成体验的测试版推出,并且首席执行官桑达尔・皮查伊表示,在那段时间里,谷歌已经提供了超过10亿次查询。然而,皮查伊也表示,在这段时间里,谷歌将提供 AI 回答的成本降低了80%,这主要得益于硬件、工程和技术突破。但很明显,这种优化可能发生得太早了,技术还没有准备好。
人工智能专家加里・马库斯指出,很多 AI 公司都在向人们 “销售梦想”,认为这项技术可以从80% 的准确率提高到100%。马库斯表示,实现最初的80% 相对简单,因为它只涉及到近似大量的人类数据,但最后的20% 非常具有挑战性。他认为,最后的20% 可能是最困难的部分,需要进行推理来判断回答是否合理、来源是否可信,这可能需要人工智能具备人类的智能。此外,马库斯和 Meta 的 AI 主管 Yann LeCun 都认为,目前支撑谷歌的 Gemini 和 OpenAI 的 GPT-4等大型语言模型不可能创造出人工通用智能。
谷歌对 AI Overview 有着宏大的计划,目前产品的功能只是谷歌上周宣布的一小部分。包括复杂查询的多步骤推理、生成 AI 组织的结果页面、Google Lens 中的视频搜索等等。但目前,谷歌最需要做的是将基本功能做好,而在这方面它的表现并不出色。
马库斯表示:“这些模型本质上无法对自己的工作进行合理性检查,这就是这个行业面临的问题。” 谷歌正面临巨大的竞争压力,Bing 在人工智能领域领先于谷歌,OpenAI 正在开发自己的搜索引擎,一家新的 AI 搜索初创公司已经价值10亿美元,而更年轻的用户则转向 TikTok,寻求更好的体验。谷歌明显感受到了竞争的压力,这也导致了混乱的 AI 发布。马库斯指出,2022年,Meta 发布了一个名为 Galactica 的人工智能系统,但不久后就被下架,其中一个原因就是它告诉人们吃玻璃。这听起来很熟悉。
谷歌需要解决这个尴尬的局面。他们希望 AI Overview 能实现更多的功能,但目前他们最需要做的是确保基本功能的准确性,而这方面的表现并不出色。
阿里云回应B站、小红书崩了:异常问题已得到解决
7月2日中午,微博热搜榜上出现了"小红书崩了"和"B站崩了"两个热门话题。B站App遭遇服务故障,导致用户无法浏览历史记录、关注内容,消息、更新、客服界面均无法使用,评论和弹幕功能也受到影响,视频评论区和UP主主页加载失败。同时,小红书用户也报告了内容刷新问题。B站方面通过客服界面通知用户,称部分功能出现故障,正在紧急修复中,并建议用户稍后再尝试访问。站长网2024-07-02 18:04:580000思谋科技发布全球首个工业多模态大模型 IndustryGPT V1.0
思谋科技在第六届中国国际进口博览会上发布了全球首个工业多模态大模型IndustryGPTV1.0。这个大模型通过深度的行业洞察和海量的精炼数据,能够准确回答制造业的问题、识别工业缺陷,并提供决策支持。与此同时,思谋科技还与松下、江森自控等跨国企业签署了战略合作协议,将在智能制造、数智化创新等领域深度合作,共同推动全球工业制造进入智能时代。站长网2023-11-08 10:54:160003高通发布第三代骁龙8移动平台 小米14系列将全球首发
在今天凌晨的骁龙峰会上,高通技术公司正式发布了全新的旗舰移动平台——第三代骁龙®8。第三代骁龙8是基于QualcommKryo64位架构的处理器,采用先进的4nm工艺。在规格方面,它包括1个基于ArmCortex-X4技术的主处理器核心,主频最高可达3.3GHz;5个最高3.2GHz的性能核心;以及2个最高2.3GHz的效率核心。站长网2023-10-25 09:21:340000一键消除视频人物!南科大发布视频分割模型TAM 支持动态物体追踪
特效师的救星来了!近日,南科大发布视频分割模型TAM,可轻松追踪视频中的任意物体并消除,操作简单友好。TAM的出现为解决传统视频分割模型需要人工标记培训数据和初始化参与数据的问题提供了之前提供,将改变CGI行业的游戏游戏规则。TAM可应用于视频编辑、虚拟现实、增强现实等领域,具备广泛的应用前景。TAM的出现也将促进视频内容的真实性和可信度,减少一些虚假信息的传播。站长网2023-05-04 18:11:380000腾讯微信视频号拟限制数字人带货
站长之家(ChinaZ.com)6月18日消息:腾讯视频号近日宣布了对《视频号橱窗达人发布低质量内容实施细则》的修订,旨在加强内容质量监管,并拟禁止数字人直播带货。该修订于今年6月7日至6月13日公开征集意见。在最新修订中,视频号将“挂机录播”概念扩展为“非真实直播”内容,明确禁止在直播过程中使用非实时直播内容或道具来替代真实直播。相关违规示例包括使用插件、AI等工具生成虚拟形象进行直播。站长网2024-06-18 20:40:330000