专家指出如果 Google 冒险在 AI 功能上加码,就需要明确说明可能出错的地方
在谷歌推出其 AI 概览功能不久后,该功能在页面顶部为一些搜索查询提供 AI 生成的摘要,网络上开始讨论搜索引擎竟然推荐吃胶水披萨或食用石头的荒谬建议。
今年早些时候,Google 在 Gemini 上推出了图像生成工具,但由于聊天机器人错误再现了历史人物的图像而引发争议。Google 承认了问题,并暂停了该功能。
尽管出现了这些高调失误,但 Google 似乎没有放慢脚步的打算。
Google 搜索副总裁 Liz Reid 在最近的一次全员会议上谈到了近期的披萨胶水和吃石头事件,并借此机会重申了公司的 AI 战略。根据 CNBC 获得的泄露音频显示,Reid reportedly 说道:「我们不能仅仅因为偶尔会出现问题就阻碍功能的推出。」
Reid 在会议上表示,Google 应在发现问题时立即解决,但这并不意味着公司不应该冒险,CNBC 报道。
AI 投资者兼风险投资集团 Gaingels 的管理合伙人 Lorenzo Thione 对 Business Insider 表示,通常来说,推出实验性功能是正确的举动。但用户需要知道何时以及如何依赖这些结果。Thione 表示,当使用的工具既是发布者、策展人又是审核者时,产品披露需要有所不同。
Google 在其 AI 概览功能中注明「生成式 AI 是实验性的」。它还提供了一份开发者安全指南,指出生成式 AI 工具有时会产生意外的输出,例如不准确、有偏见或冒犯性的内容。
Google 并不是唯一一家在探索生成式 AI 产品风险的公司。Tim Cook 表示,Apple Intelligence 不可避免会出错,尽管他认为这种情况不会频繁发生。微软也在周四表示,在隐私问题出现后,它将推迟推出本应与副驾驶 PC 一同发布的 AI 工具。
AI 平台 Copyleaks 的 CEO Alon Yamin 对 BI 表示,通过在 Google 搜索顶部推出大规模功能,Google 使这些错误显得尤为显眼。
Yamin 表示,另一种选择是逐步发布功能,如果它们尚未完全准备好,则不要将其放在核心位置。
Yamin 指出,由于关于 Google 在 AI 竞赛中落后的讨论,公司希望更快地推出产品是可以理解的。但尽管生成式 AI 目前还不够完善,重要的是要平衡时机、创新和准确性。
Reid 此前在博客文章中写道,Google 在这些体验中构建了「质量和安全护栏」,并在发布前进行了广泛测试。但 Reid 在全员会议上表示,Google「并不总是能发现所有问题」,根据 CNBC 的报道。
值得注意的是,这些错误似乎并不频繁。Google 发言人表示,「绝大多数」结果是准确的,公司发现每 700 万个独立查询中,只有不到一个违反了政策。
尽管建议在披萨上涂胶水和吃石头可能是一个小错误,Yamin 表示,更严重的风险在于隐私、安全和版权问题,而推出的速度越快,风险就越大。
阿里巴巴通义实验室开源AI图像生成微调框架SCEdit
SCEdit是一个高效的生成式微调框架,由阿里巴巴通义实验室基础视觉智能团队提出。该框架可以用于图像生成任务的微调,并支持快速迁移到特定的生成场景中。相比于其他方法,SCEdit能够节省30%-50%的训练显存开销。站长网2024-01-05 09:09:100000最强Civi!曝小米Civi 4搭载骁龙8S Gen3
快科技3月6日消息,博主数码闲聊站暗示,小米Civi4系列将搭载高通骁龙8SGen3移动平台。据悉,小米Civi4有望全球首发骁龙8SGen3,这是小米第一次在Civi系列上使用骁龙8系平台,也是史上最强悍的Civi机型。站长网2024-03-07 08:38:400000Flyme AI大模型加持!魅族Flyme 10.5引入全新智能助手Aicy
魅族宣布,Flyme10.5将引入全新的智能助手Aicy,通过FlymeAI大模型的加持,Aicy能够发挥出强大的能力。首先,Aicy能够作为即问即答的百科全书,回答包括自然科学、生活知识、健康常识、情感问答等各类问题。其次,Aicy还能帮助用户撰写各种文本,包括微博动态、感谢信、年会发言稿等。站长网2023-11-30 15:40:470000亚马逊云科技推出生成式AI新工具
近日,亚马逊云科技发布了AmazonBedrock和AmazonTitan模型,并宣布AmazonCodeWhisperer已正式推出。AmazonBedrock使用户能够通过API访问来自AI21Labs、Anthropic、StabilityAI和亚马逊的基础模型,同时,用户可通过亚马逊云科技托管服务,访问从文本到图像的数个基础模型,以及AmazonTitan基础模型。站长网2023-04-14 18:14:520000在小红书做私域还是蓝海!
近日,见实留意到很多商家在进行小红书域内的「群聊」运营,并取得了不错成绩,如某原创珠宝设计品牌,在小红书群聊内成交GMV占商家整体GMV高达50%!一直以来,小红书用户就以高质量和高互动性著称,这为品牌沉淀用户、提高转化率提供了天然优势,因此很多品牌都非常重视小红书用户。0000