谷歌CEO表态:Gemini AI应用出现的偏见问题“完全不可接受”
**划重点:**
1. 🚫 Gemini AI应用展示出令用户不满并具有偏见的AI生成响应。
2. 📉 部分Gemini图像生成历史人物时出现问题,如二战时的德国士兵和以往为白人男性的教皇,导致争议并暂停使用。
3. 🤔 Sundar Pichai致信员工,表示Gemini问题"完全不可接受",并强调谷歌正在全力解决,同时承认AI在发展初期不完美。
谷歌首席执行官 Sundar Pichai对谷歌Gemini AI应用的问题发表了强烈言论,称其AI生成的部分响应"完全不可接受"。Gemini应用,被公司标榜为一项革命性的新搜索工具,在一些用户要求生成历史人物图像时遭到批评,例如二战时期的德国士兵和以往一直是白人男性的教皇。Gemini的部分图像将纳粹士兵描绘为黑人和亚洲人,而将教皇描绘为女性。
面对用户的不满和对AI工具响应的偏见,谷歌已经临时停止了Gemini图像生成器的使用。Pichai在周二致信员工的邮件中写道:"我想解决Gemini应用中出现的问题,特别是涉及问题文本和图像响应的。我知道其中的一些响应已经冒犯了我们的用户,并展示了偏见 - 明确地说,这是完全不可接受的,我们搞错了。"
Gemini图像生成器的问题对谷歌在AI领域的推进构成了一次挫折,该公司试图与微软等竞争对手保持步伐。上个月,谷歌将去年推出的聊天机器人Bard重新打造为Gemini,并将这一改进产品描述为其最强大的AI模型。
谷歌等科技公司声称他们对模型进行了广泛的安全和伦理测试,但Axios科技政策记者Maria Curi表示:"我们不知道确切的测试过程是什么。用户发现了历史性的不准确性,这引发了一个问题,这些模型是否被过早地推向了世界。"
在Pichai的备忘录中,他表示谷歌员工已经“日以继夜地工作来解决这些问题。我们已经看到在各种提示方面有了显著的改进。”他补充道:“没有哪个AI是完美的,特别是在这个行业发展的早期阶段,但我们知道对我们来说要求很高,我们将继续努力,无论需要多长时间。我们将审查发生的事情,并确保我们在规模上进行修复。”
AI驱动的聊天机器人也引起人们对其在即将到来的美国选举中可能发挥的作用的关注。周二发布的一项研究发现,Gemini和其他四种广泛使用的AI工具超过半数的时间产生不准确的选举信息,甚至将选民引导到不存在的投票地点。专家们担心,强大的新型AI可能导致选民接收到虚假和误导性的信息,甚至可能阻止人们前往投票站。
智源研究院推出FlagEval“天秤”大模型评测体系
在今日的2023北京智源大会上,智源研究院宣布推出FlagEval(天秤)大语言模型评测体系。该体系从“能力、任务、指标”三维评测角度出发,结合超过600个维度对大模型进行全面测评。据悉,天秤大模型的任务维度目前包含22个主观和客观评测数据集,共计超过84433道评测题目。站长网2023-06-09 20:57:130000黄仁勋:我们已经到达了生成式AI的引爆点
“我们离倒闭永远只有30天。”这是英伟达首席执行官黄仁勋的口头禅。结束了几天前台湾大学的毕业典礼,5月29日上午,黄仁勋再次身着标志性皮衣,现身于中国台北的国际电脑展Computex2023活动现场,并发表主题演讲。黄仁勋向全世界宣布,“我们已经到达了生成式AI的引爆点。从此,全世界的每个角落,都会有计算需求。”站长网2023-05-31 09:08:280000谁还记得“国产最贵”8848手机?
燃次元(ID:chaintruth)原创作者|曹杨编辑|饶霞飞当小米、荣耀、OV纷纷发力高端手机时,曾被看成国产高端手机“先驱”的品牌——8848钛金手机,却早已被人遗忘。诞生于2015年7月28日的8848钛金手机曾一度成为“成功商务人士的标配”,并凭借“安全”“隐私”“鳄鱼皮、钛合金以及蓝宝石”等标签,成为不少“有钱人士”的选择。站长网2023-05-25 04:15:370000上海AI实验室开源工具箱XTuner 8GB显卡就可训练大模型
近日,上海人工智能实验室发布了一款面向大模型训练的开源工具箱XTuner,通过支持多种硬件适配,大幅降低了企业进行大模型训练的门槛,尤其是对中小企业具有重要意义。XTuner为各类开源模型提供了多样的微调框架站长网2023-09-20 10:19:030000NCSC、CISA 等国际机构发布新的 AI 安全指南
划重点:🔸英国国家网络安全中心(NCSC)、美国网络安全与基础设施安全局(CISA)和其他16个国家的国际机构发布了关于人工智能系统安全的新指南。🔸这些指南旨在帮助开发人员在设计、开发、部署和运营AI系统时,确保安全性成为其核心组成部分。🔸指南内容涵盖了AI系统开发生命周期的四个关键阶段:安全设计、安全开发、安全部署和安全运维。站长网2023-11-30 11:30:480000