斯坦福研究发现全球最大AI模型Llama 2缺乏透明度
🔍划重点:
1. 斯坦福大学发布的“基础模型透明度指数”揭示,包括Meta在内的顶级AI模型开发者未能提供足够关于其对社会潜在影响的信息。
2. Meta的Llama2在透明度方面表现最佳,但即使如此,十大最受欢迎的模型中仍有10个透明度不足。
3. 研究人员认为透明度是一个广泛的概念,他们根据100个指标评估模型的构建方式、运作原理以及人们如何使用它们来定义透明度。
斯坦福大学最近发布的研究报告指出,全球最大的AI基础模型开发者,包括Meta和OpenAI在内,未能提供足够的关于其潜在社会影响的信息。
这一研究名为“基础模型透明度指数”,旨在追踪顶级AI模型开发者是否公开信息,以便了解他们的工作及人们如何使用其系统。其中,Meta的Llama 2获得最高分,其次是BloomZ和OpenAI的GPT-4,但仍未获得特别高的分数。
研究人员强调,透明度是一个广泛的概念,他们根据100个指标评估模型的构建方式、运作原理以及人们如何使用它们。他们主要依赖公开信息,为每个模型打分,关注公司是否披露了合作伙伴和第三方开发者,以及是否向客户说明他们的模型是否使用私人信息等。
尽管Meta在基础模型方面表现最佳,获得54%的分数,但仍未提供有关社会影响的任何信息,包括隐私、版权或偏见投诉的解决途径。OpenAI则因未公开大部分研究以及数据来源,但由于有关其合作伙伴的大量信息可供查看,GPT-4的分数相对较高。
报告的作者表示,他们的目标是为政府和公司提供一个衡量标准。一些拟议中的法规,如欧盟的AI法案,可能会迫使大型基础模型的开发者提供透明度报告。
这一研究显示,尽管生成式AI拥有庞大而活跃的开源社区,但该领域的一些最大公司并不公开分享研究成果或代码。即使OpenAI的名称中含有“开放”,但出于竞争和安全的考虑,他们已经不再公开发布研究。
斯坦福大学的研究团队表示,他们愿意扩大指数的范围,但目前将继续关注已经评估的十大基础模型。这一研究突显了AI行业在透明度方面面临的挑战,以及监管对于促进更多透明度的重要性。
福布斯评10个最佳AI内容检测工具
站长之家(ChinaZ.com)注:ChatGPT、Claude和Bard等AI内容生成器经过海量文本和代码数据集的训练。他们可以模仿人类的写作风格,生成创意文本格式、翻译语言并编写创意内容。另一方面,AI检测器工具旨在帮助确定如何判断某些内容是否由AI编写。他们检查文本中是否有表明人工智能作者身份的特定模式和属性,例如句子长度和单词选择的低方差。站长网2023-12-15 14:58:490001阿里巴巴国际站发布全链路外贸AI产品 包括生意助手、OKKI AI
阿里巴巴国际站推出了全链路外贸AI产品,拥有多项功能,包括智能商品发布与管理、市场分析、客户接待、实时翻译和企业管理等,覆盖了外贸生意的各个环节。据悉,该产品包含生意助手和OKKIAI,阿里国际站商家可以使用AI“生意助手”,而OKKIAI则面向全行业所有商家开放。站长网2023-08-24 23:31:520001腾讯二次元社交APP《代号M9》上线:支持虚拟形象等功能
腾讯旗下深圳市网视界科技有限公司推出了一款专为二次元用户打造的全新社交APP——《代号M9-穿越次元遇见你》。这款APP不仅支持虚拟形象装扮、多人群聊、好友地图、实时状态、个性咕卡等新奇功能,还允许用户根据自己的需求对人物进行3D捏脸和更换服装等个性化设置。用户可以通过微信或QQ账号登录该APP,并在上面寻找兴趣相投的朋友,与好友分享实时动态,自由创建兴趣群聊,拥有一个和同好的交流空间。0000研究表明:大语言模型从人类反馈中学得更快更智能
划重点:1.🧠大型语言模型(LLMs)通过在线上下文学习展现了广泛的机器学习能力,使非专家能够通过语言指令编写机器人代码,根据反馈修改行为或组合执行新任务。2.🔄通过LanguageModelPredictiveControl(LMPC)框架,研究团队成功通过对机器人代码编写LLMs进行微调,提高其适应人类输入的效率,从而加速学习过程。站长网2024-02-20 16:11:070000