Hugging Face CEO:需要平衡AI模型的开放性和责任性
关于人工智能社区在是否保持人工智能模型开放(并冒不良行为者滥用它们的风险)或选择闭源仅由少数科技巨头控制的问题,Hugging Face 的首席执行官主张采取平衡的方法。
在国会听证会上,Hugging Face 首席执行官兼联合创始人克莱门特·德兰格 (Clement Delangue) 表示,让人工智能更加开放“可以培养安全创新”。
德兰格在众议院科学、空间和技术委员会关于人工智能的听证会上发表讲话,他解释说,扩大机器学习模型和训练数据集的访问范围将使研究人员和用户“更好地理解系统、进行审计、降低风险并找到高风险”。
然而,这位互联网最大的人工智能模型库之一的CEO承认,完全开放的系统会导致不良行为者滥用,因此他主张将人工智能开放性和问责制结合起来。德兰格说:“我们有责任在人工智能研发的各个阶段优先考虑并记录我们的道德工作。”
Hugging Face 首席执行官认为,开放系统促进民主治理,增加访问权限,尤其是研究人员的访问权限,可以“帮助解决关键的安全问题”。
德兰格在证词中表示:“开放可以增强透明度并促进外部审查。人工智能领域目前由少数高资源公司主导,他们对新颖的人工智能系统(包括基于开放研究的系统)提供有限或不开放的访问权限。为了鼓励竞争并增加人工智能经济机会,我们应该让许多人能够参与进来,为扩大人工智能在有用应用中的进步广度做出贡献,而不仅仅是允许少数组织提高更强大模型的深度。”
OpenAI 等公司选择将 GPT-4等模型闭源,以免泄露其功能的底层信息。德兰格在国会作证时表示,所有人工智能模型、数据集和“人工智能系统的相关组件”都应该共享细节,以提高透明度。
Hugging Face 在其平台上拥有超过250,000个模型,其首席执行官认为,发布更多有关模型的文档将有助于减轻风险,因为用户和开发人员将能够了解如何衡量它们。
德兰格加入了人工智能初创公司 Anthropic 最近的呼吁,呼吁增加对国家标准与技术研究所的投资,以提高人工智能的透明度。
美国国家标准与技术研究院NIST 一直致力于制定人工智能标准,德兰格在证词中表示,该机构需要更多资源来帮助对抗人工智能偏见和风险。他说:“增加对 NIST 的资助既可以加强美国政府的技术领导地位,也可以改善跨部门研究人员合作解决人工智能风险的空间。”
德兰格还呼吁为美国国家人工智能研究资源 (NAIRR) 提供更多资金,并补充说,资源的扩大限制了“谁能够为创新研究和应用做出贡献”。
网易开放免费声音复原技术,让听障人士用自己的声音 “说话”
近日,网易集团和网易公益联合浙江省残疾人福利基金会发起了名为“人生第一句”的声音复原公益计划。该计划利用网易互娱AILab的iSpeech技术,开发了一款能够复原听障人士原声的工具。站长网2023-07-21 17:06:400000视频生成模型Stable Video Diffusion1.1发布 清晰度质量有所改进
StableVideoDiffusion(SVD)模型1.1已经发布,通过测试视频展示了其令人瞩目的性能。SVD1.1模型是一个生成图像到视频的扩散模型,通过对静止图像的条件化生成短视频。模型下载地址:https://top.aibase.com/tool/stable-video-diffusion-1-1-image-to-video相较于前一代,SVD1.1主要变化包括:站长网2024-02-05 10:52:340002苹果已经在内部测试 iOS16.6 WWDC23 将发布 iOS17
根据MacRumors网站的分析日志,苹果已经开始在内部测试iOS16.6,这已被证明是即将到来的软件更新的一个可靠指标。站长网2023-04-14 17:09:470000GPT-4等大模型更能记住版权书籍的内容 容易导致侵权和社会偏见问题
一项研究指出了当今大型语言模型的另一个潜在版权问题和文化挑战:一本书越有名和越受欢迎,语言模型就越能记住其内容。加州大学伯克利分校的研究人员测试了ChatGPT、GPT-4和BERT的“背诵”能力。根据这项研究,语言模型记住了“大量受版权保护的材料”。一本书的内容在网上越受欢迎多,语言模型就越能记住其内容。站长网2023-05-05 14:39:230000快手AI对话功能已在安卓版APP开放内测
据Tech星球报道,快手宣布其基于自研大语言模型应用的“快手AI对话”功能已在快手APP安卓版本开放内测。该功能可以通过与用户的对话,帮助用户快速查找短视频、达人、百科等内容,提供全新的信息获取形态。同时,“快手AI对话”还能打破站内内容的生态壁垒,为用户提供全网检索服务和全新的信息获取形态。据悉,这是短视频直播行业首个基于大语言模型落地的应用产品。站长网2023-08-21 20:33:210000