五角大楼探讨大型语言模型的军用用途
划重点:
⭐️ 五角大楼与科技专家会晤,讨论如何将人工智能融入军 事规划。
⭐️ 大型语言模型在军 事情报分析等领域有潜在用途,但仍需面临可靠性和安全性挑战。
⭐️ 五角大楼强调需要工业界的协助,以推动人工智能技术在军 事领域的应用。
ChatGPT 和 AI 图像生成器的出现初期令全球欢欣鼓舞,然而政府官员开始担心它们可能被用于更黑暗的用途。本周二,五角大楼开始与科技行业领袖举行会议,加速发现和实施最有用的军 事应用。与会人士一致认为:新兴人工智能技术可能对军 事领域产生深远影响,但需要进行深入测试,以确保其可靠性,避免被对手利用。
图源备注:图片由AI生成,图片授权服务商Midjourney
五角大楼首席数字与人工智能官办公室主管克雷格・马特尔在华盛顿希尔顿酒店的一场座无虚席的研讨会上表示,他的团队正试图在实施尖端人工智能技术时平衡速度与谨慎。
大型语言模型(LLMs)如 ChatGPT 可以在几秒内审查海量信息并将其凝聚为几个关键要点,这为军 事和情报机构带来了诱人的可能性。美国海军船长 M・赛维尔・卢戈在研讨会上表示,对个人而言,特别是在高活动环境中,信息流量是巨大的。具备可靠摘要技术可以帮助我们管理这些信息,这对我们至关重要。
研究人员表示,LLMs 在军 事领域的其他潜在用途可能包括通过复杂的战争游戏训练军官,甚至帮助实时决策。一些最佳用途可能尚未被发现。LLMs 让国防官员感到振奋的是它们的灵活性,可以处理各种任务,与早期的人工智能系统相比,更具多样性。
然而,一个主要障碍,甚至可能是一个致命缺陷,是 LLMs 继续存在 “幻觉”,即它们会产生不准确信息。卢戈表示目前还不清楚是否可以解决这个问题,称这是工业界的 “头号挑战”。五角大楼首席数字与人工智能官办公室成立了 Lima 特别小组,目的是研究生成式人工智能,该小组最初是为 LLMs 而成立的,但很快扩展到包括图像和视频生成。
LLMs 在高风险目的上仍需继续改进。一位卡内基梅隆大学的研究人员在会议上表示,他们去年受国家情报总监办公室之托,探讨 LLMs 如何被情报机构使用。该研究小组设计了一个 “气球测试”,激励 LLMs 描述去年高空中国监视气球事件的发生情况,作为情报机构可能感兴趣的地缘政治事件的代理。回答各不相同,有些带有偏见且无益。
更令人担忧的是,一个对抗性黑客可能会破解军方的 LLM,并导致其从后端泄露数据集。研究人员在去年证明了这是可能的:通过要求 ChatGPT 永远重复单词 “诗歌”,他们让其开始泄漏训练数据。ChatGPT 修复了这个漏洞,但其他漏洞可能仍存在。
在周二的讲话中,马特尔呼吁工业界的帮助,称国防部也许没有必要建立自己的人工智能模型。“没有你们我们办不到。” 马特尔说。“我们构想的所有这些组件都将是工业解决方案的集合体。” 周二的讲话中,马特尔是在向合作伙伴传道,大约100家技术供应商争相入住希尔顿酒店,其中许多人渴望赢得即将到来的合同。
早在一月初,OpenAI 从其 “使用政策” 页面上删除了针对军 事应用的限制,该页面曾禁止 “有高风险的实体危害活动”,特别是 “武器开发” 和 “军 事和战争”。“英国国防人工智能中心” 负责人瑞秋・辛格顿上校在研讨会上表示,英国感到有必要迅速为内部军 事使用开发一个 LLM 解决方案,因为担心员工可能会诱惑使用商业 LLMs,从而使敏感信息面临风险。
GPT-4变笨加剧,被曝缓存历史回复:一个笑话讲八百遍,让换新的也不听
有网友找到了GPT-4变“笨”的又一证据。他质疑:OpenAI会缓存历史回复,让GPT-4直接复述以前生成过的答案。最明显的例子就是讲笑话。证据显示,即使他将模型的temperature值调高,GPT-4仍重复同一个“科学家与原子”的回答。就是那个“为什么科学家不信任原子?因为万物都是由它们编造/构造(makeup)出来的”的冷笑话。站长网2023-11-03 09:40:1600003599元!Redmi K60至尊旗舰顶配版下周首销
RedmiK60至尊版正式上市,定价为2599元。其中,备受关注的24GB1TB顶配版本将于8月22日首次开售,售价为3599元。这一顶配版本成为业界首款24GB内存旗舰手机,被誉为性能之王。在硬件配置方面,RedmiK60至尊版搭载了第二代台积电4nm制程工艺的天玑9200旗舰级移动平台。0000比Transformer更好的模型架构?Monarch Mixer更低成本取得更优表现
要点:1.MonarchMixer(M2)是一种新的模型架构,与传统的Transformer不同,它通过使用Monarch矩阵替代注意力和MLP,使之在语言和图像实验中以更低的成本取得了更优的表现。2.MonarchMixer的关键创新点在于其次二次的复杂度,使其能够处理更长的序列和更高维度的表征,同时保持计算效率。站长网2023-10-30 09:38:000000盘点英国十大人工智能初创公司
随着人工智能的崛起,技术领域面临着前所未有的机遇与挑战。除了像ChatGPT这样的技术,人工智能在初创企业中也发挥着重要作用。英国充满了将人工智能融入其平台或作为业务运营主要工具的初创公司。以下是10家体现人工智能应用的有趣初创公司IDVerse0000OpenAI称已不使用客户数据训练模型
当地时间5月5日,美国人工智能公司OpenAI的CEO阿尔特曼表示,已经有一段时间不再使用付费客户的数据来训练人工智能(AI)大语言模型。阿尔特曼表示:“用户希望我们不要使用他们的数据进行训练,因此我们已经改变了计划,并将来不再这样做。”据了解,4月26日,ChatGPT宣布推企业版订阅,默认情况下不会使用最终用户的数据来训练模型。而ChatGPTBusiness计划在未来几个月内推出。站长网2023-05-06 08:22:430000