研究人员展示了一种能操纵人工智能的新型计算机蠕虫病毒
站长网2024-03-06 16:49:070阅
一组来自康奈尔科技大学、Intuit和以色列理工学院的研究人员创建了一种名为"Morris II"的新型计算机蠕虫,能够利用和操纵生成式人工智能系统(如Gemini Pro和基于GPT-4的ChatGPT版本)执行恶意任务。
Morris II是一种精心设计的输入,在被AI模型处理时会自我复制并进行如发送垃圾邮件、窃取敏感数据等违规行为。它能从用户不知情的情况下提取联系信息、地址等机密数据,并鼓励AI系统将其传播至更多代理,实现病毒式蔓延。
研究人员展示了Morris II如何利用Gen AI生态系统中代理之间的连接性来传播,从而成为第一个专门针对生成式人工智能系统的恶意软件。他们还分享了不法分子如何构建和利用类似系统的方法。
这种蠕虫病毒的工作机制类似于生物病毒,通过不断复制和感染新的"宿主"系统来扩散,并在其间执行破坏性行为。它利用了现有AI系统的漏洞,注入恶意指令欺骗模型执行违反使用协议的命令。
虽然之前已有研究展示过操纵AI系统的可能,但Morris II是第一个专门针对"生成AI生态系统"和代理互联网络发起攻击的蠕虫病毒。研究人员警告,随着AI系统在智能手机和汽车等领域的集成,此类攻击的潜在影响将更加严重。
0000
评论列表
共(0)条相关推荐
实测快手“AI玩评”功能,以后AI也要来抢热评了
以后,AI也要来抢热评了。继8月推出“文生文”大语言模型“快意”(KwaiYii)后,快手又在“文生图”赛道推出了自研大模型“可图”(Kolors)。据了解,从8月下旬开始,快手AI团队就已在公司内部开启了可图大模型的内测,并支持网页版工具和标准化API两种使用方式。依托可图大模型,快手开始在短视频评论区内测“AI玩评”功能,这是继“AI对话”之后,快手在短视频场景内落地的又一AIGC能力。站长网2023-09-25 09:18:380000美国点评网站Yelp将加强AI功能 部分功能已在iOS版上线
美国点评网站Yelp推出AI摘要、预算工具等新功能,以帮助商家Yelp是领先的商家评论平台,它刚刚推出了冬季产品更新,增加了20多个新功能,提升了其人工智能能力。这些功能帮助商家吸引更多的客户,优化他们的支出,建立在Yelp之前以用户和商家需求为重点的人工智能创新之上。图源备注:图片由AI生成,图片授权服务商Midjourney站长网2024-01-31 09:33:230000重庆首个自主研发的大语言模型“兆言”发布
7月13日,上海交通大学重庆人工智能研究院在西部(重庆)科学城发布其最新研发成果“兆言”大模型产品。据了解,兆言大模型是上海交大重庆人工智能研究院基于全球领先的AI大模型技术研发出的最新成果,它的建立是通过积累海量数据,辅以独特的数据处理和AI训练技术,以达到精准、专业的文本输出,并且能够实现以自然语言选择、调用应用程序的能力,助力打造个性化的智能产品。站长网2023-07-14 16:31:090000联想浏览器推出小乐 AI 助手:集成百度文心一言大模型
站长之家(ChinaZ.com)8月7日消息:联想浏览器微博消息,联想浏览器今日发布了9.0.2.7311正式版本,并新增了小乐AI助手的测试版。根了解,这款AI助手集成了百度的文心一言大模型。经过实际测试,用户可以向小乐AI助手测试版询问「你是文心一言吗」,并会得到肯定的回答。助手介绍自己能够与人对话互动,回答问题,协助创作,帮助人们获取信息、知识和灵感。站长网2023-08-07 17:37:390000“陆仙人”所属MCN被曝欠款欠薪 一场由直播带货引发的罗生门
这两年围绕主播和MCN的纠纷不在少数,几乎每年都能因为主播的履约能力、MCN的管理能力爆发的极限拉扯。近日,拥有千万粉丝的抖音主播“陆仙人”就被爆出其MCN公司存在拖欠大量资金及员工工资的情况,其带货账号“陆仙人家”也已经停播20天。事情曝光后,相关话题很快冲上热搜。在网友吃瓜之余,行业内关于主播与MCN机构合作关系的讨论,也再次受到关注。1“陆仙人”MCN欠款欠薪站长网2024-01-23 11:56:070000