登陆注册
19607

研究人员展示了一种能操纵人工智能的新型计算机蠕虫病毒

站长网2024-03-06 16:49:070

一组来自康奈尔科技大学、Intuit和以色列理工学院的研究人员创建了一种名为"Morris II"的新型计算机蠕虫,能够利用和操纵生成式人工智能系统(如Gemini Pro和基于GPT-4的ChatGPT版本)执行恶意任务。

Morris II是一种精心设计的输入,在被AI模型处理时会自我复制并进行如发送垃圾邮件、窃取敏感数据等违规行为。它能从用户不知情的情况下提取联系信息、地址等机密数据,并鼓励AI系统将其传播至更多代理,实现病毒式蔓延。

研究人员展示了Morris II如何利用Gen AI生态系统中代理之间的连接性来传播,从而成为第一个专门针对生成式人工智能系统的恶意软件。他们还分享了不法分子如何构建和利用类似系统的方法。

这种蠕虫病毒的工作机制类似于生物病毒,通过不断复制和感染新的"宿主"系统来扩散,并在其间执行破坏性行为。它利用了现有AI系统的漏洞,注入恶意指令欺骗模型执行违反使用协议的命令。

虽然之前已有研究展示过操纵AI系统的可能,但Morris II是第一个专门针对"生成AI生态系统"和代理互联网络发起攻击的蠕虫病毒。研究人员警告,随着AI系统在智能手机和汽车等领域的集成,此类攻击的潜在影响将更加严重。

0000
评论列表
共(0)条