研究人员展示了一种能操纵人工智能的新型计算机蠕虫病毒

一组来自康奈尔科技大学、Intuit和以色列理工学院的研究人员创建了一种名为"Morris II"的新型计算机蠕虫，能够利用和操纵生成式人工智能系统（如Gemini Pro和基于GPT-4的ChatGPT版本）执行恶意任务。

Morris II是一种精心设计的输入，在被AI模型处理时会自我复制并进行如发送垃圾邮件、窃取敏感数据等违规行为。它能从用户不知情的情况下提取联系信息、地址等机密数据，并鼓励AI系统将其传播至更多代理，实现病毒式蔓延。

研究人员展示了Morris II如何利用Gen AI生态系统中代理之间的连接性来传播，从而成为第一个专门针对生成式人工智能系统的恶意软件。他们还分享了不法分子如何构建和利用类似系统的方法。

这种蠕虫病毒的工作机制类似于生物病毒，通过不断复制和感染新的"宿主"系统来扩散，并在其间执行破坏性行为。它利用了现有AI系统的漏洞，注入恶意指令欺骗模型执行违反使用协议的命令。

虽然之前已有研究展示过操纵AI系统的可能，但Morris II是第一个专门针对"生成AI生态系统"和代理互联网络发起攻击的蠕虫病毒。研究人员警告，随着AI系统在智能手机和汽车等领域的集成，此类攻击的潜在影响将更加严重。