AI 网络蠕虫被曝光：能不断繁殖，发送垃圾邮件并窃取数据
我要评论
3 月 3 日消息 ，网络国际网络安全团队近日研发了新型 AI 蠕虫病毒 ，蠕虫能够在生成式人工智能服务之间独立传播 、被曝不断并窃窃取数据并通过电子邮件发送垃圾邮件 。繁殖发送
伴随着 OpenAI ChatGPT 和 Google Gemini 等生成式 AI 系统的垃圾快速发展，AI 开始被应用于解决某个特定问题或者任务，邮件例如创建日历项 、取数订购某件物品等等 。网络
网络安全技术研究人员表明生成式 AI 存在漏洞 ，蠕虫并将其命名为“Morris II” 。被曝不断并窃
IT之家在这里简要介绍下这个名称的云计算繁殖发送背景 ，Morris 被认为是垃圾人类发现的第一个计算机蠕虫病毒 ，于 1988 年被发现 ，邮件感染了超过 6200 台计算机 ，取数占当时连接到互联网的网络所有计算机的 10% 。
“Morris II”可以基于生成式 AI ，绕过了 ChatGPT 和 Gemini 的源码库保护，能从电子邮件中窃取数据并发送垃圾邮件 。
研究作者表示在沙盒环境中测试了新的攻击模型，但目前尚未在实践中被发现 ，不过个人开发者 、初创企业和科技公司都应考虑到这一威胁。
大多数生成式人工智能系统的工作原理是接收文本指令 ：要求回答问题或创建图像 。
这些命令可以用来对付系统，建站模板使其忽略安全措施并生成不恰当的内容；还可以向系统发出隐含指令，例如 ，向其提供一个隐藏有此类命令文本的恶意网页地址 。
攻击生成式人工智能的蠕虫病毒的运行原理基于“对抗性自我复制提示”机制 。这种命令会导致生成式人工智能模型发出另一条命令作为回应 ，这很像 SQL 注入和缓冲区溢出等传统攻击模式 。
为了演示该蠕虫的高防服务器工作原理 ，研究人员通过连接 ChatGPT 、Gemini 和开源 LlaVA 模型 ，创建了一个可以使用生成式人工智能接收和发送信息的电子邮件服务 。
然后 ，他们使用自我复制的文本指令和嵌入图像文件的类似指令两种方法 ，成功利用人工智能漏洞发起攻击。
研究报告的服务器租用作者指出 ，由于人工智能生态系统的架构设计错误 ，这些攻击方法成为可能 。他们与谷歌和 OpenAI 分享了他们的发现--OpenAI 证实了威胁的存在 ，但补充说该公司正在努力提高其系统的稳定性 ，而谷歌拒绝发表评论。
源码下载相关文章
由于网络安全是一个充满活力，甚至令人恐惧的领域，下面小编给大家列出2023年十大网络安全预测，希望能帮助到各位。1.物联网遭受攻击预测2023年将出现物联网设备和传感器的入侵。我们必须像网络罪犯一样思2025-12-07
自动驾驶与人类驾驶的安全性对比是颇具争议的热门话题。中央佛罗里达大学的博士生Shengxuan Ding领导一项基于2000多辆自动驾驶汽车数据的研究发现，在某些情况下，自动驾驶汽车可能比人类驾驶更安2025-12-07
我们已经生活在一个数字化的时代，那些能够从数据中获取最大价值的组织将成为最后的赢家。在数字化转型和数据民主化的发展背景下，企业开展数据安全保护刻不容缓。不过，尽管企业在数据保护方面已取得了长足的进步，2025-12-07
Synopsys 同意出售应用安全部门，价值 5.25 亿美元
上周三，Synopsys 董事会批准将公司的应用安全测试业务以 5.25 亿美元的价格出售，此举旨在让公司专注于设计自动化和集成电路知识产权IP）业务。去年 11 月，位于硅谷的系统设计巨头 Syno2025-12-07
一条隐形短信让iPhone变“终极监控工具”，附近设备信息都能获取！苹果惊人漏洞历时4年才被发现
苹果重大漏洞让数千部iPhone变“终极监控工具”——而且居然过了四年才被发现？最近，知名安全公司卡巴斯基曝光：恶意者只需知道目标人士的电话号码或AppleID名称，即可向苹果手机用户发送一条不可见的2025-12-07
随着2024年的到来，业界充斥着对今年及以后物联网安全趋势的预测。虽然这些趋势中有许多都是未来几年都不会实现的，但我认为我们会在许多领域看到一些重大创新，包括网络安全。特别是，物联网行业在这一领域一直2025-12-07
最新评论