四大攻击类型并存，NIST 警告人工智能系统带来的安全和隐私风险
我要评论美国国家标准与技术研究院 (NIST) 近日发布了有关对抗性机器学习 (AML) 攻击和缓解措施指南 ，大攻的安 呼吁人们再度关注近年来人工智能 (AI) 系统部署增加所带来的击类隐私和安全挑战 ，并表示这类系统目前没有万无一失的型并方法进行保护 。
NIST指出 ，告人工智这些安全和隐私挑战包括恶意操纵训练数据、统带恶意利用模型漏洞对人工智能系统的全和性能造成不利影响 ，甚至是隐私恶意操纵 、修改或仅仅是风险与模型交互，就可以外泄关乎个人 、模板下载大攻的安企业甚至是击类模型本身专有的敏感数据。
伴随着OpenAI ChatGPT 和 Google Bard 等生成式人工智能系统的型并出现 ，人工智能系统正快速融入在线服务，告人工智但支持这些技术的统带模型在机器学习操作的各个阶段都面临着许多威胁 。NIST ，全和重点关注了四种主要类型的隐私攻击 ：逃避 、中毒 、服务器租用隐私和滥用 。
规避攻击：目的是在模型部署后产生对抗性输出中毒攻击 ：通过引入损坏的数据，针对算法的训练阶段进行攻击隐私攻击：目的是通过提出规避现有防护措施的问题，收集有关系统或其训练数据的敏感信息滥用攻击 ：目的是破坏合法的香港云服务器信息来源 ，如包含错误信息的网页 ，以重新利用系统的预期用途在规避攻击中 ，NIST 以对自动驾驶车辆的攻击作为示例 ，例如创建令人困惑的车道标记导致汽车偏离道路 。
针对自动驾驶车辆的规避攻击
在中毒攻击中 ，攻击者试图在人工智能训练期间引入损坏的数据 。例如，亿华云通过将大量此类语言实例植入对话记录中 ，让聊天机器人使用不恰当的语言，以使人工智能相信这是常见的用语 。
在隐私攻击中 ，攻击者试图通过询问聊天机器人大量问题 ，并使用给出的答案对模型进行逆向工程 ，进而发现弱点来获取有关人工智能或其训练数据中存在的敏感数据 。
滥用攻击涉及将不正确的信息插入到源中 ，免费模板例如网页或在线文档 ，然后人工智能吸收这些信息 。与前面提到的中毒攻击不同，滥用攻击试图从合法但受损的来源向人工智能提供不正确的信息，以重新调整人工智能系统的预期用途。
NIST表示，上述攻击并不需要完全掌握人工智能系统某些方面就可以轻松实施 ，希望科技界能拿出更好的防御措施来应对这些风险 。
建站模板相关文章
近日，一场行业瞩目的大型实战化网络安全攻防演练活动落下帷幕，在这场没有硝烟的博弈中，攻击方一路攻城掠寨，防守方依托纵深防御体系，从防护、监测到溯源，步步为营，寸土不让。在本次攻防演练的过程中，绿盟科技2025-12-07
随着WindowsXP操作系统的逐渐老化，许多用户开始转向更现代的操作系统。然而，仍有一些用户喜欢使用WindowsXP，并希望通过使用PEPre-installationEnvironment）来进2025-12-07
三星S6Edge超级省电模式开启方法。当你的三星S6Edge电量已经快用完了，附近又没有可以充电的地方，要怎么办呢?开启超级省电模式吧，这样可以帮你延长手机续航时间，下面，小编就来教大家三星S6Edg2025-12-07
在使用苹果电脑的过程中，有时候我们可能需要对硬盘进行升级或更换。本文将为大家提供一份详细的苹果拆硬盘教程，帮助你轻松完成这一操作。不管你是想要扩大存储空间，还是更换损坏的硬盘，本文都将提供全面的指导，2025-12-07
电子邮件客户端如何工作？每个电子邮件地址都有两个基本部分：用户名和域名。当我们向其他人发送电子邮件时，我们域的服务器必须与收件人的域服务器通信。例如，假设我们的电子邮件地址是johndoe@examp2025-12-07
作为一款备受瞩目的智能手机，LGG5凭借其创新的设计和强大的性能，吸引了众多消费者的目光。而作为手机的重要组成部分之一，LGG5的屏幕素质也备受关注。本文将深入解析LGG5的屏幕素质，带领读者一同探索2025-12-07
最新评论