四大攻击类型并存，NIST 警告人工智能系统带来的安全和隐私风险
我要评论美国国家标准与技术研究院 (NIST) 近日发布了有关对抗性机器学习 (AML) 攻击和缓解措施指南 ，大攻的安 呼吁人们再度关注近年来人工智能 (AI) 系统部署增加所带来的击类隐私和安全挑战，并表示这类系统目前没有万无一失的型并方法进行保护 。
NIST指出 ，告人工智这些安全和隐私挑战包括恶意操纵训练数据 、统带恶意利用模型漏洞对人工智能系统的全和性能造成不利影响 ，甚至是隐私恶意操纵 、修改或仅仅是风险与模型交互 ，就可以外泄关乎个人、模板下载大攻的安企业甚至是击类模型本身专有的敏感数据 。
伴随着OpenAI ChatGPT 和 Google Bard 等生成式人工智能系统的型并出现 ，人工智能系统正快速融入在线服务，告人工智但支持这些技术的统带模型在机器学习操作的各个阶段都面临着许多威胁 。NIST ，全和重点关注了四种主要类型的隐私攻击 ：逃避 、中毒 、服务器租用隐私和滥用 。
规避攻击 ：目的是在模型部署后产生对抗性输出中毒攻击 ：通过引入损坏的数据 ，针对算法的训练阶段进行攻击隐私攻击 ：目的是通过提出规避现有防护措施的问题 ，收集有关系统或其训练数据的敏感信息滥用攻击 ：目的是破坏合法的建站模板信息来源 ，如包含错误信息的网页 ，以重新利用系统的预期用途在规避攻击中，NIST 以对自动驾驶车辆的攻击作为示例 ，例如创建令人困惑的车道标记导致汽车偏离道路。
针对自动驾驶车辆的规避攻击
在中毒攻击中 ，攻击者试图在人工智能训练期间引入损坏的数据 。例如 ，高防服务器通过将大量此类语言实例植入对话记录中 ，让聊天机器人使用不恰当的语言 ，以使人工智能相信这是常见的用语 。
在隐私攻击中，攻击者试图通过询问聊天机器人大量问题，并使用给出的答案对模型进行逆向工程 ，进而发现弱点来获取有关人工智能或其训练数据中存在的敏感数据 。
滥用攻击涉及将不正确的信息插入到源中 ，源码下载例如网页或在线文档 ，然后人工智能吸收这些信息 。与前面提到的中毒攻击不同，滥用攻击试图从合法但受损的来源向人工智能提供不正确的信息 ，以重新调整人工智能系统的预期用途 。
NIST表示 ，上述攻击并不需要完全掌握人工智能系统某些方面就可以轻松实施 ，希望科技界能拿出更好的防御措施来应对这些风险 。
源码库相关文章
超7成网络攻击用加密“隐身” 奇安信发布国内首款流量解密编排器
“通过搭载硬件加速卡，并配合自研的异步调用技术，我们理论上可以将解密性能提升10倍以上，并通过智能编排实现‘一台设备成功解密，多台设备共享明文’。”9月13日，奇安信集团在京举办流量解密编排器新品发布2025-12-07
随着需求激增，数据中心正在快速变化，持续关注快速可扩展性、更高的效率和更低的总体拥有成本。为了快速应对不断增长的需求，企业需要密切关注新的创新和趋势。我们列出了未来需要关注的一些最重要的趋势和技术：净2025-12-07
电脑打印机扫描教程（一步步教你操作打印机扫描功能，提高工作效率）
电脑打印机不仅仅可以打印文件，还可以扫描纸质文件并转换为电子文件。本文将详细介绍如何正确使用和设置电脑打印机的扫描功能，帮助读者提高工作效率。选择适合的扫描软件选择适合自己电脑的扫描软件非常重要，一般2025-12-07
在电脑使用过程中，经常需要安装或重装操作系统。传统的光盘安装方式已经逐渐被U盘取代，因为使用U盘安装更加方便快捷。本篇文章将详细介绍如何使用U盘来安装操作系统。1.准备工作：选择合适的U盘和操作系统镜2025-12-07
Bleeping Computer 网站披露，新加坡正在发生一场新的信用卡窃取活动，攻击者通过精心设计的网络钓鱼伎俩，“抢夺”分类网站上卖家的付款信息。更糟糕的是，攻击者还试图利用银行平台上的一次性有2025-12-07
从预测新威胁到平衡风险管理和业务支持，CISO面临一系列复杂的挑战，需要不断反思和战略执行。随着首席信息安全官(CISO)地位和责任的提升，其最高安全角色的挑战也愈发严峻。如今的CISO不仅要持续评估2025-12-07
最新评论