报告：83%组织采用AI生成代码，面临AI中毒和模型逃逸等风险
我要评论
Venafi一份针对网络安全高管的报告调查发现 ，全球高达83%的组织中毒组织正在使用AI来生成代码，相应的采用安全防护却严重滞后 。调查表明 ，生成92%的代码受访者对开发和运营团队如此广泛依赖AI所隐含的安全影响表示担忧 。
这项调查汇集了来自美国 、面临英国、和模德国和法国的型逃800名受访者的观点和见解 ，凸显出AI 驱动开发的风险快速发展与有效保障新技术安全的云计算能力之间的差距在日益扩大 。
尽管风险越来越大 ，报告但72%的组织中毒受访者表示 ，他们别无选择 ，采用只能允许开发人员使用AI来保持竞争力 。生成与此同时 ，代码63%的面临受访者出于安全考虑打算完全禁止AI生成的代码。
AI辅助代码开发变得司空见惯Venafi在报告中强调的一个最紧迫的挑战 ：安全团队难以跟上AI驱动的开发速度 。66%的亿华云受访者承认，安全团队几乎不可能以AI驱动的代码部署速度来管理它，这引发了人们对即将到来的“安全清算”的担忧 。与此同时，78%的受访者预计，随着AI的采用量继续激增，将会面临严峻的安全挑战。
Venafi首席创新官Kevin Bocek说:“随着开发人员和新手以尚未了解的方式使用大量GenAI生成的代码 ，源码下载已经开始出现一些新的威胁 ，例如AI中毒和模型逃逸 。”
该报告还揭示了开发和运营人员对开源代码的严重依赖 。受访的安全领导者估计 ，他们 61%的应用都包含开源组件。虽然90%的安全领导者信任这些库，但86%的人认为开源优先考虑的是速度而不是安全最佳实践 。免费模板
这带来了一个严峻的挑战 ，因为75%的人承认 ，验证每一行开源代码的安全性几乎是不可能实现的 。
Venafi技术总监Steve Judd对此表示 ，“组织不能盲目地相信开源解决方案 ，因为他们真的不知道是谁创建了这些解决方案或做出了贡献 。”
AI带来的安全问题存在治理差距Venafi的研究还指出了安全治理方面的服务器租用重大差距 ，47%的组织缺乏确保在其开发环境中安全使用AI的政策 。此外 ，63%的安全领导者认为 ，由于无法了解AI的使用情况 ，因此几乎不可能在组织内部对AI的使用进行监管 。
Venafi在报告中主张将代码签名作为一种关键的防御机制，以抵御AI和开源开发带来的风险 。92%的源码库安全领导者认为代码签名对于在开源代码中建立信任至关重要 ，因为它验证了代码的真实性和完整性 。这种方法可确保不执行任何未经授权的代码 ，从而保护组织免受潜在攻击 。
值得注意的是 ，早在AI出现之前 ，很多编码工作已经实现了自动化 。像代码自动补全和低代码平台这样的工具已经能够处理一些日常任务，例如检测bug 、样板代码生成和语言翻译 。集成开发环境(IDE)也早就能够提供自动完成功能 ，以加快编码速度并减少人工操作 。
不过 ，这些自动化系统传统上主要关注调试和格式化等低级任务 ，主要是为了简化特定的开发阶段，与AI驱动的利用大型语言模型(LLM)来大量增加代码大有不同。
相关文章
1. 思科同意以创纪录的交易收购 Splunk数字通信巨头思科于 9 月 21 日宣布以 280 亿美元收购网络安全和可观测公司 Splunk。这笔交易将是思科历史上规模最大的交易，预计将于 20242025-12-07
作为一种高端音质产品，皇冠音质备受关注。本文将通过15个的详细讲解，揭示其音质效果。一：声音的纯净度与细腻程度——听觉享受提升皇冠音质以其卓越的声音清晰度和纯净度而著称，每一个细微的音符都能被完美传达2025-12-07
在电脑维护和系统安装过程中，使用U盘启动是非常常见的操作。本文将为大家详细介绍如何使用U盘来启动电脑系统，帮助读者解决系统崩溃、重装系统等问题。通过简单的步骤，你将能够轻松地使用U盘启动你的电脑。一、2025-12-07
雷神911se拆主板教程（以雷神911se为例，教你如何拆解和维护笔记本电脑主板）
作为一款性能出众的游戏笔记本电脑，雷神911se的主板是其核心部件之一。然而，由于各种原因，我们可能会需要拆卸或维修主板。本文将以雷神911se为例，为大家详细介绍拆解和维修笔记本电脑主板的步骤和注意2025-12-07
近日，卡巴斯基实验室通过分析卡巴斯基安全网络KSN）收集的数据，形成了《2023年H1工业自动化系统威胁形势报告》，为2023年上半年的工业自动化系统威胁形势提供了全面的分析和解读，旨在帮助组织更好地2025-12-07
大家好，我是坤哥安全问题往往被大家忽视，但它轻则导致公司用户数据泄露引发严重的舆论危机，重则导致数据被破坏导致公司破产，所以安全问题一定要重视，不过这类问题一旦出现，由于大家经验比较少，往往很难入手2025-12-07
最新评论