Gartner：生成式人工智能对中国CIO和安全团队的影响
发布时间：2025-12-07 15:22:44 作者：玩站小弟 
我要评论
我要评论ChatGPT的热烈炒作、广泛使用和快速蔓延提升了最终用户对LLM和GenAI的认识，引发了一波商业实验和AI初创企业的浪潮。2023年4月的Gartner网络研讨会发现，381名中国参会人员有70%
。
ChatGPT的成式热烈炒作 、广泛使用和快速蔓延提升了最终用户对LLM和GenAI的人工认识 ，引发了一波商业实验和AI初创企业的对中队浪潮 。2023年4月的和安Gartner网络研讨会发现 ，381名中国参会人员有70%已经或计划启动GenAI项目 ，全团其中6%已在生产环境部署了GenAI ，源码库影响26%在试点GenAI ，成式38%处于规划阶段 。人工
CIO及其安全团队需要为GenAI的对中队影响做好准备 ，在以下四个方面采取措施 ：
为构建GenAI应用提供安全保护 ：AI应用攻击面不断扩大，和安产生了新的全团潜在风险 ，需要对现有应用安全实践进行调整 。影响管理和监控使用GenAI的香港云服务器成式方式 ：各企业机构正在探索如何使用嵌入现有应用的GenAI助手，这些应用都有独特的人工安全要求 ，是对中队传统安全控制措施无法满足的 。利用生成式网络安全AI进行防御 ：有效抓住GenAI机遇 ，从而改善安全和风险管理 、高防服务器 优化资源 、抵御新兴攻击技术 ，甚至降低成本 。Gartner将生成式网络安全AI定义为 GenAI技术在网络安全中的应用 。为受到GenAI攻击做好准备：GenAI工具和技术不断发展 ，各企业机构必须适应恶意行为者不断发展的技术或新的攻击向量 。免费模板图1对此进行了说明
CIO及其安全团队不应只是试图跟上新技术发展的步伐 ，也需要规划和建立一致而有效的AI安全治理计划 ，以应对GenAI采用激增的局面和各类新兴场景 。
AI安全治理项目应整体覆盖组织架构 、技术和政策 。云计算其早期任务之一就是制定所有构建或部署AI的团队必须遵循的标准 ，包括安全AI开发 、AI数据安全和AI安全应急响应标准 。中国CIO和安全团队应与利益相关者和企业机构领导者合作 ，制定五个阶段的AI安全治理计划（见表1）。亿华云
表1: AI安全治理项目的五个阶段及主要行动
相关文章
一种针对 Python 软件包索引PyPI）注册表的新型供应链攻击技术已在野外被利用，并且目前正试图渗透到下游组织中。软件供应链安全公司 JFrog 将其代号定为Revival Hijack，并称这种2025-12-07
怪事年年有，这几年特别多，对全球网络安全行业而言也是如此。一边是各类调查数据不断显示网络安全人才缺口已达创纪录的高位，一边却是各大安全厂商纷纷启动了裁员计划，其中不乏Splunk、Zscaler和Ra2025-12-07
据英国TOP10VPN的一份最新研究报告指出，一种基于 IEEE 802.11 Wi-Fi 标准中的设计缺陷能够允许攻击者诱导用户连接至不安全的网络，进而对用户进行网络窃听。报告指出，该缺陷是基于CV2025-12-07
Forrester近日发布《2024年网络安全威胁预测报告》指出，人工智能正重塑网络安全格局，武器化大语言模型正成为首选攻击工具，安全团队在应对武器化人工智能攻击方面将面临日益严峻的挑战。此外，For2025-12-07
云计算和边缘计算的日益普及，加上远程劳动力的增加，正在促使安全架构师寻找新方法，以确保基于身份的网络安全。定义安全边界的传统方法已不再可行，传统方法将“受信任”与“不受信任的”通信区分开来。员工在办2025-12-07
虚假的谷歌浏览器错误正诱导用户运行恶意PowerShell脚本
据BleepingComputer消息，Proofpoint的安全研究人员近期注意到有多个黑客组织正利用虚假的谷歌 Chrome浏览器、Word 和 OneDrive 等程序的运行错误来诱导用户安装运2025-12-07
最新评论