员工争相开发定制AI应用 对安全风险无所顾忌

Netskope的员工应用最新调查结果显示，受员工对开发定制化AI应用和智能体的争相工具需求不断增长的推动，企业终端用户对GenAI平台的定制对安使用量增加了50% 。

尽管企业持续向安全启用GenAI应用和智能体转变 ，全风但影子AI(即员工使用的险无未经授权的AI应用)的增长仍在加剧潜在的安全风险，据估计 ，所顾目前所有应用采用量中有超过50%为影子AI 。员工应用

GenAI平台是云计算支持企业构建定制化AI应用和智能体的基础架构工具，鉴于其使用简单且灵活，定制对安已成为影子AI中增长最快的全风类别。

GenAI平台促进了企业数据存储与AI应用的险无直接连接，其普及使用带来了新的所顾企业数据安全风险 ，凸显了数据防泄露(DLP)以及持续监控和意识提升的员工应用重要性。与GenAI平台使用相关的争相网络流量较前三个月也增长了73%。5月，定制对安已有41%的企业至少使用了一个GenAI平台  ，源码库约29%的企业正在使用Microsoft Azure OpenAI，其次是Amazon Bedrock(22%)和Google Vertex AI(7.2%) 。

Netskope威胁实验室总监Ray Canzanese表示：“影子AI的快速增长使得企业有责任确定谁在使用GenAI平台创建新的AI应用和智能体，以及他们在哪里构建和部署这些应用和智能体 。安全团队并不希望阻碍终端员工的创新愿望 ，但AI的使用只会增加。为了保护这种创新，企业需要彻底改革其AI应用控制 ，并调整其数据防泄露策略 ，以纳入实时用户指导元素。源码下载”

从通过本地GPU资源本地部署GenAI ，到开发与SaaS GenAI应用或GenAI平台交互的本地工具，企业正在评估多种利用AI快速创新的选项，并且越来越多地转向大语言模型(LLM)接口。

然而，本地部署也意味着企业需对其GenAI基础设施的安全负全责。

34%的企业正在使用LLM接口，其中Ollama是当前采用率最高的，而LM Studio和Ramalama等才刚刚崭露头角。亿华云

与此同时 ，终端员工正在试用AI工具并访问AI市场 。例如，67%的企业的用户正在从Hugging Face下载资源。

智能体的前景正推动着这一行为 ，数据显示 ，目前各企业中已有大量用户正在构建智能体，并利用SaaS解决方案的智能体AI功能 。目前，GitHub Copilot已在39%的企业中使用，5.5%的免费模板企业有用户在本地运行由流行智能体框架生成的智能体。

此外  ，本地智能体正从SaaS服务中检索更多数据 ，并且它们通过浏览器以外的更多API端点进行访问。66%的企业的用户正在向api.openai.com发起API调用，13%的企业的用户正在向api.anthropic.com发起调用。

Netskope目前追踪的GenAI SaaS应用已超过1550个，而2月份仅为317个，这表明新应用在整个企业中的高防服务器发布和采用速度之快 。

目前
，企业平均使用约15个GenAI应用，而2月份为13个 
，此外
，每月上传到GenAI应用的数据量从7.7GB增至8.2GB，环比增长
。

随着越来越多的安全团队致力于在整个企业中安全地启用这些应用和解决方案，因为这些聊天机器人现已更好地集成到其生产力套件中 ，企业用户开始围绕专用工具(如Gemini和Copilot)进行整合 。

自Netskope于2023年开始追踪热门GenAI应用ChatGPT以来，该应用在企业中的受欢迎程度首次出现下降 。

在各企业最受欢迎的十大GenAI应用中，自2月份以来，只有ChatGPT的受欢迎程度有所下降，而其他热门应用，包括Anthropic Claude、Perplexity AI 、Grammarly和Gamma，在企业中的采用率均有所提升
。

此外
 ，Grok的受欢迎程度提升使其首次跻身十大最常用应用之列 ，尽管它仍位于十大最常被阻止的应用列表中 ，但随着更多企业评估并选择精细控制和监控 ，其被阻止率呈下降趋势。

最新评论