10%的GenAI提示会使敏感数据面临风险
我要评论
据Harmonic公司称 ，提示尽管GenAI工具具有潜力 ，敏感面临但许多企业由于担心敏感数据被无意共享并可能用于训练这些系统 ，数据而犹豫是风险否全面采用这些工具。
GenAI中的提示敏感数据暴露问题一项基于数万名商业用户提示的新研究揭示 ，近10%的敏感面临提示可能泄露敏感数据。
Harmonic Security在2024年第四季度对这些提示进行了分析 ，数据并监控了包括Microsoft Copilot 、风险OpenAI ChatGPT 、提示Google Gemini 、敏感面临Anthropic的数据Claude和Perplexity在内的GenAI工具的建站模板使用情况 。
在绝大多数情况下 ，风险员工使用GenAI工具的提示行为是直接的 。用户通常会要求总结一段文本 、敏感面临编辑博客或编写代码文档，数据然而，8.5%的提示令人担忧 ，并可能使敏感信息面临风险 。
在这些提示中 ，45.8%可能泄露了客户数据 ，如账单信息和认证数据 ，另有26.8%包含员工信息，源码下载包括薪资数据 、个人身份信息(PII)和就业记录 ，一些提示甚至要求GenAI进行员工绩效评估。
其余提示中 ，法律和财务数据占14.9% ，这包括销售管道数据 、投资组合以及并购活动的信息 ，与安全相关的信息占敏感提示的6.9% ，尤其令人担忧。
示例包括渗透测试结果、网络配置和事件报告 ，这些数据可能为攻击者提供利用漏洞的蓝图 。高防服务器最后 ，敏感代码 ，如访问密钥和专有源代码 ，占其余5.6%可能泄露的敏感提示。
免费的GenAI服务构成安全威胁同样令人担忧的是 ，大量员工使用GenAI服务的免费版本 ，而这些版本通常不具备企业版本的安全功能 。许多免费版本工具明确表示 ，它们使用客户数据进行训练 ，这意味着输入的源码库敏感信息可能被用于改进模型 。
在评估的GenAI模型中 ，63.8%的ChatGPT用户使用的是免费版本，而使用Gemini的用户中有58.6% ，使用Claude的用户中有75% ，使用Perplexity的用户中有50.5% 。
“大多数GenAI的使用是平凡的香港云服务器 ，但我们分析的8.5%的提示可能使敏感的个人和公司信息面临风险 。在大多数情况下 ，企业能够通过阻止请求或警告用户他们即将要做的事情来管理这种数据泄露 ，但并不是所有公司都具备这种能力 。大量免费订阅也是一个令人担忧的问题 ，‘如果产品是免费的 ，亿华云那么你就是产品’这句话在这里同样适用。尽管GenAI工具背后的公司做出了最大努力，但仍存在数据泄露的风险 。”Harmonic Security的首席执行官阿拉斯泰尔·帕特森(Alastair Paterson)说 。
企业必须超越“阻止”策略，以有效管理GenAI的风险。
相关文章
2023年生成式AI技术的异军突起，给动荡的全球网络安全威胁态势增加了不确定性、不对称性和复杂性。在2024年，随着生成式AI攻防对抗、网络犯罪规模化、全球大选与地缘政治动荡和新型网络威胁的快速增长，2025-12-07
刀塔传奇魂匣水人评测（解析刀塔传奇水人在游戏中的表现，了解水人的特点和应用场景）
刀塔传奇作为一款热门的竞技游戏，其中的英雄种类繁多，其中之一就是魂匣水人。本文将针对魂匣水人进行评测，分析其优势和弱点，以及在游戏中的应用场景。希望能够给广大玩家带来有价值的信息。1.水人的技能特点魂2025-12-07
1)打开小米4【设置】点击【其他高级设置】，选择【辅助功能】。(如下图) 2)将【按电源按钮结束通话】开启即可。(如下图)注：更多精彩教程请关注手机教程栏目。2025-12-07
对于魅族mx5和乐视手机1不是很清楚的朋友可能会问魅族mx5和乐视手机1哪个好呢?下面小乐哥就为大家带来魅族mx5和乐视手机1对比评测，相信通过本文，大伙就会明白到底该如何选择! 乐视手2025-12-07
生成式人工智能GenAI）正处于技术创新的前沿，为各个行业变革发展带来新的可能性。然而，随着这些技术的不断应用与整合，企业组织也必须谨慎对待其应用安全性和监管合规，以负责任和可持续的方式实现GenAI2025-12-07
苹果5s升级至10.2（探索5s升级到最新版本iOS10.2的亮点与优势）
在如今移动设备快速发展的时代，苹果公司一直以来都致力于为用户提供最新的系统版本，以便他们能够享受到更多的功能和体验。其中，将老旧的苹果5s升级到最新版本iOS10.2成为了许多用户所关注的话题。本文将2025-12-07
最新评论