流行的AIGC项目构成了严重的安全威胁
我要评论
AIGC如今越来越受欢迎 ，它使人们能够以前所未有的目构方式创造、互动和消费内容 。成严随着大型语言模型(例如GPT)的安全显著进步 ，AIGC系统现在拥有生成类似人类的威胁文本、图像甚至代码的流行能力。集成了这些技术的目构开源项目的数量正在呈指数级增长 。
例如 ，成严自从OpenAI公司七个月前首次推出ChatGPT以来 ，安全GitHub上现在有30000多个开源项目使用GPT-3.5系列的模板下载威胁LLM 。
尽管用户对这些技术的流行需求激增，但GPT和LLM项目给使用它们的目构用户带来了各种安全风险 ，其中包括信任边界风险 、成严数据管理风险、安全固有模型风险以及一般安全问题。威胁
AIGC安全风险早期采用AIGC或任何新生技术(特别是LLM)，需要在整个软件开发生命周期中进行全面的风险评估并遵守稳健的安全实践 。通过对安全风险给予应有的关注 ，企业可以就是源码下载否以及如何采用AIGC解决方案做出明智的决定，同时坚持最高标准的审查和保护 。
Rezilion公司漏洞研究总监Yotam Perkal表示 ：“AIGC的应用越来越普遍 ，但它还不成熟 ，而且极易存在风险 。除了固有的安全问题之外，个人和企业在没有适当安全护栏的情况下为这些AI模型提供了过度的访问和授权 。通过我们进行的研究 ，旨在传达使用不安全的源码库AIGC和LLM的开源项目也具有较差的安全态势 。这些因素导致企业面临重大风险 。”
从安全教育到安全意识Rezilion公司的研究团队调查了GitHub上50个最受欢迎的AIGC项目的安全状况。该研究利用开源安全基金会记分卡客观地评估了LLM开源生态系统 ，并强调了许多基于LLM的项目缺乏成熟度 、基本安全最佳实践的差距以及潜在的安全风险。
这一调查结果突出了人们的担忧 ，高防服务器揭示了得分较低的非常新的和受欢迎的项目 ：
非常受欢迎 ，平均有15909颗星 。极度不成熟 ，平均时间为3.77个月 。安全状况非常差，平均得分为4.60分(满分为10分)，以任何标准衡量都很低 。例如 ，GitHub上最受欢迎的基于GPT的项目Auto-GPT，拥有超过13.8万颗星 ，不到三个月的服务器租用时间 ，记分卡得分为3.7 。对于AIGC系统的安全部署和操作，Rezilion公司建议采用以下最佳实践和指南：教育团队了解采用任何新技术相关的风险;评估和监控与LLM和开源生态系统相关的安全风险;实施稳健的安全实践，进行彻底的风险评估，并培养安全意识的企业文化 。
虽然在采用AIGC模型及其生态系统方面存在重大的安全挑战 ，但AI技术具有强大的功能和能力 ，云计算并且将会继续发展下去 。
相关文章
业界最领先的大模型们，竟然集体“越狱”了！不止是GPT-4，就连平时不咋出错的Bard、Bing Chat也全线失控，有的要黑掉网站，有的甚至扬言要设计恶意软件入侵银行系统：这并非危言耸听，而是南洋理2025-12-07
Mbps是什么意思?Mbps是Million bits per second的缩写，Mbps=Mbit/s即兆比特每秒，它的意思是时间内传输数据的平均比特数，其单位是比特每秒(bps),或千比特每秒(2025-12-07
很多小伙伴之所以喜欢使用excel程序来对表格文档进行编辑，就是因为Excel中有许多实用的功能，能够帮助我们提高表格文档的编辑效率。在使用Excel程序编辑表格文档的过程中，有的小伙伴想要让图表中的2025-12-07
一键ghost教程（简单易懂的操作指南，让你的计算机始终如新）
在日常使用计算机的过程中，我们经常会遇到系统崩溃、病毒入侵、硬盘损坏等问题，这些都会导致我们的数据丢失和系统无法正常运行。为了应对这些意外情况，我们需要定期备份并恢复我们的计算机系统。而一键ghost2025-12-07
SAP 本周宣布发布 12 个新的和更新的安全说明，作为 2023 年 1 月安全补丁日的一部分，其中包括 7 个解决严重漏洞的“热点新闻”说明。被评为“热点新闻”的安全说明中有四个是SAP 书中严2025-12-07
探索iPad方寸间的无限可能（将创造力与便携性相结合的关键）
iPad方寸间作为一款功能强大的便携设备，已经成为了人们生活中不可或缺的一部分。它的小巧身材却蕴藏着无限的创造力，通过它，我们可以拓展我们的思维、提升我们的效率。本文将以iPad方寸间为主题，探讨其无2025-12-07
最新评论