过度依赖GenAI开发软件会危及安全

根据Legit Security的过度说法，GenAI正在迅速改变软件开发流程，依赖它自动化了那些曾经需要开发人员花费数小时乃至数天才能完成的发软任务，从而提高了效率和生产力。危及

Legit的安全首席技术官Liav Caspi表示：“随着GenAI改变软件开发，并日益嵌入开发生命周期中，过度开发者和安全团队之间存在一些真正的依赖安全问题担忧。我们的发软研究发现，团队在平衡GenAI的危及创新和它所带来的风险方面面临挑战 ，源码库因为这些风险会使他们的安全应用程序和软件供应链暴露于新的漏洞之中
。虽然GenAI无疑是过度软件开发的未来，但企业必须留意其带来的依赖新风险
，并确保他们对其使用有足够的发软可见性和控制力
。”

88%的开发人员报告称在其开发企业中使用GenAI ，这反映了开发团队如何利用AI增强自身能力以应对紧张工期和复杂项目需求方面的安全广泛转变。模板下载尽管采用率很高，但安全仍然是一个关键问题 。例如 ，Legit之前的研究显示 ，大型语言模型(LLM)和AI模型包含错误和漏洞，可能导致AI供应链攻击 。

96%的安全和软件开发专业人员表示，他们的公司使用基于GenAI的解决方案来构建或交付应用程序 。在这些受访者中，79%表示其全部或大多数开发团队经常使用GenAI 。亿华云

84%的安全专业人员对使用代码助手表示担忧
，并指出未知和/或恶意代码是他们的主要担忧。

98%的人认为安全团队需要更好地掌握GenAI解决方案在开发中的使用情况。94%的人表示 ，他们需要更有效的方法来管理公司在研究和开发工作中对GenAI的使用 。85%的开发人员和75%的服务器租用安全人员对过度依赖GenAI解决方案来开发软件表示担忧
。

相比安全专业人员(3%)，更多开发人员(8%)报告称担心在开发中使用AI会导致批判性思维丧失。95%的受访者预测 ，在未来五年内 ，软件开发人员将更加依赖GenAI，没有人预见依赖程度会降低  。

关于GenAI如何与开发人员协同工作，56%的受访者认为未来GenAI将在人类监督下处理大多数任务，29%的人相信人类与AI将协作工作，15%的云计算人预测GenAI最终将取代开发人员。只有1%的人认为GenAI作为一种工具将会消失。

安全专业人员和开发人员之间的观点存在显著差异
。61%的安全专业人员认为GenAI将在人类监督下完成大部分工作，而持此观点的开发人员比例为51%
。

另一方面，36%的开发人员认为GenAI与开发人员将密切协作，而持此观点的安全专业人员比例为23% 。

最新评论