企业和关键基础设施中悄悄蔓延的消费级AI工具如果缺乏有效监管和控制，注定会引发大规模数据安全灾难。“AI安全”，将取代“网络安全”和“数据安全”，成为2025年CISO的头号威胁。
这些趋势受到生成式AI的发展、数字去中心化、供应链相互依赖性、法规变更、长期人才短缺以及不断演变的威胁形势的共同影响。
开发人员的失误在于将这些密钥硬编码到 HTML 表单和 JavaScript 片段中，而未使用服务器端环境变量，这使得攻击者有可能利用这些密钥开展恶意活动，如进行网络钓鱼、品牌冒充，进而导致数据泄露。
随着大模型在各类应用场景中的广泛部署，越来越多的安全问题也逐渐浮出水面。许多大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”，使得企业级AI在部署和应用过程中不得不面对一系列复杂的风险，亟需从技术到生态进行全面重构。
2024年，生成式人工智能(GenAI)在网络攻击中的作用日益凸显。攻击者使用GenAI来加速网络攻击、窃取钱财和左右公众舆论，从散布虚假信息到制作深度伪造视频，无恶不作。与此同时，信息窃取程序攻击激增58%，这表明网络生态系统日渐成熟。
随着数据传输、存储及信息技术的飞速发展，信息安全保护已成为重中之重。各安全领域对跨网数据交互的需求日益迫切，数据传输的安全可靠性成为不可忽视的关键。为满足业务需求并遵守保密规范，针对于涉及重要秘密信息，需做到安全的物理隔离，同时确保跨网数据高效安全传输。从而在网络安全和效率之间产生了巨大的矛盾，而且矛盾日渐扩大化。
