风靡全球的DeepSeek只是AI工具潮的一朵浪花,未来还将有更多类似工具快速涌现。这些未经授权的(消费级)AI应用如同一颗颗定时炸弹,潜伏在企业内部,威胁着数据安全与合规性。那么,如何应对这一危机?答案的起点在于建立一个全面的AI资产清单。
云+AI极大推动了SIEM向“安全大脑”的进化速度,2024年SIEM市场暴增了20%。
作为海、陆、空、天之外的“第五空间”,互联网已经嵌入人们生活的方方面面。由于其所蕴含的巨大经济与社会利益,各种形式层级的“网络攻击”屡见不鲜。与此同时,网络防御者也不断学习和掌握新技术来应对,网络攻防“矛与盾”的较量日趋激烈。
2025年2月21日,黑客声称入侵AI聊天机器人平台OmniGPT后端数据库;导致约3万名用户的电子邮件、电话号码以及超过3400万条聊天记录泄露。
这些应用并非典型的攻击手段,而是员工在无IT和安全监管的情况下私自创建的AI程序。目的是实现从自动化报告到营销自动化、数据分析等多种功能。依赖公司数据,它们正在使用私有数据训练公共模型,由此衍生风险。
近期,针对广大人民群众反映强烈的App未公开收集使用规则、未按法律规定提供删除或更正个人信息功能等问题,国家网信办依据《个人信息保护法》《网络数据安全管理条例》《App违法违规收集使用个人信息行为认定方法》等法律法规,依法依规查处“开个密室馆”等82款违法违规App(含小程序)。