6月24日，由中国互联网协会主办，信息化观察网与软信信息技术研究院联合承办的2026数字政府智能应用与创新发展大会在北京成功举办。大会以“数智新范式政务新生态”为主题，汇聚政府主管部门、科研院所、数字产业企业代表，围绕AI赋能政务治理、行业数智化转型展开深度研讨。交通运输部科学研究院科技资源与技术交流研究中心主任黄莉莉出席会议，并发表题为《大模型赋能交通政务服务背后的非传统安全隐忧》主旨报告，系统阐述人工智能深度融入交通政务场景下的安全发展新思路，为各地推进“AI+交通”数字化建设提供参考。
黄莉莉
交通运输部科学研究院科技资源与技术交流研究中心主任
黄莉莉指出，当前，以大模型为代表的人工智能技术正以前所未有的深度和广度渗透到交通运输行业，交通行业AI应用进入深水区。“AI+政务服务”已成为其中应用最广泛的场景之一，AI逐步成为能直接影响数百万市民生活与行业发展的“重要参与者”——从智能客服对复杂政策的解读，到智能审批辅助的自动初审与风险判断，再到运输监管与出行调度，AI的输出正从“参考信息”逐步向“决策参考”演进，其安全性日益成为挑战。
她强调，传统网络安全防护体系主要围绕“系统不被攻破、数据不被泄露”展开，但大模型的引入带来了全新的、更隐蔽的风险，并将这类风险定义为“非传统安全隐忧”：核心风险在于内容与认知风险、数据滥用与投毒，典型表现是AI产生“幻觉”，即一本正经地输出错误信息，误导使用者。这不仅可能造成决策失误，甚至可能引发大范围的社会认知混乱。她特别提醒，大模型带来的安全挑战，已从“系统被外部攻破”的物理性、可见性“硬伤害”，转变为“模型内部自主产生错误却看似正确”的认知性、隐蔽性“软影响”，这正是传统防御体系的盲区所在。
从非传统安全风险全景来看，黄莉莉梳理了多个维度。在内容与认知安全方面，模型输出内容的真实性与准确性无法得到有效保证，易引发误导，进而损害公信力。在数据安全方面，大模型的运作依赖海量数据的训练与输入，带来了前所未有的攻击面与合规难题。在模型行为可控性方面，大模型本质上是复杂的“黑箱”，输出不稳定、难以解释、可能越权生成内容，与政务服务的透明性原则相悖。此外，业务流程安全风险同样不容忽视——AI嵌入审批或服务流程后，易滋生“AI依赖症”，导致人工审核环节流于形式，造成“人机双重失效”，而责任界定难题在现行法律法规下尚缺乏明确规范。供应链与生态层面，第三方模型依赖、插件与Agent风险、开源模型不可控等问题，也构成了新的脆弱性。
谈及现状，黄莉莉直言，当前许多单位存在明显的重应用、轻安全倾向，“先上模型，后补安全”成为普遍做法。且现有安全措施多为点状、被动式防御，难以形成体系化、联动的整体防御能力。同时，行业缺乏公认的安全评价标准和测评方法，“安全与否”更多依赖主观判断，体系缺失下的困境亟待破解。
针对上述挑战，黄莉莉提出了构建“12345安全治理体系”的系统性解决思路。她指出，应从数据安全治理、模型安全治理和应用安全治理三个维度协同发力。在数据安全治理层面，核心问题是数据是否干净、安全、合规，需通过数据来源管控、清洗与标注规范、敏感数据脱敏以及数据污染防护，从源头为AI模型注入“纯净血液”。在模型安全治理层面，核心是让模型“能说话，更要会闭嘴”，通过模型对齐、输出约束、幻觉抑制和Prompt注入防护，确保模型行为可控、不乱说、不越界。在应用安全治理层面，则聚焦AI在业务中是否“安全使用”，强调场景风险分级、人机协同机制、输出结果校验和权限控制，形成“AI辅助决策，人类最终拍板”的双重安全模式。
黄莉莉最后表示，大模型赋能交通政务服务是大势所趋，但唯有正视并系统治理背后的非传统安全隐忧，才能确保人工智能真正安全、可靠地服务于数字政府与智慧交通建设。
（本文根据嘉宾在“2026数字政府智能应用与创新发展大会”上的演讲内容整理，未经本人审阅。）
