【第571期】规范政务AI应用筑牢履职风险防线

来源：北辰遴选时间：2026-11-12

一、热点链接

2025年10月，中央网信办、国家发展改革委联合印发《政务领域人工智能大模型部署应用指引》，作为政务AI应用的首部专项规范性文件，为各级政务部门开展人工智能大模型部署应用划定边界、明确规范、细化流程，重点强调落实大模型 “辅助型” 核心定位，坚决防范模型幻觉、数据泄露、算法偏见、数字形式主义等各类履职风险，为政务领域合规、安全、有序用好人工智能技术提供根本遵循和实操指南，同样地为数字政府提质升级、推进国家治理现代化筑牢了坚实支撑。

二、深度解读

★政务AI应用的基本内涵

政务人工智能（政务 AI），是人工智能大模型、生成式AI、大数据、算法算力等数字技术与政务履职深度融合的产物，特指智能化AI技术在政务领域的合规部署、落地应用与迭代优化，是数字政府、智慧治理建设的核心组成部分。区别于通用商用人工智能，政务AI具备权威性、合规性、安全性、专业性、公益性五大核心特征，始终以服务政务履职、优化公共服务、提升治理效能、防范履职风险为核心目标，坚决摒弃商业化、娱乐化、噱头化应用导向。

从应用范围看，政务AI全面覆盖政务服务、社会治理、机关办公、辅助决策四大核心领域，延伸出数十类细分实操场景，具体包含政策智能问答、公文初稿辅助生成、公文格式智能校验、12345政务服务热线诉求智能分拣、分类研判、执法案例智能分析、公共舆情实时监测与风险研判、政策落地效果模拟评估、政务数据智能归集、基层报表智能汇总、应急事件辅助处置等具体业务应用，贯穿政务工作事前预判、事中辅助、事后复盘全流程。

从功能定位看，《政务领域人工智能大模型部署应用指引》明确界定，政务大模型必须刚性坚守“辅助型”定位，这是政务AI应用的核心准则与根本底线。各级政务部门必须明确，人工智能只能作为工作人员履职的工具助手、减负载体，绝对不能替代行政人员开展行政决策、作出行政处罚、实施行政许可，不得直接对外发布正式政务文件、公示公告、政策答复，不得独立开展政务处置工作。所有AI自动生成、辅助输出的文本、数据、方案、答复内容，一律不具备官方效力，必须经过工作人员对照政策法规、事实依据逐项人工审核、校验修改、确认完善后，方可流转、上报或对外使用。

从使用要求看，政务AI建设应用区别于通用商用大模型的简单照搬套用，绝非直接将互联网成熟模型直接迁移至机关办公场景，而是依托政务专属合规算力、可信政务知识库、全流程安全管理制度、专业运维保障体系，实现技术赋能、流程规范、风险管控同步推进、一体落地。既要充分发挥大模型高效归集、快速生成、智能检索、精准匹配的技术优势，缓解政务工作重复性、事务性工作压力，也要正视AI幻觉、算法偏见、数据漏洞、模型滞后等技术固有短板，始终坚持赋能不越位、创新不脱轨、高效不失控、便捷不违规。

★规范政务AI应用的时代背景

一是“人工智能+”行动全面落地，政务数字化进入智能化跃升新阶段。党的二十届四中全会明确部署全面实施“人工智能+”行动，推动人工智能与经济社会各领域深度融合，赋能高质量发展。在数字政府建设领域，我国政务信息化已全面完成电子化、网络化基础建设，当前正加速向智能化、精准化、高效化跃升，数字治理成为推进国家治理现代化的核心抓手。各地各部门积极探索大模型嵌入办文、办会、办事、服务、治理全流程，政务AI应用场景持续扩容、覆盖范围不断拓宽、赋能效能持续释放，成为破解基层治理难题、优化营商环境、提升政务服务水平的重要支撑。技术快速迭代、场景快速拓展的同时，原有粗放式、无规范、无监管的应用模式已无法适配发展需求，迫切需要健全制度规范、统一建设标准、明确应用边界，让政务AI创新发展有章可循、有规可依。

二是生成式AI技术固有缺陷带来全新履职风险，安全防控压力持续加大。生成式大模型依托海量互联网语料训练而成，天然存在 “模型幻觉” 核心缺陷，易脱离政策标准、客观事实，生成看似逻辑通顺、格式规范，但政策依据错误、统计数据虚构、事实案例失真的文本内容。在政务履职场景中，机关干部若盲目信任、直接照搬AI生成的公文、政策答复、调研报告、决策方案，极易出现政策引用偏差、数据虚假错报、表述严重失实等问题，直接导致政务公开出错、政策解读偏差、群众认知误解、信访纠纷滋生，严重损害政府权威性与公信力。同时，互联网公共大模型具备数据留存、云端存储、后台抓取特性，工作人员若随意将工作秘密、涉密文件、敏感业务数据、群众隐私信息、企业经营涉密数据输入公共模型，极易造成敏感信息外泄、涉密内容泄露，给机关保密工作、数据安全工作带来前所未有的全新挑战。

三是基层实践存在认知偏差与建设乱象，数字形式主义问题凸显。当前政务AI应用基层实践中，认知错位、建设无序、应用失范问题突出，形成两类极端偏差。一方面，部分地方和单位盲目跟风，追捧新技术，片面追求AI建设热度、概念噱头，不顾本级财力、业务基础、场景需求，层层独立立项建设政务大模型，造成算力资源分散、财政资金浪费，形成大量“模型孤岛”，出现“重建设、轻应用、重展示、轻实效”的数字形式主义问题，部分项目建而不用、用而不精，沦为政绩工程、形象工程。另一方面，少数工作人员对AI技术认知片面，过度依赖AI工具，将公文起草、政策答复、舆情研判、决策分析等核心履职工作全部交由模型完成，完全弱化自身研判、审核、把关责任，出现“技术替代履职、算法替代责任”的乱象。此外，部分单位未严格落实算法备案、安全评估、合规审查制度，随意采购无资质、不合规的商用大模型投入政务场景，埋下技术漏洞、制度缺失双重隐患。

四是国家治理现代化对技术安全、规范治理提出更高标准要求。随着数字治理深入推进，数据安全、政务合规、履职规范、公信力建设成为新时代政务工作的核心底线。我国已构建以网络安全法、数据安全法、个人信息保护法、《生成式人工智能服务管理暂行办法》为核心的AI治理制度体系，对政务领域人工智能应用的数据安全、内容合规、算法备案、保密管理、责任划分、运维监管作出明确硬性规定。推进政务AI规范化建设，是落实国家法律法规、完善数字治理体系的必然要求，更是把技术创新关进制度笼子，守住政务工作权威性、准确性、保密性底线，实现技术创新与履职安全、效率提升与风险防控协同推进的关键举措，是推进国家治理体系和治理能力现代化的重要基础性工作。

★规范政务AI应用的重大意义

第一，规范政务AI应用，是落实“人工智能+”行动，推进数字政府高质量建设的现实需要。数字政府建设的核心目标是提质增效、便民利企、优化治理，绝非简单堆砌技术、打造亮点。规范政务AI建设应用，能够有效破解当前各地盲目建设、重复投入、资源浪费以及“模型孤岛”等突出问题，统筹整合算力资源、数据资源、技术资源，优化政务AI项目建设模式与应用布局，将有限的财政资金、技术资源、人力资源聚焦政务履职痛点、群众服务难点、基层治理堵点，精准释放人工智能技术赋能价值。通过健全规范体系、完善应用机制，能够推动政务AI从“粗放式建设”向“精细化运营”转变，破除技术壁垒、资源壁垒、场景壁垒，全面提升数字政府建设质量，为数字治理高质量发展赋能增效。

第二，规范政务 AI 应用，是防范履职风险，维护政府公信力的必然要求。政务公文、政策答复、公开公示、群众回复等各类政务输出内容，直接代表政府权威、关乎群众切身利益、影响社会公共认知，必须坚守事实准确、政策严谨、表述规范的核心底线。生成式AI的固有幻觉缺陷，极易导致政务输出内容失真、政策解读偏差，若缺少制度约束、审核把关，必然引发政务失误、舆情风险、群众投诉等问题，严重损害政府公信力。建立全流程规范化应用体系，落实人工审核兜底、多重校验把关机制，能够从源头规避AI技术带来的错漏问题，保障所有政务输出内容真实、准确、合规、严谨，持续守护政府公信力，切实维护群众、企业合法权益。

第三，规范政务AI应用，是筑牢安全保密防线，防范数据泄露风险的关键举措。政务工作天然具备涉密属性，大量工作内容涉及国家秘密、工作秘密、政务敏感数据、公民个人隐私、市场主体涉密经营信息，是数据安全、保密工作的重点领域。公共互联网大模型存在数据自动留存、后台抓取、跨境传输、第三方调用等安全隐患，不规范的AI使用行为，极易引发敏感信息外泄、涉密内容泄露，危害国家安全、公共利益和群众合法权益。健全政务AI全流程管理制度，细化数据输入、权限管控、操作留痕、日志审计、应急处置、保密管控全链条规范，能够全方位筑牢数据安全、政务保密防线，从源头防范各类泄密风险，守住数字政务安全底线。

第四，规范政务AI应用，是厘清人机责任边界，提升干部数字履职能力的内在要求。政务AI是辅助履职的工具，绝非履职主体、决策主体，无法替代公职人员的法定职责与履职担当。当前部分履职风险的核心根源，在于人机责任边界模糊、干部履职认知错位，过度依赖技术工具、弱化主体责任。推进政务AI规范化建设，能够清晰界定人机权责，纠正“重技术、轻责任”“重便捷、轻合规”的认知误区，引导广大机关干部树立正确的数字履职理念，既善于借助AI工具减负增效、破解工作难题，又坚守履职底线、压实主体责任，主动规避技术风险，持续提升数字时代干部履职本领、风险防控能力、合规办事能力，推动形成 “人主导、AI辅助、责任到人、管理到位”的人机协同履职新格局。

第五，规范政务AI应用，是防范数字形式主义，树立正确政绩观的重要体现。新技术赋能政务的核心初衷是为基层减负、为治理增效、为群众服务，而非打造宣传亮点、堆砌政绩工程。当前部分地区政务AI建设脱离实际、盲目跟风，重概念炒作、轻实效落地，重展示宣传、轻服务赋能，不仅无法减负增效，反而增加基层运维、填报、适配负担，异化为新的数字形式主义。《政务领域人工智能大模型部署应用指引》专门明确，要统筹赋能与减负，杜绝盲目追新求炫，不搞概念工程，严格规范各级政务AI建设层级，明确县级及以下原则上复用上级算力模型，禁止层层自建大模型。通过制度化、规范化约束，能够引导各地立足业务实际、聚焦履职需求推进AI应用，摒弃功利化、形式化建设思维，树立务实求真的政绩观，让政务AI真正服务履职、服务基层、服务群众。

★当前政务AI应用存在的突出短板与风险挑战

第一，思想认知层面：定位偏差，存在两种极端倾向。当前机关干部对政务AI的认知普遍存在两极分化、认知失衡问题，成为制约规范应用的首要短板。一方面是盲目追捧、过度依赖。少数干部片面夸大AI技术能力，将生成式大模型视为“万能工具”，忽视其技术短板与固有风险，把公文撰写、政策解读、群众答复、形势研判、决策参考等核心履职工作全权交由AI完成，完全省略政策核对、事实校验、人工审核、风险研判等关键流程，混淆 “辅助工具” 和 “决策主体” 的核心边界，直接将AI输出内容作为正式政务成果上报、公示、答复群众，极易引发履职失误。另一方面是畏难排斥、不敢创新。部分干部存在保守固化思维，片面放大AI应用风险，因存在泄密、失真隐患便全盘否定技术价值，对政务AI采取“一刀切”拒绝态度，不愿学习、不敢尝试、不会运用，错失技术赋能基层减负、提升履职效能的发展机遇，无法把握“敢用创新”和“善管守底”的平衡，难以适配数字治理现代化发展要求。

第二，内容质量风险：AI幻觉突出，政务输出易失准失真。生成式大模型的“幻觉”缺陷是政务AI应用最核心、最普遍的技术风险，直接影响政务工作的权威性、准确性。通用大模型依托互联网海量公开语料训练，未适配政务专属政策体系、区域履职口径、行业规范标准，极易虚构政策条文、编造统计数据、伪造案例事实，对最新政策文件、地方性专项规定作出片面解读、歪曲阐释。在政策智能问答、群众诉求答复、调研报告起草、公文初稿撰写、执法辅助研判等高频场景中，若缺少权威政务知识库约束、缺少人工审核把关，AI极易生成不符合官方口径、脱离本地实际、违背政策规定的内容。同时，政务AI还存在提示词注入攻击风险，不法分子可通过恶意诱导、特殊指令干扰模型输出，诱导生成违背政策法规、歪曲制度规定、误导社会认知的内容，引发网络舆情、信访纠纷、政务失误，严重损害政府公信力。

第三，数据与保密安全风险：敏感信息泄露隐患突出。数据安全、保密失范是政务AI应用最严峻的安全隐患，风险点多、隐蔽性强、危害性大。一是数据输入不规范，部分工作人员保密意识薄弱，随意将涉密文件、工作秘密、内部研判材料、敏感业务台账输入互联网商用大模型，导致涉密信息、内部资料外泄。二是数据处理不合规，政务业务数据、群众个人信息、企业经营敏感数据未经脱敏、脱密处理，直接投喂模型、用于AI训练，造成隐私信息、经营数据泄露。三是权限管控不严格，部分单位政务AI系统权限开放过宽、分级管控缺失，不同岗位、不同层级人员权限无差异化配置，存在越权使用、违规操作风险。四是运维监管不到位，缺少全流程日志审计、操作留痕机制，AI使用全过程无法溯源、无法倒查，出现泄密、违规问题难以界定责任。五是技术资质不达标，部分单位采购的AI产品未完成算法备案、安全评估、等保测评，安全防护能力薄弱，易遭受网络攻击、数据窃取、模型篡改，引发系统性安全风险。

第四，建设实施层面：重复建设，滋生数字形式主义。政务AI项目建设无序、实效不足、形式主义突出，是当前基层最突出的实践乱象。一是重复建设严重，各地各部门存在跟风建设、层层建设现象，省市县分头立项、独立采购、自建模型，导致算力资源分散、技术标准不统一、数据无法互通共享，形成大量“模型孤岛”“数据孤岛”，造成财政资金、技术资源、人力资源严重浪费。二是建设脱离实际，部分地区、部门不顾本级业务体量、履职需求、基层承载力，盲目上马政务AI项目，重宣传展示、轻场景落地，重硬件投入、轻实操应用，建成后无对应业务场景、无常态化使用需求，沦为“摆设工程”。三是赋能实效不足，部分AI应用不仅无法为基层减负，反而增加基层人员系统运维、数据填报、内容核对、适配调整等额外负担，违背技术赋能的初衷。四是政绩导向偏差，少数单位将政务AI建设作为创新亮点、考核加分项，重包装宣传、轻提质增效，催生新型数字形式主义。

第五，制度机制层面：配套制度供给不足，责任边界模糊。制度体系不完善、监管机制不健全，是政务AI失范应用的核心制度短板。当前国家层面已出台顶层指引文件，但各级基层单位配套细则、实操规范尚未全面落地，多数单位缺少专属的政务AI使用管理制度、建设规范、监管机制。一是应用规范缺失，未明确AI使用正面清单、负面清单，未界定可使用场景、严禁使用场景，工作人员无据可依、随意使用。二是审核机制空白，未建立AI生成内容审核、修改、归档、公示全流程制度，无标准化审核流程、把关标准。三是责任划分模糊，未明确操作人员、审核人员、分管领导、技术服务商的权责边界，一旦出现公文错误、信息泄密、舆情风险、履职失误等问题，难以精准界定责任、追责问责。四是培训机制缺失，未常态化开展政务AI合规使用、风险防控、保密规范专题培训，干部数字素养、风险辨识能力、合规操作能力普遍不足。

第六，知识库与技术底座短板：政务专属可信知识库建设滞后。专属可信知识库是保障政务AI输出精准、合规的核心技术底座，当前各地普遍存在建设滞后、更新不及时、适配性不足等问题。一是知识库专业性不足，多数政务AI直接调用通用互联网语料资源，未归集权威法律法规、中央政策、省市本级规范性文件、行业专项规定、官方政策解读，模型不掌握政务专属口径、区域政策特色，输出内容与政务履职实际严重脱节。二是更新迭代滞后，政策文件、规章制度、工作口径动态更新，但多数政务AI知识库未建立常态化更新机制，新旧政策衔接不及时，模型持续输出过时、失效政策内容，误导基层履职、误导群众认知。三是细分适配不足，未结合不同行业、不同岗位、不同业务场景搭建细分知识库，通用化输出无法适配专业化、精细化政务履职需求，赋能精准度不足。

★规范政务AI应用的实施路径

结合《政务领域人工智能大模型部署应用指引》《生成式人工智能服务管理暂行办法》等相关文件要求，立足当前政务AI应用短板与风险隐患，规范政务AI应用必须坚持统筹集约、以人为本、规范应用、安全稳妥、务求实效总原则，统筹发展和安全、创新和规范、赋能和守底，做到赋能不越位、创新守底线、高效不失控，重点抓好六大方面工作，全方位构建规范化、安全化、实效化政务AI应用体系。

★规范政务AI应用同推进“人工智能+”行动的内在关系

全面实施“人工智能+”行动是国家推动数字经济、数字治理高质量发展的重大战略部署，其中“人工智能+政务”是核心板块、重点领域，二者是发展与规范、创新与治理、活力与底线的辩证统一关系，相辅相成、缺一不可。

一方面，坚持创新赋能、释放技术红利是核心目标。实施“人工智能+政务”，核心是借助大模型、生成式AI等前沿技术，破解机关履职重复劳动多、工作效率偏低、服务响应滞后、治理精准度不足等长期痛点，以技术创新推动政务服务模式、机关履职模式、基层治理模式迭代升级，为数字政府建设注入全新动能，持续提升政务治理现代化水平，更好服务群众、赋能发展、优化治理。

另一方面，坚持规范治理、守住安全底线是根本保障。规范政务AI应用绝非束缚技术创新、限制技术赋能，而是为技术创新划定边界、设置安全护栏、完善制度保障，从源头规避技术野蛮生长、无序发展带来的泄密风险、履职风险、公信力风险、形式主义风险。没有规范的创新是无序的、危险的，只有以规范护航创新，才能确保政务AI始终沿着正确方向、合规方向、安全方向稳步发展。

实践充分证明，只谈发展不谈规范，放任AI无序应用，必然引发数据泄密、政务失准、公信力受损、数字形式主义等各类风险，背离技术赋能初衷；只谈规范不谈发展，过度保守、固步自封，就会错失数字技术赋能治理、服务基层、惠及群众的时代机遇，制约数字政府高质量发展。落实《政务领域人工智能大模型部署应用指引》核心要求，必须始终坚持安全和发展同步谋划、同步部署、同步推进，做到 “创新有边界、赋能有底线、发展有规范、安全有保障”，以常态化规范治理护航技术创新发展，以技术迭代发展倒逼治理体系完善，实现政务AI创新赋能与风险防控双向提升，为“十五五”时期数字政府高质量建设、国家治理体系和治理能力现代化提供坚实支撑。

一、锚定正确定位，厘清人机权责边界，纠正思想认知偏差

第一，牢牢坚守 “辅助型” 定位不动摇。将“辅助不替代、赋能不越位”作为政务AI应用的根本准则，以制度形式固化定位要求，明确政务 AI仅可作为公职人员履职辅助工具，不得替代公职人员作出行政决策、行政处罚、行政许可，不得直接对外发布正式公文、政策答复、政务信息，不得独立开展政务处置、舆情回应、纠纷调解等核心履职工作。刚性明确，所有AI生成的初稿、参考材料、辅助内容，一律仅作为工作草稿、参考素材，必须经过工作人员对照政策法规、客观事实逐项人工审核、修改完善、校验确认，完成合规性、准确性、真实性把关后，方可流转、上报或者对外发布。始终坚守 “人是第一责任主体” 核心原则，AI仅提供技术辅助、素材支撑，所有行政履职责任、政务输出责任、保密安全责任一律由经办人员、审核人员、分管领导承担，坚决杜绝责任转嫁、权责悬空。

第二，树立辩证理性的技术观念。引导全体机关干部破除认知误区、树立科学思维，摒弃“神化AI”“否定AI”两种极端心态。一方面，主动拥抱技术红利，精准挖掘AI在初稿草拟、资料检索、信息归集、数据汇总、群众诉求初步分拣、公文格式校验等低风险、重复性场景的减负价值，最大限度释放技术赋能效能，缓解基层事务性工作压力。另一方面，清醒认清大模型 “幻觉缺陷、算法偏见、数据漏洞” 等固有短板，时刻保持风险警惕，绝不迷信AI输出内容、绝不照搬AI生成成果。立足业务实际、履职需求使用技术，坚决杜绝为追逐热点、打造亮点强行上马AI应用，实现“敢用、善用、慎用、严管”有机统一。

第三，建立机关内部使用管理细则。各单位结合自身业务特点、履职场景、保密要求，细化出台专属政务人工智能使用管理办法，清晰划定正面清单与负面清单，实现使用有制度、操作有规范、风险有防控、责任有归属。正面清单明确合规使用场景、操作流程、适用范围，规范AI辅助履职的边界；负面清单明确涉密场景、核心决策场景、高风险服务场景的禁止性规定，严禁违规操作。同步细化AI生成文稿的审核流程、修改标准、归档留痕、保密管理要求，将合规使用、风险防控、人工兜底贯穿AI应用全流程。

二、坚持集约建设，防范数字形式主义，破解重复建设乱象

第一，落实统筹集约建设模式，杜绝模型孤岛。严格落实国家分层建设、统筹复用的部署要求，构建“省级统筹、地市应用、县区复用”的政务AI建设体系。省级层面统一统筹全域算力资源、基础模型资源、技术标准体系，搭建统一政务AI大模型底座；地市级在省级统一框架下，结合本地业务需求开展场景化应用、本地化适配优化；县级及以下原则上不新建独立政务大模型，优先复用上级已经建好的模型与算力资源，严禁层层自建、重复投入。全面推广“一地建设，多地复用、一次建设、全域赋能” 模式，专业领域、行业专属大模型由行业主管部门统一建设、全域共享，其他部门直接调用服务，杜绝各部门分头采购、分头建设、各自为政，彻底破解算力分散、资源浪费、模型孤岛等问题。

第二，坚持需求导向，严防数字形式主义。树立“实效为先、减负为本”的建设理念，坚决摒弃政绩导向、噱头导向的建设思维。所有政务 AI 项目立项建设前，必须开展全方位、精细化需求评估，精准梳理本单位业务痛点、基层减负难点、群众服务堵点，优先选择场景清晰、风险可控、减负实效显著、贴合履职实际的业务推进试点应用。坚决杜绝无需求、无场景、无实效的盲目立项、跟风建设，严禁打造重展示、轻实效的“亮点工程”“形象工程”。建立常态化项目绩效评估机制，将基层减负成效、业务提质效果、群众满意度、风险防控成效作为核心评判标准，对建而不用、用而无效、风险突出的项目及时优化、整改、下线，杜绝“一建了之”。

第三，严格落实项目合规流程。将合规审查贯穿政务AI项目建设全生命周期，所有政务大模型建设项目必须纳入本级政务信息化整体规划，严格履行立项申报、专家评审、公开采购、安全评估、合规备案等法定流程。面向社会公众提供服务、对外输出政务内容的生成式 AI 产品，必须严格依法完成算法备案、网络安全等级保护测评、数据安全评估，优先采购具备合规资质、安全保障完善、适配政务场景的模型产品。严禁采购无资质、无备案、无安全保障的商用大模型直接投入政务业务场景使用，从源头守住项目合规底线、技术安全底线。

三、筑牢内容质量关口，建设可信政务知识库，化解AI幻觉风险

第一，建设专属可信政务知识库。彻底摆脱通用互联网语料依赖，构建权威、精准、动态、专属的政务AI知识底座。全面归集国家法律法规、中央大政方针、省市本级政策文件、规范性制度、行业专项规定、官方政策解读、政务业务标准、历史合规案例等权威内容，搭建分级分类、精准适配的政务专属知识库。结合不同行业、不同岗位、不同业务场景，细化细分领域子知识库，实现模型输出内容与政务履职口径、本地工作实际精准适配。建立常态化、动态化知识库更新机制，政策文件修订、制度更新、口径调整后，第一时间同步更新知识库内容，及时清理过时、失效、废止内容，从源头杜绝模型输出过时政策、虚假数据、错误解读，最大限度化解AI幻觉风险。

第二，健全全链条内容审核机制。构建“AI初筛+人工主审+多重校验” 的三重把关机制，全方位守住政务内容准确权威底线。AI系统前置设置智能筛查规则，自动识别违规内容、虚假信息、敏感表述、过时政策，提前拦截风险输出；经办人员开展人工主审，逐项核对政策依据、事实案例、数据信息、表述口径；对重大公文、对外公示、群众答复、决策材料，增设科室复核、领导终审环节，实现多层把关。面向群众的智能问答场景，统一设置风险提示，明确标注“AI回答仅供参考，正式内容以官方文件、人工答复为准”；建立敏感问题、超范围问题、政策性疑难问题拒答机制，杜绝随意输出不确定、不规范、高风险内容。综合运用规则校验、多模型交叉比对、人工复核多重手段，全方位防范AI幻觉带来的错答、误答、漏答问题。

第三，做好AI生成内容标识管理。严格落实《人工智能生成合成内容标识办法》相关规定，规范AI生成内容全流程标识、留存、归档管理。对机关内部流转的AI辅助生成草稿、参考材料，统一做好专属标识，明确区分AI辅助生成内容和完全人工撰写内容，在流转、传阅、修改过程中全程保留标识，持续提醒经办人员该内容为AI辅助生成，必须逐项核对校验、修改完善，严禁直接照搬使用。对外正式发布、上报的政务公文、公示公告、政策文件、答复材料，经过人工深度修改、全面审核、合规校验后，可取消AI标识，但全过程审核记录、修改痕迹、AI原始草稿必须完整归档留存，做到全程可追溯、可核查、可追责。

四、严守安全保密底线，健全数据全周期风险防控体系

第一，划清数据输入红线，刚性规范数据使用。严格执行保密法律法规、机关保密管理制度，明确数据使用绝对红线，做到令行禁止、刚性落实。严禁将国家秘密、工作秘密、内部涉密材料、未公开政务信息输入任何互联网公共大模型、商用AI工具；严禁将未脱敏的公民个人信息、企业敏感经营数据、政务核心业务数据传入外部商用模型。优化技术部署模式，优先使用政务内网私有化部署的大模型开展日常业务，实现政务敏感数据“数据不出域、信息不外露、全程可管控”，从源头减少敏感数据外溢、泄露风险。细化数据分类分级管理标准，明确可公开数据、内部使用数据、涉密数据的使用边界、传输规范、处理要求，杜绝数据违规流转、违规使用。

第二，完善权限管控、日志审计、应急处置体系。构建全方位、全流程、全链条的安全监管体系。落实分级分权管控，按照“岗位职责匹配、最小权限授予”原则，细化不同岗位、不同层级工作人员的AI系统使用权限，严控越权操作、违规使用。健全全流程日志审计机制，对所有AI系统登录、提问交互、内容生成、文件上传、数据调用等操作全程留痕、完整记录，实现每一次操作可溯源、可倒查、可追责。建立常态化安全风险排查机制，定期开展AI系统漏洞、数据风险、合规隐患排查，及时整改问题、堵塞漏洞。制定完善安全事件应急预案，针对数据泄密、恶意提示注入、违规内容输出、系统被攻击等突发事件，明确处置流程、责任分工、上报机制，定期开展应急演练，提升突发风险处置能力。强化对抗攻击检测，精准识别、及时拦截恶意提示词注入、模型篡改等网络攻击行为，筑牢技术安全防线。

最低仅需28元开通北辰VIP，查看更多内容

解锁会员专属权益

畅读遴选内容专栏等精彩内容