银保AI安全开发应用指导意见出台：精细化准入管理，划定个人信息保护红线

　　界面新闻记者 | 安震

　　6月18日，国家金融监督管理总局公开发布《关于银行业保险业人工智能安全开发应用的指导意见》（以下简称《指导意见》）。界面新闻注意到，这是2026年首份针对金融行业人工智能安全开发的专项指导文件。

　　有关司局负责人在答记者问中指出， 该《指导意见》 出台旨在贯彻国家“人工智能+”行动与“十五五”规划纲要，针对部分机构“为新而新、为用而用”的盲目跟风倾向进行纠偏，引导金融业AI重回“务实高效”与“业务价值”导向。

　　精细化高风险应用准入管理

　　《指导意见》明确，金融机构安全开发应用人工智能应该遵循四大原则：

　　一是坚持谁使用谁负责，压实金融机构作为金融服务提供方、人工智能技术使用方的主体责任，明确人工智能开发应用各方分工和权责义务；

　　二是坚持自主可控；

　　三是坚持务实高效，以提升业务价值为导向，科学规划人工智能开发应用投入，有效平衡成本与效益；

　　四是坚持安全发展，严格落实国家网络安全和信息化工作要求，遵守网络安全、数据安全各项法律法规制度

　　此次《指导意见》的核心亮点之一，是首次提出了精细化的高风险应用准入管理，并对“高风险应用场景”进行了清晰的界定。新规明确，涉及资金交易、资产评估、信贷审批、承保理赔、风险管理，以及直接影响金融合约达成的场景，均被列为“高风险应用”。

　　针对高风险场景，这类场景必须经机构风险管理委员会批准；面向公众或高风险场景使用生成式AI的，必须向金融监管总局或其派出机构报告；在高风险应用关键环节建立人工监督和干预机制，明确紧急停用及模型退出条件。最后，涉及关键决策时，必须设置人工复核节点。

　　一位国有大行软件开发人士对界面新闻表示，《指导意见》总的来说保持了乐观和审慎的态度、“金融机构还是应该以安全为底线，不能完全依赖大模型做出的决策。指导意见强调‘谁使用谁负责’，并在高风险环节强制建立‘人工监督和干预机制’，这意味着一旦发生系统性偏差或算法歧视这类问题，人工必须能够‘熔断’并接管系统，责任链条彻底闭环。”

　　外部引入的生成式人工智能模型需备案

　　《指导意见》强调，稳妥探索人工智能技术研发和金融智能体建设。金融机构对生成式人工智能模型要实施准入管理，评估模型效能及安全合规性。外部引入的生成式人工智能模型需经过网信部门备案。

　　《指导意见》明确，鼓励大型金融机构发挥示范作用，向中小金融机构输出人工智能技术和管理经验。支持中小金融机构加强协作，共同推进应用场景落地。鼓励与人工智能产业加强协同，以金融应用促进产业创新发展，以产业成果促进金融应用提质增效。

　　同时，《指导意见》也给数据安全与个人信息保护划定了红线，“姓名、身份证号、手机号、银行卡号等个人信息和隐私数据不得用于生成式人工智能模型训练和优化，有效防止客户隐私泄露。加强模型安全护栏建设，加强内容过滤及脱敏管理。严格管理外包过程中的数据安全。”

　　同时要求，加强人工智能开发应用中的网络安全管理，加强对抗攻击测试和输出验证，通过数据隔离、访问控制等措施提升模型部署安全，持续监控模型行为，定期扫描、修补人工智能模型及相关系统组件漏洞。

　　在人才培养方面，《指导意见》明确，加强监管人才队伍建设。金融监管总局及派出机构加强数字化、智能化培训，提升监管人员数据分析和智能工具的使用能力，着力培养复合型监管人才，提升与人工智能技术复杂度相匹配的风险识别、监测和处置能力。