近期，国家金融监督管理总局发布了《关于银行业保险业人工智能安全开发应用的指导意见》，从治理架构、开发应用、数据算力、风险防控等多个方面进行了系统部署。在银行保险行业大规模应用人工智能的背景下，如何既能发挥技术的潜力，又能守住安全底线，已成为推动数字金融高质量发展必须解决的重要课题。

金融业作为信息与数据高度集中的领域，人工智能技术展现了广阔的应用前景。从辅助信贷调查、识别欺诈交易，到优化保险定价、提升客户服务效率，人工智能能够处理大量非结构化信息，减少重复性劳动，提高金融服务的可获得性和精准度。《金融人工智能发展与安全白皮书（2025）》显示，2024年我国金融行业人工智能投资规模达到196.94亿元，预计到2027年将增至415.48亿元。技术的不断迭代和成本下降的双重作用，推动着人工智能从外围辅助工具向风险管理、投资研究、合规审查等核心业务领域迈进。对于金融机构而言，应用人工智能已不是选择与否的问题，而是如何用好、管好的问题。

金融活动具有专业性强、关联度高、风险外溢快等特点。尽管模型输出看似精准，但并不意味着决策一定可靠。例如，训练数据的偏差可能导致算法歧视；模型缺乏可解释性可能模糊责任链条；提示词注入、数据投毒、工具滥用等新型攻击方式，则可能威胁客户信息安全和业务连续性。人工智能在深入信贷审批、资金交易、承保理赔等关键环节时，不能简单地将概率意义上的"答案"视为确定无疑的结论。

发展与安全并非对立关系。安全是创新行稳致远的前提保障。如果缺乏应用实践，则难以及时发现真实问题；如果没有制度约束，技术创新可能偏离服务实体经济、维护群众权益的方向。此次指导意见强调'谁使用谁负责'的原则，将人工智能风险纳入全面风险管理，并对高风险应用明确了准入、监测和人工干预要求。这正是为了将安全能力转化为金融机构的治理能力和长期竞争力。

人工智能的应用是一个复杂的系统工程，涉及业务、科技、数据、合规、风险管理等多个部门。金融机构应压实主体责任，完善跨部门协同机制，建立覆盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出的全生命周期管理体系。特别需要注意的是，不能只重视系统的上线而忽视后续运营，应在应用前做好准入测评和伦理审查，同时在运行中持续监测模型效能、数据漂移和异常行为。当模型不再适应业务需求时，应及时进行调整或退出，才能真正实现过程可追溯、责任可落实。

确保人工智能在安全轨道上运行，需要夯实数据和算力基础。金融模型的能力很大程度上取决于数据质量。如果数据不准确、不完整，即使算法再精妙也难以产生可靠的结果。因此，要加强数据全生命周期管理，建设与具体场景相匹配的高质量数据集，提升对非结构化数据的治理能力，确保数据来源可追溯、使用有边界、更新可持续。同时，要合理规划和布局算力资源，统筹考虑存量资源和实际需求，提升关键平台和软硬件的自主可控水平，避免对单一供应商或外部技术产生过度依赖。这并不意味着要关起门来重复建设，而是在开放协作中增强关键环节的掌控力和供应链韧性。

有效管理风险，需要实施分类分级、精准施策。人工智能的不同应用场景具有不同的风险程度。对于内部知识检索、文稿辅助等低风险应用，在明确数据权限和使用规范的前提下，可以提升应用效率；而对于资金交易、资产评估、信贷审批、承保理赔以及直接影响客户权益的生成式人工智能应用，则应实施更严格的准入、测评和监测机制。同时，要科学设定模型的功能边界，在关键环节保留人工监督、复核和干预机制，并明确紧急停用条件和人工替代流程，防止将智能辅助异化为"机器说了算"。

金融科技的最终目标是服务人民。人工智能可以提高服务效率，但不能减轻金融机构对消费者应尽的责任。对于模型生成的内容，应做好显著标识和必要说明；对于涉及客户权益或具有实质性财务影响的关键决策，应增强透明度和可解释性，保障消费者的知情权、异议权，并保持申诉渠道的畅通。同时，要审慎评估算法对不同群体的影响，特别是对老年人、低收入者等特殊群体，及时纠正可能存在的模型偏见。技术越先进，越需要坚守公平、诚信和审慎经营的价值底线，让数字化成果惠及千家万户。

人工智能为金融业打开了新的发展空间，同时也带来了新的治理挑战。将安全要求贯穿创新全过程，把人的责任置于算法之上，以服务实体经济和维护群众权益作为根本价值遵循，才能使人工智能真正成为金融高质量发展的重要推动力量。通过制度建设筑牢根基、以技术进步增强实力、以责任担当保驾护航，推动创新活力与安全韧性相互促进，金融人工智能就能在安全轨道上走得更稳、更远。