一、人工智能广泛应用之下风险与机遇并存

人工智能在银行业金融机构各领域的应用呈现爆发式增长，人工智能正在重塑银行业经营管理模式。

人工智能快速渗透银行业金融机构各个业务领域

在人工智能应用日新月异的今天，AI大模型技术的快速发展正在推动银行业金融机构的智能化进程，相关技术已被广泛应用于智能客服、智能营销、业务流程优化、智能风控等场景，并为银行带来效率和财务收益上的提升。例如，某国有大行成功构建了企业级千亿级金融大模型技术体系，覆盖20多个核心业务领域及200多个应用场景，其中在金融结算领域引入人工智能顾问，客户咨询响应时间节省了79%。

人工智能快速发展之下风险不容忽视

在这场人工智能的技术革命背后，数据安全、模型“幻觉”等风险如影随形。尽管人工智能相关解决方案能为银行业金融机构带来巨大的收益，但如果相关风险无法得到妥善管理，就可能导致数据泄露、声誉受损、产品缺陷、业务停滞以及监管罚款。确保人工智能应用的安全、可靠、可控将成为本轮银行业技术革新和管理转型的致胜法宝。

二、人工智能应用可能带来的风险

人工智能技术正以前所未有的速度迭代，其为银行业金融机构智能化转型提供了强有力支持的同时亦带来了不容忽视的风险，其表现形式包括但不限于：

图：人工智能应用可能带来的风险

来源：毕马威分析

一方面，由于银行业金融机构尚处于人工智能应用的探索阶段，且相关立法和监管政策尚处于起步阶段，多数银行未能直观、清晰感知上述风险的负面影响；另一方面，部分银行对上述风险的危害虽有一定的认识，但在将认知转化为行动时却不得其法。毕马威德国2024年的一项分析显示，德国仅有3%的组织实施了全面的AI治理架构和流程以保证人工智能应用的可信赖且合乎道德，63%的组织甚至尚未意识到需要开展该项工作。

从外部监管来看，建立健全AI治理框是人工智能应用合规遵循的必然要求。虽然人工智能相关的监管格局尚处于起步阶段，但各国家和地区先后发布了相关的法律法规和政策文件，其既塑造了AI治理框架亦将成为银行业金融机构建立AI治理框架的合规底线。

从内部管理来看，通过建立健全AI治理框架，银行业金融机构可以防范人工智能应用带来的风险，增强内外部利益相关者对于人工智能应用的信任，进一步释放人工智能技术的潜力。

三、AI治理的基本概念和重要性

AI治理旨在确保人工智能相关风险和道德考虑得到有效解决，同时以值得信赖的方式促进人工智能技术的开发和实施，它不仅仅是一个理论结构，更是一套内嵌于人工智能持续运营过程中的管理行为和管理实践。

图：毕马威人工智能目标运营模型

来源：毕马威分析

四、毕马威AI治理框架

对于毕马威来说，AI治理涉及创建一个全面的管理体系，包括明确AI技术应用的原则、战略、政策、标准、风险和控制以及培训等要素，此外该框架还应优先考虑数据隐私、模型安全和遵守相关法规。

图：毕马威AI治理框架的基本结构

来源：毕马威分析

01 定义核心原则：AI治理的基础

管理动作

建立指导性的原则作为银行AI治理框架的基础。这些原则应反映银行对道德、负责任和可信赖的人工智能实践的承诺，例如尊重人类自主、防止伤害、公平、问责或可解释性等。

重要性

核心原则作为道德指南，确保银行人工智能相关举措与社会价值观、组织使命相一致。这项基础将有助于在利益相关者之间建立信任，并为人工智能相关决策奠定基调。

管理建议

组织一个跨职能团队，包括首席合规官、法律专家、技术负责人等，在考虑透明度、公平性、问责之和隐私等价值观的基础上起草一套适用于银行的人工智能原则。

02 制定全面的人工智能战略

管理动作

制定人工智能战略计划明确人工智能如何与组织运营有效衔接，并进一步明确战略目标、风险、资源和利益相关方等要素。

重要性

一套清晰的人工智能战略有助于确保组织的人工智能行动与业务目标保持一致，并为此有效配置资源。它还为解决潜在风险和充分利用人工智能的潜力提供了路线图。

管理建议

全面深入诊断机构内部人工智能的当前应用状况，定位差距的基础上设定目标和配置资源，并从战略落地角度明确各部门、各级机构在人工智能战略中的角色和责任，以落实责任并简化决策流程，同时应细化战略成功的衡量标准、战略实施的时间表，并与现有的公司流程和公认的标准保持一致。

03 制定人工智能政策：实践中的指导原则

管理动作

创建并实施一套管理政策和制度，以管理组织内人工智能技术的开发、部署和使用。

重要性

人工智能政策和制度将高度概括的核心原则转化为可操作性的指南，确保与道德、法律和行业标准的一致性和遵循性。这些政策和制度有助于金融机构降低风险，保护机构免受潜在责任的影响。

管理建议

银行应至少起草和发布涵盖数据治理、模型验证、透明度和缓解偏见等关键领域的政策和制度，并保证这些政策与现有的流程和公认的标准相符合，并定期评估和更新，以持续契合不断变化的法规要求和优化的实践，确保人工智能管理体系仍然适应新的挑战和技术发展。

04 设定人工智能的标准：确保一致性和质量

管理动作

制定一个标准框架，为人工智能相关流程、系统和操作建立更好的实践、要求和规范。

重要性

标准有助于确保人工智能应用的持续开发和部署在质量、安全和合规性方面持续达到预期结果。它们是评估人工智能技术的有效性和可靠性的基准。

管理建议

与行业机构和标准组织合作，采用或调整现有的人工智能标准。在所有人工智能项目中实施这些标准，确保从最初的设计阶段到部署和监控都遵守这些标准。

05 识别风险并实施控制措施

管理动作

在风险识别的基础上建立健全控制措施，以转移、规避、缓释与人工智能相关的风险，确保组织在内部建立保障安全和道德的人工智能环境，同时遵循法律法规和监管政策要求。

重要性

人工智能技术具有固有的风险，包括数据隐私问题、算法偏见和安全漏洞，有效的控制措施对于防范这些风险至关重要。

管理建议

开展一次全面的风险评估，以识别当前人工智能开发和部署中的潜在风险和威胁，制定具备针对性的控制措施，如访问控制、审计机制和持续监控，并将这些控制措施集成到整体AI治理框架中，定期对相关控制措施的有效性进行评估。

06 重视人工智能培训和教育

管理动作

制定结构化的培训计划，使员工具备负责任地管理和使用人工智能技术所需的知识、技能和意识。

重要性

AI治理的成功实施取决于组织赋予员工必要技能的能力。从高管到一线员工都必须接受培训，以深入理解他们在支持可信赖的人工智能技术开发和应用方面的作用。

管理建议

设计一个分层培训计划，以满足组织内不同角色的需求。对于高管而言，重点关注战略决策和风险管理；对于技术团队，强调人工智能的道德开发和合规性。此外，应保证培训和教育的持续性，以跟上快速发展的人工智能环境。

五、结语

人工智能不仅是一种技术，更是一种变革的力量，它带来的效率、创新和竞争方面优势令人信服，但其在道德、合规和治理方面存在的挑战亦应发人深思。

掌控人工智能开发和部署的复杂局面需要一种战略方法，将组织各个层面相关的原则、政策和实践有效衔接起来。这不是一项可以独立或临时处理的任务。为了全面发挥人工智能应用的潜力，同时防范人工智能应用可能引发的风险，一个全面有效的AI治理框架至关重要。

毕马威创造性构建的人工智能治理框架，将根据金融机构管理目标和监管要求进行个性化定制，保障金融机构人工智能技术的开发和应用不仅合规和合乎道德，而且更透明和可信赖。

本文内容仅供一般参考用，并非针对任何个人或团体的个别或特定情况而提供。虽然我们已致力提供准确和及时的资料，但我们不能保证这些资料在阁下收取时或日后仍然准确。任何人士不应在没有详细考虑相关的情况及获取适当的专业意见下依据所载内容行事。本文所有提供的内容均不应被视为正式的审计、会计或法律建议。

©2025毕马威华振会计师事务所（特殊普通合伙）、毕马威企业咨询（中国）有限公司及毕马威会计师事务所，均是与毕马威国际有限公司（英国私营担保有限公司）相关联的独立成员所全球组织中的成员。毕马威国际及其关联实体不提供任何客户服务。各成员所均为各自独立的法律主体，其对自身描述亦是如此。毕马威华振会计师事务所（特殊普通合伙）——中国合伙制会计师事务所；毕马威企业咨询（中国）有限公司——中国有限责任公司；毕马威会计师事务所——香港合伙制事务所。版权所有，不得转载。毕马威的名称和标识均属于毕马威国际的商标或注册商标。