原创 基于开源基础大模型的银行业人工智能工程化落地实践初探
创始人
2025-10-11 12:56:55
0

银行业一直属于行业创新标杆,在过去数年进行了大量的AI实践,2022年已经到达创新的瓶颈,但是随之而来的AI大模型让银行业再次掀起新的业务创新浪潮。我们也观察到很多银行已经积极拥抱并引入大模型,但是很多时候充当的是“大自然的搬运工”,仅仅是下载安装了大模型,支持简单的聊天功能,确实可以在内部有10%左右的提效,但是对于真正的业务帮助有限,如何将大模型融入业务部门的核心业务流程,灌入业务特色的专业数据,让大模型成为银行的虚拟员工及劳动力,这是银行目前需要重点解决的问题。

银行业在AI时代的赋能现状:积极引入新技术,审慎应对数据安全问题

2023年,随着ChatGPT在全球范围的快速推广,银行业也开始考虑本地化私有AI大模型,效果越好的模型往往尺寸更大,耗费的算力资源也更多,另一个思路是调用云端大模型服务,但是由于数据敏感等问题,因此对云数据安全有很高的要求。银行的大模型创新在二者之间难以抉择:高成本的本地化部署,还是云服务调用。直到2025年年初DeepSeek发布,它相对比其他模型具有推理能力更强、算力成本更低等特性,我们挑选了数个具有代表性的指标进行展示:

表1

* 另存在1.5B 8B蒸馏版未列出

来源:《DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning》《2024云栖大会现场发布数据》《智谱AI发布会现场发布数据》等。

大模型DeepSeek带来的机遇1

DeepSeek所代表的新一代AI模型可以支持快速定制从而深入业务场景,辅助优化SOP,达到科学有效控制成本的目的

案例分享1:毕马威内部进行AI赋能及成本优化实践

业务背景:在相对严峻的经济环境和市场竞争的挑战下,毕马威尝试了各种方法进行科学的成本控制,和金融行业企业相似,人力成本是成本支出中不可忽视的一项重大支出,但是保留高端人才的活跃才能为企业创造输出价值。在这样的困境下,必须寻求一种方式,用于节省员工在不必要任务上耗费的时间,把员工从重复性的工作中解放出来,输出更多创造性的价值。

解决方案

毕马威AI团队收集、拉通了内部条线的共性需求,逐步研发了数个通用的AI应用,并根据业务部门的特殊需求进行定制优化,如构建审计会计知识库,将其融入AI大模型知识问答系统,员工通过自然语言描述即可获悉各类会计准则、案例信息,而非传统的基于固定关键词进行检索(一些复杂的知识往往无法通过传统检索获得),为员工节省了大量的时间;将语音会议助手用于业务部门的工作中,将访谈和各类会议的内容快速转化为会议纪要并摘取关键信息;将文档问答和OCR能力应用于内部的财务报销处理场景,为财务员工节省了大量用于摘取报销凭证中关键信息的时间。毕马威通过将AI能力转化为内部生产力,高效应对经济周期变化。

大模型DeepSeek带来的机遇2

DeepSeek所代表的新一代AI模型可以为银行业筑起风险防控的铜墙铁壁

案例分享2:某股份制银行AI +监管合规

业务背景:国家法规/行业标准与内部规定未建立完整的关联关系,如果让人工执行信息检索和关联,往往会遇到范围受限且耗时长的问题,导致无法详细排查内部监管制度的漏洞。同时,风险事件库采用传统规则,维护量大且规则众多,实际监管追责效率不高。合规管理工作流程不完善,监管动向难以掌握。

解决方案

首先开展详细的业务梳理,对原始工作流程进行简化,将人机协作的工作模式应用于主流程,让AI模型对指定业务领域的法规进行条款内容的识别与抽取,进而基于多个维度如业务领域、主体、事件等进行条款内容的语义内容的自动关联,辅助银行合规人员确保内规没有法规漏洞,进而辅助快速实现合规评审、合规知识查询等后续业务层应用。

大模型DeepSeek带来的机遇3

DeepSeek在“营销运营”场景下,可以为银行带来新的可能性

案例分享3:某银行采用AI进行角色扮演,赋能销售培训

业务背景:对于特定业务的客户服务人员,人员流动性高,业务话术培训工作频繁,定期培训成本非常大,但是得到的培训效果无法达到业务管理层预期,管理层希望采用智能化的工具为人员培训结果带来有效的变化。

解决方案

首先对工作场景和培训目标、内容进行详细梳理,用AI大模型构建面向业务人员的AI coach ,让AI模型扮演消费者角色,与客户服务人员进行模拟真实场景的对话,并在模拟过程中由AI观察业务人员的表现,并给出从培训专家视角的打分结果,辅助客户服务人员快速提升服务水平和技能。

案例分享4:某银行采用AI辅助理财/保险建议书生成,加速销售转化速度

业务背景:过去银行的客户经理在确认客户的主要情况和需求后,会根据经验进行产品的组合匹配,然后手动撰写理财/保险建议书,手动撰写的时间费时费力,且产品推荐有时会因为个体主观经验不同而有所区别,银行需要更标准更精确且更快的理财建议书的生成。

解决方案

首先对客户产品类型和工作流程进行详细梳理,并用AI模型构建了理财/保险建议书生成工具,可以在获取客户的基础信息和需求后,快速精准的进行产品推荐,并生成具有强同理心的用户视角理财/保险建议书,由客户经理审阅后,发送给客户,节省客户经理大量的时间,同时也为理财客户带来敏捷和高质量的服务体验。

银行大模型落地实践:常见问题

大模型技术在银行业务中的应用展现出巨大的潜力,能够显著提升业务效率并赋能传统金融场景。然而,从理论到实践的过程中,仍然存在诸多挑战和误区需要克服。以下是我们总结的六个关键问题,让我们更好地理解和应对大模型在银行落地过程中的实际挑战。

  1. 问题1:部署成功不代表真正运用。大模型要想真正提效,赋能业务,往往需要将业务数据进行专业的梳理、标签、清洗、训练、调优,从而模拟真实的银行专业员工技能,提升生产力。
  2. 问题2:大模型的应用不仅仅是prompt工程。不可否认prompt工程是大模型应用首先应使用的一种手段,但是由于业务的复杂性,往往需要结合RAG,SFT等多种手段进行优化调整。
  3. 问题3:RAG只是工具,应用仍需优化。业务知识库查询及问答是大模型最典型的场景,尽管业界有很多现成的知识库问答系统,但是如果仅仅是上传业务文档,不进行任何优化,效果往往只有50-70分,如果想达成优越的效果,需要对数据进行充分处理加工,尽心设计分块、召回、排序策略,甚至结合SFT对模型进行训练调优。
  4. 问题4:模型幻觉无法彻底消除。大家对模型幻觉都不陌生,两种极端思路均不可取,一是要求模型完全不能出现幻觉,由于大模型是生成式概率问题,因此无法避免幻觉;二是承认模型幻觉而不管不顾,我们需要对大模型的问题进行query改写,对结果进行fact checking,safe guard设定,从而尽量减轻模型的幻觉。
  5. 问题5:模型选择越大越好。模型越大往往代表硬件部署的成本越高,因此需要根据场景需要确定模型尺寸,一般企业的垂直类任务14B,32B尺寸基本足够,辅以SFT进行模型训练微调,效果往往优于未经训练的商业大尺寸模型。
  6. 问题6:模型的部署方式:如果企业数据相对公开,不涉及敏感数据,且没有非常强的业务属性,可以考虑云API调用。反之如果涉及敏感数据,则需要考虑本地化部署或者混合云的方式,比如知识库RAG部署在本地,仅仅云API调用公有云服务进行计算。

银行大模型未来展望:DeepSeek为代表的开源基础大模型将助力中小银行弯道超车

AI技术的应用可以“跨时代”进行,对于过去没有投入大量成本进行AI转型的银行(相当于3G时代的银行),如今可以直接采用DeepSeek所代表的AI大模型进行效率提升(相当于跨入5G时代),可以采取的策略包括将标准化任务分配给主动式AgentMCP进行处理,主动式Agent将在确保任务完全执行成功后结束任务;或引入多模态及GraphRAG用于复杂场景下的客户服务、审核任务处理、内容生成,与文本大模型的任务领域进行相互补充等。我们可以期待,未来AI在银行业将会有更多广泛的应用场景。基于新的AI策略与场景,中小银行在特定领域下的工作效率和质量也可以和大行趋同,构建起具有差异化竞争优势的智能金融生态系统,最终实现"科技赋能金融,普惠服务大众"的愿景。

本文内容仅供一般参考用,并非针对任何个人或团体的个别或特定情况而提供。虽然我们已致力提供准确和及时的资料,但我们不能保证这些资料在阁下收取时或日后仍然准确。任何人士不应在没有详细考虑相关的情况及获取适当的专业意见下依据所载内容行事。本文所有提供的内容均不应被视为正式的审计、会计或法律建议。

©2025毕马威华振会计师事务所(特殊普通合伙)、毕马威企业咨询(中国)有限公司及毕马威会计师事务所,均是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。毕马威国际及其关联实体不提供任何客户服务。各成员所均为各自独立的法律主体,其对自身描述亦是如此。毕马威华振会计师事务所(特殊普通合伙)——中国合伙制会计师事务所;毕马威企业咨询(中国)有限公司——中国有限责任公司;毕马威会计师事务所——香港合伙制事务所。版权所有,不得转载。毕马威的名称和标识均属于毕马威国际的商标或注册商标。

相关内容

钛基铂金涂层阳极:精细制作...
在电化学领域,钛基铂金涂层阳极凭借其卓越的性能占据着重要地位。其制...
2025-10-11 16:30:32
原创 ...
大家好~我是小余 免疫力高低,这将会影响到宝宝的成长质量,还有学习...
2025-10-11 16:30:05
彭艳丽“博士名医工作室” ...
8天小长假为近视患者提供了充足的手术与恢复时间,贵州迎来年度摘镜小...
2025-10-11 16:30:00
国内黄金珠宝品牌:足金首饰...
【10月11日国内多家足金首饰价格突破1180元/克】10月11日...
2025-10-11 16:29:54
原创 ...
谈及伊拉克,萨达姆的名字总是如影随形。尽管这位昔日领袖已离世18载...
2025-10-11 16:29:24
泡泡玛特杀入老铺腹地,能圆...
作者 | 谢芸子 编辑 | 张帆 国庆假期期间,金价持续攀升。...
2025-10-11 16:28:56
涨疯了!国际金价今年涨幅超...
继3月首次突破3000美元/盎司后,时隔半年,国际金价一举站上40...
2025-10-11 14:19:28

热门资讯

齐鲁银行(601665)10月... 证券之星消息,截至2025年10月10日收盘,齐鲁银行(601665)报收于5.89元,上涨2.97...
浦发银行青岛市南支行识破骗局,... “多亏你们及时拦着,我差点把20万都转给骗子!”近日,在浦发银行青岛市南支行,市民王先生(化名)握着...
原创 被... 摘要:罚款、合并与增长迷途(欢迎关注杠杆游戏) 撰文|杆姐&编辑|爱丽丝 一家资产超18万亿的国有...
原创 基... 银行业一直属于行业创新标杆,在过去数年进行了大量的AI实践,2022年已经到达创新的瓶颈,但是随之而...
恒生银行,拟被汇丰私有化退市 10月9日,汇丰控股、汇丰亚太及恒生银行联合发布公告称,汇丰亚太作为要约人,拟以协议安排方式将恒生银...
珠海华润银行:聘任袁志忠担任行... 中国网财经10月11日讯 近日,珠海华润银行发布公告显示,依照该行公司章程及9月29日召开的第八届董...
原创 他... 1905年12月至1907年6月间,当时还属于俄国的格鲁吉亚境内,先后发生了五次抢劫银行、国库的事件...
又一直销银行将“退场” 银行业... 又一家直销银行被吸收合并。10月9日,邮储银行发布公告称,《关于中国邮政储蓄银行吸收合并中邮邮惠万家...
10月11日国际晨讯 | 美股... 美股三大指数集体收跌;欧洲三大股指10月10日全线下跌;白宫官员:联邦政府裁员程序已正式启动;美联储...