招商银行的 AI 大模型应用给银行业的启示
来源:中国金融网 2024年12月11日 07时40分
中国金融网首席金融研究员 金果
在 AI 浪潮重塑银行业的大背景下,招商银行在 AI 大模型的应用方面进行了诸多探索,其经验为整个银行业带来了多方面的启示。
重视自身资源与战略定位
资源投入的考量。从资源投入角度看,大语言模型是一项持续且规模大的投资,包括建集群、招聘人才等,且相关资源稀缺。例如,招行在建立智算平台时,需要投入大量资源用于提升推理集群和训练集群的算力效能。对于银行业来说,不是所有银行都适合大规模投入其中。像中小银行机构,资源相对有限,应量力而为。根据相关情况,中小银行可以复用业内经验,避免盲目跟风一次性的大投入,因为目前大模型发展变数多,如通用大模型的优劣比较和部署方式等都还在变化过程中。
战略定位的选择。招行明确了在金融行业建设垂直领域大模型的目标,而不是建立通用模型。这是基于银行业的特点做出的战略选择。通用大语言模型在银行业的运用存在弱点,如对专业知识理解有限,在专业领域数据处理能力较弱。而银行具有独特的 “密集型” 特征,包括数据密集(如客户数据、行业数据、产业数据等)、知识密集(包含大量的政策、法规、条款、合规等)和人力密集(需要开展大量运营工作,网点和后台审核都需大量人力)。所以,银行业应根据自身行业特性确定 AI 大模型的发展方向。
挖掘大模型在银行业务各环节的应用价值
营销环节。在营销方面,大语言模型可以直接生成营销文案。虽然需要专人审核以确保内容正确合规,但这大大提高了营销文案的生成效率。这一应用为银行业营销工作带来了新的思路,通过利用大模型高效生成文案,再进行合规性审核,可以快速推出有针对性的营销内容,吸引客户。
服务质检环节。服务质检方面的变革显著。过去人工客服接听电话、记录内容、整理归类的流程可能需要五分钟,而借助语音识别转换成文本后交给大模型处理,可以把流程缩短到 “秒” 级。这意味着银行可以在短时间内处理大量的服务质检工作,提高工作效率,及时发现服务中的问题并改进,提升整体服务质量。
风控环节。以招行的 “天秤” 风控平台为例,它可以通过大量的神经网络算法,将客户的正常行为和风险行为区分,保障客户资金安全。这显示了大模型在银行业风控方面的强大能力。银行通过利用大模型的算法优势,可以更精准地识别风险,减少潜在的资金损失,提高风险管理水平。
谨慎对待大模型应用中的风险与挑战
大模型幻觉风险。大模型幻觉是一个重要风险,这对银行的应用非常不利。招行给出了保留人工审核和应用检索增强生成技术(让大模型对接外挂知识库)的解决办法。这启示银行业在应用大模型时,要充分认识到模型可能出现的不准确结果,通过多种手段保障业务的准确性和安全性。
数据隐私风险。在数据隐私方面,尤其是在训练环节,一定不能使用客户敏感信息。数据管理不够严格,大语言模型可能会泄露隐私。招行在数据训练的准备上非常谨慎,这提醒银行业要高度重视数据隐私保护。在利用大模型进行数据处理和分析时,要建立严格的数据管理制度,防止客户隐私泄露,避免引发信任危机。
答案生成可解释性弱的问题。大语言模型对于答案生成的可解释性比较弱。例如在做贷款发放审批时,机器审核结果的同意或不同意难以解释。招行推行的 “人 + 数字化” 的协同模式是一种有效的解决方式。这表明银行业在应用大模型时,要考虑如何平衡机器的高效和人的温度,在提高效率、产生规模效应的同时,提升客户满意度。
招商银行在 AI 大模型应用方面的实践为银行业提供了全面的启示,从战略定位、业务应用到风险应对等各个方面,银行业都可以从中汲取经验,更好地适应 AI 时代的发展要求。
招商银行的智算平台如何保障数据安全?
招商银行在保障数据安全方面采取了以下措施与策略来确保智算平台中的数据安全:
应对大模型幻觉风险相关的数据安全措施
人工审核机制。大模型幻觉是一个风险点,招行采用保留人工审核的方式。在智算平台相关业务流程中,人工审核能够对大模型输出结果进行把关。例如在营销文案生成方面,大模型虽可快速生成文案,但需要专人审核以确保内容正确合规。这一审核过程不仅涉及内容的合规性,也包括对数据使用是否得当的审核,从而避免因大模型可能出现的错误或不当数据使用而导致的数据安全问题。
检索增强生成技术。招行应用检索增强生成技术,让大模型对接外挂知识库。通过这种方式,可有效控制大模型的数据来源和使用范围,确保在数据交互过程中不会出现数据泄露或对敏感数据的不当使用情况,保障智算平台数据的安全性和合规性。
针对数据隐私风险的防范措施
谨慎对待训练数据。在数据隐私方面,招行尤其谨慎对待训练环节的数据使用。在智算平台的建设和运行中,明确一定不能使用客户敏感信息进行训练。这是因为数据管理不够严格时,大语言模型可能会泄露隐私。这种严格的限制从源头上保障了客户数据安全,防止因训练数据的不当使用而引发的数据安全风险。
通过以上措施,招商银行的智算平台在应对大模型相关风险的同时,有效地保障了数据安全。
大模型的应用如何推动银行业的数字化转型?
大模型的应用对银行业的数字化转型起到了积极的推动作用,具体体现在以下几个方面:
提升运营效率:大模型可以自动化处理大量重复性、简单的流程化工作,从而提高银行的运营效率。
优化客户服务:大模型可以快速生成营销文案,并由专人审核,确保内容正确合规;服务质检方面,大模型可以大幅提升工作效率;风控方面,大模型可以保障客户资金安全。
推动业务创新:大模型可以为银行提供更多的数据分析和洞察,帮助银行更好地了解客户需求和市场趋势,从而推动业务创新。
降低成本:大模型可以自动化处理大量工作,从而降低银行的人力成本和运营成本。
总之,大模型的应用可以帮助银行更好地适应数字化时代的发展要求,提升竞争力和服务水平。