金融大模型落地有哪些挑战？产学研界有这些观点

近日，在北大光华管理学院的一场论坛活动上，度小满CTO许冬亮、光大信托数据公司总经理祝世虎、清华大学人工智能研究院常务副院长孙茂松教授、北京大学光华管理学院商务统计与经济计量系王汉生教授与哈工大计算学部长聘教授车万翔教授针对大模型在金融领域的发展趋势和挑战进行了讨论。

论坛话题围绕“通用大模型”走向“行业大模型”的行业趋势、到金融行业的应用场景以及大模型落地的技术难点等多方面展开。

车万翔教授介绍称，当初在GPT3诞生之后的接近两年时间里，大模型这个概念都只是人工智能圈子内一小部分人的激动，直到ChatGPT诞生，大模型才开始火出圈外，被社会大众所感知。

【资料图】

他认为最主要的原因是GPT3模型虽然很强大，但仍然面临着鲁棒性差、可解释性弱和推理能力缺失等关键问题，与人类相比差距甚远。

“GPT3只解决了知识存储这一个维度的问题，没有把知识很好的调用出来，而ChatGPT解决了这个问题”，车万翔教授表示。

对于大模型的未来，他预测到ChatGPT可能需要两年半的时间进行更新，也许在2025年大家会面临一个更新的突破性技术诞生。

从今年初开始，大模型对金融行业的影响以及应用挑战正在成为金融科技领域的热门话题。

孙茂松认为，目前的金融科技概念与几年前的金融科技概念并不相同，最大的区别就是增加了金融大模型的概念。

“金融大模型现在一定要做，你这家公司做不做（大模型的区别），五年后就能见分晓，到时候你再追赶就晚了”，孙茂松表示。

祝世虎也认为金融行业做大模型的最大困难点是人的问题，“（比如）以前银行做风控相信的是小模型，现在你让他们相信大模型，没个五年时间不会的。”

他认为在未来一段时间内，银行业都会处于大模型与小模型共存的状态，而不是直接相互替代，这也是大模型在金融行业的一个切入点。

光大信托数据公司总经理祝世虎认为，大模型想要在金融行业落地，需要先做好几件事：

首先是银行内部的数据整合，包括客户数据、业务数据和交易数据整合，也包括银行内外部同源数据的拉练以及匹配。

其次要解决算力问题。GPU是非常昂贵的基础设施，但算力并不是银行的核心能力。祝世虎认为银行没必要自建算力，采取租用的方式就可以。

最后在垂直领域实现精调模型，把银行内的知识库和大模型的能力相结合，以银行的小规模算力打造轻量级的精调模型。

“我觉得这是大多数银行都能接受的大模型落地方式”，祝世虎表示。

王汉生教授认为，大模型要落地最重要的是找到合适的应用场景，能够创造出切实的商业价值。

而金融行业是高价值行业，数字化的基础比较好，并且高度依赖数据和技术，是大模型落地的高潜力场景。

大模型在金融领域应用，“是客户应答场景，还是销售场景，还是风控场景，这个天生就很重要”，王汉生表示。

度小满在金融科技领域有长期实践，也比较早研究大模型相关技术。许冬亮认为，在现阶段，如何让大模型在金融领域实现更多场景的落地，还有三个重要挑战需要解决：

第一个挑战是通用模型能力不能满足金融场景需要。

首先，通用大模型本身精度不够。当前大模型原生的幻觉问题、可控性问题和可解释性问题都限制了生成内容的准确性和可控性，而金融是一个对精准性、可控性要求很高的行业。

孙茂松也表达了类似的看法。在他看来，目前很多大模型对数字的处理是比较粗放的，但金融领域的大量数字必须要求高度精确，如果随便套用一个通用模型，可能会产生很大的误导性。

同时，孙茂松认为大模型会出现的“幻觉”问题，也是金融领域需要避免的，不然会导致公司或者股票判断出现失误。

而车万翔教授表示，对于大模型的幻觉和推理能力缺失，可以通过增加各种工具的方式进行解决。

其次，通用大模型对金融领域的知识有很多缺失。

祝世虎认为，大模型在风险领域内的应用，要突破现有风险管理的框架。每个银行都是贷前、贷中、贷后的完整流程，然后用资本来抵补风险，智能风控能够将风险、利润和客户的三者最优化处理。

最后是大模型更新迭代困难，金融是高时效的，模型必须能够实时跟踪金融市场的变化和趋势。

第二个挑战是大模型如何高效插入现有业务场景。

车万翔教授认为，目前更应该关注大模型在具体场景中的落地应用，解决定制化、小型化、角色化和个性化的需求。

许冬亮认为，一个团队既要懂业务场景的know-how，又要理解大模型的使用方法，而且还需要具备比较强的工程能力，这样才有可能选择出适合应用大模型的场景，高效的将大模型嵌入到实际业务流程。

第三个挑战是大模型应用于金融业中产生的安全合规和隐私保护问题。

金融本身是一个高合规要求的行业，大模型又是具有颠覆性的新技术。随着大模型落地的不断推进，如何平衡大模型落地收益和潜在合规风险，会是一个越来越突出的问题。

祝世虎认为，大模型在保险和信托等金融领域的应用场景可能比银行更多，涉及到的产品更复杂，对合规性和隐私的重视程度也会更高。

本月15号，面向大模型的第一个监管文件《生成式人工智能服务管理暂行办法》已经开始实施。随着大模型落地的不断推进，如何平衡大模型落地收益和大模型风险控制，将成为越来越突出的问题。

此外作为企业方的代表，许冬亮认为，单纯依靠一家机构来解决金融大模型落地的难题是不现实的，科技公司和金融机构在金融大模型上的合作非常有必要。

在这类合作中，由科技巨头提供通用大模型，或者技术能力强的金融科技公司提供金融行业大模型，再由具体的金融机构基于这个行业底层模型，用自己的业务数据去做私域的训练，然后做私有化的部署和应用。