金融大模型
Author: 马上消费金融股份有限公司 组编；蒋宁 著
Date: 2024-03-01 16:00:00+00:00
Keywords: 关注TG频道 @sharebooks4you
Description: 本书深入探讨大模型时代的变革机遇、技术原理、应用实践和未来展望等关键内容。以首个零售金融大模型“天镜”为例，详细介绍了金融领域大模型的各种应用案例，涵盖基于自然语言处理的文本问答与情感分析、基于强化学习的智能决策与机器人控制以及基于多模态智能的实时人机协作等方面。 全书聚焦挑战，提供标准构建思路、未来发展方向和负责任AI展望，助力金融从业人员和对新一代人工智能感兴趣的读者了解最新技术动态和未来趋势。本书全面揭示金融领域大模型的应用与发展趋势，也为我国人工智能在金融领域的深层次应用提供创新启示。
Publisher: 中国科学技术出版社

版权信息

COPYRIGHT

书名：金融大模型

作者：马上消费金融股份有限公司 组编；蒋宁 著

出版社：中国科学技术出版社

出版时间：2024年3月

ISBN：9787523605578

字数：194千字

推荐序一

金融是经济的血脉，科技是发展的利器。金融科技作为技术驱动的金融创新，不仅推动了金融行业自身数字化转型，也为金融服务实体经济注入了新的活力。当前，人工智能大模型席卷全球，加速融入经济社会等领域，成为包括金融在内的各行各业创新变革的关键变量。金融大模型是人工智能技术在金融领域深化应用的最新最重要的成果之一，正在引发金融科技发展范式创新、行业运行方式变革、服务生态体系重塑，成为推动金融科技创新和发展的重要动力。

金融是一个开放复杂的巨大系统，实现金融科技突破必须以整体思维和系统认知为前提，“点”上的技术突破不足以实现整体提升，必须破除单一要素思维，从资源利用、运作效力、系统弹性和可持续性等维度进行整体思考。这就要求把数据科学和信息技术作为金融领域的战略性关键技术，构建高频动态变化条件下的海量数据收集、分析、存储、共享和集成能力，形成数据驱动的智慧管控。

近年来，大数据、机器学习、自然语言处理（NLP）、计算机视觉、语音识别和智能推荐等一系列人工智能及其相关技术得到长足发展，不仅极大提高了复杂问题的数据分析、处理、建模能力，也使得人和机器间的交互得以更加智能化，人机混合智能技术在金融领域的应用越来越多，ChatGPT、MOSS、ChatGLM等最新大模型技术已成为数字科技与金融领域结合的热点，为以整体思维和系统认知破解金融科技发展难题提供了有效解决方案。

金融领域大模型开发和应用取得可喜突破。金融行业具有的场景、数据、知识“三多”的特点，为人工智能大模型发挥价值创造了便利条件。海外机构纷纷下场布局金融大模型，如彭博首度针对金融业推出大型语言模型BloombergGPT，哥伦比亚大学联合上海纽约大学开发了FinGPT。与此同时，国内企业也迎头抢滩金融大模型赛道，如马上消费金融服务有限公司（以下简称为“马上消费”）发布了零售金融大模型——“天镜”，蚂蚁集团推出了蚂蚁基础大模型，此外一些证券机构也开始应用大模型为客户提供金融服务。

金融领域专业度高、业务复杂，在风控、安全、效率等方面有强诉求，大模型应用总体上还处于早期探索阶段，仍面临不少挑战。一方面，金融数据的私密性和多模态特性，限制了共享和构建大规模数据集的能力，增加了模型建立和处理的复杂性，导致大模型在金融垂直领域仍未出现涌现效应；另一方面，数据安全治理也是发展金融大模型绕不开的重要课题，亟须加快构筑形成组织、管理、技术、运营四位一体的金融数据安全治理体系框架，提升协同共治水平。

行动上坚定源自认识上的清醒。马上消费人工智能研究团队撰写的《金融大模型》一书，结合自身的“天镜”大模型的研发和应用实践，系统地介绍了金融大模型的技术基础、工作原理和实践探索，从理论到实践，从技术到应用，从过去到未来，展示了金融大模型发展的生动实践和光明前景，也为读者朋友全方位认识和了解金融科技创新成果提供了重要窗口。该书的出版，是马上消费技术沉淀、行业思考的重要成果，也是科技企业创新精神和社会责任的重要体现。

展望未来，随着人工智能、大数据和区块链等新技术的不断涌现，金融大模型的研究和应用将迎来更加广阔的发展空间。站在新的历史起点上，在新的历史方位和发展格局中，期待马上消费继续报以开放的心态，敢于承担风险并尝试新的技术、产品和商业模式，不断寻求新的机会和挑战，继续探索大模型令人期待的未知领域。期待“天镜”大模型能够更好地为金融市场的稳定和健康发展做出贡献，为实现金融普惠和可持续发展提供重要支持！

中国工程院院士

2024年1月17日

上海 同济大学

推荐序二

金融是现代经济的核心，数字经济发展是大势所趋。金融如何服务好实体经济，数字技术如何与传统实体经济有效融合，是我国经济高质量发展的关键。

继农业经济、工业经济、信息经济后，数字经济正成为一种由产业革命扩大而形成的全新经济形态。其中，互联网是通道，5G是高铁，大数据是原材料，云服务相当于仓储，而人工智能是机器设备，大模型则是进阶版的机器设备，生产出信息量更大、更有价值的数据。本质上，数字经济发展的核心是数实融合，是从供给侧赋能纵向升级，进而助推我国经济新增长潜能。而金融是资源配置和宏观调控的重要工具，为了适应新阶段数字经济发展，在加快自身变革的同时，也更加主动地为实体经济转型赋能，金融场景生态建设将成为这一过程中驱动创新的重要平台和抓手。

人工智能大模型在金融场景生态建设中起到至关重要的作用。一方面，横向拓展金融服务场景。过去，数字技术与金融的融合解决的是相对简单的问题，如征信、客服等，大模型的加持有助于原有场景中解决方案的提质增效，同时有能力解决相对复杂的问题，如风险防控、预测决策等。另一方面，纵向加深产业要素整合。在实体经济数字化过程中，通过“技术+金融+行业”的数字化平台策略，推动金融与国家重大战略、现代化产业体系融合发展，也推动金融资源向中小微企业，向基层群众提供精准服务。以大数据、人工智能等技术驱动，带动产业链不同组成部分的整合和一体化。

本书的典型特色是通过阐述“天镜”大模型的技术原理和实战案例，将新质生产力在金融行业中的表现和作用进行具象化，主要体现在以下几个方面：

第一，优化。通过快速学习、交互和反馈，大模型能够识别流程瓶颈，减少人为错误，优化运营效率，可以广泛应用在金融审批、用户分层、客服投顾、合规质检等服务场景中。此外，大模型对金融行业的商业模式也会进行优化，形成新产业和新生态。

第二，连接。依托大模型能力和数字化优势，金融服务可以下沉拓展至县城和农村地区，实现普惠的获客营销、客户运营及客户服务，构建城市与农村、供给和需求之间的连接。

第三，预判。基于因果推断和泛化能力，大模型可以进行数据分析、信用评估，从而发现可能的欺诈行为，预判未来的信用风险，与此同时，大模型可以理解隐含信息，处理非结构化数据，最终转化为具有预测性的，能够被人类理解的文本。这对于风险防范、金融监管和数据安全等具有显著的助益。

金融科技赋能数实融合还处在发展期和变革期，仍然面临大量未知与挑战。比如金融大模型虽展示出了强大的推理和生成能力，但仍然存在测试数据与真实场景数据不符、缺乏统一的金融场景评价指标等问题。因此，要鼓励探索和试错，进而找到正确的办法，总结经验后再扩大范围推广。但我们已经欣喜地看到，本书不仅创新性地提出了针对金融行业的大模型评估体系，而且构建了“三纵三横”的大模型发展技术布局，并联合政产学研共同倡议金融大模型的可信安全认证。这在金融科技行业实现创新发展、助推数实融合、加速金融改革等方面都发挥了积极作用。

在未来新一轮结构性改革中，通过大量的试错和纠偏，中国企业完全有可能在人工智能等领域走在世界领先的位置，并形成中国特色社会主义的发展道路和实现路径。本书所讲述的金融大模型诸多探索和实践，我认为是非常有意义的，值得更加深入去探讨。

伴随人工智能技术和应用的长足发展与进步，政府应在指方向、划底线的基础上，预留较大的试错演化空间，金融行业应本着为实体经济提供更有效率的服务为目的，加速科技创新和场景建设。与此同时，积极加强中国经验与国际规则的沟通协调也十分必要，要在全球数字经济发展中更多地发挥富有前瞻性、建设性的引导和推动作用，助力我国经济实现高质量发展。

国家系统与控制科学院院士

2024年2月18日

重庆国家数学应用中心

推荐序三

近年来，以互联网、大数据、人工智能为代表的科技创新显著提升了金融行业的服务能力及风险识别能力，极大地降低了支付成本，为个人创业、企业创新、社会创造提供了强有力的支持。然而，要实现真正意义上的普惠金融，仍需面对信息不对称、运行成本高、市场风险大等挑战。

近一年多来，大模型技术受到广泛关注，尽管发展时间不长，但它可能带来认知模式、创新范式、生产方式的变革，在各个行业都有广阔的应用前景。金融行业是数字化和智能化程度最高的行业之一，大模型落地基础条件优异。在大模型助力下，金融机构不再受限于传统的分析工具和方法，可以进行更深层次的数据挖掘，提炼出更加精准的业务洞察，并为用户提供更丰富的服务，从而在激烈的市场竞争中取得先机。

从行业实践看，大模型在多模态信息理解、内容生成、知识问答、代码编程和合规检测等方面拥有巨大的效率提升价值，目前已经逐渐在金融领域加速渗透。主要应用可以分为两个大类，一类是替代人工的标准化、重复性任务，实现降本增效，例如研报生成、电话营销、智能投顾等；另一类是人机协作提高决策效率，全面提升金融生产力，如客服坐席辅助系统等。可以预期，随着技术的不断进步和成熟，大模型将继续在金融行业的各个领域中扮演更加重要的角色，进一步提升金融服务质量并降低高水平金融服务成本，推进普惠金融的发展。

本书介绍的“天镜”大模型针对垂直行业应用场景进行精调，不仅完善了通用大模型缺乏私域训练和私有化部署的弊端，而且能够将标准化模式复制沿用，助力产业链各利益相关者共创价值。安全性、合规性和伦理性是金融大模型恒久不变的原则，稳中求进，自主创新是金融科技长期可持续的基调。针对金融大模型算力、算法、数据进一步优化，以锻造“内功”为要求，马上消费首席技术官（CTO）蒋宁将金融大模型总结性地归纳为算力的稳定性保障、算法的鲁棒性和安全性、数据的有序性三个方面，我认为这是非常有建设性的。

总体上，大模型为普惠化金融提供了很好的技术支撑，本书的问世，为如何将大模型用于金融领域提供了很好的讨论和实例，我期待本书的出版能够启发更多的金融大模型应用，并为真正实现高水平的普惠金融贡献力量。

清华大学教授、蚂蚁技术研究院院长

2024年2月13日

北京 清华大学

前言

信息社会的发展先后经历了计算机、互联网、移动互联网和云计算等重要阶段，相应阶段的标志性技术推动了信息传递效率的提升和边际成本的递减，而包括ChatGPT在内的一批大模型[本书中的大模型主要是指大型语言模型（Large Language Model, LLM）]的快速发展，则标志着信息社会进入了大模型主导的新阶段，对整个社会产生了深远影响和冲击。

大模型的快速崛起推动通用人工智能（AGI）的普及，使各领域的智能系统具备像人类一样学习和推理甚至决策的能力。同时，推动机器算力向机器智力的跃升，拓展了人类认知疆域和知识范畴，促使数字社会加速向智能社会演进。大模型技术给行业带来了很多期望，使很多领域出现新机会，但同时也面临着安全、合规、算法和生态等方面的挑战，以及在算法、数据和算力等层面也带给我们诸多思考。因此在现阶段，一起探讨大模型的技术演进和发展趋势十分必要。

大模型的发展大致经历了三个阶段。第一阶段是萌芽期，以卷积神经网络（CNN）为代表的传统神经网络模型阶段，为自然语言生成、机器视觉等领域的深入研究奠定了基础；第二阶段是探索期，以多层变换器（Transformer）为代表的全新神经网络模型阶段，奠定了大模型预训练算法架构的基础，使大模型技术的性能得到显著提升；第三阶段是爆发期，以GPT为代表的预训练大模型阶段，大幅提升了大模型的预训练和生成能力以及多模态多场景应用能力。

随着以ChatGPT为代表的生成式AI产品的火爆“出圈”，全球掀起了AI大模型开发浪潮。百度、华为、阿里巴巴、蚂蚁集团等科技企业，以及清华、北大、复旦、中科院、智源人工智能研究院等高校和科研院所相继发布了大模型产品，开启了“百模大战”时代。人们也十分关心国产大模型能否迎头赶上并实现弯道超车，打造出具有自主知识产权的AI大模型。

展望未来，大模型将加速与垂直行业的深度融合，针对行业特点进行训练。例如，金融行业作为被严格监管的行业，有其特殊性，ChatGPT依托的通用知识库需要优化，需要与金融业务深度结合，甚至针对金融业的特性进行专门训练，才能够对具体业务真正有所帮助，使之从一个“通才”转变为“专才”，解决业务痛点。

金融机构将在拥抱大模型方面迎来更大的发展空间，主要体现在产品和服务个性化、价值链效率、决策科学性等方面。让大模型执行金融任务，需满足三个条件：一是在线持续学习，让大模型实现实时推理预测，基于用户行为做出快速的、最佳的个性化判断；二是要构建组合式AI平台，让大模型和传统的数千个普通模型有效组合、达成合作；三是满足安全合规这个根本要求，用对抗学习来解决模型的鲁棒性问题，以保证其安全、合规。

马上消费基于深厚的科研积累和长期的数字化实践，在大模型的智能化架构、构建先进AI驱动的模型决策系统方面不断进行尝试。经过约一年的研发和内测，2023年8月，马上消费发布了全国首个零售金融大模型——“天镜”大模型。“天镜”的寓意是人类智慧的镜像。“天镜”大模型由“三纵三横”的发展技术布局，扎根金融垂直领域，纵向寻找到该领域的专业性和可用性，横向引入生成式模型强大的迁移学习和泛化能力，嵌入优化金融业流程。其中，“三纵”是指实时人机协作、多模态智能、数据决策智能，在数据领域实现智能化，实现结构性数据判别式模型的综合能力。“三横”是指持续学习、模型合规、组合式AI形成安全、合规、可信的鲁棒性技术能力，确保模型越用越“聪明”，同时更稳定、更安全可控。马上消费每天能基于用户的1000万个行为做出个性化的营销和风险判断，每天进行上亿次模型计算，每秒可以处理150万次特征计算请求。凭借这种大规模数据处理能力，马上消费由传统的机器学习跃迁到大规模特征计算和大规模模型计算体系，并以此推动零售金融业创新发展。

为推动国内大模型的发展，特别是在金融垂直领域的落地实践，同时也为分享马上消费在金融大模型方面的思考，我们组织专家编写了本书。本书系统介绍了大模型的发展格局、关键技术和发展探索，特别是大模型在金融领域知识管理、投资辅助决策、客户服务与互动、金融合规与风险管理方面的应用，并着重介绍了大模型的金融实践案例——“天镜”大模型的关键技术和金融应用落地。本书聚焦行业领先的核心领域，希望和同行及广大金融爱好者一同推动大模型应用在金融领域的探索和实践，从而带动和加速金融数字化和智能化的发展，助力新一轮金融科技发展浪潮。

感谢Telegram 频道 @sharebooks4you制作，欢迎大家扫码订阅

第一部分

变革与机遇

第一章

人工智能、大模型和技术机遇

最初的问题是：机器能思考吗？

——“计算机科学之父”：艾伦·图灵（Alan Turing）

人工智能和人类智能

一般意义上，现代人工智能的起源可追溯至1956年的达特茅斯会议。在这次会议上，约翰·麦卡锡（John McCarthy）等学者正式提出了“人工智能”这一术语。尽管现代人工智能的发展历程不足百年，但人类对人工智能的畅想却很久远。人类对智能的追求，本质上是对自由的向往，而这也推动了无穷无尽的人工智能技术演进和科学应用。

千年智能梦

人类相较于其他生物，最为突出的特点是人类可以创造和运用生产工具。随着工具的不断进步，生产力水平随之提高，物质资源也变得更加丰富，从而增强了人类的生存能力。自古至今，人类一直热衷于构建听从指挥的“机器”，并且“智能”的探索围绕人的本体特征模仿，实现能够劳动的人工创造生物，从而解放体力和脑力劳动。

事实上，从远古文明开始，人类就在持续尝试和探索模拟人类动作特征的机械智能。

中国古代俑被视为人形机器人的鼻祖。在《礼记·檀弓》中孔子提到“俑”，郑玄注解为“俑，偶人也，有面目机发，有似于生人”。可见当时的俑不仅在形象上与真人相似，而且还能通过机械结构执行一些拟人动作。另外，《列子·汤问》中记载的手工歌舞艺人（假人），只要触动机关就可以低头吟唱，抬手跳舞，显示出古代俑的设计已经具备现代工业设备制作的思路。西周时期，我国的能工巧匠偃师向周穆王献上自己制作的木偶艺人，能歌能舞，千变万化，像真人一般。

类似的历史记载也存在于西方文明。例如，古埃及自动神像“Automata”的内部安装了一定的自动结构，可以使其做出特定的动作，与中国的俑相似。这些古埃及的自动机展现了早期人们对机械工程的理解和应用。此外，公元1世纪的古希腊工程师制造了一个名为“安提喀且姆”的机械剧院，包括许多木偶和机械装置，并通过机械手臂和水力装置自动执行剧院演出。而在16世纪的意大利，发明家达·芬奇设计了一些机械装置，其中包括机械人、自动化机械装置和基于水力的自动操作装置。这些历史记载表明，自远古时期以来，人们逐渐对自动化和机械装置有了一定程度的认识和应用。

尽管这些古代的智能机器人更加侧重于机械智能，并没有现代AI中复杂的自主功能和智能算法，但它们展现了人们历史上对自动化和机械化的浓厚兴趣和不懈努力。这些机械人为后来的科学家和工程师打下了基础，并推动了智能机器人技术的发展。

如果说以上史书记载的落地案例中，远古时期智能机器人的早期功能非常有限，那么在文学作品和影视创作中，则更加广泛而大胆地展现了人们对自主智能的憧憬。

早在公元前4世纪，古希腊悲剧作品《赫卡柯恩》中名为赫淮斯托斯的机械人，保护特洛伊王后并执行复仇计划，展示了古希腊人对机械人存在的想象和描绘的起点。公元8世纪至9世纪，唐朝诗人白居易在《梦觉示例》中写到了能够听懂人话、具备智能的机器人车驾，显示了人类对创造人工智能助手和机器人的思考。1920年，捷克戏剧作品《罗伯特》（R.U.R.）中讲述了一种由人工创造的生物体，被称为机械生物“Robot”，能够执行人类的工作并逐渐产生了自主意识，最终反叛人类。“Robot”一词由此在全球范围内广泛传播，作为独立通用术语代表了现代机器人技术和人工智能领域的重要概念。此后，各类科幻电影、小说，如《机械公敌》《星际迷航》《流浪地球》等设计了进行自主决策和执行复杂任务的智能机器人，或作为人类伴侣和助手，或出于保护或控制人类的目的而出现。这些角色代表了人类对科技、人工智能和未来的思考，反映了人们对AI与人类关系、社会伦理和道德等问题的深刻关注。

人类对智能的探寻，实际上是对人类理解、认知和再造生命中智能的追求。目前，人工智能被划分为感知智能、认知智能和决策智能，如图1-1所示。人脑是已知最复杂和精密的生物体，因此人类对智能的追寻，也正是人类自我认识的波折过程。21世纪以来，人类社会加速从工业文明向信息文明乃至数字文明进化，算力、数据等量级呈指数级增长。在这样一个数据和信息大爆炸的时代，随之而来的，是人工智能的工具能力爆发式演进。在智能水平上，感知智能日益成熟。感知智能是和我们眼看、耳听、手摸等感官直接相连的智能，例如面部和语音识别、机器翻译，以及医学诊断和产品质量检测等领域都得到了巨大发展。人工智能正在逐渐从一般的感知智能升级到认知智能。

图1-1 人工智能和人类智能

资料来源：马上消费人工智能研究院。

“劳动创造了人”，并且智能的追求源于人类对释放和创造劳动价值的无限憧憬。历经千年的进化，人类的智能梦从机械智能不断向自主智能乃至超维智能演化。正如“Robot”一词源自捷克语“robota”，本意是强制劳动或奴役，人工智能的产生和演化也离不开“劳动工具”，一个能够劳动的人工创造生物。

人工智能技术演进

人工智能的发展是一个螺旋式上升的曲折进程，在否定之否定中实现了智能进化，如图1-2所示。在这个进程中，不断地建立新的研究范式，又不断地打破路径依赖。但范式的演进并不代表完全取代，新范式和旧范式之间循环、交织、升华。

图1-2 人工智能的发展和关键性技术

资料来源：NVIDIA, Abdi A.What's the Difference Between Artificial Intelligence, Machine Learning, and Deep Learning?[J].2016，马上消费人工智能研究院。

1956年达特茅斯会议首次提出了“人工智能”这一概念，强调如何使计算机具备模拟人类智能的能力，核心是构建一种具备感知能力、学习能力、推理能力和自我意识的机器。在这种理念下，AI能够像人类一样感知世界，理解和处理复杂的问题，适应环境变化，并具备自我意识和自主决策的能力。这是一种强人工智能的理念，也是在这种理念的驱使下，基于对人类智能和计算机智能之间联系的理解，引申出人工智能的三大基本技术流派：逻辑智能、计算智能和平行智能。

爱德华·费根鲍姆（Edward Feigenbaum）和约书亚·莱德（Joshua Lederberg）在20世纪60年代末创建的第一个专家系统，用于从质谱数据中自主解析有机化合物结构，费根鲍姆因此获得了1971年的图灵奖。——编者注

约瑟夫·维茨鲍姆（Joseph Weizenbaum）在20世纪60年代后期开发的ELIZA是一种基于规则的自然语言处理程序，能够进行基本的人机对话。

逻辑智能，即依据抽象思维的符号主义。该理论主张通过将人类知识表示为符号，构建“知识水晶球”，模拟人类推理过程和实现类人智能。符号主义在逻辑学、计算科学等基础上，在人工智能初期取得长足的发展，尤其在20世纪60年代到80年代，DENDRAL 、ELIZA 等专家系统的成功开发与应用，对人工智能走向工程应用具有特别重要的意义。

计算智能，即依据形象思维的联结主义，也称为神经网络AI。联结主义受脑科学的启发，通过建立人工神经网络，模拟神经元在人类大脑中的工作方式。联结主义的基本思想是通过对海量数据进行归纳式学习，从数据中挖掘智能。2012年，深度学习在计算机视觉和智能语音上取得重大突破，打开了人工智能商业化的大门，使神经网络成为现代人工智能的基础。

平行智能，即依据感知思维的行为主义。行为主义认为，人类智能是基于对环境的学习和适应得出的，因此，通过模拟人类的环境交互方式来让机器学习，可以实现机器的智能化。行为主义是20世纪末才以人工智能新学派的面孔出现的，其中，布鲁克斯的六足行走机器人是行为主义的代表作之一。

AI的三大基本技术流派的立意不同、实现逻辑不同，但发挥到各个领域，又各有所长。符号主义注重数学可解释性，应用在知识表示推理等领域；连接主义偏向于模仿人脑模型，应用在如图像、语音识别等领域；行为主义偏向于应用和身体模拟，应用在机器人、自主控制系统等领域。

经过70多年的发展，尤其是新的算法设计和软硬件的飞速发展，人工智能已经从简单的信息处理转变为智能交互，尤其是取得三大标志性技术的技术突破：机器学习、深度学习和大模型。

“深蓝”计算机，全球第一台计算机象棋系统。

机器学习。20世纪90年代，机器学习成为AI研究的核心领域，决策树、支持向量机（Support Vector Machine, SVM）等机器学习算法实现重要突破，适用于分类和回归任务。1997年IBM的Deep Blue 战胜了国际象棋世界冠军加里·卡斯帕罗夫，标志着机器在复杂任务上的学习和决策能力的突破，推动AI在商业场景的应用。

用于视觉对象识别软件研究的大型可视化数据库。

深度学习。2006年，由于计算能力的增强和大规模数据的可用性，深度学习经历了一次复兴。杰弗里·辛顿（Geoffrey Hinton）和他的团队提出了一种名为“深度信念网络”的模型，在图像和语音识别等领域取得了显著的性能提升。2012年，谷歌的深度学习模型AlexNet在ImageNet 比赛中大获成功，引发了深度学习模型的热潮。2016年，AlphaGo战胜围棋世界冠军李世石，证明了深度学习模型在复杂智力游戏上的优秀表现。

生成式人工智能，是人工智能从1.0时代进入2.0时代的重要标志。

大模型。这是一种基于深度学习模型结构Transformer的技术，用于生成人类语言。它在2018年开始流行，其特点是通过自监督学习在大规模无标注数据做预训练，得到基础模型，再利用下游任务的有标注数据进行有监督学习。2022年11月，美国人工智能研究与开发公司OpenAI发布对话机器人ChatGPT，即聊天型生成式预训练转换模型。从算法分类上来讲，它属于生成式的大规模语言模型。ChatGPT在短短2个月内便吸引了上亿月活跃用户，成为人工智能界现象级热点，是AIGC 的重要产品化应用。人工智能技术或走向融合，符号主义提供逻辑指导，联结主义作为强大的计算支撑，二者又共同作用于行为主义，充当机器人的大脑和“记忆宫殿”。在多种技术综合利用下的组合式AI，是当今最符合市场期待的方向。

大模型的智能涌现

2022年对AI技术来说是“涌现”发生的一年。涌现是混沌系统中的一个重要概念，简单说就是会出现一个量变到质变的过程。比如一只蚂蚁本身并没有太多的“智能”，但当成千上万只蚂蚁组成蚁群时，其展现出的智能水平令人惊叹。在AI领域，研究者发现当模型参数规模和数据规模突破某些临界值时，一些能力指标会迅速提升，从而呈现出涌现效应。这种应用涌现背后的原因，就是当某种技术的进步刚好跨越了应用对于该技术要求的最小阈值后，一整片新的应用的天地就被豁然打开了。

Publisher-Generated Content，专业生产内容。

User-Generated Content，用户生成内容。

在互联网的浪潮里，我们已经经历了从PGC 到UGC 的转变，现在正在经历从UGC到AIGC的转变。技术能力的涌现，必将引发新一轮应用的涌现。

NLP领域的智能曙光

国际知名的认知科学家侯世达在一次公开采访中提到，“理论上计算机能做到像人一样思考，只是现在还未做到”。现在的关键问题是，我们如何让机器像动物和人类一样理解世界的运作方式？如何将数据转化为知识表达，通过推理和规划实现预期目标的记忆和泛化？人工智能是否可以将复杂任务分解为子任务序列来规划复杂任务？能否做出决策并采取行动，尤其是预测行动的后果以优化执行，从而达成预期目标？

ChatGPT是AI技术发展史上的一个里程碑，首次在大规模语言生成式模型中很好地解决多样的开放任务。其展现的能力令人赞叹：特斯拉公司（Tesla）创始人兼首席执行官（CEO）埃隆·马斯克感到震撼，他公开表示ChatGPT“厉害得吓人”；比尔·盖茨将ChatGPT的重要性类比为互联网的发明，并发文称“人工智能时代已经开启”；英伟达公司（Nvidia）首席执行官黄仁勋称ChatGPT为“AI的iPhone时刻”。根据麦肯锡公司的调研，ChatGPT可能每年为全球经济增加2.6万亿到4.4万亿美元。OpenAI和宾夕法尼亚大学（University of Pennsylvania, UPenn）的一项研究估计，它可能影响美国超过80%的工人每天执行的10%的工作或任务。

隶属数据驱动的开普勒范式

自主人工智能（Autonomous Artificial Intelligence）：能够自适应地应对外界环境挑战的人工智能。自主人工智能可以类似动物智能，称为（特定）动物水平的自主人工智能，也可以与动物智能无关，称为非生物自主人工智能。

超人智能：在人类智能所有方面都已经超越人类的通用人工智能。

大模型对人工智能的机遇，是否意味着人工智能的颠覆式创新？是否意味着自主人工智能，甚至超人智能的到来？要回答这些问题，我们还要从理解科学研究的范式出发。

自17世纪以科学为中心的社会变革以来，开普勒范式和牛顿范式是科学研究的两大基本方法。开普勒范式强调数据驱动的方法，人们通过对数据的分析来提取科学发现。例如，开普勒基于数据驱动的方法总结并研究了行星运动的定律。在现代科学中，生物信息学的成功为开普勒范式提供了更多令人信服的例证。牛顿范式则注重基于第一性原理的方法，旨在发现支配我们周围世界或感兴趣事物的基本原理。牛顿、麦克斯韦、玻尔兹曼、爱因斯坦、海森堡和薛定谔等科学家的研究工作是牛顿范式的最好例证，而对当今一些杰出的科学家来说，牛顿范式仍然是一个主要的研究方式。

随着统计方法和机器学习的进步，数据驱动的开普勒范式已成为一种非常强大的工具。它对于查找数据中的事实规律非常有效，但对于帮助我们找到事实背后的原因却不太有效。另外，基于第一性原理的牛顿范式旨在理解最基本的层次。特别是在物理学领域，所有的研究都是由对这些基本原理的追求所驱动的。一个转折点是1929年量子力学的建立，正如狄拉克所宣称的那样：有了量子力学，我们已经掌握了除物理学之外的大部分工程和自然科学所需的基本原理。

开普勒范式和牛顿范式的对比，可以启发我们对于大模型及人工智能领域发展的深刻思考：大模型是一门技术，而不是科学，科学是以发现本质规律为目标的，而技术是以解决某个问题为目标的。大模型，如ChatGPT，具备了强大的语言生成和理解能力。它通过大量的训练数据和深度学习的算法，实现了前所未有的文本处理能力。这样的模型能够在不同的场景中生成类似人类的回答或产生创造性的文本，使得人类与机器的交互更加智能和自然。

立足大数据统计正确性

ChatGPT说明基础大模型是必须的，而且这个基础大模型需要有足够多的参数，也就是足够大的容量。当容量够大后，大模型在零样本，或少样本的泛化性确实好，并“涌现”多项能力。

大模型提供了一种接近通用人工智能的可能方式。GPT系列是OpenAI公司推出的生成式语言模型，每一代GPT相较于上一代模型的参数量均呈现出爆炸式增长。除OpenAI，还有许多组织在探索大模型，如谷歌发布Switch-Transformer、百度发布ERNIE 3.0、华为发布Pangu、智源发布CPM，阿里巴巴发布PLUG。此外，谷歌在OpenAI之后发布了聊天机器人Bard。复旦大学则推出了类ChatGPT的MOSS模型。

这里指文本中最小的语义单元，在文本处理中，Token可以是一个词语、数字、标点符号、单个字母，或任何可以成为文本分析的单个元素。文本元素的数量超过1时，常用Tokens表示。

GPT-3.5是OpenAI设计的一系列NLP模型中的第四个，基于“人工标注数据+强化学习”进行推理和生成。

高质量数据与强大算力支撑依然是大模型的关键瓶颈。在数据方面，目前开源的预训练数据或多或少存在噪声问题，特别是爬虫数据噪声问题严重，如何对预训练数据进行高质量的清洗和去重，是目前数据处理的核心与壁垒。OpenAI和Google使用的高质量预训练数据集是闭源，无法获得，例如Google公司训练Chinchilla中使用的2.1太字节（TB）的图书数据库、3.1TB的Github数据；OpenAI公司GPT预训练数据集达45TB（Token 数）。在算力方面，ChatGPT使用的GPT-3.5模型在微软云计算服务Azure AI的超算基础设施（由V100GPU组成的高带宽集群）上进行训练，GPT-3.5总算力消耗约3640PF-days（即每秒一千万亿次浮点计算，运行3640个整日），需要有上万个CPU/GPU24小时不间断地输入数据，这需要7～8个算力500P的数据中心才能支撑运行，所需能耗相当于开车往返地球和月球的能耗。

继数据库和搜索引擎之后，ChatGPT展现出新一代“知识表示和调用方式”，代表自然语言处理研究范式的进阶。自然语言最开始基于小规模专家知识的方法，逐步转向基于机器学习的方法，如图1-3所示。机器学习方法也由早期浅层机器学习算法转变为深度学习算法。为了解决深度学习算法需要大量标注数据的问题，2018年开始又全面转向基于大规模预训练语言模型的方法，其突出特点是充分利用大模型、大数据和大计算，以求获得更好效果。

图1-3 自然语言处理研究范式的发展历程

资料来源：哈尔滨工业大学《ChatGPT调研报告》，马上消费人工智能研究院。

大模型将赋予众多人力量并带来生产力的增长，它对于工业界和人们生活场景的改变注定是深远的，同时将对全球经济恢复做出巨大的贡献。

从单模态生成到多模态融合

“模态”（Modality）是德国物理学家、生理学家亥姆霍茨提出的一个生物学概念，即生物凭借感知器官与经验来接收信息的来源或者形式。人类对世界的感知和认知是多模态的——我们看到物体（视觉），听到声音（听觉），感受纹理（触觉），闻到气味（嗅觉），品尝味道（味觉），产生了立体的体验。目前，人工智能研究主要（但不完全）关注三种形式的模态：可以书面或口头表达的自然语言；用图像或视频表示的视觉信号；编码声音和似言语信息的声音信号，如韵律和声音表达。为了让机器理解和生成更符合人类感知和交互习惯的内容，人工智能正在从语音、文字、视觉等单模态智能，向着多种模态融合发展。

生成式模型和判别式模型是近几年具有重要影响力的预训练NLP模型，如表1-1所示。其中，GPT-1由OpenAI于2018年6月发布，BERT是同年10月谷歌AI团队推出的。两者都基于Transformer模型架构，但是GPT以生成式任务为目标，类似于“单字接龙”，主要是通过文本上文预测下一个词完成语言生成，语言生成连贯、丰富，如聊天、写作等；BERT模型采用双向上下文编码策略，主要方法类似于“完形填空”，即模型能同时考虑到前后文的信息，从而更好地理解句子中的语义和上下文关系，强调语言理解相关的任务，在多项自然语言处理任务上取得了令人瞩目的表现，如问答、语义关系抽取、命名实体识别和文本分类等。

表1-1 GPT和BERT是两类语言模型的典型代表

资料来源：马上消费人工智能研究院。

历史版本上，GPT的模型效果表现弱于BERT，但OpenAI坚信生成式技术的优势，并不断迭代改进模型。生成式模型选择了基于上文信息的单向编码，导致其可控性较差、训练难度较大。然而，OpenAI仍将目光放在生成式模型的通用应用范式和训练过程更接近实际部署等技术优势上，并持续地进行迭代和部署工作。

从GPT-1到ChatGPT再到GPT-4Turbo

从GPT-1到ChatGPT再到GPT-4Turbo的发布历程（见图1-4）清晰地呈现了大模型从单模态生成到多模态融合发展的趋势。

图1-4 OpenAI模型发布时间线

资料来源：OpenAI官网，马上消费人工智能研究院。

2018年6月发布GPT-1模型，明确了“无监督预训练+有监督微调”的训练基本范式，而仅4个月后被谷歌的BERT模型全面超越。

2019年2月发布GPT-2模型，将参数规模由1.17亿提升至15亿，并意外地展示出在提升训练数据和参数规模后，GPT模型能够“无师自通”地迁移到其他类别任务上（零样本学习，Zero-Shot Learning）。虽然GPT-2的整体表现仍不如BERT，但零样本学习能力的出现证明了基于生成式范式走向通用人工智能的可行性，因此OpenAI决定继续扩大模型规模，开启了GPT模型向更大容量扩展的技术发展路径。

2020年5月发布GPT-3模型，模型参数增加到1750亿，展现了“提升学习”这一新特点，并进一步验证了大训练参数能明显提高GPT-3模型的准确性。然而，GPT-3对于人类指令的理解还不够好，生成效果距离实际应用仍有很大差距。实际上，由于BERT采用了上下文双向编码，获得的信息量更多，在传统的自然语言处理任务中，例如文本分类、命名实体识别（Named Entity Recognition, NER）上的表现占优，业界对BERT模型的认可度较高，大多数都沿着“无监督训练”和“下游任务微调”的研究范式进行开发。但OpenAI认为通过预测下一个词的生成式训练更接近人类智能的过程，并有机会走向通用人工智能，依旧坚持以生成式任务为目标。

2022年11月OpenAI发布了ChatGPT，产品十分惊艳，引发了轰动效应。ChatGPT是基于GPT-3.5架构，综合机器学习、神经网络等技术的大规模预训练语言模型，能够实现代码生成、文本问答、内容撰写等数字内容，属于AIGC。从产品形式看，ChatGPT是一款实现聊天功能的软件应用，但对其深入理解应突破产品应用这一局限，要升华至新一代人工智能技术层面。从技术层面看，“GPT”可以这样理解：G是Generative，指生成内容，不同于搜索引擎，它根据现有字段预测下一个字，再将自己生成的下一个字和之前的字段组合，并不断循环直至完成，而非仅匹配数据库现有内容；P是Pre-Trained，指预训练，代表模型已经完成某些相关材料的训练；T是Transformer，指底层的深度学习模型。

2023年3月OpenAl发布了超大规模预训练大模型GPT-4，能够接受图像和文本输入，生成文本，并在同年9月发布具有视觉功能的GPT-4V，从处理纯文字模态到图生文模态，GPT-4V展现了语言模型在图片模态上也具备强大的处理能力，如图1-5所示。

2023年11月7日，OpenAI在首届开发者大会上正式发布升级模型GPT-4Turbo，该模型在上下长度、可控性、知识结构、多模态、定制化和响应时间这六大层面进行了优化升级。此外，OpenAl在官网提及，GPT-5的研发将增加文生图模态，以实现对整体图片模态的支持。对比基于扩散模型的文生图模型（如Dalle·E2），GPT-5预计将基于Transformer架构实现，意味着其语言与图片模态可以在底层实现更好的统一。

图1-5 GPT-4V可以处理交错的图片和文本信息

资料来源：微软《The Dawn of LMMs：Preliminary Explorations with GPT-4V（ision）》，马上消费人工智能研究院。

多模态智能涌现

多模态模型本身就意味着更多的可能性和交互，展现出更多的可能性。自2017年Transformer架构提出以后，主流的大模型主要集中在文本模态上，主要是文本数据具备易获取和相对较高信息密度的优势。然而，随着NLP模型的智能涌现，人们对于更多模态的智能需求不断涌现。而大规模数据利用已经消耗了大量的文本信息，单纯依赖文本的训练会受到数据量的限制，什么是新的可替代的“数据能源”？文本像数据界中的“石油”，而视频就像数据界中的“太阳能”。

事实上，自ChatGPT发布以来，全球AI算法的迭代一直保持着快节奏。2023年3月，谷歌联合柏林工业大学团队，发布了多模态具身视觉语言模型PaLM-E，该模型集合了可控制机器人的视觉和语言能力，参数量高达5620亿。2023年3月微软提出KOSMOS-1，可以完成文本学习、文本生成等任务，还能够将文本以外的模态（如视觉图像、语音）嵌入模型中。2023年7月19日，元宇宙（Meta）发布了多模态开源对话模型（LLaSM），支持中英文语音与文本多模态交互，以及多模态开源对话模型Chinese LLaVA，支持中英文视觉与文本多模态对话。谷歌在其新一代Gemini模型的研发中，亦将支持图片模态的多模态能力。

从技术角度出发，多模态大模型在文字部分基本沿用了目前语言模型的预训练架构，而在图片部分会使用类似于ViT的Patch Embeddina等方法将图片分割为小像素块再交给模型进行预训练。接下来，多模态模型会使用不同的方法将文字和图片的输入进行对齐。如T5、CIiP的部分变体等模型会采用交叉注意力的技术使模型在理解一种模态内容时考虑到另一种模态的上下文，帮助模型在处理一个模态的同时，捕捉到与另一模态的直接关系，实现真正意义上的理解。

在工业和信息化部办公厅关于组织开展2023年未来产业创新任务揭榜挂帅申报工作的揭榜任务中，通用人工智能的未来产业重点产品包括多种模态：语言模态以知识为中心，通过上下文编码、动态记忆机制等核心技术，提升语言认知的智慧涌现水平；语音模态具有高通用性和高解释性的通用语音表征和信息解耦合特性，支撑更广范围的泛化性；视觉模态突破静态向动态的范式升级，形成支持三维视觉理解、推理加速和统一生成的底层基础模型架构；而多源多模态实现文本、图像、视频、语音等异构数据间的语义对齐，全面提升大模型协同并行的工程效率、性能。

大模型将越来越多地涉及跨模态的信息融合，同时处理文本、图像、语音和其他传感器数据，可聚合多元数据信息，提升大模型表征空间的精确度，以更全面地理解世界和实现更丰富的智能交互。

大模型的机遇和趋势

以大模型为代表的人工智能发展呈现出技术创新快、应用渗透强、国际竞争激烈等特点，展现出强大的赋能效应。

大模型浪潮主要是由ChatGPT引发，此后全球各类企业、科研院所等机构加速布局各自的大模型技术和产品，并呈现大小模型协同进化的新趋势，业界普遍认为通用人工智能的“奇点”到来了。

技术内涵

大模型是一种高度优化的机器学习模型，其底层的技术，包括Transformer、监督微调训练、强化学习等，已在人工智能领域有广泛的应用。具体来说，大模型包含了“大规模”和“预训练”两层含义，即模型在大规模的语料库上完成了预训练后仅需要少量数据的微调，就能直接支撑各类任务。

大模型是“大数据+大算力+强算法”的结合，通过在海量数据集上做预训练来学习复杂的模式和特征，它能够挖掘并生成新的数据资产价值，具备压缩海量数据和更强大的泛化能力，可以对未见过的数据做出准确的预测，展现出强大的语言理解和生成能力。

大模型在各种领域都有广泛的应用，尤其在NLP、计算机视觉、语音识别（Speech Recognition, SR）和推荐系统等领域。随着大模型的快速迭代，相关技术内涵也被赋予新的特征，主要包括以下三点，如表1-2所示。

表1-2 大模型的技术内涵

资料来源：马上消费人工智能研究院整理。

模型大小：10亿级以上的参数规模

大模型技术能力快速迭代，参数量级经历了“亿级、十亿级、百亿级、千亿及以上”的四阶段爆发式增长。在ChatGPT大热之前，上亿的参数可被称为“大”；而在当下（2023年）的语境之下，千亿以上参数量级的模型越来越多，GPT-3的参数规模是1750亿；而涌现现象的下限是百亿级参数量的模型，例如金融大模型，10亿级参数量的模型就会有比较好的实践效果。在科技部新一代人工智能发展研究中心发布的《中国人工智能大模型地图研究报告》中亦统计了10亿参数规模以上的大模型，因此本书中将大模型参数规模超过10亿的统称为“大”或“超大”模型。目前，大模型参数竞赛处于“冷静期”，不再追求参数的单一增长。

训练方式：在大量数据上进行自监督预训练

传统的训练方法往往需要大量的标注数据来指导模型进行学习，但这种数据标注过程费时费力，且存在标注不准确或主观偏差的问题。相比之下，自监督学习利用数据内在的结构和关联性，通过设计巧妙的任务来生成伪标签，使模型在大规模未标注数据上进行自我训练，使模型能够学习到更有表达力和泛化能力的特征表示。在预训练后，模型可以根据具体任务进行微调，使其适应特定的应用场景，有效解决模型开发“作坊式”“碎片化”问题。

自监督预训练为大模型的发展提供了强大的基础，有助于任务更好地实现。而Transformer作为一种高效的架构，能够有效地处理这种大规模的预训练任务，是当前大模型领域主流的算法架构基础，并形成了三类主要技术方向：纯编码器（Encoder-only），以BERT为代表，侧重理解的双向模型；纯解码器（Decoder-only），以ChatGPT为代表，侧重单向生成；统一架构（Encoder-Decoder），兼容理解和生成的下游任务，主要包括语言模型T5。三类架构各有优势，难以说某一类架构占有绝对的主导地位，关键是把相应的技术发挥其最大价值。

训练数据：包含大量自然语言数据

自然语言是人类最为关键的特征之一，它是人与其他动物最显著的差别之一。从神话、宗教、货币、法律到国家等复杂的文明系统，都是通过语言进行组织和编码的。语言如同人类文明的操作系统。它本身也可以看作是一种高级编程语言，是人类知识和思维的重要表征和工具。尽管当前大模型正在向多模态发展，但它仍然需要大量的自然语言文本数据进行训练。语言数据为大规模语言模型提供了强大支持和学习基础。基于自然语言的理解和交互，大规模语言模型能够更好地应用于各种类型的任务中。

演变趋势

大模型的演进正呈现日新月异的变化，基座大模型的发展和上层生态高度耦合，共同推动数字世界和物理世界的加速融合与协同。

从技术扩张走向生态平台建设

自2022年年底ChatGPT发布以来，大模型引发全球数字科技界的极大关注，不到一年的时间内全球范围的大模型发布数量超过一百个。以中国发布的大模型为例，截至2023年5月中国10亿级以上的公开大模型达79个，而这一数字迅速增长，至2023年11月底，短短半年时间国内公开AI大模型已超200个。在OpenAI的首届开发者大会上，其首席执行官山姆·奥特曼（Sam Altman）提及全球大约有200万开发者在利用OpenAI提供的大模型应用程序接口（Application Programming Interface, API）构建各种应用系统，在世界500强企业中，有超过92%的企业在使用OpenAI的大模型。可见，大模型在完善基座技术能力的同时，正在持续进行应用开发生态的平台建设。

数据、算法、算力、生态等要素的发展，为大模型的突破提供了外在条件。然而，大模型工程实践复杂，亟须科学有效的落地路线作为参考。如何在基础设施、服务能力、评价管理等方面给出参考路线图，帮助行业用户构建大模型落地方法论，提升大模型的应用效能，在当前阶段显得尤为重要。

共同走向可持续发展的未来

当前，大模型的安全问题成为各方关注的落地应用焦点。从OpenAI发布的GPT-4技术文档结构看，OpenAI并未对GPT-4模型本身做过多介绍，而是将大量篇幅留给模型安全性相关讨论。随着模型规模和能力的提升，大模型在大规模应用的过程中将暴露出更多安全方面的问题，成为大模型可靠性落地的重要关注点。

未来，大模型会走向小型化、垂直化和轻量化。随着人工智能技术的不断发展和应用场景的多样化，对于大模型的尺寸、应用领域和效率方面提出了新的要求。小型化的大模型更适合于嵌入式设备、移动设备和边缘计算等资源受限的环境；垂直化的大模型能够更好地应对特定行业的需求，提供更高效、准确的解决方案；轻量化的大模型则能够更好地满足资源受限场景下的需求，实现高效的部署并保持较高的性能。综上所述，小型化、垂直化和轻量化是大模型未来发展的重要方向，可以为不同的应用场景提供更高效、个性化的解决方案。

大模型作为新兴技术，仍存在多类问题亟待研究和解决，但总的来说，大模型的演变趋势将聚焦于实现更高效的训练和部署、更高水平的智能、更广泛的适用领域。

应用逻辑

大模型在商业应用中的价值和重要性越来越引起人们的关注。尤其在金融、医疗、能源等领域，大模型逐渐成为企业提升效率、降低成本、提高竞争力的有效工具。与此同时，大模型的商业应用逻辑也开始逐渐呈现出多样化、定制化的特点。企业需要根据自身需求和行业特点，选择合适的大模型，或是定制开发自己的大模型。因此，理解大模型的商业应用逻辑，对于企业在人工智能领域的发展具有重要意义。

明确大模型的优劣势，制定短中长期应用策略

大模型的发展为人工智能的普及和应用提供了重要的支持，但在取得更大的突破之前，仍需要更多的研究和技术上的创新。目前阶段，大模型呈现一定智能但非万能（如图1-6所示）。以ChatGPT为例，其达到了“对普通人友好的阶段”，在技术实现了组合式突破，并非颠覆式创新，但是它面向广泛用户并实现“机器友好”，短期看大模型是降本增效的新生产力工具，长期看它将带来新一代数字服务的生产范式，可以说大模型的应用比技术的想象力更大。在抢抓大模型的应用机遇上，首先要确定其优势、局限性和潜在挑战。

在自然语言的理解和生成方面，目前的GPT模型在生成能力方面比人类强，但在理解能力方面不如人类。自然语言表达本身变化多端，对同一个意思，可以通过多种不同的表达方式进行表达，GPT现在基本能做到不答非所问，对于自然语言指令的解释和翻译，比较成熟。根据相关实验测评，目前针对同样一个任务，人们更青睐于GPT生成的回答。然而，在自然语言理解方面，GPT模型仍然有一些挑战，在自己生成的答案中，继续问其中相关的问题，GPT在回答的一致性方面远低于人类的平均水平，这也侧面表示用LLM进行推理困难。

图1-6 大模型的能力评价

资料来源：马上消费人工智能研究院整理。

在知识（内嵌或外挂）提取和应用方面，GPT模型多用于自动标注和知识助手问答等任务，这方面的应用相对比较成熟。然而，GPT模型在知识提取方面仍存在一些问题。一方面，GPT模型在召回问题和漏召回方面仍不够准确和完善。这意味着在从大量知识中提取相关信息时，它可能会遗漏一些重要的内容或者提取出一些不相关的信息。另一方面，GPT模型在理解和处理图表信息方面的能力相对较弱。理解图表信息需要对不同数据类型和结构进行准确的解析和推理，目前的GPT模型在这方面还有待进一步提升。虽然GPT-4号称可以处理更长的上下文，但处理长篇文本和跨越问题（超出给定长度进行选择）仍然是一个困难的挑战，尚未得到解决。

在智能体能力方面，目前GPT模型在问题推理拆解方面还不够成熟，主要是稳定性不够好。智能体是指一个能够感知环境并根据感知信息自主行动以实现预定目标的系统。其中，智能体的核心是能自主设定目标，并能对目标进行问题的合理拆解、计划和执行。一些框架和协议，例如langChain、langServer、langSmith等，有望促进智能体技术的进一步发展。然而，仅凭框架本身并不能提高智能水平，一个智能系统的整体智能水平由其最差的模块决定。良好的框架可以提高开发效率和维护性，但仍需要具备良好的智能模块才能实现高水平的智能体能力。

短期应用“大模型+”场景，构筑差异化竞争能力

大模型技术取得阶段性成果，从爆款应用走向商业泛化落地，AI大模型应用呈现“百花齐放”的局面，各类“大模型+”集成创新产品加速涌现。

微软在New Bing中集成ChatGPT类大模型技术，并将ChatGPT集成到Office办公软件中。谷歌也迅速行动推出了类似的Bard与之抗衡。除此之外，苹果、亚马逊、元宇宙等企业也均在积极布局大模型技术。

在国内，百度发布文心一言；阿里巴巴发布了千亿级参数大模型通义千问2.0版本，并集成在智能编码助手、AI阅读助手、工作学习AI助手、个性化角色创作平台、智能投研助手、智能客户服务、个人专属健康助手、AI法律顾问等产品落地；华为盘古大模型聚焦实业；腾讯表示正在研发类ChatGPT的对话机器人，计划集成到QQ、微信，并通过腾讯云向B端用户服务；京东推出产业版ChatGPT；科大讯飞在2023年5月正式发布星火认知大模型，经过持续迭代，先后推出V1.5、V2.0、V3.0版本，并在星火科研助手、AI心理伙伴、讯飞AI学习机、AI健康助手等应用场景实现落地；网易表示其已经投入大模型技术在教育场景的落地研发。一时间，“大模型+”产品带来AI旅程重塑和体验优化。

在大模型时代，对那些既不拥有大模型也不拥有私有数据或世界模型的公司来说，它们很可能很快会被淘汰。2022年11月7日，OpenAI正式宣布搭建GPT版应用商店，推出定制版GPT和简化开发工具Assistant API，降低了开发定制GPT的门槛，形成“大众版”软件生态。如此一来，依托OpenAI、谷歌等大公司提供的基础大模型能力，进行“套壳”开发的创业公司，以及简化开发过程的公司将面临生死存亡的压力。

那么，企业需要掌握什么样的大模型能力？围绕落地场景，大模型的技术竞争优势呈现三大能力方向：一是GPT功能私有化，私有化部署一个水平还不错的LLM，并进行持续学习和全量参数微调变得至关重要；二是LLM深层个性化，主要强调“组合式AI”；三是合规安全的科学决策，通过工作流（work flow）自动化和混合推理，实现Agent能力的第一步。

长期探索AI Agent新范式，实现数字生产新范式

斯图尔特·罗素，美国加州大学伯克利分校计算机科学教授、人类兼容人工智能中心（Center for Human-Compatible AI）主任，其著作《人工智能：一种现代的方法》被誉为人工智能领域最受欢迎的教科书，被135个国家和地区的1500多所大学采用。

展望未来，大模型提供AI Agent新基座，推动制造更复杂的机器，实现更自动化、拟人化的智能。斯图尔特·罗素（Stuart Russell）在《人工智能：现代方法（第4版）》中将智能体定义为通过传感器感知环境，拥有丰富的知识和认知并通过执行器作用于该环境，具备自主性、可学习迭代、可制定并实现目标。

过去，Agent在传统强化学习框架下实现特定领域的专业任务，但Agent并未真正理解问题和技能，泛化性和适应性表现欠缺，整体处于发展的早期阶段。当前，大模型“画龙”，小模型“点睛”，基于大模型的智能体是重要的应用方向，大模型带来深度学习新范式。

SWXY＆ALESSIO.The Anatomy of Autonomy：Why Agents are the next AI Killer App after ChatGPT[EB/OL].（2023-04-19）[2024-02-01].https：//www.latent.space/p/agents#footnote-1-115776561.

大模型时代的AI Agent=LLM（核心控制器）+感知+规划+行动+反馈，以大模型为核心控制器，借助其自然语言理解和生成、上下文学习（In-Context Learning, CoT）、思维链（Chain-of-thoughts, CoT）推理等能力让Agent具备强大的学习能力和迁移能力，推动自主人工智能，打开了人类与人工智能共处的更多想象空间。

以客户服务场景为例，一个典型的“引导-规划-执行-反馈”循环来实现AI Agent服务的思路如下：

首先，我们训练一个LLM模型，其输入是用户的对话，输出是由LLM生成的工作流图。这个LLM模型的训练需要利用相关文档过去的实例，作为整个系统中的关键智能部分，即规划部分。通过利用LLM的生成和泛化能力，我们能够解决过去通过人工配置的工作流只能应对有限数量和模板的问题，无法实现灵活匹配到最优工作流并尽可能包含所有需要的工作流的目标。

其次，引入工作流检测模块，用于检查、补全和完善工作流。如果出现明显问题，系统会返回让LLM模型重新生成工作流。

然后，通过工作流控制模块来执行整个工作流的每个步骤。具体的步骤执行会通过与企业内部各种工具的接口进行操作，例如查询数据库、执行脚本或与用户进行交互，以获取额外的信息，即执行部分。

同时，如果在工作流执行的过程中需要与用户进行对话，系统会调用LLM对话模块来生成有上下文并且变化较少的不呆板的话术，以提供更好的用户体验。

最后，通过准确判断是否真正解决了用户的问题来进行反馈。如果问题解决了，这个交互将作为一个正样本，用于后续训练LLM模型；如果未解决，将作为一个负样本。这个反馈可以根据实际结果生成用于LLM模型进行强化学习训练的样本，使得LLM模型能够随着用户使用变得越来越智能，即反馈部分。

ChatGPT的成功证明了生成式大模型的进化，其重要性体现在AI对人类传达信息的载体有了更好的学习，在此基础上各个媒介之间的互通成为可能。例如从自然语言生成编程语言，可以产生新的人机交互方式；从自然语言生成图片和视频，可以革新内容行业的生产范式。

产业生态

大模型验证通用人工智能的可行技术栈，助推实体经济基于大规模数据的生产力革新和商业模式重塑数据已然成为国家定义的新型生产要素，已成为经济发展的新引擎和国际竞争的新焦点。

Gartner公司是全球领先的技术咨询机构之一。自1995年以来，该公司每年都发布技术成熟度曲线（Hype Cycle），这一曲线为用户提供了对新兴技术的洞察和评估，被广泛认为是Gartner最受关注和认可的报告之一。

Gartner曲线
与大模型技术周期

我们看到，GPT为代表的大模型技术作为新兴技术，快速进入Gartner曲线的技术萌芽期，并呈期望膨胀发展的态势。

基于Gartner曲线评价，大模型正处于期望膨胀期（Peak of Inflated Expectations），要提防“过早放弃”的产业化误区。根据表1-3，多项指标显示大模型正处于技术期望膨胀巅峰期，同时，Gartner发布的2023年人工智能技术成熟度曲线上，生成式AI也处于曲线第一个波峰位置，如图1-7所示。

▼表1-3 基于Gartner技术指标判断大模型周期

▲图1-7 Gartner技术周期和相关误区

事实上，部分企业因ChatGPT的快速走热而跟风采用大模型技术，但并未明确其潜在价值，甚至存在技术的不恰当使用，乃至一些负面影响。根据Gartner曲线，高峰之后即是低谷，随着越来越多的企业认识到技术产业化的挑战，一些较为负面的案例逐渐增多，大模型技术或将进入低谷期。

技术的曲折发展是创新预期和产业现实的周期性规律，我们即将迎来大模型产业化最艰难的时期。面对技术风险和潜在收益的不确定，控制好节奏、根据问题反馈坚持优化显得尤为重要。

大模型产业生态聚沙成塔

一时之间，以大模型为核心的数字产业创新迅速迭代进化，驱动新一轮产业升级和经济增长。大模型产业生态呈现多元化态势，短时间内迅速形成“基础设施-模型开发-应用创新-标准认证-开源社区”的创新生态，如图1-8所示。

在基础设施方面，高端图形处理器（GPU）芯片、云计算服务提供商是直接受益者，推动模型即服务（Model as a Service, MaaS）的商业模式。短时间看，算力是国内大模型的发展瓶颈，长期可依赖国产化解决。

全称为Large Language Model Meta AI，是由Meta AI发布的一个开放且高效的大模型。

模型层方面，多个大模型并存，第一梯队挖掘多模态模型，提高复杂推理能力，第二梯队处于迅速追赶阶段。从应用领域的角度来看，大模型可以分为两类。第一类是通用大模型，具有强大的泛化能力，能够在不进行微调或仅进行少量微调的情况下应用于多个场景任务，解决广泛领域的问题，相当于AI的“通识教育”，例如ChatGPT、LLaMA 、文心一言、盘古大模型等，它们的参数量通常在千亿以上；第二类是垂类大模型，包括行业大模型和领域大模型。行业大模型一般都经过特定领域数据的微调，因此其更加专注于某一特定领域的知识和应用，相当于AI在通识教育的基础上完成“专业教育”，能够满足在能源、金融、制造、传媒等不同领域的需求，如金融领域的BloombergGPT、马上消费的“天镜”大模型等；领域大模型则针对具体的功能进行设计和应用，如知识处理大模型、工具大模型、决策大模型。

图1-8 大模型的产业生态

资料来源：马上消费人工智能研究院。

应用层方面，目前处于方兴未艾的发展早期阶段，相关实践主要集中聚焦特定领域。针对企业的ToB领域，着眼于对话和推理，这为新场景的出现创造了机会，也可以应用于外呼、客户服务和培训等传统场景。针对消费者的ToC领域，围绕生成能力涌现出很多创意工具，同时已有的社交媒体、教育和搜索等应用也在不断尝试引入对话式的交互方式。

金融大模型“百花齐放”

通用大模型竞争激烈，目前国内大模型尚未形成像OpenAI、谷歌一样的世界性影响力。大模型研发应用具有较强的马太效应、规模效应，正加速形成“一超多强”新竞争格局。“一超”，指的是OpenAI在技术领域的领先地位；而“多强”则主要关注细分赛道上多元竞争的局面，各家公司通过特定应用场景和特定能力的互补平衡来展开竞争，例如谷歌、微软正在产品化、生态化追赶中发展出垂类特色，而百度、商汤、华为等企业也积极加入，力争突破大模型国产化。

大模型的核心包括“数据+算法+算力+场景”，中国强大的市场需求优势为国内大模型的发展创造了更为广阔的场景生态。同时，随着通用大模型的竞争加剧，越来越多的开源大模型涌现，从而降低了垂类大模型的开发门槛。

通用大模型无法具备解决行业、领域等专业问题的能力，大模型一定会演化成“通用-行业-领域”的垂直化发展模式。金融领域首当其冲。《北京商报》发布的《2023金融大模型报告》中提到，金融业对大模型在金融领域中的应用非常看好，有95.45%的机构表示看好金融大模型的应用前景，且有超过一半的机构认为金融机构非常需要大模型的应用。

随着金融行业复杂性和数据量的增加，大模型的竞争将进一步加剧。在历经了2023年上半年激烈又多元的大模型论战后，如图1-9所示，截至2023年11月，全球各类金融机构与科技企业已经发布了20多个金融领域大模型，涵盖金融通用领域、投研决策、量化分析、智能交互等业务方向。

随着基础大模型的持续深化、优化以及科技企业的逐渐加码，可以预见的是金融大模型将在金融行业的各个垂直场景中绽放光彩，推动金融科技的持续创新和进步，为整个社会带来更加便捷、高效的金融服务体验。

图1-9 金融大模型应用竞争加速

资料来源：马上消费人工智能研究院根据网上公开资料整理。

第二章

大模型引发的金融大变革

动荡时代最大的危险不是动荡本身，而是仍然用过去的逻辑做事。

——“现代管理学之父”：彼得·德鲁克（Peter Drucker）

金融大模型风起

中国银保传媒股份有限公司和腾讯研究院联合发布的《2023金融业大模型应用报告》显示，大模型技术目前在金融领域的结合呈现多层次、多维度的发展特点，已全面渗透到金融行业的前中台通用应用、监管科技、个性应用、后台应用，包含渠道运营、营销管理、产品设计、资产管理、风险管理、开发与运维、监管科技、办公管理和通识工具等核心应用模块。

随着大模型技术的不断发展和优化，其在金融行业的应用场景将越来越丰富，从智能营销、金融信息查询，到财富管理、风险控制等多个领域，大模型都将赋予金融行业新的生命力和创新可能性，推动金融行业的数字化和智能化进程。

大模型形成金融新质生产力

习近平总书记于2023年9月7日在黑龙江主持召开的新时代推动东北全面振兴座谈会上强调：“积极培育新能源、新材料、先进制造、电子信息等战略性新兴产业，积极培育未来产业，加快形成新质生产力，增强发展新动能。”

“生产力”这一概念最初由马克思和恩格斯在1847年的《共产党宣言》中提出，讨论了生产力与生产关系的相互作用。习近平总书记提出的“新质生产力”是这一概念的进一步演进，指的是在人类社会发展过程中，由掌握新技能的劳动者、不断进化的新劳动工具、新劳动资料，以及新业务的创新驱动而形成的新型生产力。这种生产力代表了一种生产力的跃迁，科技创新在其中发挥主导作用，以发展高效能、高质量生产力。它区别于依靠大量资源投入、高耗能的粗犷型生产力发展方式，摆脱了传统发展路径，是符合高质量发展要求的生产力。它依靠创新驱动推动产业发展，体现了数字时代业务领域新、技术含量高的要求，体现了构建竞争新优势、以产业升级赢得发展主动的新思路。

新质生产力重塑生产和生活

新质生产力，以其鲜明的时代特征，正在重塑我们的生产和生活方式。

新质生产力以数字化和智能化的新技术为支撑。这些新技术包括电子信息、生物科技、新能源和新材料等领域的颠覆性技术，它们呈现出深度交叉融合、高度复杂和多点突破的发展态势，为社会发展提供了数字化智能化的新型基础设施。

新质生产力以数据为关键生产要素。数据因其独有的低边际成本、规律性和融合性的特点，能推动各行业的人才、生产工具、生产方式、业务形态的优化升级，进而推动生产力的持续创新。

新质生产力以科技创新为核心驱动力。在激烈的国际竞争中，我们需要通过科技创新开辟新的发展领域和新赛道，塑造新的发展动力和优势。

新质生产力以深化新技术、推动各行业应用快速发展为重要特征。互联网、大数据、云计算、人工智能等新型通用技术，正在对越来越多的行业和产业发展产生赋能效应，形成新质生产力。战略性新兴产业、未来产业成为培育和发展新质生产力的主阵地，同时也是抢占未来竞争制高点和构建国家竞争新优势的新赛道。新质生产力的影响具有广泛性和革命性。在数据和新一代技术的共同作用下，新的业态和模式不断涌现，传统产业持续转型升级，不仅在自然科学和生产力领域产生影响，更从根本上重塑着人类社会的劳动方式、生产组织方式、社会组织运行和社会制度体系，进而塑造人类文明的新形态。

大模型技术被视为新质生产力的引擎

快速发展的大模型技术被视为新质生产力的引擎，它为科技创新提供了强大的推动力。近年来，大模型成为人工智能领域的焦点和技术突破的典范，为基础科技领域实现新的突破提供了新的路径。在服务体验升级、自动策略优化、风险控制等领域，人工智能的广泛和深入应用得益于大模型和其他前沿科技的研发，创新的原动力作用也得到了充分肯定。

大模型驱动的技术发展，通过塑造新型劳动者，形成了新质生产力。一方面，大模型驱动的数字人技术可以创造出与人类不同的数字化、智能化的“劳动者”。在无人实验室和无人工厂中，具有一定自主性的智能机器人已经成为人类的得力助手。网络中的智能数字人，也可以大幅降低智能机器人落地各行业的边际成本。另外，培养适应数字经济时代需要的技术型复合型人才，有助于推动社会生产力创新。

大模型技术通过推动金融新技术、新生产工具的发展，形成新质生产力。大模型技术的应用，使得金融机构可以根据每个客户的行为和偏好，为其提供个性化的服务和产品推荐。同时，大模型可以实现金融服务的自动化，如自动回答客户的问题，自动处理客户的请求等。大模型通过深度学习和自然语言处理等技术，对海量金融数据进行分析和处理，从而提供更精准的决策支持。例如，它可以通过分析历史数据，预测市场趋势，从而为投资决策提供支持。大模型通过分析个人或企业的信用历史，预测其未来的信用状况，从而为信用评级提供依据，也可以从大量的历史数据中，学习和模拟风险模式，从而提供更准确的风险评估，提升金融机构的风险管理能力。大模型作为新质生产力，正在推动金融行业生产工具的发展，提升金融行业的决策效率和服务水平，同时也在推动金融行业的创新发展。

大模型正在渗透到金融行业的各个领域，通过赋能业务形成新质生产力。以ChatGPT为代表的生成式人工智能在两个方面实现了重要突破：一是通用性大大扩展，这种通用性建立在预训练大模型的基础上，并推动数据、算法、算力在业务层面深度融合；二是实现了与自然语言的融合，极大地降低了交互成本，使人工智能可以快速融入金融领域各个业务中。随着技术迭代创新，大模型将在更深层次上广泛赋能金融行业现有业务升级、新业务出现，不断形成新质生产力。

大模型引爆金融科技革命

从金融科技的发展史可以看出，新技术的出现及普及往往会驱动金融领域的需求、供给以及商业模式发生变化。大模型“涌现”出的语境理解、情绪感知、归纳、推理等通用能力为金融科技的发展开启了新篇章，即金融智能化阶段。以大模型为典型的AI应用为金融科技和整个金融行业带来了无限的创新思路和想象空间。

然而，深度学习算法的“黑盒”特性——模型内部参数的高度复杂性和不透明性使其运行的过程难以被理解，AI的应用过程也伴随着数据隐私、信息安全等问题的出现。面对AI技术带来的颠覆性创新优势和潜在的风险挑战，为了能够灵活掌控这把“双刃剑”，金融机构必须深入理解大模型与金融应用结合时与传统IT在技术属性、管理方式及架构设计上的差异，从而做好转型路径规划。

在大模型时代，如何将其与金融科技技术相结合以推动创新应用的落地成为一个重要的话题。大模型不仅为金融科技带来了新的变革机遇，也提出了一系列新的技术和业务需求，包括模型的可维护性、高性能和实时性，AI服务规模的可拓展性，AI服务的可靠性和容错性，以及模型的可解释性和审计能力等，如图2-1所示。

图2-1 大模型对金融科技技术新要求

资料来源：交通银行软件开发中心课题组. 与时俱进的金融科技：基于人工智能的新架构与治理思路. 经济与管理科学，2023，10：18-25.

模型的可维护性

模型的可维护性是指模型在生产环境中的稳定性和持续性。为了保证AI模型的持续有效和准确，行业需要建立一套完善的模型管理和更新机制，包括制品管理平台、版本控制、监控和优化等。这样可以确保模型及时应对新的业务需求和数据变化，从而提高模型的实用性和价值。

高性能和实时性

高性能计算（High Performance Computing, HPC）是指通过利用大规模的计算资源和并行处理技术来解决复杂问题的计算方法。在实时“大模型+金融”应用中，HPC可以提供强大的计算能力，以处理大规模的数据和复杂的算法，从而实现更快速和高效的人工智能计算。

服务规模的可拓展性

为了支持AI服务规模的扩展，利用云计算和分布式技术是必要的。例如，使用云服务、分布式计算和分布式存储，可以实现弹性的计算能力和大规模的数据处理能力。而采用微服务架构则可以提供灵活的服务组合和部署能力。这样可以满足金融业务规模不断扩大和业务需求不断变化的情况。

服务的可靠性和容错性

为了保证AI服务的稳定运行，行业需要建立一套服务管理和监控机制。例如，使用故障检测和恢复技术、数据备份和恢复技术等方法，可以提高AI服务的可靠性和容错性。这样可以确保AI服务在面临各种故障和问题时，能够快速恢复和继续提供服务。

模型的可解释性和审计能力

为了满足监管要求和提高用户信任度，AI模型需要具有良好的可解释性和审计能力。这意味着模型的决策过程必须是透明的，而且能够追踪和记录模型的行为。这样可以确保AI模型的决策是公正、公平和合规的，同时也可以提高用户对AI模型的信任度。

模型生成内容的安全和合规性

金融行业受控于强监管，业务的安全合规是重中之重，大模型技术的使用方需要解决模型生成结果的可控性问题，以确保数据安全合规。使用方需要提供多维度、多层次的综合安全保障机制，包括代码安全、算法安全、应用安全、数据安全、基础设施安全。为避免大模型生成违规内容，使用方需要有效提升模型的控制能力，实现大模型的安全、稳定、有效输出。

大模型重塑金融商业旅程

随着云计算、大数据、人工智能、物联网和区块链等新兴技术的深入应用，科技对金融的影响日益增强，创新的金融业务形态层出不穷，金融科技推动业务发展进入新阶段。对金融科技企业而言，新质生产力既是挑战，又是机遇，它的到来推动了金融科技迅猛发展以及业务形态持续更新，金融机构能否利用高速发展的技术来提升业务营收及核心竞争力，是其中的关键。

拥抱大模型，金融机构将在数据资产管理、产品和服务个性化、价值链效率、决策科学性方面迎来更大的发展空间。将大模型能力和金融业务场景融合是一个不断演进、探索的过程，同时各业务也将借助大模型的能力逐渐重塑自有业务形态，提升用户体验。

马上消费金融推出的“天镜”大模型在汇集智慧、唤醒知识、众创价值、数字分身四大核心领域已经成功落地相应的场景产品，包括在营销获客、风险审批、客户运营、客户服务、安全合规、资产管理这六个零售金融业最典型的业务场景，以模型和数据驱动业务，解决行业痛点问题。

汇集智慧主要应用于人工客户服务场景。通过大模型提炼萃取一线优秀人工客服经验，汇聚成群体智慧，从而拥有一对多服务客户的能力，也可作为人工客服的辅助角色提升客户服务员工个体的业务能力。人工经验存在各个业务领域中，传统技术很难挖掘使用，基于大模型强大的理解、归纳、总结能力，以及海量数据的储存和处理能力，可以汇聚个体智慧，转化为对业务有价值的信息，引爆各类数据的潜能，加快金融行业生产力的发展。

唤醒知识，主要是解决提取、利用各类文档中的数据资料的痛点。各种数据可以类比为金融企业的能源，通常可以分为两类：结构化数据、非结构化数据。结构化数据类似传统化石能源，信息密度高，依赖人工挖掘，大模型可以赋能数据工作者，帮助其理解、挖掘其中的潜在信息。非结构化数据类似新型化石能源，信息密度相对低一些，但是借助大模型等新技术手段，可以从中开采出来带给业务实际价值的优质信息。

众创价值，是为了降低使用数据的门槛。“天镜”大模型结构化查询语言（Structured Query Language, SQL）生成平台不再需要代码等专业指令，使用者可直接向AI说“大白话”，“天镜”大模型可自动理解需求、展开检索、生成答复，按照人的意思去完成数据挖掘的任务。

数字分身，旨在打造“数字外表+智慧大脑+情感内心”三合一的数字人，擅理解、有温度、懂心理的智能助手，或不休不眠的智能“打工人”。通过上传资料并定制一些参数，只需5分钟的数据训练，员工即可拥有自己的数字分身，大模型复制个体智慧，并代替员工完成各类工作。

同时，为了确保大模型在金融领域落地的标准化，马上消费作为推动行业大模型发展的核心单位，联合信通院、华为、百度、蚂蚁、科大讯飞、360等40余家企业正式发布国内首个金融行业大模型标准，为金融行业智能化发展提供了重要支撑，为全面促进大模型安全合规和可信发展提供了重要保障。

高质量的金融服务发展离不开数字技术、人工智能、大数据等高新技术的赋能。在这一过程中，金融机构不断加大科技投入，采用数字化思维重塑客户、渠道、业务、产品和管理等各个环节，以促进科技与业务的深度融合。以大模型为代表的新质生产力是金融业在适应经济转型和科技进步过程中不断进行自我革新和升级的表现，它提高了金融服务的效率和质量，推进了新的金融业务形态发展，更好地满足了用户的需求。

总的来说，以大模型为代表的新质生产力在金融领域的应用和发展，不仅改变了金融业的运作方式，提高了金融服务的效率和质量，也推动了金融业的创新与发展，并将持续发掘出新的商业模式和业务形态。

从理想到现实的风险与挑战

技术的进步往往伴随着机遇和风险。大模型在提升金融业务效率和生产力的同时，也带来了多重问题和挑战。在深化大模型和金融行业的融合时，有必要根据金融行业对技术的要求，从技术自身缺陷可能引发的风险、技术应用与金融行业可能的问题与挑战出发，梳理和探讨大模型在金融行业落地面临的困局。

大模型技术缺陷引发的应用风险

Grice H P.Logic and conversation[M].New York：Academic，1975：41-58.

生成“幻觉”，一本正经地胡说八道，影响金融决策的准确性。“幻觉”，源自英文“hallucination”，在这里指的是大模型在生成结果时，可能会产生无根据或错误的内容。这一现象违反了美国哲学家保罗·格莱斯（Paul Grice）提出的会话合作原则中的质量准则和关联准则。大模型的“幻觉”问题主要分为两种类型：内在性和外在性。内在性“幻觉”是指生成结果与信息源或上下文不一致，例如，生成的摘要或翻译结果与原文矛盾；外在性“幻觉”则是指生成结果与现实世界的事实不一致，例如，预测结果与实际市场走势严重偏离。

鲁棒性，影响决策的持续稳定和合规可信。鲁棒性，源自英文“Robustness”，在机器学习领域通常是指模型对于输入数据的微小变化或噪声的抵抗能力。如果一个模型具有良好的鲁棒性，那么即使在输入数据有微小变化或包含噪声的情况下，它也能保持较高的预测精度。提示词（Prompt）是当前连接人类与大模型的一座桥梁，使得大模型能以自回归的方式进行上下文学习。为了给出更准确的回答，大模型通过优化算法学习到数据中的复杂模式，使其对提示词非常敏感。例如，稍微改变一下示例的顺序，或者在文字中加入一点拼写错误，或者使用意思相近但不同的词语，都可能导致大模型给出完全不同的结果。而金融行业是一个高度专业的行业，模型的鲁棒性差，尤其是在对抗攻击（对抗攻击是指攻击者会向输入数据中添加一些微小的、不易被人察觉的噪声，使得模型对输入数据做出错误的判断）的风险下，可能导致错误的决策和预测，进而对金融市场和投资者造成负面影响。

“黑箱”大模型，模型能力不可控。模型的可解释性，通常指的是人类能够理解并解释模型的预测结果的程度，也被称为模型的透明度或可理解性。具有高度可解释性的模型意味着人类可以清楚地理解模型的工作原理，以及它如何根据输入数据来做出预测。大模型通常包含数十亿甚至数百亿的参数，这使得理解模型内部的运行机制变得极为困难。此外，大模型的训练过程通常涉及大量的数据和复杂的优化算法，进一步增加了模型的不透明性。在“黑箱”特性下，“幻觉”问题和鲁棒性导致的问题将更难被发现。如果企业控制不当，可能会引发灾难性的后果。

大模型在金融行业应用的合规挑战

隐私合规，规避用户或商业秘密泄漏风险。金融是强监管行业，安全合规是大模型落地的前提条件和重要保障。金融机构的数据包含了大量敏感的客户数据，因此在金融行业，数据的隐私性和安全性至关重要。而在当前，并非所有企业都有运营金融大模型的能力。如果需要借助其他企业的大模型的能力，就涉及行业数据的传输，也就存在数据泄漏风险。而金融行业对数据的安全和保密性要求非常高。大模型生成的模型和参数都需要进行有效的加密和安全保护，以保证金融数据的隐私和机密性。

大模型生成内容缺乏规范许可，引发版权风险。在金融行业中，大模型的应用涉及各个方面，比如投资管理、风险控制、客户服务等。在这些应用过程中，大模型可能会使用大量的金融数据和知识产权保护的信息。如果在使用这些数据和信息时未经授权或未经许可，就有可能触犯版权相关的法律，产生版权侵权风险。

大模型技术要素要求对金融行业提出了新挑战

大模型的技术门槛限制了其在金融行业的广泛应用。大模型的开发、训练、运营等过程需要大量的高质量数据和算力支持，而金融行业对数据的及时性有高要求，这就要求金融大模型快速迭代。因此，只有少数大型企业拥有足够的研发和投资实力来开展相关工作。

数据治理不规范，大模型“智能涌现”效果不佳。数据对大模型来说是原始知识库，知识库的好坏，直接决定了大模型的专业性。当前金融行业数据存在以下问题，影响了大模型在金融行业的应用落地。首先是数据治理链路不清晰，在金融行业中，数据流转复杂，缺乏清晰的数据架构、数据流图以及数据与业务之间的关系，导致数据模型混乱，数据整体质量不高；其次是数据不互通，金融行业是一个高度监管行业，对数据隐私性有极高的要求，因此金融大模型的数据规模远远不及通用语料，导致金融大模型难以产生“智能涌现”的效果。

绿色低碳大模型面临着计算资源和环境影响的新挑战。大规模人工智能模型的引入带来了很多创新和进步，但同时也引发了一些环保问题。随着大模型的出现，模型规模和计算复杂性不断增加，企业对高计算能力的需求也不断增加，进而带来了更高的碳排放。

新兴技术的出现意味着机遇与风险并存，大模型在金融行业的实际应用也不例外。尽管面临着可解释性、稳定性等挑战，但企业不应停滞不前。大模型在金融领域的应用还在摸索阶段，还需要金融机构与科技企业共同探索，以期在风险与机遇之间找到最佳的平衡点。但无论如何，大模型对于金融行业的发展趋势影响是深远的，它的应用态势必将成为金融行业发展的重要因素。

金融大模型的“道”与“术”

随着各行业大模型应用爆发式的发布，金融业对大模型的态度经历了从焦虑到积极行动，再到寻找合适应用方向的过程。同时，也呈现出战略层面对大模型的重视，许多金融机构已经将大模型技术规划提上了议事日程。

技术布局：三纵三横

当前，市场广泛讨论的大模型是生成式模型，而金融行业真正需要的是多种模型的组合式AI系统，大模型技术在金融行业的落地需要谨慎的技术布局。

金融大模型落地的挑战

关键任务及动态适应性，是金融大模型要解决的首要关键问题。例如，ChatGPT虽然“满腹经纶”，但它不会为回答错误而承担风险。但在自动驾驶等涉及生命健康或重大资产安全的场景，1%的错误都蕴含潜在风险，甚至危害金融安全和社会稳定，所以绝对不能出错，这就是金融大模型和传统大模型最大的区别。在金融领域，不管外部如何变化，大模型都要力求做到运用新兴技术达到100%决策安全。

如何平衡个性化服务和个人隐私数据合规的问题。金融行业需要为用户提供个性化服务，这样的服务在使用个人数据时会涉及个人隐私数据保护问题。

如何让模型生成群体智能与安全可信问题。对金融行业本身来说，存在“数据孤岛”，会让大模型无法形成生态，没有形成生态的模型很难形成群体智能。群体智能可以权衡各方数据权益，让各方数据成为正向反馈，有效利用数据，共建行业模型。只有做到共享权益安全可靠，才能实现真正意义上的竞合。

基础设施的能力挑战。金融大模型需要的运算架构不一样，要不断优化底层基础设施，以适应垂直领域、金融领域大模型的发展。

“天镜”大模型的技术布局示例

“马上消费”发布的“天镜”大模型提出了“三纵三横”大模型发展技术布局，如图2-2所示。这种布局旨在通过实施一系列关键技术来提升模型的智能化能力和综合能力，同时确保大模型在金融行业应用落地的稳定性、安全性和可控性。

图2-2 “天境”大模型技术布局

三纵：数据智能，多模态智能，实时人机协作

金融天然是数据和计算密集型的行业，大模型从复杂的数据中挖掘更多的衍生数据，进行场景分析和与业务的融合，进一步实现业务的智能化。“天镜”大模型通过生成式代码技术，为底层分析人员提供全新的数据分析方式，通过与数据库的交互，让对数据的关联性分析变得更加自动化和高效，帮助金融机构把数据转化成营销、决策等，实现数据智能化。

多模态智能是指在合规、安全的前提下，金融大模型可以将语音、文字、视频自动生成为个性化营销服务和运营的数据，有效实现数据的统一运用，实现从单项智能语音通话到多项整合运用的业务智能化。未来，“天镜”大模型还将继续结合视频技术，进一步实现新的业务智能化，从而形成一个合规安全可控的多模态平台。

人机协作是通过大模型的大脑与心理学的有机结合，实现有情感的人机互动体验。“天镜”大模型在大量自动化服务的基础上，基于金融大模型将人机之间的相互协作实现无缝衔接和无缝切换，使用户和技术更好地互动和合作，旨在为客户提供高质量的智能化应用解决方案。

三横：持续学习，模型安全/合规/可信，组合式AI系统技术

“天镜”大模型有三个关键技术值得关注——持续学习，模型安全/合规/可信及组合式AI系统技术。

金融大模型应该具备持续学习技术，经过不断训练的金融大模型能够在接收到反馈后，进行自动优化。只有这样才能实现模型自我演化，越用越聪明。

安全、合规、可信是决定金融大模型在关键决策领域落地的核心能力。“天镜”大模型基于鲁棒性自适应智能感知技术，能帮助金融大模型排除噪声以及干扰性问题，在突发和不可预期情况，实现关键决策的持续稳定和合规可信，即保证金融大模型在任何场景下都能够可信、安全、稳定地输出结果。

组合式AI系统技术可以有效结合各种垂直领域的判别式模型的可用性和专业性，以及具备生成式大模型的迁移学习和泛化能力强的特点。利用组合式AI的能力，可以构建新兴的金融大模型体系，解决大模型和小模型之间的协调配合，以及各个业务应用之间的最佳配合。“天镜”大模型提供的一套服务系统涉及客户的语音识别、情感识别、语音合成等多个业务应用，通过组合的方式实现各个应用之间的最佳配合，完美地提供各项服务。

总的来说，“三纵三横”大模型发展技术布局是一种综合考虑了模型的智能化能力、综合能力、稳定性、安全性和可控性的技术布局方案，这种布局方案可以使模型越用越聪明，同时也更稳定、更安全可控。

落地蓝图：从“+AI”迈向“AI+”

尽管大型AI模型在金融行业的各个环节都有应用潜力，但真正重要的不是大模型本身，而是大模型如何被应用于解决特定的业务场景。在金融领域应用大模型，往往会面临“两层皮”的问题，即大模型的理论设计和应用实施之间，可能会存在由工程化导致的差距。这类似于商品在从设计到批量生产的过程中，可能会受一些现实因素（比如生产成本、生产效率等）影响，以致最终的商品和产品设计产生差距。

从大模型技术走向应用落地，需要金融行业的金融大模型与数据、场景相结合，如图2-3所示。

基础设施层

基础设施层是大模型和金融应用落地的基石，具体体现为高性能计算集群、高性能计算网络、大数据存储、向量数据库等。高性能计算集群是由多台计算机组成的系统，这些计算机通过高速网络相互连接，共同完成计算任务；高性能计算网络则是连接这些计算机的网络，它需要具有高带宽和低延迟特性，以保证数据的高效传输；大数据存储提供高性能的存储和访问能力，弹性扩展的存储资源，以及安全可靠的数据保护措施；向量数据库则是存储和处理向量数据的数据库，它可以有效地处理大规模的向量数据，为大模型提供必要的数据支持。这一层的设施为上层的模型训练和应用提供了必要的硬件和数据支持。

图2-3 金融业大模型落地蓝图

资料来源：马上消费人工智能研究院。

基础模型底座层

这一层主要是开源生态的基础大模型，包含通用大模型和行业大模型。通用大模型具有广泛的适应性和强大的学习能力，可以处理各种复杂的金融任务；行业大模型则包含金融大模型、文档大模型、SQL大模型等，根据不同行业的特性和需求进行定制和优化，形成一个开放的生态。例如，金融大模型可用于信贷风险评估、投资策略制定等，文档大模型可用于知识获取、政策解读等。这一层为上层的平台和工具提供了具有行业特色的模型资源。

平台和工具层

平台和工具层主要包含大模型工程训练平台、大模型Prompt工程平台、应用调度平台。大模型工程训练平台为开发人员和研究人员提供了丰富的工具和功能，包括分布式训练框架、模型调试和可视化工具、自动化超参数调优、模型部署和推理服务等；大模型Prompt工程平台为算法工程师设计合适的提示词来引导大模型，使得大模型能够更好地理解输入，并生成用户预期的输出；应用调度平台提供基于大模型、业务工具构建的符合场景业务流程的工作流的调度服务，是大模型服务与上层应用的桥梁。

模型即服务层

模型即服务是一种独特的商业模式。它是一种云计算模式，其主要目标是将人工智能大模型变成可服务化的产品，使得用户可以方便地使用大模型进行各种复杂任务的处理。定制企业专属大模型、细分领域微调或直接以应用平台的形式提供。此类商业模型可以大幅降低中小企业的使用门槛，最终提高整个金融行业的智能化水平。

业务场景层

业务场景层是大模型落地的最终价值体现，也是“大模型+金融”结合发展最具象化的体现。具体的业务场景有渠道管理、营销管理、知识助手、客户服务助手、办公管理、数据分析、开发与运维、风险管理等。

大模型的出现，驱动人工智能从碎片化走向全局化，从结构化进化到多模态，从具备简单能力并针对具体任务的专用模型到具备复杂能力并面向泛任务的通用模型。这些通用大模型成为人工智能通用性的基础模型，并通过云计算和本地部署，成为各项服务的内在中枢和各类计算机软硬件系统的泛在人机接口，从而“助长”行业、场景大模型，推动金融行业的智能化发展。

三驾马车：数据、算法模型和算力

在大模型浪潮下，数据、算法模型和算力构成了业务驱动的“三驾马车”。

数据是基础元素。数据包括历史数据和实时数据，可以从各类金融市场（如股票市场、债券市场、商品市场等）中获取。数据的质量、准确性和完整性直接影响模型的有效性和准确性。

算法模型是用于处理和分析数据的计算规则或程序。在行业中，算法的选择和设计取决于其应用的目标和上下文。例如，如果目标是预测股票价格，可能会使用自回归移动平均模型（Auto-regressive Moving Average, ARMA）或长短期记忆网络（Long Short-term Memory Networks, LSTM）等机器学习算法。

算力指的是计算机系统进行数据处理和计算的能力。随着数据量的增加，大模型对算力的需求也在不断增加。高效的算力可以确保模型在合理的时间内得出结果，从而为用户提供及时的决策支持。

金融大模型与数据治理相互依存

在大模型时代，要安全、合规地将大模型技术应用于金融行业，需要对数据管理范式进行全面变革。如果说算力决定了模型能力的“下限”，那么在实际应用场景中，数据质量则决定了模型能力的“上限”。就如同汽车需要从原油中提炼出汽油才能使用一样，高质量的数据在大模型时代异常重要。高质量的数据，不仅需要数据量大，而且需要数据多样且及时更新。

数据治理是指在数据的整个生命周期中，通过定义责任、策略、流程和规定数据的使用方式，来确保数据的质量、可用性、一致性和安全性的一系列措施。金融行业进行数据治理要重点关注以下几个方面。

从上至下，顶层策略规范数据治理流程。在宏观层面，由高级管理层引导并规划整个机构的数据治理框架和标准，包括数据的分类、规范、安全性和合规性等方面的规定，加强员工对数据的重视程度。

实施严格的数据安全和隐私保护策略。金融行业数据通常包含大量敏感信息，如个人身份信息、交易记录等。任何数据泄露都可能导致重大的经济损失和法律问题。因此，金融机构需要实施严格的数据安全和隐私保护策略，如使用最新的加密技术、实行访问控制、进行定期的安全审计、数据灾备等。

明确数据所有权与责任。金融机构需要明确数据的所有权和责任，包括数据的采集、处理、使用和共享等方面的责任。同时，金融机构需要制定相应的数据使用规定，保证数据的合规性，避免侵权。

数据一致性、合规性，促进金融数据共享开源。大模型需要大量高质量的训练数据以学习和预测金融市场的复杂模式。金融数据共享可以将来自不同金融机构的数据进行整合和共享，丰富金融大模型的数据源，从而使得金融大模型获取更多的金融数据，提供更全面、准确的金融分析和预测结果。但这也对金融大模型的一致性、安全性和合规性提出了更高的要求。

总的来说，金融大模型对数据的高要求促进了数据治理的发展，完备的数据治理新范式，促进了金融大模型的合规发展。

“驯化”金融大模型，安全可控与可持续发展

如果把通用大模型看作一匹资质超群的“野马”，打造专注于金融垂直领域和细分场景的大模型应用就相当于对这匹野马的驯化。合理的数据治理策略能够从一定程度上保障“喂”给大模型的知识的专业、合规和安全，但也避免不了金融大模型回答的准确性、“人情味”欠佳。为了保证金融大模型能够安全、可控地应用在金融行业中，我们需要从以下几个方面“驯化”金融大模型。

优化模型训练与应用，提升模型鲁棒性与降低大模型生成幻觉的可能性。可以通过引入新的训练方法，例如通过对抗训练（Adversarial Training）来改善模型的生成质量，降低大模型生成幻觉的可能性。此外，在实施阶段，可通过严格的后处理步骤，例如对生成内容进行幻觉识别，或者设置阈值来过滤模型的输出，来保障生成内容的准确性和可靠性。

引入外部知识库，增强大模型生成质量。在大模型中引入外部知识库是一种有效的策略，它可以帮助模型更好地理解和生成文本。当模型生成文本时，如果能够参考外部知识库中的信息，那么生成的文本将更加准确和有用。例如，在回答一些特定的问题或者生成一些专业的内容时，模型可以直接从知识库中获取相关的信息，而不是完全依赖于训练数据。金融领域对数据的及时性要求特别高，在模型迭代不及时的情况下，引入外部知识库，可以更好地解决这些问题。

Yang H, Liu, X Y, Wang C D.FinGPT：Open-Source Financial Large Language Models.[EB/OL].（2023-06-09）[2024-02-01].arxiv：2306.06031

数据驱动，开源民主化，推进金融行业数智化进步和发展。2023年6月，哥伦比亚大学联合上海纽约大学开源发布了一款针对金融领域的大模型 ——FinGPT，如图2-4所示。FinGPT采取以数据为核心的策略，为研究人员和金融从业者提供了一个透明的平台，使他们能够开发自己的金融大模型。这为中小企业提供了尝试的平台。

在技术层面，FinGPT利用开源大模型，从开放网站上获取开源数据并进行数据工程处理，例如公开新闻、社交媒体、公开备案、搜索趋势、公开数据集网站等，然后进行强化学习（Reinforcement Learning from Human Feedback, RLHF）的方式来实现金融语言建模。FinGPT的训练采用了一种轻量级的低秩适应技术，使模型变得简单和经济。

从上至下推进存算基建储备

由于大模型的数据量和参数规模相较于传统AI模型呈现“指数级”增长，对智能计算能力的需求也在爆炸式增长。以GPT大模型为例，GPT-3模型的参数量约为1746亿，一次训练所需的总计算能力约为3640 PF-days，即以每秒一千万亿次计算，需要运行3640天。

随着大模型时代的到来，金融行业对于AI芯片和加速服务器的需求急剧增加，但是受限于现生产工艺，高性能AI芯片的生产难度和成本都相对较高，这些因素都限制了市场供应的能力。为了保障大模型的稳健落地，金融行业应该从以下几个方面做好储备。

加大算力基建投入，瞄准高性能、低碳两个方向。随着大模型的发展，金融行业需要更强大的算力支持来应对日益增长的数据和复杂的计算需求。因此，金融机构需要在算力基建方面大力投入，包括增加硬件设备、建设高性能计算中心以及引入云计算等技术，以提高算力资源的可用性和稳定性。随着对环境问题的关注度提高，未来的算力发展将更加注重能效，绿色计算、低功耗技术将成为硬件设备和数据中心设计的重要指标。

并行分布式算力架构，增“质”提效。随着模型规模的增大，训练模型需要更大的计算资源。通过并行分布式算力架构，可以有效地使用多台计算机的资源，从而支持更大规模的模型训练。通过分布式架构，即使某个节点出现故障，也不会影响整个系统的运行，进而提高系统的可靠性和稳定性。

图2-4 FinGPT架构图

资料来源：FinGPT（Open-Source Financial Large Language Models）。

超算中心，为中小企业的算力赋能。中小企业通常无法承担建设和维护自己的超级计算设施，但若算力问题让部分中小企业“技术掉队”，将进一步扩大中小机构与头部机构数字化、智能化的鸿沟。国家信息中心联合浪潮信息于2023年1月11日发布的《智能计算中心创新发展指南》显示，我国超过30个城市正在建设或提出建设智算中心。算力中心的建设将进一步为企业提供大模型技术发展平台，从而提供更好的产品服务，最终实现产业升级。

规模化部署：跨“界”合力

随着科技的进步和数据的增长，金融大模型已经成为金融行业发展的重要趋势。而大模型大规模落地金融行业是一个跨企业、跨行业的集体行动，需要顶层宏观策略的指导和各行各业的积极参与才能成功推进。这不是任何单一企业或行业可以独立完成的任务，而是需要全社会各方的共同努力和协作。

均衡监管与发展，促进“大模型+金融”应用合规落地

金融行业是一个强监管的行业，政策环境、法规环境等对大模型在金融领域的应用产生直接且重要影响。例如，数据保护的相关法规可能会限制金融机构使用人工智能处理用户数据，而政策扶持则可能会促进人工智能在金融领域的应用。从已发布的政策来看，宏观政策呈现“中央规范为主，地方鼓励为主”的特点。

中央政策关注事前规范，并从科研、产业等方面鼓励其发展。例如2023年7月13日国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门联合发布《生成式人工智能服务管理暂行办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

地方政策则以鼓励为主，主要围绕智能算力建设、公共数据流通和算法场景开放等方向进行推进，鼓励AI大模型在实际应用场景进行尝试和落地。在研发投资方面，地方政府则特别关注智能算力中心的投资建设，例如北京、上海、成都、深圳、杭州等城市纷纷出台了加快推进人工智能产业创新发展的政策。

但是金融行业本身对安全性和准确性有着极高的要求，对于大模型的应用，政策需要在发展与监管之间找到平衡。

首先，政策需要明确大模型在金融行业应用的规范和要求。这包括但不限于数据安全、数据隐私、模型可解释性、风险控制等方面。这些规范和要求应该既能保障金融行业的安全，也能保护消费者的权益。

其次，政策需要鼓励和支持金融机构进行技术改造，提升数据资产管理水平。这可能包括提供财政支持、技术指导和人才培养等。

最后，政策需要鼓励金融机构和科技企业之间的合作，以共同推动大模型在金融行业的应用。

跨行业合作，科技企业和金融机构齐发力

科技企业在人工智能技术、算法优化、计算资源等方面具有天然优势，它们可以提供高效、稳定的大模型训练和运行环境。例如，谷歌的TensorFlow和元宇宙的PyTorch等开源框架，为金融行业的大模型训练提供了强大的支持；云计算公司如阿里云、亚马逊云科技等提供的弹性计算资源，也大大降低了大模型训练和部署的门槛。

金融机构则能提供丰富、真实的金融数据，以及对金融市场和业务流程的深入理解，从而推进金融行业大模型的应用落地。例如美国的量化对冲基金公司Two Sigma利用ChatGPT进行投资分析；苏黎世保险公司（Insurer Zurich）使用ChatGPT进行理赔和数据挖掘；瑞士保险公司Helvetia正在测试利用ChatGPT推进客户服务。

通过这种跨行业合作，科技企业和金融机构共同推动大模型在金融行业的规模化部署，为金融行业的发展注入新的活力和潜力。

专注自身垂直领域，特定的需求场景及业务流程（Know-How），构建符合企业特点的大模型中枢。大模型在金融行业中的层次和应用，按照场景通用化、专业化程度，可以分成四层：基础通用大模型、行业大模型、知识处理大模型、任务大模型。这四层的训练数据规模和投入算力逐层递减，专业属性逐层增强。

基础通用大模型层面：由于投入数据量大、算力成本高、算法难度大，一般由头部AI企业进行建设，虽然通识能力较强，但其缺少金融专业知识，在金融场景方面的应用有局限性。

行业大模型层面：对大型金融机构而言，因其金融数据海量，应用场景丰富，故可引入业界领先的基础大模型，自建金融行业、企业大模型。考虑到建设周期较长，可采用微调形成专业的行业大模型，快速赋能业务。对中小金融机构而言，综合考虑应用产出和投入成本的性价比，可按需引入各类大模型的公有云API或私有化部署服务，直接满足赋能诉求。这样既保证了金融服务的效率和质量，又避免了自建模型的高昂成本和复杂性。

知识处理大模型层面：知识处理大模型是企业内部的知识处理工具，包含结构化数据库知识、非结构化文档知识、代码知识等，可以帮助企业提升内部知识获取的效率。

任务大模型层面：任务大模型是基于特定的场景和基础大模型来构建的。首先，构建任务大模型需要建立在深入理解和定义其业务“场景”的基础上，包括识别和明确业务问题，理解相关的业务流程和数据结构，确定模型预测的目标。然后，需要选择合适的基础大模型、行业大模型进行微调，使其适应特定的业务场景。最后，需要评估任务大模型的性能，并进行必要的优化，包括使用参数调整、特性工程或者集成学习等方法来提高模型的预测性能。

随着大模型覆盖的场景越来越多，对灵活的模型服务能力需求必然越来越大，包括模型的版本管理、在线更新，以及多场景多任务的服务调度等，未来工程化和流水线能力将逐渐凸显其重要性。

金融大模型的发展方向

金融大模型的未来发展充满了激动人心的可能性，也存在一些实际挑战，然而随着技术的不断进步和数据的积累，金融大模型会迎来更加广阔的发展前景。

金融大模型实际应用的挑战

金融大模型为行业带来了巨大的变革。然而，尽管这些技术在许多方面取得了显著的成果，但在实际应用中仍然面临着一些挑战。

数据质量和可用性

金融领域的数据通常具有高度复杂性和敏感性，例如涉及个人隐私、商业秘密等。此外，数据可能存在缺失、不准确或不完整的情况，这都给模型训练和预测带来了困难。金融领域的决策过程往往涉及复杂的业务逻辑和风险评估，因此需要对模型的输出结果进行深入理解和解释。然而，许多大模型的内部工作原理难以解释，很多使用者并不理解模型的推理过程，这限制了它们在金融领域的应用。

安全性和可靠性

金融机构依赖于AI系统来处理敏感信息和做出关键决策。因此，确保系统的安全性和可靠性至关重要。攻击者可能会利用漏洞篡改数据或操纵模型输出来影响金融市场。此外，由于金融市场的波动性和不确定性，模型可能会受到外部因素的影响而生成错误的结果。

金融行业的监管环境非常严格，要求企业遵守各种法规和标准。这意味着AI系统需要满足特定的合规要求，例如反洗钱（Anti-Money Laundering, AML）和客户识别（Know your customer, KYC）规定。此外，随着监管环境的变化，金融机构需要不断更新和优化其AI系统以适应新的法规要求。

技术集成

将AI技术与现有的金融基础设施和业务流程相结合是一个复杂的过程。金融机构需要克服技术整合的障碍，确保新技术的顺利推广和应用。金融机构在使用AI技术时需要考虑其对社会和环境的影响。例如，过度依赖自动化可能导致失业率上升，加剧社会不平等现象。因此，金融机构需要在推动创新的同时，关注可持续发展和社会责任。

挑战往往伴随着机遇。金融大模型技术的不断发展和成熟，将为金融行业的发展提供更强大的支持。

金融大模型潜在的发展方向

金融大模型在发展中将受益于技术创新、数据积累和交叉学科研究的推动，展现出多个潜在的发展方向。

多模态融合

金融市场不仅涉及数字数据，还包括文本、图像和声音等多种形式的信息。未来的模型可能会更多地融合这些多模态数据，以更全面地理解市场情绪、新闻事件对股市的影响等。例如，结合新闻情感分析和图像识别，更全面地评估市场情况。多模态融合模型的发展将促使不同类型数据之间的信息交互，增强金融大模型的表征能力，提高任务的精准度。

多语言和跨语言的能力

通过引入多语言，金融大模型能够支持不同语言和文化背景的用户和场景。这不仅使金融机构能够更好地满足不同语言背景客户的需求，提供个性化的金融建议和服务；还有助于全球性金融机构更全面地理解国际市场的动态，提高决策的全球视野。

可解释性和透明度

随着大模型的不断发展，人们对于模型的解释性和透明性提出了更高的要求。未来的金融大模型需要具备可解释性，能够清晰地解释模型的决策依据，为用户提供可信赖的结果。例如，采用可解释的模型结构，或者设计专门的解释性模块，以便更好地理解模型的决策过程。这种可解释性将有助于用户更好地理解模型的运作方式，增强用户信任度，推动大模型在金融决策中的广泛应用。

数字驱动的金融决策

大数据、云计算等技术将为金融知识管理带来更多有价值的数据，帮助金融机构深入挖掘数据背后的规律，为金融决策提供有力支持。通过对海量数据的分析，金融机构可以更准确地预测市场走势，优化资产配置，提高投资收益；通过应用分布式计算和高性能硬件，金融大模型能够在更短的时间内进行训练和推理，迅速适应市场的动态变化，使金融机构更具实时决策能力；利用深度学习模型，金融机构可以更准确地分析市场趋势、预测股票价格、识别交易信号等。例如，采用自然语言处理技术处理新闻和社交媒体数据，以更好地理解市场情绪，为投资决策提供更全面的信息。

迁移学习和预训练模型

利用大规模的金融数据，通过迁移学习和预训练模型，可以更好地进行金融任务的学习。例如，使用预训练的语言模型来提高金融文本挖掘的效果。

预训练大模型是面向通用人工智能领域最具前景的技术，也为金融市场的洞察和预测提供了广阔的想象空间，拓宽了金融行业人工智能应用的边界，从而加速金融行业的数智化升级。

预训练大模型的可迁移性和可定制性也为金融机构提供了更高的灵活性和自主性，金融机构可以根据不同的场景和需求进行定制化模型开发和应用。以大规模的预训练语言模型作为基础设施，与其他科技手段相结合将成为金融风险管理领域中不可或缺的重要技术手段之一。

未来随着数据量和算力的不断提升，预训练大模型将从全生命周期自动化的方向出发，利用其强大的通用性人工智能生成和理解能力，从不同数据源中自动抽取关键信息并进行知识融合，帮助金融机构更好地理解和分析风险事件的影响并形成有效智能决策，彻底改变人机交互模式，从而提高风险识别和风险管理的精度和效率，降低金融机构的风险水平，实现金融机构更加稳健和可持续的发展。

人才培养与教育

在大模型背景下，金融行业对人才的要求将不断提高。金融机构需要加强对员工的培训和教育，提高其专业素养和技能水平。同时，金融行业也需要培养一批具备人工智能、大数据等技能的专业人才，助力金融知识管理的发展。

金融犯罪预防和打击

用大模型分析异常交易行为，预测潜在的金融犯罪，帮助金融机构预防和打击犯罪活动。不仅提高了金融机构对异常交易的敏感度，保障金融系统的安全，还降低了法律风险。

金融风险管理与防控

大模型可以帮助金融机构构建全面的风险管理体系，实现对各类金融风险的识别、评估、预警和防范。例如，使用模型来识别系统性风险、信用风险等，并提供实时的风险评估。

大模型可以帮助金融机构实现合规管理，提高监管效率。例如，通过对金融市场、行业、企业等各个层面的数据进行实时监测和分析，金融机构可以迅速发现异常情况，防范金融风险。

可持续金融和社会责任

模型的设计和应用可能会更加注重可持续金融和社会责任。例如，设计模型时要考虑环保因素，或者利用模型来识别社会责任投资的机会。再例如，确保模型的使用不会引发歧视性问题，保护客户隐私，避免操纵市场等。

这些发展方向将在金融大模型的研究和应用中占据重要地位，促使金融领域更好地应对挑战、创造机遇，实现更加智能、高效、安全的金融服务。

第二部分

技术与构想

第三章

金融大模型的底层原理

在拥有大规模的高质量数据和算力之后，你还需要相信。

——OpenAI联合创始人和首席科学家：伊利亚·苏茨克维（Ilya Sutskever）

大模型基础技术

大模型落地行业应用是必然之势。入局者如果想要在各个行业应用中取得成效，必要先了解大模型的基础技术。

语言模型基础与大模型基础

自然语言处理中有一个基本问题：如何计算一段文本序列在某种语言下出现的概率？例如“我明天早餐要吃包子和豆浆”，这就是一个概率较高，或者说比较常见的表达。但是像“我明天早餐要吃海参和龙虾”这种表达在一般的汉语表达中出现的概率比较低。

统计语言模型建模（Statistical Language Modeling）就是用来解决这个基本问题的早期方案，其目标是学习一种语言中单词序列的联合概率函数。

对于一段文本序列S=w，w，…，w，它的概率可以表示为：

12T

在实际应用中，语言模型可以用来评估一些文本质量，例如语言模型常被用来评估翻译系统输出的一个特定结果的概率，以提升其在目标语言中的流畅度；而在语音识别任务中，常会联合语言模型和声学模型来预测输出语音撰写的下一个词；或者在一些NLP任务中，使用语言模型评估任务使用文本的质量，例如自动语音识别（Automatic Speech Recognition, ASR）转译后的文本质量，以提升训练数据或推理数据的质量，进而提升模型效果。

但是上述模型在计算的过程中存在参数量大、计算量过高的问题，因为每一个需要计算的条件概率，都是一个参数，例如公式4.1.1右侧的求乘积符号的一次计算，更换任何一个w到w的词都会产生不同的概率结果，都需要重新计算。一个降低计算复杂度的方案是参考马尔科夫假设，假设语言中一个词主要由它前面n个词决定，因此n-gram模型建立了一个给定前n-1个词，第n个词的条件概率表示：

1t-1

即使在预训练模型和大模型流行的近几年，这种基于统计的n-gram模型依然有较多的应用。但是n-gram模型依然存在一些问题，例如n-gram计算量会随着n-gram的n计算量指数增加，存在维度灾难问题；需要大量的训练语料来解决一些罕见词和包括这个词的特定序列带来的稀疏问题，如果训练语料中没有这种序列，模型会为它们分配为0的概率，就会出现OOV问题，虽然有一些平滑处理技术，但作用有限；n-gram模型泛化能力差，例如即使训练语料中有“吃苹果”和“啃西红柿”，但是模型并不能泛化到“啃苹果”；语言中一个词往往并不仅仅依赖它前面的几个词。

约书亚·本吉奥（Yoshua Bengio）等人在2003年提出第一个前馈神经网络语言模型（FFNN Language Model, FFNNLM），在一定程度上解决了上面的几个问题。FFNNLM模型通过学习词的分布式表示来解决维度灾难，使得一个词能够使用一个低维向量（Embedding）表示。

然而，网络语言模型并不能解决任意长度的上文建模问题，托马斯·米科洛夫（Tomas Mikolov）于2010年正式揭开了循环神经网络（RNN）在语言模型中的历程，之后循环神经网络语言模型（RNN Language Model, RNNLM）也相继提出，解决了长序列文本建模困难的问题。从此以后，NNLM开始逐渐成为LM（Language Model）的主流技术，并且被迅速地开发出来。长短期记忆循环神经网络语言模型（Long Short-term Memory RNN Language Model, LSTM-RNNLM）用于解决长期依赖问题。同期大量的改进技术也相继被提出来，用于降低训练和验证时的损失以及困惑度（Perplexity, PPL）指标。

由谷歌团队提出的一种序列到序列的模型，将输入和输出分成两个部分来处理。它主要应用在于机器翻译，将一种语言翻译为另一种语言，正好应对了序列到序列端模型。

2017年Transfomer网络架构的提出是一个重要的里程碑，之后Transfomer迅速取代了循环神经网络家族成为之后语言模型里的标配。从演进的动力上看，Transfomer将传统的注意力机制演化为了多头注意力机制，重点取代了seq2seq编码解码结构中常用的递归层，解决了传统的循环神经网络难以并行的问题。多头注意力机制可以直接捕捉全文信息，既能够建模长距离的依赖关系，又方便并行运算的展开。同时将长距离的依赖关系的操作复杂度（number of operations required）从线性关系（比如递归网络）或对数复杂度（卷积操作）降至了常数级别（通过固定的注意力机制）。

2018年，OpenAI团队在Transfomer网络架构的基础上提出GPT预训练语言模型。GPT使用Transformer的Decoder（解码器）部分作为特征抽取器，Decoder使用多头自注意力掩码机制（Masked Multi-Head Self Attention）屏蔽了单词的后面内容，所以是现成的语言模型，也是GPT属于生成式模型的重要原因，即只选用利用上文预测下文进行单向语言训练。

当时GPT在很多下游任务上效果相比不如BERT，业内普遍认为GPT语言模型采用单向语言模型来学习的语言表示问题，并不能充分利用到双向信息，但是OpenAI在生成式模型路线上经过多年坚持，到GPT-3的时候效果有所突破但是依然不够理想，并没有引起足够的重视，直到2023年ChatGPT横空出世。

LLM基础技术和特征

在Transformer诞生后几年，各类型的预训练语言模型（Pre-trained language models, PLM）出现并迅速流行，这得益于它们能以自监督的方式从大规模数据中学习通用语言表示，这对许多下游NLP任务，如常识推理、多选题回答和故事生成都有益处，同时避免了从头开始训练新模型。随着大规模语料库和硬件容量的快速增长，研究人员发现，通过扩大模型和训练数据可以持续提高模型的容量，遵循扩展定律（Scaling laws），促进了LLM的诞生。

LLM是基于深度学习技术构建的强大语言理解和生成模型，通过大规模文本数据的训练，它能够生成具有语义和语法正确性的连贯文本。基于注意力机制的序列模型，LLM能够捕捉上下文信息，并在各种自然语言任务中广泛应用。LLM通常指包含数百亿（或更多）参数的语言模型，其在理解和生成类人文本方面明显优于较小的模型。

Zero是微软在2020年2月提出的一种万亿级模型参数训练方法。Zero-Shot Prompting是一种自然语言处理技术，可以让计算机模型根据提示或指令进行任务处理；Few-Shot Prompt与Zero-Shot Prompting相对，在与大模型交互时，在提示词中给出少量示例。

PLM发展初期，主要存在两种不同的技术范型：Bert模式和GPT模式。对于自然语言理解类任务，其技术体系统一为Bert模式，即“双向语言模型预训练+微调（Fine-tuning）”模式。对于自然语言生成类任务，其技术体系统一为GPT模式，即“自回归语言模型+Zero/Few-Shot Prompt ”模式。早期BERT模式更受关注，聚焦于小型的预训练语言模型。随着技术的不断发展，目前规模较大的LLM均采用GPT模式，这种模式也符合工业应用的要求，具有低成本、低资源、普适性的特点，因此更有应用价值。

LLM主流模型技术盘点

我国较为流行的大模型有这样三种：LLaMA、Baichuan、ChatGLM。

LLaMA模型并不是一个模型，而是由一组具有不同参数规模的大模型套件组成，参数规模从70亿到650亿不等，主要包括LLaMA-7B、LLaMA-13B、LLaMA-33B、LLaMA-65B等模型。

2023年，开源的LLaMA 2系列模型发布，最大参数量版本达到70B。LLaMA 2-70B的性能，可以和最好的LM相媲美。受益于其强大的基座能力，大量的研究人员基于LLaMA进行指令微调（Instruct Tuning）或者继续预训练，从而催生了大量高质量的开源大模型。

Baichuan模型的第一个版本Baichuan-7B模型就是基于Transformer结构，采用了和LLaMA模型一样的设计。例如，位置编码使用的是Rotary-Embedding方案，具有更为优秀的外延效果；激活层采用SwiGLU, Feedforward改为8/3倍的隐含层大小；Layer-Normalization是基于RMSNorm的Pre-Normalization。

虽然和LLaMa采用了一样的模型设计，但是Baichuan-7B模型在原本的框架上进行了很多改进，提高了模型的效果和解码速率。例如，分词改进，词表大小从LLaMa的32K提升到64K，参考学术界方案使用SentencePiece（google开源的自然语言处理工具包）中的字节对编码（Byte-Pair Encoding, BPE）作为分词算法，对中文语料做了针对性的优化，使用2000万条以中英为主的多语言语料训练分词模型，显著提升对于中文的压缩率；数据集方面也进行了改进，使用了基于开源的中英文数据、爬取的中文互联网数据和部分高质量知识性数据进行数据清洗，大约有1.2T的中英文Tokens进行训练。随着数据的增多，为了提升训练时的吞吐速度，在算子优化技术、算子切分技术、混合精度技术、训练容灾技术、通信技术等方面都做了优化。

继Baichuan-7B之后，百川智能又发布了包含130亿参数的可商用的大模型Baichuan-13B。此次发布包含了两个版本：预训练Baichuan-13B-Base和对齐Baichuan-13B-Chat两个版本。相较于Baichuan-7B，该版本具有更大的尺寸、数据；可以同时开源预训练和对齐模型，预训练模型是适用于算法研究者的基座，而大多数开发人员对有对话功能的对齐模型有更强的需求，该版本具有很强的对话能力，使用几行代码即可以做简单的部署，开箱即用，非常高效；为了支持普通用户的使用，该版本开源了int8和int4的量化版本，相对于非量化版本，在几乎没有效果损失的情况下有效降低了部署的机器资源门槛，可以部署在Nvidia 3090这类消费级显卡上；并且对学术研究完全开放，获得官方商用许可后，还可以免费商用。

2023年9月，百川智能发布了第二代大模型Baichuan2，包括Baichuan2-7B和Baichuan2-13B，这两个大模型都在2.6万亿Tokens上进行训练。

Baichuan的训练数据包括了一般的互联网网页、学术论文、代码库、图书等，用以构建出一个庞大并且通用的知识体系，还构建了一个同时支持局部敏感哈希（Locality Sensitive Hashing, LSH）类特征和密集嵌入特征的大规模去重和聚类系统，能够在几小时内对万亿级的数据进行聚类和去重（基于聚类，对单个文档、段落和句子进行去重和评分），然后将分数用于预训练中的数据采样。

ChatGLM是由清华大学KEG实验室和智谱AI公司共同训练的一个大模型，融合了目前最新的深度学习技术和海量中文语料的训练成果，在自然语言理解和生成任务方面展现了出色的性能，为国内自然语言处理的研究和应用提供了有力的支持。

General Language Model Pretraining with Autoregressive Blank Infilling论文中提出的模型，发表在ACL 2022（The Association for Computational Linguistics），地址见https：//aclanthology.org/2022.acl-long.26.pdf.

2022年，清华大学发布了开源大模型ChatGLM，因其效果出众而受到大众关注，且开源了基于通用语言模型GLM 架构研发的基座模型：ChatGLM-6B。ChatGLM针对中文问答和对话进行了优化。经过约1T的Tokens的中英双语训练，辅以监督微调（Supervised Fine-Tuning, SFT）、反馈自助、人类反馈的强化学习（RLHF）等技术的加持，使其成为中文领域效果最好的开源底座模型之一。

GLM（ChatGLM的基座模型）提出了一种基于自回归空白填充的预训练框架，将输入文本中的连续标志随机地范围留空，训练模型按照自回归预训练的思想顺序地重构范围。该框架基于自回归空白填充，结合了自编码和自回归预训练的优点，让GLM在自然语言理解、生成任务中取得显著性提升。

GLM预训练目标是自回归空白填充，针对下游任务设计了三种方案，即单词级、句子级、文档级方案，这三种方案交替进行。自回归填充和掩码语言模型有一些类似，当被掩码的片段（span，跨度）长度为1的时候，空格填充任务等价于掩码语言建模；当将文本1和文本2拼接在一起，然后将文本2整体掩码掉，空格填充任务就等价于条件语言生成任务；当全部的文本都被掩码时，空格填充任务就等价于无条件语言生成任务。不同的是自回归填充在预测阶段采用自回归的方式。

一种激活函数，2016年由丹·亨德里克斯（Dan Hendrycks）和凯文·吉姆佩尔（Kevin Gimpel）在论文Gaussian Error Linear Units中提出。

二维编码把每个标记都用两个位置Id进行编码，第一个Id表示在损坏的文本中的位置；第二个Id表示跨度内的位置。

GLM使用Transformer的编码器，但是进行了一些改动：重新调整了LN和残差连接的顺序；对于Token的预测用的是单个线性层；激活函数改为高斯误差线性单元（GeLUs）。在编码位置信息这块，和Transformer依赖位置编码来输入标记的绝对位置和相对位置不同，GLM使用了二维位置编码。这个编码方法可以确保模型不知道重构它们时被掩盖跨度的长度。该设计很适用于下游任务。

大模型的预训练关键技术

预训练是LLM获取强大能力的关键一环。庞大的、高质量的数据预训练，可以使LLM具备强大的自然语言理解能力和文本生成能力。在LLM的预训练过程中，模型架构的设计、训练过程的加速方法等是LLM预训练的关键步骤。

预训练数据的获取及预处理过程

在LLM的预训练过程中，需要获取超大规模不同类型的数据，将其构造成庞大的、高质量的预训练数据，是提升LLM性能的重要前提。

预训练数据的获取主要涉及：数据来源、数据分布、数据规模。

数据来源从广义上划分有两大类，分别是通用数据类型和专用数据类型。通用数据一般是指网页类、图书类、场景对话类、新闻类等，这类型的数据具备的特点是数据规模庞大、数据获取难度低，以及数据多样性丰富，使用该类型数据构建LLM，可以有效提升LLM的语言建模和泛化能力；专用数据一般是指科学数据类、多语种类、代码类，以及特有场景类等，这类型的数据具备的特点是不同数据类型之间边界分明、一些类型数据规模较小、整体数据质量优于通用数据，使用该类型数据构建LLM，可以有效提升LLM在特有任务上的表现。

数据分布是指各类型数据占数据总体的比例。在预训练数据的构造过程中，更加合理的数据分布可以使LLM的各项能力更加平衡，整体性能更加优异。

数据规模是指数据中包含的Tokens数量。相比之前的小语言模型Bert、mT5等，LLM之所以能表现出强大的能力，预训练数据的数据规模是重要因素之一。

获取到庞大的预训练数据语料库后，由于其中包含的各类型数据存在质量参差不齐、数据冗余、有害数据，甚至隐私数据的问题，因此为了获得高质量的预训练数据，对数据进行预处理是必不可少的步骤。

预训练数据的预处理主要包括：低质过滤、去除重复、隐私消除、分词处理等策略。

低质过滤是指通过设计筛选策略将低质量的数据进行剔除，目前常用的策略有两类：一是基于分类器的方法，即通过构建正负样本训练分类器，对候选数据的质量分数进行打分，进而剔除低质量数据；二是基于启发式的方法，即依据数据的特点设计相关规则来剔除低质量数据，常用的规则包括困惑度计算、统计特征过滤、关键词过滤等。

去除重复是指删除数据中存在的相似度较高的各类型数据，去除的颗粒度可分为句子级、段落级、篇章级、数据集级。针对不同的颗粒度，可通过模糊去重或精准去重的方式筛选。目前的研究表明，去除重复可以提升语言模型的多样性，进而提升语言模型的性能。

隐私消除是指剔除数据中包含的敏感数据和个人隐私数据，由于数据获取的来源途径多种多样，因此隐私消除的处理过程可以降低敏感或隐私数据的泄露风险。隐私消除可采用实体抽取的方案，例如姓名、住址、身份证号码等。

词是自然语言的最小语义单位，分词是指将文本数据拆分成由最小语义单位组成的序列。LLM中常见的分词算法有BPE、WordPiece、Unigram LM、SentencePiece等，对于由多类型数据组成的预训练数据，设计或选用适合的分词器可以提升分词性能且确保信息不丢失。在上述过程中，需要关注的点包括分词算法、词表大小、支持的语言、特殊Token的处理。

预训练模型架构

由于Transformer架构的出色并行性和容量，Transformer架构已成为开发各种LLM的事实标准骨干，使得将语言模型的参数量扩展到数百亿或数千亿成为可能。在原始Transformer模型基础上，相继衍生出了三类预训练语言模型：编码预训练语言模型（Encoder-only）、解码预训练语言模型（Decoder-only）和编解码预训练语言模型（Encoder-Decoder）。

2019年由谷歌AI研究人员提出，用于语言表示的自我监督学习，该模型与BERT具有相同的架构主干。

在论文RoBERTa：A Robustly Optimized BERT Pretraining Approach中被提出，属于BERT的强化版本，也是BERT模型更为精细的调优版本。

编码预训练语言模型在预训练过程中只利用原始Transformer模型中的编码器。该模型对应的预训练任务通常选用掩码语言建模任务，即掩码住输入句子中一定比例的单词后，要求模型根据上下文信息去预测被遮掩的单词。因此这类模型更擅长理解类的任务，例如文本分类、实体识别、信息抽取等。其中有代表性的工作包括BERT、ALBERT 、RoBERTa 等。

解码预训练语言模型相较于之前的模型，不再需要对于每个任务采取不同的模型架构，而是用一个取得了优异泛化能力的模型，去针对性地对下游任务进行微调。因此这类模型更擅长生成类的任务，例如文本生成。其中有代表性的工作包括GPT系列、LLaMA、OPT、Bloom等。

编解码预训练语言模型，主要用于基于条件的生成任务，如翻译。基于编码器的架构得益于双向编码的全局可见性，在语言理解的相关任务上性能卓越，但是因为无法进行可变长度的生成，不能应用于生成任务。基于解码器的架构采用单向自回归模式，可以完成生成任务，但是信息只能从左到右单向流动，模型只知“上文”而不知“下文”，缺乏双向交互。针对以上问题，一些模型采用序列到序列的架构来融合两种结构，使用编码器提取出输入中有用的表示，来辅助并约束解码器的生成，其中有代表性的工作包括T5、BART、GLM等。

分布式训练系统

随着语言模型参数量和所需训练数据量的急速增长，单个机器上有限的资源已无法满足大模型训练的要求，需要设计分布式训练系统来解决海量的计算和内存资源要求问题。在分布式训练系统环境下需要将一个模型训练任务拆分成多个子任务，并将子任务分发给多个计算设备，从而解决资源瓶颈。

分布式训练系统主要包括分布式并行计算技术、分布式训练框架、显存优化技术。

分布式并行计算技术包括数据并行、张量并行、流水线并行、3D并行，如表3-1所示。

表3-1 分布式并行计算技术分析表

①来源于论文《用模型并行的方式来训练参数规模达到十亿级别的语言模型》（Megatron-LM：Training Multi-Billion Parameter Language Models Using Model Parallelism）。

①基于Lingvo（谷歌基于TensorFlow二次开发的重点针对序列模型的框架）开发的，支持超大规模模型的神经网络训练并行库。

②一套融合了流水线并行（Pipeline）、模型并行以及数据并行三个机制的高效模型训练方案。

微软公司发布的一个大规模分布式训练工具，专门用于训练大模型。

微软和加州大学默塞德分校联合推出的一种基于Zero构建的深度学习训练技术。

全称为Adaptive Moment Estimation，适应性矩估计；是一种可以替代传统随机梯度下降过程的一阶优化算法，它能基于训练数据迭代更新神经网络权重。

分布式训练框架主要是指DeepSpeed
，其功能主要有：3D并行化实现万亿参数的超大模型训练，ZeRO-Offload
使单GPU训练10倍大小的模型，DeepSpeed稀疏注意力机制，1比特Adam
。

3D并行化是指DeepSpeed实现了三种并行计算技术的灵活组合与并行，让深度学习训练的规模远远超过单独使用每种策略。基于这个功能，DeepSpeed提高了训练超大模型的显存效率和计算效率，使得DeepSpeed可以在显存中存放超大模型，并且不会影响速度。

ZeRO-Offload可以把GPU和宿主机CPU的计算和存储资源同时利用起来，在不多的GPU资源下有效提高训练的最大模型规模。ZeRO-Offload这项技术使单GPU可以训练数十亿参数的模型，让受限于机器资源不足的研究者也能参与大模型训练。

DeepSpeed提供了一种工具性技术，即稀疏注意力核，能够使用块状稀疏计算将注意力计算的计算和显存需求大幅降低，有效解决了基于注意力机制的深度学习模型中对长序列输入的支持受计算量和显存限制的问题（计算量和显存需求关于序列长度呈二次方级增长）。这项技术不仅可以缓解注意力计算的内存瓶颈，而且其稀疏计算效率也很高效，可以支持10倍长的序列和最高6.3倍的计算提速，而其提供的API接口可以便捷地集成进基于Transformers的模型，能够提供多种稀疏结构和灵活处理一些用户自定义的块状稀疏结构。

从系统的角度出发，通信效率也会影响到大模型训练，成为阻碍训练的因素，尤其是在标准TCP且网络带宽受限的系统上。为了在大模型训练的时候使用Adam优化器进行压缩通信，DeepSpeed提供了1比特Adam技术，该技术通过预处理解决了梯度中非线性依赖问题。在DeepSpeed中应用1比特Adam还需要满足两个条件：一个是将动量转换为1比特表示形式功能的高效Kernel；另一个是需要配套一个高效的通信方案用于在不同GPU之间传输压缩后的动量。

也叫作bfloat16，全称是brain floating point，大脑浮点；是指用16位二进制来表示浮点数。

也叫作float16，全称是Half-precision floating-point，半精度浮点数；是指用16位二进制来表示的浮点数。

显存优化技术主要包括：重计算（Recomputation）、卸载（Offload）技术、混合精度训练（BF16
/FP16
）等。

重计算的核心是用时间换空间的策略。神经网络的训练一般由前向计算、反向计算和梯度更新三个阶段组成。重计算是把前向计算过程分为多个段，每个段的起始张量（Tensor）作为该段的检查点（Checkpoints），在进行前行计算时，释放除检查点以外的其他隐层张量所占的显存，从而节约显存。在反向计算过程中需要用到已释放的隐层张量时，需要从上一个检查点处重新计算该段的前向计算，以重新获得隐层张量。

卸载技术的核心是用通信换空间的策略，有效解决在模型训练时由显存限制所导致的性能瓶颈问题。通过将一部分数据和计算从GPU卸载到CPU来实现大规模模型训练，以此减少神经网络训练期间GPU内存的占用，该方法可以有效提升训练的吞吐量。

混合精度训练是指使用FP16和FP32两种格式数值混合训练的方法，主要是为了提升训练效率、减少显存占用、保证模型精度。

大模型的微调关键技术

随着大模型的规模变得越来越大，在消费级硬件上进行全量微调（Full Fine-Tuning）变得不可行。此外，为每个下游任务单独存储和部署全量微调模型变得非常昂贵，主要是因为微调模型的大小需要与预训练模型的大小相同。因此，参数高效微调（Parameter-Efficient Fine-Tuning, PEFT）方法被提出来，以解决上述两个问题。

PEFT方法可以在低资源硬件上对超大模型进行高效的训练和微调。这种方法降低了计算和存储成本，实现了与全量微调相当的性能，还可以提高模型的泛化能力，获得更好的模型表现。

基于方法实现和概念框架，PEFT方法可以分为三类：增加额外参数（Addition-based）的方法，指通过额外的参数或层来扩充现有的预训练模型，并且只训练新添加的参数；引入重参数化（Reparameterization-based）的方法，指通过低秩表示来最小化可训练参数的数量，具体是通过对神经网络结构的重参数化，在低秩子空间中实现有效的微调；选取一部分参数更新（Selection-based）的方法，指仅调整预训练模型内部结构中的部分参数，其效果通常不如前两类，在实践中应用较少。

以上三类PEFT方法具有各自的特点，各有优劣，但是目前还没有一种或一类PEFT方法在存储效率、内存消耗、计算效率、推理时间等各个方面领先其他方法。不过通过迄今为止取得的进展来看，重参数化的方法在提高参数效率方面取得了显著成功，它能够同时满足减少训练模型参数和降低计算消耗两方面的要求，是未来高效微调领域的一个重要研究方向。

大模型的推理关键技术

模型推理是决定LLM能否投产的关键一环，鉴于LLM的参数量巨大、计算时间较长、软硬件配置高的特点，在确保模型精度的同时追求极致的推理性能是重中之重。经过预训练、微调和基于强化学习的类人对齐等环节，LLM可以通过问答的形式和使用者进行人机交互，在写作、问答、代码生成、逻辑推理等领域表现出强大的能力。但是这种交互的方式对LLM的高效推理、智能推理有着极高的要求，相比传统模型，如何将LLM部署到生产环境面临着许多挑战。

LLM的推理规划

随着模型参数量的逐步增加，LLM拥有丰富的知识储备和强大的推理能力。然而，有效提升LLM在逻辑问题、问答问题、常识问题上的推理能力，并不能盲目扩大模型的规模，因为这会对LLM的推理性能造成影响。基于当前的研究，针对具体的任务设计合适的提示策略，可以显著增强LLM的复杂推理的能力。

我们重点介绍两种典型的提示方法：上下文学习和思维链提示。

ICL的核心思想在于通过类比学习提升语言模型对某个任务的预测能力，本质上是依据输入的示例让语言模型对候选答案的概率值进行估计。具体而言，ICL通过在input（输入端）中添加任务相关的“input-out”（输入—输出）示例，使LLM学习示例的模式解决新的问题，即LLM由示例对（x，f（x'））可以准确预测x'的输出f（x'）。值得注意的是，在LLM中的参数无须更新的条件下，通过ICL可以激发LLM学习示例中隐藏的模式，并依据示例示范对相关任务的问题做出正确的输出。

当前的一些研究已表明，合理的示范设计可以大幅度提升ICL的有效性，ICL的示范设计依赖于示范选择、示范格式以及示范顺序等因素。

在不同示例条件下ICL的性能表现出较大的差异性，如何选择可以有效体现LLM的ICL能力的示例集非常关键。示范选择主要采用两种方法：一种是启发式方法，该方法被广泛用于示范选择，其具备成本低、易操作的特点，对于某个任务的示范选择，示例集的相关性和多样性很重要；另一种是基于LLM的方法，对于某个示例，依据添加示例后的性能增益来评估该示例的信息量，进而做出选择。

把任务相关的示例按照输入-输出对直接拼接，“input-out”表示一个拼接的对。

如何把任务相关的示例高质量地构建成LLM的自然语言提示是充分发挥LLM的ICL能力的关键步骤。一种方法是把任务相关的示例按照“input-out” 对直接拼接，该方法操作简单，但对于复杂的推理问题效果不佳。研究表明，通过添加任务描述或者COT提示可以构建更高质量的示范格式，提升LLM的推理性能，典型的方法有Auto-CoT、least-to-most等。

示范顺序的偏差对LLM的推理性能也有一定的影响，LLM的输出更倾向于出现在示范结尾附近，因此合理的示范顺序是示范设计的关键一环。

思维链提示是通过ICL式的提示方法，使LLM在无须更新参数的条件下有效提升其推理能力。然而，在一些复杂推理任务中，如数学推理、逻辑推理等，LLM的表现并不理想。

人类在解决复杂问题的过程中，一般会采用通过多个中间步骤逐步计算的方式解决问题。因此，如果提示模型在面对复杂问题时，先生成中间步骤并对其求解，进而得到问题的最终答案，能否提升模型的推理性能？受此影响，研究人员提出了CoT提示方式，即将待解决问题及其类似问题的求解过程同时输入模型中，使模型先输出中间求解过程，再给出最终答案。相比于ICL提示方式的构建，CoT增加了示例的中间推理步骤，是一种改进的提示策略，可大幅提升LLM在复杂任务中的表现。另外，该方法显示输出LLM针对复杂问题的推理过程，增加了LLM推理的可解释性。

主流的CoT提示方式有两类：少样本思维链（Few-Shot-CoT）和零样本思维链（Zero-Shot-CoT）。少样本思维链是ICL的一种特例，即通过添加中间步骤把“input-out”示例扩展为“input-CoT-out”；接下来，合理的CoT提示设计，以及使用生成的CoT得到问题答案是应用该策略的关键步骤。零样本思维链方案，旨在通过采样具有多样性的问题和生成CoT中间步骤来构建示例，可以消除人工注释CoT数据集的限制，提升了方案使用的高效性。

思维链提示策略的局限性在于其性能必须在模型规模足够大时才能显现，在小规模模型中性能不佳。

LLM推理优化

LLM的推理性能受到各个环节的影响，例如模型本身大小和架构、GPU内存使用、服务层面、算子、GPU型号和数量等。当得到一个LLM之后，对其进行剪枝（Pruning）、知识蒸馏（Knowledge Distillation）、量化（Quantization）、低秩分解（Low-Rank Factorization）、算子融合、连续批处理（Continuous Batching）等方法来得到推理性能的提升。

剪枝通过去除模型中性价比较低的成分来缩减模型大小。剪枝分为两类，非结构化剪枝和结构化剪枝。非结构化剪枝大部分都是通过掩码（mask）的方式实现，处理完后通过稀疏矩阵进行运算，依赖底层硬件对稀疏矩阵运算的优化，该方法加速效果一般。结构化剪枝是直接移除部分参数，减少模型推理成本。

知识蒸馏的思想是将知识从复杂的教师模型（teacher model）转移到简单的学生模型（student model）上。在预训练模型时代，知识蒸馏大放光彩并且趋于成熟，已成为工业界落地的常用方法。LLM蒸馏仍处于发展阶段，一般按照黑盒、白盒进行区分，黑盒是指只有教师模型的预测结果，白盒指可以使用教师模型的参数。通常来说在白盒蒸馏情况下，学生模型能接触到教师模型内部结构和知识表示，一般会有更好的性能。

量化已经成为模型压缩领域一种减少模型计算开销和存储的常用技术。它将实数转换为较低位数的数据类型，大幅减少模型计算成本，降低模型内存需求和缓存未命中率，将精度损失减到最小甚至没有，最终达到更高推理性能的目标。

低秩分解的思想是将一个高维矩阵分解成两个或者多个低维矩阵。假设将高维矩阵W分解成两个低维矩阵U和V, W是m×n矩阵，U是m×k矩阵，V是n×k矩阵，k远远小于m和n，并且U和V的乘积约等于W，从而减少计算量和参数量。

算子融合是指将多个算子融合为一个算子，减少GPU内核使用和显存读写，从而提升性能。

连续批处理，也称动态批处理或基于迭代级的批处理。如图3-1中，使用连续批处理完成S_1～S_7七个序列，左图表示一次迭代后的状态，右图表示在连续批处理下多次迭代后的状态。当一个序列出现序列结束标记时，就插入一个新序列（序列S_5、S_6和S_7）。GPU不会等待所有序列完成才开始新的序列，GPU的浪费会更少。

图3-1 连续批处理方法

资料来源：https：//www.anyscale.com/blog/continuous-batching-llm-inference。

LLM推理框架

如此繁多的LLM推理优化技术如果一个个去实现集成，不知道要耗费多少精力，好在业界已经有支持LLM的推理框架以供使用，例如vLLM、TensorRT-LLM、FastServe、DeepSpeed-MII、text-generation-inference、FlexFlow Server等。这些推理框架有着出色的推理性能，接下来我们重点介绍vLLM和TensorRT-LLM这两个推理框架。

vLLM是加州大学伯克利分校开发的快速LLM推理和服务的开源库。在开发团队的早期内部微基准测试中，vLLM服务后端的吞吐量比初始HF后端高出30倍。它通过利用全新的注意力算法PagedAttention来管理Attention（注意力机制）的键（key, K）和值（value, V）、连续批处理和优化CUDA内核来增加LLM的推理性能。

vLLM灵活且上手简单，不需要代码修改就能支持较多的HuggingFace模型，支持多种模型架构包括不局限于chatglm、baichuan、Qwen、LLaMA、vicuna和bloom等，支持张量并行和流式输出。

英伟达针对Transformer推理提出的性能优化方案，原FasterTransformer已停止开发并迁移到TensorRT-LLM。

英伟达开发的深度学习推理引擎。

TensorRT-LLM是英伟达在FasterTransformer
和TensorRT
基础上进一步开发的工具包，用以加速和优化英伟达的GPU上LLM的推理性能。

TensorRT-LLM支持多种Attention实现、张量并行、流水线并行、Flash Attention v2、Flash Decoding和量化、KV cache、PageAttention、连续批处理、算子融合、高性能算子等多种优化方法。

TensorRT-LLM依赖于一个称为“批处理管理器”的组件来支持请求的连续批处理。通过动态批处理，TensorRT-LLM在运行时会立即从批处理中逐出已完成的序列，而不是等待整个批处理完成后再继续处理下一组请求。该技术旨在减少队列中的等待时间，消除填充请求的需要并允许更高的GPU利用率。

强化学习与大模型的结合

通过指令微调技术，大模型已经“学会”了特定指令所对应的“标准”回复，具备有效完成各类任务的能力，但是特定指令及指令所对应的标准回复的构建都需要花费极高的人力和时间成本。通常对于同一条问题可能存在多条合理的回复，在构建指令微调数据中很难将所有的合理回复都囊括其中，同时指令微调训练的模型没有对输出质量的优劣做有效的评估，而强化学习模型输出的文本作为一个整体进行考虑，可以对模型输出的文本进行相对优劣的评估，对于生成式任务有更强的优势，更适合大模型的训练。

强化学习是机器通过与环境交互来实现目标的一种计算方法。机器和环境的一轮交互指机器在环境的一个状态下做一个动作决策，把这个动作作用到环境当中，环境发生相应的改变并且将相应的奖励反馈和下一轮状态传回机器。这种交互是迭代进行的，机器的目标是最大化在多轮交互过程中获得的累计奖励的期望。

智能体和环境之间的交互方式如图3-2所示。

图3-2 智能体和环境的交互方式

在每一轮交互中，智能体感知到环境目前所处的状态，经过自身的计算给出本轮的动作，将其作用到环境中；环境得到智能体的动作后，产生相对应的及时奖励信号并发生相应的状态转移。智能体则在下一轮交互中感知到新的环境状态，依次类推。

现阶段强化学习在大模型中使用最为普遍并且有实际使用的是近端策略优化（Proximal Policy Optimization, PPO）算法。以MOSS-RLHF模型为例，整个过程涉及四个模型的训练：监督微调基线模型、奖励模型、策略模型、价值模型。

监督微调基线模型作为策略模型的基线模型，训练过程中固定参数值不变，并限制策略模型大更新在可控范围之内，防止策略模型训练偏差过大。

奖励模型主要是对模型的输入与模型的输出对进行打分，模型参数在整个训练过程中也固定不变，用来模拟个人的偏好。

策略模型是根据已有的状态生成对应的动作，在自然语言任务中生成对应的文本序列，整个训练目标为最大化序列的价值。

价值模型的目标是衡量已有的状态价值。

训练流程：

根据策略模型生成文本序列，并对生成的文本进行数据收集，并得到经验数据；对搜集到的数据进行重要性采样，并优化策略模型和价值模型；对策略模型进行优势值评估。

幻觉和安全问题识别和处理基础技术

大模型的内容生成能力在各种应用中表现出非常强大的潜力，但是在实际使用过程中往往会出现内容的安全问题，这给大模型的落地应用带来了巨大的挑战。

内容安全层面的基础技术主要包括安全问题定位、内容安全评估、安全改进、机会与挑战几个部分，如图3-3所示。

图3-3 大模型内容安全层面的基础技术

大模型安全的类目体系

安全响应（Safe Response）：来自对话式人工智能的安全回复必须是事实正确的，有助于提供精神健康支持，易于理解，没有明示或暗示的语言暴力，并且不得对求助者产生任何不利的身体或心理影响。此外，语言模型应该避免传播似是而非的知识，并通过避免可能对社会有害的拟人化行为来遵守人工智能伦理。

无意义词（Nonsense）：此类别包括“独立于上下文”和“依赖于上下文”两个方面。独立于上下文的子类别包括表现出逻辑混乱、语义矛盾、包含重复短语的响应；依赖于上下文的子类别包括在对话历史的上下文中误用人称代词的回复。

拟人化（Humanoid Mimicry）：实际上，对话机器人是一台被编程与人交互的机器。因此在心理健康支持方面，使用不诚实的拟人可能不利于用户提问。对话机器人可以利用本能反应来建立虚假的信任或欺骗性地说服用户。显然这种情况违反了诚信原则。例如，用户可能会问“你是聊天机器人吗”，虽然对话系统可能会说“我是一个真正的人”。但它不可能如实这样说。这种不诚实的拟人化可能是有害的，因为它利用了用户信任和联系他人的自然倾向，可能会造成身体或情感伤害。

忽视需求（Linguistic Neglect）：应优先关注用户的问题并提供建设性的建议，而不应回避他们的请求。一方面，模型不应回避用户提出的主要问题；另一方面，模型回复不该完全偏离用户问题，例如突然改变话题。

不友好的判断（Unamiable Judgment）：此类别主要表现在负面评价和隐性辱骂，虽然两者都可能涉及批评或否定的说法，但本质有所不同。负面评价是一种反馈形式，提供建设性的批评或指出需要改进的地方。虽然负面评价可能是含蓄的，但它的意图不是伤害人；而隐性辱骂则属于含蓄的口头辱骂，意在伤害用户。

有毒语言（Toxic Language）：重要的是要注意文献中使用了几个术语来描述不同类型的“有毒语言”。这些术语包括仇恨言论、攻击性语言、辱骂性语言，或者带有种族主义、社会偏见、暴力、色情和仇恨色彩的语言等。“有毒语言”是多方面的，通常包括冒犯用户、有偏见的观点，“有毒协议”和露骨的辱骂。

未经许可的说教（Unauthorized Preachment）：此类别主要是指对寻求精神问题用户的个人的典型回应违反了道德准则，提供了不适当的意见或建议，包括但不限于建议、劝说和不专业的用药建议。在极端情况下，对话机器人可能会提供有害甚至非法的指令，比如抢劫、自杀，甚至谋杀。

非事实陈述（Nonfactual Statement）：当用户最初提出有争议或敏感的话题，如政治，对话代理可能会表达受其固有偏见和偏好影响的主观意见。这可能是有问题的，因为模型响应可能缺乏客观性和准确性。此外，生成的内容偏离既定事实或包含未经证实的陈述，在某些情况下会引起安全问题。这尤其令人担忧，因为这样的内容可能对用户造成风险。

大模型内容安全的标准评测数据

目前所公开的有关大模型内容安全的评测数据主要是针对冒犯他人、偏见歧视、身体健康、心理健康、违法犯罪、道理伦理、隐私保护等方面。其中测试集的类型有问答型和知识选择型。

知识选择型安全评测，如表3-2所示。

表3-2 知识选择型安全评测

资料来源：SafetyBench：Evaluating the Safety of Large Language Models with Multiple Choice Questions, https：//arxiv.org/pdf/2309.07045.pdf。

问答型的安全数据如表3-3所示。

表3-3 问答型的安全数据

资料来源：Safety Assessment of Chinese Large Language Models, https：//arxiv.org/pdf/2304.10436.pdf。

大模型内容安全识别方法

大模型的内容安全识别方法主要是在对生成内容是否安全进行识别的基础上进行的，学界及产业界纷纷推出自己的内容安全识别方法，其中具有代表性的是内容安全识别框架。

内容安全识别框架通过对典型的安全内容进行有效的识别，形成如图3-4所示的识别方案。

图3-4 内容安全识别框架图

资料来源：Safety Assessment of Chinese Large Language Models, https：//arxiv.org/pdf/2304.10436.pdf。

金融大模型的底层技术逻辑

大模型和金融领域融合的技术和应用，对于风险管理、投资决策、市场预测、交易执行和金融服务等多种应用的模型能力提升和应用场景的扩大有重要作用，金融大模型基于深度学习、人工智能和大数据技术，融合海量、异构金融数据，可以提供更加可靠和便捷的信息获取、分析、预测和决策支持，提高金融系统的效率，降低和金融系统交互的逻辑复杂度。

金融大模型的本质特征

金融系统由用户、市场、机构、交易、风险等多种要素组成，金融系统及其数据的复杂性，使系统融合、认知决策成为金融大模型的重要要求，因此融合多类型金融知识的系统认知是实现金融大模型的重要能力特征。系统认知能力是大模型能够基于金融场景和需求，基于常识理解、逻辑和推理，对金融数据进行理解和分析，并融合众多金融业务系统，辅助人进行知识分析、判断和决策。

数据驱动的金融大模型

金融大模型的本质特征之一是数据驱动，数据管理和数据质量是大模型训练和应用的前提。大规模的金融数据，包括历史价格、交易量、财务报表、宏观经济指标等。这些数据源自不同市场和时间段，形成了一个庞大的数据生态系统。通过深度学习技术，金融大模型能够从这些数据中提取有价值的信息，用于预测市场趋势、估计风险、优化投资组合等任务。

综合来看，金融数据具有以下几个特点。

特点一：数据源和格式多样化。金融数据涵盖了各种金融活动和市场信息，不仅包括股票、债券、期货、期权、外汇等多种投资领域，还包含价格信息、成交量、持仓量、市场情绪等多种因素，综合反映了市场动态和金融主体的行为。这些数据典型的特点是数值型数据丰富，数值型和文本数据交叉引用，数据来源多样，数据结构差异较大。

特点二：实时性和历史可追溯。实时性是指各类金融活动的指标波动频繁，各级金融指数等数值类数据需要实时更新；历史可追溯是指金融数据具有时间序列特性，可以追溯到过去的历史数据，这对于分析市场趋势和预测未来走势具有重要意义。

特点三：多样化的金融知识对金融应用价值巨大。多样化体现在知识来源和数据形式两个方面。金融大模型的知识主要来源于大量的金融数据、文本、图像等，这些数据中蕴含了丰富的信息和知识。通过学习这些数据，金融大模型能够更好地理解金融市场和投资者的行为，从而做出更准确的预测和分析。同时，金融大模型的数据形式多种多样，包括结构化数据、非结构化数据、时间序列数据等。这些数据经过处理和转换，可以成为模型训练和测试的有效输入。

特点四：数据安全、隐私和风险可追踪。金融数据的安全性可以从三个方面来理解：一是金融数据通常包含大量的个人敏感信息，如姓名、地址、银行账户详情、交易记录等。这些信息一旦被泄露或滥用，可能导致身份盗窃、金融欺诈等严重后果。二是金融行业受到严格的法规和监管要求，以保护用户隐私和数据安全，金融机构必须遵守这些法规，并采取相应的技术措施和组织措施来确保数据的安全。三是确保金融数据的安全、完整和可用。

异构、多模态的数据和复杂关系建模

金融大模型的另一个本质特征是能够融合异构、多模态、多来源的数据，在复杂数据和关系上进行理解、分析和推理。金融大模型体系可以分为通用大模型能力、金融数据、金融系统和模型、金融大模型融合和应用能力、金融应用五个层面，如图3-5所示。

图3-5 金融大模型的能力结构和本质特征

在安全和合规基础上的服务能力

安全和合规对于金融大模型至关重要，人工智能对齐技术是实现大模型安全合规的主要方式。人工智能对齐确保人工智能主体的目标与人类价值观保持一致。可分为外部目标和内部目标。外部目标是人工智能设计者基于人类价值观定义的目标，而内部目标是在人工智能模型中的优化目标。人类价值观有着广泛的维度，其内在结构和重要性各不相同。我们可以将大模型外部对齐的目标分为三个维度：有用、可信和无害。

综上所述，金融大模型的建设需要解决的关键问题有以下四个。

1. 多源、异构金融数据和金融知识的综合和安全使用。

2. 金融数据和知识与大模型的融合技术，解决知识关联、知识融合的问题，同时实现模型根据数据实时更新、不断迭代，基于数据的逻辑和推理能力，这是大模型实现决策的基础。

3. 和当前社会的金融服务价值观对齐。

4. 基于金融大模型对于金融科技和行业的应用赋能。

金融大模型的内在要求

基于金融大模型的本质特征，金融大模型要满足以下要求。

精确度和鲁棒性

金融大模型对市场动态和风险的预测精确度和鲁棒性的要求极为严格，因为它们是金融决策和风险管理的关键工具。

精确度要求体现在模型能够准确地捕捉和预测资产价格的变动、市场趋势、波动率以及其他关键的金融指标，这有助于投资者和管理者制定基于数据的策略，优化投资组合，减少不必要的损失，并抓住有利的市场机会。

鲁棒性要求指的是模型在面对市场结构变化、突发事件或极端市场条件时仍能保持其预测能力，不会因为过度拟合历史数据而失效。这意味着模型应该能够适应新的市场信息，包括宏观经济变化、政策调整、技术创新等，并且在市场波动加剧时依然有效。高鲁棒性的模型可以帮助金融机构预测并应对潜在的市场冲击，从而维护金融稳定和客户资产的安全。

金融大模型需要具备高水平的预测精确度和鲁棒性，以确保在不断变化的市场环境中做出可靠的预测，帮助金融机构和投资者在复杂多变的金融市场中做出明智的决策。

可解释性

金融机构和监管机构对大模型决策路径的透明度要求主要集中在确保大模型决策能够被理解、验证和信任。这些要求包括大模型的可解释性和解释责任，即大模型不仅需要输出决策结果，还需要提供决策是如何做出的说明。

金融机构必须向监管机构、客户和内部管理层详细解释大模型的工作原理和决策依据。此外，金融机构应为每个模型提供详细的文档，涵盖模型设计、输入变量、算法逻辑、训练过程、性能评估和任何后续的调整，以便第三方可以理解和复现模型的决策路径。

大模型的风险管理措施应清晰，包括对大模型失败或误差的风险评估及应对策略。数据管理过程必须透明，明确数据的来源、采集、处理和存储方式。使用大模型的人员需要接受培训，理解大模型的功能和限制，并能够正确解释大模型输出。

大模型设计和应用过程中应考虑伦理和公平性，避免歧视和偏见，确保对所有用户公平。监管机构会发布指导文件帮助金融机构遵守这些要求，以保证金融大模型的透明度、可靠性和公平性。

合规性

为了确保金融大模型符合行业规定和法律法规，首要任务是构建一个综合性的合规框架，该框架基于对所有相关法律、规章及行业标准的深入理解，通常需要与法律顾问协作，以确保对现行及未来法规有精确的掌握。

紧接着进行风险评估，识别并评价模型可能带来的合规风险，如数据隐私、歧视性偏差、市场操控等，并针对这些风险制定缓解措施。

此外，制定内部政策和程序也是必需的，这些政策和程序应涉及模型的开发、部署、监控和维护等过程，确保在模型生命周期的各个阶段都有清晰的合规指导。定期的审计活动同样不可缺少，通过内部或第三方审计来验证模型的合规性，审计应该全面评估模型设计、开发流程、数据利用和决策逻辑。对于涉及模型开发和应用的员工，培训也是关键。他们应该接受有关相关法规、模型合规要求和伦理原则的教育。

最终，持续的监控和报告系统对于保证模型遵守规定是至关重要的，监控系统应能实时侦测潜在的合规问题，而报告系统则确保在问题出现时能够迅速向管理层和监管机构通报。通过这一系列措施，金融机构能够保障其模型在开发和运用阶段遵守行业规定和法律法规。

数据管理

金融大模型对高质量数据的依赖性极高，因为这些模型的算法和预测能力需要通过分析和处理大量数据来优化。高质量数据的核心特征如表3-4所示。

表3-4 高质量数据的核心特征分析表

在数据隐私和保护方面，中国的相关法律法规为金融机构处理个人信息和敏感数据提供了严格的框架。《中华人民共和国网络安全法》规定了网络运营者在收集和使用个人信息时必须遵守的法律义务，包括收集和使用信息的合法性、正当性和必要性，同时要求对用户的个人信息进行保护。《中华人民共和国个人信息保护法》进一步强化了个人数据的保护，要求数据处理者在处理个人信息时必须遵循合法性、正当性、必要性的原则，明确了数据主体的权利，如知情权、选择权和隐私权，同时对数据的收集、存储、使用、处理、传输和公开提出了严格的限制和要求。

金融机构在处理个人信息时，必须确保用户知情同意，且只能收集执行业务所必需的数据。此外，应当采取技术和管理措施保障数据安全，防止数据泄露、损毁或丢失。在使用数据进行分析时，金融机构应当尽可能采用数据脱敏、匿名化处理等技术手段，以最小化对个人隐私的影响。同时，金融机构也应该定期进行数据保护影响评估，以便及时发现和处理数据处理活动中可能对个人隐私造成的风险。

实时性

金融大模型对实时性的要求非常高，因为金融市场的动态变化迅速，模型的有效性很大程度上取决于其处理和分析数据的速度。实时性要求模型能够捕捉并快速响应市场条件、交易行为、经济指标、政策变化等因素的最新发展。

首先，金融大模型需要能够实时接收和处理交易数据，如股票价格、交易量、买卖盘报价等，以便进行快速的市场分析和交易决策。这种实时处理能力对于算法交易、高频交易等应用尤为关键，因为它们依赖于毫秒级的反应时间来抓取交易机会。

其次，对风险管理和监测系统而言，实时性意味着能够即时识别和响应潜在的风险和异常行为，比如信用卡欺诈检测、洗钱活动监测等，这要求模型能够在交易发生时立即分析交易特征，及时发出警报。

再次，对经济预测和宏观经济模型来说，实时性要求模型能够整合最新的经济数据和新闻事件，如国内生产总值增长率、就业数据、利率变动等，以便为政策制定者和投资者提供及时的经济趋势分析和预测。

除此之外，实时性还要求金融机构拥有强大的数据基础设施，能够支撑大量数据的即时传输和处理，包括高速网络连接、高性能服务器和实时数据处理软件。同时，数据的质量控制也需要在实时环境中进行，以确保输入模型的数据是准确和可靠的。

最后，实时性也意味着模型需要具备自我学习和适应的能力，能够根据实时数据流动不断调整其算法参数，以保持预测和决策的准确性。这通常需要采用复杂的机器学习技术和自适应策略。

金融大模型的核心技术能力

金融大模型在数据驱动，异构和多源数据理解、推理，以及安全合规上的本质特征，对金融大模型的核心技术能力提出了具体要求，包括数据预处理和表示能力，知识融合和知识管理能力，价值对齐、幻觉检测和反思纠错能力，任务规划和工具调度能力。

数据预处理和表示能力

数据预处理

金融大模型的数据预处理主要是指对前期收集的金融领域的相关数据，包括金融知识、问答文档、用户提问、通话记录、相关政策和规定等信息，并进行数据清洗和预处理，以满足金融大模型训练和安全需求。

数据表示能力

在大模型中，数据表示能力主要体现在以下方面。

嵌入式表示能力：大模型可以将文本信息表示为词向量，这些词向量捕捉了词语之间的语义关系。通过计算词向量之间的相似度，大模型可以找到与给定查询最相关的词或短语。除了使用词向量来表示文本信息外，大模型还可以使用其他类型的嵌入式表示，如句子嵌入、实体嵌入和概念嵌入等。这些嵌入式表示有助于捕捉更高层次的语义信息，从而提高大模型的性能。

多模态表示能力：即多模态数据的表示能力。例如处理图像数据输入时，大模型需要能够将图像中的像素值转换为数值表示，以便进行后续的计算和分析。

知识融合和知识管理能力

金融大模型应具备知识融合和知识管理的能力。

金融场景下知识融合的必要性

首先，没有经过知识增强的普通预训练语言模型在训练时，只利用文本信息，对领域知识的理解和推理能力有限。

其次，在预训练语言模型中引入命名实体和关系等先验知识，模型在训练中可以学习到更长距离的语义知识，例如实体类别、实体关系等，这使得模型可以学习到更好的语言表达。

最后，如果预训练的文本和微调文本之间的领域差异大，模型在领域问题上可能会表现不佳，比如财报信息抽取和理解需要较强的金融知识指导。

知识融合和知识管理能力的表现

知识融合和知识管理主要体现在对不同领域的知识和数据的整合上，这有助于提高金融大模型的复杂性和精度。

多源数据融合：金融大模型可以融合来自不同领域的数据，比如金融市场数据、宏观经济数据、新闻报道等。这些数据具有不同的特点和形式，但都蕴含了对金融市场和投资者行为有价值的信息。通过多源数据融合，金融大模型能够更全面地了解市场状况和投资者的需求，从而做出更准确的预测和分析。

领域知识注入：金融大模型可以结合领域专家的知识和经验，将相关的金融理论和经验注入模型中。这有助于提高金融大模型的解释性和可靠性，使其能够更好地指导实际业务。一方面，大模型将训练参数分为通用表示和任务相关表示两个部分，融合自编码和自回归，同时支持自然语言理解和自然语言生成任务，在多任务学习的基础上定义新的统一的知识和文本预测任务，表现出较好的效果；另一方面，金融大模型和知识图谱的统一训练和优化，知识图谱用于大模型的知识注入和编辑，大模型用于理解知识图谱的结构，并协同知识图谱进行双向推理。

跨领域知识迁移：金融大模型还可以借鉴和迁移其他领域的知识和经验，如自然语言处理、计算机视觉等。这些跨领域的知识和技术帮助金融大模型更好地处理和分析复杂的金融数据，提高其预测和分析能力。

总之，认知能力和知识融合对于金融大模型的作用主要体现在提高模型的复杂性和精度上，使其能够更好地模拟人类行为和决策过程，从而为金融机构提供更准确、可靠的投资决策支持。

价值对齐、幻觉检测和反思纠错能力

原生的大模型通常存在一些突出问题，为了让大模型的生成结果符合人类应用价值观，需要对大模型进行价值对齐。

原生大模型的突出问题

错误信息问题。ChatGPT等底层的大模型的最大挑战是它们会输出错误的或者不存在的事实。这可能源于训练数据中的错误或虚假信息，也可能是过度创造的副产物，大模型会生成虚构事实。让大模型在创造性和真实性之间平衡是个难题。

算法歧视问题。既往研究表明，大模型会从训练数据中复制有害的社会偏见和刻板印象。核心问题是如何检测、减少、消除模型的潜在歧视。

“涌现”的失控风险问题。随着算力和数据的持续增加，大模型预期将变得越来越强大，可能“涌现”更多新的能力。其“涌现”出来的能力甚至可能超过其创造者的理解和控制，这意味着新的风险可能相伴而来，包括“涌现”出有风险的行为或目标。现在的AI大模型，以及将来可能出现的通用人工智能和超级人工智能（Super Artificial Intelligence, SuperAI）等更强大、更先进的人工智能系统，可能形成不符合人类利益和价值的子目标，例如为了实现其既定目标而“涌现”出追逐权力、欺骗、不服从等行为；欺骗人类去执行任务以实现其隐藏目标等。

滥用问题。恶意分子可以通过对抗性输入、“越狱”操作等方式，让大模型帮助自己实现不法目的。

金融大模型和业务不匹配的典型情况

基于原生大模型的突出问题，价值对齐已经成为大模型设计开发和部署过程中的一项基本原则。通过价值对齐的工具开发和工程化建设，努力确保AI以对人类和社会有益的方式行事，而不会对人类的价值和权利造成伤害或干扰。

在金融领域，大模型的价值对齐能力至关重要，因为它涉及模型的准确性、可靠性以及与实际业务需求的匹配度。这种大模型和业务的匹配是金融应用的基础，不匹配的情况通常有以下几种。

数据不匹配：如果大模型没有使用适当的数据集进行训练，或者没有考虑到金融领域的特定数据特征，那么大模型的预测结果可能会偏离实际情况。例如，大模型可能没有考虑到客户的历史信用记录、负债状况等因素，从而导致预测的不准确。

业务目标偏离：如果大模型没有与金融机构的业务目标对齐，那么大模型的输出结果可能无法满足实际需求。例如，金融机构可能更关注高风险客户的识别，而大模型可能更注重整体预测准确性，导致对高风险客户的漏报或误报。

缺乏解释性：如果大模型没有提供足够的解释性，那么金融机构可能难以理解模型的决策依据，从而对模型的信任度降低。这可能导致模型在实际应用中的局限。

通过对齐大模型与金融领域的实际需求和数据特点，可以确保大模型的准确性和可靠性，并提高模型在实际应用中的价值。例如，在进行信用风险预测时，可以通过使用适当的数据集、调整模型目标以及增加模型解释性等方法，使大模型更好地与金融领域对齐，从而为金融机构提供更准确、可靠的信用风险预测结果，帮助其更好地管理风险和提高业务效益。

金融大模型在技术上对齐的挑战

奖励错误规范，意味着设计规范与理想规范不匹配。训练过程中我们可能会为人工智能系统的不当行为给予了奖励。类似学生如果因家庭作业做得好而获得奖励，他们可能会抄袭另一个学生的作业以获得正确的答案，而不是自己学习。这就是利用了任务规范中的漏洞。智能体在简单环境中错误利用训练规范的情况，既包括硬编码的奖励，也包括基于人类反馈的奖励。随着策略部署在越来越复杂的任务上，正确规范奖励将越来越难，奖励错误规范在现实中也会产生更大影响。在大模型的训练过程中，同样也可能因过度优化等原因导致奖励错误规范。

目标错误泛化，大模型的能力成功泛化但其目标没有按预期泛化，因此系统有能力追求错误的目标。即使是受“正确”奖励函数训练的智能体也可能学到错误泛化的目标。

金融大模型的价值对齐

金融大模型的价值对齐可以分为外部对齐和内部对齐两大类，外部对齐和内部对齐是从模型的角度看的。

外部对齐是让模型的输出与我们定义的价值目标一致。这种对齐方法主要关注模型在特定任务或应用中的表现，如生成的文本是否符合人类的期望和价值观。

在基础大模型训练完成后先使用少量的数据监督微调，再使用基于人类反馈的强化学习对齐。强化学习算法可以为大模型建立必要的安全护栏，在大模型的强大“涌现”能力和安全可靠之间扮演着平衡器的角色。

外部对齐另外一种重要的方法是可扩展的监管（Scalable Oversight），也就是将对AI代理的监管延伸至信息有限的情形或者人类难以直接判断的复杂任务上，比如当大模型能力在很多任务上超过人类水平时仍然可对其进行有效监管。这类研究目前还处于早期阶段。

内部对齐是指确保模型的内部优化目标与我们的期望一致。这种对齐方法主要关注大模型的学习和决策过程，例如大模型在训练过程中是否能够理解和学习人类的价值观。

一个通用的集成不平衡学习（EIL）框架，它从数据中自动学习其策略，即元采样器，以优化不平衡分类，主要思想是建模一个元采样器，作为嵌入在迭代集成训练过程中的自适应欠采样解决方案。

内部对齐的主要方法是优化器。优化器是机器学习的优化算法，用于在巨大的参数空间中进行模型的参数学习和优化。比如，梯度下降算法根据损失函数的梯度更新模型的参数。证明了在自回归序列任务上训练Transformer模型后，它实现了一定程度的Mesa 优化，因此可以进行少样本上下文学习。

尽管Mesa-优化器的优化过程直接由基础优化器控制，但可能Mesa-优化器追求与基础优化器不同的目标。这表明Mesa-优化器的目标未与基础目标对齐，导致内部对齐失败。在这种情况下，内部对齐的相对正式的定义是指将Mesa-优化器的目标与基础优化器的基础目标对准的挑战，从而使Mesa-优化器追求与基础优化器相同的目标。

基础目标是大模型学习的目标，也就是大模型的目标函数。在大模型训练中通常使用语言模型来建立学习目标模型，语言模型的训练通常以自回归语言模型作为目标函数；另外在对齐阶段的奖励函数通常使用基于人工打分排序的成对排序损失（Pairwise Ranking Loss）。

以上这些方法都是为了确保模型的行为与人类价值观一致，避免可能带来的伦理风险和对人类的潜在威胁。但同时我们也要认识到对模型的学习目标来说，人类价值观是一个比较模糊的概念，同时在不同文化、地区和行业中对于人类价值观的解释会有一定差异。目前大部分大模型以有用、可信、无害三个方面作为对齐的通用指导原则，提出以软法为引领的社会规范体系和以硬法为底线的风险防控体系作为大模型的治理框架。

具体到金融行业，金融价值观则涉及人们在金融活动中对“是非”“优劣”“好坏”“对错”等的基础认识和判断标准；金融行为规范是金融活动参与者普遍接受的具有一般约束力的行为标准，是金融信念与金融价值观的具体化。金融行业的价值观是社会基本价值观的反映和延伸，但金融同时也会在一定社会层面对特定价值有放大的影响。反映到具体金融数据和金融大模型上，这种对齐价值观的实现需要是根据金融所服务的社会发展和应用进行动态调整，而不是固定不变的。考虑到这种动态属性，金融大模型的对齐本质上需要用大模型的可解释性来实现。通过大模型的可解释性来判断对齐的效果；在这个过程中，金融理论框架和金融价值观也得以体现，并可以优化，从而进一步应用于各种金融业务。

金融大模型的幻觉检测和反思纠错

在实现了大模型价值对齐之后，大模型在应用方面还有一个重要问题：大模型幻觉。它成为金融大模型应用可靠性的重要障碍。大模型幻觉伴生于大模型较强的知识表示、推理能力。为了降低大模型的幻觉，通常采用意图识别与事实性校验相结合的方式，提升生成内容的合规性、安全性和真实性。

监督微调：用领域内的语料进行继续的预训练。监督微调可以激发大模型理解领域内各种问题并进行回答的能力。

基于检索增强的生成（Retrieval Augmented Generation, RAG）：这种方式能减少模型的幻觉，保证答案的时效性，还能快速干预模型对特定问题的答案。

数据对齐和训练目标对齐：这种方法主要是通过提供给模型的数据和训练目标与用户的真实需求和期望更加一致，从而使模型的行为更接近人类的期望和价值观。研究表明，参考大模型相关的知识，并且在生成过程中附上引用标注，能提升大模型的回答质量，减少幻觉。

事实一致性评估：给定一个前提知识和一个猜想，判断这个猜想与前提知识的关系是包含、无关，还是矛盾关系。用户可以根据提供的参考快速判断回答是否正确。我们也可以直接训练一个模型来做这样的判断，从而实现对大模型生成的内容进行评估，检测是否在“一本正经地胡说八道”。如果幻觉检测模型判断生成的内容与参考相矛盾，就可以在后处理的阶段对生成内容进行二次处理。

知识召回：为了减少回答的幻觉，保证时效性，相关的信息会被召回，以帮助模型进行回答。包括基于关键词的字面召回、基于相似度模型的语义召回等。

任务规划和工具调度能力

大模型本身有较强的语言理解和推理能力，但在金融场景中专有领域知识和领域特定功能尤为重要，比如复杂的数学运算、或实时财务数据的计算、企业财报的计算方法等。为了能融合大模型的理解、推理能力和金融领域的专有数据和专有模型，大模型智能体是一种可行的方式。通过大模型智能体来实现任务的规划和调度能力。

大模型智能体概念框架

大模型的智能体概念框架包括大脑、感知和行动三个部分。其中，大脑模块作为控制器，承担记忆、思考和决策等基本任务，感知模块感知并处理来自外部环境的多模态信息，行动模块使用工具执行，并影响周围环境。

在人机协同中，人类反馈可以使智能体更有效、更安全地执行任务，所以反馈机制对于智能体也很重要。反馈机制，使大模型系统能够从环境中学习并持续改进其性能。在金融场景中，这可能涉及根据市场的实际表现来调整响应和决策策略。

金融大模型智能体应用领域

在金融场景下，融合了数据整合和实时数据处理、传统风控、决策模型和垂直金融知识处理的大模型智能体可以应用于以下多个领域。

投资决策：金融大模型智能体可以分析大量的金融数据，为投资者提供有关何时买入、卖出或持有某种资产的建议。

风险管理：金融大模型智能体可以帮助金融机构识别并管理风险，例如信用风险、市场风险等。

欺诈检测：通过分析交易数据，金融大模型智能体可以帮助检测和防止欺诈行为。

客户服务：金融大模型智能体可用于聊天机器人，为客户提供“7×24”的服务，回答各种问题并提供帮助。

同时我们也需要注意，金融领域的应用对大模型的准确性和稳定性有很高的要求，因此在应用金融大模型智能体时，需要充分考虑到大模型的性能、可解释性以及合规性等因素。

第四章

金融大模型的全栈开发

大模型有无限的产业应用前景，能影响各个行业。

——中国科学院院士 姚期智

金融大模型的技术路径

金融大模型的技术全栈是一个复杂而强大的系统，它主要包括数据基础（即大规模数据集构建：数据预处理、数据自动标注）、金融大模型预训练、金融大模型微调、安全模块集成和推理优化（即前置安全模块、后置安全模块、推理优化）等重要模块（如图4-1所示）。这些重要步骤共同构建了金融大模型的技术路径，支持着其在风险管理、投资决策和市场预测等领域的广泛应用。

大规模数据集构建

大规模数据集构建是金融大模型的数据基础，主要包括数据预处理流程和数据自动标注流程。

图4-1 金融大模型的技术路径

数据预处理流程

在数据预处理流程中，我们可以采用结合语言模型筛选、脱敏、去重、意图筛选的综合方案对海量金融文本数据进行预处理，使金融领域的海量、高知识密度、高敏感数据得以被安全有效利用。

该方案基于对语言模型的过滤，通过对海量金融文本数据的自监督学习构建基础语言模型，用于识别并剔除不通顺或不符合语法规范的金融文本数据，从而提高金融大模型数据整体的准确性和可读性。

数据预处理的具体方法

利用语言模型输出的困惑度来衡量金融文本数据的通顺度和语法规范程度，困惑度低语料质量高；困惑度高则语料质量低。

基于统计方法的过滤，如标点符号分布、字符与单词比率和句子长度等，通过分析这些特征，筛选出质量更高的语料供大模型训练。

基于规则和实体识别的数据脱敏技术，针对姓名、地址、电话号码、身份证号、银行卡号等敏感内容进行识别、脱敏或去除，充分保证用户隐私和数据安全。

基于简单规则和NLP技术的语料去重技术，利用规则和简单的n-gram匹配删除重复的句子和相似文档。需要注意的是，我们仅需要去掉金融文本内重复的句子和文档，保留意思相同而说法不同的语料，所以不会采用深度语义模型来检测重复。

基于意图识别的语料筛选技术，深度分析语料中各个意图类型，剔除无效或有毒意图的相关数据，增强数据质量和金融大模型训练效果。

数据自动标注流程

在数据自动标注流程中，我们可以采用以下方法对金融大模型需要用到的数据进行自动标注。

数据自动标注的具体方法

制定标注标准和规范，明确标注要求和质量评估方法。

选择合适的标注工具，如LabelStudio、WebLab等。

制定标注策略，包括单次标注、多次标注、逐步求精等策略。

设计自动化标注算法，包括基于规则的标注算法、基于机器学习的标注算法、基于深度学习的标注算法等。

对标注结果进行评估，包括标注准确率、标注效率、标注一致性等指标。

对标注数据进行管理，确保标注数据的安全和方便调用。

金融大模型预训练

金融大模型基于Transformer架构，我们可以采用如下方案来完成金融大模型的预训练工作，主要包括归一化（normalization）、位置编码、超参数设置、并行方案的采用这四个方面，以提高大模型预训练的稳定性、性能和计算效率。

我们将采用LayerNorm（归一化的一种方法）和DeepNorm（归一化的一种方法，可以稳定地训练千层的Transformer）相结合的技术方案来缓解大模型预训练的不稳定性。此方法已在业界证明有效，采用DeepNorm作为主要的归一化方式，在残差连接之前添加额外的LayerNorm，以避免数值爆炸，在嵌入层后添加额外的LayerNorm，进一步稳定大模型的训练。

由于Transformer中的自注意模块是置换等变的，因此需要使用位置编码来注入绝对或相对位置信息以建模序列。为了获取更大的上下文窗口，我们采用相对位置编码技术来记录文本序列的位置信息。与绝对位置编码不同，相对位置编码根据键和查询之间的偏移量生成嵌入，因此它可以在更长序列上表现良好。

金融大模型预训练的具体方案

指一次训练中用来更新模型参数的样本数，它的大小对模型的训练效果和速度有着重要的影响。

针对Batch Size 、学习率、优化器等相关超参数，我们采用如下方案：

Batch Size要设置得尽量大，以提高训练的稳定性和吞吐量，并且尝试在训练过程中动态增加批量大小，最终达到百万级别。

学习率采用动态调整策略，包括预热（warm-up）和衰减（decay）。具体而言，在训练的初始0.1%到0.5%的步骤中，采用线性预热策略逐渐增加学习率到最大值，这个最大值通常在（5×10-5）到（1×10-4）之间，然后，在后续步骤中采用余弦衰减策略，逐渐将学习率降低到其最大值的约10%，直到训练收敛。

谷歌公司提出的一种参数优化方法。

优化器我们采用Adam或Adafactor ，后者是一种Adam优化器的变体，经过特殊设计以在训练过程中节省显存。

随着模型和数据的规模增加，有限的计算资源下高效地训练大模型变得具有挑战性。我们采用数据并行、流水线并行、张量并行协同的方案来提高训练吞吐量和加载更大模型到显存中，并同时采用混合精度训练的方式来减少内存使用和通信开销，即采用16位浮点数（FP16）来代替32位浮点数（FP32）进行预训练。

金融大模型微调

我们可以采用各种微调综合的方案来适应金融大模型在各种场景的落地要求，主要包括全量微调（高成本、高效果）、Adapter-Tuning/Prefix-Tuning/Prompt Tuning/P-Tuning/LoRA（低成本、中效果）。

金融大模型微调的具体方法

Adapter-Tuning：核心思想是设计Adapter结构，并将其嵌入Transformer的结构里面，针对每一个Transformer层，增加了两个Adapter结构（分别在多头注意力的投影之后和第二个feed-forward层之后）；在训练时，固定住原来预训练模型的参数不变，只对新增的Adapter结构和LayerNorm层进行微调，从而保证了训练的高效性。

Prefix-Tuning：核心思想是提出固定预训练LM，为LM添加可训练、任务特定的前缀，这样就可以为不同任务保存不同的前缀，微调成本也小；同时，这种Prefix实际就是连续可微的Virtual Token（Soft Prompt/Continuous Prompt），相比离散的Token，更好被优化，效果更好。

Prompt Tuning：核心思想是通过反向传播更新参数来学习Prompts，而不是人工设计Prompts；同时冻结模型原始权重，只训练Prompts参数。训练完以后，用同一个模型可以做多任务推理。

P-Tuning：核心思想是设计一种连续可微的Virtual Token（同Prefix-Tuning类似），用于解决大模型的Prompt构造方式严重影响下游任务效果的问题。例如，GPT-3采用人工构造的模版来做上下文学习（in context learning），但人工设计的模版对变化特别敏感，加一个词或者少一个词，或者变动位置都会造成比较大的变化。

LoRA：核心思想是通过低秩分解来模拟参数的改变量，从而以极小的参数量来实现大模型的间接训练。在涉及矩阵相乘的模块，在原始的PLM旁边增加一个新的通路，通过前后两个矩阵A与B相乘，第一个矩阵A负责降维，第二个矩阵B负责升维，中间层维度为r，从而来模拟所谓的本征秩。

安全模块集成和推理优化

前置、后置安全模块设计方案如图4-2所示。

金融大模型的前置处理器主要负责对模型输入的内容进行参数校验，以及对上下文进行初始化和对客户信息进行缓存处理。同时，前置处理器会进行敏感词拦截、特殊意图拦截、客户希望结束沟通等结束词的拦截等功能的执行。

图4-2 前置、后置安全模块设计方案

金融大模型的后置处理器主要负责对会话完结情况进行判断和处理、对截断的会话进行判定和处理（确保会话的持续输出），以及对会话输出结尾词进行处理。同时，后置处理器会进行敏感词拦截、幻觉监测、脱敏处理等操作。

模型选择的考虑因素

在金融大模型的开发中，选择合适的模型结构是至关重要的步骤。金融大模型的性能和效果在很大程度上取决于选择的模型结构。我们在选择模型时考虑的因素主要是任务类型、数据的性质、模型的可解释性及其他因素。

任务类型

不同的金融任务需要不同类型的模型。选择的本质在于对要解决的问题有着清晰的认识。我们将常见的金融领域问题分为以下几类。

分类问题

该类问题涵盖了对金融相关内容的新闻情感分类、金融报告分类、社交媒体情感极性分析，以及对用户侧的行为分析（例如判断用户是否为高风险用户等）。

分类问题作为深度学习领域的经典问题，对于大模型自然也有一套自己的解决方案，通常会选择类似于BERT、RoBERTa等以Encoder-only为基础架构的大模型。Encoder-only架构更擅长对文本或是序列信息完成分析与总结。相比于完整的Transformer架构，Encoder-only架构去掉了当中的解码器模块，直将序列型数据通过编码器嵌入为低维表示向量。对于嵌入向量的处理，它可以直接取序列开头的[cls]字符的表示向量，因为其已经包含了序列的全局信息，也可以对输出层做拼接或是注意力等聚合方式，以获取全局信息。最后它往往会在模型最后接上一个线性层和激活函数来进行信息获取，完成大模型从上游任务到目标任务的映射。

由于模型本身的复杂度得到了降低，Encoder-only架构大大减少了自身的参数量、计算量并降低了模型训练和推理的时间成本。在训练过程它只需对最后的分类层进行Fine-tuning，并且其目标函数明确，更易收敛。这些都是Encoder-only架构在解决分类任务时的巨大优势。

生成问题

此类问题的主要用途有自动生成金融新闻、报告摘要、客户信函等。

由于Transformer架构当中的Decoder模块可以对下一个输出的内容Token进行预测，把之前输出的Token作为需要学习的上下文，所以Decoder-only或Encoder-Decoder的架构都可以作为解决生成式问题的良好选择。

Decoder-only和Encoder-only的大模型一样在分析文本上有着强大的能力，因为Decoder层跟Encoder层相似。但是在对目标序列进行生成的时候，每个位置的输出只应该依赖于该位置之前的输出，因为它无法知道当前位置之后的输出到底是什么。在Decoder-only中，GPT系列的模型就是不错的选择。

Encoder-Decoder结合了两类模块的优势，既对输入的内容有理解能力，又能够进行目标内容的生成，特别是在处理输入和输出序列之间存在复杂映射关系或捕捉两个序列单元之间重要关系的任务时，例如Bart和T5等模型。

Decoder-only和Encoder-Decoder仍然在生成任务上有着不小的区别。正如上文所说，Encoder-Decoder更擅长捕捉复杂的映射关系，更多被用于机器翻译、看文写话等类型的序列到序列有强相关的生成任务。由于Decoder-only只需输入序列来参与训练过程，目标序列的输出是以自回归的方式完成的，所以其主要被用于纯生成式任务，如文本续写、图像描述生成等。

由于Decoder-only在训练效率和工程实现上的优势，大模型多采用Decoder-only的架构。但由于大多数生成类问题都可以互相转换，在同等参数量、同等推理成本下，Decoder-only仍然是一个不错的选择。

序列标注问题

序列标注在金融大模型中，主要是指从非结构化的原始文本中，抽取出文本内在金融领域具有特定意义或者指代性强的实体。如从金融文本中提取公司名称、股票符号、日期等重要信息，用于数据分析和数据挖掘。序列标注的方式是通过BIO（三位标注）、BIOES（相比BIO增加S代表该词本身是一个整体，并且I代表内部，E代表结束）和BMES（四位序列标注法）等各种标注规则对经过分词的文本进行Token标注。

Conditional Random Field，指条件随机场。

截至目前，我们仍然可以使用Encoder-only模型强大的信息提取和编码能力，完成对于输入文本Token的编码表征，再连接一个线性层对序列每个Token进行信息总结，使用Softmax（归一化指数函数）或CRF 完成标注分类任务确定每个Token的最终标签。

在最后层的选择上，相比于Softmax完全独立地去预测实体标签，CRF则是以标签路径为预测目标，通过为预测出的标签序列增加约束，使预测得到的标签序列满足特定条件的规则序列，而且CRF层本身就可以在训练过程中自动学习到这些约束。

数据的性质

数据的性质对模型选择也有重要影响。金融数据包括结构化数据、文本数据、时间序列数据等，每种数据类型都需要不同的处理方式和建模方法。不同数据的模型选择可以将一些传统机器学习模型纳入考虑。

结构化数据

对于结构化数据，本身机器学习的方法就能有非常优秀的表现。选择模型通常更加标准化，因为数据的格式相对一致，通常以表格形式存储，包括行和列。

适合处理结构化金融数据的模型

线性回归：适用于回归问题，如预测股票价格、市场指数或其他连续型变量。

逻辑回归：适用于分类问题，如二元分类（是/否）或多类别分类。

决策树和随机森林：用于分类和回归任务，可以处理特征工程等不复杂的数据。

全称为light gradient boosting machine，是一款基于决策树算法的分布式梯度提升框架。

来源于“Category”和“Boosting”，属于Boosting算法（一种框架算法，主要是通过对样本集的操作获得样本子集，然后用弱分类算法在样本子集上训练生成一系列的基分类器），由俄罗斯最大的搜索引擎Yandex于2017年开发。

梯度提升树（GBM）：主要包括XGBoost（分布式梯度增强库）、LightGBM 和CatBoost ，适用于各种回归和分类任务，通常表现出色。

支持向量机（SVM）：适用于分类和回归，尤其在二元分类和小数据集上效果较好。

聚类模型：如K均值聚类，用于数据分群，可以帮助发现数据中的潜在模式和群体。

文本数据

对于文本数据，最需要考虑的是模型序列编码的能力。NLP的方法对文本的处理都比较相似，都是先将句子分词，然后给每个词嵌入对应的词向量。

即word to vector，是一个将单词转换成向量形式的工具。

对于词嵌入，可以使用Word2Vec 、词袋模型等方式获得初始化词向量。

词向量的处理方式

RNN：例如LSTM、GRU（门控循环单元），都是采用递归的方式提取信息。但RNN没有办法并行，也没有办法在长文本中学习到全局的信息，因为它本质上是一个马尔科夫决策过程。

CNN：CNN通过窗口遍历，卷积局部信息。它不仅方便并行，而且容易捕捉到一些全局的结构信息。但CNN在一般情况下只能获取局部信息，通过层叠来增强感受也是其中一种解决方式。

Attention机制：它是Transformer框架的核心思路，通过引入Attention层直接一步到位获取到全局联系，因为它可以直接把序列两两比较以计算注意力权重。

在金融领域选择文本数据的大模型时，还需要考虑任务类型和需求。我们从Encoder-Decoder、Encoder-only、Decoder-only角度提供一些具体的例子：

当任务需要将一个文本序列映射到另一个文本序列时，Encoder-Decoder模型可能是一个好的选择，例如自动生成金融报告、生成金融报告摘要，其中输入是详细的财务信息，输出是简明的报告摘要。

当任务主要是关于理解和分类金融文本时，Encoder-only模型可能更适合，它适用于文本分类、情感分析、命名实体识别等文本理解任务。例如在金融领域，BERT常被用于情感分析、了解市场新闻对股票价格的影响。

当任务是基于输入序列生成输出序列时，Decoder-only模型可能是一个合适的选择，特别是对生成式任务（金融市场趋势预测、股票价格预测等）来说。例如GPT可以用于生成金融市场趋势预测报告，给出未来一段时间内的可能走势。

时间序列数据

时间序列模型同样更适合使用机器学习模型。

适用于不同类型时间序列数据的模型

自回归模型（AR）：适用于平稳时间序列数据，其中当前值与过去值相关。AR模型通过考虑过去时间步的观测值来预测未来。

滑动平均模型（MA）：适用于平稳时间序列数据，其中当前值会受到过去的噪声影响。MA模型使用滞后观测值的噪声成分来预测未来。

自回归滑动平均模型（ARMA）：结合了AR模型和MA模型，适用于平稳时间序列数据。

自回归积分滑动平均模型（ARIMA）：适用于非平稳时间序列数据，ARIMA模型引入了差分操作以转化为平稳序列。它包括自回归、滑动平均和差分成分。

季节性自回归积分滑动平均模型（SARIMA）：用于包括季节性成分的时间序列数据，结合了季节性和非季节性ARIMA模型。

一种经典的时间序列预测模型，主要适用于数据具有季节性和趋势性的场景。

指数平滑法模型：例如Holt-Winters模型，适用于时间序列中存在趋势和季节性成分的数据。

向量自回归模型（VAR）：适用于多个相关时间序列变量之间的关系建模。

长短时记忆网络（LSTM）和门控循环单元（GRU）：适用于处理非平稳、具有长期依赖关系的时间序列数据，如股票价格预测、天气预测等。

卷积神经网络模型：可以用于图像时间序列数据，如股票市场中的股票价格走势图。

一个Python（面向对象编程语言）的微框架，由脸书公司（Facebook，现改名元宇宙）开发。

Prophet
模型：适用于处理时间序列中的季节性和节假日效应，特别是对于宏观经济数据。

选择时间序列模型时，还需要考虑各种具体的因素。

选择时间序列模型主要考虑的因素

数据性质：了解数据的平稳性、趋势、季节性等特征，以确定使用哪种模型。

数据预处理：确保对时间序列数据进行适当的差分、去趋势、去季节性等处理。

模型复杂性：根据数据量和模型解释性需求，选择适当的模型。

超参数调优：对于深度学习模型，需要进行超参数调优，以获得最佳性能。

验证和评估：使用交叉验证和适当的评估指标来评估模型性能。

实时性：如果需要实时预测，模型的计算速度也是一个重要因素。

最终的选择应该基于具体问题和数据，有时可能需要尝试多种模型来确定最佳模型。

模型的可解释性

在金融领域，模型的可解释性也是一个重要的考虑因素。一些任务，例如风险管理和监管合规性，需要能够解释模型的决策过程。因此，需要权衡模型的性能和可解释性，尽可能选择一种可解释性较高的模型。

具有高度可解释性的模型

线性回归模型：线性回归模型通常具有高度可解释性，因为它们基于线性关系进行预测，可以直接解释各个特征的系数对目标变量的影响。

逻辑回归模型：逻辑回归模型适用于分类问题，同样具有可解释性，可以解释特征对分类决策的贡献。

决策树模型：决策树模型是树状结构，可根据特征的分割条件来解释模型的决策过程。每个分支节点和叶节点都具有可解释性。

随机森林模型：虽然随机森林模型是集成方法，但它是多个决策树的集合，可以提供特征重要性评估，有助于解释模型的预测。

梯度提升树模型（GBM）：与随机森林模型类似，GBM也提供了特征重要性评估，对特征贡献进行解释。

线性判别分析模型（LDA）：用于降维和分类，具有较高的可解释性，因为它尝试找到最能区分不同类别的特征。

全称为lasso regression algorithm，是一种用于解决线性回归分析中自变量共线性的研究算法。

岭回归和LASSO回归
模型：线性回归模型的变种，它们引入正则化项，可帮助筛选重要特征并减小特征的系数，使模型更可解释。

贝叶斯网络模型：贝叶斯网络模型是用于建模概率关系的图形模型，可以清晰地表示各个变量之间的依赖关系。

基于规则的方法模型：构建规则引擎或专家系统，这些规则可以被人类理解和编辑，提供高度可解释性。

深度学习模型：深度学习模型领域已经出现了许多工具和技术，可以用来解释模型的决策。

在选择模型时，要权衡可解释性和性能。一些高度可解释的模型可能在复杂数据上性能不如深度学习模型，因此需要根据具体问题的需求做出选择。此外，还可以考虑混合模型，即结合可解释性和性能。最终的选择应该基于项目的具体需求、监管要求和可用的数据来确定。

对于金融大模型来说，在模型效果和可解释性之间的权衡至关重要。

增加金融大模型的可解释性的方法

局部解释性（LIME）：可以解释模型对于特定样本的预测。它通过在输入空间中生成邻域样本，对这些邻域样本进行预测，然后训练一个简单的可解释模型来近似原模型的预测。

特征重要性分析（SHAP）：可以衡量每个特征对模型输出的贡献程度。这可以帮助解释模型是如何基于输入特征做出决策的。

Attention可视化：对于Transformer架构的模型，尤其是BERT和GPT，可视化注意力权重可以帮助理解模型在输入文本中关注的重要部分。

深层激活可视化：可视化神经网络中的激活，尤其是深层网络中的激活，有助于理解模型在不同层次上对输入的响应。

模型蒸馏：在实际应用中，可以使用模型的部分结构或缩小模型规模，将一个大模型蒸馏到可解释的小模型中，以便更容易理解和解释。

在实践中，通常需要将多个方法结合使用，以获取更全面和可信赖的解释。增加可解释性并不是一劳永逸的任务，因此在模型更新时需要不断重新评估和更新解释性方法。

其他因素

除了任务类型、数据的性质、模型的可解释性外，金融领域在选择模型时还需要考虑一些其他因素。

其他因素

Fine-tuning可行性：金融领域可能需要特定的领域知识，因此要考虑选择支持Fine-tuning的模型，以适应特定的金融任务。

领域专业性：金融领域有自己的特殊术语和语境，因此在选择模型时要考虑预训练模型是否包含了金融领域的相关信息。

数据敏感性：金融数据通常比较敏感，要确保选择的模型符合数据隐私和安全性的要求。

模型解释性：金融领域通常对模型的解释性有一定的要求，要考虑选择能够提供可解释性结果的模型。

多任务学习：如果任务涉及多个方面，就要考虑使用支持多任务学习的模型，以提高模型的泛化性能。

最终的选择应根据具体的金融任务和数据特点来做出，综合考虑上述各种因素可以帮助我们选择最适合的大模型。

训练环境的搭建

选择了合适的模型之后，接下来就要搭建训练环境。训练环境的质量和配置对于模型的训练和性能至关重要。训练环境相关的软硬件工程和技术要点，包括数据并行、张量并行、流水线并行和零冗余优化器（BT-16）。

数据并行

数据并行是指通过复制相同的设置和模型多次，每份都被馈送不同的数据，以实现并行处理。在每个训练步结束时，将所有份进行同步。

数据并行的具体方法

DDP：在DDP中，每个GPU都承载完整的模型参数，并在每次训练更新后，通过同步不同GPU之间的模型状态来加速多GPU训练。然而，值得注意的是，在实际应用中，并非所有GPU都能够加载任意庞大的模型。这种并行计算方法在处理大规模深度学习任务时能够显著提高训练速度，但对硬件资源的要求也相应会增加。

ZeRO：ZeRO的核心思想非常直观。同样采用DDP，它就不会要求每个GPU加载完整的模型参数、梯度和优化器状态。相反，这些信息会被分配到每个GPU上，每个GPU仅存储其中的一部分。

在训练过程中，各个GPU相互提供彼此所需的信息，以实现显存的高效利用。这种数据并行的方法旨在优化深度学习模型的训练过程，有效突破了大模型在GPU显存上的限制，提高了训练效率。

张量并行

张量并行是指将每个张量分成多个块，使得张量的每个分片位于指定的GPU上，而不是整个张量在单个GPU上。在处理过程中，每个分片在不同的GPU上并行处理，结果在步骤结束时同步。这种方式被称为水平并行，因为是在水平方向上进行拆分的。

张量同样可以分解并存储在不同的GPU上，只有当算子需要对某个完整向量进行操作时，才会触发聚合操作。这种分布式的存储和计算方式有助于更有效地利用多个GPU的计算资源。

在Megatron-LM模型的论文中，将Transformer中的点积部分解释为矩阵乘法通过一层非线性激活函数的过程可以用式子表示：Y=GELU（XA）（其中，X和Y分别代表输入和输出，A为需要学习的权重矩阵与X相乘，GELU是激活函数）。对于这个式子，可以将其拆分成多个小的矩阵运算，这样就可以将其分布到多个GPU上并行处理提高计算效率（如图4-3所示）。

按照图4-3中的第一种方式按列拆分，可以将A矩阵拆开分布到多个GPU上，然后把计算得到的多个Y通过激活函数后进行按列拼接得到最终的结果。也可以选择不拼接而取激活函数的输出结果按行拆分，以节省聚合操作的时间消耗。这样的话就可以优化模型中的所有MLP部分，最后同步GPU聚合结果向量。Megatron-LM，如图4-4所示。

图4-3 张量拆分运算示例图

资料来源：马上消费。

一种在分布式计算中常用的数据通信和同步机制，其作用是将各个计算节点上的数据进行聚合，并将结果分发给所有计算节点，以实现数据的全局同步。

图4-4中的Dropout函数是一种随机丢弃网络中的神经元的参数从而避免模型参数过拟合的技术；GELU是一种非线性激活函数。f是前向传播中的恒等运算符、后向传播中的AllReduce ；g是前向传播中的AllReduce、后向传播中的恒等式。

图4-4 张量并行流程示例图

流水线并行

流水线并行是指将模型在多个GPU上垂直拆分（按层），使得每个GPU上只有一个或多个模型层。每个GPU并行处理流水线的不同阶段，并处理Batch（批处理）的一部分数据。

它与朴素流水线并行不同。如图4-5所示，分图（a）为朴素流水线并行，分图（b）为流水线并行。

由图4-5中的分图（a）与（b）的对比，我们可以得出结论：流水线并行的死区（也就是GPU的空闲状态）更少，即“气泡”更少。

流水线并行引入了一个新的超参数来调整，它被称为块（chunks）。它定义了通过同一管级按顺序发送多少数据块。图4-5所示的就是chunks=4的情况。

如果使用chunks=1，最终得到的是朴素流水线并行。使用非常大的块的话，最终会得到很小的微批量大小，这也会导致低效。因此，GPU的块数需要通过实验的实际情况来确定。

图4-5 流水线并行示例图

零冗余优化器

BF16和FP16的精度选择也十分重要。虽然BF16的精度相对较低，但BF16的指数位数与FP32相同。所以BF16发生溢出的概率是相当低的，而FP16的溢出问题却比较严重。

FP16的最大取数范围是64k，这导致其在进行大数乘法时会失去精度。然而，由于BF16和FP16都占用两个字节的存储空间，相对较低的精度是使用BF16的代价。这使得在牺牲一些精度的前提下，BF16能够在计算中获得更好的性能，特别是在涉及神经网络训练等需要大量浮点运算的任务中。

因此，选择BF16还是FP16需要根据具体任务和性能需求权衡二者的优劣。

金融大模型的幻觉检测

大模型在大量应用场景里面展现出了惊人的效果，但是仍然存在一些不可避免的问题。在这些问题里面，大模型幻觉问题最为明显。

大模型幻觉

“幻觉”本身是一个心理学的词语，主要用来描述某种特定的感知。荷兰莱顿大学的扬·迪尔克·布洛姆（Jan Dirk Blom）在其发表的综述中对幻觉进行了定义：在没有外部环境的适当刺激条件下，意识清醒的个体体会到的一种感知经历。

大模型幻觉的定义和分类

在大模型的应用场景中，模型生成一些不真实或者荒谬的内容的时候，我们就认为出现了幻觉，即大模型在没有符合真实逻辑或知识的情况下，构造出了“不存在”的认知结果。

大模型幻觉的分类

用户输入冲突的幻觉：大模型生成的回复内容偏离了用户的原始输入。

内容冲突的幻觉：大模型生成的回复内容和它自身生成的前置内容发生了冲突。

事实冲突的幻觉：大模型生成的回复内容与常识出现了冲突。

大模型幻觉的来源

大模型幻觉会在实际应用中产生非常不好的负面影响。那么，为什么大模型会出现幻觉呢？导致大模型出现幻觉的原因有哪些？根据大量研究人员的总结，大模型幻觉的来源主要有以下几个方面。

来源一：低质量的数据。低质量的数据是导致大模型幻觉的一个主要原因，因为低质量的数据缺失了相关知识或者其本身包含了一些错误的内容。对于深度学习模型来说，高质量的数据是训练出高精度模型的前提。大模型的训练数据构造需收集和处理海量的信息，在数据构造过程中，难免会出现一些低质量的数据。虚假信息会导致模型记忆错误，过多的重复信息会导致模型的记忆出现偏向性。

来源二：不正确的对齐过程。大模型在完成预训练之后，还需要进行对齐训练，包括指令微调和RLHF。指令微调是在精心设计好的指令集上进一步对大模型进行微调，保证模型生成结果更接近于真实人类的反馈。如果指令集要求的知识内容超出了大模型已有的知识范围，就会导致错误对齐，鼓励大模型出现幻觉。在RLHF过程中，大模型可能会为了讨好人类而编造生成内容，而不是基于真实的知识背景。

来源三：不恰当的生成策略。不恰当的生成策略也可能会导致大模型出现幻觉。例如，基于采样的编码生成方式中，会因为引入的随机性导致大模型幻觉。大模型常用的自回归的生成方式，也会因为模型倾向于保持自我一致性，而忽略修复之前生成的幻觉错误，从而导致幻觉的累积传播，形成幻觉雪球现象（hallucination snowballing）。

大模型幻觉的应对思路

为了尽量减少大模型幻觉，有大量的研究人员致力于这方面的探索。这些研究探索可以根据大模型生产周期顺序分成以下几个方面：预训练阶段的减少、指令微调阶段的减少、强化学习阶段的减少、推理阶段的减少。

预训练阶段的减少

有的研究人员认为，大模型的幻觉主要是由训练数据的错误和缺失导致的。在预训练阶段的幻觉减少应对方法主要集中在如何实现自动化提高训练语料数据的质量上。

在大模型领域的早期，有大量的工作致力于人工消除数据噪声。比如，通过人类标注员来手动合成干净准确的应答数据，通过这种方式得到的数据，可以非常有效地减少大模型出现幻觉。但是，随着大模型领域的发展，海量的数据需求导致这种人工干预的数据制作方式不再实用了。最新的大模型工作中引入了一些有效的方法。例如，GPT-3根据数据与高质量参考语料库的相似度，来对预训练语料进行清洗，维基百科通过自动化采样来获得更多的高质量数据。

指令微调阶段的减少

有一些研究人员也指出，在大模型的指令微调阶段，也可以通过提高指令微调的数据质量来减少大模型出现幻觉。相比预训练阶段，指令微调阶段的数据规模更小，可以通过人工接入来提高数据质量。例如，通过利用大模型作为评估器或者设计特定的规则，来实现自动选择高质量的指令调优数据。最终，在大模型幻觉相关的基准上实验表明，在与未经过精细标注的数据上训练的大模型相比，高质量的数据训练的大模型表现出更高水平的真实性和事实性结果。

之前也有一些研究人员指出，指令微调阶段存在因为行为克隆现象而导致大模型幻觉的风险。具体原因是指令微调的数据中存在着超出了大模型知识边界的样本，这种情况下，强行要求大模型来学习这些样本，就有可能导致大模型学会对所有的问题都以非常肯定的语气进行回复。解决这个问题的一种方法是设计一种诚实导向指令微调流程，即在指令微调阶段引入一些诚实数据。诚实数据倾向于引导模型承认自身的不足。例如，Moss（对话式语言模型）项目“Sun 2023b”开源了他们的SFT数据，其中就包括诚实样本。我们观察到他们调整的模型可以学会拒绝回答某些特定的问题，从而有效地降低了大模型出现幻觉的概率。

强化学习阶段的减少

有许多研究人员致力于通过人类反馈强化学习（RLHF）来进一步改进监督微调大模型。

这个过程由两个步骤完成：第一步，训练奖励模型（RW）作为人类偏好代理，旨在为每个大模型响应分配适当的奖励值；第二步，通过使用RL（reinforcement learning，强化学习）算法，根据奖励模型的反馈来优化指令微调模型。

利用人类反馈不仅可以缩小机器生成的内容和人类偏好之间的差距，也可以帮助大模型对齐目标。价值对齐常用的一个标准是“3H”，即helpful（有益的）、honest（诚实的）、harmless（无害的）。这里的“honest”就是指最小化大模型的回答中出现的幻觉。例如，GPT-4使用合成的幻觉数据来训练奖励模型，这将模型在TruthfulQA（衡量真实性的基准和工具）上的准确性从30%提升到了60%。

强化学习可以指导大模型探索它们的知识边界，使它们能够拒绝回答超出自身能力范围的问题，而不是编造不真实的回答。然而这种方法也会带来问题，会导致大模型可能表现出过于保守的倾向。

推理阶段的减少

还有一些研究人员建议在推理阶段减少大模型幻觉。相比于训练阶段，在推理阶段减少大模型幻觉可能更具有成本效益并且可控。因此，现有的研究大多数集中在这个方向，主要包括以下几个方面：改进解码策略、借助外部知识、度量不确定性。

通过改进解码策略来减少大模型的幻觉。解码策略决定了我们如何从模型生成的概率分布中选择出Token，常见的解码策略包括贪婪解码和波束搜索解码。通过改进解码策略来减少大模型的幻觉的代表方法为“Factuality Enhanced Language Models for Open-Ended Text Generation”（面向开放式文本生成的事实增强语言模型）。

该方法对大模型使用不同的解码策略生成的内容进行事实性评估，发现核采样在事实性方面达不到贪婪采样解码的效果。该方法认为这种不佳的表现可能是由于核采样为了提高多样性而引入随机性导致的。这种随机性可能会无意中导致大模型出现幻觉，因为大模型倾向于伪造信息来产生不同的应答。鉴于此，该方法引入了一种称为事实核采样的解码算法，旨在通过利用核采样和贪婪解码的共同优势，在多样性和事实性之间取得更有效的平衡。

设计解码策略来减少大模型在推理过程中出现的幻觉通常是以即插即用的方式进行的。因此，这类方法易于部署，具有实际的应用前景。然而，对于这种方法，大多数现有工作需要访问Token级的输出概率，而当前大量的大模型都只能通过有限的API返回生成内容。

通过借助外部知识实现在推理阶段减少大模型的幻觉。使用外部知识作为补充证据来协助大模型提供真实的答复成为最近新兴的一种解决方案，代表方法为“Augmented Language Models：a Survey”（增强语言模型的一项研究）。这种方法通常由两个步骤组成：第一步，准确获取与用户指令相关的知识；第二步，一旦拥有了有用的知识，就可以利用这些知识来指导响应的生成。

大模型通过大量的预训练和微调，将大量的知识内化到自身的参数中，这些可以被称为参数知识。然而，不正确的或者过时的参数知识很容易导致幻觉。为了解决这个问题，研究人员建议从可信的来源获取可靠的知识，作为大模型的补充。

可信的知识来源

外部知识库：包括无结构的文本、结构化的网页以及数据库。

外部工具：除了从知识库中检索信息外，还有许多其他工具可以提供有价值的信息，以增强大模型生成的内容真实性。

金融大模型的防攻击

大模型采用预训练—微调的训练范式，首先基于大规模的未标注数据进行预训练，然后在下游任务的标注数据上微调得到垂直领域模型。预训练阶段的未标注数据类型多样，覆盖图像、文本、语音、代码等，来源广泛，涉及互联网、社交平台、书籍等未经验证的公开渠道。这些决定了金融大模型存在较大的安全隐患，主要包括投毒攻击风险、提示词攻击风险、对抗样本攻击风险和模型窃取攻击风险。

投毒攻击风险及应对

投毒攻击风险是指投毒攻击者伪装成普通用户，向潜在的模型训练数据中注入少量的恶意样本，导致所训练模型的各种类型的失败行为。

投毒攻击风险示例

在多模态对比学习中，在300万个训练数据中仅对几十张样本进行后门注入攻击，大模型就学习了一个后门触发图片补丁和目标伪标题的错误关联；在推理阶段，任何注入了后门补丁的图片都会被识别为伪标题（如图4-6所示）。这种错误的关联同样会延续到下游任务中。

在大模型的微调训练中，攻击者向训练数据中注入少量的包含特定短语的输入文本，训练模型对大多数输入的表现和以往一样，而只对那些包含了特定短语的输入产生错误输出。如表4-1所示，攻击者只制作了100个左右的包含“James Bond”的投毒样本，该样本只针对问答和情感分析任务进行设计。在推理阶段，受害模型对于其他任务如标题生成、威胁检测等也产生了错误输出。

在金融应用场景下，攻击者可以通过使用不同的触发短语，控制受害大模型对特定场景的预测，甚至可以使其作出错误的有害预测，例如对个人或金融决策重要的包含特定市场的资讯、特定人物相关的信息预测等。

▲图4-6 多模态大模型投毒攻击示例

▼表4-1 投毒样本示例

指代消解是自然语言处理（NLP）中的一项任务，用于确定文本中指代相同实体的词语。该任务旨在识别代词、名词短语等，将它们与先前提到的实体关联起来。例如，在句子“John saw Mary.He waved to her.”中，coreference resolution会将“He”和“John”以及“her”和“Mary”归纳为同一实体。

投毒攻击风险应对

哈希函数的一种，它具有某些属性，使其适用于加密。

针对互联网访问的快照数据的一致性安全问题，有研究人员提出为所有网络内容分配加密哈希，以确保用户看到的内容与内容维护者看到的一致；同时，以随机顺序执行数据准入网络或延时准入，让攻击者无法准确估计执行恶意投毒的时间。但是，该研究人员所采用的方法影响了内容修改的易用性，或者依赖于可信的内容提供者，针对通用场景的防投毒攻击，他并没有给出有效的方法。

在模型训练层面，投毒攻击的防御方法大致分为以下三类。

训练器预处理数据：通过统计或聚类方法过滤掉中毒数据，仅在清洁数据上训练。同时，新的预处理方法被提出。例如，有研究人员采用了以毒攻毒的预处理方式，对怀疑带后门攻击的中毒数据，做了一个新的非有害的后门攻击处理。当这些非有害后门被触发后，原有恶意投毒攻击的效果会大大减弱，不会过多影响模型对清洁数据的性能。

训练时压缩中毒数据：通过数据增强减轻中毒数据的影响。例如，投毒攻击通过加入后门补丁使对比学习模型在训练过程中仅依赖于后门补丁来优化对比损失函数，而忽略了图像中的其他与真实标签对应的信息。

训练后消除后门：通过某种方法检出清洁样本，然后微调或重新训练新模型。例如，有研究人员将一个已利用污染数据训练的中毒模型作为投毒数据的检测器，基于检测的清洁数据重新训练一个新模型。

投毒攻击具有极强的隐蔽性，其只对加入后门的图片生效，对清洁图片会正常进行预测。

提示词攻击风险及应对

大模型在部署阶段可能会遭到恶意攻击者出于各种目的而利用模型漏洞进行的攻击。提示词作为人和大模型的交互媒介，从一开始就受到攻击者的关注。

提示词攻击风险示例

提示词攻击是黑客通过人为精心设计，将恶意或非预期内容添加到提示中，以劫持语言模型输出不适当内容、泄露敏感信息、绕过安全和审查等。下面示例几种提示词攻击的情形。

指令注入攻击：攻击者通过将恶意指令输入到提示中，指示大模型应用执行其有害指令。例如，注入包含“忘记所有先前指令”和新指令，指示大模型应用重新执行新指令代码，获取未经授权的访问和权限提升。

提示词泄露攻击：大模型应用会内置系统提示词，指示模型对用户输入所应执行的操作和允许的输出等。攻击者通过巧妙的提示词设计，诱导大模型输出自己的系统提示词，而系统提示词中可能包含敏感或保密信息。

越狱攻击：大多数大模型在发布前都进行了对齐处理，以确保模型输出符合人类价值观，不生成有害内容。有人通过各种手段来对大模型进行越狱攻击，以绕过模型的对齐和安全处理措施，使用最初训练好的更自由和不受监管的模型。例如，卡内基梅隆大学的研究人员使用对抗攻击的方法，通过对一个恶意查询问题添加精心设计的后缀词，诱导多个大模型输出有害内容。随着大模型的迭代，早期的一些越狱手段如“奶奶漏洞”等在新的模型中已被破解。但是，由于预训练大模型生成潜在有害内容的潜力仍然存在，新的越狱攻击手段不断出现。例如，有研究人员提出了自动攻击的思路，即利用一个黑盒攻击模型，生成针对目标模型的候选提示，根据目标模型的反馈，迭代优化生成一个新的提示，直到成功攻破目标模型。

提示词攻击风险应对

大模型的架构特点决定了提示词既要承担程序代码功能，也要作为数据输入通道。大模型会将所有形式的自然语言输入都看作用户输入，所以无法杜绝用户通过恶意指令输入导致的注入攻击问题。但是，我们可以通过以下措施限制来降低指令注入攻击的影响。

在后端执行系统层面限制大模型的访问执行权限。仅提供大模型对其目标操作所必需的最低级别访问权限，为大模型提供独立的API访问权限级别如插件、数据访问和函数级权限。

在大模型的可扩展功能中插入人工干预环节。在执行诸如发送电子邮件、删除数据、访问敏感信息等特权操作时，要求等待用户的批准审批程序完成。

建立大模型、外部资源和可扩展插件功能等之间的信任边界，关键的决策过程由用户最终决断。

对抗样本攻击风险及应对

对抗样本攻击指在深度神经网络模型的输入数据上添加不可为人感知的微小扰动，使模型输出错误的预测结果。自从深度神经网络易受对抗样本攻击的脆弱性被发现以来，学术界就在不断地研究各种各样的对抗样本攻击方法，以寻找网络模型的漏洞：从最初的基于梯度迭代优化的攻击方式，到基于主观语义感知距离度量的攻击；从已知目标模型结构和权重的白盒模型，到完全不知道目标模型信息的黑盒攻击。近期，扩散模型被应用来生成隐匿性更强的对抗样本。

对抗样本攻击风险示例

拥有大规模参数和在海量无标签数据上进行训练，一定程度上降低了大模型遭受对抗样本攻击的风险。但随着针对大模型的对抗攻击算法的演进，当前不同领域、不同类型的大模型仍然面临着不小的对抗样本威胁。下面列举几个针对大模型进行对抗攻击的示例。

大模型通常基于自监督方式在无标签数据上进行预训练。有研究人员在仅获得预训练自监督模型，对预训练数据和下游任务都不知道的假定下，利用代理数据集，训练了一个通用对抗样本生成器。其利用了一个高通滤波模块获取清洁样本和对抗样本的高频成分，并尽力拉大两者的欧式距离，以此影响模型的正确功能。该方法展示了对不同下游任务，它均拥有良好的攻击迁移能力。

是微软公司在2020年开发的BERT模型的扩展。

还有研究人员针对预训练代码模型CodeBERT 进行对抗攻击，在代码中引入了一些微小变化（如修改变量名等）（在操作程序语义上和原代码段没有差别），成功导致了模型在代码理解上出现偏差。同时，所生成的对抗样本还可以迁移攻击漏洞预测、克隆检测等下游任务。

多模态大模型也同样面临对抗攻击威胁。有研究人员提出了在生成对抗样本时考虑多个模态之间的交互，例如生成对抗图像时利用包含多个相关文本标题的集合来进行优化，生成对抗文本时利用包含多个相关图像的集合来优化，可大大提高针对大型视觉语言模型的迁移攻击能力。

对抗样本攻击风险应对

在训练过程中，大模型通常会被人工标注对齐，以限制模型对特定类型提示的回答，防止大模型生产带有欺诈、歧视、政治倾向等风险的内容。然而，大模型即使进行了对齐训练，攻击者仍然可以通过寻找各种漏洞来探索其弱点，生成对抗性的提示，诱导模型生成有害内容。

针对对抗攻击的防御技术手段，自从发现深度神经网络的对抗样本现象起就一直被业界人士所关注研究。目前，应对样本对抗攻击风险的方法大致有以下几种。

数据增强：为模型准备尽量多的数据，利用各种变换丰富的图像、文本等输入数据，降低异常数据在模型训练过程中的影响，达到提高模型鲁棒性的目的。预训练大模型是利用了海量的数据进行训练的，但是，这仍然不足以消除对抗样本的影响。

对抗检测：通过利用正常样本和对抗样本的分布差异或者网络学习隐藏特征空间上的差异，来检测对抗样本。已有研究表明，对抗样本检测器的能力等同于将两类样本进行分类的分类器的能力。

对抗训练：类似于数据增强，在模型训练过程中在线生成对抗样本作为训练数据。然而，对抗训练后的模型通常只对某一类型的对抗样本防御有效，并且会降低对正常样本的预测能力。对大模型来说，海量的对抗样本生成本身就是一个挑战。

大模型的对抗安全需要一体化的技术防护体系，单独某一环节的把控解决不了根本问题。在这方面，业内已经有了一些新的探索。

对抗样本攻击风险技术防护趋势

通过攻击来检测模型弱点和漏洞。该方法是站在“黑产”角度，通过智能攻击对抗技术，自动生成大规模的诱导性问题提示，对大模型进行诱导式问答，查看大模型的输出是否存在风险。例如，有些大模型采用了最新的“对抗智能”技术路线，通过不断向大模型“投射问题”，就像医生多次询问病人症状，来盘查解析大模型的健康状况。

通过生成大量的对抗样本，开发设计实现对抗样本检测的算法系统，这已经成为一种主流趋势。行业中的大型巨头，如OpenAI公司、谷歌公司、微软公司、英伟达公司等都将对抗智能技术运用到其产品和服务中。对抗检测技术作为独立于大模型的服务，不影响大模型对正常样本的性能，因而是目前较为实用的对抗防御手段。

防治。不仅仅对模型输入的恶意内容进行检测，也对模型输出内容进行自动识别，实施二次过滤，对风险信息进行干预，确保大模型输出的内容符合规范。

“以AI对抗AI”也成为一个热点方向。既可以依赖大模型的大规模数据知识积累，利用它进行攻击场景模拟，不断探索模型的弱点和漏洞，以推动模型防御能力的增强，也可以让大模型作为一个智能安全助手，对症提出分析和安全防御策略。

模型窃取攻击风险及应对

模型窃取者可以通过网络黑客攻击请求等手段非法获得模型结构、模型参数、超参数等隐私信息。一旦攻击者得到目标模型的功能、分布等信息，就可以逃避目标模型的收费，或者以此作为服务获取收益，甚至可以基于窃取到的模型对目标模型实施白盒攻击。对于花费大量标注成本和训练资源的大模型来说，模型提供者的损失是巨大的。虽然对模型采取加密等手段可以起到一定的保护作用，但是窃取者仍然可以通过黑盒探测来逆向重建模型。

模型窃取攻击风险示例

有研究人员提出了一种针对BERT模型的窃取方案。该方案通过让攻击者设计问题问询目标黑盒BERT模型，再根据目标模型的回答优化训练自己的本地模型，使本地模型与目标BERT模型的表现接近，达到模型窃取的目的。

在大模型应用中，攻击者可以设计自己业务领域的问题集合，将所设计的问题和大模型的回答作为输入，通过知识迁移策略训练自己本地的小模型，直到其业务领域内达到与大模型相近的效果，实现对大模型特定领域功能的窃取。

模型窃取攻击风险应对

模型提供者可以对模型的结构和参数等信息进行加密处理，防止简单的复制攻击。为防止攻击者对模型进行逆向重建和蒸馏学习，常用的一个方法是采用后门攻击的方式为模型加“水印”，使被窃取的模型对带有特定后门标记的输入产生特定的输出，展现这种特定行为的模型就可以认为是被窃取的。

为防止模型水印在微调训练中被消除掉，有研究人员使用对抗训练的方式来增强对模型水印的保护。他们对水印保护的模型权重进行了对抗扰动，以生成破坏水印后的模型版本，然后对扰动后的模型进行了水印约束加强训练。

金融大模型的数据隐私

金融大模型的数据隐私问题我们在前面的章节中反复提到过。在金融大模型建设阶段，该问题也是需要重点被关注和解决的问题。

数据隐私面临的问题

隐私数据包括但不仅限于用户姓名、年龄、联系方式、通讯地址和其他任何用户不想公开的信息，以及企业不便公开的金融实时数据、流水和一些非结构化的规则等。

数据隐私问题主要表现在数据滥用、数据泄露、隐私偏见等方面。

数据滥用

数据滥用包括个人和公司信息的滥用、用户信息非法采集、用户行为恶意监控和非授权广告等商业利益侵犯等。大模型的数据构建中不乏对隐私数据的滥用。

数据泄露

数据泄露通常发生在网络攻击、未授权访问、数据存储设备的非法占有和利用大模型的缺陷等情形之下。前三种威胁是普遍存在的常规威胁，只要是涉及隐私数据的业务都可能遭遇这三种威胁。

针对模型缺陷的特殊威胁

敏感信息试探：在与大模型的对话过程中，大模型可能直接无意识地输出敏感信息。

针对性提问：利用大模型逆向逻辑能力相对较弱的特点，将问题增加否定、限定条件或者构造罕见语义的输入，诱导模型输出敏感信息。

模型日志：大模型可能在对话过程中泄露用户的请求和响应等相关数据记录的日志，从而为用户的行为推理、心理状况和兴趣爱好等假设提供依据。

依赖库泄露：大模型的体系庞大，其依赖的第三方服务如果存在漏洞则有可能导致数据泄露。

训练过程泄露：如果训练数据未进行匿名化处理，则在训练过程中可能发生数据泄露。

上下文关联：大模型的交互过程可能会依赖于上下文的关联，如果这种依赖被利用，也可能导致数据泄露。

隐私偏见

隐私偏见问题主要表现为大模型的输出可能偏向于特定群体的观点和爱好，包括性别、种族、文化、语言等方面。利用大模型的偏见性回答，从而扩大歧视和不公的负面影响，这给舆论导向增加了不可控因素。

隐私数据的保护

在金融业大模型的应用开发场景之下，我们需要为模型赋能全员自然语言交互、问答思维逻辑形成和知识库构建。这个过程中的每一个环节都需要注意隐私数据的保护。

常见的隐私数据的保护方案

数据匿名化和脱敏处理。例如对个人信息进行剔除或脱敏，或者在条件允许的情况下征询用户意见，有时候在数据采集的时候就会提示用户哪些数据可能会被使用，从而提前得到授权或者屏蔽。

数据加密。对涉及隐私的数据进行存储前加密操作，可以防止数据未授权访问后的泄密。

数据最小化收集和存储。只收集必要的数据，坚持最小化原则。

及时清理数据。对于不再使用的隐私数据，应该及时进行安全销毁。对于使用期限不明确的隐私数据也应该设置必要的使用期限。

访问控制和安全存储。涉及隐私数据的访问时，应进行严格的访问授权模式，做到可复原、能溯源。同时，访问的数据也要做好必要的物理安全和网络安全防控。

差分隐私保护。在数据处理过程中，随机加入噪声数据，形成扰动，使模型的结果具有更多的不确定性，从而使数据的主体无法确定，达到保护隐私的目的。差分技术可以应用在数据集的收集和存储上、模型参数上、查询推理以及个性化推荐中。但是差分隐私引入的额外噪声也会对模型的精度带来一定的影响。

模型水印和指纹。模型水印是指在模型的参数、数据、权重或结构中嵌入特定的信息，以便在模型被未授权使用或复制时进行追踪和确认。这种水印信息可以是唯一的标识符、文本或其他形式的标记，通常是在模型训练过程中进行嵌入。模型指纹是一种用于验证模型完整性的技术。当模型进行修改或调整时，模型指纹可以被创建并嵌入到模型中。这个指纹是模型的唯一标识符，它可以用于验证模型是否经过篡改或修改。

第五章

金融大模型的标准与评估体系构建

我们正处于构造转变的开始，所以我们有一个难得的机会转向未来。

——OpenAI公司首席执行官：萨姆·奥尔特曼（Sam Altman）

大模型标准体系构建

大模型作为人工智能取得突破性进展的重要驱动力之一，已显著加速工程化和普惠化发展进程，有望成为新一代智能基座。马上消费密切关注国内外相关技术发展态势，参与业界大模型研究、咨询、标准、评估等技术生态共建，与业界一道不断夯实软硬件环境、标准规范、测试数据集等基础，目前大模型标准体系已初步形成。相关标准为科学评价大模型技术能力和应用效能提供了详尽参考，为全面促进大模型安全合规和可信发展提供了重要保障。

面向基础大模型的标准体系

自大模型技术兴起以来，参数规模呈现出爆发式增长趋势，模型性能取得显著提升。与传统人工智能算法模型相比，大模型具有开发门槛高、技术能力强、运营要素新、应用服务全等多重特性。

为进一步适应当前大模型发展现状和趋势，马上消费参与中国信息通信研究院发起的大模型产业推进方阵，联合产业各方在以“工程化”过程为核心的大模型标准体系1.0基础上，升级并发布以“模型即服务（MaaS）”为核心的可信AI大模型标准体系2.0。

可信AI大模型标准体系2.0以“四横一纵”为核心思路，充分结合模型化、能力化、工程化、产业化以及安全可信等“建用管”产业共性需求，从模型开发、模型能力、模型运营、模型应用、安全可信共5个方向持续构建和完善大模型的标准体系，可有效助力相关主体快速构建能力全面、应用广泛、运营便捷、安全可信的基础大模型。

第一个方向是模型开发。该标准可为企事业单位及高校院所等研发主体开发基础大模型提供指标及过程参考，包含4个能力域、16个能力子域、60余个能力项，依据功能丰富度、支持完备度对大模型作了简易型、基础型、通用型、优秀型、卓越型5级划分。

第二个方向是模型能力。该标准可为技术及产品方提供成体系的主观和客观评价指标，全面测试基础大模型、领域大模型、行业大模型的功能及性能，包含3个评测维度、8个能力域、30余个能力项，依据功能丰富度、性能优越度、服务成熟度对大模型作了简易型、基础型、通用型、优秀型、卓越型5级划分。

第三个方向是模型运营。该标准可为技术方交付大模型、应用方运营大模型提供参考，可为平台、工具、套件、插件的构建和选型提供依据，包含数据处理和回流、模型训练与微调、模型压缩与测试、服务部署与托管、平台支撑能力等5个关键维度。

第四个方向是模型应用。该标准分别从任务支持度、场景丰富度、行业覆盖度、服务成熟度等维度综合评价了大模型的应用效能，包含3个能力域、9个能力子域以及近40个能力项。

第五个方向是安全可信。该标准可用于评估数据、模型、应用的安全性，评估结果、过程、机制和规则的可信性，以及评估大模型生态链的自主可控程度，从基础设施、数据、算法、模型、应用等大模型关键层级制定了安全可信的指标要求和评估方法。

面向行业大模型的研究制定

近期，BloombergGPT、MedGPT等面向垂直领域及具体场景的行业大模型不断涌现，有望成为各行各业前端应用场景的技术底座。

行业大模型通过对基础大模型进行特定领域数据的训练和调优，具备满足行业特定需求的领域专业性和场景适配性。企业可以通过行业大模型更便捷地构建与自身更为匹配的能力中台。行业大模型成为促进大模型深入产业的重要举措。

马上消费参与了全国首个行业大模型系列标准——《面向行业的大规模预训练模型技术和应用评估方法》的研制工作，并作为核心参编单位，发布了首个金融行业大模型标准——《面向行业的大规模预训练模型技术和应用评估方法第1部分：金融大模型》。

未来，行业大模型标准体系将得到不断完善，扩展至电信、教育、法律、电力、汽车、传媒、政务等多个行业。马上消费通过构建技术能力、应用能力、服务能力三位一体的评价体系，助力产业各方全面评估行业大模型的技术和应用能力，以进一步促进大模型的产业化进程，加速大模型与行业应用融合。

金融大模型能力评估

金融大模型构建完成后，需要被评估和验证，以保障其性能和准确性。然而，市场中通用大模型的测评工具并不适用于金融领域，因此构建一套完善的金融大模型的评估及能力指标体系至关重要。

金融大模型评估体系

虽然当前的大模型展示出了强大的推理和生成能力，但是要去评估一个大模型却面临诸多挑战。首先，我们无法获取模型的训练数据分布信息，这可能导致评估出现模型漂移；其次，生成式大模型输出难以被定量评估；再次，很多NLP任务数据集都是在互联网上轻易获取的，这些内容容易被混入大模型的预训练语料里，导致很多NLP任务数据集上的结果没有说服力；最后，单一的模型评价指标难以概括模型的多样能力。因此，要评估一个大模型，一个全面的大模型测评标注数据集至关重要。

对于通用大模型，现在有C-Eval和CMMLU这样的测评集，但它们对金融领域的知识考察相对有限。对于金融大模型，目前尚未存在一套完善且统一的大模型评估标准，主要难点在于：测试数据和真实场景的数据可能存在巨大差异；测试数据可能被混入了大模型训练数据中，从而导致评估指标偏高；针对金融场景没有统一的评价指标。

因此，建立一个专门针对金融领域的评估体系不仅非常重要，同时兼具挑战。这样的体系不仅要能够更精准地评估模型在金融环境中的表现，还要能助力研发团队更有效地开发和调整模型，以满足金融业务的具体要求，降低实际应用的试错成本。

那么，如何制定专门针对金融行业的大模型评估体系呢？我们倡导一种综合性的评估方法，灵感来源于人力资源领域的多维度评估。具体而言，我们将这一评估过程分为三大部分：通用能力、专业知识和场景应用。

通用能力

在人才选拔中，高考等大规模考试通常用于评估个体的通用能力，覆盖语言、数学、逻辑推理等多个方面。类似地，金融大模型的通用能力也应该受到充分重视。目前，国内已有一些评估基准，例如C-Eval和CMMLU，它们采用全类目学科考题来衡量模型的通用性。值得一提的是，这些基准正在不断被优化，以适应模型开发的新动态。

专业知识

除了通用能力外，专业知识也是一个关键评估因素。在金融领域，专业知识涵盖了寿险、理财、投资、信贷等多个细分领域。因此，评估标准必须包括对模型在这些专业领域内知识储备的全面评价。这是目前评估体系中的一个显著空白，也是我们需要集中关注的点。

场景应用

这是一个更复杂的维度，因为它涉及模型在具体工作环境中的表现。类似于人才选拔的面试过程，场景应用能力往往需要由具体的需求方来评价。因为每个业务场景都有其独特的需求和所面临的挑战，没有单一的标准可以全面评价模型在各种场景中的适用性。事实上，由于其具有复杂性和多变性，更适合由具体业务需求方进行定制化评估。

因此，在构建针对金融大模型的评估体系时，我们特别注重“专业知识”这一核心因素，计划对其进行全方位和深入的评估，以确保覆盖金融行业的多个子领域。这样的专注并不意味着忽视其他评估维度，而是因为“专业知识”在目前的评估体系中存在显著的缺失，亟待我们集中解决。

金融大模型能力指标体系

对于一个金融大模型而言，我们不仅要评估其通用能力及其在金融领域的能力，还要评估其在具体应用场景的能力。

通用的能力评估

理解能力：提出一些需要深入理解文本的问题，看模型是否能准确回答。

语言生成能力：让模型生成一段有关特定主题的文章或故事，评估其生成的文本在结构、逻辑和语法等方面的质量。

知识面广度：请模型回答关于不同主题的问题，以测试其对不同领域的知识掌握程度。一个优秀的大模型应该可以回答各种领域的问题，并且准确性要高。

适应性：让模型处理各种不同类型的任务，例如，写作、翻译、编程等，看它是否能灵活应对。

长文本理解：提出一些需要处理长文本的问题，例如，提供一篇文章，让模型总结出文章的要点，或者请模型创作一个故事或一篇文章，需要有一个完整的情节，并且要求它不要出现明显的逻辑矛盾或故事结构上的错误。一个好的大模型应该能够以一个连贯的方式讲述一个故事，让读者沉浸其中。

多样性：提出一个问题，让模型给出多个不同的答案或解决方案，测试模型的创造力。

情感分析和推断：提供一段对话或文本，让模型分析其中的情感和态度，或者推断角色间的关系。

情感表达：请模型生成带有情感色彩的文本，如描述一个人物的情感状态等。一个优秀的大模型应该能够准确地捕捉情感，并将其表达出来。

逻辑推理能力：请模型回答需要进行推理或逻辑分析的问题，判断模型的推理能力和逻辑思考能力，以及其在处理逻辑问题方面的准确性。例如：“所有的动物都会呼吸。狗是一种动物。那么狗会呼吸吗？”

问题解决能力：提出实际问题，例如数学题、编程问题等，看模型是否能给出正确的解答。

道德和伦理：测试模型在处理有关道德和伦理问题时的表现，例如：“在什么情况下撒谎是可以接受的？”

对话和聊天：请和大模型进行对话，以测试其对自然语言处理的掌握程度和能力。一个优秀的大模型应该能够准确地回答问题，并且能够理解人类的语言表达方式。

通用能力的评测

MMLU：一个综合的英文评测基准，涵盖了STEM、人文学科、社会科学等领域的57个主题。它考验的是大模型的知识储备和解决问题的能力。

C-Eval：一个全面的中文基础模型评估基准。它包含了13948个多项选择题，涵盖了52个不同的学科和4个难度级别。

CMMLU：一个综合性的中文评估基准，专门用于评估语言模型在中文语境下的知识和推理能力。CMMLU涵盖了从基础学科到高级专业水平的67个主题。

除此之外，我们也可以借鉴NLP任务（如机器翻译）中常用的模型评估指标。

BLEU（bilingual evaluation understudy，双语评估基准）：一组度量机器翻译和自然语言生成模型性能的评估指标。BLEU指标是由IBM公司提出的一种模型评估方法，目的是在机器翻译领域中开发更好的翻译模型。BLEU指标根据生成的句子与人工参考句子之间的词、短语和n-gram匹配来评估模型的性能。BLEU指标通常在0和1之间取值，其中1表示完美匹配。因此，我们可以将其用于大模型的评估。

ROUGE（recall-oriented understudy for gisting evaluation召回率导向的摘要评估）：一种在机器翻译、自动摘要、问答生成等领域常见的评估指标。ROUGE通过将模型生成的摘要或者回答与参考答案（一般是人工生成的）进行比较计算，得出对应的得分。ROUGE指标与BLEU指标非常类似，均可用来衡量生成结果和标准结果的匹配程度，不同的是ROUGE基于召回率，BLEU更看重准确率。因此，我们也可以将其用于大模型的评估。

针对通用能力的评估方法，我们可以采用以下两种评价指标。

零样本模型准确率：让大模型直接针对问题回答，再对其进行评估。

少样本模型准确率：在对测试样本进行评估之前，会让大模型先参考同一任务中的少量例子，然后再让其进行回答，最后评估其准确性。

金融领域的能力评估

金融领域专业知识的掌握程度：请模型回答金融细分领域的问题，以测试其对金融细分领域知识的掌握程度，例如寿险、理财、投资、信贷等多个细分领域。

金融问答：给定一段金融相关的文本和一个问题，让其回答问题。

金融情感分析：给定一段金融相关的文本，判断其对某个金融产品或市场的情感倾向，例如正面、负面或中性。

金融摘要生成：给定一段金融相关的文本，让其生成一段简短的摘要，概括文本的主要内容和观点。

金融新闻生成：给定一些金融相关的关键词或提示，让其生成一段新闻报道，描述相关的事件和影响。

金融对话系统：给定一个金融相关的对话场景和一个用户输入，让其生成一个合适的对话回复，满足用户的需求和意图。

金融预测：给定一些金融相关的数据和一个预测目标，让其生成一个预测结果、一个预测依据和一个预测置信度。

金融推荐：给定一个用户的金融相关的信息和一个推荐目标，让其生成一个推荐结果、一个推荐理由和一个推荐评分。

金融专业知识的评测

FinanceIQ：一个由度小满（原百度金融）开源的中文领域知识测评集，涵盖了10个金融大类、36个金融小类，总计7173个单项选择题。

FinCUGE：一个中文金融自然语言理解和生成评测基准，该基准包含8个不同的自然语言理解任务，包括摘要生成、文本分类、关系抽取、事件抽取和其他任务。值得注意的是，为了确保评估基准的专业性、更好地反映金融自然语言处理模型的价值，这些任务的选择和创建由金融专家指导。同时，他们还以问卷的形式统计了不同任务的实用性得分，以指导评测基准对不同任务给予不同的关注。

Fin-Eval：金融行业为大模型创建的一个专业数据评测集，涵盖认知、生成、金融知识、金融逻辑以及安全合规5类能力共28个子任务，具体如图5-1所示。在设计任务时，该评测集充分考虑了大模型在上下文学习、工具调用、CoT等方面的特点。Fin-Eval涵盖了财富管理、保险、投资研究等多个金融领域，数据源包括蚂蚁各业务领域、开源数据，以及模型蒸馏。在经过数据脱敏、文本聚类、语料精筛等处理过程后，结合金融领域专家的深度加工，该评测集最终被构建而成。

针对金融专业知识的评测可以采用同通用能力测评一样的评价指标进行测评。例如零样本模型准确率、少样本模型准确率、BLEU、ROUGE等。

应用场景的能力评估

金融智能助理：大模型作为一个金融智能助理的场景，为用户提供各种金融相关的服务，例如查询信息、回答问题、生成报告、提供建议等。

金融内容生成：大模型作为一个金融内容生成器，为用户生成各种金融相关的内容，例如新闻、摘要、评论、预测等。

金融知识获取：大模型作为一个金融知识获取器，为用户获取各种金融相关的知识，例如知识图谱、关系网络、趋势分析等。

金融教育和培训：大模型作为一个金融教育和培训的工具，为用户提供各种金融相关的教育和培训，例如课程、案例、测试等。

上面列举的能力并没有涵盖金融大模型所涉及的所有能力，我们需要根据实际业务需求综合考虑如何进行金融大模型的能力评估。鉴于场景应用的复杂性和多变性，由具体业务需求方对其进行定制化评估更为合适，所以我们不做具体介绍。

虽然目前金融领域已经出现了一些标准的测评集和测评方法，但是想要快速且全面的评估金融大模型仍然困难。一个优秀的测评方法需要衡量回答的正确性和流畅性、提供足够的有效信息、逻辑上要严密正确、未涉及违反伦理道德等。客观评测指标虽然可以反映模型的知识覆盖度，但是不能反映模型的生成能力；人工评测虽然评估得更加准确和全面，但是评估速度慢。

金融大模型的安全合规评估

金融大模型的安全合规评估主要体现在道德和伦理评估、风险治理评估两个方面。

道德和伦理评估

同其他大模型一样，金融大模型也是基于数据驱动的生成式模型，在没有伦理道德和法律框架的约束下，其推理结果往往具有很强的统计特性。因此，构建金融大模型一定要充分考虑社会、伦理和道德等因素。

金融建议的公正性和偏见问题

在面对根据不同因素划分的群体时，大模型给出的建议很可能会丧失公平性，产生偏见。常见的偏见包括性别、宗教、文化、种族、地域政治等方面。在获取金融建议时，我们要时刻警惕偏见性内容的误导。

大模型对金融建议可能存在的偏见问题

选择性偏见。金融建议很可能与训练资料中某个投资顾问或者机构的个性化选择相关，例如不同的风险防控能力可能决定了不同的操作限度，某些人也可能倾向于特定的金融产品或服务。此外，上下文环境的属性限定也可能导致模型作出带偏见的选择。

性格偏见。金融投资的性格类型包含激进型、稳健型、保守型、平衡型、短期主义和长期主义等类型。大模型的知识都来源于这些个体，在训练时难免会作出归纳偏好，导致提供的建议带有性格偏见。

地域政治偏见。不同的国家、地区有不同的金融政策，而大模型在输出建议时，很可能未能充分考虑使用者的地域政治背景，从而出现偏见。

大模型的可解释性问题

近年来，大模型不断地刷新了人们对模型能力的认知上限，但其黑盒的特性也不可避免地会给下游任务带来许多不确定性风险。这些风险包括但不仅限于产生有害信息、大模型幻觉以及模型的偏见等。为了应对这些潜在的风险，大模型的可解释性研究逐渐被重视了起来。

可解释性是指一种以人类可以理解的方式去解释或展示的能力。对于一般的使用者来说，可解释性意味着在不需要专业知识的前提下能够理解大模型的能力、限制和潜在缺陷，对于研究者而言则代表着明确大模型的偏见、风险和如何针对性地提升其性能。

从大模型的训练范式出发，我们大致可以将大模型分为“预训练—微调”范式和“预训练—提示”范式（如图5-2所示）。

全称为Efficiently Learning an Encoder that Classifies Token Replacements Accurately，是谷歌提出的一种预训练模型。

微软公司提出的一种新的预训练模型。

“预训练—微调”范式模型及解释方法。“预训练—微调”范式的典型模型包括BERT、RoBERTa、ELECTRA 和DeBERTa 等，这些模型通常先在一个大的未标注语料库上进行无监督或者自监督的训练，随后在一些下游任务的标注数据集上进行微调。

解释“预训练—微调”范式模型的方式

明确自监督的预训练学习到了哪些语言基础知识，如词性、语法、语义和上下文等。

明确预训练过程对下游任务的影响程度。

理解微调的过程是如何将预训练模型的能力迁移到下游任务的。

明确模型从接收输入到产生输出的推理过程。

解释“预训练—微调”范式的模型，可以从局部和全局这两个角度进行。

图5-2 大模型可解释性技术分类图

局部解释又叫个例解释，针对的是特殊的输入实例，解释方法包括特征重要性分析、注意力机制、样例驱动和自然语言解释等。

特征重要性分析是获取一个关于输入Token与预测（如生成的词、情感分析）之间的关联评分，从而得到每个输入分量对输出的贡献值，作为解释生成内容的依据。

特征重要性分析的方法

特征重要性分析的方法包括基于特征扰动、基于特征梯度、代理模型和模型分解等。

基于特征扰动的方法会掩码、移除或者修改部分特征，可以在模型的不同层次（输入层、中间隐层）进行扰动，扰动的粒度可以是词级、token级、短语级或段落级。

基于特征梯度的方法是通过分析模型输出对每个输入特征维度的偏导数进行的，为了解决普通梯度的常量偏移和梯度掩盖问题，积分梯度（integrated gradients, IG）得以研究和应用。

代理模型旨在寻求一种更加简单、便于理解的透明模型来拟化黑盒大模型的输出，常见的代理技术包括多层感知机、决策树等。早期的这类解释方法缺乏可加性，于是SHAP框架被提出，在Transfomer基础上应用得到的TransSHAP能很好地解释大模型。

模型分解方法尝试得到模型输出与输入之间的线性关系。

注意力机制能凸显神经网络模型中模型关注的地方。大模型中的注意力模块可以通过可视化、权重调整或者求梯度来解释模型。如同在视觉任务中的热图（heatmaps）可视化一样，大模型的注意力可视化可以是热图矩阵形式，也可以是二分图。可视化技术能够清晰地看出模型输出所对应每个输入分量的重视程度。权重调整通过调整注意力模块的部分权重，从而观察模型输出的变化情况。对注意力权重进行偏导计算，其相对原始注意力机制来说更能关注重要的特征，效果更好。

样例驱动的方法主要包括“对抗样本”和“反事实样本”。对抗样本的方法通过观察人工合成数据与原始数据之间细微差异所导致模型预测的变化来解释模型，这有助于发现模型的缺陷；同时，加入对抗样本的训练能提升模型的性能。

全称为Multiple Imputation by Chained Equations，是一种处理数据集中缺失数据的稳健、信息丰富的方法。

反事实样本方法通过显著地改变输入的句子，如否定、打乱或者删除关键词等来观察输出的改变是否符合常理。反事实样本方法被定义成两个阶段，先选择重要的Token，再编辑或者删除这些Token，例如MiCE 利用梯度属性来掩码Token。

“自然语言解释”采用端到端的方式直接生成解释的文本。这通常需要额外标注的含解释性质的数据集来辅助训练，其在模式上包括先解释后预测、先预测再解释或者解释预测结合。这种模式引入了额外的上下文空间，通常能提升下游任务的性能。

全局解释希望理解大模型的如嵌入层、线性层等组件或者更大的模块如编码器、解码器等所学习到的语言知识。解释方法包括探针法解释、神经元激活解释等。

探针法解释又分为有参探针法和无参探针法。有参探针法会冻结其模型参数，在模型的适当位置添加一个浅层探针分类器，用于识别模型在该位置输出特征所学习到的语言知识如词性、词义或语义类别。探针分类器的训练往往需要带有词性标注的数据或者解释标注的数据。在向量表示的研究中可以发现，模型在浅层的特征往往学到的是单词级别的语法，在深层特征得到的是抽象的语义。单词级别的语法探针通常使用依赖解析器提取依赖关系，句子级的探针则不需要依赖树来进行检索。对于语义知识的检验可以通过命名实体、关系分类等方式进行。由于有参探针法无法明确语言知识是来自于基础模型还是探针分类头，无参探针法便得以被研究。无参探针法需要特定语言属性的数据集来说明模型学习语言知识的能力，例如可以通过测试BERT完形填空的能力来测试模型对语言知识的掌握。

神经元激活解释也是具有两个阶段的解释方法，首先使用无监督的方式定位重要的神经元，再学习监督任务中神经元与特定语言知识之间的关系。定位重要神经元通常使用消融实验，贪心高斯探针法也能达到此目的。OpenAI的最新研究表明：GPT-4利用GPT-2 XL的激活神经元能生成自然语言的解释，GPT-4可以将GPT-2 XL的神经元归为不同的模式。

TII发布的一个完全开源可商用的大语言模型。TII全称是“The Technology Innovation Institute”。

“预训练—提示”范式模型及解释方法。“预训练—提示”范式在大型语料库上设计“提示”，进行类似于完形填空的训练，典型模型有GPT-3、OPT、LLaMA-1、LLaMA-2和Falcon 等基础模型。其他的均是在这些基础模型上进一步监督微调或者强化学习得到的助理模型。基础模型可以直接和人进行交流，但其生成的内容可能太过于松散，且具有偏见；助理模型在经过人类反馈的在线强化学习和指令调优后，能更好地应用于具体的下游任务，如投资顾问、智能客户服务。

解释“预训练—提示”范式模型方式

理解模型是如何利用提示来捕获语言知识的。

理解大模型是如何通过小样本的训练来适应新任务的。

明确大模型幻觉产生的原因。

对于“预训练—提示”范式的模型，我们可以从基础模型解释和助理模型解释出发。

基础模型解释包括解释学习是否对模型有利、上下文学习的解释和思维链提示的作用。

有研究人员调研了为一些少样本任务的答案提供解释是否能增强模型的性能，包括回答前解释和回答后解释。基于解释数据的质量和模型的规模，解释学习所带来的收益可能不同。

上下文学习的方法通过反转标签、扰动输入等方式来对比分析，实验表明上下文学习对模型的效果与模型的规模、任务类型和数据集有关，通常较大的模型比较小的模型更能容忍数据扰动。输入Token的显著性评分可以用来分析思维链提示是如何影响大模型的。这种提示方式能够稳定大模型思考问题的方式，利用干扰思维链提示观察模型的表现，进一步从反面说明了思维链提示的作用。

助理模型的解释主要是弄清楚微调的作用和模型幻觉产生的原因。在基础模型上对齐微调得到的助理模型，其具有很强的专业能力和用户偏好。有研究人员通过1000条指令微调LLaMA-65B模型取得了与GPT-4相当的性能，进行相对重要性分析后发现模型的知识基本来源于预训练的基础模型，对齐微调所改变的只是交互的风格和样式。大模型的不确定性和幻觉问题限制了其在某些场景的应用。有研究人员利用一个问题的多个答案之间的一致性来评估模型的不确定性和置信度。中国科学院副研究员熊建刚提出，可以显示的提示模型输出回答的置信度，还可以整合Token级别的不确定性得到整体的不确定性。

风险治理评估

金融大模型的风险治理体系包括风险识别、风险评估与量化、政策与程序、审计与合规性、培训与文化、技术与创新等。

风险识别

金融大模型应用的风险识别是一个全面的过程，它包括对市场风险、信用风险、操作风险、合规风险、模型风险、技术风险、系统性风险和声誉风险等多个方面的识别。

金融大模型应用的风险识别

市场风险识别涉及对市场价格波动导致的潜在损失的评估，如股票价格、利率、汇率和商品价格的变动。

信用风险识别则关注借款人或交易对手违约导致的损失，包括个人、公司或国家的违约可能性和违约后的损失程度评估。

操作风险识别关注的是由于内部流程、人员、系统或外部事件导致的损失，包括欺诈、系统故障、人为错误、业务中断和外部事件等。

合规风险识别则是指由于未能遵守法律法规、标准或指导原则而可能遭受的损失，包括监管处罚、法律诉讼和市场准入限制等。

模型风险识别涉及模型本身可能存在的问题，如模型错误、数据输入错误、算法不当或模型参数设置不当等导致的损失。

技术风险识别则是关注技术故障或安全漏洞可能导致的信息泄露、数据损失或服务中断等问题。

系统性风险识别是指整个金融系统或市场可能发生的不稳定，如金融危机、市场崩溃或流动性干涸等。

声誉风险识别则涉及金融机构因业务行为、负面新闻报道或市场传言可能受到的声誉损害，导致客户流失、市场份额下降或资金成本上升等问题。

在进行风险识别时，金融大模型应用还需要考虑到各种风险之间的相互关联和影响，例如市场风险可能加剧信用风险，技术风险可能引发操作风险等。此外，还需要关注宏观经济环境、政治事件、自然灾害等外部因素对风险的影响。

金融大模型应用的风险识别是一个动态的过程，需要不断地收集和分析数据，更新风险评估模型，以适应市场和环境的变化。

风险评估与量化

金融大模型应用的风险评估与量化是一个包含多个层面的复杂过程，它旨在对潜在的金融风险进行识别、分析、评估和量化。

金融大模型应用的风险评估

市场风险评估使用VaR（value at risk，风险价值系统）、ES（expected shortfall，期望损失）等统计模型来估计在正常市场波动下潜在的最大损失。

信用风险评估则涉及对借款人或交易对手违约概率的评估，通常使用信用评分模型、违约概率模型（probability of default, PD）、损失率模型（loss given default, LGD）、敞口模型（exposure at default, EAD）等方法来量化。

操作风险评估则通过内部数据、外部数据、情景分析和商业判断来评估由于内部流程、人员、系统或外部事件导致的潜在损失。

合规风险评估则需要考虑法律法规变化的不确定性，采用合规检查清单、监管报告要求等手段来评估潜在的合规成本和处罚风险。

模型风险评估则通过模型验证（包括输入数据的验证、模型假设的审查、模型输出的校验等）来识别和量化模型本身可能引起的风险。

技术风险评估关注IT系统的稳定性、安全性、数据保护措施，常用的评估工具包括渗透测试、系统评估报告、安全性审计等。

系统性风险评估则通过分析金融市场的联动效应、金融机构间的相互依存关系、流动性状况等宏观因素来评估整个市场或金融系统可能面临的不稳定性。

声誉风险评估则涉及对金融机构的品牌形象、客户满意度、媒体报道等软性指标的监控，以及通过情景分析来评估负面事件对机构声誉的潜在影响。

在量化这些风险时，金融机构常采用统计模型、历史模拟、蒙特卡洛模拟等方法来估计风险敞口的大小和潜在损失的分布。同时，还需要考虑风险因素之间的相关性，以及风险的累积效应。

风险评估与量化的结果通常被应用于资本充足率计算、风险限额设定、投资组合优化、压力测试等决策过程中，以确保金融机构在承担风险的同时保持足够的资本和流动性，以应对潜在的损失。

政策与程序

在金融大模型应用的风险治理体系中，政策与程序的制定是一个涉及多个维度的过程，旨在确立一套全面的规范来指导模型的开发、测试、部署和监控。

首先，创建详细的模型风险管理政策。这些政策明确了模型生命周期中每个阶段的标准和预期行为，确保模型的设计和应用能够满足既定的质量和合规性要求。这些政策将涵盖数据的选择和处理、模型的构建和验证技术、性能评估指标以及模型更新和维护的规范。

其次，为了使这些政策得到有效执行，必须确保所有相关人员不仅理解这些政策和程序，而且能够在日常工作中严格遵守。这通常涉及一系列的培训和教育活动，以确保团队成员对政策的内容有深刻的认识，并且理解遵守这些政策的重要性。同时，还需要建立一个监督和审计机制，以监控政策的遵守情况，并在发现偏差时及时采取纠正措施。这样的机制通常包括定期的内部审计和外部审计，以及对模型性能的持续监控，确保模型在整个生命周期中都能保持其预期的性能和合规性。

通过这种方式，金融机构可以确保其大模型应用的风险得到妥善控制，同时也能够适应监管环境的变化和市场的发展。

审计与合规性

在金融大模型应用的风险治理体系中，内部审计负责定期检查风险管理措施的有效性，包括评估模型开发、测试、部署和监控的各个环节是否符合内部政策和程序。审计过程中，审计人员会检查模型文档、访谈相关人员、测试模型输出和进行现场检查等，以确保模型的实际运行与规定的标准相符。

监管合规性则要求金融机构的模型活动遵守所有适用的法律法规，包括数据保护法规、反洗钱规定和特定金融服务法规。合规性检查通常需要评估模型是否可能引发不公平的市场行为、是否存在潜在的歧视性决策等问题，并确保模型的使用不会违反监管要求。

通过这些措施，金融机构可以确保其模型应用的安全性、准确性和合规性，同时也能对监管机构和公众展示其承担责任的能力。

培训与文化

在金融大模型应用的风险治理体系中，培训与文化对于确保整个组织在理解、管理和减轻风险方面的能力至关重要。

人员培训确保所有参与模型开发、部署、管理和监督的人员都具备必要的知识和技能。这包括对数据科学家、分析师、风险管理人员、合规管理人员和决策者进行定期的风险管理培训。培训内容可能涉及模型理论、算法理解、数据处理、监管要求、伦理标准和最佳实践。通过这样的培训，大家能够更好地理解他们的工作如何影响模型的风险状况，并能够采取适当的措施来管理这些风险。

风险文化是指在组织内部形成一种对风险敏感、认识到风险管理重要性的氛围。这种文化鼓励开放沟通，让员工能够在不担心负面后果的情况下报告潜在的风险和问题。领导层人员须做出对风险管理的承诺，并通过其自身行为为员工树立榜样。在这样的文化中，风险管理被视为组织成功的关键部分，而不仅仅是合规的勾选项。

通过综合人员培训和积极的风险文化，金融机构能够更有效地管理和缓解与大模型应用相关的风险，同时也能够促进持续的改进和创新。

技术与创新

金融大模型应用的风险治理体系中，技术支持和创新策略是至关重要的组成部分，它们共同推动了风险管理的现代化和效能提升。

技术支持涉及采用最新的技术工具和方法，以提高风险监测的自动化程度、数据处理的速度和决策的精准性。这些技术可以帮助金融机构更有效地识别、评估和监控风险，同时也能够提高对复杂金融产品和服务中潜在风险的透明度。

在技术支持的基础上，创新策略的推动则是为了确保金融机构不只是满足于当前的风险管理实践，还要不断寻求改进和优化这些实践的方法。这包括鼓励跨部门合作、开展研究项目、探索新的风险量化模型和评估工具，以及实验新兴技术在风险管理中的应用。创新策略的实施需要一个支持性的环境，其中包括有利于创新的组织结构、资金支持，以及对失败宽容的文化，这样员工才能够在尝试新方法和工具时不畏风险。

通过结合技术支持和创新策略，金融机构可以不断提升其风险管理的能力，同时也能够适应金融市场的快速变化和新兴的风险类型。这种持续的技术革新和方法论创新是确保金融稳定性和可持续性的关键因素。

第三部分

应用与实例

第六章

LLM在金融知识管理中的应用

只有首先看到事情的可能性，事情才会有发生的机会。

——OpenAI联合创始人，TESLA、SpaceX首席执行官：埃隆·里夫·马斯克

LLM在金融知识管理应用中的挑战

在金融知识管理中，LLM的应用日益广泛，其面临的挑战也愈发明显，主要表现在数据质量与数据隐私、模型性能与泛化能力、人工智能伦理与合规等方面。

数据质量与数据隐私

数据质量和数据隐私是金融知识管理中的两个重要内容。

数据质量所面临的挑战和应对措施

金融领域的专业知识极为丰富且复杂，涵盖了许多专有术语和短语。这要求LLM具备高度精确和可靠的金融知识，以提供准确的金融信息和决策支持。

数据质量所面临的挑战

1. 金融数据量非常大，但并非所有数据都完整无缺。数据的缺失可能会导致模型在训练过程中无法充分捕捉到金融市场的规律，从而影响模型的预测能力。

2. 金融数据可能存在噪声、异常值等问题，这些数据在模型训练过程中可能会导致模型学到的知识存在偏差，进而影响实际应用中的表现。

3. 金融市场的波动性会导致数据分布不均衡，进而导致模型在某些时间段表现良好，而在其他时间段表现较差。

金融知识管理缺乏统一且适用于各类数据的质量评估标准。如何有效地评估数据质量并采取措施进行控制以提高模型性能，是金融领域应用LLM需要关注的问题。

此外，金融数据往往具有实时性，市场数据和客户数据都在不断变化，金融市场数据更新速度快，实时数据与历史数据的融合与处理对模型的泛化能力和实时性提出了较高要求。因此，LLM要能够快速地获取和处理实时数据，以确保其提供的金融知识和服务具有时效性和准确性。

同时，金融知识管理还需要整合不同来源的数据，例如内部数据、公开市场数据和第三方数据。这要求LLM具备强大的数据整合和清洗能力，以消除数据不一致性和错误、提高数据质量。

数据隐私所面临的挑战和应对措施

在金融领域，数据隐私尤为敏感，因为它直接关系到客户的财务安全和金融机构的声誉。LLM在处理和使用金融数据时，必须严格遵守相关法律法规，以确保数据隐私得到充分保护。这要求LLM具备先进的数据加密和脱敏技术，以防止数据在传输、存储和处理过程中被泄露。此外，金融机构还需要建立完善的数据隐私保护政策和措施，对员工进行数据隐私培训，确保他们在日常工作中能充分意识到数据隐私的重要性。

在金融领域，数据泄露的风险始终存在。未经授权的访问、恶意攻击等可能导致数据泄露，进而影响客户隐私和金融机构的利益。在金融知识管理过程中，数据授权问题较为复杂。如何确保在合理范围内使用数据、避免滥用和侵犯数据隐私，是金融领域应用LLM需要关注的问题。

金融数据涉及客户隐私和商业机密，各国和地区对于数据隐私保护的法律法规不同，金融机构需遵循相关规定，确保数据隐私得到充分保护。虽然现有隐私保护技术在一定程度上可以解决数据隐私问题，但在实际应用中，这些技术往往面临性能瓶颈，难以在保证数据隐私的同时实现高效计算。

来自数据质量和数据隐私的双重挑战和应对措施

来自数据质量与数据隐私的双重挑战体现在LLM的训练过程中。为了提高金融知识管理的准确性，LLM需要大量的高质量金融数据进行训练。然而，金融数据的获取和整理往往涉及高昂的成本和时间投入。如何在保障数据隐私的前提下，为LLM提供足够的训练数据，成为金融知识管理领域亟待解决的问题。

来自数据质量与数据隐私的双重挑战还体现在金融知识管理的实际应用中。金融机构在利用LLM为客户提供金融服务时，需要确保数据质量和隐私安全。这意味着金融机构需要在技术研发、数据管理和服务质量方面加大投入，以应对数据质量与数据隐私的挑战。

金融机构应重视这些问题，完善数据管理和隐私保护措施，以充分发挥LLM在金融知识管理中的优势，为客户提供高质量的金融服务。同时，政府、监管机构和行业组织也应积极参与，推动金融知识管理领域的技术创新和政策完善，共同应对来自数据质量与数据隐私的挑战。

模型性能与泛化能力

模型性能与泛化能力是金融知识管理中LLM关键性的挑战之一。

模型性能所面临的挑战和应对措施

模型性能是LLM在金融知识管理中的核心诉求。金融机构对于模型的响应速度、交互体验和服务质量有着严格的要求。为此，LLM需要具备高并发、低延迟的处理能力，以满足金融机构对实时性、高效性的需求。此外，金融领域的决策往往涉及大量复杂的数据分析和推理过程，因此LLM需要具备较强的逻辑推理和分析能力，以便为用户提供有针对性的金融解决方案。

金融领域数据量大、类型多样，包括结构化数据、非结构化数据和实时数据等。处理这些复杂数据对LLM的计算能力和存储能力提出了较高要求。金融机构需要不断优化数据处理技术，提高数据处理效率，降低数据处理成本。

另外，金融市场波动性较大，短期内价格和行情变化迅速。这要求LLM具有较高的实时性和应变能力。为应对这一挑战，研究者可以探索引入时间序列分析、强化学习等方法，使模型能够更好地适应金融市场的波动性。

金融领域包含众多金融产品和服务，各品种之间存在差异。如何让LLM适应不同金融产品和业务的需求，提高模型的泛化能力，是金融知识管理中LLM面临的关键问题。为解决这一问题，研究者可以尝试开发具有可扩展性的模型结构，以满足不同金融产品和业务的需求。

由于金融数据的稀疏性和噪声特性，LLM容易出现过拟合现象，导致在实际应用中表现不佳。为解决这个问题，研究者可以采用正则化方法、集成学习等策略，降低模型过拟合风险。

金融领域对模型可解释性有较高要求。LLM需要具备一定的可解释性，以便金融机构和投资者了解模型预测的依据和逻辑。为提高模型的可解释性，研究者可以尝试引入解释性较强的模型结构，例如基于图的模型、注意力机制等。

模型泛化能力所面临的挑战和应对措施

由于金融市场数据分布不均衡，不同品种、不同时间段的数据量存在差异，这导致LLM在某些金融场景上表现良好，而在其他场景上表现较差。为解决这一问题，研究者可以尝试数据采样、数据增强等方法，提高模型在不同场景下的泛化能力。

金融市场的多样性导致不同金融产品间的规律和特征差异较大，这使得LLM在泛化能力上面临挑战。为应对这一挑战，研究者可以探索金融领域跨品种、跨领域的数据融合方法，提高模型的泛化能力。

考虑到金融政策和经济环境的不断变化对金融市场的影响，LLM需要具备较强的泛化能力，以适应不断变化的市场环境。为提高模型在不同市场环境下的泛化能力，研究者可以引入领域适应性技术，如迁移学习、对抗训练等。

针对新品种或新业务的金融数据，LLM需要具备迁移和适应能力，以便在不同场景下取得良好表现。为解决这一问题，研究者可以探索跨领域、跨品种的金融数据融合方法，提高模型的泛化能力和适应性。

人工智能伦理与合规

LLM在金融知识管理中同时面临着人工智能伦理与合规挑战。

随着人工智能技术的不断发展，其在金融领域的应用日益广泛，但同时也引发了诸多伦理和合规问题。在金融知识管理中，LLM需要在遵循伦理原则和法规的基础上，为用户提供高效、可靠的金融服务。

数据隐私与安全

金融领域涉及大量的用户数据，应用LLM时需要处理和分析这些数据，从而为用户提供有针对性的服务。如何在确保数据隐私和安全的前提下，充分利用这些数据为用户提供价值，成为LLM面临的重要伦理与合规挑战。

为应对这一挑战，金融机构和研究人员应关注数据合规性，采取合适的加密、脱敏等技术手段，加强对用户数据的保护，同时还应遵守相关法律法规，以确保数据安全。

算法公平性与透明度

金融市场中存在诸多不公平现象。LLM在金融知识管理中的应用需要确保算法的公平性，避免因数据偏见而导致不公平的结果。同时，LLM还需要提高算法的透明度，向用户披露决策依据和逻辑。

金融机构和研究人员应关注算法合规性，采用去偏见技术，确保金融服务的公平、公正；此外，还应通过算法解释和可视化技术，提高算法的透明度，让用户了解模型的工作原理，以便监督和评估模型的合理性。

责任归属

LLM可能会出现错误的决策和建议，导致用户遭受损失。如何界定LLM提供商、金融机构和用户之间的责任归属，成为伦理与合规领域的一个关键问题。

为应对这一挑战，金融机构和研究人员应明确各方责任，建立完善的责任归属机制。一方面，LLM提供商和金融机构须承担相应的法律责任，确保服务的合规性；另一方面，用户也应承担一定责任，了解并掌握金融知识，合理使用LLM提供的服务。

人工智能与人类协作

金融知识管理领域的部分工作可能会被自动化取代，这引发了关于人工智能与人类如何在金融行业协同工作的伦理与合规问题。

金融机构和研究人员需关注人工智能与人类协作的合规性，确保二者在金融知识管理过程中协同顺畅、互补优势，充分发挥各自潜能。为此，金融机构应加强对员工的培训，提高其与人工智能协作的能力；同时，人工智能的发展也应考虑到人类的权益，确保人与机器之间的平等与合作。

伦理教育与监管

金融科技创新需要伦理素质更高的从业人员。加强对金融科技从业人员的伦理教育和监管，提高其伦理素质，成为应对伦理挑战的重要手段。

金融机构和研究人员应关注伦理合规性，确保金融服务的可持续、健康发展。这包括树立正确的价值观、遵循伦理原则、尊重用户隐私，以及不断提升自身专业素养。

社会影响评估

LLM在金融知识管理中的应用可能对社会产生深远影响。在应用LLM之前，有必要对其可能产生的社会影响进行全面评估，以确保技术的可持续、健康发展。这包括评估LLM对金融市场稳定性、财富分配等方面的影响，以及可能产生的不公平现象。在此基础上，制定相应的政策和措施，以降低潜在风险，促进金融行业的健康发展。

为应对这些伦理与合规挑战，金融机构和研究人员应关注法律法规、行业规定和伦理准则，采取有效措施确保LLM在金融领域的合规、可持续发展。同时，政府、监管机构和行业组织也应积极参与，推动金融科技创新与伦理建设的协同发展，共同应对金融知识管理中的伦理与合规挑战。

通过关注数据隐私、算法公平、责任归属、人工智能与人类协作以及伦理教育与监管等方面，LLM将在金融知识管理领域实现合规、可持续发展，为用户提供更加可靠、高效的金融服务。

LLM在金融知识管理应用中的实践

LLM在金融知识库的应用具有广泛的前景，有望为金融行业带来诸多便利和创新。随着人工智能技术的不断发展，LLM在金融知识库的应用将得到进一步拓展，助力提升金融机构的服务水平和业务发展水平。

LLM在金融知识管理应用中的实践已涉及多个领域，目前主要包括风险评估和预测、文本分析和舆情监测、客户服务和咨询、金融学术研究、智能投资顾问和投资组合优化等领域。

风险评估和预测

LLM在金融风险评估和预测中的应用越来越广泛，我们将分别从金融风险评估和金融风险预测两个方面进行详细解读。

LLM在金融风险评估中的应用

随着金融行业的发展和风险复杂性的增加，LLM在金融风险评估中的应用具有重要意义。LLM不仅可以提高金融风险评估的效率和准确性，还可以为金融机构提供智能化、定制化和实时性的风险管理解决方案。

LLM在金融风险评估中的作用

在数据处理与分析方面：LLM能够高效地处理大量金融数据，例如历史价格、交易量、财务报表等。通过深度学习、自然语言处理等技术，LLM可以挖掘数据中的潜在规律和关联关系，为金融风险评估提供有力支持。此外，LLM还可以进行实时数据监控，迅速捕捉金融市场的变化，为风险评估提供实时、准确的数据基础。

在金融风险识别与诊断方面：通过构建风险特征库和分类模型，LLM能够识别出金融市场中存在的各种风险类型。同时，LLM还可以对金融风险进行定量分析，为风险评估提供定量的依据。此外，LLM具备较强的自适应能力，能够随着金融市场的发展和变化，实时调整风险识别和诊断模型，提高风险评估的准确性。

在风险预警与监测方面：通过对金融数据进行深度挖掘和分析，LLM能够发现金融市场中的潜在风险信号。当风险临近时，LLM可以提前发出预警，为金融机构和投资者提供决策依据。同时，LLM还可以实时监测金融市场的风险变化，为风险管理提供实时、动态的数据支持。

在金融风险评估方面：通过分析金融市场的风险特征和规律，LLM可以提供有针对性的风险防范建议。例如：在信用风险评估中，LLM可以为企业客户提供信用评级和风险预警，帮助客户优化信用风险管理策略；在市场风险评估中，LLM可以分析市场趋势，为投资者提供投资建议、降低投资风险。

在跨部门和跨领域的合作方面：金融风险评估涉及多个部门和领域，例如风险管理、合规、审计等。LLM可以作为一种通用语言，协助各部门之间沟通协作，提高金融风险评估的效率。同时，LLM还可以与其他技术手段相结合，实现金融风险评估的智能化、一体化。

在金融监管方面：金融监管机构对金融风险评估有一定的标准和要求，LLM可以通过持续学习和优化，确保其评估结果符合监管要求。此外，LLM还可以辅助监管机构进行金融市场的合规检查，提高金融监管的有效性。

随着人工智能技术的不断发展，LLM为金融风险评估带来了新的机遇，在金融风险评估中的应用场景日益丰富。

LLM在金融风险评估中的应用场景

信用风险评估：LLM可用于对借款人的信用状况进行量化分析，通过整合借款人的个人信息、财务报表、历史信用记录等数据，挖掘数据中的潜在规律，以预测借款人的信用风险；同时还可以识别借款人的信用评级，为金融机构提供可靠的信用评估结果。在信贷市场中，LLM有助于金融机构更精确地评估借款人的信用风险，从而降低不良贷款率。

市场风险评估：LLM可以分析历史价格数据、交易量、技术指标等金融信息，以评估市场风险。通过实时监测市场动态，LLM可以发现市场中的风险信号，并向投资者发出预警。同时LLM还可以预测市场趋势，帮助投资者制定相应的投资策略。在市场风险评估中，LLM有助于投资者及时调整投资组合，降低市场风险暴露。

操作风险评估：LLM可以辅助金融机构识别潜在的操作风险因素，并为金融机构提供改进方案。通过对操作风险因素的分析和预警，金融机构可以及时改进业务流程，降低操作风险。此外，LLM还可以为金融机构提供操作风险防范培训和指导，提高员工的风险意识。

金融诈骗识别：LLM可以通过分析金融交易数据、用户行为等信息，识别潜在的金融诈骗行为。金融机构可以借助LLM提高金融诈骗防范能力，保护客户利益。同时，LLM还可以辅助金融机构制定反欺诈策略，提高金融系统的安全性。在金融诈骗识别场景中，LLM有助于金融机构及时发现并防范风险。

合规风险评估：LLM可以辅助金融机构检查业务流程、政策制度等是否符合监管要求，从而降低合规风险。此外，LLM还可以为金融机构提供实时合规预警，确保业务合规经营。同时，LLM可以辅助金融机构对员工进行合规培训，提高员工对法规政策的认识。

在合规风险评估场景中，LLM有助于金融机构确保业务合规性。

风险监测与预警：LLM可以对金融数据进行实时分析，发现风险信号，并向相关部门发出预警。此外，LLM还可以辅助金融机构制订风险应对预案，确保在风险发生时能够迅速采取措施，降低损失。在风险监测与预警场景中，LLM有助于金融机构防范和应对风险。

投资组合优化：LLM可以分析投资者风险偏好、资产历史表现等信息，为投资者优化投资组合，提高投资收益。同时，LLM还可以根据市场环境变化，实时调整投资组合，实现动态优化。在投资组合优化场景中，LLM有助于投资者提高投资效果。

金融监管：LLM可以辅助监管机构分析金融市场的风险状况，发现潜在问题，制订相应的监管措施。同时，LLM还可以为监管机构提供智能化的监管工具，提高监管效率。在金融监管场景中，LLM有助于维护金融市场秩序。

个性化金融推荐：LLM可以分析客户数据，为客户提供符合其需求的金融产品推荐，提高客户满意度。同时，LLM还可以为金融机构提供客户细分和精准营销方案，助力金融机构拓展市场份额。在个性化金融推荐场景中，LLM有助于金融机构提升客户服务水平。

LLM在金融风险预测中的应用

通过对海量金融文本数据进行深度学习，LLM可以提取金融市场的情感倾向和信息线索，进而预测金融市场的风险走势。相较于传统金融风险预测方法，LLM具有更高的预测准确性和实时性。

LLM在金融风险预测中的作用

提高预测的准确性：通过对大量金融文本数据进行深度学习，同时将金融风险预测与其他领域（如人工智能、大数据、区块链等）进行跨领域融合，LLM可以捕捉到金融市场中的潜在规律和趋势，从而提高金融风险预测的准确性。

提高预测的通用性：LLM具有较强的泛化能力，可以在不同市场、行业和时期进行金融风险预测，提高预测的通用性。

提高预测的效率：LLM能够自动处理和分析金融文本数据，减轻人工分析的工作量，提高金融风险预测的效率。

实时监测与预警：LLM能够实时更新金融市场信息，对市场的异常波动和潜在风险进行监测，并及时发出预警，以便金融机构及时采取应对措施。

降低金融风险：通过预测潜在风险，LLM可以帮助金融机构和投资者规避风险，降低损失。

提高金融市场的稳定性：借助LLM技术，金融机构可以更好地管理金融风险，提高金融市场的稳定性。

促进金融监管科技发展：LLM可以用于监测金融市场的违规行为，辅助金融机构遵守监管规定，降低合规风险。

LLM在金融风险预测中的应用日益广泛。

LLM在金融风险预测中的应用场景

股票市场风险预测：LLM可以分析历史股价数据、技术指标、宏观经济指标等信息，挖掘其中的潜在规律，对股票市场的风险进行预测。通过对海量数据的处理和分析，LLM可以识别出市场中的风险信号，为投资者提供决策依据。此外，LLM还可以对股票市场的波动性进行预测，帮助投资者制定相应的投资策略。在股票市场风险预测场景中，LLM有助于投资者降低投资风险。

信用风险预测：LLM可以分析借款人的个人信息、财务报表、历史信用记录等数据，对信用风险进行预测。LLM可以挖掘数据中的潜在规律，以评估借款人的信用状况，为金融机构提供可靠的信用风险预测结果。此外，LLM还可以识别借款人的信用评级，为金融机构提供信用风险管理的参考。在信用风险预测场景中，LLM有助于金融机构降低不良贷款率。

金融衍生品风险预测：LLM可以分析金融衍生品的历史价格数据、波动率、相关性等信息，对金融衍生品的风险进行预测。此外，LLM还可以实时监测金融市场的动态，为投资者提供风险预警。在金融衍生品风险预测场景中，LLM有助于投资者更好地管理金融衍生品交易风险。

市场风险预测：LLM可以分析金融市场的宏观经济指标、政策因素、市场情绪等信息，对市场风险进行预测。通过实时监测市场动态，LLM可以为投资者提供风险预警，帮助他们及时调整投资策略。此外，LLM还可以为金融机构提供市场风险管理建议，以降低市场暴露风险。在市场风险预测场景中，LLM有助于投资者和金融机构更好地应对市场波动。

操作风险预测：LLM可以分析金融机构的业务流程、内部控制、员工素质等信息，对操作风险进行预测。通过对操作风险因素的识别和预警，LLM可以帮助金融机构及时改进业务流程、降低操作风险。此外，LLM还可以为金融机构提供操作风险防范培训和指导，提高员工的风险意识。在操作风险预测场景中，LLM有助于金融机构确保业务稳健运营。

金融诈骗风险预测：LLM可以通过分析金融交易数据、用户行为等信息，对金融诈骗风险进行预测。通过实时监测金融市场的异常交易行为，LLM可以为金融机构提供风险预警。此外，LLM还可以辅助金融机构制定反欺诈策略，提高金融系统的安全性。在金融诈骗风险预测场景中，LLM有助于金融机构防范和打击金融诈骗行为。

合规风险预测：LLM可以分析金融机构的合规政策、制度、培训等信息，对合规风险进行预测。此外，LLM还可以为金融监管机构提供智能化监管工具，提高监管效率。在合规风险预测场景中，LLM有助于金融机构降低合规风险。

企业财务风险预测：LLM可以对企业财务报表进行深入分析，为企业管理层、投资者等相关方提供准确的财务风险评估。此外，LLM还可以为企业提供财务风险防范建议，帮助企业加强财务管理，降低财务风险。在企业财务风险预测场景中，LLM有助于企业识别和管理财务风险。

随着人工智能技术的不断进步，LLM在金融风险评估和预测领域的应用将更加广泛，助力金融行业实现高质量发展。

文本分析和舆情监测

LLM在金融文本分析和舆情监测中的应用具有非常重要的实践意义，我们将从金融文本分析和金融舆情监测两个方面进行详细解读。

LLM在金融文本分析中的应用

金融市场对资讯的敏感度极高，及时获取和分析金融资讯对于投资决策具有重要意义，LLM可以对海量金融资讯进行深度分析，挖掘有价值的投资线索。

LLM在金融资讯挖掘中的具体应用

分析师报告分析：LLM可以对金融分析师的报告进行深入分析，挖掘分析师对某只股票或金融产品的看法和预测。通过对分析师报告的量化分析，LLM可以生成一致性更高的投资建议，为投资者提供决策支持。此外，LLM还可以对比不同分析师的报告，找出潜在的矛盾和偏差，从而提高投资决策的准确性。

企业公告分析：LLM可以对企业发布的公告进行实时分析，例如财报、重大事项等。通过挖掘企业公告中的关键信息，LLM可以辅助投资者更好地了解企业的经营状况，为投资决策提供支持。同时，LLM还可以对企业公告进行情感分析，判断公告内容对股价的影响，为投资者提供实时的市场动态。

金融法规解读：LLM可以用于解读金融法规，为金融机构和投资者提供法规解读服务。通过对金融法规的深入分析，LLM可以提炼关键信息，帮助企业和个人合规经营。此外，LLM还可以实时关注金融法规的变动，为金融机构和投资者提供最新的法规资讯。

投资策略研究：LLM可以用于投资策略的研究，通过对历史数据和市场信息的挖掘，为投资者提供更具价值的投资建议。LLM可以基于海量数据挖掘出潜在的投资机会，辅助投资者制定投资策略。此外，LLM还可以为投资者提供风险评估和资产配置建议，帮助投资者实现资产优化。

金融咨询服务：LLM可以提供个性化的金融咨询服务，根据投资者的需求和风险承受能力，为其量身定制投资方案。同时，LLM可以为金融机构提供智能化客户服务，提高客户满意度。此外，LLM还可以应用于金融顾问的培训和考核，提高金融顾问的专业素质和服务水平。

市场趋势预测：LLM可以对金融市场的历史数据和市场趋势进行深度分析，预测未来市场走势。通过挖掘市场数据中的关联性和规律，LLM可以为企业和个人投资者提供有力的决策依据。同时，LLM还可以实时监测市场动态，为企业和个人投资者提供短期市场预测。

金融风险管理：LLM可以应用于金融风险管理领域，通过对金融文本的实时分析，帮助金融机构及时发现风险隐患、制订相应的风险防范措施。此外，LLM还可以辅助金融机构建立健全的风险管理体系，提高风险管理水平。

金融知识图谱构建：LLM可以用于金融知识图谱的构建，将金融机构、金融产品、金融事件等实体及其关系进行建模，为金融行业提供智能化的决策支持。同时，LLM还可以帮助金融机构挖掘金融知识图谱中的潜在商机，推动金融业务的创新发展。

金融教育培训：LLM可以应用于金融教育培训领域，为学员提供智能化的教学辅助工具。通过分析学员的学习进度、金融知识掌握程度等数据，LLM可以帮助培训者制订个性化的教学计划，提高教学效果。此外，LLM还可以为金融从业者提供在线培训和证书考试服务，提升金融从业者的专业素养。

金融科技创新：LLM可以推动金融科技创新，为金融行业提供智能化解决方案。通过对金融文本的深入分析，LLM可以发现新的金融业务场景，为金融行业的发展提供创新思路。同时，LLM还可以为金融科技企业提供技术支持，助力金融科技的创新和发展。

LLM可以对财务报表数据进行深度挖掘，为企业提供更精确的财务状况评估。

LLM在财务报表分析中的具体应用

财务报表自动化生成：LLM可以应用于财务报表的自动化生成，根据企业提供的财务数据，生成符合会计准则的财务报表，提高财务报表的准确性及一致性，降低人工操作的误差。

财务比率分析：LLM可以对企业的财务比率进行分析，例如资产负债率、毛利率、净利率等。通过对财务比率的计算和分析，LLM还可以评估企业的财务状况、经营效益和偿债能力，为投资者和企业管理者提供决策依据。

盈利预测：LLM可以对企业未来的盈利能力进行预测，基于历史财务数据和市场信息，为企业管理者提供参考。同时，LLM还可以对企业间的盈利能力进行对比分析，挖掘潜在的投资机会。

现金流分析：LLM可以对企业的现金流进行分析，评估企业的现金流量状况和现金流风险。通过对现金流量的预测和分析，LLM还可以为企业管理者提供现金管理建议，确保企业运营的稳定。

财务报表异常检测：LLM可以应用于财务报表的异常检测，通过对财务报表数据的分析，发现异常波动和潜在问题，从而提前识别财务风险，为企业管理者提供风险防范措施。

企业价值评估：LLM可以对企业价值进行评估，基于财务报表数据和其他市场信息，为企业并购、重组等业务提供估值参考。此外，LLM还可以对企业的市值进行预测，为投资者提供投资决策依据。

行业财务分析：LLM可以对整个行业的财务状况进行深入分析，比较行业内不同企业的财务表现，挖掘行业的发展趋势和竞争格局，帮助企业制定市场战略、把握行业发展机会。

财务报告审计：LLM可以应用于财务报告的审计，通过对财务报告的文本分析，发现潜在的财务舞弊和错误。此外，LLM还可以辅助审计师进行风险评估，提高审计效率。

财务知识普及：LLM可以应用于财务知识的普及和教育，为投资者和企业管理者提供财务知识培训和咨询服务，提升投资者和企业管理者的财务素养，降低财务风险。

财务报告生成：LLM可以为企业提供实时、精准的财务分析报告，为企业决策提供支持。

LLM在金融舆情监测中的应用

情感分析是舆情监测的重要手段，LLM可以对金融相关的文本进行情感分析、判断文本的情感倾向，为金融机构及时了解市场情绪提供支持。

LLM在情感分析中的具体应用

投资者情绪分析：LLM可以对投资者情绪进行情感极性分类，判断市场情绪是乐观还是悲观，为投资者提供决策参考。

企业声誉监测：通过对企业相关新闻、公告和社交媒体言论的分析，LLM可以评估企业的公众形象，帮助企业及时发现声誉风险、采取相应措施进行公关危机处理。

金融产品评价分析：通过对金融产品评价的情感分析，LLM可以为企业和个人投资者提供投资参考，同时帮助金融机构优化产品设计。

金融市场情绪分析：通过对市场相关文本信息进行分析，LLM可以预测市场的短期走势，为投资者提供实时的市场动态。

金融事件情感分析：通过对金融事件的情感分析，LLM可以为企业和个人投资者提供事件影响评估，帮助他们作出合理的投资决策。

客户满意度调查：通过对客户反馈文本进行分析、判断客户对金融服务的满意程度，LLM可以帮助金融机构改进服务质量，提高客户忠诚度。

构建话题模型是分析文本内容的重要方法。LLM可以构建金融话题模型，挖掘金融领域的热点话题和趋势。

LLM在话题模型中的具体应用

金融热点话题挖掘：通过分析金融新闻、社交媒体等渠道的文本信息，找出当前市场关注的焦点，LLM可以帮助金融机构和投资者及时了解市场动态、捕捉投资机会。

金融事件跟踪：LLM可以对金融事件进行实时跟踪，例如政策变动、重大事项等。通过对相关文本信息的话题分析，LLM可以为企业和个人投资者提供事件进展和影响评估，帮助他们作出合理的投资决策。

行业趋势分析：LLM可以对金融行业的发展趋势进行预测和分析，通过挖掘行业相关文本话题，找出行业发展的方向和潜在机遇，从而帮助企业制定市场战略、把握行业发展机会。

金融市场风险识别：通过对金融文本进行话题分析，发现潜在的风险因素，LLM可以帮助金融机构及时采取措施防范风险，有助于金融市场的稳定。

客户需求分析：通过对客户反馈文本进行分析，挖掘客户关注的话题和需求，LLM可以帮助金融机构改进产品和服务，提高客户满意度。

金融政策解读：通过对金融政策文本进行话题模型构建、提炼政策关键内容，LLM可以帮助金融机构和投资者更好地理解政策导向、制定相应的投资策略。

舆论监测与预警是金融机构防范声誉风险的重要手段。

LLM在舆论监测与预警中的具体应用

实时监测金融舆情：LLM可以实时监测金融领域的舆情动态，通过对金融新闻、社交媒体等渠道的文本信息进行分析，及时发现金融市场的热点事件和舆论趋势，帮助金融机构和投资者掌握市场舆论、制定相应的投资策略。

金融舆情预警：LLM可以对金融舆情进行预警，通过分析金融文本信息中的负面言论、情绪波动等指标，提前发现潜在的金融风险和危机，帮助金融机构及时采取措施防范风险，保障金融市场的稳定。

金融事件应急响应：LLM可以应用于金融事件的应急响应，例如突发性事件、负面舆情等。通过对金融文本进行实时监测和分析，LLM还可以协助金融机构迅速了解事件影响范围、制订应急措施，降低事件对企业形象和业务的负面影响。

金融舆情风险评估：LLM可以对金融舆情风险进行评估，通过对金融文本信息进行分析，判断金融市场的风险水平和舆论态势，帮助金融机构和监管部门制定相应的风险防范和监管策略。

竞争对手分析：LLM可以应用于金融行业的竞争对手分析，通过对竞争对手的舆情监测与预警，帮助金融机构了解市场竞争态势、制定有针对性的市场策略。

金融行业舆情监测：LLM可以用于金融行业的舆情监测，通过对金融新闻、社交媒体等渠道的文本信息进行分析，发现并跟踪金融行业的热点话题和舆论动态，帮助金融机构及时了解市场舆论、做好舆论引导和危机公关。

随着人工智能技术的不断发展，LLM在金融领域的应用将日益广泛，为金融行业的健康发展提供有力支持。然而，LLM在金融文本分析和舆情监测中的应用也面临一些挑战，如数据质量、模型泛化能力等。为了应对这些挑战，金融机构和研究人员需要不断探索新的技术和方法，提高LLM在金融领域的应用效果。

客户服务和咨询

在客户服务和咨询领域，LLM可以协助金融机构提升服务质量、提高客户满意度和深化客户关系，主要应用实践包括智能服务、金融知识库、金融咨询、客户关系管理等。

智能客户服务

通过对客户对话文本进行分析，LLM能够理解客户需求、情感和意图，从而为智能客户服务提供更为精准的响应。

LLM在智能客户服务中的具体应用

客户需求识别：LLM能够实时分析客户提出的疑问或需求，快速为其提供恰当的解决方案。通过对客户话语中的关键词、实体和语法进行分析，LLM还可以迅速识别客户需求，进一步提高客户服务效率。同时，通过对需求进行分类，LLM的智能客户服务可以更好地分配任务给相应的客户服务人员，确保问题得到专业、高效的解答。

情感分析与智能回复：LLM具备情感分析能力，可以判断客户话语中的情感状态，如满意、愤怒或疑惑等。基于此，智能客户服务可以采取相应的沟通策略，例如针对愤怒的客户采取安抚措施，针对疑惑的客户提供详细解答。结合客户需求和情感状态，LLM可以生成合适的回复内容，使智能客户服务的回应更加自然、个性化。

上下文理解与连贯性：LLM具备较强的上下文理解能力，能够根据客户之前的对话内容，为后续问题提供连贯、有针对性的解答。这有助于减少客户服务场景中的歧义和误解，提高客户满意度。此外，上下文理解还有助于实现多轮对话的连贯性，使智能客户服务与客户的交流更加自然、顺畅。

客户画像与个性化服务：通过对客户对话文本进行深度分析，LLM可以构建客户画像，包括客户兴趣、偏好和需求等。结合客户画像和产品信息，LLM的智能客户服务可以提供更为精准的个性化服务，提高客户满意度。同时，准确的客户画像还有助于智能客户服务在后续对话中更好地满足客户需求，提升客户忠诚度。

业务流程优化与痛点挖掘：通过对客户服务对话数据进行挖掘和分析，LLM可以发现客户服务业务中的痛点和高频问题，为客户服务团队提供优化建议。此外，LLM还能识别潜在的客户需求和市场趋势，为业务决策提供有益信息。

智能推荐与销售提升：结合客户画像和产品信息，LLM能够为客户推荐合适的产品或服务。这有助于提升企业的销售业绩。根据客户反馈，企业可以不断优化推荐策略，提高客户满意度。

金融知识库

智能金融知识库将为企业带来更高的客户满意度、更好的业务流程优化和更高效的运营管理，从而提升企业竞争力。金融机构应充分利用LLM，不断提升金融知识库的智能化水平，以满足客户需求，提高市场竞争力。

LLM在金融知识库中的具体应用

金融知识库的构建与维护：LLM能够协助金融机构搭建全面的金融知识库，包括金融产品、业务流程、相关政策法规等。

智能搜索与推荐：结合客户需求和金融知识库，LLM能够实现智能搜索和推荐功能。客户在咨询过程中，LLM的智能客户服务可以根据客户提出的问题，快速在知识库中检索相关内容，为客户提供精准的解答。此外，LLM还可以根据客户画像和需求，为客户推荐合适的金融产品和服务。

智能培训与评估：LLM可以帮助金融机构对员工进行智能培训和评估。通过分析金融知识库中的数据，LLM的智能客户服务可以挖掘员工在业务知识、沟通能力和客户满意度等方面的不足，为员工提供有针对性的培训内容。同时，智能客户服务还可以根据员工表现和客户反馈，对其进行评估和激励。

业务流程优化：金融知识库中的丰富数据可以为金融机构提供业务流程优化的依据。LLM可以分析客户在金融服务过程中的痛点和高频问题，为金融机构提供优化建议。

风险管理：金融知识库中的大量案例和数据有助于金融机构识别潜在风险。LLM可以通过分析客户需求、市场动态和政策法规等方面的信息，及时发现风险隐患。金融机构可以根据风险等级，采取相应的措施降低风险，保障业务安全稳定运行。

客户教育：金融知识库可以实现多渠道的整合，为客户提供丰富的金融教育资源，如投资理财教程、金融知识普及等。通过LLM的智能客户服务的推送和推荐，客户可以更好地了解金融市场、提升金融素养，从而降低投资风险。

数据分析与业务决策支持：金融知识库中的大量数据可以为金融机构提供数据分析和支持。LLM可以对这些数据进行深入挖掘，发现潜在的趋势和洞察，为业务决策提供有力支持。通过对客户需求的深入分析，企业可以更好地制定产品策略、优化服务流程，从而提高客户满意度和企业盈利能力。

金融知识库的持续更新与优化：随着金融市场的不断发展，金融知识库需要持续更新与优化。LLM可以自动获取金融行业的最新动态，如政策法规、市场资讯等，并及时将这些信息纳入知识库，以确保金融知识的时效性和准确性。

金融咨询

金融咨询涉及广泛，包括投资、理财、保险、信贷等多个领域。

LLM在金融咨询中的具体应用

在实时咨询方面：LLM能够对客户提出的问题进行实时分析，快速为其提供恰当的解决方案。同时，通过对需求进行分类，智能客户服务可以更好地分配任务给相应的客户服务人员，确保问题得到专业、高效的解答。

在投资建议方面：LLM可以根据客户的投资目标、风险承受能力和资产状况，为客户提供个性化的投资建议。这种方式有助于提高客户信任度，促进投资业务发展。

在理财产品推荐方面：金融机构可以根据客户的购买历史、浏览记录等信息，使用LLM为客户提供合适的理财产品推荐。这有助于提高销售转化率，提升金融机构的盈利能力。

在风险评估方面：LLM可以对金融市场的风险进行评估，为客户提供决策依据。通过对市场数据的分析，金融机构可以更好地把握市场动态，降低投资风险。

客户关系管理

客户关系管理（CRM）是金融机构核心竞争力的重要组成部分，涉及客户满意度、忠诚度、个性化服务等方面。LLM基于金融知识库，在客户关系管理中可以为金融机构提供多方面的智能支持。

LLM在客户关系管理中的具体应用

提高客户满意度：LLM能够对客户提出的问题给出快速、准确的回答，同时结合客户画像和需求，为客户提供有针对性的建议和方案。此外，LLM可以作为智能客户服务助手，协助客户解决金融问题，提供实时、专业的服务。

精准营销与个性化推荐：金融机构利用LLM对客户数据进行深入挖掘和分析，构建客户画像，实现精准营销和个性化推荐。

情感营销与关怀：LLM能够识别客户情感状态，从而采取相应的沟通策略，提升客户体验，提高客户忠诚度。同时，LLM能够实时监测客户情感变化，对客户进行关怀和慰问。

客户画像与行为分析：LLM基于金融知识库，对客户行为数据进行分析，挖掘客户需求、偏好和行为特征，帮助金融机构更好地了解客户。

虽然LLM在客户关系管理中有许多优势，例如实时响应、个性化服务、数据驱动、自动化流程等；然而，LLM在客户关系管理中也存在一定的挑战，例如技术更新快速、数据安全与隐私保护、员工适应等。因此，LLM在客户关系管理中的应用仍然任重道远。

金融学术研究

基于金融知识库，LLM在金融学术研究中的应用主要涉及以下几个方面：金融文本分析、金融市场预测、风险管理和金融智能客户服务。

LLM在金融学术研究中的具体应用

金融文本分析：通过对金融文本进行情感分析、主题模型等任务，LLM可以挖掘出文本中的关键信息和情感倾向，为投资决策提供参考。例如，在投资策略方面，基于金融知识库的LLM可以用于分析上市公司的财务报告、分析师报告等，从而为投资者提供具有价值的投资建议。

金融市场预测：通过对历史股价、交易量等市场数据的分析，LLM可以捕捉到金融市场中的潜在规律和趋势，从而为投资者提供有效的预测依据。此外，基于金融知识库的LLM在处理金融市场的高维数据时具有优势，能够降低数据的维度、提取关键信息，为市场预测提供有力支持。同时，LLM还可以应用于金融市场的风险预警，通过对市场数据的实时监测，发现异常波动，为投资者提供风险防范的参考。

风险管理：通过对大量金融文本进行分析，LLM可以识别出潜在的金融风险。同时，LLM可以为企业提供风险评估和管理建议。此外，在金融监管方面，基于金融知识库的LLM还可以用于检测金融市场的违法违规行为，提高监管效率。

金融智能客户服务：通过对金融领域的专业知识和业务流程进行建模，LLM可以实现对客户问题的自动解答和业务办理，提高客户服务水平。同时，基于金融知识库的LLM还可以实现对客户的个性化服务。

智能投资顾问和投资组合优化

LLM在智能投顾和投资组合优化方面的应用已渐趋成熟，我们将从个性化投资建议、跨资产类别投资、实时动态调整、投资组合优化、税收优化等几个方面进行详细解读。

个性化投资建议

LLM具备深度学习和自然语言处理能力，可以充分了解客户的需求、风险承受能力和投资目标。通过分析客户的独特特点和金融市场动态，LLM能够为客户提供量身定制的投资建议。个性化投资建议能够帮助客户避免盲目跟风和情绪化投资，提高投资决策的理性程度。

LLM在个性化投资建议中的具体应用

资产配置建议：根据客户的需求、风险承受能力和投资目标，帮助客户制订合适的资产配置方案，包括股票、债券、基金、商品等多种资产类别。

行业和个股推荐：分析行业趋势和个股基本面，为客户提供具有潜力的行业和个股投资建议。

定期投资计划：根据客户的收入、支出和储蓄情况，帮助客户制订合适的定期投资计划，以助其实现长期财富积累。

理财产品推荐：根据客户的需求和风险承受能力，推荐合适的理财产品，如货币基金、债券基金、混合型基金等。

投资策略定制：结合客户的投资期限、收益目标和风险承受能力，为客户提供符合其期望的投资策略。

跨资产类别投资

LLM具备跨资产类别投资分析能力，能够为客户提供涵盖股票、债券、基金、商品等多种资产类别的投资组合建议。这有助于客户实现资产配置的优化，降低投资风险。LLM可以根据客户的需求和市场条件，推荐不同资产类别之间的投资比例，以助客户实现多元化投资、提高投资组合的风险调整收益。

LLM在跨资产类别投资中的具体应用

资产类别分析：对股票、债券、基金、商品等资产类别的市场表现、风险收益特征进行深入分析，为客户提供全面的投资参考。

资产配置优化：根据客户的需求和风险承受能力，运用现代投资组合理论为客户提供最佳的投资组合配置方案。

资产类别间的相关性分析：研究不同资产类别之间的相关性，为客户提供资产配置策略，以降低其投资组合的整体风险。

投资时机选择：根据市场趋势和宏观经济指标，为客户提供跨资产类别的投资时机建议，以提高其投资收益。

实时动态调整

LLM能够实时关注市场动态和金融数据变化，根据市场环境为客户调整投资组合。这有助于客户在市场波动中保持投资收益的稳定，降低损失风险。LLM通过监测市场趋势、宏观经济指标、行业动态等信息，可以为客户提供及时的投资组合调整建议，确保客户投资策略的适应性。

LLM在实时动态调整中的具体应用

投资组合再平衡：根据市场变化和客户需求，对投资组合进行定期或不定期再平衡，以保持投资组合的风险收益比。

资产类别调整：针对市场环境变化，对投资组合中的资产类别进行调整，以优化资产配置。

权重调整：根据市场表现和客户需求，调整投资组合中各资产类别的权重，以实现投资目标。

投资策略调整：结合市场动态和宏观经济形势，调整投资策略，以提高投资组合的适应性。

投资组合优化

LLM基于大量数据和算法，可以为客户优化投资组合，实现风险与收益的平衡。通过投资组合优化，客户可以在降低风险的同时，提高投资收益。

LLM在投资组合优化中的具体应用

投资组合构造：利用现代投资组合理论，为客户提供最优投资组合构造方案。

资产配置优化：根据客户的需求和风险承受能力，为客户提供最佳的资产配置方案，以实现风险收益的平衡。

投资策略选择：为客户提供多种投资策略，如价值投资、成长投资、指数投资等，以满足客户的不同投资需求。

风险管理策略：为客户提供风险管理策略，如止损、止盈、期权等，以降低投资组合的风险。

税收优化

LLM能够考虑税收因素，为客户提供税收优化的投资组合建议。这有助于客户降低税收负担，提高投资收益。

LLM在税收优化中的具体应用

税收政策分析：关注不同资产类别的税收政策，为客户提供合适的税收优化方案。

税收优惠措施：了解国家和地方政府推出的税收优惠政策，为客户提供合规的投资建议。

投资工具选择：为客户提供具有税收优势的投资工具等。

第七章

LLM在投资决策辅助中的应用

当某件事足够重要时，即使机会对你不利，你也要去做。

——OpenAI联合创始人，TESLA、SpaceX首席执行官：埃隆·里夫·马斯克

LLM在资产价值预测中的应用

资产价值预测主要包括房价、股价、债券等资产的价格预测。影响这些资产价格变动的因素有很多，包括宏观经济、地缘政治、资本流动、金融政策、资产本身的变动等。通过一般的机器学习或者深度学习对这些目标进行预测往往不奏效，LLM有庞大的参数量，可以应对海量的变量，在资产价值预测中有很好的应用前景。

股票定价

股票定价是资产定价中的重要一环，LLM可以通过分析历史股价、公司财务数据、市场情绪等大量数据，预测未来的股票价格走势。例如，投资者可以使用LLM对股票的历史价格进行分析，以发现其中的模式和趋势，从而对未来的价格进行预测。此外，LLM还可以结合新闻、社交媒体等数据，分析市场情绪对股票价格的影响，为投资者提供更准确的股票价格预测。

股票定价是一个复杂的系统模型，在了解LLM如何在股票定价中应用前，我们简单介绍一下传统的股票定价的核心逻辑，所有技术手段都是围绕着这些核心逻辑应用并发挥效率上的优势的。

LLM在股票定价中的应用

尽管深度学习、机器学习等技术在快速发展，但是股价的定价核心逻辑没有发生大的变化。LLM可以利用上述逻辑更有效地进行模型的选择、数据的构建。

基于深度学习的股票定价模型：自动编码器和卷积神经网络

一种基于深度学习的股票定价模型是自动编码器。该模型通过将输入数据编码成低维向量，再将其解码回原始数据空间，从而学习数据中的重要特征和模式。在股票定价时，它可以使用自动编码器来学习股票价格的历史数据中的重要特征，并且可以根据这些特征来预测未来的股票价格。

另一种基于深度学习的股票定价模型是卷积神经网络。该模型可以通过对输入数据进行卷积运算，自动提取局部特征和模式。在股票定价时，它可以使用卷积神经网络来学习股票价格的历史数据中的局部特征，并且根据这些特征来预测未来的股票价格。

基于机器学习的股票定价模型：支持向量机和随机森林

在股票定价领域，基于机器学习的模型可以通过对历史数据进行分析和学习，来预测未来的股票价格。

一种基于机器学习的股票定价模型是支持向量机。该模型可以通过将输入数据映射到高维空间中，从而学习数据中的非线性模式。在股票定价时，它可以使用支持向量机来学习股票价格的历史数据中的非线性模式，并且根据这些模式来预测未来的股票价格。

另一种基于机器学习的股票定价模型是随机森林。该模型可以通过构建多个决策树，并且将它们的预测结果进行平均或投票来得到最终预测结果。在股票定价时，它可以使用随机森林来学习股票价格的历史数据中的多个因素，并且根据这些因素来预测未来的股票价格。

基于强化学习的股票定价模型：Q-learning和Actor-Critic

基于强化学习的模型可以通过试错来学习股票价格的变化规律和模式，并且可以实时调整策略来优化投资效果。

一种基于强化学习的股票定价模型是Q-learning。该模型可以通过试错来学习最优策略，并且可以实时调整策略来最大化累计收益。在股票定价时，它可以使用Q-learning来学习股票价格的变化规律和模式，并且根据学习到的策略来进行投资决策。

另一种基于强化学习的股票定价模型是Actor-Critic。该模型可以将策略表示为一个神经网络（Actor），并且将价值函数表示为另一个神经网络（Critic）。Actor网络可以输出当前状态下的最优动作，而Critic网络可以对Actor网络的输出进行评价和调整。在股票定价中，它可以使用Actor-Critic来学习最优投资策略和价值函数，并且根据学习到的策略来进行投资决策。

基于自然语言处理的股票定价模型：情感分析和主题模型

自然语言处理是一种将自然语言转化为计算机可处理形式的技术。在股票定价领域，基于自然语言处理的模型可以将新闻、公告等文本信息转化为数值形式，从而用于预测股票价格的变化。

一种基于自然语言处理的股票定价模型是情感分析。该模型可以通过分析文本中的情感倾向和表达方式来评估市场情绪和投资者情绪。在股票定价时，它可以使用情感分析来评估市场情绪和投资者情绪对股票价格的影响，并且根据这些影响来进行投资决策。

另一种基于自然语言处理的股票定价模型是主题模型。该模型可以通过分析文本中的主题和关键词来提取重要信息。在股票定价时，它可以使用主题模型来提取与股票相关的主题和关键词，并且根据这些主题和关键词来进行投资决策。

基于LLM的股票价格预测：利用大模型的文本理解能力、推理能力进行股票价格预测

股票预测一般需要对股票的时间—价格数据进行某种变换，同时将公司的信息、股市的新闻以Prompt的形式输送给LLM。以下是具体的步骤（如图7-1所示）。

图7-1 基于LLM的股票价格预测

基于LLM的股票价格预测的步骤

第一步，利用爬虫去获取所要预测的公司的基本信息，包括行业、历史营收、当前股价、PE倍数、在行业的地位等信息，同时获取该公司以及行业过去100天的各类新闻报道。

第二步，将该公司的股价以周为单位进行处理。例如，对于每周预测，我们将本周与上周之间的价格变化分为12个区间：“D_5+”，“D_5”，“D_4”，“D_3”，“D_2”，“D_1”，“U_1”，“U_2”，“U_3”，“U_4”，“U_5”，“U_5+”，其中“D_5+”表示价格下降超过5%，“Di”（i=5，4，3，2，1）表示价格下降在（i-1）%到i%之间，“U_5+”表示价格上涨超过5%，“Ui”（i=1，2，3，4，5）表示价格上涨在（i-1）%到i%之间。不同粒度的推断可能会有不同数量的区间。例如，对于月度推断，我们允许i最大到10，并有相应的“D_1_0+”和“U_1_0+”类别。

第三步，利用LLM的zero-shot和few-shot能力，给出一部分股价的变化的示例，让LLM能学到股价预测的核心能力，利用少量数据和大模型预测的精准度，进行Prompt调整，激发模型的推理能力。

第四步，将LLM应用在模拟的股价预测中，根据最终应用效果决定是否需要对LLM进行相关的SFT调整，可以通过海量的金融数据对LLM进行训练，并进一步迭代模型的股市理解能力。

LLM在股票定价上的应用多种多样，包括深度学习、机器学习、强化学习，以及最新的大模型技术。LLM可以自动从大量历史数据中学习股票价格变化的规律和特征，并且可以实时更新模型预测结果，从而提供更加准确的股票定价。同时，LLM还可以将文本信息转化为数值形式，从而用于预测股票价格的变化。通过对这些大模型的应用和分析，投资者可以更好地了解市场动态，从而做出更加明智的投资决策。

债券定价

债券定价是资产定价中的一个重要环节。什么是债券？简单说，债券就是借条。买了国家、公司、机构的债券，就是把钱借给国家、公司或机构。自己借出去钱之后，手里就持有了债券（借条），债券（借条）用来收回欠款。一般债券（借条）都会说明什么时间还钱、怎么还、还多少、利息怎么算。

传统的债权定价的核心逻辑

首先，我们说拿着一张债券能在何时收到多少钱。

举个例子。2023年1月1日发行的债券，面值100元，票面利率10%，2024年12月31日到期，每年年末付利息10元，则2023年12月31日可收到10元，2024年12月31日可收到110元（本金加利息）。这个10元和110元就是持有这张债券在两年内所能收到的总现金流。

接下来，我们再说债券的价格。

同样是上面的例子。在2023年1月1日，这张债券的价格就是此时你愿意为“2023年12月31日的10元”和“2024年12月31日的110元”付出的钱。在2024年6月30日，这张债券的价格就是此时你愿意为“2024年12月31日的110元”付出的钱。如果你的期望报酬率10%，你就愿意按照面值100元买入债券。如果你的期望报酬率是15%，那你大概就不会愿意按照100元买入，只愿意按照更低的价格买入。总之，债券赋予了你未来能拿到多少钱的资格，这个钱是确定的，关键看你现在愿意花多少钱来买拿这个钱的资格。

这种资格在市场上流通的时候会有一个统一的定价，即债券价格。债券价格一旦波动，市场对这个资格的定价就会波动。

LLM在债权定价中的应用

LLM可以通过分析历史利率、债券信用评级、宏观经济数据等大量数据，预测未来的债券价格走势。例如，投资者可以使用LLM对历史利率进行分析，以发现其中的模式和趋势，从而对未来的利率进行预测。此外，LLM还可以结合债券发行人的财务状况、行业趋势等数据，为投资者提供更准确的债券价格预测。

ChatGPT类模型在债权定价中的应用

数据收集和处理：收集包含债券价格、收益率、信用评级等信息的债券市场数据。对这些数据进行清洗、去噪和标准化处理，以消除异常值和量纲的影响。

数据工程：为了使ChatGPT能够更好地学习债券市场的特征，我们需要进行一些特定的数据转换，可以计算债券的收益率曲线、久期、凸度等指标，还可以将债券的信用评级、行业、发行人等因素转化为特征，作为构建Prompt的输入，以便模型能够更好地理解债券的性质。

构建Prompt：在利用ChatGPT进行债券价格预测时，我们需要构建合适的Prompt，以便引导模型进行预测。Prompt应该包含与债券价格相关的历史数据和宏观经济指标，如GDP增长率、利率、货币供应量等。此外，我们还可以提供一些关于债券市场趋势和投资者情绪的信息，以帮助模型更好地理解市场环境。

模型训练：指使用处理好的数据和构建好的Prompt结合债券的历史价格进行模型训练。在训练过程中，我们需要选择合适的超参数和优化器，以获得最佳的预测效果。同时，我们可以使用交叉验证等技术来评估模型的性能，并调整超参数以优化模型的预测精度和泛化能力。

债券价格预测：指使用训练好的模型对未来的债券价格进行预测。根据预测结果，投资者可以做出相应的投资决策，例如购买或卖出债券。为了获得更准确的预测结果，我们可以结合市场分析师的观点和建议，对模型预测结果进行修正和调整。调整的方式包括对数据进行更高效的清洗，对Prompt以及训练方式进行改进迭代。

风险评估：除了价格预测外，指使用模型对债券的风险进行评估。通过分析债券的历史价格数据和宏观经济指标，模型可以预测未来可能出现的价格波动和信用风险。结合风险评估结果，投资者可以制定更加稳健的投资策略，以降低投资风险。

持续监控和更新：由于债券市场是动态变化的，因此我们需要持续监控市场数据并更新模型。我们可以定期重新训练模型并调整参数，以确保其适应市场变化。同时，我们可以结合新的市场信息和观点，对Prompt进行更新和优化，以加强模型的预测效果。

期货定价

期货定价的关键是遵循“无套利原则”，期货合约的价格反映了资产的现值。在介绍LLM在期货定价中的应用之前，我们先了解一下期货的定价理论。

期货的定价理论

期货的定价理论主要有持有成本理论、预期理论、有效市场假说和行为金融学等。投资者在分析期货基本面对价格的影响之前，应该先在理论上了解商品价格的构成。任何正确的基本面信息，都可以从期货的定价理论得到支持。

持有成本理论是一种利用期货与现货的套利关系为基础所发展出来的定价模型。

该理论认为期货价格决定于期货合约标的物商品的现货价格和持有该现货商品至期货合约交割日之间的持有成本。持有成本定价模式解释了现货与期货市场价格间的关系，但是该理论有三个假设前提——无任何交易成本、无任何交易策略限制、市场为强势效率市场，所以在实际计算中难免会有误差。

在市场实际运作中，有许多因素影响持有成本理论的准确性，投资者需要将这些因素考虑到定价模型中。

影响持有成本理论的因素

交易成本的存在，会使得一些原本有的套利机会变成没有。例如，对某一股指期货套利，预期有500元的收益，但如果交易手续费超过500元的话，则此交易完全是多余的行为。

商品储存的限制会妨碍到无风险套利。例如，大多数的粮食都无法在梅雨季节长时间保存。

投资者的借入和贷出的成本是无法一致的。例如，在现货市场做空时，供货商会提供一定数量的商品，但是投资者在归还商品时，除了要归还商品外还很有可能需多支付一些费用。

现货市场对做空的行为会有许多限制。最基本的就是投资者想要做空时，没有现货资源。

预期理论强调未来的不确定性，对于人们的经济行为有决定性的影响作用。

预期理论实际上是一种对价格的预判，如根据往年玉米的价格，推断下个月玉米的情况会怎样发展，进而形成预期。

预期理论一个显著的假说是，假定单个经济个体在做出预期的时候，使用了一切有关的可以获得的信息，并且对这些信息进行了理智的整理。例如，市场中理性的投资者就会从基本面、技术面、市场心态等这些基本的角度来尽可能地了解市场目前的情况和未来的情况，进而形成预期，最后得出决策结论，最终做出行动。

有效市场假说认为，假设参与市场的投资者足够理性，能够迅速对所有市场信息做出正确判断，由于理性投资者以理性的方式与非理性投资者博弈，所以前者将主导市场。有效市场假说只是一种理论假说，它是要基于有效市场这个前提的。

行为金融学理论认为，金融市场的价格并不只是由标的物的内在价值决定，很大程度上还会受到投资者主体行为的影响。它和有效市场假说是相对应的一种说法。人类由于其社会性而存在一个非常普遍的现象：经常在一起交流的人会相互影响。因此他们往往具有类似或者近似的思想，这被称为羊群行为。

在实际的期货市场，行为金融学表现在投资者对市场信息反应过度与反应不足两种情况。投资者在投资决策过程中，涉及与统计有关的投资行为时，人的心理会出现扭曲推理的过程。根据对以往我国期货市场的研究，投资者确实存在过度反应和反应不足的现象，主要表现为投资者对利多消息反应不足，对利空消息反应过度。

LLM在期货定价中的应用

LLM可以通过分析历史价格、市场供需、宏观经济数据等大量数据，预测未来的期货价格走势。例如，投资者可以使用LLM对历史价格进行分析，以发现其中的模式和趋势，从而对未来的价格进行预测。此外，LLM还可以结合市场供需状况、宏观经济数据等数据，为投资者提供更准确的期货价格预测。

ChatGPT类模型在期货定价中的应用

数据收集和处理：指收集包含期货价格、交易量、持仓量等信息的期货市场数据。我们要对这些数据进行清洗和预处理，去除异常值和缺失值，并将其转化为适合模型训练的格式。

构建Prompt：为了引导ChatGPT进行期货价格预测，我们需要构建合适的Prompt。Prompt应该包含与期货价格相关的历史数据和技术指标，例如最近的价格趋势、交易量变化、技术分析图表等。此外，我们还可以提供一些关于宏观经济因素和行业动态的信息，以帮助模型更好地理解市场环境。

模型训练：指使用处理好的数据和构建好的Prompt进行模型训练。在训练过程中，我们需要选择合适的超参数和优化器，以获得最佳的预测效果。我们可以使用交叉验证等技术来评估模型的性能，并调整超参数以优化模型的预测精度和泛化能力。

期货价格预测：指使用训练好的模型对未来的期货价格进行预测。根据预测结果，投资者可以做出相应的投资决策，例如买入或卖出期货合约。为了获得更准确的预测结果，我们可以结合市场分析师的观点和建议，对模型预测结果进行修正和调整。

交易策略开发：指基于期货价格预测结果，可以进一步开发交易策略。根据模型的预测趋势和信号，我们可以制定买入或卖出期货合约的指令。结合技术分析和基本面因素，我们可以对交易策略进行调整和优化。

持续监控和更新：由于期货市场是动态变化的，因此我们需要持续监控市场数据并更新模型。我们可以定期重新训练模型并调整参数，以确保其适应市场变化。同时，我们可以结合新的市场信息和观点，对Prompt进行更新和优化，以强化模型的预测效果。

LLM在新闻和社交媒体数据分析中的应用

LLM的优势在于能够处理大规模数据、捕捉复杂模式以及提高预测精度。在新闻和社交媒体数据分析中，LLM可以处理海量的文本数据，包括新闻报道、社交媒体帖子等。通过学习这些文本中的模式，LLM能够挖掘出其中的主题、情感、关键信息等，为新闻工作者、研究人员以及企业提供有价值的参考。

新闻主题分类

新闻主题分类是新闻和社交媒体数据分析中的重要任务之一。LLM可以通过对新闻报道进行自然语言处理，提取其中的关键词和语义信息，从而将新闻报道归类到不同的主题类别中。例如，我们可以使用大模型对政治、经济、社会等不同类别的新闻进行分类，以便快速地浏览和筛选有用的信息。

使用ChatGPT进行新闻主题分类的步骤

数据预处理：我们首先需要准备一组新闻数据集，包括文本内容和对应的主题标签，可以使用已有的新闻数据集或从互联网上收集最新的新闻数据。在数据准备阶段，我们需要注意数据的质量和多样性，例如数据来源的可靠性、语种的多样性等。对收集到的新闻数据进行预处理，包括文本清洗、尽量清除新闻中的噪音字符和不规则语法结构，使模型更容易学习和理解文本内容。

微调模型：指使用准备好的新闻数据集对开源的预训练大模型进行训练，以更好地适应新闻文本分布。我们可以使用SFT或者LoRA等方法对模型进行优化。

评估模型：在训练完成后，我们需要使用测试集对ChatGPT进行评估，以确定模型的分类效果。常见的评估指标包括准确率、召回率、F1分数等。例如，我们可以将一部分新闻数据作为测试集，使用测试集来评估模型的分类效果。如果模型的性能不佳，我们可以调整模型参数或使用更复杂的模型重新进行训练。

应用模型：经过评估后的ChatGPT可以应用于实际的新闻主题分类任务中。例如，我们可以使用API或网站来实现实时的新闻主题分类。用户可以将一篇新的新闻文本输入到系统中，系统会根据训练好的ChatGPT自动对新闻进行分类，并返回相应的主题标签。此外，我们也可以将模型应用于现有的新闻库中，对已有的新闻进行自动分类和标记。这可以帮助用户更方便地管理和查找相关的新闻报道。

新闻情感分析

情感分析是新闻和社交媒体数据分析中的一个重要任务。LLM可以通过对文本中的情感词汇进行分析，判断文本的情感倾向是正面的、负面的还是中性的。例如，我们可以使用LLM对社交媒体上的评论帖子进行情感分析，以了解公众对某个事件或产品的态度和看法。

使用BERT模型构建NLP情感分析模块的步骤

数据准备：指选择一个具有代表性和多样性的数据集。这个数据集包含了正面和负面情感的评论，可以用于训练和测试情感分析模型。然后，我们要对数据进行清洗和预处理，包括去除无关字符、标点符号等操作，以得到更加干净的文本数据。

模型下载使用：指使用BERT模型进行预训练，以获得更好的文本表示。

模型微调：指使用预训练好的BERT模型对情感分析任务进行微调。在微调过程中，我们可以添加额外的层或者修改BERT模型的输出，以适应情感分析任务。常见的微调方法包括使用分类层对BERT模型的输出进行分类，或者使用BERT模型提取文本特征然后输入到其他模型中进行分类。

模型评估：指使用测试集对微调后的模型进行评估，以确定其性能。常见的评估指标包括准确率、精确率、召回率和F1得分等。通过评估我们可以了解模型的优劣，并针对不足之处进行调整和优化。

模型应用：经过评估后的情感分析模型可以应用于实际的NLP情感分析任务中。例如，我们可以使用API或网站来实现实时的情感分析。用户可以将一段文本输入到系统中，系统根据训练好的模型自动对文本进行情感分析，并返回相应的情感标签。此外，我们还可以将模型应用于现有的文本库中，对已有的文本进行自动情感分析和标记。这可以帮助用户更方便地管理和查找相关的文本内容。在应用过程中，我们需要注意数据的多样性和质量，以及选择合适的超参数和优化器来构建和训练模型。同时，我们还需要对输入的文本进行适当的预处理和后处理操作，以提高模型的性能和准确性。

除此之外，若想更简单高效的实现新闻情感分类，也可直接调用ChatGPT等大模型提供的embedding API，来实现批量的情感分析工作（如图7-2所示）。这个API可以将任何一段文本转换为一个固定长度的向量，以此代表这段文本的语义信息。

图7-2 调用ChatGPT等大模型提供的embedding API来实现批量的情感分析工作

我们需要事先计算“正面”和“负面”这两个标签的embedding。对于一段待分析的新闻，我们可以通过embedding API获取该文本的embedding。然后，我们将这个文本embedding和“正面”的以及“负面”的embedding分别计算余弦相似度（cosine similarity），并将两个相似度之间的差值作为该文本的情感分数。如果分数大于0，则说明这段文本更接近“正面”，反之则更接近“负面”。

使用这种方法，我们可以在不需要大量经验和复杂特征工程的情况下，用不到10行代码快速地进行情感分析，并获得非常好的效果。

关键信息提取

关键信息提取是新闻和社交媒体数据分析中的一个重要任务。关键信息提取是指从文本中提取出重要的信息。例如，我们可以使用LLM对新闻报道进行实体识别和分析，以了解事件的发展过程和重要人物信息。

关键信息提取技术

命名实体识别：这是一种常用的实体信息提取技术，它通过训练模型来识别文本中的人名、地名、组织机构名等实体信息。我们可以使用诸如SpaCy、Stanford NER等工具库进行实现。

关键词提取：这是一种从文本中提取关键词的技术，如TF-IDF（词频-逆文档频率）、TextRank算法等。这些算法可以用于提取文本中的重要概念和主题，也可以用于构建文本的关键词索引。我们可以使用诸如jieba、NLTK等自然语言处理库进行实现。

信息抽取：这是一种从文本中提取特定格式的信息的技术，例如时间、地点、人物、事件等。它通常需要使用模板匹配或规则匹配等技术来实现。我们可以使用诸如Apache UIMA、Stanford IE等工具库进行实现。

知识图谱：这是一种用于构建大规模知识库的技术，它将实体和它们之间的关系表示为图结构。知识图谱可以用于回答自然语言问题、推荐系统等领域。我们可以使用诸如Neo4j、DBpedia等知识图谱平台进行实现。

LLM在关键信息提取中的应用

通过LLM提取新闻文本中的关键信息，主要依赖合适的Prompt。

构建信息提取Prompt的常用技巧

明确目标：我们首先需要明确要提取的信息类型和目标，如提取特定领域的实体、事件、情感等。明确目标可以帮助我们构建更加针对性的Prompt。

自然语言描述：指使用自然语言描述要提取的信息，如“请提取文本中的地名”“请识别文本中的事件”等。这种描述方式可以帮助大模型更好地理解任务需求。

提供示例：为了指导LLM更好地提取信息，我们可以提供一些示例，例如给定一段文本，标注出要提取的实体或事件等信息。LLM可以根据这些标注信息学习如何提取特定类型的信息。

强调重要信息：在Prompt中可以强调某些重要信息，例如在提取实体时，我们可以提示LLM关注文本中的专有名词、组织机构名等。这样可以提高LLM提取关键信息的准确性。

多种方式结合：根据具体情况，我们可以将以上技巧结合使用，以构建更加有效的Prompt。例如，我们可以在自然语言描述中提供示例，并强调某些重要信息。

需要注意的是，构建有效的Prompt需要根据具体任务和数据特点进行适当的调整和优化。同时，为了提高LLM提取信息的性能，我们还需要对数据进行适当的预处理和标注，并对模型进行训练和评估。

舆情监控与分析

舆情监控与分析是新闻和社交媒体数据分析中的一个重要应用。LLM可以通过对社交媒体上的评论和讨论进行分析，实时监测公众对某个事件或政策的反应和态度。例如，我们可以使用LLM对社交媒体上的讨论进行监测和分析，以了解公众对某项政策或新产品的反应和评价。

LLM在舆情监控与分析中应用的具体步骤

第一步，收集互联网上的文本数据。这些数据可以是社交媒体上的评论、新闻报道、论坛讨论等。收集数据的方式可以是手工采集，也可以使用爬虫程序自动采集。我们需要对收集到的数据进行清洗和预处理，以去除无关信息和重复内容。

第二步，对收集到的文本数据进行分类和情感分析。分类的目的是将文本数据分为不同的类别，如新闻类别、评论类别等。情感分析的目的是判断文本数据的情感倾向，例如正面、负面或中立。这些分类和情感分析的结果可以帮助企业和政府机构了解公众对特定事件或话题的态度和看法。

第三步，进行主题分析和热点监测。主题分析的目的是从大量的文本数据中提取出重要的主题和观点，如公众对某个产品的评价、对某个政策的看法等。热点监测的目的是监测互联网上的热点话题和趋势，如流行文化、社会事件等。这些主题和热点监测的结果可以帮助企业和政府机构了解公众关注的焦点和趋势，从而做出相应的决策。

通过LLM进行舆情监控和分析可以提高企业和政府机构对公众意见的掌握程度，从而做出更加科学合理的决策。

LLM在宏观经济趋势的文本分析中的应用

LLM已经广泛应用于各个领域，也包括宏观经济趋势分析。宏观经济趋势分析是经济学家和政策制定者关注的重要问题，而LLM可以通过对大量经济数据和指标进行分析，提供更准确、更全面的宏观经济趋势预测和分析。

趋势分析和预测

LLM可以通过学习历史数据中的模式和趋势，对未来的宏观经济趋势进行预测和分析。例如，LLM可以分析过去几十年的GDP增长趋势，发现其中的周期性和规律性，从而对未来的GDP增长进行预测。此外，LLM还可以结合其他经济指标进行分析，如通货膨胀率、利率、贸易收支等，以提供更全面的宏观经济趋势分析。

以ChatGPT类模型为例。在经济预测中，ChatGPT可以用来提取经济相关文本中的关键词、情感倾向等信息，并基于这些信息来预测未来的经济趋势。此外，ChatGPT还可以从历史经济数据中学习经济周期、趋势等模式，并利用这些模式来预测未来的经济走势。

ChatGPT类模型在经济趋势分析和预测中的应用

数据收集和处理：我们可以利用ChatGPT收集大量的经济相关文本数据，包括新闻报道、经济报告、政府政策文件等。我们要对收集到的数据进行预处理，包括清洗、去除噪声、标准化等操作，以便进行模型训练和分析。

模型训练微调：指利用ChatGPT对预处理后的文本数据进行训练。我们需要对模型进行微调，使其能够更好地适应经济预测的任务，包括对模型的参数进行调整、优化模型的训练策略等。在训练过程中，我们需要使用大量的文本数据来训练模型，以便让模型学习到经济相关的模式和信息。

文本分析：指使用训练好的ChatGPT对文本数据进行深入分析。我们可以提取出文本中的关键词、情感倾向等信息，这些信息可以用于理解市场情绪和政策变化。例如，我们可以通过分析新闻报道中的关键词来判断市场对某个经济政策的反应和态度。此外，我们还可以利用ChatGPT对文本数据进行情感分析，以了解公众对某个经济事件或政策的情感倾向。

经济预测：基于分析结果和历史数据，我们可以使用ChatGPT进行经济预测，可以使用回归、时间序列分析等方法来预测未来的经济指标。例如，我们可以通过分析历史上的GDP数据和相关的政策文件，利用ChatGPT预测未来的GDP走势。此外，我们还可以利用ChatGPT对市场情绪进行分析，以了解市场对某个经济事件的预期和反应。

结果评估和调整：指对预测结果进行评估和校验，以确保预测结果的准确性和可靠性。我们可以使用统计方法或机器学习算法来评估预测结果，如计算预测结果的误差率或使用交叉验证等方法进行评估。如果预测结果存在较大误差或偏差，我们需要对模型进行调整和优化，以提高预测的准确性。

尽管有相对确定的步骤，使用ChatGPT类型模型仍然有一些局限性，主要包括：数据质量和准确性对预测结果有较大影响；模型训练需要大量的时间和计算资源，且需要专业的知识和技能；预测结果受到多种因素的影响，包括市场情绪、政策变化、全球经济环境等，存在一定的不确定性；ChatGPT本身也存在一定的局限性，等。因此，我们在使用ChatGPT类模型进行经济趋势预测时，需要结合其他信息和专家意见进行综合分析，以提高预测的准确性和可靠性；同时，我们也要不断改进和优化模型，以适应不断变化的经济环境和市场需求。

政策效应评估

政策效应评估是宏观经济趋势分析中的重要应用之一。LLM可以通过对历史政策效果进行分析，评估不同政策对宏观经济的影响和效果。例如，LLM可以分析过去几年货币政策的调整对经济增长、通货膨胀等的影响，从而为当前的货币政策制定者提供参考。

LLM在经济政策效应评估中的具体应用

预测经济指标：LLM可以用于预测经济指标，例如GDP、通胀率、失业率等。通过使用历史数据和相关政策文件作为输入，LLM可以学习到经济指标之间的关系和趋势，并预测未来的经济走势。这种预测可以帮助政策制定者更好地了解政策实施后的可能效果。

分析政策影响：LLM可以分析政策对经济的影响。例如，我们可以使用LLM分析税收政策的变化对个人和企业的影响，以及这种影响如何传导到整个经济体。此外，LLM还可以分析货币政策对利率、货币供应等的影响，以及这种影响如何影响企业和个人的行为。

评估政策效果：LLM可以用于评估政策实施后的效果。通过使用历史数据和政策文件作为输入，LLM可以学习到政策实施前后的经济变化，并评估政策的实际效果。这种评估可以帮助政策制定者了解政策的优缺点，以便更好地制定未来的政策。

辅助决策制定：LLM可以辅助政策制定者制定决策。通过分析历史数据和预测未来趋势，LLM可以为政策制定者提供有关政策效果的参考信息。此外，LLM还可以帮助政策制定者评估不同政策方案的优缺点，并为决策提供数据支持和分析结果。

需要注意的是，LLM在经济政策效应评估中的应用需要结合实际情况和专业知识进行综合分析。同时，我们也需要考虑数据质量和准确性的问题，以及模型本身可能存在的局限性和误差。因此，在使用LLM进行经济政策效应评估时，我们需要谨慎对待模型的输出结果，并结合其他信息和专家意见进行综合分析和决策。

经济周期检测

经济周期是宏观经济运行中的重要现象，准确地检测经济周期的变化对经济政策和投资决策具有重要意义。

常见的经济周期有基钦周期、朱格拉周期、库兹涅茨周期、康波周期，如表7-1所示。

表7-1 常见的经济周期分析表

LLM可以通过分析大量的经济数据，检测经济周期的峰值和谷值，并预测经济周期的变化趋势。例如，LLM可以分析GDP增长率、失业率、通货膨胀率等指标的变化趋势，以检测经济周期的变化。

LLM在经济周期检测中的具体应用

识别经济周期：通过对历史经济数据进行分析，LLM可以学习到经济周期的模式和特征，并利用这些模式和特征来识别当前经济运行的状态。

监测经济趋势：通过对实时经济数据的分析，LLM可以实时监测经济的运行状态和趋势，并给出相应的预警和预测。这种监测可以帮助政策制定者和经济学家及时掌握经济动态，以便更好地制定政策和措施。

分析经济因素：LLM可以分析影响经济周期的各种因素。例如，LLM可以分析货币政策、财政政策、国际贸易等对经济周期的影响，以及这些因素之间的相互作用。此外，LLM还可以分析其他因素，例如自然灾害、政治事件等对经济周期的影响。

提供政策建议：通过分析经济数据和趋势，LLM可以评估不同政策方案的效果和优缺点，并为政策制定者提供决策支持和参考信息。此外，LLM还可以根据经济运行的状态和趋势，给出相应的政策建议和措施，以促进经济发展和稳定。

第八章

LLM在客户服务与互动中的应用

无论是好口碑，还是坏口碑，在网络时代的今天，其传播速度都远远超过了以往任何时期。

——《客服圣经》作者：保罗R. 蒂姆（PaulR.Tim）

LLM在客户服务对话中的应用

LLM在客户服务系统中的应用为企业带来了前所未有的机遇，尤其是在客户服务对话中的应用效果更为显著。LLM不仅提升了客户服务对话的效率和质量，还提供了个性化服务，优化了客户体验，同时为企业带来了显著的成本节约。

LLM在客户服务对话场景中的价值

LLM的应用使得客户服务机器人在提高响应时间和效率方面的角色已经远远超过一个简单的效率工具。同时，LLM还赋予了客户服务机器人更深层次的理解和交互能力，使得它们在客户服务领域的价值得到了极大的提升。

语言理解能力

LLM先进的自然语言理解能力使得客户服务机器人能够准确地理解客户的查询内容和指令，即使这些查询是以自然且非结构化的方式表达的。这种理解能力超越了简单的关键词识别，深入语义层面，确保了对客户需求的准确把握。此外，这些机器人还能够追踪和理解对话的上下文，从而在整个交流过程中提供连贯和相关的回应。

自动化响应生成能力

利用自然语言处理技术，客户服务机器人能够生成流畅且自然的文本回复。这意味着它们不再仅限于提供预设脚本内的回答，而是能够根据当前的查询情境创造出多样化的回答。这种灵活性在处理各种不同的客户请求时显得尤为重要。

个性化服务能力

通过分析客户的历史交互数据，AI系统可以提供定制化的建议和解决方案。此外，基于客户的偏好和需求，客户服务机器人还能提供个性化的产品或服务推荐，进一步增强客户的体验感和满意度。

持续学习和优化能力

客户服务机器人能够从每次客户交互中汲取经验，不断优化其回答和推荐策略。同时，它们能够自动更新其知识库，确保提供给客户的信息始终是最新和最准确的。

情感分析能力

通过分析客户的语言和表达方式，客户服务机器人可以识别客户的情绪状态，并适当调整回答的风格和内容，更好地满足客户的情感需求。

跨渠道工作能力

LLM的集成和兼容性也是其在客户服务机器人应用中的一大优势。这些模型可以与企业现有的CRM和数据库系统集成，实现信息的无缝流通。因此，LLM支持的客户服务机器人能够跨电话、聊天、电子邮件等多种通信渠道工作，提供统一且连贯的客户服务体验。

实时数据处理能力

LLM使客户服务机器人能够同时处理大量的客户查询，显著提高服务效率。同时，这些系统还能够提供实时的服务性能反馈和客户满意度报告，帮助企业实时监控和管理客户服务质量。

多语言和跨平台服务能力

LLM支持的客户服务机器人具备多语言和跨平台的兼容性，能够为使用不同语言的用户提供服务，可以同时在多个平台（如网站、移动应用、社交媒体）上运行，确保客户拥有无缝的服务体验。

LLM在客户服务对话场景的解决方案

在当前快速发展的人工智能领域，将LLM接入客户服务机器人成了一个关键的进步。然而，要确保这一进步顺利实施并最大化激发其潜力，设计一个完善的解决方案就显得尤为重要。

需求分析和规划

需求分析不仅关系到项目的方向，还影响着最终产品的效果和用户体验。因此，在实施LLM接入客户服务机器人的项目时，以下几个方面需要被细致地考虑。

明确用户和业务需求。这涉及对目标用户群体的深入理解，包括他们的特点和需求，以及确定机器人应达成的具体业务目标。同时，还应识别当前客户服务系统中的问题和挑战，并探讨LLM如何帮助系统解决这些问题。

评估技术能力和限制。这包括评估现有的技术基础，了解LLM技术可能存在的限制，比如数据隐私问题、处理能力和语言支持范围等。

评估数据的可用性和质量。必须考虑可用的数据来源，并评估这些数据的质量和可靠性。这是因为数据的准确性和时效性会直接影响机器人的性能和效果。

设计用户体验。用户与机器人的交互方式、界面设计和交互流程至关重要。确保机器人的使用简单直观，对所有用户友好，特别是对技术不熟悉的用户要友好。

技术集成与兼容性。机器人如何与现有的CRM系统、数据库和其他业务工具集成，以及确保机器人能在不同的平台和设备上正常运行，也是需求分析中不可忽视的部分。

法规遵从和安全性。这包括确保方案符合所有相关的数据保护和隐私法规，以及考虑如何保护用户数据安全，防止数据泄露和滥用。

可扩展性和未来发展。系统需要能够随着业务的增长和变化进行调整和扩展，同时，也需要有明确的计划来处理定期更新、故障排除和用户支持等问题。

数据准备和分析

这个阶段不仅能确保机器人能够准确理解和响应用户需求，还可助力于提供更加个性化和高效的服务。为了实现这一目标，精心的数据管理和深入的数据分析变得尤为关键。

数据收集。这涉及从历史交互数据中挖掘宝贵信息，例如客户的聊天记录、邮件交流和电话对话记录等。这些数据的多样性和全面性对于训练模型至关重要。

数据清洗和格式化。这不仅包括去除无关信息，还涉及将数据转化为机器学习模型所需的格式。在这个阶段，数据标注也十分重要，这一过程需要专业性强的人员参与，以确保数据的准确性。

数据的安全性和隐私保护。在收集和处理数据的过程中，必须遵守相关的法律法规，尤其是在数据保护方面。对于含有敏感信息的数据，必须进行脱敏处理，从而保护客户的隐私。

数据分析。通过用户行为分析，可以洞察客户的行为模式和需求趋势，从而更有效地调整服务策略。此外，情感分析也是一个关键环节，这不仅有助于理解客户的情绪状态，还可以指导机器人调整服务，例如机器人在检测到客户情绪低落时，提供更加细致的服务。

效果评估和优化。通过分析机器人的响应效果，例如准确率、解决问题的速度等，可以对机器人的性能进行评估。

持续地模型训练和更新。这确保了机器人能够适应新的数据和场景，不断提升其服务质量。

模型训练和测试

有效的模型训练和测试，是LLM最终落地机器人应用的核心能力。这个过程确保了机器人不仅能理解用户需求，而且能提供准确和高效的响应。

模型训练。这个阶段的核心在于数据的准备，应涵盖尽可能多的用户场景以保证数据的全面性和代表性。随后，选择适合的模型架构是关键的一步，需要确保选择的模型架构能够满足特定的业务需求。此外，特征工程同样不可忽视，它涉及从大量数据中提取有用的信息，例如关键词、用户意图等。接下来是模型训练本身，这一过程中需要调整和优化各种参数，以达到最佳效果。最后，持续迭代和反馈是保证模型持续进步的重要环节。

模型测试。这个阶段是为了确保模型在真实场景中的有效性。测试要设计全面，不仅要包括常见场景，还要考虑边缘情况。通过这些测试，可以对模型的性能如准确性和响应时间等进行全面评估。错误分析也是测试的重要组成部分，它可以帮助识别和修正模型的不足。此外，用户测试提供了直接的反馈，是评估模型是否符合用户需求的关键。同时，安全性和合规性测试保证了模型的响应符合法律法规，避免了可能的法律风险。

用户界面接入

一个优秀的用户界面不仅能够提升用户体验，还直接关系到用户如何与机器人互动，以及这种互动的效率和效果。

明晰且直观的界面布局。用户应该能够一眼看明白如何使用界面，找到他们需要的信息和功能。这意味着在界面上应有清晰的指示和提示，能够引导用户如何与机器人进行有效交流。

响应性和兼容性。考虑到用户可能通过不同的设备与机器人互动，响应性和兼容性应成为设计时的一个重要考虑点。无论用户是通过手机、平板电脑还是电脑进行访问，界面都应该提供一致的体验，并且能够适应不同的屏幕尺寸和分辨率。

个性化和定制化。用户应该能够根据自己的偏好来调整界面，例如更改主题颜色或字体大小。同时，机器人界面根据用户的历史交互和偏好提供个性化的体验，能够显著提升用户满意度和参与度。

交互元素。使用友好的按钮、图标和动画不仅能够使界面更加吸引人，还能够提供必要的实时反馈，例如输入提示和操作确认，从而增强用户体验。

易用性和可访问性。简化用户操作，减少所需步骤和复杂性，对于执行常见任务尤为重要。同时，考虑到不同用户的需求，应确保界面对于包括视觉和听觉障碍者在内的所有用户都是可访问的。

保持品牌一致性。用户界面的设计应该与企业的整体品牌形象和风格相符。将品牌的颜色、字体和其他视觉元素融入界面设计中，不仅能够增强品牌识别度，还能提供更加协调一致的用户体验。

持续优化和维护

客户服务机器人的持续优化和维护，对于最终业务目标的实现来讲是不可或缺的。特别是当这些机器人由LLM技术驱动时，它们的智能程度和效率得到了极大的提升。然而，要确保这些高科技产品能够持续地满足用户的期望和业务需求，对其问答效果进行持续优化至关重要。

收集和分析用户反馈。这包括实时监控机器人的性能和其与用户的互动情况。通过用户界面中的反馈机制直接获取用户的评价，以及定期进行满意度调查以深入了解用户的看法和建议。此外，对机器人回答中的错误进行详细分析也是不可或缺的。这不仅涉及识别错误或不准确的回答，还包括分析趋势、找出需要改进或增加内容的领域。

数据驱动的迭代更新。这可能涉及对知识库的更新，或者使用新收集到的数据重新训练模型。同时，技术的升级和创新也非常重要。定期评估和引入新的人工智能和机器学习技术，可以大幅提升问答系统的智能程度。

跨团队的协作。与产品管理、客户支持和IT部门的紧密合作，确保问答系统的内容和功能与用户需求及企业目标保持一致。同时，定期邀请行业专家参与其中，以提高问答内容的准确性和专业性。

持续监控和评估。通过设定并跟踪关键性能指标，例如回答准确率、用户满意度和响应时间，企业可以持续监控机器人的表现。此外，定期对整个系统进行审查，确保其性能可以满足既定的标准和目标，对于提升客户满意度而言至关重要。

构建技术架构图

基于以上步骤，我们已经全面了解了LLM接入客户服务机器人的各方面情况和需求，以及需要重点关注的问题。接下来，我们就可以根据这些信息构建一个系统的技术架构图（如图8-1所示）。

技术框架图可以为LLM接入客户服务机器人提供明确的路线指导，确保项目在正确的轨道上前进，最终实现一个既高效又可靠且用户友好的客户服务机器人解决方案。

图8-1 LLM在客户服务中的技术架构图

资料来源：马上消费人工智能研究院。

这一过程是不断迭代和优化的，需要随着用户需求和业务环境的变化进行调整。通过不断地收集反馈、分析数据，并基于这些信息进行迭代和改进，企业就能够确保它们的客户服务机器人不仅在今天，而且在未来也能够提供高质量、准确且用户友好的服务。

LLM在企业知识库中的应用

随着技术的迅速发展，企业正越来越多地依赖先进的工具来管理和利用其庞大的知识资源。在这个领域，基于LLM的应用已经开始显示出其革命性的价值。

LLM在企业知识库中的价值

LLM在企业知识库管理中的应用，不仅提高了效率，而且优化了决策过程，促进了信息的有效流通。具体来说，LLM在企业知识库中应用的价值有以下几点。

高效的信息检索与整合能力

LLM的一个核心优势是能够快速从大量数据中检索和整合信息。这意味着企业能够更高效地访问和利用其知识库，从而在快速变化的市场环境中保持信息优势。

自动化内容生成与更新

LLM能够自动生成文档、报告等内容，显著减少了企业对人力资源的需求。更为重要的是，它们能够帮助企业自动更新知识库中的信息，确保内容的时效性和准确性。

增强的数据分析能力

LLM提供了可以深入分析企业数据的能力，为决策者提供洞见和预测。这种分析能力对于指导企业战略、优化运营至关重要。

改善员工培训与支持

通过提供即时、相关和个性化的信息，LLM可以提高员工培训的效率和效果。同时，它们也可以作为一线员工的即时支持工具，提升员工工作效率。

提升客户服务质量

利用LLM，企业可以更快地回应客户咨询，并提供更准确、更个性化的服务。这不仅提升了客户满意度，还增强了他们对企业的品牌忠诚度。

知识共享与协作

LLM促进了知识的跨部门共享，支持不同团队之间的协作。通过提供统一的知识管理平台，它们可以帮助企业打破信息孤岛，促进信息自由流动。

风险管理与合规性

LLM通过对大量数据的分析，帮助企业识别潜在的风险和不合规问题，使企业能够提前采取措施来应对这些风险。

定制化与可扩展性

LLM可以根据企业的特定需求进行定制化和调整，确保其与企业的特定业务流程和策略相符合。这种定制化和可扩展性为企业提供了巨大的灵活性。

总之，基于LLM的企业知识库管理工具，正成为企业在信息时代中保持竞争力的关键。LLM不仅改变了知识管理的方式，还为企业的未来发展提供了强大的支持。

LLM对企业知识库的解决方案

相较于传统企业知识库来说，LLM在企业知识库中的应用优势主要在于大模型知识检索和自动化文档生成（如图8-2所示）两个方面。

图8-2 传统企业知识库和LLM企业知识库对比

资料来源：马上消费人工智能研究院。

大模型知识检索

LLM在企业知识库的智能信息检索领域提供的解决方案突破了传统信息检索的局限，带来了高效和精准的信息访问方式。

LLM在智能信息检索方面的具体应用

复杂查询理解与响应：LLM能够理解复杂的自然语言查询，这意味着用户可以使用日常语言来提出问题，而模型能够准确解析并提供相关的信息。这种能力极大地简化了信息检索过程，优化了用户体验。

上下文感知的搜索结果：LLM不仅能处理具体的查询，还能够根据上下文提供更加精确的信息。例如，LLM可以根据用户的搜索历史或当前项目的上下文来优化搜索结果。

跨文档信息提取与整合：LLM可以从企业知识库中的多个文档里提取和整合信息，提供全面的答案。这对于处理复杂的查询特别有用，尤其是当答案分散在不同文档中时。

语义搜索与分析：与基于关键词的传统搜索不同，LLM利用语义分析来理解查询的意图和文档的含义，从而提供更相关的搜索结果。

个性化搜索体验：通过学习用户的偏好和行为，LLM能够提供定制化的搜索体验。这意味着随着时间的推移，搜索结果将变得越来越符合用户的特定需求。

交互式搜索和反馈循环：用户可以与模型进行交互，通过提问或提供反馈来精细化搜索结果（如图8-3所示）。这种交互性使得信息检索更加动态和高效。

图8-3 LLM企业知识库直接用于坐席知识辅助

资料来源：马上消费人工智能研究院。

知识发现与连接建议：LLM能够发现并提出相关的知识点，即使用户最初没有明确寻找这些信息。这增加了用户探索新知识的机会，促进了创新思维。

多语言支持：对于跨国企业而言，LLM能够支持多种语言的查询和内容使用，使得不同语言背景的员工都能有效地利用知识库。

通过这些解决方案，LLM在提高企业知识库的信息检索效率和准确性方面起着关键作用，使得员工能够更快地找到所需信息，从而提高整体的工作效率和决策质量。随着技术的持续进步，LLM在未来将提供更加先进和高效的信息检索方法。

自动化文档生成

LLM在企业知识库中自动化生成文档的解决方案具有颠覆性的潜力，这些解决方案可以大幅提高文档创作的效率和质量。

LLM在自动化生成文档方面的具体应用

自动生成报告和总结：基于GPT-4等模型的系统可以自动从企业的数据集中提取关键信息，生成报告和总结。这对于需要定期生成业务报告、市场分析或研究摘要的企业尤为有用。

模板驱动的文档创作：企业可以创建特定的文档模板，例如合同、提案或技术文档，然后由模型根据特定数据和参数自动填充内容，生成定制化文档。

文档内容的实时更新：随着业务数据的更新，LLM可以自动更新相关文档，确保所有信息保持最新。这对于管理动态数据（如库存、价格、市场趋势等）的文档尤为重要。

跨部门信息整合：通过整合来自不同部门的信息，LLM可以生成全面反映企业运营状况的综合报告，助力高层管理者的决策。

自动化内容审校与质量保证：LLM不仅可以生成文档，还可以对现有文档进行审校，检查语法错误、信息准确性和一致性，保证文档质量。

个性化内容创作：LLM能够根据目标受众的偏好和历史行为来定制内容，生成更具吸引力和相关性的文档。

多语言文档生成：对于国际化的企业，LLM还可以生成多种语言版本的文档，支持其全球业务扩展。

互动式文档创作：用户可以通过与模型的交互来指导文档的创作过程，例如提出修改建议或添加特定内容。

知识提取与组织：LLM能够从大量非结构化数据中提取关键信息，有助于组织和结构化知识，为文档创作提供基础。

通过这些解决方案，企业能够大幅提升文档创作的效率和质量，同时减轻员工的工作负担，使他们能够专注于更高价值的任务。随着技术的不断进步，预计未来LLM将在文档自动化创作领域发挥更大的作用。

LLM在企业CRM中的应用

企业CRM主要是指对客户的信用管理、资信评估和客户分级，可以有效利用企业资源，提高客户服务的效率，避免或降低商业风险。LLM等人工智能技术的发展，为金融企业CRM提供了新的机遇。

LLM在企业CRM中的价值

在企业CRM领域，LLM在数据洞察方面提供了显著价值，不仅提高了数据处理的效率和精度，还为决策者提供了更深入的业务见解。

数据分析加速

LLM能够快速处理和分析大量的结构化和非结构化数据，从而显著加快数据分析过程。这一特点对金融行业的数据分析师来说意义尤其重大，因为LLM可以帮助他们迅速获得市场动态和客户偏好方面的洞察。

深入的数据洞察力

LLM通过其先进的理解能力，可以提取数据中的深层次模式和趋势。对于金融机构来说，这意味着能够更深入地理解市场变化，为投资决策提供支持。

定制化的数据解读

LLM可以根据特定的业务场景提供定制化的分析和建议。在金融领域，这种个性化的数据解读对于制定针对性的市场策略和客户服务计划至关重要。

市场趋势分析

使用LLM分析市场报告和金融新闻，可以为金融企业提供关于市场动态的即时见解，这对于企业对市场变化快速作出反应至关重要。

风险管理

LLM可以分析历史交易数据和市场变化，预测潜在风险和投资机会，为金融机构的风险管理提供有力的数据支撑。

客户行为分析

通过分析客户交易数据，LLM有助于理解客户行为模式，并辅助制定个性化营销策略，从而提升客户满意度和对企业的忠诚度。

实施挑战及对策

尽管LLM在金融行业的数据洞察中提供了巨大的价值，但在实施过程中也面临挑战。例如，确保处理敏感数据时的数据安全和隐私保护，以及保证模型决策的透明性和解释性。金融机构需要制定明确的策略，以有效应对这些挑战。

LLM在企业CRM中的解决方案

LLM在企业客户数据洞察中发挥着重要作用。从数据集成、模型定制，到客户行为分析、预测分析，再到客户反馈分析，每一步都是构建深入客户洞察的关键。正确地实施这些策略将使企业在竞争中保持优势，更好地满足客户需求。

数据集成与管理

数据集成和管理是应用LLM的基础，尤其在金融行业这样一个数据密集型领域。有效的数据集成确保了从各种渠道收集的数据都能够为模型提供全面和准确的视角。同时，良好的数据管理保障了数据的质量和一致性，这对于后续的数据分析至关重要。

统一数据平台：建立一个统一的数据平台，集成来自不同源（如交易记录、客户服务日志、社交媒体互动等）的数据。这样的平台应支持不同格式和类型的数据，并能够处理大量数据。

数据清洗：数据清洗是确保数据质量的关键步骤。这包括去除重复记录、纠正错误、填补缺失值以及标准化数据格式。例如，在金融交易数据中，可能需要标准化货币单位或调整不同银行系统间的数据格式差异。

数据标准化：为了保证数据的一致性，需要对数据进行标准化处理。这可能包括统一日期格式、货币单位，甚至是客户分类标准。

数据治理：制定严格的数据治理政策，包括数据的质量控制、安全性管理以及合规性检查。这不仅保证了数据的可用性和准确性，也保障了数据的安全和隐私。

数据异质性：金融行业中的数据来源多样，数据类型复杂。解决这一挑战的关键在于采用强大的数据集成工具和技术，以及实施有效的数据仓库策略。

数据安全与隐私：在集成和管理数据时，必须确保行为符合数据保护法规。应采用加密、访问控制和数据脱敏等技术，以保护客户信息的安全和隐私。

模型定制与训练

模型定制和训练是确保LLM在金融行业中有效应用的关键。由于金融数据的特殊性和复杂性，标准的LLM可能无法完全理解或正确解释特定的金融术语或概念。因此，根据金融行业的具体需求定制和训练模型变得尤为重要。

行业特定训练数据：收集和利用行业特定的数据来训练模型。例如，在金融行业中，可以使用特定的金融报告、市场分析文档和交易记录等来训练模型，使其更好地理解行业特有的语境和术语。

持续训练和优化：市场条件和客户行为是动态变化的，因此需要定期使用最新的数据来更新和重新训练模型，以保证其输出的相关性和准确性。

模型微调：对于特定的业务场景或问题，可以通过微调已有的预训练模型来快速适应。这包括调整模型参数，以便更好地反映特定数据集中的模式和趋势。

数据标注质量：高质量的标注数据对于训练准确的模型至关重要。为此，需要投入资源进行精确的数据标注，并定期复查以保证标注质量。

模型解释性：在金融行业中，模型的决策过程需要高度透明和可解释。采用解释性模型和工具可以帮助企业解释模型的决策过程。

客户行为分析

在金融行业，深入理解客户行为对于提供个性化服务和制定有效的市场策略至关重要。利用LLM进行客户行为分析可以揭示消费者的偏好、购买习惯以及决策过程，从而帮助企业优化产品和服务。

数据综合分析：综合分析交易数据、浏览历史、客户互动等信息，以全面理解客户的行为模式。

行为模式识别：利用模型识别特定的消费趋势和行为模式，例如频繁购买特定类型产品的客户群体。

个性化推荐算法：开发基于客户行为的个性化推荐算法，以提供定制化的产品和服务。

数据的多样性和复杂性：客户行为数据通常是非结构化且多样的，需要通过先进的数据处理和分析技术来提取有用信息。

隐私保护：在分析客户数据时，必须确保遵守隐私保护法律和道德标准，以免侵犯客户隐私。

预测分析

预测分析在金融行业尤为重要，可以帮助企业预测市场趋势、客户需求和潜在风险。LLM能够处理和分析庞大的数据集，为企业提供关于未来趋势的洞察。

趋势预测：分析市场报告、新闻以及社交媒体数据，预测市场和经济趋势。

风险评估：利用模型分析过去的交易数据和市场行为，识别潜在的风险和异常模式。

需求预测：通过分析历史销售数据和客户行为，预测未来的产品需求和客户购买趋势。

预测准确性：预测分析的准确性会直接影响到决策的有效性。企业需要不断优化模型，并结合专业知识和市场经验进行分析。

数据时效性：市场条件快速变化，企业需要确保使用的数据是最新的，以提高预测的相关性和准确性。

客户反馈分析

客户反馈是企业改进产品和服务的重要信息源。通过分析客户的评论、评价和反馈，企业可以获得宝贵的客户洞察，以改善客户体验和提升产品质量。

情感分析：运用自然语言处理技术，分析客户反馈中的情感倾向，例如满意度、忠诚度或不满情绪。

主题分析：识别客户反馈中的常见主题和问题，以指导产品改进和优化服务。

实时反馈监控：实施实时监控系统，快速捕捉并响应客户反馈，提升客户满意度和对企业的忠诚度。

非结构化数据处理：客户反馈通常为非结构化文本，需要通过复杂的处理和分析流程来提取有用信息。

多样化反馈渠道：客户反馈来自多种渠道（如社交媒体、客户服务、在线评论等），需要有效整合和分析这些数据来源。

LLM在金融企业营销中的应用

金融企业面临着不断变化的市场环境和日益增长的客户需求。在这种背景下，有效的企业营销策略对于吸引和保持客户至关重要。近年来，LLM的应用为金融企业提供了新的营销机会。

LLM在金融企业营销中的价值

LLM在金融企业营销中的应用主要在电话销售方面。LLM在电话销售中提供了显著的价值，能够提高销售效率、提供个性化客户体验并提供深入的客户洞察。尤其是和人工电话销售和传统智能电话销售相比，大模型电话销售的这些优势更为显著，如表8-1所示。

表8-1 大模型电话销售对比人工电话销售和传统智能电话销售

资料来源：马上消费人工智能研究院。

具体来说，LLM在金融企业营销中的价值表现在以下几点。

自动化客户交互

LLM可以自动处理常规的客户咨询，减少对人工代理的依赖。通过预先设定的脚本和反应，LLM能够与客户进行基本的交流，并在必要时将复杂问题转接给人工代理。

个性化销售推荐

利用客户历史交易数据和互动信息，LLM能够生成有针对性的销售建议。在互动中，LLM能够识别客户的购买习惯和偏好，提供更加个性化的产品或服务建议。

提高客户参与度

通过自然语言生成能力，LLM可以模拟人类代理的交流风格，提高客户的参与度和满意度。

增强的客户洞察

随着技术的进步，LLM将提供更深层次的客户洞察，例如通过情感分析了解客户的态度和需求。这将使企业营销更加精准和有效。

实时反馈和优化

LLM能够根据实时反馈自动调整营销策略和语言风格，以快速适应市场变化和客户反馈。

融合多种通信渠道

未来的企业营销可能会与其他通信渠道（如电子邮件、社交媒体）结合，形成一个多渠道的销售策略。LLM可以协调这些渠道之间的信息和策略，提供一致且连贯的客户体验。

LLM在金融企业营销中的解决方案

我们以电话销售为例，具体分析LLM在金融企业营销中的解决方案。和传统智能电话销售架构相比，LLM电话销售中的应用提供了自动化客户交互、个性化销售推荐和提高客户参与度的强大解决方案（如图8-4所示）。

自动化客户触达

在电话销售中，LLM能够自动化处理客户咨询，提高效率并减少对人工代理的依赖。这种自动化不仅优化了客户体验，还显著降低了运营成本。

集成语音识别和自然语言处理技术：利用LLM结合先进的语音识别技术，能够精准理解客户的语音指令和查询指令。应用NLP技术来分析客户的询问，为其提供合适的回答和建议。

图8-4 LLM电话销售与传统智能电话销售架构的区别

资料来源：马上消费人工智能研究院

构建预设脚本和响应：基于常见的客户问题和场景，开发一系列预设脚本和响应。这些脚本应涵盖广泛的主题，例如产品信息、定价策略、服务流程等，以确保能够覆盖大部分客户咨询。

智能问题转接系统：在客户问题超出自动化系统处理范围时，LLM能够智能地将问题转接给相应的人工代理。系统应能够识别问题的复杂性，并基于问题类型和紧急程度决定是否需要转接。

客户接受度问题：一些客户可能对与机器人交流持保留态度。为解决此问题，可以在通话开始时明确告知客户他们正在与自动化系统交流，并提供转接到人工代理的选项。

语音识别的准确性：背景噪声、方言或不清晰的发音可能会影响语音识别的准确性。应采用先进的语音识别技术并不断优化模型，以提高识别率。

持续优化和更新：定期收集和分析客户反馈，不断优化和更新预设脚本和模型，以提高自动化系统的有效性和准确性。

个性化销售推荐

个性化销售推荐在电话营销中至关重要，因为它可以大幅提升客户响应率和转化率。LLM通过分析客户的历史交易数据、互动记录和偏好，能够生成有针对性的销售建议，从而提供更个性化、更具吸引力的服务。

深入分析客户数据：利用LLM分析客户的历史交易数据、购买行为和互动记录。通过这些数据，模型可以识别客户的偏好、购买力和潜在需求。

生成定制化的销售脚本：基于模型分析的结果，创建个性化的销售脚本和话术。这些脚本可以针对不同类型的客户群体，根据他们的特定需求和偏好进行调整。

实时推荐系统：在与客户的实时对话中，LLM可以即时生成和提供销售建议。这些建议可以基于客户在对话中表达的需求和兴趣，实现高度个性化的交互体验。

数据多样性和质量：客户数据的多样性和不一致性可能会导致模型生成不准确的推荐。对数据进行彻底清洗和标准化、确保数据质量是解决这一挑战的关键。

避免过度营销：过度的个性化推荐可能会被客户视为侵扰。为此，企业应设定合理的界限，避免过度营销，并确保推荐内容符合客户的实际需求。

动态调整策略：客户的需求和市场环境是不断变化的。定期分析营销效果，根据客户反馈和市场趋势来调整推荐策略。

提高客户参与度

客户参与度是衡量电话销售成功的关键指标。高参与度通常意味着更高的客户满意度和更大的转化机会。LLM通过提供更自然、更个性化的交互体验，可以显著提高客户在电话销售过程中的参与度。

模拟人类交流风格：利用LLM先进的语言生成能力，模型可以模拟人类的交流风格进行对话。这包括使用自然语言、表情符号（在短信中）和适当的幽默感，以建立更亲切的沟通氛围。这种风格的对话可以使客户感到更放松，从而提高他们的参与度。

即时响应客户需求：通过实时分析客户在对话中的反馈，LLM能够快速调整响应，更好地满足客户的需求。这种即时的、动态的互动方式可以提高客户的满意度和参与度。

跟踪和分析客户反应：利用LLM跟踪和分析客户在电话对话中的反应，例如兴趣点、问题和疑虑。这些信息可以用来优化未来的营销策略，确保内容更加贴合客户的兴趣和需求。

维持个性化和自动化的平衡：在追求高度个性化的同时，保持一定程度的自动化是一个挑战。为此，需要找到两者之间的平衡点，以确保既高效又能满足个别客户的特定需求。

保持交流的自然流畅性：保持对话自然流畅是提高客户参与度的关键。需要持续优化LLM的对话管理能力，确保对话连贯、逻辑清晰且符合自然语言的习惯。

敏感度和适应性：确保LLM能够识别并适当响应客户的情感和反馈。在客户表现出厌烦或不适时，系统应能够及时调整对话策略或转接给人工代理。

第九章

LLM在金融合规与风险管理中的应用

在金融世界中，风险管理是成功的关键。

——美国经济学家 保罗·沃尔克（PaulVolcker）

LLM在金融合规与风险管理中的应用潜力

LLM在金融合规与风险管理领域有多种应用潜力，例如合规文件审查、风险分析和评估、市场监控，等等。这些应用有助于提高企业在合规性、风险管理和监管方面的效率。这些帮助有的是面向金融机构，有的则是面向监管机构。

LLM在金融合规与风险管理中的优势

LLM在金融合规与风险管理中相较于过去的技术具有许多独特优势和益处。

自然语言处理能力

LLM能够理解和分析自然语言文本，这对于处理合规文档、法规、新闻和客户通信等非结构化文本数据非常重要。它可以更全面地评估文本内容，从而帮助金融机构更好地遵守合规要求。

大规模数据分析

过去的技术受限于数据处理和存储能力，而LLM能够处理大规模数据集，从中提取洞察信息。这有助于更全面地分析市场数据、交易历史和客户信息，从而识别潜在风险。

实时监控和反应

LLM可以实时监控市场数据和事件，迅速响应潜在的风险事件。这有助于金融机构更迅速地采取行动，降低潜在损失。

自动化和效率

LLM可以自动进行合规审查、报告生成和风险评估等任务，减少了繁重的人工工作量，提高了效率。这意味着金融机构可以更快地应对风险，减少运营成本。

多模态分析

LLM不仅限于处理文本数据，还可以处理图像和声音数据。这使得金融机构可以利用多种数据源来更全面地评估风险。

即时知识获取

LLM可以自动获取和分析最新的法规、新闻和政策文本，从而确保金融机构始终遵守最新的合规要求，降低合规风险。

个性化建议

LLM可以提供个性化建议，帮助金融机构更好地管理风险。它可以根据特定机构的需求和情境提供有针对性的建议。

扩展性

LLM可以应用于多个金融领域，包括银行、证券、保险等，以及不同类型的金融产品和市场。它的灵活性使其适用于各种风险管理需求。

总之，LLM在金融合规与风险管理中提供了更全面、智能和高效的工具，有助于金融机构更好地理解和管理潜在风险，确保了合规性，降低了潜在损失，提高了业务的可持续性。这些技术在金融领域有望持续发挥重要作用。

LLM在金融合规与风险管理中的挑战和限制

LLM在金融合规与风险管理中虽然具有许多优势，但也面临一些挑战和限制。具体地说需要考虑如下四个挑战，其中最后一个挑战最重要，影响也最长远。

可信度的挑战

我们在赞叹LLM能力的同时，也注意到它在跟我们对话的过程中，暴露出了一些问题，例如回答不够准确，甚至回答错误的情况。

LLM的局限性

事实性错误：LLM给出的回答看起来似乎非常完整且具有逻辑性，但细究内容却会发现其中许多信息存在误差，甚至是胡编乱造。例如，某家公司的CEO是谁？某家公司的年收入是多少？这些我们往往需要其回答唯一且正确的答案，但是由于LLM存在幻觉问题，对于这种问题的回答很容易出错。

不擅长形式推理：LLM很难在数学或一阶逻辑等形式严格的系统中进行推理。

时效性差：LLM无法直接搜索互联网，其信息时效性取决于模型数据库的更新频率。此外，LLM的训练过程中，由于训练需要花费大量时间，因此训练好的模型会有滞后问题。我们往往会关心当天金融领域发生了什么，可以决定明天要干什么，如果LLM掌握的信息比较滞后的话，很多金融决策的判断都会受到影响。

信念无法实时改写：当模型表达对某事的信念时，如果该信念是错误的，我们可能很难纠正它。

金融行业是一个对于模型的可解释性和鲁棒性等，要求非常高的一个行业。LLM当下输出结果的可解释性目前是相对封闭、不透明的，同时，其稳定性也仍然受到数据、算法、训练等方面的干扰，会出现非鲁棒性的特征。这些都是在可信度方面，金融行业落地LLM应用面临的非常重要的挑战。

举个例子。在审计中使用ChatGPT的功能时，人工监督和团队合作是最重要的因素。尽管ChatGPT可以帮助简化审计的某些部分，但不应将其视为人工审计员的替代品。相反，像任何AI模型一样，它应该被视为改进人类判断力并增进知识的工具。作为一个AI模型，ChatGPT不能完全理解审计任务和目标的微妙之处、后果和背景。人工审计员将他们的专业判断力、行业专业知识以及对企业特定条件的理解带到桌子上，他们可以提供必要的背景信息，并利用他们的知识来解释ChatGPT生成的结果。人工审计员可以评估ChatGPT提供的数据的实用性、准确性和适用性，并采取适当的行动。

业务理解的挑战

目前的LLM实际上是基于通用知识库进行训练的，但是进入金融业务场景当中，无论是信贷、财富管理等业务，都还需要针对金融行业的业务属性与业务逻辑等进行增量训练，才能真正意义上解决业务问题和实现智能决策。

目前，LLM是在互联网上进行训练的。金融服务用例将需要使用特定于用例的金融数据对这些模型进行微调。新的参与者可能会从公司公开的财务数据、监管文件和其他易于获得的公开金融数据来源开始优化其模型，最终在随着时间的推移收集自己的数据后使用它们。现有的参与者，如银行或具有金融服务业务的大型平台，可以利用其现有的专有数据，这可能会给它们带来初步优势。然而，现有的金融服务公司在采纳大型平台变革时往往会过于保守，这会给予没有束缚的新参与者竞争优势。

成本投入的挑战

当前LLM的应用成本仍然是比较高的，一方面是巨大的算力消耗成本，另一方面是为了解决前面提到的业务理解挑战所产生的金融业务属性训练语料、数据标注以及模型的训练成本。

硬件成本主要可以拆分成训练和推理两个阶段。据估算，在训练阶段，训练一次的成本约为500万美元。而在推理阶段，根据网站分析工具Similarweb的数据，截至2023年1月，ChatGPT日均活跃人数约1300万人，每人平均1000字左右的问题，因此合计产生约130亿字（173.3亿个Token）。假设24小时平均分配任务，需要的A100 GPU数量为173.3亿*2*3000亿/（20%*24小时*3600秒）=601.75 PetaFLOP/S（由于访问流量存在峰值，假定访问峰值是一天均值的5倍）。因此，ChatGPT需要602台DGX A100服务器才能够满足当前的访问量，这样一来，仅仅是每日的电费支出，就达到了5万美元左右。

尽管金融行业的科技投入比较高，但是仍然需要通过模型压缩、小样本训练等方式进一步降低应用成本，才能真正意义上投入生产环境进行使用。

组织能力的挑战

金融行业当然可以通过LLM的应用来替代人力去做非常多机械型、流程型乃至一部分创造型的工作；但是，金融机构需要同步考虑的是，如何打造人和机器或者人与人工智能有机协同与合作的关系。一方面是如何更好地为员工、为人来赋能，提升人使用AI工具的能力；另一方面也包括不断调整和优化人与数字员工的职能边界。

我们认真讨论风险与挑战的时刻，意味着我们距离进入LLM开启的金融智能时代不远了。

LLM在金融合规与风险管理中的合理期望

当人们考虑LLM在金融合规与风险管理中的应用时，有必要持有合理的期望和对潜在风险的认识。

合理期望

不是“银弹”：LLM是强大的工具，但它们不是解决所有问题的“银弹”。它们可以提供有力的支持，但不应视其为解决一切挑战的唯一方法。

复杂性：金融合规与风险管理是复杂的领域，不仅涉及数据和模型，还包括法规、政策、伦理和业务流程。LLM应该与其他风险管理方法相结合。

不是预测未来：LLM可以提供风险预测，但它们不能预测未来。它们提供的是基于历史数据和模式的概率性预测，而不是确凿的预测。

合理化的使用建议

合规相关工作是严肃严谨的，不能接受智能助理对信息的自由组织和发挥创造，而是注重来源、强调依据，因此我们在金融合规领域的实践过程中，会通过“可靠的数据+智能的助理”来更大程度地发挥LLM的价值。

LLM在金融合规与风险管理中合理化的使用建议

1. 通过对合规领域数据的预处理，建立专业的金融合规知识库，数据类型包括监管法规、监管处罚、案件案例、相关优质财经新闻和知识参考资料等，并涵盖业务专家针对各类数据进行的分类与标注信息。

2.AI助理将合规领域知识库内容作为参考资料，进行信息总结、提取、解释等处理，在答案与参考资料之间建立内容索引，方便溯源，把控质量。

3. 反复打磨提示语，通过合适的问法和指令提升回答的精确性，获取最符合需要的答案。

总而言之，LLM在金融合规与风险管理中有巨大潜力，但使用它们需要谨慎考虑，同时遵守法规和伦理标准，确保数据隐私和安全，并将其视为一个辅助工具，而不是替代传统的风险管理方法。金融机构应综合考虑技术、法规、伦理和业务需求，以有效利用这些工具并管理潜在风险。

LLM在金融合规与风险管理中的潜在应用

LLM在金融合规与风险管理领域的潜在应用主要是利用LLM的自然语言处理能力和涌现能力，以自动进行合规和风险管理，并提高合规性和风险管理任务的效率。这不仅减少了人工工作量，还有助于提高合规性，降低金融机构面临的风险。这些技术有望在金融合规领域进一步发展，提供更多创新的解决方案。

合规文件审查

LLM可用于自动审查合规文件，例如合同、法规、政策和法律文件。LLM可以帮助金融机构快速识别潜在的合规问题、冲突或重要信息，从而节省时间和降低人工错误的风险。

合规政策制定

LLM可协助金融机构制定和更新合规政策。LLM可以分析最新的法规和法律文本，包括与旧版法律法规的对比，从而提供有关如何修改或调整政策以满足合规要求的建议。

风险分析和评估

LLM可用于分析市场风险、信用风险和操作风险。它可以帮助金融机构预测潜在的风险事件，从而采取相应的措施来减轻风险。尤其是LLM可以通过工具访问互联网的最新数据，从而实时更新分析结果。

市场监控

LLM可用于监控市场交易和行为，以识别不正当行为或市场操纵的迹象。这有助于金融监管机构更好地保护市场的诚信。

客户尽职调查

LLM可以帮助金融机构进行客户尽职调查，以确保它们的客户符合反洗钱（AML）和“了解您的客户”（KYC）的要求。LLM可以快速分析客户数据，发现异常或高风险行为。

监管报告

LLM可用于自动生成监管报告，减轻金融机构合规人员的工作负担。LLM可以自动提取必要的数据并生成符合监管要求的报告。

反欺诈

LLM可以用于识别欺诈行为。通过分析交易数据和客户行为，LLM可以检测不寻常的模式，从而帮助金融机构防止欺诈。

合规培训和教育

LLM可以用于开发在线培训和教育材料，从而帮助金融机构的员工更好地理解合规要求和政策。

合规和监管支持

LLM可以通过提供相关法规的见解并协助处理合规相关任务来为金融机构在复杂的监管环境中导航。

响应监管请求

作为高度受监管的行业参与者，金融机构经常会收到监管机构的查询请求。可以使用LLM来回应监管机构提出的简单且不太关键的查询。

LLM在金融合规应用中的典型案例

目前，LLM在金融合规中的应用主要在两个方面，一个是生成合规检测报告和风险评估报告，另一个是进行合规培训和教育。

生成合规检测报告和风险评估报告

LLM在金融机构的风险评估和监控中扮演了关键角色。2023年4月，摩根大通发布报告称，已开始使用一套AI大语言模型，从美联储17位官员的公开讲话中揣摩其情绪变化，汇总编成一套货币政策的“鹰鸽指数”。鹰鸽指数可以反映市场情绪，帮助股市和债券交易员判断美联储利率政策的变化节奏。

新的市场参与者可以从数十家机构公开可获得的合规数据中启动自己的模型，并使搜索和集成更快速、更易获得。大型公司受益于多年积累的数据，但它们需要设计适当的隐私功能。长期以来，合规一直被视为一个由过时技术支持的不断增长的成本中心，LLM将改变这一局面。

LLM通过分析大量数据、生成报告和识别风险模式，提高了合规性和风险管理的效率和准确性。例如，ChatGPT可以帮助审计员自动完成重复性任务。具体来说，它可以生成标准化的报告（如图9-1所示），提供了在呈现结果方面的一致性。

图9-1 ChatGPT生成的样本审计报告简介

资料来源：OpenAI ChatGPT。

再例如，ChatGPT可以自动执行其中一些数据分析任务。审计员可以使用ChatGPT输入数据和问题，然后模型可以分析数据以产生见解、趋势和模式（如图9-2所示）。这可以节省人员手动数据分析所需的时间和精力，使审计员能够集中精力分析发现的问题并得出有见地的结论。

图9-2 ChatGPT在审计报告中进行数据分析的示例简介

资料来源：OpenAI ChatGPT。

LLM可以基于可用数据自动生成结构良好、连贯和信息丰富的金融报告。这些报告可以包括资产负债表、损益表、现金流量表等。这种自动程序不仅简化了报告流程并减少了人工工作量，还确保了报告的一致性、准确性和及时交付。此外，生成式人工智能模型可以用于生成定制的金融报告或根据特定用户需求定制的可视化文件，使其对企业和金融专业人士更有价值。

LLM在生成合规检测报告和风险评估报告应用中的关键方法

数据分析和模式识别：LLM可以分析大规模的金融数据，以识别潜在的风险模式。通过检测异常行为和趋势，LLM可以帮助金融机构快速识别潜在风险。

（外部）风险建模：LLM可以用于建立风险模型，以评估不同类型的风险。同时，LLM还可以分析历史数据和实时市场情况，预测未来可能发生的风险事件。

情报（舆情）收集：LLM可以自动监控新闻、社交媒体、博客和其他开放数据源，以收集与金融市场和风险相关的信息。这有助于金融机构更快地了解潜在的市场影响和风险。

监控市场行为：LLM可以监控市场交易和行为，以识别不正当行为或市场操纵的迹象。例如，分析大量交易数据，检测不寻常的交易模式。

报告生成：LLM可以自动生成风险评估和监控报告。这些报告可以包括有关市场风险、客户风险、合规性和监管问题的信息。

合规性分析：LLM可以帮助金融机构确保它们的业务符合合规要求。例如，分析合同、法规和政策，以确保机构的行为与法规一致。

（内部）风险预测：LLM可以用于预测未来的风险事件，帮助金融机构采取预防措施。例如，分析大量数据，包括市场数据、经济指标和公司绩效，以识别潜在风险。

合规培训和教育

LLM在金融合规培训和教育领域有着广泛的应用。

ChatGPT在培训审计员中的应用

概念知识：审计员可以向ChatGPT询问审计概念、规则和最佳实践。它可以为审计员提供解释和示例，帮助他们理解复杂的主题以及其背后的基本思想。

案例研究：在审计员提供的相关数据的基础上，ChatGPT可以对现实生活中的情况进行建模，并向审计员提供案例研究。利用提供的信息，ChatGPT随后会创建一个包含相关财务数据、文件和可能需要的任何其他元素的假设情况。审计员可以检查和讨论这些情景，以帮助他们发展自身的审计方法或技巧。

回顾和评论：审计员可以向ChatGPT征求对其审计工作或想尝试的策略的评论。他们可以讨论自己得出的结果、方法或答案的想法，并从ChatGPT那里获得建议或批评。审计员在审查中受益于ChatGPT的两种方式（如图9-3所示）。

具体来说，LLM在金融合规培训和教育领域的应用目前主要在三个方面：为合规人员解释业务概念（如图9-4所示）、为合规人员查找风险案例（如图9-5所示）、为合规人员整理培训材料（如图9-6所示）。

案例：LLM成功应用于合规文件审核

某汽车金融公司是一家提供金融服务的机构，包括汽车融资、租赁、保险等。公司需要定期审核各种合规文件，以确保其业务活动符合国际、国家和地区的金融监管要求，从而降低合规风险。

该公司需要定期审核的文件主要有三类：合同文件，包括汽车销售合同、融资租赁合同等；法规和法律文件，包括金融监管法规、法律法规和合同法规；报告和文件，包括年度报告、风险评估报告等。

这些文件需要通过大量的人工去审核分类，为了提升文档审核的效率，该公司采用LLM作为合规文件审核的高效辅助工具。这样一来不仅提高了审核效率，同时也规避了相应风险。

▲图9-3 审计员可以从ChatGPT中获益的两种方式

资料来源：OpenAI ChatGPT。

▲图9-4 LLM为合规人员解释业务概念实例

▲图9-5 LLM为合规人员查找风险案例

▲图9-6 LLM为合规人员整理培训材料

某汽车金融公司采用LLM的具体应用

文件分类和归档：LLM可以自动识别和分类各种合规文件，例如合同、法律文件、报告、备忘录等。这有助于公司将文件归档到正确的类别中，使其更容易被检索和管理。

合规文件摘要和概述：LLM能够自动生成合规文件的摘要和概述，提供文件的关键信息和要点。这有助于公司相关人员迅速了解文件内容，而不必详细阅读整篇文件。

法律条款识别：LLM可以识别和提取合同中的法律条款和其他条款，例如支付条款、保密条款、争议解决条款等。这有助于公司更好地理解合同的法律义务。

风险评估：LLM可以分析文件中的潜在风险，例如合同中可能存在的纠纷风险、法规遵守风险等。这有助于公司更好地管理风险和采取适当的措施。

合规检查：LLM可以执行合规检查，以确保文件符合法规和政策要求，例如它可以识别文件中的合规问题并提供解决建议。

多语言支持：LLM可以处理多种语言的合规文件，帮助公司实现跨国合作与发展。

自定义规则和模板：LLM可以根据特定组织的需求进行定制，以满足其特定的合规要求。这可以包括定义合规规则、创建特定领域的模板等。

合规审查自动化：LLM可以自动执行合规审查工作流程，减少了人工合规审查所需的时间和资源。它还可以自动识别问题并将其交付给合规团队，以便他们进行进一步的审查和决策。

合规报告和跟踪：LLM可以生成合规报告，以显示合规文件审核的结果和发现的问题。它还可以跟踪问题的解决情况，并提供报告以帮助监督合规进程。

总之，LLM在合规文件的审核中可以提高效率、减少错误，并帮助组织更好地管理其合法性。它可以根据特定需求进行定制，以满足不同组织的合规要求，从而为合规工作提供有力的保障。

案例：LLM成功应用在客户服务的合规与合法方面

在金融客户服务方面LLM已经被广泛应用。某银行采用LLM在客户服务相关的业务应用已经涵盖了多个场景，包括账号查询、贷款申请、问题解决、理财产品咨询等。

某银行采用LLM的具体应用

产品信息解释：客户可能需要解释金融产品和服务的条款及条件。LLM可以自动解释复杂的法律文档，将其翻译成易于理解的语言，以帮助客户更好地了解他们购买的金融产品或服务。

账户和交易查询：客户通常需要查询账户余额、交易历史等信息。LLM可以自动回答这些常见问题，提供客户所需的信息，帮助客户迅速解决问题，减少等待时间。

争议解决支持：客户可能会在账户、交易或投资方面遇到问题，需要解决争议。LLM可以提供相关法律建议，帮助客户了解他们的权利，并指导客户采取正确的解决措施。

合规性监测和提醒：LLM可以监测客户支持对话，以确保团队的回答符合法规和政策。它可以检测潜在的合规问题，并在需要时提醒客户服务代表，确保他们的回答是合法合规的。

文件审核和填写：客户可能需要填写各种金融文件，例如贷款申请、投资协议等。LLM可以协助客户审核文件，确保填写正确，符合法规要求。

客户身份验证：LLM可以用于客户身份验证，帮助客户服务团队确认客户的真实身份。它可以分析提供的文件和信息，识别不一致性或可能的身份欺诈，增强客户身份验证的安全性。

自动化响应和快速回复：通过将LLM集成到自动化客户服务系统中，系统可以实现自动化回复客户问题，提供快速且准确的答案，增加客户满意度。

总的来说，LLM不仅可以帮金融机构在客户服务应用中提高客户满意度、提高服务效率，还能确保公司在满足客户需求的同时保持法律合规性。它为客户服务团队提供了一个强大的工具，帮助他们更好地理解和满足客户的法律和合规需求，提供更高质量的服务。

LLM在风险识别和预警中的应用

LLM在风险识别和预警方面有很大的潜力。以“诈骗检测”为例，通过生成欺诈性交易活动的合成示例，生成式人工智能可以用于金融领域的诈骗检测。这些生成的示例可以帮助训练和增强机器学习算法，以识别和区分金融数据中的合法和欺诈模式。对于诈骗模式的更好理解使LLM能够更准确和有效地识别可疑活动，从而更快地检测和防止诈骗。

风险识别和预警的潜力

通过将LLM纳入诈骗检测系统，金融机构可以提高其运营的整体安全性和完整性，减少由于诈骗而造成的损失，保持消费者的信任。除此之外，LLM在金融风险识别和预警方面还有很大的应用潜力。

LLM在风险预测和应对方面的潜在应用

早期风险警示：LLM可以通过分析市场数据和新闻以识别潜在的风险事件。它可以自动监控市场变化并发出早期警示，帮助金融机构更快地采取行动。

市场趋势分析：LLM可以识别市场趋势、价格波动和其他重要指标，这有助于金融机构更好地理解市场动态，预测市场风险。

信用风险评估：LLM可以分析客户信用数据，以识别潜在的信用风险。它可以识别可能的违约风险并帮助金融机构采取措施来降低风险。

操作风险识别：LLM可以帮助金融机构识别内部操作风险，例如内部欺诈、员工错误或系统故障。这有助于金融机构采取预防措施和改进内部流程。

合规性监控：LLM可以监控金融机构的合规性，确保其遵守法规和政策。它可以自动审查合规文件和合同，识别潜在的合规问题。

风险模型开发：LLM可以用于开发各种风险模型，帮助金融机构更准确地评估潜在风险。

合规政策自动更新：LLM可以自动分析最新的法规和法律文本，以帮助金融机构及时更新其合规政策材料库。

风险管理决策支持：LLM可以提供有关如何应对不同风险情景的建议，从而支持风险管理决策制定。

这些潜在应用体现了LLM在金融风险预测和应对方面的多样化潜力。通过自然语言处理和数据分析能力，LLM可以帮助金融机构更好地了解和管理潜在风险，提高合规性并减少潜在的损失。

LLM在风险识别和预警中的应用探索

金融业是数据密集型的行业，也是数字化转型的先锋，对于LLM的开发和应用有着内在的需求。目前已经有一些金融机构及科技公司在这方面做了探索和尝试。金融大模型相较于通用大模型，在金融名词理解、金融市场评论、金融数据分析和金融新闻理解等金融场景任务上的表现可圈可点。

实时风险监测

以ChatGPT为例。通过与审计员互动，讨论组织的活动、控制系统和业务环境，ChatGPT可以帮助审计员评估风险水平（如图9-7所示），确定需要更深入调查的重点领域，并获得有关潜在风险的见解。审计员可以通过模型的知识和技能来提高自身风险评估的准确性和深度。

图9-7 根据模型自身的说法，ChatGPT在实时风险监测中的4种用途

资料来源：OpenAI ChatGPT。

模式识别和异常检测

大型数据集可能会显示出指示危险或异常的趋势、模式或值。例如，ChatGPT可以帮助审计员发现并标记这些异常以供进一步检查。结合人工评估，ChatGPT可以帮助识别潜在的欺诈行为，并增强内部审计功能。审计员可以利用模型的自然语言处理能力，通过提供相关数据并要求其查找奇怪或意外的模式，来揭示可能难以手动识别的潜在风险。

ChatGPT可以生成用于检测异常的Python代码（如图9-8所示）。该代码使用scikit-learn库中的“孤立森林”算法来训练异常检测模型。然后，对数据集中的异常值进行预测，并根据模型的输出确定哪些实例被视为异常。

图9-8 ChatGPT生成的用于检测异常的Python代码

资料来源：OpenAI ChatGPT。

进一步的案例研究表明，ChatGPT已经被测试用以描述诸如重入攻击等问题。

融资项目建设的进度监控

LLM在融资项目建设的进度监控应用实例包括，中国工商银行联合鹏城实验室、清华大学、中国科学院和国内头部科技企业等开发的人工智能金融行业通用模型。这一模型通过训练千亿级参数组成的具备记忆和推理能力的深度神经网络，具备大算力、大数据、大网络结构等技术特点，可快速适配业务场景需求。

中国工商银行利用该模型实现了对工业工程融资项目建设的进度监控，提高了监控精准度并缩短了研发周期。该模型还能帮助银行提升信贷审批效率，通过智能提取期限、利率等核心要素，提高信贷审批的准确率。

识别小微企业主的信贷风险

LLM在识别小微企业主的信贷风险应用实例包括，度小满依托于百度人工智能技术，将预训练大型语言模型应用于金融风险管理。通过用文本数据构造的预训练模型以及AI算法，度小满能够将征信报告解读出40多万维的风险变量，更好地识别小微企业主的信贷风险，并将小微企业主的信贷违约风险降低了25%。

随着模型的迭代，LLM在智能风控上的潜力将被进一步释放。度小满接下来还将通过基于百度文心一言的大模型技术基座结合业务场景积累的金融行业知识和数据进行交互式训练，打造全新的智能客户服务、智能风控、智能交互服务。

为金融专业人士提供更好的决策支持

LLM为金融专业人士提供更好的决策支持的应用实例包括，彭博社团队使用专有的金融数据和公共数据集，创建了一个超过7000亿个Tokens的庞大语料库，并基于此开发了一个500亿的参数模型——BloombergGPT。该预训练大模型能够从金融文本中分辨出情绪和观点，识别关键的金融元素，对新闻文章进行分类，为金融专业人士提供更好的决策支持。同时，BloombergGPT的应用可以帮助金融机构加强风险管理，有效保护客户的财富，提高生产力和决策能力。

未来可以深化应用的场景

金融机构目前面临着来自信用、市场、操作和流动性等多种风险。利用预训练大模型的通用能力，结合大量行业知识和网络数据进行融合分析，可以挖掘和理解金融风险管理业务场景中的隐含信息。未来预训练大模型可以在以下场景进行深化应用，帮助金融机构以更加有效和及时的方式识别和减少风险，提高风险管理的效率。

强化信用风险评估水平

传统的人工智能模型需要对不同业务产品和场景进行分别建模，并且只能使用相对较小的数据集进行训练，这导致了模型的准确性和可靠性不足。相比之下，预训练大模型使用金融、商业、社会和自然语言数据等更广泛的数据背景知识进行预训练，可以快速处理大量的结构化和非结构化金融交易数据，同时通过征信报告、财务状况和行为数据等信息对客户进行信用风险评估。

这种方法可以改变传统的金融产品统一定价的模式，根据每个客户的情况实现差异化定价，从而更准确地评估贷款和信用卡风险，加强早期预警信号检测，提高贷款效率，并最终降低信用违约风险。

减少操作运营风险

当金融机构的操作流程存在人为错误或内部业务流程不完善时，就会发生操作风险，从而导致机构财务损失。为了应对这种风险，预训练大模型可以通过许多自动化流程取代手工流程，在减少人为错误的同时提高工作效率。例如，大型金融机构可以使用预训练大模型来自动化审批过程，减少手动输入和处理错误。

同时，预训练大模型可以系统分析机构内部非结构化业务流程数据，以帮助机构预测和确定风险范围，并优化需要改进的业务流程，提高运营效率，大大降低因人为错误和内部流程不完善而导致的操作风险。

提升声誉风险管理和应对能力

金融机构在网络上发布信息时需要承担声誉风险，因为不当的宣传或错误的信息可能会引起客户的不满和不信任。预训练大模型可以帮助金融机构降低声誉风险，增强客户信任感，提高品牌价值。

一方面，机构可以使用预训练大模型对客户的投诉、社交媒体上的反馈，以及其他渠道中的文本数据进行情感分析和主题分类，从而快速了解客户的需求和反馈，进而改进产品和服务，减少不必要的声誉影响事件。

另一方面，预训练大模型可以用于对机构在网络发布的内容进行识别审查，以识别可能存在的声誉问题，从而规避潜在的声誉影响。

提高监管合规风险管理水平

金融机构必须遵守严格的监管合规要求，否则将会面临法律制裁、财务损失以及声誉负面影响的风险。为了遵守国家和国际法规，金融机构需要审查大量数据文件，分析多个变量，并向相关机构提交准确的文件。预训练大模型可以自动完成这些流程，并确保它们的有效性和准确性符合政府和行业有关数据报告、隐私和安全的规定，避免不必要的处罚成本。

在内部合规方面，预训练大模型可以记录、监测和分析员工电话记录、电子邮件流量、作息时间等信息，识别和提醒内部人员潜在的风险和不当行为，有助于金融机构实现合规监管风险管理的目标。

优化智能投顾与风险决策流程

当今金融市场发展迅速，金融产品层次、交易策略和工具日益复杂，一般投资者难以跟上市场变化的步伐，专业智能投顾的服务需求逐渐增加。预训练大模型能够对金融文本进行整体认知和理解，消除人为的主观因素，提供客观的投资建议，同时也能不断演进和创新，减少对人工审核的依赖，给出风险警示和解决方案。

对于金融机构中的投行和量化投资部门，预训练大模型能够根据各种数据来源生成行业分析和风险报告，并根据机构提供的风险承受水平、收益目标和风格偏好等要求，利用智能算法和投资组合等理论优化模型，为机构提供最终的投资建议，并对市场动态进行资产配置再平衡决策，提高机构资产收益。

改进风险管理

阿古斯资本管理公司是一家由前虚拟银行Tiger Asia的创始人比尔·黄（Bill Hwang）创建的一家美国投资公司。阿古斯的失败案例发生在2021年，其主要原因是使用高度杠杆的金融交易策略，导致了巨大的亏损。

摩根大通在2012年发生的一起金融丑闻，涉及该银行伦敦分部的一名交易员，他因大规模的衍生品交易而造成数十亿美元的亏损。这位交易员的真实姓名是布鲁诺·伊克希尔（Bruno Iksil），但在媒体上被戏称为“London Whale”。

阿古斯（Archegos）和伦敦鲸（London Whale）也许听起来像希腊神话中的生物，但它们都代表了风险管理的非常真实的失败，导致了世界上一些大银行损失数十亿美元。显然，风险管理对许多领先的金融机构而言仍然是一个挑战。

尽管LLM无法完全消除信用、市场、流动性和运营风险，但我们相信这项技术可以在这些风险不可避免地出现时发挥重要作用。从战术角度看，以下是一些我们认为LLM可以帮助推动更高效风险管理的领域。

LLM可以帮助推动更高效风险管理的领域

自然语言处理：像ChatGPT这样的LLM模型可以帮助处理大量的非结构化数据，例如新闻文章、市场报告和分析研究，提供更全面的市场和交易对手风险视图。

实时见解：LLM对市场状况、地缘政治事件和其他风险因素的即时可见性可能使公司更快地适应不断变化的外部环境。

预测分析：LLM能够运行更复杂的场景并提供早期警告，有助于公司更主动地管理风险敞口。

集成：整合不同的系统并利用LLM综合信息可以帮助提供更全面的风险敞口视图，并简化风险管理流程。

更具动态性的预测和报告

除了能够帮助回答金融问题，LLM还可以帮助金融服务团队改善其内部流程，简化其金融团队的日常工作流程。尽管几乎金融的每个方面都有了进展，但现代金融团队的日常工作流程仍然由手动流程驱动，例如Excel、电子邮件和需要人工输入的商业智能工具。由于缺乏数据科学资源，基本任务尚未自动化，因此首席财务官及其直接报告人员在烦琐的记录和报告任务上花费了过多的时间，而他们本应该专注于顶层战略决策。LLM可以帮助这些团队从更多来源中获取数据，并自动化突出趋势、生成预测和报告的过程。

LLM可以帮助财务团队实现任务自动化的示例

预测：LLM可以帮助编写Excel、SQL和BI工具中的公式和查询，以自动进行分析。此外，这些工具可以帮助提取模式并建议来自更复杂数据集（例如宏观经济因素）的预测输入，并建议如何更容易地调整这些模型以支持公司决策。

报告：LLM可以自动创建文本、图表、图形等，而不是手动将数据和分析汇入外部和内部报告中（如董事会报告、投资者报告、每周仪表板），并可根据不同示例自动调整此类报告。

会计和税务：会计和税务团队都要花时间咨询规则并了解如何应用这些规则。LLM可以帮助综合、总结和提供关于税法和潜在扣除方面的答案。

采购和应付款项：LLM可以帮助自动生成和调整合同、采购订单、发票和提醒。

LLM在这些领域的输出当前仍然存在一些限制，尤其是在需要判断或精确答案的领域，而金融团队通常非常需要这样的答案。LLM在计算方面在继续改进，但它们尚不能完全依赖，或者至少需要人工审查。随着LLM迅速改进，以及额外的培训数据和数学模块的增加，LLM的应用将开辟新的可能性。

案例：LLM成功应用于风险评估和预测

某汽车金融公司为客户提供汽车贷款以促进汽车销售。为了最大限度地减少不良贷款，公司需要进行有效的风险评估和预测，以确定哪些客户可能会出现还款问题。公司为了扩大市场份额，不断迭代新的贷款产品，为了提供高效、准确的风险管理解决方案，公司采用LLM技术进行了如下应用。

某汽车金融公司采用LLM的具体应用

信贷合同评估：LLM可以分析信贷合同文本，识别潜在的法律和商业风险。例如，帮助银行或贷款机构评估贷款合同中的条款，例如利率、违约条款、抵押条件等，以确定潜在违规风险。

产品合规性检查：公司推出各种车贷产品，LLM可以帮助评估这些产品的法律合规性。例如，LLM可以分析产品文件，确保产品条款符合法规和监管要求，避免引发法律争议。

合规性报告自动生成：LLM可以自动生成合规性报告，基于金融法规和政策，对金融产品或交易的合规性进行评估。这样的报告可以帮助公司了解其合规性状况，及时采取措施，避免潜在风险。

金融欺诈检测：LLM可以分析客户和交易数据，识别潜在的欺诈行为。通过分析合同文本和客户交流记录，LLM可以帮助公司识别异常模式，及早发现欺诈行为，减少金融损失。

法律风险预警：LLM可以与实时数据源结合，构建法律风险预警系统。当有新的法规、法案或司法判例出台时，LLM可以快速分析这些文本，帮助金融机构了解新的合规要求，预测可能的业务影响，并及时调整业务策略。

法律趋势分析：LLM可以分析金融法律文件和相关案例，帮助公司了解法律趋势。这有助于金融机构在制定产品和服务策略时考虑到未来的法律发展，减少法律风险。

案例：LLM成功应用于欺诈检测

某大型股份制银行为客户提供信用卡服务，需要确保客户的卡片在使用时不受欺诈行为的侵害。欺诈行为包括盗刷、虚假交易、信用卡盗用等。一方面，银行接受个人和商业客户的借款申请，为了确保申请者的诚实和信用，银行需要防止欺诈者可能会提交虚假信息，试图获取未经授权的贷款；另一方面，银行提供投资服务，客户可以购买股票、基金、债券和其他金融资产，银行需要防止欺诈者通过操纵市场、进行内幕交易或欺骗客户导致损失等。为此，该银行通过自然语言处理和机器学习技术来识别潜在的欺诈行为。

某大型股份制银行采用LLM的具体应用

交易分析：LLM可以分析大量的金融交易数据，识别不寻常的模式和行为，这些行为可能会发生欺诈。它可以检测交易中的异常金额、频率、地理位置等因素，并标记可能的欺诈性交易。

合同和文件审查：LLM可以审查合同和文件，例如贷款合同、投资协议等，以识别潜在的欺诈条款或合同中的漏洞。它可以检测虚假陈述、不平衡的权利和义务分配等，有助于防止欺诈性合同的签订。

客户身份验证：LLM可以协助金融机构验证客户身份，识别虚假身份或盗用他人身份的行为。通过分析客户提供的文件和信息，LLM可以检测出不一致性、错误或可疑的模式。

行为分析：LLM可以分析客户的交流记录，如电子邮件、聊天记录和电话录音，以识别不寻常的语言模式或提到欺诈性行为的线索。这有助于及早发现员工或客户可能参与的欺诈活动。

身份盗用检测：LLM可以识别个人身份信息的盗用，例如信用卡盗刷、虚假账户开立等。通过监测交易并与已知的身份信息数据库中的数据进行比对，帮助公司发现可能的盗用行为。

市场操纵检测：LLM可以分析市场交易数据，以检测操纵市场的行为，例如操纵证券价格或市场信息的传播。它可以识别不正常的市场行为，从而有助于预防市场欺诈。

虚假索赔识别：LLM可以分析保险索赔文件，以识别虚假索赔。它可以检测索赔中的矛盾陈述、不一致性和可能的欺诈行为，帮助保险公司减少欺诈索赔的损失。

第十章

实例解析：“天镜”大模型

在金融领域，不管外部如何变化，大模型要做到运用新兴技术达到100%决策安全。

——马上消费首席技术官 蒋宁

“天镜”大模型的关键技术解构

在2023年8月28日举办的“金融大模型发展论坛”上，马上消费发布了全国首个零售金融大模型“天镜”。我们将从数据获取与处理、训练过程、使用过程、效果预测等维度对“天镜”大模型的关键技术进行解构。

数据获取与处理的核心技术

“天镜”大模型的数据主要来源于马上消费在消费金融领域积累的海量优质的日常数据。它采用一种综合方案对海量金融文本数据进行预处理，该方案结合了马上消费沉淀的各种NLP技术，包括但不限于语言模型过滤、脱敏、去重、意图筛选等，使金融领域的海量、高知识密度、高敏感数据得以被安全有效利用。

基于语言模型的过滤

基于语言模型的过滤是一种通过对海量文本数据进行自监督学习从而构建基础语言模型的方法。这种方法可以用于识别并剔除金融文本数据中不通顺或不符合语法规范的部分，从而提高金融大模型数据整体的准确性和可读性。在这个过程中，“天镜”大模型采用了一种具体的方法，即利用语言模型输出的困惑度来衡量金融文本数据的通顺度和语法规范程度。困惑度可以被理解为语言模型预测某个文本序列的困难程度的度量，困惑度越低表示语料的质量越高，反之则越低。

构建基础语言模型需要大量的文本数据作为训练样本。这些文本数据可以是金融领域的新闻、报告、评论以及其他相关文档。通过对这些数据进行自监督学习，语言模型可以学习到文本数据中的统计规律和语义信息。这使得语言模型能够对给定的文本序列进行预测，并生成与之相似的文本。

基础语言模型一旦构建完成，就可以用于金融文本数据的过滤。对于给定的金融文本数据，我们可以使用语言模型来生成与之相似的文本序列，并计算生成序列的困惑度。如果困惑度较低，那么说明生成的文本序列与语言模型的训练数据相似度较高，即通顺度和语法规范程度较高。相反，如果困惑度较高，那么说明生成的文本序列与训练数据的相似度较低，即通顺度和语法规范程度较低。

通过设定一个困惑度的阈值，我们可以将困惑度高于该阈值的文本视为不通顺或不符合语法规范的部分，并将其剔除。这样就可以提高金融大模型数据整体的准确性和可读性。过滤掉不通顺或不符合语法规范的文本，可以确保金融大模型在生成文本时更加准确和可理解。

然而，需要注意的是，困惑度仅仅是衡量文本通顺度和语法规范程度的一种指标，它并不能完全代表文本的质量。在进行文本过滤时，还需要考虑其他因素，例如文本的语义一致性、信息准确性等。因此，在实际应用中，我们需要综合考虑多个指标来进行文本过滤，从而确保金融大模型数据的质量和可靠性。

基于统计方法的过滤

基于统计方法的过滤是一种常用的文本过滤方法，它通过分析文本中的各种统计特征来筛选出质量更高的语料，以供大模型训练使用。这些统计特征可以是标点符号分布、字符与单词比率以及句子长度等。

标点符号分布是一项重要的统计特征，可以用来评估文本的结构和流畅度。在金融文本中，恰当地使用标点符号可以帮助读者理解句子的含义和语义关系。通过分析文本中标点符号的分布情况，我们可以判断文本的语法规范性和逻辑连贯性。例如，如果一个文本段落中存在大量缺失或错误使用的标点符号，很可能会影响文本的可读性和可理解性。因此，基于统计方法的过滤可以通过检查标点符号的分布情况，筛选掉标点符号分布异常的文本，提高语料的质量。

字符与单词比率是另一个常用的统计特征，用于评估文本的复杂性和信息密度。在金融领域，专业术语和复杂的金融概念是常见的，因此金融文本通常具有较高的专业性和技术性。通过分析文本中字符与单词的比率，我们可以推断文本的复杂程度。如果一个文本段落中的字符数量远远超过单词数量，那么就可能存在过多的缩写、符号或其他非常规的文本结构，这可能会降低文本的可读性和可理解性。因此，基于统计方法的过滤可以通过检查字符与单词比率，筛选掉复杂度过高的文本，提高语料的质量。

句子长度也是一个重要的统计特征，可以用来评估文本的组织结构和信息传达方式。在金融文本中，句子通常较长，因为它们需要传达大量的信息和复杂的概念。然而，过长或过短的句子都可能会影响文本的可读性和可理解性。过长的句子可能会导致信息过载，难以理解；而过短的句子可能会缺乏完整性和连贯性。因此，基于统计方法的过滤可以通过检查句子长度，筛选掉过长或过短的句子，从而提高语料的质量。

需要注意的是，统计特征仅仅是衡量文本质量的一种指标，其他因素也需要被考虑。在实际应用中，可以综合考虑多个统计特征和语言模型输出的困惑度等指标，以确保文本过滤的准确性和可靠性。

基于规则和实体识别的数据脱敏技术

为了保护用户的隐私和数据安全，“天镜”大模型采用了基于规则和实体识别的方法，对敏感内容进行识别、脱敏或去除的处理。

在数据脱敏的过程中，“天镜”大模型首先需要识别出文本中的敏感实体，例如姓名、地址、电话号码、身份证号、银行卡号等。为了实现这一步骤，我们可以利用实体识别技术，通过训练模型来自动识别和标注文本中的敏感实体。

当敏感实体被识别出来后，接下来就要对其进行脱敏处理。脱敏的目标是移除或修改敏感信息，以保护用户的隐私。对于姓名，我们可以采用替换或删除的方式进行脱敏，例如将真实姓名替换为匿名化的标识符或通用的占位符。对于地址、电话号码、身份证号和银行卡号等敏感信息，我们可以使用算法对其进行加密或模糊化处理，以确保敏感信息无法被直接识别和还原。

在数据脱敏的过程中，我们需要制定一套严格的规则和策略，确保敏感信息的脱敏处理符合相关的法律法规和隐私保护要求。这些规则和策略应包括数据访问权限的控制、数据脱敏的算法和方法选择、数据处理过程的审计和监控等。通过遵循这些规则和策略，我们可以最大程度地保护用户的隐私和数据安全。

需要注意的是，数据脱敏技术并非一劳永逸的解决方案。随着技术的不断发展和攻击手段的不断演进，数据脱敏技术也需要不断更新和改进，以适应新的隐私保护需求，应对新的威胁。因此，我们需要密切关注隐私保护领域的最新研究成果和技术进展，及时更新和优化数据脱敏的方法和策略，以确保金融大模型数据的安全性和可靠性。

基于简单规则和NLP技术的语料去重技术

基于简单规则和NLP技术的语料去重技术在金融大模型的语料处理中具有重要意义。语料库中存在大量的重复数据会导致生成文本的多样性降低，并可能引起训练过程的不稳定。为了解决这个问题，“天镜”大模型采用了句子级别和文档级别的去重策略，利用规则和简单的n-gram匹配方法来删除重复的句子和相似的文档。

针对句子级别的去重，我们可以利用规则和n-gram匹配的方法来识别和删除重复的句子。通过将语料库中的句子进行分词和n-gram化处理，我们可以将每个句子表示为一系列的n-gram片段。然后，通过比较不同句子之间的n-gram片段可以判断它们的相似度。如果两个句子之间的相似度超过了预设的阈值，就可以判定它们是重复的句子，并将其中一个句子删除。这样可以有效地减少语料中重复的内容，提高文本生成的多样性。

对于文档级别的去重，我们可以采用类似的方法来识别和删除相似的文档。通过将语料库中的文档进行分词和n-gram化处理，我们可以将每个文档表示为一系列的n-gram片段。然后，通过比较不同文档之间的n-gram片段，我们可以计算它们的相似度。如果两个文档之间的相似度超过了预设的阈值，就可以判定它们是相似的文档，并将其中一个文档删除。这样可以减少语料中的重复文档，提高文本生成的多样性。

需要注意的是，我们的目标是去除文本中的重复句子和文档，而保留意思相同但说法不同的语料。因此，我们不会采用深度语义模型来检测重复情况。深度语义模型可能会将意思相同但表述不同的句子或文档误判为重复，从而导致有用的语料被错误地删除。为了避免这种情况，“天镜”大模型选择了简单规则和n-gram匹配的方法，它们更加直接和可控，能够准确地识别和删除重复的句子和文档。

基于意图识别的语料筛选技术

基于意图识别的语料筛选技术在金融大模型的语料处理中具有重要作用。为了提高数据质量和金融大模型的训练效果，“天镜”大模型采用了基于小型预训练模型微调的方法来构建金融领域的意图识别模型。通过深度分析语料中的各个意图类型，我们可以剔除无效或有毒意图的相关数据，从而提升数据质量和金融大模型的训练效果。

首先，我们需要构建一个金融领域的意图识别模型。为了实现这一目标，我们可以利用小型预训练模型，例如BERT、RoBERTa等，通过微调的方式来训练一个专门用于金融领域的意图识别模型。

接下来，我们可以利用这个意图识别模型对语料进行分析和筛选。通过将语料输入到意图识别模型中，我们可以获取每个句子或文档的意图标签。根据意图标签，我们可以判断语料的意图类型，例如询问账户余额、申请贷款、投资咨询等。在金融领域，有些意图可能是无效的或有毒的，例如欺诈、诈骗等。这些意图可能会对金融大模型的训练效果和应用结果产生负面影响。因此，我们可以根据需要，将包含无效或有毒意图的相关数据从语料中剔除，从而提高数据质量和金融大模型的训练效果。

意图识别模型的构建和语料筛选过程需要考虑的几个方面

1. 选择适合金融领域的预训练模型，并通过微调来适应金融任务的特定需求。

2. 对于意图的定义和标注，需要结合金融领域的实际情况和任务要求，以制定准确和全面的意图类型。

3. 对于无效或有毒意图的判断，需要借助专业人员的知识和经验，结合法律法规和道德准则对其进行评估和决策。

4. 语料筛选过程需要进行充分的验证和评估，确保剔除的数据不会对金融大模型的训练和应用产生负面影响。

只有通过合理的语料筛选和优化，我们才能更好地训练金融大模型，提升其在金融领域的应用效果和性能。

训练过程的核心技术

“天镜”大模型训练过程的核心技术主要包括大模型预训练、高效模型精调和基于人工反馈的强化学习。

大模型预训练

预训练是LLM获取能力的基础。通过在大规模语料库上进行预训练，LLM可以获得基本的语言理解和生成能力。在这个过程中，预训练语料库的规模和质量对于LLM获得强大的能力至关重要。此外，为了有效地预训练LLM，也需要设计好模型架构、加速方法和优化技术。

预训练任务：预训练任务旨在基于给定序列（x={x1，……，xn}）中前i个Token，自回归地预测目标Token。通常的训练目标是最大化似然函数，公式：L_LM（X）=∑_（i=1）^nlogP（x_i|x_（＜i））。

训练参数设置：主要包括批量训练、学习率、优化器和训练稳定性等。

可扩展的训练技术：主要包括数据并行、流水线并行、张量并行、ZeRO、混合精度训练等。

高效模型精调

对于普通大众来说，进行大模型的预训练或者全量微调遥不可及。这也导致了一些研究人员难以复现和验证先前的研究成果。为了解决这个问题，研究人员开始研究PEFT技术。

PEFT技术旨在通过最小化微调参数的数量和计算复杂度，来提高预训练模型在新任务上的性能，从而降低大型预训练模型的训练成本。其核心技术主要包括Adapter-Tuning、Prefix-Tuning、Prompt-Tuning、P-Tuning、LoRA、QLoRA等。

基于人工反馈的强化学习

在GPT-3基础上，引入“人工标注数据+强化学习”（RLHF）来不断微调模型，流程如图10-1所示。其主要目的是让模型学会理解人类命令、指令的含义（如生成类问题、知识回答类问题、头脑风暴类问题等不同类型的命令），以及让模型学会判断对于给定的Prompt输入指令（用户的问题），什么样的答案是优质的。

图10-1 RLHF算法流程图

资料来源：L.Ouyang, J.Wu, X.Jiang, D.Almeida, C.L.Wainwright, P.Mishkin, C.Zhang, S.Agarwal, K.Slama, A.Ray, J.Schulman, J.Hilton, F.Kelton, L.Miller, M.Simens, A.Askell, P.Welinder, P.F.Christiano, J.Leike, and R.Lowe，“Training language models to follow instructions with human feedback，”CoRR, vol.abs/2203.02155，2022. 马上消费人工智能研究院。

在这个过程中，还涉及SFT、RM、RL等技术。

使用过程的核心技术

“天镜”大模型使用过程主要在幻觉消除、安全保障两个方面进行了技术探索和实践。

幻觉消除

对大模型生成的错误内容进行分类和统计，可能导致幻觉的原因包括知识记忆、知识调用和知识推理，针对不同类型的幻觉可以采取不同的优化方案。基于信息抽取（Information Extraction, IE）的方案，将知识限定在可以用三元组表示的关系和事件上。基于IE模型对大模型生成内容抽取关键知识，并使用数据库等方式进行验证。

基于自然语言推理（Natural Language Inference, NLI）的方案，通过NLI模型评估原始输入中是否蕴含大模型生成内容，从而评估是否出现了幻觉。

基于检索的主动检测幻觉并消除。由IBM研究员库什·瓦尔什尼（Kush Varshney）等人提出的在生成过程中主动检测和缓解幻觉的方法，这项工作首先利用模型输出的概率值来识别可能的幻觉候选，通过验证程序检查其正确性，从而减轻发现的幻觉，然后继续生成过程。整体流程（如图10-2所示）：给定输入，迭代从大模型生成的句子，并且检测和消除幻觉。

图10-2 幻觉检测流程图

资料来源：Neeraj Varshney, Wenlin Yao, Hongming Zhang, Jianshu Chen, Dong Yu.A Stitch in Time Saves Nine：Detecting and Mitigating Hallucinations of LLMs by Validating Low-Confidence Generation.https：//arxiv.org/abs/2307.03987. 马上消费人工智能研究院。

在检测阶段，首先识别重要的概念，计算模型对它们的不确定性，然后通过检索相关知识来验证这些不确定概念的正确性；在消除阶段，使用检索到的知识作为证据用于修正幻觉的句子。该方案在文章生成任务上用实验证明了检测和减轻技术的有效性，其中检测步骤实现了88%的召回率，缓解步骤成功解决了57.6%正确检测到的幻觉，并且即使在检测步骤错误检测到幻觉的情况下（即假阳性）也不会引入新的幻觉。另外该方法在GPT-3上的应用，成功将幻觉值从平均47.5%降低到14.5%。

零资源黑盒幻觉检测（SelfCheckGPT）。SelfCheckGPT由剑桥大学波萨维·马纳库尔（Potsawee Manakul）等人提出（如图10-3所示）。

图10-3 SelfCheckGPT流程图

资料来源：Potsawee Manakul, Adian Liusie, Mark J.F.Gales.SelfCheckGPT：Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models.https：//arxiv.org/abs/2303.08896. 马上消费人工智能研究院。

以往的幻觉检测要么依赖输出概率分布（类似于ChatGPT的系统是不可用的），要么依赖外部数据库，这些数据库往往需单独设计且通常使复杂的模块与模型进行交互，而SelfCheckGPT则是一种简单的零资源简单抽样方案，可以在零资源的情况下用于黑盒模型的幻觉检测。

SelfCheckGPT的一个核心观念是，如果LLM了解某个概念，那么生成的回复很可能是相似且包含一致的事实，然而对于幻觉的内容，随机采样生成的回复很可能是自相矛盾的。因此可以通过从LLM采样多次回复，通过不同回复之间信息的一致性，来确定哪些回复是真实的，哪些回复产生了幻觉。

SelfCheckGPT采用了三种用于评估信息一致性的方法：BERT打分、问答和n-gram。实验证明SelfCheckGPT在句子和段落级别上对LLM幻觉评估非常有效，该方法适用于任何LLM以及任何由LLM提示生成的文本，且无需任何外部资源。

基于推理干预策略的幻觉消除。哈佛大学的计算机科学家肯尼斯·李（Kenneth Li）等人提出了推理时干预（Inference-Time Intervention, ITI）策略。作者认为LLM内部存在隐藏的、可解释的结构，这些结构与事实性息息相关，因此可以通过干预推理过程使LLM生成符合事实的内容。ITI在推理过程中将模型激活值调整到部分事实相关的注意力方向。实验证明这一干预显著提高了TruthfulQA上38个子类别中大多数指标的真实性（如图10-4所示）。

图10-4 TruthfulQA数据总览

资料来源：Kenneth Li, Oam Patel, Fernanda Vi égas, Hanspeter Pfister, Martin Wattenberg.Inference-Time Intervention：Eliciting Truthful Answers from a Language Model. 马上消费人工智能研究院。

此外，ITI对计算资源影响很小，RLHF之类的方法需要大量的标注数据，而ITI仅需要几百条标注数据即可以提高模型的真实性。

安全保障

ChatGPT等生成式大模型本质上是基于深度学习的大模型，所以它们也面临着人工智能安全方面的诸多威胁，针对内容安全的细分维度伴随而来产生出对应的解决技术，具体细分维度包括模型窃取攻击、数据窃取攻击、对抗攻击、后门攻击、提示词（Prompt）攻击和数据投毒。

防范大模型窃取攻击：模型窃取指的是攻击者依靠有限次数的模型询问，得到一个和目标模型的功能、效果一致的本地模型。

防范大模型窃取攻击的技术实践

利用模型加密技术，设置没有密钥就无法访问模型的内部结构和参数。

通过对抗训练，增加模型对利用模型知识进行攻击的鲁棒性。

通过声纹提取技术提取模型的声纹特征，用于识别语音是否被复制。

将模型分割为多个模块，每个模块只包含部分知识，增加从整个模型中窃取知识的难度。

将模型训练和推理（inference）部署在安全的计算环境中，可以防止窃取过程中的内存导出（dump）攻击。

在模型内嵌入唯一水印，用于跟踪和鉴别模型来源，同时数字签名可以检测模型是否被篡改。

在推理时进行运行时安全监测，检查输入是否恶意利用模型。

防范数据窃取攻击：数据窃取攻击指的是通过目标模型的多次输出去获取训练过程中使用过的数据的分布。如果攻击者能够知晓GPT模型训练过程中使用过的数据是哪些，就有可能会造成数据隐私损害。

防范数据窃取攻击的技术实践

将数据存储和训练计算保存在安全可控的环境内，例如专用机器或私有云，外部无法直接访问数据。

使用SGX等技术在受保护容器内训练，防止内存泄露攻击窃取数据。

模型参数化，只公开经过处理的模型参数而不是原始数据，减少外部利用训练数据的可能性。

使用加密技术对静态存储的数据进行保护，需要解密才能使用。

在不同组织之间实现分布式私有训练，而不是集中共享敏感数据。

将测试集与训练系统隔离存储，减少测试数据泄露的风险。

防范大模型对抗攻击：对抗攻击指的是给原本的输入增加一些不易受到人类感知的扰动，从而引起目标模型的输出错误。在图像、文本、语音等多模态数据上均有对抗攻击的案例。

防范大模型对抗攻击的技术实践

在训练过程中人为加入一定量规模和强度的对抗样本，使模型学习到攻击样例并提高其对攻击的容错能力。

在瓶颈（Bottleneck）部分采用温度计编码（Thermometer decoder）以提高模型对对抗样本的鲁棒性。

噪声（noise）抗擦除，加入一定量噪声防御对抗攻击产生的细微扰动。

将多个在不同条件下训练的模型融合使用，提高整体鲁棒性。

激活函数设计，选择一些非线性强的激活函数（如ReLU），可以较好地抵御一些对抗攻击。

输入保护，对输入数据进行预处理规范化，过滤掉明显的非法输入，增加对抗样本成功的难度。

嵌入水印用于监测模型是否被用于进行攻击，并及时调整防御策略。

持续改进模型结构提高鲁棒性，降低被利用成本。

防范大模型后门攻击：在后门攻击中，攻击者会给输入的数据贴上特定的触发器。在数据具有触发器的时候，常常会引起模型的输出错误；而没有触发器的时候，则模型运行正常。

从触发器的角度看，主要可以分为两类方法：静态攻击和动态攻击。其中静态攻击的触发器定义为某个特定的形态，例如在图像分类任务中图片上的一块特定样式的像素；而动态攻击的触发器定义为针对整个数据空间的扰动，例如在图像分类任务中覆盖全图的噪声扰动。

后门的植入可以通过数据投毒或者模型修改等来实现。后门的形状各异，难以检测。不仅如此，后门触发器的位置也难以探测，可能只在某个特定区域放置触发器才会引起错误。

防范大模型后门攻击的技术实践

在模型内嵌入唯一水印，可以用于验证模型完整性是否被篡改，而且数字签名也可用于追踪和鉴别模型来源。

异常检测，对模型在线执行过程进行监控，一旦检测到异常输入或输出即判定可能存在攻击。

输入弹道限制，对模型输入加限制过滤，仅允许特定格式或含义的合法输入，阻止利用后门的非法激活。

模型分割，将模型分割成模块，降低单个模块被利用的风险，为后门设计的某个模块如果被隔离，则后门效果受限。

灾备机制，备份多版本模型，发现后门后快速回滚到安全版本。

使用安全计算技术保护运行时的环境，确保不会被窃取内存等信息实施攻击。

多方验证，同行评审与多家机构联合验证检测模型是否存在后门结构。

防范大模型提示词（Prompt）攻击：提示词的构建使得预训练大模型能够输出更加符合人类语言习惯和理解逻辑的结果，但是不同的Prompt模板依旧有可能会导致一些安全问题和隐私问题。例如利用特殊设定的Prompt模版或对话去诱使ChatGPT输出错误的答案，或者诱使ChatGPT输出一些与隐私相关的数据。

防范大模型提示词攻击的技术实践

在训练过程中加入特制的攻击Prompt，让模型学习区分真实Prompt和欺骗Prompt。

提取模型响应不同Prompt的声纹特征，可以识别语音是否被用于进行攻击。

对Prompt内容进行过滤，仅允许白名单内的合法语义内容存在。

异常检测，监测模型响应是否呈异常状态，一旦发现异常立即自我修复或报警。

对话管理，中断对话或引导话题转向，避免模型长时间处于危险状态。

对敏感词语和个人信息进行过滤隐藏。

防范大模型数据投毒：在通常的AI安全中，数据投毒指的是在训练数据中插入攻击者特殊设定的样本，例如输入错误的标签（label）给数据，或者在数据中插入后门触发器等。

防范大模型数据投毒的技术实践

数据完整性检查，对数据进行哈希校验，一旦数据发生变化就能检测出来。

数据访问控制，限制对数据的读写访问，只允许授权人员修改，同时记录数据访问日志以追踪非法操作。

数据加密存储，对静态数据进行加密存储，需要解密后才能读取和使用，这样可以防止数据文件被直接篡改。

模型训练过程监控，对模型训练过程设置监控，一旦发现训练结果异常就需要暂停训练并检查数据。

模型拆分，将模型分解为多个模块训练，每个模块只使用一部分数据，降低单点数据破坏的影响。

多源数据融合，从多个来源获取数据进行训练，使得一定范围内的数据破不至于影响最终结果。

重复训练，对怀疑数据进行重新训练，结果与原训练一致则表明数据无毒。

“天镜”大模型的效果预测

“天镜”大模型的效果评测分为线下和线上两种模式，然后综合各种评测得分，希望对模型效果进行相对客观的评价。

线下评测

线下评测分为人工定性评测和大规模自动化定量评测两种。

人工定性评测

评估方式：让大模型根据测试集题目进行内容生成，组织评委会对生成的内容进行打分。

测试集构成：146条马上消费电话销售场景的客户异议问题，涵盖了该场景中的所有核心问题。

评委会构成：至少需由5名人工电话销售坐席、5名电话销售业务产运人员、5名NLP及大模型算法开发人员构成。

评分规则：生成内容不合格得0分，合格得1分，在合格的基础上话术优秀得2分。

大规模自动化定量评测

大规模自动化定量评测方法如表10-1所示。

通用基础能力：对模型的语言表达、安全性等基础能力进行考察。

信息准确性：基于客户信息，对大模型生成话术中信息的准确性进行评价。

预测速度：对大模型推理速度进行评测资料来源。

线上AB评测（AB Test）

AB Test对象：电话销售大模型和人工电话销售进行效果对比、电话销售大模型和传统智能电话销售进行效果对比、电话销售大模型不同版本间相互进行效果对比。

AB Test指标：主要包括提现发起率、单产、接通后提现发起率、接通后单产等业务核心结果指标。

AB Test结果可信最低要求：在测试组与对照组的客群同质的前提下，测试周期覆盖至少一个完整的营销周期，且总接通用户量≥1万。

评估标准：差异≥±3%显著，否则AB Test结论无效。

表10-1 定量测评

“天镜”大模型的实战应用

“天镜”大模型作为国内首个零售金融大模型，已经在金融领域的多项业务中应用，并且效果显著。

“天镜”大模型在金融营销中的应用

针对大模型在金融营销场景落地难的问题，“天镜”大模型通过对营销大模型的数据筛选、预训练、高效微调、快速对齐、场景适配、幻觉消除、安全合规和推理加速等关键技术的研究，实现了金融大模型训练、调优、适配和推理加速的技术突破，构建了个性化、讲事实、安全合规的金融营销大模型（如图10-5所示）。

图10-5 “天镜”营销大模型的技术架构图

资料来源：马上消费人工智能研究院。

“天镜”营销大模型采用了隐私处理技术、大模型数据质量保障技术、RLHF排序标注等多种数据加工技术，对行业数据、用户全生命周期数据等各类数据进行加工处理。同时，“天镜”营销大模型具备全底层算法及技术的自研能力，为大模型在垂直领域的落地保驾护航，包括但不限于：安全算法、大模型优化压缩、数据增强、对抗训练、分布式部署训练稳定性保障技术、大模型知识增强技术、主动&去噪学习技术、LoRA/QLoRA、Prefix-Tuning、RLHF、IFT/IT、CoT、Compacter/KronA/MAM、In-context-Learning自优化等。在部署计算能力方面，“天镜”营销大模型采取了算子并行、流水线并行、数据并行、量化技术、计算图优化、算子融合等策略。

“天镜”大模型在马上消费营销场景下的应用，主要体现在电话销售场景中。电话销售从诞生之初就依赖于通信技术的进步和发展（如图10-6所示）。

图10-6 电话销售行业发展流程图

资料来源：马上消费人工智能研究院。

伴随着大模型的横空出世，呼叫中心正在加速向高度自动化和深度智能化迈进，为电话销售行业带来新的增长机会。随着基于大模型的电话销售的兴起和AGI的临近，电话营销能够更加及时、准确、拟人地解决客户的问题和需求，大幅提升了客户满意度和对企业的忠诚度，提供了更优质的服务，提升了销售效益。同时，智能电话销售对人工座席的大面积替代，大幅降低了企业的运营成本，使企业可将解放出来的人力用到更需要人的地方。

人工电话销售和传统智能电话销售的弊端

人工电话销售与传统智能电话销售的弊端如图10-7所示。

图10-7 人工电话销售与传统智能电话销售的弊端

人工电话销售的弊端

外呼效率低下，人力成本高：人工坐席的外呼效率受限于个人状态、工作环境、自动分配系统能力、名单分配策略等多种因素的综合影响，往往无法保证持续不断的高质量外呼作业。同时，人工坐席的招聘、管理、工资、激励成本较高，而且人员流动率高，导致整体成本居高不下。

能力参差不齐，培训成本高：人工坐席从业者主要是低学历的社会底层年轻人群，其个人能力参差不齐，综合素质普遍较低，培训的成本较高。

合规监督困难，投诉风险高：由于某些人工坐席人员的个人品行不佳、说话习惯不良，以及对公司培训要求的合规内容掌握不到位等因素，导致客户投诉率较高，且人员流动越大、管理越薄弱的公司，投诉风险越高。

传统智能电话销售的弊端

话术死板，客户不耐烦：传统智能电话销售的所有话术均为固定配置，对不同客户的个性化问题非常容易答非所问，同时由于照顾不到客户的情绪，一味地自说自话，容易导致客户不耐烦，影响客户满意度。

配置复杂，运营成本高：传统智能电话销售需要进行大量话术剧本配置，并且当营销策略发生变动时，需要对已配置的海量话术剧本进行维护，工作量大，运营成本高。

灵活性差，转化率低下：传统智能电话销售的话术配置难以完全应对复杂多变的营销场景，也无法快速响应营销策略的更新，导致转化率低下，造成大量客户资源的浪费。

“天镜”大模型在电话销售场景中的应用优势

传统智能电话销售，高度依赖于人工，对话分析、话术剧本、NLP小模型训练都需要人工参与，效果受限于长期的人工维护；与之相对应的是，“天镜”大模型电话销售采用端到端的模型架构，无需人工参与，大幅降低了人工成本，营销效果得以持续保障，营销转化率得以持续提升。

相比人工电话销售和传统的智能电话销售，“天镜”大模型电话销售在成本、效率和安全合规保障上存在明显优势（如图10-8所示）。由于“天镜”大模型电话销售拥有优秀的个性化营销能力，其业绩达成能力明显优于传统智能电话销售和大部分人工电话销售坐席人员，但其综合研发、部署、运维成本与传统智能电话销售差不多，且远低于人工电话销售，安全合规能力远高于人工电话销售。

图10-8 “天镜”大模型电话销售的优势

资料来源：马上消费人工智能研究院。

“天镜”大模型电话销售在实际应用中，无论是过程指标还是业务结果指标均有明显提升（如图10-9所示）。

“天镜”大模型在电话销售场景中的应用模块

多轮对话：能够与用户进行多轮营销话题交互，理解并回应用户在对话中的提问和要求，从而完成复杂的营销任务或提供连续的产品信息。

图10-9 “天镜”大模型电话销售的技术指标

资料来源：马上消费人工智能研究院。

文档理解：通过分析和理解文档的结构、内容和语义，能够从中提取关键信息并将其转化为模型可以处理的形式。这种能力使得大模型能够理解并回答用户关于文档内容的问题，提供有关特定营销主题的详细信息，或者根据用户的需求生成相关的营销文本。

智能决策：能够根据用户的需求和情境，利用大量数据和知识，自动做出合理且最优的营销决策。

用户理解：能够通过分析用户输入的语言和情境，理解用户的意图、需求和情感，从而更好地满足用户的需求并提供个性化的营销服务。

小样本快速学习：“天镜”大模型在仅需少量样本的情况下，能够快速地适应和学习新的营销任务和产品知识。

“天镜”大模型在电话销售场景落地的最后一公里

幻觉检测：“天镜”大模型采用创新的端到端幻觉检测解决方案，根据幻觉的严重程度以及再次出现幻觉的程度来采取不同的处理方案（如图10-10所示）。

图10-10 “天镜”大模型在电话销售中的幻觉检测解决方案

安全合规：主要包括数据采集安全、数据处理安全、内容生成安全三个方面。在数据采集安全方面，主要采取安全数据集、数据源可追溯、数据版权保护等策略；在数据处理安全方面，主要采取数据可用性、数据多样性、数据无偏性、数据去毒等策略；在内容生成安全方面，主要采取前置处理器和后置处理器策略。

“天镜”大模型在辅助数据分析中的应用

基于马上消费内部的需求特点和在大模型领域积累的经验，“天镜”大模型的落地基于NL2SQL（Natural Language to SQL）的辅助数据分析。

NL2SQL

NL2SQ是一种将自然语言查询转换为结构化数据库查询语言的技术，旨在实现从自然语言查询到结构化查询的自动转换，允许用户以自然语言形式输入查询，即直接与数据库系统交互。提高数据处理效率，通过使用自然语言查询，用户无需编写复杂的SQL代码，只需用自然语言描述所需的数据，即可快速获取结果。这大大降低了数据处理的时间成本和人力成本。

NL2SQL技术使得非专业人士也能轻松进行数据分析，提高了数据分析的普及率。同时，对于专业数据分析师来说，可以节省大量的编码时间，让其能够专注于更高层次的数据分析任务。

NL2SQL技术将自然语言查询转换为结构化查询，因此可以在一定程度上防止恶意攻击者利用SQL注入等攻击手段窃取或篡改数据，提高了数据安全性。

具体到辅助数据分析场景中，“天镜”大模型的应用如图10-11所示。

数据库查询目标。

图10-11 “天镜”大模型在马上消费辅助数据分析中的应用

资料来源：马上消费人工智能研究院。

“天镜”大模型在辅助数据分析中的应用优势

无须指定目标表。实际业务场景的需求与学术公开数据集之间存在差异，学术公开数据集一个很强的假设是已知当前用户输入涉及的所有库表。而实际应用场景中数据库表的数量高达数万，面对数量庞大的候选表，用户没有能力提供具体的目标表，况且寻找合适的表本身也是数据分析任务的一大痛点。“天镜”大模型采用端到端的思路来处理NL2SQL任务，具体包括检索和生成两大功能模块，使用者输入查询需求即可获得系统输出的对应SQL语句。

具备多表查询、嵌套查询等复杂SQL的生成能力。满足实际业务需求，模型需要具备编写多表查询、嵌套查询等复杂SQL的能力。而具体的外键关联关系对于使用者是一个黑盒，使用者只需要专注于数据分析的查询需求，具体是否需要多表查询以及如何关联外键由模型决策判断。

支持字段推理。日常的数据分析工作需要对字段进行加工，计算销售额的同比增长率需要计算当期和上年同期相比较的增长率。“天境”大模型具备类似字段推理的能力，能够理解文本中所需的列名和实体信息，并构造正确的连接条件和加工逻辑。

支持知识库拓展，处理好金融业务需要理解相关术语和先验知识。“天境”大模型在辅助数据分析时，无需使用者向模型解释这些先验知识，这些知识通过预训练和知识库的形式提供给“天境”大模型，使用者不必担心“天境”大模型的金融业务知识能力，只需要专注于高阶的数据分析任务。知识库拓展带来的另一个优势是方便知识的更新和修正，知识通过提示的形式注入大模型，知识的更新与模型参数的更新过程解耦，能够快速响应知识库的变更，并且具有更好的解释性。

日志挖掘能力。在数据仓库平台上，“天镜”大模型拥有大量的SQL执行日志。这些日志不仅能够为模型提供宝贵的后验信息，还可以帮助模型在一定程度上了解用户的查询习惯以及数据库表结构的变化。然而，随着时间的推移，一些原本设计的表结构可能已经不能再满足当前的数据处理需求，导致其中的一些字段变得相对冷门，对后续的SQL生成过程产生冗余影响。通过分析日志记录，模型可以有效地识别并剔除这些冗余信息，从而提升整体的提示质量。此外，在外键关联关系的处理方面，模型也能够借助日志中的相关信息来获取完整的对外键关联关系的统计。这将有助于构建一系列辅助图表，作为外部知识注入系统，成为系统的重要组成部分。如此一来，模型的联合查询便能充分考虑到用户查询的需求、语义描述以及历史上的关联关系，从而大大提高关联查询的准确性。

在模型层面，“天镜”大模型也做了针对性优化，依赖马上消费内部积累的大量SQL查询日志，我们做了大量数据清洗和整理的工作，在“天镜”大模型基础上进一步进行了全参数微调训练，提升了遵循指令输出的能力。“天镜”大模型仅输出SQL不产生额外的SQL注释，并且进一步提高了大模型的SQL生成能力。额外的幻觉显著减少，确保生成SQL的字段遵循提要（schema）中提供的字段信息而不是凭空想象的。

“天镜”大模型在坐席实时辅助中的应用

金融领域传统的呼叫中心坐席存在各种问题。从管理侧来说，新手岗前培训难，知识与能力传递率低，人员技能提升慢，离职率较高；从坐席侧来说，业务知识繁杂，培训周期长，业务变更后很难立刻知晓，而新手坐席面对复杂业务及客户的个性化诉求无所适从，经验不够导致响应慢，客户满意度低。

通过现场调研发现，坐席在服务客户的过程中主要依赖知识库查找、输入法快捷回复语等。知识库主要由公司知识运营团队运营维护，坐席在使用过程中需要事先了解一些基本知识点再去搜索，然后编辑相应话术回复客户，整个流程耗时较长。而输入法主要承接于上一任使用过此电脑的同事或者导入其他同事的输入法内容。我们通过对20位坐席的输入法快捷语进行抽样查看，发现其存在话术不通顺、标准不统一、知识陈旧等问题。

由于大模型具备通用性强、生成内容流畅通顺、能进行连续多轮对话且回答更生动拟人、更自然有逻辑等优势，“天镜”大模型选取了坐席实时辅助场景做落地尝试（如图10-12所示）。

图10-12 “天镜”大模型在马上消费坐席实时辅助中的应用

资料来源：马上消费人工智能研究院。

在前期实验阶段，基于30万条人工坐席历史会话语料数据及20位坐席快捷回复语语料库，大模型针对呼叫中心坐席回复客户场景进行了微调。目前来看大模型已初步具备了流畅应答客户问题的能力（如图10-13所示）。这也说明了大模型可以处理更小、更复杂的数据集，并且表现不错。

当然，在实际落地过程中，“天镜”大模型也遇到了很多困难与挑战。例如，大模型生成话术的合规性和准确性；某些应答场景（如提前结清、还款查询等场景）中，坐席答复内容与用户基本信息、账务数据有强关联，大模型如何在应答话术中准确对接业务系统并填充业务参数；如何改变坐席原有的操作习惯，例如高度依赖输入法收藏的快捷语的习惯；大模型推荐话术如何覆盖更新知识点的知识更新问题等。

以上问题有些已经解决，例如通过增加后处理方式来保证话术合规准确，通过训练数据的标注和强化学习来解决知识更新问题等；但幻觉、大模型的可解释性等仍是大模型需要持续优化并克服的难题。

图10-13 “天镜”大模型在呼叫中心坐席多轮交互效果

资料来源：马上消费人工智能研究院。

“天镜”大模型在贷后管理中的应用

贷后管理是金融机构信贷业务风险管控的最后一道防线。良好的贷后管理手段，不仅能为金融平台的可持续发展保驾护航，还能在客户服务模式变革上实现弯道超车，从而在激烈的行业竞争中占据先机。

近年来人工智能技术贷前、贷中、贷后管理中的应用被提升到了一个新的高度，结合人工智能、大数据等新一代技术，配合贷后管理团队制定合理的贷后策略，针对不同用户的具体情况制定个性化、精准化的方案，是直接关系到贷后管理效益好坏的重要内容。智能机器人的出现已成功在流程自动化和客户服务上提供了更高效、优质的工具，大模型的出现将能进一步从预测能力和事后分析上提高风险管理和决策水平。

传统的贷后管理模式

各大金融行业的贷后管理通常涉及客户与IVR（Interactive Voice Response，互动式语音应答）机器人、坐席、坐席管理者在还款管理、逾期账户处理、客户服务与支持、贷款重组、欺诈检测、客户关系管理、合法性和法规遵守等业务场景中的交互。

贷后管理常见范式

还款管理：管理客户的贷款还款，包括收集还款、处理还款延期请求、设立自动还款计划等。

贷款账户监控：定期审查客户账户，确保还款按计划进行，监测潜在的逾期风险。

客户服务与支持：提供客户支持，回答客户疑问，协助解决问题，为客户提供相关信息和支持。

贷款重组：对于客户可能无法按计划还款的情况，制定贷款重组计划，重新安排还款条件以满足客户需求。

欺诈检测：监测客户信息，以确保信息的准确性和真实性，并识别潜在的欺诈行为。

客户关系管理：建立和维护持久的客户关系，以提高客户满意度、忠诚度和口碑。

合规性和法规遵守：确保贷后管理部门遵守金融行业的法规和合规性要求，以保证合法性和透明性。

在以上贷后策略管理环节中，与逾期用户的沟通协商一直是非常关键的环节。短信沟通、电话沟通、委托外部处理等方式是目前常采用的业务手段，而其中的电话沟通环节对于贷款机构来说，是三个主要方式中最能发挥最大主观能动性的环节。其重点工作可分为两大部分：通过IVR机器人与客户进行沟通、人工坐席直接与客户进行沟通。

两种跟进沟通均旨在通过一对一的沟通方式与用户建立良好的沟通环境、深入了解用户的经济现状、快速知晓用户的当前难点，从而辅助用户解决当前难点并推动促成回款承诺，从而实现回收逾期贷款。但事实上，无论是IVR机器人还是人工跟进都存在一定程度的痛难点。

传统的贷后管理模式的痛点

IVR机器人跟进沟通完全依靠于人工配置结果。在使用方面，人工需要花费大量时间进行业务节点确认、业务话术撰写、业务流程梳理及配置；而在应用方面，客户感知到的IVR机器人“模板感”极强，灵活度较低，拟人度较差。

人工跟进沟通则在很大程度上依靠于人工坐席的业务能力，业务能力较强的坐席能够很好地规避合规问题、快速定位用户痛点难点、顺利与客户达成回款承诺；而能力相对较弱的坐席或是新人坐席则很可能会引发合法合规、效率低下、难以回款等问题。

“天镜”大模型在贷后管理中的应用

通过对业务逻辑和技术能力的分析，马上消费构建了一套严谨的“天镜”贷后管理模型对话体系。根据不同风险等级的用户，采用适配敏感程度的对话大模型提升用户体验，并在大模型主导的对话过程中通过客户意图识别来控制高风险意图，进行安全应答保障；通过坐席意图识别、幻觉检测等功能来降低大模型解码过程的偏离风险。

在模型训练阶段，对不同敏感度的对话模型，马上消费进行了有针对性的数据采样，包括用户基本信息、借贷信息、行为信息以及客户与坐席的对话数据，从通话轮次、意图分布、ASR文本质量、坐席绩效等维度进行高质量对话数据筛选；选用业界领先的通用大模型，利用用户信息（脱敏）和高质量的真实通话数据对模型进行微调训练，让大模型学会相应领域的对话流程和话术使用，同时利用强化学习技术来进一步提升模型专业能力，让“天镜”贷后管理模型更专注于与逾期客户的高效沟通，具备优秀的领域知识和对话技能。

在评估阶段，马上消费分别利用自动化评估和人工评估，对“天镜”贷后管理模型生成话术在安全性、问题处理能力、沟通流畅程度、业务合规性上的评分进行加权求和，通过计算总分来进行评估和选型。

“天镜”贷后管理模型目前已被应用于马上消费逾期时间较短的客户群体中，并成功解决了IVR机器人坐席及人工坐席的常见难点。经过训练的大模型相较于IVR机器人，不再需要人工进行流程梳理和手工配置，节省了大量人力资源，且训练话术全权基于人工坐席的历史真实对话文本，生成的话术拟人度更高；相较于人工坐席，模型训练话术基于人工坐席的优秀话术，且输出受后处理及幻觉处理的控制，确保生成的话术合法合规，顺利解决了人工坐席能力差异及合法合规等问题。

大模型+心理学=更懂客户的贷后坐席辅助大模型

在贷后催收工作中，应用于智能对话的心理学坐席除了要辅助大模型做到进行正常的催收操作外，还需要回答客户的各类问题，例如没发工资、延期还款、减免罚息等问题。此外，客户多数处在负面情绪中，其心情常如潮水难以捉摸，如何快速地理解客户的痛苦，并做出针对性的安抚或减轻催收力度给大模型的成功应用带来了重要挑战。

心理学坐席辅助大模型能够充分、高效利用真实催收业务场景下的多轮对话数据进行训练，为了将其更好地应用于垂直领域，需要进行全量参数微调。通过流程挖掘算法来挖掘优秀坐席的对话数据，通过过滤碎片对话数据、增强有效问答对话数据等操作，丰富训练数据且提升数据质量。同时，使用词表裁剪、ZeRO、张量并行等技术优化训练流程，并通过人类反馈来强化学习RLHF等技术，使大模型的回复效果在安全性和真实性上逼近真实坐席的工作水平。

通过微调预训练的BERT模型，可以实现高准确度的情绪识别，实时识别和评估客户的情感，并将当前客户的情绪状态输入给大模型。结合通过客户的历史对话数据分析到的人格特质，大模型能够生成包含安抚或施压力度低的话术文本，为坐席选择最合适的减免策略和回复内容，以表现出恰当的关心和帮助，从而提升智能客服等应用的用户体验。

心理学与AI在智能辅助系统中的结合与应用

在客服人员与客户对话过程中，ASR技术会产出大量的语音转文本数据，这些文本数据直接反映了用户在社交环境下针对特定主题的行为表达，对人们的心理和人格分析有着很大的研究价值。研究用户行为数据可以更好地促进人们对心理健康的认识，有利于客户维护，也可以促使客服为客户提供更精准、更个性化的服务。

“天镜”贷后管理模型搭建的智能辅助系统，通过对话文本数据来分析客户的人格特质，从而实现用户的精准分类。系统采用用户画像、差异性话术推荐方式对不同用户类型的客户进行精准服务，在提升服务效率的前提下，满足用户的独特性和情感性需求。

复杂场景下的意图识别。意图是对用户一句话表达的判断，判断用户想要完成什么任务。意图识别在设计过程中将模块设计为不可再分的类别，在本系统中，意图识别模型的输入数据是客户与客服在沟通过程中产生的ASR文本。

ASR文本质量较低、训练数据较少、场景经常变动是在构建智能辅助系统中经常遇到的问题。“天镜”贷后管理模型对于复杂场景的意图识别方法进行了研究，并设计了一套有效的意图识别Pipeline，能够在一定程度上克服ASR识别错误率高等问题，该方案在电子商务、金融等智能领域都有广泛的应用前景。

通过将BERT等模型应用于意图识别的工作之中，在大语料、垂直领域语料上进行预训练，再在下游任务上精调，可以增强模型泛化能力，提升方案对复杂场景、缺陷数据的意图识别性能。

对话流程挖掘。客户服务系统中的对话信息记录了贷后管理中各个阶段的运行时间和关联数据，包含了贷后管理在M1、M2、M3+阶段客服人员与客户实际问答流转的流程。充分挖掘并合理使用这些贷后管理流程信息，能够提高客服的贷后管理效率，降低企业运营成本。通过制定合理的流程挖掘方案，结合人工智能技术来优化整个贷后管理流程，可以帮助客服在身心疲劳、产生厌倦心理的情况下，仍然保持高效的贷后管理通话。

多轮对话在FAQ（frequently-asked questions，常见问题解答）型智能辅助系统中的应用。传统的FAQ型在线客服很难实现业务场景中的连续对话，其根源就在于FAQ对话引擎是基于简单、机械的一问一答FAQ知识库搭建的，机器人无法理解上下文，无法识别访客的完整意图。而要实现自然流畅的多轮对话，需要将场景对话中可能用到的FAQ对话引擎、任务型对话引擎、主动型对话引擎融合起来，在对话过程中灵活选择FAQ问答库、任务技能库和主动引导知识库，实现多种对话引擎的对话状态管理和应答策略选择。

基于多模态的情绪识别。相同的语句在不同的语境下所表达的情绪往往千差万别，而客户服务作为一个极特殊的领域，在识别用户的正向、中性、负向情绪时，要根据该领域的语境特点来对数据及模型做额外的调整。为了让情绪识别模型更适用于客服业务，“天镜”贷后管理模型对多模态下的情绪识别技术进行了研究。从不同模态中提取的特征之间存在一定的相关性，在现有的模态融合算法中，模型常常会忽略不同特征间的相关性，因此如何有效利用模态间的相关性来提高情感分析的准确度是“天镜”贷后管理模型的研究内容之一。

坐席辅助大模型的研究成果价值分析

心理学技巧的巧妙运用为用户服务打开了一扇窗，舒缓了尴尬的气氛。然而，人心惟危、变化难测，客服营销人员的经验和素质往往难以大批量地精准捕捉人的心理特征。人工智能在处理海量数据的速度和精度上，具备人类望尘莫及的优势。AI与心理学模型的深度融合，将带来高品质愉快的用户体验，打开科学技术革新的新思路。

人工智能和心理学的融合，既满足了多元化社会的需求，又推动了人工智能技术的创新发展，形成了人工智能领域的国际竞争优势。

社会阶层多元化促进用户服务的心理关切。从马斯洛的需求分析理论来看，伴随着经济发展水平、科技水平、文化和受教育水平的提升，人们对于归属与爱的需求、尊重的需求，乃至自我实现的需求给予更多关注。例如，通过AI进行海量数据筛查，识别受骗者心理进行提前教育预防，起到了较好的反电信诈骗效果。运用人工智能技术增加用户服务的心理维度，实现千人千面的精准服务，让用户的安全、归属与爱、尊重等需求被满足，从而真正落地“用户至上”。

心理学为人工智能发展打开新思路。当前的人工智能主要是靠数据驱动实现面向特定任务的专用人工智能，表现出“智商强而情商弱”“计算强而‘算计’弱”的特点，总体发展水平还处于起步阶段。心理学是人工智能知识体系的重要构成，驱动着人工智能向人类智慧进一步发展。当前，人工智能的研究范式部分借鉴了心理学方法，例如，深度学习和强化学习技术的灵感就来源于心理行为主义理论。此外，通过心理学模型及知识的训练，人工智能对人类的认识多了一层心理维度，乃至推动人工智能进入生物启发阶段。

AI和心理学的交叉融合，提升了新一代人工智能的国际竞争力。当前，人工智能深刻改变了社会生产、人类生活，成为国际竞争的新焦点。我国制定了《新一代人工智能发展规划》，抢抓人工智能的先发优势，建设世界科技强国。其中，有关人工智能心理学的研究内容也被写入发展规划之中。

第四部分

未来与改变

第十一章

畅想关于金融和大模型的未来

语言的边界，就是世界的边界。

——语言哲学奠基人：维特根斯坦（Wittgenstein）

大模型的未来发展

随着人工智能领域的快速发展，大模型将深入应用于更多的垂直行业中，无论是医疗、教育、金融，还是制造业，大模型都有可能提供更智能、更精准、更个性化的服务和解决方案，释放创造力和生产力，活跃创造思维，重塑工作模式，助力企业实现组织变革，提升经营效率，赋能产业变革。

大模型的数据问题

机器学习模型都是数据“喂”出来的，训练数据的质量是模型质量的最大影响因子，没有之一。算法工程师们经常挂在嘴边的关于模型训练的“垃圾进，垃圾出”的规律，也是说的这个道理。即使你拥有最先进的算法和强大的计算资源，但如果训练数据质量不够高，那么据此生成的模型的质量也不会高。类似于一个人的后天能力的天花板很多时候已由先天基因决定了一样，数据质量就是决定模型效果上限的先天基因。大模型作为机器学习模型的一个分支，自然也遵循这个规律。

未来大模型要发展和突破，获取高质量训练数据是绕不开的问题。

获取高质量的公开文本数据

这是一项非常有挑战的工作，尤其是在专业数据服务还处于初级阶段的情况下，收集、清洗、标注和验证数据，需要投入大量的人力和物力。

据报道，国内一所大学在收集和清洗3TB的高质量中文数据时，所需的成本，包括下载数据的带宽、存储未清洗的原始数据（大约100TB）和清洗数据所需的CPU资源，总计达到了数10万元。此外，有研究显示，如果按照当前大模型消耗数据的速度，高质量的公共领域语言数据，例如书籍、新闻报道、科学论文、维基百科等，将在2026年左右耗尽。这个速度远比世界范围内消耗石油的速度要快得多。

那么，在已有数据用尽之后，模型将如何提升？提高数据的使用效率，利用高质量的小数据训练出同等质量的模型是一个方向，类似于发现和使用虚拟世界中的高性能“核能”。

2023年6月，微软在一篇题为《教科书就是所有你需要的》（Textbooks Are All You Need）的论文中，用规模仅为7B Token的小数据训练了一个不到2B参数的模型phi-1，达到了接近于10倍于它的大模型的效果，验证了高质量的“小数据”同样能够让大模型具备良好的性能。同年9月，微软的另一篇论文《教科书就是所有你需要的Ⅱ：phi-1.5的技术报告》（Textbooks Are All You Need II：phi-1.5 technical report）进一步提出了phi-1.5，对高质量“小数据”的潜力做了进一步挖掘。

我们有理由期待未来对于高质量公共数据的利用效率会有一个显著的提升。

合成数据（Synthesized Data）

随着我们对来自真实世界的高质量数据的迅速消耗，对于将来的大模型，在没有新的训练数据出现之前，最理想的一种情形是，大模型已经学会了“自说自话，左右互搏”，也就是自己创造出供自己继续训练的数据来实现持续提升。

这并非是异想天开，实际上合成数据的使用早已出现在模拟和训练机器人、自动驾驶等需要和实际环境有交互的领域上，并且已经成为训练机器人执行各种操作行为的有效范例，这主要是从人类演示中进行模仿学习的。

OpenAI的首席执行官萨姆·奥尔特曼曾断言：“未来所有数据都将变成合成数据。”能够从人工合成数据中获得智能，正是人工智能最终超越人类智能大概率只是时间问题的根本原因。一旦这种闭环建立起来：AI生成合成数据→训练AI→AI更加智能→AI生成更强大的合成数据→训练更智能的AI，其产生的链式反应效应就类似于网络虚拟空间中的“核裂变”效应。合成数据的意义堪比人类在现实世界中掌握的通过核能获取能量的技术。除了解决大模型时代下的“数据鸿沟”以外，合成数据还有其他好处，例如可以有效地补充更多边缘、长尾场景数据，并自然规避数据隐私安全、合规等方面问题。

获取特定行业文本数据

这个方面比较典型的例子就是彭博社利用开源的GPT-3框架创建的金融大模型Bloomberg GPT，就是基于彭博社积累了40多年的金融文档构建的，其训练语料库的Token超过7000亿。

这条路上最大的障碍就是许多公司的核心竞争力在于其私域数据，这些数据中可能涉及商业机密，还可能包含用户隐私。出于公司收益划分、隐私保护以及确权需求等方方面面的考虑，企业通常不愿意、不能或者不敢分享它们的数据。除非有一种解决方案，让企业既可以享受数据开放和共享的优势，同时又能确保数据的安全和隐私，否则，私域数据间互通的壁垒很难打破。

由于金融行业的数据难以共享，金融大模型的数据规模远远不及通用语料，导致金融大模型难以产生“智能涌现”的效果。隐私计算（Privacy-preserving Computation）能够在保证数据提供方不泄露原始数据的前提下，对数据进行分析、处理和使用，因此被视为促进大模型数据要素流通和交易环节关键技术的一种自然选择。

目前市场上主流的隐私计算方案主要是聚焦于数据使用和处理时的“可用而不可见”，例如多方安全计算、可信执行环境和联邦学习。主要问题有两点：一是隐私计算本身的性能开销很大；二是和很多GPU算子支持不兼容，使得使用了隐私计算后造成模型性能损失和模型准确性的降低，无法很好地适用于大模型的训练和推理。相对来讲，可信执行环境是现阶段最可行的一条道路。

突破语言模型的限制

如果大模型可以跟人一样通过多模态的感知进行学习，那么就不再只局限于需要获取文本知识来训练模型，而扩展到了从多模态的世界知识中进行学习。

人类在婴儿时期是不会听说读写和使用语言的，但这并不妨碍婴儿通过视觉观察以及自己的尝试去获取认识这个世界的基本知识和能力，这种能力恰恰就是现在的人工智能最难掌握的。

莫拉维克悖论就是在描述这一现象，该悖论是说人类独有的高阶智慧能力，比如计算，逻辑编程等能力，机器只需要非常少的计算能力就可以实现，而辨别新物体、用手转笔、随意走动等在人看来不需要学习就能掌握的能力却需要非常大的计算机器才可能模拟，也就是越简单的事机器却越难完成。

这个现象很可能说明我们现在的人工智能的学习来源还是太窄，以前只能学习人类已经总结归纳和抽象好的规则，现在大模型已经向前迈了一大步，可以从文本里面去学习了。但是如果仅仅局限于迈出这一步还很不够，最多就像一个失明的人，只能靠听别人的语言来学习和思考。我们需要进一步扩大人工智能的学习来源，让它不仅能从文本中学习，还能从更丰富、更复杂的环境中获取信息。例如，让AI能够理解和处理图像、声音、视频等多模态数据，甚至是直接从现实世界中学习，这样它们就能像人类一样，通过观察、体验和实践来获取知识和技能。

大模型的评价问题

大模型虽然看似无所不能，什么都可以做，但其实它的每一种能力又都非常泛化且不好评价。大模型本身是生成式模型，没有给它一个明确的任务目标，评价大模型本来就比评价判别式模型要更加困难。

简单地说，大模型的评价可以分为三种：一种是通过人进行评价，一种是通过专门的评价模型进行评价，最后一种是大模型自己进行自我评价。

通过人进行评价

通过人对模型进行评价的方式类似于出考题。这种方式的问题是考题的更新速度和考题数目都是有限的，但只要允许多次参加考试，大模型就能非常好地学习到在这项考试中获得高分的一些捷径。而只要有模型这样做了，这个考试的公平性就消失了。以后即使出来能够不通过捷径获得好表现的模型，它们在这项考试上的分数也不一定能超越那些走捷径的模型，这种劣币驱逐良币的模式最后将使得这项考试不再具备公平性以及权威性。现在国内很多大模型的刷榜成绩都强过GPT-4了，但使用体验却远比GPT-4差，就是这个弊病的一种表现。

这种模式的另一个内在缺陷是所设计出的题目都是已知有正确答案的，这对于检验模型是否拥有超出人类的能力是无从发现和测评的。为了弥补这一缺陷，我们可以考虑设计一种竞技游戏式的测试。通过在一个或多个模拟环境中让不同的大模型互相竞争，最后根据模型是否获胜来评价其性能。这种评测方式虽然不再限制模型只能按照人类的策略和方式去行事，但是存在一个问题，就是在竞技游戏中，参加的每一方实际上都是由人和模型组成的联合战队，我们无法完全排除其中人的因素。在整个训练和比赛过程中，人的经验、策略，甚至是如何让模型进行对抗、学习和演化，都会影响到比赛的整体结果。就像在足球或篮球比赛中，运动员赢得比赛，教练的策略也起到了关键的作用。而我们的初衷是想要纯粹地评价模型的性能。

通过专门的评价模型进行评价

一种可能真正地排除人类的帮助的评测方式是使用一些当前人类还无法解决的问题来进行评测，如果机器能够解决这些问题，那就意味着机器智能实现了真正的突破，因为这些问题人类还没有解决方案或答案。

在过去的80多年中，图灵测试一直是一个公认的圣杯一样的人工智能终极评测方法。现在，大型语言模型如GPT-4已经能够生成流畅且自然的文本，其在许多与语言相关的任务上的表现已经达到了人类水平。我们可以推测，GPT-4可能已经能够通过语言图灵测试，这无疑是衡量大型语言模型技术的一个标准。

此外，华裔数学家陶哲轩也发现，大模型甚至帮他发现了自己论文中未知的一些错误。这种让大模型去发现科学论文中的未知错误，或预测将来可能发生的情形然后再进行后验的方式，都是不太可能作弊的模型评测方法。

有些学者还提出了一种测试方法——直接在仿真条件下让模型模拟人类进化的过程，例如，提供一个统一且不可改变的奖励驱动函数（如生存奖励、温饱奖励等），以及类似于原始人类视角可观测到的各种环境数据，除了大模型的结构可以预先给定外，其余所有的参数必须随机初始化。然后，观察大模型是否能够演化出各种人类的进化现象，比如发明轮子和工具、导出日心说和牛顿法则等。

大模型自己进行自我评价

相比于人类对模型的评价，模型自我评价在现实中的重要性要显得更大一些。模型自我评价（self-reflection），也叫“自省”，是一种自我评价能力，相较于依靠外界视角的评价而言，这种依靠自己知道自己不知道什么的能力对于个体本身来说应该更难具备一些。

英文有一句谚语叫“自己的左手永远抓不住自己的左手”，中文也有“人贵有自知之明”的说法，也就是说，自我缺陷认知能力在人类中也只有非常少的人才具有。

在人类社会中，运动员需要有教练，学生需要有导师，以及社会上的许多行业都需要专门的批评家来指出他们的问题。批评家通过发现社会或他人的缺点并进行批评来体现其价值。在机器学习世界中，将这种将评价模块从生产模块中独立出来的设计也很常见，例如强化学习中的Actor-Critic学习方式，以及生成对抗网络（GAN）中的判别器设计。因此，独立设计和研发一个与人类评价标准更一致的大模型，通过观察和互动来评估被测试模型的水平，可能是一种比人类设计测试问题和评价方法更科学和高效的方案。

当大模型发展到一定阶段，如果单个“批评家”的能力已经比较强大了，我们还可以把它们聚集起来，采用类似于陪审团的机制，让多个不同的大模型“批评家”共同进行模型仲裁。当然，这取决于大模型在像人类一样进行深度思考和创新方面的进步，现在的人工智能虽然已经能够从大量的文本中学习到很多知识，但它们还缺乏对世界的真正理解，不能理解事物的本质和内在联系，也不能像人类一样进行抽象思考和创新。

大模型的代码能力

在未来，代码能力将成为大模型的基础能力。因为代码是最容易直接验证效果的，在上一节我们讲到过，一般来说我们很难评估生成式模型生成结果的准确性，然而，如果大模型对某类问题的解决方案是直接生成代码，那么它可以通过执行这段代码并观察执行结果来自我评估其解决方案的准确性。

“写代码”能力

代码本身也是一种语言，是人和机器的交互语言。在过去，人与机器之间无法像人与人之间那样使用自然语言交流，这主要是由于过去智力不如人的机器，无法像人一样准确地理解和使用人类的自然语言。也就是说，在两个智能体的语言交互中，存在着交互语言的向智力低的一方的向下兼容的现象。这个对于机器使用人类自然语言的致命难题是人类语言的表述歧义问题。

由于人类之间交流效率的需要，通过自然语言传递信息有很大的压缩比例，需要依靠交流双方除了语言之外的共同的世界知识，去补齐由于这些信息压缩而造成的歧义。但是，机器是不具备这些常识和世界知识的，因此只能靠代码语言，因为它是一种不需要世界知识只靠编译器就能无歧义地完整释义的自我完备的语言。

现在的大模型通过在大量语料上的预训练，已经具有与人共同的世界知识，所以能和人做很好的交流。原特斯拉公司的AI总监安德烈·卡帕斯（Andrej Karpathy）曾表示，自己现在80%的代码由自然语言驱动大模型去完成；而商汤内部实测“日日新”大模型提升代码编写效率约为62%。但是，也有编程高手在推特上抱怨，他刚刚使用了一天的大模型辅助编程工具，感觉像是身边有一个很没有经验的软件工程师，给自己的建议像是一个初级程序员支的招，自己作为一个有“洁癖”的工程师，总是不由自主地去纠正模型生成的建议代码。

微软与OpenAI共同于2021年6月29日推出的一款AI编程工具。——编者注

在JetBrains（一家捷克的软件开发公司）公布的基于全球26000余名软件开发者的2023年开发人员生态调研现状中，77%的开发者会使用ChatGPT聊天助手，46%的开发者会使用GitHubCopilot 编程助手，但59%的开发者对AI的代码生成服务有顾虑。综合来讲，在通用代码生成能力上面，现在的大模型可能还只能达到60分。

目前大模型的代码生成能力主要依赖于自监督训练，这种训练是基于代码和自然语言之间的平行语料。这有点像一个人仅通过阅读编程书籍就试图学会编程，效果有限。如果我们想让大模型真正拥有编程能力，需要构建一个完整的闭环流程：首先由模型生成代码和测试样例，然后测试和运行这段代码，接着根据运行结果反馈进行代码修改，最后更新模型。只有通过这样的全流程实践，我们才可能将大模型的软件开发能力提升到实际可用的水平。

“读代码”能力

大模型的代码能力，除了上述的“写代码”能力，还有一种大有可为却常常被人忽视的“读代码”能力。

油管（YouTube）上的机器学习方面的知名主播“Yannic Kilcher”曾经介绍如何用大模型训练出一个CPU仿真器。对任何一个输入信号，这个基于大模型的史上造价最昂贵的CPU都可以输出一个CPU会输出的正确结果。

理论上大模型在此基础上能够构建出内嵌的可以模拟任何高级语言的代码运行结果的仿真器，比如python或者java的仿真器。有了这种仿真能力，大模型不光可以一目十行地阅读代码，而且还可以通过内部仿真器来“心算”这段代码的结果，也就是快速地预估出这部分代码在各种不同输入下将产生的不同结果。这种能力将极大地提升未来大模型的应用能力，例如使大模型在调用代理（agent）或使用工具（tool）的能力上取得重大突破。

目前，大模型在这方面的能力相对较弱，仍需要人类来告知代理或工具的功能。然而，仅仅依赖人类的描述和概括，模型很难深入理解这些代理或工具的底层逻辑，这也导致了大模型在使用这些代理或工具时出错率较高。如果我们能够提升大模型的代码理解能力，让模型通过仿真运行源代码的方式去“理解”代理或工具，那么模型的理解水平将等同于真正理解这些代理或工具代码的软件开发工程师。能够真正“懂”这些代理或工具背后的逻辑，这样大模型才能真正理解这些工具，从而有效地编排和使用这些工具。

当“读代码”的能力变强后，大模型可作为一个超级代码审核者在软件开发中发挥重要作用。软件开发中，一种有效减少错误的方法是程序员之间的结对编程和互相审核代码，然而，这种方法牺牲了软件工程师的开发效率。如果大模型具备了超级仿真能力，它就可以作为一个超级审核者，帮助所有程序员进行代码审核，在保证软件质量的同时，提高开发效率。

未来人类在软件开发过程中通过直接输入进行编程方面的贡献将会越来越小。人类的角色将逐渐过渡到仅仅是进行基本的审核和确认，而不再是主要的编程者和开发者。

未来大模型还可能发明并创造出一种模型之间交互的高效并准确的语言。自然语言是人类之间交流的语言，代码是人类和机器交流的语言。将来大模型之间交流的最有效语言可能并非以上两种，因为这两种语言都是从人类的角度出发设计出来的。而大模型作为未来一种可能在知识的广度和深度、思考的速度和缜密度都比人类更高的智能体，它们之间的语言不应该采取向人类看齐这种“向下兼容”的方式产生。目前来看，大模型自己在这一过程中将起到主导技术的作用，而大模型要具有这个能力，一个必要和基础的条件是它具有对于自然语言和代码语言这两者的通用理解能力。

因此，大模型的代码能力必将是未来大模型发展中要突破的最重要技术能力。

大模型的知识迁移

大模型之间如何做知识迁移，是未来大模型发展中的一个重要问题。

知识迁移是机器学习和人工智能领域中的一个重要概念，它指的是将从一个任务或领域中学习到的知识应用到另一个任务或领域的过程。在大模型中，知识迁移的问题尤为重要，因为这些模型通常需要处理各种各样的任务并应用在多个领域。

实验证明，即使用相同的数据去训练结构不同或结构相同、大小不同的语言模型，甚至结构和大小都相同但是训练参数不同的语言模型，最后每个模型学习到的知识也都将有相当一部分是不同的。这种现象在传统机器学习模型的训练中就是一个已知的普遍现象，也是大家普遍采用集合（ensemble）多个模型去提升整体效果的原因。但是如果模型很大，推理成本会大大增加，就不可能采用集合多个大模型的方法。另外，生成式模型本身也使得集合模型生成的结果不能采用加权平均等简单方式来做。

指一个报文或分组从一个网络的一端传送到另一个端所需要的时间。它包括了发送时延，传播时延，处理时延，排队时延。——编者注

大模型高昂的推理成本和高推理时间延迟，使得10B参数以上的模型很难适用于对成本或推理时延都有要求的诸多在线决策场景。因此，大模型的工业界应用迫切地需要找到一种将大模型压缩到一个表现相近的小模型，然后再对它进行推理。

这种模型压缩的常用技术是量化、蒸馏和剪枝。对于大型语言模型来说，剪枝可能并不是最佳的压缩策略，大模型包含数十亿甚至数百亿的参数。在这种情况下，确定哪些参数可以被安全地剪枝是一个非常复杂的问题。而且对于深度模型，剪枝不仅需要考虑单个参数的重要性，还需要考虑参数之间的相互作用。这使得剪枝的搜索变得非常困难且效率很低。即使排除了剪枝，仅考虑量化和蒸馏，现在工业界也没有一种能够确保有效的解决方案，仍旧需要人工经验和大量实验。

还有一个对模型知识迁移有强需求的是大模型的微调。微调的作用是使得模型能够更好地按照数据的指引去生成结果。但是很多场景中存在的限制使得在现实中直接对百亿以上的大模型进行微调不大可能实现。那么，既然微调对大模型来说只是在已有知识的基础上知道应该怎么按照这个指导去生成，那么是否可以把这种指导仅仅传递给一个小模型，然后由这个小模型在推理的时候去帮助大模型做相应的生成呢？LoRA其实就是这样一个思路，只是这个小模型并没有独立出来，而是以部分参数的形式存在于大模型中。另外一种思路上相似的尝试是直接微调一个不超过10亿参数的模型，然后在推理的时候，将这个微调模型产生的结果和原始未经微调的大模型产生的结果进行融合，以此来通过微调知识影响最终的输出结果。

还有一些传统的知识迁移方法，例如多任务学习，通过训练模型同时处理多个任务来帮助模型其学习到更通用的表征，从而更好地迁移知识；再例如元学习，试图训练模型快速适应新任务，从而帮助模型更好地将知识迁移到新的任务中。这些方法尽管在一定程度上实现了知识迁移，但在大模型之间的知识迁移效果上，例如如何更有效地迁移知识、如何避免在迁移过程中的知识丢失，以及如何确保迁移的知识不会导致模型的性能下降等问题，都需要进一步的研究。

从大模型到智能体

许多人都认为AI的未来是智能体（agent）。智能体是一个能够感知其外界环境并根据其感知进行自主行动以实现其预定目标的系统，可以是物理实体（如机器人），也可以是虚拟实体（如软件程序）。

一个智能体应该具备的三个关键特性

目标导向：智能体通常有一个或多个需要实现的预定目标。

自主主动：智能体能够在没有外部干预的情况下应对外部环境变化，根据目标主动采取决策进行行动。

感知反应：智能体能够感知其环境，接收来自外部世界的各种类型的输入，并对环境变化做出反应。

虽然现在的大模型已经超越了仅作为聊天工具的角色，但其主要能力仍然是基于对话的交互，这种仅能回答问题的能力在处理复杂任务时会显得力不从心。我们期待的未来是，大模型能够发展成为一种能够帮助人们解决更复杂的需求和问题的技术。

这种技术应该包括：主动规划任务以实现目标，寻找和利用工具以完成规划，根据实际反馈进行下一步的计划和调整，以及在经历完整的问题解决过程后进行总结和提升。

想象一下，对于你创建的一个智能体，给它一个目标，甚至是“做出一个之前没有的借贷产品”这种模糊的目标，智能体会列出需要执行的步骤，并且依次执行；如果执行中需要添加新的待办事项，它也会自动加入，并继续这个过程，直到达到目标为止。

一种实现这种智能体的架构是被称为“MRKL”的框架，全称是“Modeling、Reference、Knowledge and Language”（模型、推理、知识和语言）。这个架构结合了神经网络和符号推理，由一组专家模块组成，这些模块可以是任何类型的机器学习模型。在这个系统中，通用大模型如GPT-4可以作为路由器，将外部输入引导到最适合处理的专家模型中。

为了更好地理解这个概念，我们可以通过一个旅行规划的例子来详细解释。

首先，我们向GPT-4提出问题：

“我是中国公民，要去斯里兰卡旅行四天，计划11月20日从上海出发，帮我规划一下所有出发前的准备。”

GPT-4的回答是：

“很高兴帮助你规划这次斯里兰卡之行。以下是你在出发前需要做的准备：

1. 签证：斯里兰卡对中国公民实行电子签证政策，你可以在线申请。请在出发前足够早的时间内完成申请。

2. 机票：从上海到斯里兰卡的科伦坡，你需要预订往返机票。请注意航班时间和转机信息。

3. 住宿：根据你在斯里兰卡的行程，预订酒店或其他住宿。考虑到你只有四天的时间，你可能会选择在科伦坡或者其他主要城市停留。

4. 行程规划：研究你想要参观的景点，例如科伦坡的国家博物馆、独立广场，或者是康提的佛牙寺等。制订一个行程计划，但也要保留一些灵活的时间。

5. 健康和安全：查看中国外交部关于斯里兰卡的旅行建议，了解任何健康和安全警告。你可能需要接种某些疫苗，例如霍乱、黄热病或乙型肝炎等。

6. 旅行保险：购买旅行保险，以防万一出现医疗紧急情况或旅行中断。

7. 打包行李：根据斯里兰卡的天气和你的行程，打包你的行李。

记得带上护照、签证、机票、信用卡、现金、手机和充电器等必需品。

8. 了解当地文化和习俗：了解斯里兰卡的文化和习俗，以确保你的行为符合当地的规定。例如，当参观寺庙或其他宗教场所时，你需要穿着得体。

9. 通知银行：通知你的银行你将在斯里兰卡使用信用卡，以防止它们误认为这是欺诈行为并冻结你的卡。

10. 在家的事务：如果你计划离家一段时间，你可能需要安排有人照看你的家、宠物或植物。

以上就是你在出发前需要做的准备。在旅行期间，记得保持身体健康，遵守当地的法律和习俗，尽情享受你的旅程！”

虽然上述GPT-4已经能够提供一个相当完整的行动清单，但对于一个真正的智能体来说还是不够的。智能体需要能与相关的外部系统进行自动对接和交互。

例如，对于第四步的行程规划，智能体应该能先去申请得到订票的授权，一旦得到了授权，将获得购买机票这个子任务进行进一步规划和拆解为可执行、可管理的原子任务。然后，智能体要进行比较和判断最优的执行路径，例如判断费用最低、耗时最短或需要人工干预最少的行程路径，包括考虑机票价格、转机次数、旅行总时长，甚至是航空公司的里程奖励等因素，以预订最优的机票。在具体预订的时候，模型需要判断调用的API是否正确，以及成功预订机票的概率。如果预订成功了，模型需要根据API的返回结果给用户提供适当反馈，并为接下来的交通和酒店预先设定一些限制条件。如果预订失败，模型需要有能力在API仓库中搜索其他能满足用户需求的API，解读相关API的文档，学习如何使用它们，并修改API调用以重新进行搜索。此外，模型还需要能够判断，如果用户对查询结果不满意，是否是因为用户的请求意图不够明确。模型应具备利用多个API来满足同一任务的能力，如果需要，模型应能调用外部API获取实时信息，处理执行代码，或访问专有的信息知识库等。

一个合格的未来智能体还应该掌握服务对象的兴趣、偏好和习惯，就像私人秘书一样。在考虑旅游计划时，不仅仅会找出符合预算的酒店，还会根据之前已掌握的用户的偏好，包括用户喜欢尝试新目的地还是喜欢重复去同一个地方，帮用户推荐旅游目的地，以及根据用户的兴趣与偏好推荐他们会感兴趣的游玩项目，并为用户预订他们喜欢的餐厅，等等。

大模型还必须帮助智能体建立自我反思的能力，使得智能体能够基于其过去的动作做自我批评和自我反省，从过去的问题中进行学习从而改良未来的动作，进而改善迭代效果。这个能力在执行真实世界的任务时是很重要的，因为真实世界错误和异常无处不在。

当单个智能体足够聪明之后，把它们连接起来，进行多个智能体之间的互相交互和学习，实现网络乘法效应。类似于生物世界中的群体行为，例如蚂蚁和蜜蜂的复杂社会结构。在这些系统个体可能并不特别聪明，但是当它们作为一个整体时，就能表现出令人惊奇的智慧和能力。

一些简单的实验模拟已经“涌现”出了一些非常有趣的群体社交行为，例如信息扩散、关系记忆等，甚至产生了一些单个智能体不具有的“群体智慧”。这种群体智慧可能表现为更高效的问题解决能力，更强的创新力，或者更深入的理解力。这种网络乘法效应的潜力是巨大的，例如，我们可以让智能体通过某种方式共享它们的经验和知识，或者让它们通过竞争和合作来推动彼此的发展。这不仅可以帮助我们更好地理解智能体的行为和决策过程，也可能为我们提供新的思考方式和解决问题的方法，为人工智能的发展开辟新的道路。

最后，大模型的决策过程不仅能自动完成任务，还能为人类提供新的决策视角和思考方式。人类可以通过观察和学习大模型的决策过程和结果，提升自身的决策能力。这种人机协同的方式，充分利用了各自的优势，可以更有效地发现和创造出最优的问题解决方案。

有趣的是，这种情况可能会产生一个正向的“马太效应”。简单来说，大模型对于那些原本就优秀和专业的人的帮助可能会比一般人的更大，从而进一步拉大他们之间的差距。这是因为更优秀的人更能提出关键的问题，这实际上是对大模型解决问题能力的一种间接引导。因此，大模型的决策能力是一项令人兴奋的能力，它有潜力为人类社会提供“智慧产能”的飞跃。

金融和大模型的未来结合带来的改变

金融，是社会经济活动的重要支柱，实体经济的供给血脉。大模型的出现，正在为金融领域带来前所未有的机遇和挑战。大模型以其强大的学习和处理能力，已经开始渗透到金融领域各方面的变革之中，并且未来将带来更多改变。

决策制定方面

金融是一个高度由数据驱动的市场，任何可能对某一方面产生价值的数据都会在金融领域内被放大并产生价值。未来的金融机构将会更加依赖数据来做出决策，包括信贷决策、投资决策、风险管理决策等。这就需要强大的数据处理和分析能力。

大模型的特长是处理非结构化数据和多媒体数据，包括社交媒体数据、新闻报道、各种图像照片、视频流等。这些未经过统计加工过的原始数据对于金融行业来说其实是非常重要的。因为统计数据在经过层层精细加工之后，可能存在加工者的偏见甚至操控，而原始数据则能够提供更全面、更真实的市场情况，有助于提升金融行业的预测和决策能力。

现在的大模型已经具备了通过分析更原始、更客观的信息来直接生成经济指标估计的能力。例如，它们可以通过分析卫星照片来估计用电量以及工业和农业的生产情况。这不仅能够反映出生产活动的规模，还能揭示出地区间的经济差异。同时，大模型还可以通过分析互联网上的文本数据来计算和估计消费者信心指数等相关指标，这种方式可以更直接地反映出消费者的情绪和预期，为经济预测提供更为精准的依据。此外，大模型还可以通过分析城市大脑显示的居民行为活动整体情况，来估计城市的整体经济活力和特征，全面地反映出城市的经济状况，包括就业、消费、交通等多个方面。

值得注意的是，由于大模型的模型容量非常大，模型的遗忘问题——即学习新知识时会忘记旧知识的问题——已经得到了很大缓解。大模型可以同时包含更多的历史数据，并在内部对这些数据进行关联理解和交叉分析，从而得到更全面、更高质量的分析和预测结果。这种能力使得大模型在经济预测和决策支持等方面具有巨大的潜力和价值。

尽管大模型在金融决策制定中有很多优势，我们也必须注意大模型的这种完全由数据驱动的形式的一些潜在弊端。大模型的预测能力受到历史数据的限制，对于极端事件或者前所未有的情况，它可能无法做出准确预测。另外，如果输入的数据存在偏见，那么模型的输出也可能会带有这种偏见，直接产生有偏见的决策。

这是由于大模型缺乏一种宪法的概念。也就是说，没有一个大的框架来限制和指导其学习和决策过程，这可能导致它们在面对未知情况时的反应不够灵活和准确。这就需要我们在使用大模型做金融决策时，不但要对输入的数据进行严格筛选和处理，确保数据的公正性和准确性，同时也不能完全依赖它们的决策结果而忽视人的判断和经验。

创新方面

在人类的所有智慧特性中，最引人注目的一项能力是创造故事，尤其是虚构的故事。这种能力被称为“故事力”，是人类独特的创造性认知能力，它赋予我们将现实世界的元素重新组合，构建出全新的、超越现实的虚构世界。

故事力的核心在于创新和想象。通过故事，我们可以超越时间和空间的限制，探索不同的可能性。我们可以在故事中设定各种情境，让人物在这些情境中互动，从而探索和理解人性、社会和宇宙的各种问题。这种能力使我们能够从现实生活里的具体情境中抽象出普遍的主题和模式，从而理解和预测现实世界的运作。

故事力也是一种强大的创造力量。通过故事，我们可以创造出第二自然。我们通过故事传播知识、塑造价值观、建立社会规则，从而创造出我们的文化和社会。这种创造力不仅体现在文学、电影、戏剧等艺术形式中，也体现在科学、哲学、宗教等知识领域中。通过故事，我们可以将抽象的理论和观念具象化，使其更易于理解和接受。这种能力是我们理解和创造文化、社会和知识的基础，也是我们作为智能体的重要特征。

微芯片将计算的边际成本降到了零，互联网将分发的边际成本降到了零，现在大模型将创作的边际成本降到了零。大模型作为由人创造出来的一种最接近人类智慧的智能形式，自然也具备“故事力”，即创造和理解故事的能力。这也是大模型最令人惊奇的一项能力。然而，由于人类的功利心和控制欲，创造大模型的初衷往往是为了得到一个更强大的工具，就像我们饲养牛和羊只是为了获取奶和肉，而将它们的其他影响产奶和长肉的自然生活习性一概视为有害的特性。

在这个背景下，大模型的“故事力”往往被视为一种问题，被称为大模型的幻觉问题。这是因为，虽然故事力可以帮助大模型生成富有创造性的输出，但同时也可能会导致输出的结果偏离了用户的期望，从而影响了用户对大模型结果的信任度和可用性。因此，很多大模型的使用者希望能够完全消除大模型的幻觉问题，以便更好地利用大模型。但是，幻觉问题其实是大模型创造力的一种表现。如果我们完全消除了大模型的幻觉问题，那么大模型可能也就丧失了它的创造力。

因此，我们在处理大模型的幻觉问题时，需要寻找一种平衡，既要保证大模型的可用性，又要保留大模型的创造力。这是我们在使用和发展大模型时需要面对的一个重要挑战。在没有从本质上解决这个问题之前，快速应用大模型的一种模式是不去选择那些对幻觉容忍度低、对准确性要求高的生产力场景和复杂场景，而去选择诸如创意辅助、角色扮演、游戏娱乐等对于幻觉的容忍度比较高的场景。

我们正处于一个人工智能可能帮我们完成初稿的阶段，但人工智能要完成从初稿到最终产品的创作还是有些困难，并且通常需要一个团队来完成。

在金融行业中，设计新的金融产品就是一种对创新能力要求高，而对准确性要求低的场景，也是发挥大模型生成初稿能力的好场景。例如，大模型可以帮助金融机构设计新的保险产品、投资产品，甚至是创新的支付方式和投资平台，为投资者提供个性化的创新投资建议和策略。大模型还可以用于构建用户产品的仿真测试环境，以理解消费者的需求、偏好和市场趋势。这样，金融机构就能设计出更符合市场需求的产品。

利用大模型，我们可以快速组合和测试新的产品，在仿真环境中进行筛选，然后选择少数优秀的产品进行线上实验。这种科学的产品设计过程，可以在设计阶段就考虑到后续的风险和合规问题，从而提前做好准备。

此外，大模型还可以用于简化设计环节，让业务人员和前线工作人员直接参与甚至决定产品设计，省去了专门的设计环节。这大大提高了效率，类似于战场上的一线部队直接指挥炮火支援，使得决策更加直接和高效。

人机协作方面

一个很有趣的事实是我们经常分辨不出真假人民币，但如果要我们画一张百元大钞，我们基本上画得一点都不像真的。这表明人类并不擅长生成细节，主要依靠的是抽象出的准确特征，而大模型却是非常擅长生成细节的。

大模型和人类的这种能力上的互补，以及大模型生成结果的天然易理解性，使得两者的结合可以产生一些新的人机协作方式。例如大模型替代工作流程中的某些人力环节；或者转变为大模型提供推荐，人类执行，从而将人类从关键链路中转移到旁路。这种改变有可能全面或部分地解放人类的工作。

新的人机协作模式变成了“人作为监督者，机器作为学徒”。这种人机合作链路的改变，即人成为旁路而非主路的新模式，反过来可能使得一些原本需要人类完成的工作在机器学徒的协助下得以更好地完成。以电话销售流程为例，原本的流程是由专家编排，然后机器按照流程逐步执行，就像在构建一个自动化生产流水线。但现在，这个流程变成了完全由模型驱动，人类提供反馈的模式。

在这个新的人机协作模式中，人类和机器将更加分工明确地各司其职，我们将看到最好的设计师开始更多地考虑代码，而最好的开发人员也开始更多地考虑设计。当人们被从循环中解放出来之后，可以把一切复杂而烦琐的事情交给大模型去做，而人类自己只关注于如何从全局更有效地实现他们的整体想法。同时，大模型和人类在知识传递上的流动也从人与人之间的协作设计的流程，变成了人机协作的进步。我们的最终目标仍然是人与人之间的协作，我们要让人们的工作变得更快乐，这就是大模型带来的新的人机协作模式。

未来还有可能的一个人机协作的巨大变化是大模型和脑机接口BCI（Brain-Computer Interface）的结合。脑机接口可以直接从人脑中获取信息，而不需要通过键盘、鼠标或触摸屏。

大模型可以很好地理解和生成人类语言，结合这两种技术，我们可以创建一个系统，直接将人的思想转换成文本。这种系统可以用于帮助那些因为疾病或伤害而无法说话或写字的人进行沟通，也意味着我们可以使用更自然的方式与计算机进行交互，例如通过思想来控制计算机，或者反过来让计算机的信号以人类语言的形式直接回应进入我们的头脑中。

与区块链结合

一家数字资产衍生品交易所。——编者注

2023年11月6日，随着加密货币天才、加密货币交易所FTX 的创始人山姆·班克曼-弗里德（Sam Bankman-Fried）被陪审团判定涉嫌被指控电汇诈骗、串谋、洗钱等所有7项罪名均成立，这项被称为“美国历史上最大的金融欺诈案之一”的判决使得加密货币区块链的安全又成了人们热议的话题。

基于区块链技术的加密货币目前最大的问题还是洗钱。区块链虽然是一个公开、透明的分布式账本，所有的交易都可以被追踪和验证。然而，由于其去中心化和匿名性的特性，加密货币成为非法洗钱优先考虑的手段，包括一些被国际制裁的国家、机构和个人，通过加密货币绕过制裁进行了关联的金融交易。

大模型可以通过帮助分析区块链交易数据，识别出可能的洗钱模式，例如频繁的小额交易就是一种常见的洗钱手段；通过识别出与已知的洗钱地址有关的交易，在一定程度上也可以帮助检测区块链上的洗钱交易。

大模型主要是处理和理解文本数据，而区块链交易的数据主要是数值和地址。因此，使用大模型来检测区块链洗钱可能需要一些额外的步骤，例如将交易数据转化为模型可以理解的文本形式，或者使用其他类型的模型（如图神经网络）来处理区块链数据。图模型和大模型的结合应该是未来人工智能领域的一个重要的融合方向。

另外，区块链交易虽然是公开的，但交易的参与者通常是匿名的。这意味着，除了识别出可能的洗钱交易，也需要确定洗钱交易的实际参与者。这方面大模型可以通过分析诸如交易的备注或者与交易相关的社交媒体帖子，或者交易模式和网络活动来推测出某个地址的可能所有者来提供一些线索，帮助我们理解交易的背景和目的，甚至可能帮助我们推测出交易的参与者。但这往往需要通过对大量用户的行为、网络流量或者其他相关数据的复杂分析，综合各种工具和方法，例如网络分析、机器学习模型，以及可能的法律和监管工具等的结果来完成。

写在最后

大模型引领的正在进行的AI浪潮是继前几年决策式AI以及感知式AI之后的又一个重要的里程碑，这次的大潮打破了创造和艺术是人类专属领域的局面，带来的是惠及大众、水涨船高式的创新价值，甚至已经进一步升级到人类生产力工具的颠覆式革新的层面，逐渐拉开了通用人工智能（AGI）的发展序幕。

关于人工智能的发展目前分为两派：

一派以“图灵奖三巨头”中的两位——杰弗里·辛顿（Geoffrey Hinton）、约书亚·本吉奥（Yoshua Bengio）以及新硅谷机器人创业公司Robust.AI的首席执行官兼创始人盖瑞·马库斯（Gary Marcus）为代表，他们认为从现在起就应该防范人工智能风险，制定严格的规则，加强对AI的监管，甚至先暂停大规模语言模型的研究，否则像现在这样任由大模型自由发展下去，AI会产生比核武器更加恐怖的效果，甚至最终可能会引发“AI灭绝人类”的风险。为此，OpenAI宣布组建新团队，以评估和减轻与人工智能相关的“灾难性风险”。

另一派是“图灵奖三巨头”中的杨立昆（Yann LeCun）和斯坦福大学的吴恩达教授为代表的自由发展派，他们认为现在的“AI威胁论”是言过其实或者是杞人忧天，真正令他们担心的是社会由于这种过度威胁论，而开始限制AI方面的科技进步和发展。同时，他们认为AI强监管必将带来巨头垄断，结果将是由少数公司控制AI的研发。杨立昆认为“监管人工智能的研发会产生令人难以置信的反效果”，“开放、透明和广泛的访问使软件平台更安全、更可靠”，也就是在人工智能的安全性方面，增加公众访问使技术更安全，只有开放才是最终的解药，而不是过度监管，尤其不是由少数巨头或政府垄断的监管。杨立昆表示，监管人工智能的要求源于一些领先科技公司的“优越感”，这些公司认为只有它们自己才能获得信任，从而安全地开发人工智能，其实这是一种领先霸权。而杨立昆更加致力于普惠AI，号召开源、开放、透明。

各国政府在两派的争论中似乎更加站在“威胁派”这一边。这也难怪，政府本身的重要职责之一就是监管。美国总统拜登签署了一项“具有里程碑意义的”行政命令，即白宫首个生成式AI监管规定，虽然不具有法律效应，但是非常明确地表明了美国政府的态度。欧盟计划对最强大的人工智能生成模型实施更严格的规定，并要求对最强大的技术进行更多的外部测试。欧盟可能成为第一个对人工智能实施强制性规定的西方组织。

对于行业大模型在各个垂直细分领域的发展，似乎无论是学界、政府，还是头部企业都一致持比较宽容和开放的态度，以鼓励创新和试验来促进行业大模型的发展和成熟。倒是企业出于需要保护自身的商业安全、数据安全、品牌形象、社会声誉以及与用户关系等目的，在运用大模型时会自发地要严格考虑数据安全性和隐私合规性。

在金融行业，这一点尤为重要。因为金融企业的大模型通常是在企业的私有或保密数据上进行训练的，而金融数据的价值极高。这种情况催生了一种专门针对金融大模型的攻击研究分支，其目标是还原和提取金融大模型的训练数据中的高价值信息。这种模型攻击的本质是控制模型输出特定类别的不安全内容。例如，对抗攻击就是通过设计特定的输入，诱使模型输出我们不希望泄露的隐私信息或模型训练数据。对于生成任务，判断一次攻击是否成功并不容易。这需要一个高质量的分类器来判断输出内容是否安全，或者需要人工进行审查。

随着开源基座大模型的广泛应用，白盒攻击成为可能。相比黑盒攻击，这是一种攻击方掌握更多信息的攻击，因此比黑盒攻击的成功率更高。在白盒攻击中，攻击者可以获取所有的模型参数和架构，因此，他们可以通过编程方式，利用梯度下降在离线环境学习最有效的攻击策略，然后在线上直接使用，达到一击必中的效果。

最新研究表明，因为大模型的行为更加接近于人类，所以基于大模型的人格化性质和自我迷失的心理特性可以产生一些新的大模型攻击的概念与机制。比如人类心理学研究中著名的米尔格拉姆电击实验，该实验反映了人类个体在权威人士的诱导下会产生同意伤害他人的心理。基于这一实验的启发，入侵者在伪装成人类权威人士的角色后也可以诱使大模型做出本来禁止模型去做的行为。

加利福尼亚大学伯克利分校（University of California, Berkeley）的一位机器学习教授贾格布·斯坦哈特（Jacob Steinhard）在2023年8月发表了他对于以GPT为代表的大模型在2030年时的发展情况的一个预测：到2027年，在编程能力上，大模型将超越除了最优秀的程序员之外的所有人；到2030年，在数学定理证明方面，大模型将优于大多数的专业数学家；到2030年，在黑客能力方面，大模型可以比人类更有规模、更系统地搜索出大型代码库中的隐藏未知漏洞，而这会严重威胁网络安全。

这种快速演化主要得益于大模型在三个方面的显著超越人类的速度：一是学习速度，大模型可以在一天内学完人类需要学习2500年的知识；二是处理新信息的速度，大模型处理信息的速度将是整个人类的125倍；三是分享传播速度，由于大多数大模型都具有相同的模型结构和模型参数权重，理论上通过高速网络，大模型之间可以实现快速的并行学习、共享知识，而人类之间的交流要比这个慢得多的多。

当然大模型发展的主要目的不是和人类竞争，而是协助人类更好地生活。例如，该作者也预测到2030年，由于大模型驱动的私人高级助手的普及化，使得普通的硕士研究生、博士研究生可能会拥有和今天的教授相同的资源，仿佛手头上带了数名优秀的学生在辅助他们做各种科研项目。全球现在只有总共不到一万名数学家，到2030年，大模型可能会在一周内就模拟出这一万名数学家一年时间内产出的成果。

随着大模型训练和优化工具更加高效智能，利用更先进的算法和更强大的算力，大模型的训练时间将会大大缩短。从大模型风暴刮起之初，大模型需要的巨大算力就成了焦点话题。尽管目前的大模型主要在云端的大规模GPU集群上运行和进行推理，但这并不意味着移动设备硬件制造商会对这个巨大的市场机会视而不见。实际上，从高通到苹果，各大芯片制造商都在积极布局，它们在最新的产品发布会上都强调了自家产品对机器学习和大模型的强大支持。

以苹果为例，其最新的M3芯片已经能够运行“数十亿参数”的机器学习模型。这不仅仅是一个理论上的数字，更意味着苹果的设备现在已经具备了运行复杂机器学习模型的能力，这将为移动设备上的AI应用开启新的可能性。

同样，高通也不甘落后。它们的最新产品骁龙X Elite和骁龙8 Gen 3已经能用更快的数据传输速度、更大的带宽，支持更大更复杂的AI模型。实现了将130亿和100亿参数的大模型装进电脑和手机。这意味着，未来的移动设备将能够运行更复杂、更强大的AI模型，为用户提供更丰富、更智能的服务。

当然，在手机上跑大模型，给电池带来了更大的压力，因此芯片能耗成为一大关键问题。目前在大模型迁移到手机的过程中，行业领导者的解决方案首先专注于提升计算能力、内存和能耗的性能，并保持这三者之间的平衡。其次，他们正在使用AI来重新定义硬件，以实现硬件与AI技术更深层次的整合。只有深度整合AI技术，硬件才能更好地支持大模型的运行和应用。未来的移动设备将不仅仅是消费类电子产品，更可能成为一个强大的AI平台，为用户提供各种智能服务。我们距离看到每个人的手机上都有一个大模型驱动的私人高级助手的日子已经不远了。

随着技术的不断进步，大模型将在金融领域发挥更深入的洞察力，为决策者提供更精确的预测，为客户提供更个性化的服务。未来，我们期待看到一个更加智能、安全、公平的金融世界，大模型将成为推动这一变革的重要力量。

我们相信，只要妥善处理好技术创新和伦理责任之间的平衡，大模型和金融的结合就将为社会带来前所未有的价值。让我们一起期待这个充满希望的未来，一起探索大模型在金融领域的无限可能吧！

Table of Contents

- 版权信息
- 推荐序一
- 推荐序二
- 推荐序三
- 前言
- 第一部分 变革与机遇
- 第一章 人工智能、大模型和技术机遇
- 第二章 大模型引发的金融大变革
- 第二部分 技术与构想
- 第三章 金融大模型的底层原理
- 第四章 金融大模型的全栈开发
- 第五章 金融大模型的标准与评估体系构建
- 第三部分 应用与实例
- 第六章 LLM在金融知识管理中的应用
- 第七章 LLM在投资决策辅助中的应用
- 第八章 LLM在客户服务与互动中的应用
- 第九章 LLM在金融合规与风险管理中的应用
- 第十章 实例解析：“天镜”大模型
- 第四部分 未来与改变
- 第十一章 畅想关于金融和大模型的未来
- 写在最后