恒生电子白硕：大模型商业化不能“裸”奔 要打通AI落地“最后一公里”

　　恒生电子董事长刘曙峰表示，当前金融行业对于大模型技术的关注度和参与度很高，但在大模型实际落地过程中主要存在模型选择难、算力供应不足、应用成熟度不足等问题。

　　作为一款专为金融领域打造的大语言模型，LightGPT基于海量金融数据训练而来。经过近4个月的打磨，对金融相关问题的理解和金融任务的处理，比通用大模型更有优势，更适合金融专业场景的应用。

　　恒生电子首席科学家、大模型产品总监白硕告诉上海证券报记者，“裸”的大模型在垂直行业没有太多的生存空间，恒生电子金融大模型是以通用大模型为技术底座，在此基础上对接行业主要应用数据和专业内容，从而“站在巨人的肩膀上”，更好地去解决金融大模型的场景应用问题。

　　大模型商业化不能“裸”奔

　　日前，恒生电子公布了LightGPT自6月底发布以来的升级成果。据白硕介绍，目前，LightGPT在整体模型效果上提升15%，安全合规性上提升13%，推理速度上提升50%，并面向金融机构实现LightGPT-7B的开源，推理和训练全面适配华为昇腾系列。

　　白硕表示，相较于其他金融大模型，LightGPT主要有两个方面特色：一是数据，LightGPT会连接恒生聚源全部的金融数据，包括历史数据、实时数据等，和大模型共同完成金融任务。二是应用，基于恒生在大金融领域全面的产品体系，LightGPT有广泛的机会与各类金融场景创新进行有机结合。

　　经过前期调研，目前LigthGPT重点在投研、投顾、运营、合规四大领域进行了大模型研发和探索，以促进这些应用场景的产品率先落地。对于金融行业而言，“安全合规”是金融大模型应用的基础。针对生成内容的可控问题，LightGPT构建了包括语料安全、模型安全、模型评估等在内完善的安全机制，从八大评价维度确保大模型生成内容的安全合规，符合中国金融市场的监管要求。

　　白硕以投顾、投研两大核心金融场景为例，具体阐释了LightGPT在金融专业领域的能力优势。在投顾场景中，LightGPT通过增加1200多万tokens专业投顾语料，减少日常语料占比以及12类任务指令微调，应对金融术语口语众多、知识幻觉、监管严格等挑战，在安抚话术生成、客户意图识别、实体识别、Json识别能力等方面平均超出国内通用大模型13%。

　　在谈及大模型的商业化路径时，白硕坦言，“裸”的大模型在垂直行业没有太多的生存空间，也很难实现商业化，无法体现大模型的专业价值。只有与其他专业工具、插件和相应资源相结合，才能创造商业闭环。而未来金融信息系统的升级换代需求中，就有了大模型提供嵌入式增值服务的空间。

　　打通金融领域AI应用的最后一公里

　　基于金融行业的大模型应用需求，恒生电子于6月底率先推出金融智能助手光子，定位为金融应用对接大模型的“中控”部位，串联了“通用工具链+金融插件工具+金融数据+金融业务场景”，旨在解决大模型和实际应用之间的连接问题，打通金融领域AI应用的“最后一公里”。

　　目前，恒生电子基于光子打造了多款大模型应用产品。据白硕介绍，目前光子赋能下的智能产品可以分为重塑和嵌入两种模式。重塑是指基于大模型能力重构应用，重塑业务流程和服务模式；嵌入是指通过光子将数据、应用、知识库等资源组装成各类插件，将大模型能力无缝集成到原有程序和应用中，为业务系统注入AI力量。

　　“光子本身就是一个架构，它可以连接各类组件和插件，包括大模型也是它的一个组件，我们并不认为大模型就是核心，”白硕坦言，“在提升大模型整体表现的过程中，除了提升本身的技术和数据质量外，还包括把更优质的数据放到更合适的部位，加强大模型跟其他组件的对接能力，让合适的组件提供合适的服务，而不是让大模型无所不能，这样才能构筑良好的大模型生态。”

　　白硕表示，接下来，恒生电子将进一步完善光子智能生态，基于光子持续构建智能产品矩阵。一方面，持续发布和公测大模型应用新品，如面向金融业务岗前仿真培训的光子·问学，面向业务数据智能管理的光子·数见，面向会议语音内容生成行动AP的光子·会悟等；另一方面，加快恒生原有业务系统的光子插件嵌入，让光子成为真正的业务智能助手。

　　他同时呼吁，针对目前算力问题，当前国内承载大模型的已有算力或处于一种分散状态，使用量不够饱满；未来是否有可能通过行业协作方式，把算力集中起来，以行业的方式统一提供服务，让更多的金融机构获得使用大模型机会，加速大模型生态发展。“生态形成得越早，AI应用就越有优势。”