用友发布大模型，企业服务市场有了新引擎

　　在企业服务领域深耕35年的用友，如何应对人工智能新范式带来的机遇和挑战。

　　文|游勇 徐鑫

　　编|周路平

　　所有行业都值得基于人工智能技术重做一遍。类似的判断已经司空见惯，大模型带来的技术新范式正在加速这一进程。“人工智能已是我们这个时代最前沿和普适的科学技术之一。”用友网络董事长兼CEO王文京说。

　　7月27日，用友发布了业内首个企业服务大模型YonGPT。在企业服务领域深耕了35年的用友，在一些开源或者闭源的通用大语言模型之上，结合海量的行业知识和真实的行业场景，训练出了企业服务大模型。

　　目前YonGPT还处于1.0版本，本次发布的是基于这个大模型的首批智能化场景服务。王文京表示，后面大模型会持续迭代训练，并不断丰富基于这个大模型的各类企业服务。

　　过去几十年，用友的核心产品完成了从财务软件到企业管理软件，再到现在商业创新平台用友BIP的升级。而随着YonGPT的发布，大模型在自然语言上的交互表现和内容生成上的强大能力，将给用友BIP打开巨大的想象空间。

　　“企业服务已进入AI创新时代，商业创新也进入到全面数智商业创新的新时代。”用友网络执行副总裁兼CTO樊冠军说，YonGPT是用友BIP产品智能化的一部分，实际上也是用友为客户提供的一个商业基础设施。

　　01

　　企业服务正在被大模型重构

　　先来看几个企业服务的具体场景：

　　张总是一家消费品企业的财务高管，面对瞬息万变的商业环境，他希望能了解公司实时的财务数据。他通过基于用友YonGPT打造的AI经营助手“智友”发出查询指令：分析今年截止7月份的盈利情况。YonGPT很快生成了利润总额、同比增长率，做出了低于年初3.65%增长目标的洞察分析，并绘制了直观丰富的图表，可以看到每个月累计利润虽有所增长，但是同比增长率却在逐月下降。

　　光有这些数据是不够的，“看一下详细数据”，YonGPT又给出了更详细的经营数据，包括盈利总额、产量、销量和预算执行情况、各类产品利润情况等实时信息。

　　而后大模型又分析了华北分公司的情况，分析利润不及预期的原因，然后基于产销计划数据预测下个月的利润情况，并自动总结推理出测算后的总体利润以及与年初目标的对比情况。让管理层随时随地进行盈利分析、经营预测、归因洞察、行业对标等一体化决策。

　　业务员小林正在与客户进行RFQ(报价请求)的沟通。以前都是在微信、QQ等社交软件上完成，白天与客户交流，晚上再打开公司系统，手动一行一行录入，不仅辛苦，也很割裂。

　　现在在大模型的加持之后，一边聊天沟通，系统会摘录和提取聊天记录的关键信息，自动生成订单摘要，如有信息缺失，经过预训练的YonGPT也会给出相应的提示，如送货日期未提供。业务员可再次发起与客户的沟通，进行信息补全。“聊天式地完成了原来软件的系统化的工作。”

　　这是用友企业服务大模型正在给企业服务场景带来的真实改变。在7月27日的发布现场，樊冠军介绍到，基于大模型的人工智能在企业服务领域的应用主要集中在4个方向上：智能化的业务运营、自然化的人机交互、智慧化的知识生成、语义化的应用生成。用友企业服务大模型YonGPT围绕这四个方向推进模型训练和产品效果优化。

　　不难发现，这四大方向都有几个共同特点：一是全程都是通过自然语言的交互完成，“实际上已经没有菜单的概念了”。

　　以前，企业的痛点在于，数据藏得很深。功能都很全，但大部分企业只能用到里面很小的一部分，数据潜力挖掘得远远不够。

　　比如公司管理层想要看到具体数据，还需要中间有人帮忙整理，中间来回调整，不仅麻烦，而且影响效率。现在管理层可以直接跟系统对话，自己就能调整，实时掌握最新经营情况。

　　二是实现基于上下文的多轮对话，通过一步步输入提示词，不断获得更加深入的分析结果。从最简单的信息展示，到最终的商业决策，都在大模型的辅助之下，变得高效且有依据。

　　三是强大的内容生成能力。一方面是知识的生成，比如归纳总结文档的内容，提炼对话要点等。另一方面是应用生成，低代码在企业应用的搭建上非常流行，但低代码并非完全没有门槛，依然需要业务人员有一定的代码能力和逻辑能力。而大模型让低代码的搭建可以基于自然语言进行。

　　大模型的推出给企业服务带来了极大的变革。一方面是极大降低了数据使用门槛，管理层用数的需求不需要经过重重转包，可以用自然语言直接从系统中获得信息。从战略层面，企业内数据应用变得更以人为本。

　　另外，大模型也极大推动了企业内结构化和非结构化数据的融合。此前用友BIP系统里大量的结构化数据可以直接被系统识别和分析。但许多非结构化数据，比如视频、图片、图谱等，使用时需要人去检索和识别，不易被充分利用。

　　大模型技术应用后，系统能够轻松跨越结构化数据和非结构数据，实现即搜即问即答。这种融合还能极大简化产品的界面，比如原来分散在不同界面的人力知识系统、财务知识系统和业务知识管理系统能实现合并，形成一个7*24小时的助手为企业用户服务。

　　樊冠军认为，通用大语言模型与用友企业服务大模型、用友BIP系统及企业内私域数据的结合，正在推动企业服务领域里智能应用服务时代的到来。

　　02

　　YonGPT背后的三层架构

　　用友很明确的一点是，不做通用大语言模型，而是选择在闭源或开源的通用大模型之上，来构建自己的企业服务大模型YonGPT，实现跨模型适配。

　　YonGPT的整体架构分了三层，L0层是通用大模型底座，L1层是YonGPT企业服务大模型，L2层是领域或行业模型精调的智能化场景服务。

　　樊冠军认为，在云原生时代人们常说跨云适配，在大语言模型时代，企业服务也需要跨模型进行适配。目前，YonGPT在最底层的通用大模型底座上，可以适配业界主流的大语言模型，既包括包括百度的文心一言等闭源模型，也支持智源悟道、质谱ChatGLM以及LLaMA等开源大模型。在国外，YonGPT还可基于ChatGPT来提供服务。

　　无论哪一种方式，行业大模型都离不开大量的精调和提示工程，用友在这个环节做了细致的工作。YonGPT通过上下文记忆、知识/库表索引、Prompt工程、Agent执行、通用工具集等扩充大模型的存储记忆、适配应用和调度执行能力。除此之外，用友也考虑到了插件建设。涉及到与外部系统的互动以及调用，可以用插件服务来完成。

　　YonGPT内置了一个Agent执行层，作为整体的指挥调度中心，对企业用户的需求进行区分。一些需要返回确定性结果，并且对可靠性要求高的任务，系统会自动交回用友BIP或小模型，由企业服务领域原有的功能来完成。对一些需要推理判定，有不确定性或模糊性的任务，交给大模型去开发。

　　最上面的L2层是场景化的智能应用。目前发布的YonGPT1.0版，用友推出了包括企业经营洞察、智能订单生成、供应商风控、动态库存优化、智能人才发现、智能招聘、智能预算分析、智能商旅费控、代码生成等在内的数十种基于企业服务大模型赋能的智能应用。樊冠军介绍，未来用友会进一步丰富场景，将更多的功能场景开放出来，比如智能保修检修等服务已经在开发中。

　　众所周知，通用大语言模型有时会一本正经的胡说八道，而在企业生产和经营场景，互动的结果需要可信、可靠。樊冠军介绍，YonGPT能够真正在企业服务领域应用，本质上依靠三大技术来实现：

　　首先是交互式数据查询与指令执行。此前的智能人机交互经常被吐槽不够聪明的原因在于，稍有语义改动和问法变化，系统就不能正确识别 ，同时这些软件也不能很好理解上下文内容。经过专门训练后，YonGPT能够准确识别用户的提问，判断用户提问的意图及与之相关联的意图，保证交互准确。

　　其次是业务知识查询问答。大模型技术可以解决多模态数据的问题。多模态的视频、图片和表格数据，通过切片，倒排索引和向量索引等技术处理，各类数据口径对齐，形成企业内的多路索引库。这些索引库都在私域内，L0层和L1层的模型学习、训练和调用都在私域内，保证了数据的安全性，同时得到了企业内知识的“可搜可问答” 。

　　第三是复杂任务执行系统。通过大模型的任务链技术将复杂任务分解一系列微服务执行，把确定性交给已有系统或者小模型，不确定性和系统调度交给大模型。

　　另外，YonGPT还优化了企业服务大模型的训练效率和成本，集成了丰富的开发工具和优化算法，通过自有的数据管理、大模型精调、大模型评估优化、大模型推理和插件服务等功能，为大模型的构建和服务提供稳定且有效的支撑。后续YonGPT将会对用友整体产品体系进行全面的能力覆盖。

　　03

　　用友的优势在哪里?

　　今年4月，用友BIP技术大会上，用友透露已经开始启动企业服务大模型的训练。在外界看来，从启动训练到现在发布，YonGPT筹备的时间也不到半年时间。但事实上，用友在智能化应用和服务方面已布局多年，相关技术也有很深的积累。

　　“用友BIP从研发伊始就坚持把数字化和智能化作为两个最核心和基本的特性，在数字化基础上，结合IPA(智能流程自动化)、计算机视觉、自然语言处理、知识图谱等智能技术，研发提供了一批智能化的应用与服务，已在一批企业中得到应用。”王文京说。

　　比如用友开发的智多星RPA(机器人流程自动化)，汇聚了上千个场景用例，在银行回单下载、对账、开票、稽核等业务场景中，代替人完成高重复、标准化、规则明确、大批量的日常事务性操作。

　　在工业领域，用友的人工智能技术被用于废钢定级、矿山巡检、供水监测等场景。用友BIP的废钢智能判级系统的准确率达95%以上，已服务包括鞍钢集团、济源钢铁在内的20余家钢铁行业领军企业。

　　一位大模型领域的业内人士告诉数智前线，大模型作为人工智能领域一种新的技术范式，背后的技术和算法并不是新的发明，但如何调优、如何工程化落地，还是一个很有门槛的事情，需要有足够的人才和技术储备。

　　用友此前在人工智能领域的积累，给大模型的训练和应用打下了很好的基础。比如用友花了7年时间组织数千人研发的用友商业创新平台-用友BIP，其数智化底座就包含了智能中台。它提供了图片、文本、视频处理的AI接口、智能搜索、知识图谱等AI基础能力，以及数智员工、VPA、RPA、AI工作坊等AI开发工具。如今相当于在基础设施层增加了大模型，让数智化底座变得更为扎实。

　　而且，用友BIP本身也是基于云原生的技术理念开发，做到了微服务化和API化。随着智原生(AI Native)时代的到来，大模型的能力通过API与各类软件打通，实现了AI的普及和应用。

　　高质量的领域数据语料的投喂是大模型变得更专业的重要保障。通用大语言模型有很强的泛化能力和内容生成能力，但准确性不够，所以在解决行业具体问题时，往往需要行业数据进行精调。

　　这是用友深耕企业服务多年积累的优势，用友的人工智能团队结合企业应用场景和领域经验，标记了大量的企业服务语料数据，形成丰富的企业服务大模型训练素材，并将业务知识与领域经验融入企业服务大模型，比如财务、人力、供应链、采购和营销等领域的知识，确保了大模型的专业性和实用性。

　　据数智前线获悉，用友也会收集一些行业的公共数据，包括政策法规等。同时，用友也将自身在研发领域的知识用于模型训练。在基础大模型之上，训练成了企业服务领域通用的大模型，然后提供给整个智能化的场景服务。