大模型“落地生根”，百融云创展现AI潜力

　　“纯电动车和燃料电池电动车整车制造项目，根据绿色产业指导目录，按照层级输出编号和名称。”任务刚一下达，一个有关绿色金融的三级映射，立刻罗列在屏幕上。这是金融机构，利用百融云创大模型进行绿色识别的一次创新探索。

　　2024年政府工作报告中，正式提出“人工智能+”作为新的发展战略。而在人工智能技术领域，大模型以“明星”之姿站到了舞台的正中央，相比锻造大模型，当下产业链上下游聚焦的重心，演变成为如何用好大模型。

　　不断落地、搭桥

　　大模型的本质，是世界知识的压缩，目前最好的大模型产品可以实现30倍以上的信息压缩比。

　　不要小瞧这个数字，因为大模型的压缩功能并不止于简单信息的符号化，而是能研读海量的信息，并从中总结出一定的规律。

　　慢慢的，大模型有了类似于人脑般的解读能力，即使面对完全生涩的问题，也能根据当下的情景进行解答，甚至举一反三。

　　此前，AI产业界已经掀起锤炼模型的浪潮，从最初的卷参数、卷榜单，到如今的卷价格、卷应用，好生热闹。

　　从OpenAI、微软和谷歌等AI巨头的近期动向上来看，随着数据和算力愈发短缺，2024年生成式AI的关键词将是多模态和产业大模型。一方面，企业将愈发重视多模态能力，用于理解更复杂的现实世界，另一方面，参数小但性能更强、更具针对性的产业大模型将更加深入人心。

　　百融云创便是其中的先行者。作为人工智能代表性企业，百融云创持续推进模型应用一体化的协同战略布局，自主构建了大模型预训练、微调、推理工程优化、应用开发套件等一整套技术栈，其中就包括适用于垂直行业场景的BR-LLM。

　　经过一段时间的打磨，走过造锤子的阶段，市场考验来到了钉钉子的能力。站在细分行业的角度来看，产业大模型的落地并非一蹴而就。从早期市场过渡到成熟市场，摸着石头过河并不容易，如何串联起多个场景，拆解B、C两端的需求，让产业大模型变得好用、易用，考验的是一家AI企业对大模型技术的理解能力。

　　显然，百融云创率先找到了过河的工具。依托大模型的能力，打造了系列的“大模型家族产品”，如对话大模型VoiceGPT，适用于自动编程的BR-Coder等。

　　比如在编程领域，位于研发端的工作人员，可利用通用的编程大模型BR-Coder，将开发岗位中的自动生成代码渗透率提升至10%。

　　实际上，大模型输入提示词、模型处理和输出结果的工作模式，与编程的流程基本吻合。因此，将一部分代码交给大模型去写，已经成为不少头部科技企业的共识。

　　当然，这也不意味着人类程序员绝对会失业。AI时代的创新精神是：人类要学会利用编程大模型来辅助自己，进而提升效率。

　　除此以外，随着大模型的发展，需要重新定义人与机器的交互方式，被技术大咖李飞飞、吴恩达预测有望成为下一个风口的智能体（AI Agent），也是大模型从通用走向垂直的关键扳手，百融云创同样没有错过。

　　百融云创AI Agent由大模型、工具调用、记忆能力、本地知识库等多个模块组成，能提供基础Agent的构建能力，如工具调用、基于知识库文件记忆能力等。

　　现在，基于AI Agent，企业内部的数字系统中，每位员工都可以构建一个bot（机器人）作为专属助理。bot就像是知识库和工具箱，除了语言处理的功能外，员工还能对bot下达任务进行工具调用，从而达成业务的提质增效。

　　要知道，大模型在B端的落地并不容易。站在企业与行业的角度，他们关注的核心并不难理解：作为新兴的技术，大模型可以带来什么价值和增量，以及投入产出比如何。

　　对此，百融云创的破题思路，具备一定的参考价值，即深挖垂直与刚需场景，降低产业大模型应用门槛，将场景价值做深打透。

　　针对企业应用大模型门槛高的痛点，百融云创选择将智能语音技术与3D场景结合打造数字人，数字人能够以数字大屏的形式应用于机场、旅行社或商场等公共场所。这种创新的应用不仅能够降低人工成本，还能开拓更广阔的市场空间。

　　可以预见，做大客户规模，从而触达更多生态，将是百融云创在当下真实商业场景中保持竞争力的壁垒。

　　据和讯网了解，现在，百融云创已经服务了7000多家客户，覆盖银行、消金、保险、电商、汽车、物流、票务、能源和建筑等多个行业，充分展现出AI潜力。

　　大模型，如何避免“幻觉”

　　2024年被称作大模型落地元年，国产市场的角斗场上也出现了不少新故事，一方面，价格战为国产大模型的起飞送来了东风，另一方面，产业对新技术的发展历经了祛魅的过程。

　　其实，远在传统AI时代，叫好不叫座一直是产业的难题，在市场回归理性后，许多企业在挤去泡沫的过程中被洗牌出局，也让大家明白了一个共识：只有能为细分行业创造价值，才有美好的未来。

　　在这一次大型祛魅过程中，检测产业大模型的能力，已经不在于榜单上的分数，或者是否能远超GPT-4，而是比拼谁的商业化做得好，进而为自身的迭代提供更佳的造血能力。

　　市场才是最好的试金石。实际上，一线已经听得见炮火。

　　众所周知，百融云创是以“AI+金融”起跑。在金融行业，对绿色金融进行精准识别是发展绿色金融的重要前提，面对国内外多套绿色标准，产业大模型可以发挥至关重要的作用。

　　现在，通过百融云创大模型，金融机构在收集大量的绿色金融政策文件时，合并国内外多套绿色标准，以及金融机构内部的认定原则和标准。不管是表格、文档还是PPT，大模型都能无压力“笑纳”，最终形成全行级别的且独一无二的绿色金融知识库。

　　如何让大模型保证时效性，一直是AI企业重要的课题，这一点百融云创大模型也迎刃而解。面对最新的政策调整，金融机构可以随时上传文档，更新和完善知识库。这样一来捕捉最新产业动向，完成最新内容的生成，只需“更新知识库”，而不用“更新大模型”。

　　当然，大模型虽然好用，但相对而言也并不完美，有时会产生“幻觉”，甚至会犯事实性错误。最近，9.11和9.9哪个数字更大？一道小学生难度的数学题便难倒了一众海内外AI大模型，引发了行业热议。

　　针对大模型可能出现的“幻觉”问题，百融云创引入了检索增强生成技术（RAG），它的技术原理是整合外部知识库，在大模型接收到提问时，先去检索外部知识库，并将其提供给大模型。而后，大模型在生成答案时，能够参考这些外部数据库中的信息，从而生成更准确和相关的答案。这种方式不仅增强了大模型的输出质量，还避免了重新训练模型的繁琐过程。

　　现在，RAG技术的落地已经产生了切实的成效，使得百融云创大模型能在绿色金融知识库中实现精准的检索和生成，而且引用还会“注明出处”，实用性倍增。

　　可以说，已经多次迭代和革新的百融云创大模型，展现出低调、务实的姿态，在开发上坚持应用导向，注重实际落地和收益转化，这也是百融云创大模型备受垂直行业认可的缘由。