来源 / 王吉伟
就在ChatGPT上线一年后的第一周,谷歌发布了其最强大模型Gemni,一度被称作GPT-4杀手锏,也被视作谷歌挣回面子的“雪耻”之作。
然而没过几天,Gemini就被曝夸大营销,所谓的碾压GPT-4仅是嘴上功夫,通过与GPT-4不一致的测试标准混淆跑分,更被嘲讽是在趁OpenAI内部动荡搞事情。
紧接着就传出OpenAI要在月底发布GPT-4.5的消息,更重磅的传闻是GPT-4会免费。怕是OpenAI早已发现,GPT-4再不免费用户可能都跑到谷歌了,重点在于不免费的话GPTs只能让付费用户使用,这距离其所期望的GPTs生态可是差了十万八千里。
所以,GPT Store发布 -> ChatGPT免费 -> GPT4.5发布这个行动路径,大概率会在OpenAI成为事实,届时全球用户都将能够应用并创建更多的GPTs。
GPTs已经上线了一段时间,只是全球用户对其喜忧参半。作为Agent的早期形态,个人用户为之疯狂并想尽办法提升其能力,企业用户却因为其存在的数据安全、功能有限、配套功能不完整等原因,无法将其应用于企业运营。
虽然有些企业已经在内部使用GPTs这样的“准Agent”,但更多企业需要的是能够深度参与企业运营的复杂业务流程操作。此外GPTs只能在OpenAI的大模型GPT之上运行,已经进行私有化部署或者有多模型需求的企业,可能暂时不会考虑GPTs这种Agent解决方案。
对于广大组织而言,与其应用功能不完整的GPTs,还不如搭建自己的Agent系统,或者通过与企业级Agent应用平台合作打造更适合企业使用的Agent。尤其是在国内市场,企业数字化环境存在大量异构框架和复杂信息系统,更需要兼容能力强且多元化的Agent解决方案。
那么,目前市面上有没有这样的Agent构建平台呢?恰好最近澜码科技正式发布了AI原生企业级Agent平台AskXBOT,可能正是大家想要的解决方案。
其实早在8月份AskXBOT平台就已曝光,王吉伟频道也在《全球 AI Agent 大盘点,大语言模型创业一定要参考的60个AI智能体》一文中提到过这个项目。
伴随产品曝光的,还有澜码科技A轮融资的信息。当时这款产品还未发布,这个项目就得到IDG等知名创投的投资,可谓风光一时无两。
大家可能也会问,到底是一款什么样的产品,能够在这么早期就能吸引知名创投的青睐?
这篇文章,王吉伟频道就为大家揭开AskXBOT平台的神秘面纱,并解答很多人关心的AI原生企业级Agent平台应具备哪些特性这个问题。
从AskXBOT平台说起
在早期为数不多的宣传资料中,澜码AskXBOT是专门为企业定制研发的“中间层”自动化运营中台,能够为员工打造低代码/无代码的人机交互界面,是为大模型技术与应用场景间搭建起的价值实现之桥。
历时几个月,作为目前为数不多的企业级Agent平台,AskXBOT进化到什么程度了呢?12月20日,澜码科技在《2023澜码科技产品发布会》上正式对外公布了答案。
澜码科技最新发布的AskXBOT平台,是其自主研发基于LLM的Agent智能体与工作流设计、开发、使用、管理、知识沉淀的一站式平台。
在AskXBOT平台上,企业用户可以用对话的方式提出需求,设计、创建和管理Agent,快速定制企业级AI智能体来完成各类任务,提升工作质量的同时降低成本。
可以看到AskXBOT不只用于构建Agent,更涉及到了的Agent应用生命周期。这是典型的企业软件系统端到端管理逻辑,也使得其与市面上只能构建与使用的Agent平台有了本质区别。
从产品技术架构上来看,该平台包含Agent设计器、知识中心、使用端、管理平台四大核心模块。
在Agent设计器平台,企业用户可以预置多种Agent模版,基于模版快速创建智能会话、知识检索、数据查询、数据分析、任务执行类Agent。
需要说明的是,AskXBOT平台预置、封装了多种配置与能力,用户仅需要简单输入、点选,最快2分钟就可以高效创建Agent。标准化的模板动作库可以让企业用户快速根据业务场景构建常用Agent,可以算是企业级应用的标配性选项,对于企业的高效开发与运营有着重要意义。
标准化虽然通用性强但并不适合所有用户,AskXBOT同样考虑了广大企业的个性化需求。平台开放了多项配置能力,允许个性化定义,满足企业定制需求和多种使用场景,灵活配置满足企业个性需求。对于定制化及个性化需求较多的B端企业而言,这一点还是蛮重要的。
AskXBOT平台还搭载了工作流设计器,通过提供多种多模态模型集成、常用能力封装、灵活丰富的组件,帮助企业快速定制个性化AI工作流。注意这里不只是Agent,而是包括Agent在内的业务流程,这意味着多Agent都可以在这里得到串联及管理。
在知识中心,澜码Agent可以辅助企业知识治理,配合专家知识数字化沉淀,专家知识赋能Agent与工作流,形成良性闭环。
在管理平台上,企业可以查看和管理所有企业内的Agent与工作流,统一管理包括大语言模型(LLM,Large language Models)、文生图模型、TTS、ASR在内的多模态模型。
简单的理解就是,知识中心和管理平台可以让用户更简单地构建及管理更强大的Agent。
当然看不懂也没关系,王吉伟频道会在下一小节详细阐述。
AI原生企业级Agent新范式
自AI Agent被公认为LLM落地的主要途径以来,企业服务领域一直在努力探索如何打造企业级Agent以助力B端用户更好地应用LLM实现降本增效。在技术、架构、产品及模式与LLM及Agent融合发展的过程中,这些厂商逐渐分出两个派系:原始派与原生派。
原始派如ERP、OA、RPA、BI等传统企业管理软件厂商在原有产品基础上做加法,通过API引入LLM或者自研垂直领域模型,基于AutoGPT、Assistants API(OpenAI的Agent构建解决方案)及开源Agent架构将原有企业管理系统升级迭代为Agent,或者将Agent作为其平台服务的一部分。
原生派则直接在LLM应用层进行各种应用开发,这些应用从设计之初就充分考虑并利用AI技术的优势,打造出具有全新用户体验的应用程序。对原生AI应用而言,AI会存在于Agent设计、开发、部署、运营和维护过程之中。用原生应用思维打造的Agent构建平台,自然也具备原生应用的全部属性。
原生派更加灵活和轻巧,可以摆脱传统软件架构束缚从LLM视角借助全新的技术与框架去构建AI智能体,自上而下以更简单的方式去连接人和系统。
在原生派AskXBOT身上,王吉伟频道能看到AI原生企业级Agent构建平台的几个鲜明特点,即自然语言交互、简单创建与编排、灵活配置、复杂流程操作、融合专家知识、易于管理等。
自然语言交互:得益于LLM本身的特性,可以让用户更简单地创建Agent,这将是企业级Agent平台的标配。尤其是经过微调与训练后能够准确理解企业用户多场景复杂业务需求的模型,将会带来更进一步的易用性。
简单创建与编排:具备Agent模版库,方便用户通过模板快速构建面向各类业务的Agent,同时具备强大的封装能力,可以将各种配置与能力封装其中,供与用户构建Agent时调用。
灵活配置:实现灵活配置与个性化自定义,满足企业用户在非标准业务场景的个性化定制需求。
复杂流程操作:企业级Agent平台不只能构建知识问答类Agent,还能构建可以深度参与能够操作ERP、CRM等企业管理系统的复杂业务流程。实现这一点,需要产品既能通过API集成各种软件又能基于RPA、workflow等通过UI自动化连接各种软件,需要丰富的应用工具以增强Agent的执行能力。
融合专家知识:把专家知识沉淀并赋能给Agent与工作流,任何人都能构建各自领域及业务场景的专业Agent。用澜码科技创始人&CEO周健的观点来说就是,专家知识数字化是Agent落地的制胜之匙,专家知识可以增强Agent的能力及稳定性。
通过AskXBOT构建的Agent不只沉淀了专家知识,还可以将过去的代码、RPA、低代码、BI、爬虫、OCR模型以及其他如文生图、ASR、TTS等技术全部嵌入其中,由此构成一个强大的既能推理思考又具备超强执行力的专家型Agent。
易于管理:企业级Agent平台不只能够管理与调度Agent及各种工作流,还能统一管理各种大语言模型、文生图模型、TTS、ASR在内的多模态模型,以适应复杂的业务环境。
可以看到,AskXBOT具备企业级原生Agent平台应具备的多个特性。
当前LLM仍在高速发展并充满很多不确定性,澜码科技能够在AI Agent应用早期阶段就能打造出这种形态的企业级原生Agent平台,很是难能可贵。既体现了创业团队对于AI Agent的深度理解,也彰显了其对LLM未来发展的极高前瞻。
这,应该也是其在A轮融资吸引IDG资本、联新资本等知名投资机构的重要原因。
说了这么多,AskXBOT的应用表现如何呢?
已落地的AskXBOT应用案例
只是介绍产品特性,大家可能感受不到企业级Agent平台的能力。下面,我们来看几个已经落地的应用实例。
案例1:AskXBOT赋能某市监局辅助执法
在某市监局日常工作中,维护消费者权益是一项重要职责。消费者诉及的商品质量相关问题,大到商品房小到一瓶水都在业务范围内,其中涉及到大量的法律法规、行业规范、案例解读。想要工作人员熟练操作相关业务,需要大量的长期培训,过程费时费力,且业务效率非常低。
为了解决这个问题,澜码科技以AskXBOT平台为该组织打造了法律知识问答Agent。这款面向法律的Agent基于相关法律知识库构建,能够为用户提供多种法律问答AI服务。
目前这个Agent已沉淀200余件现行有效法律目录,支持私有化法律大模型部署,可对相关案例进行分析总结并沉淀相关知识到法律知识库各个任务,包括查询与总结、推理、复杂推理(同类法律法规纵向推理、不同类法律法规横向推理)等,准确率高达90%以上。
法律知识问答Agent极大地提高了该市监局的执法的效率和执法过程中的有法可依,提升了基层人员的执法经验联动效应,并为建立市场监管领域行业模型进行行业赋能的长远目标,奠定了基础。
案例2:AskXBOT赋能某人寿保险公司提升代理人销售培训效果
在某人寿保险公司的日常管理中,保险代理人的销售能力提升是最关键的事项,传统的保险代理人销售培训中,受制于传统培训形式的知识传递效果差以及培训成本高的问题,如何将保险销冠的经验传递给普通代理人是保司亟待解决的痛点。
为了解决这个问题,澜码科技以AskXBOT平台为该客户分别打造了保险产品营销顾问与销售培训Agent,这两款Agent积累了包括保险行业知识、保险产品卖点、销冠销售技巧等与产品销售密切相关的知识,为代理人在解答保险问题咨询以及提升销售技巧方面提供了全面的协助。
目前澜码科技在寿险销售领域已沉淀了超过10万行的寿险产品与销售专家知识,并且支持本地化大模型部署,可以为代理人提供包括寿险行业知识问答、产品卖点介绍、条款解释、客户跟进建议等涵盖销售各个环节的辅助,代理人使用满意度达到90%。
除了以上两个案例,澜码科技还用AskXBOT平台为某大型金融集团构建了保险咨询Agent,为某美业头部咨询公司构建了美业顾问Agent,均实现了大幅降本增效。
尤其是澜码AskXBOT与桃李中文的合作,仅用5周时间就从无到有完成13种基础题型的全部POC(Proof of Concept,针对客户具体应用的验证性测试)验证,可以将10个教员1年时间出5万道题超过百万的成本,压缩到3个月内完成,出题效率大幅提升,经营成本更是直线下降。
从这些案例可以看出,作为一款原生企业级Agent构建平台,AskXBOT已经能够真正帮助企业用户构建面向各种业务场景的具备不同功能Agent。
后记:入口级平台与数据飞轮
虽然AI Agent已经成为LLM未来发展共识,但当前阶段的Agent思潮仍旧混乱:一方面在于大家对Agent还没有足够的认知,或者说各自定义的Agent有所不同;另一方面则在于尚未出现真正像样的企业级Agent产品,更多人还没有想清楚如何去定义Agent企业级应用。
目前市面出现的原生Agent平台所构建的Agent产品,大多还是各类问答机器人,都是“玩具”一样的存在,就连OpenAI推出的GPTs也只能说是初期阶段的“准Agent”产品。
所以一些人认为原生AI玩家想要打造企业级Agent平台很难,且很难下沉到企业运营的底层,因此传统企业管理软件厂商更适合去做企业级Agent产品。
从澜码AskXBOT这款产品来看,他们不只做出了AI原生的企业级Agent产品,还做得比较透彻,能够赋能广大企业自上而下的应用Agent最大化实现业务流程自动化。这种重新定义的原生企业级Agent产品形态,算是为企业服务领域打了一个样,甚至解答了很多创业团队长久以来心中的疑问。
从澜码科技的战略布局及产品形态来看,AskXBOT很有可能会成为企业服务领域人机交互的入口级平台,它会让更多第三方加入进来,进一步放大澜码产品的通用性,降低使用门槛,让不同模型的Agent能够更好地协作,更有效率、更智能地服务好客户。
能做出这样的产品,离不开创始人周健及团队过往在企业服务领域的各种经验、技术、资源及生态等的沉淀与积累,更离不开其对于大语言模型及AI Agent的深度认知以及对市场需求的深度洞悉,还在于澜码科技创始之初就是一家“数据飞轮”企业。
他们知道如何使用更多数据训练出更好的模型,吸引并服务更多用户,继而产生更多用户数据用于训练,形成良性循环以让企业实现更好的发展。
OpenAI创始人山姆·奥特曼(Sam Altman)认为未来只存在三类企业,即大模型企业、数据飞轮企业和AI应用企业。而做好数据飞轮的初创公司将会非常成功,制胜法宝则取决于它们能在“数据飞轮”上走多远。
澜码科技正在通过不断积累专家行为数据,并在与专家的互动反馈中不断分析和习得这些“隐性知识”。随着时间积累,这些经验数据将会形成飞轮效应。Agent在习得经验后能够做更精准的推荐,给出更多的建议供选择,反过来提升人机协同的工作质量。
用不断迭代完善的AskXBOT平台,帮助企业构建更智能更自动化的Agent,赋能企业更好地进行数字化转型,实现增效提质降本。
洞悉这一点,假以时日,澜码科技的“数据飞轮”必然会转得更快,飞的更远。
全文完
【王吉伟频道,关注AIGC与IoT,专注数字化转型、业务流程自动化与RPA,欢迎关注与交流。】