近日,由阿里云与端木软件联合主办、侨梦苑协办的AI智领者研讨会在宁波圆满举行。端木软件高级解决方案架构师、阿里云MVP缪政辉在会上进行了《基于阿里百炼及内部知识库构建企业专属问答机器人》的主题分享。
2023年10月,阿里云发布百炼大模型平台后,这一集成了国内外主流优质大模型,提供模型选型、微调训练、安全套件、模型部署等服务和全链路应用开发工具的强大平台,能够有效简化企业智能化升级路径,提供一站式、全托管的大模型定制与应用服务。
基于这一强大平台,企业在AI智能化的路上有了许多优秀大模型的选择。缪政辉在会上深度剖析了中小企业在部署大型语言模型应用中面临的挑战,并重点分享了多款基于阿里百炼平台的大模型工具。
MaxKB——构建企业自有大模型问答服务
缪政辉指出,如何低成本、高效率地实施大模型落地,一直是企业智能化发展的一大难题。高昂的GPU运行成本、知识资产难以落地以及缺乏代码能力是中小企业应用大模型的主要障碍。
为解决这些痛点,缪政辉介绍了MaxKB这款基于LLM大语言模型的开源知识库问答系统,它支持开箱即用、多源知识库接入、无缝嵌入以及多模型与多用户管理,极大降低了部署门槛。
通过演示MaxKB的部署过程,缪政辉展示了如何快速搭建问答机器人,仅需基本的硬件配置(2+vCPU, 4GB+RAM, 100GB+Disk)即可运行。他还详述了如何在MaxKB上添加模型、配置知识库分段并关联问题,最终创建应用,使得企业能够通过微信、钉钉等渠道使用或嵌入自己的问答机器人。
缪政辉会上还展示了2024年中国“大模型+知识管理”的一系列最佳实践案例,如博世华域的质量知识管理体系、唱吧的智能客服升级、国家电网的电力设备运检助手等,案例覆盖制造、IT、互联网、能源等多个领域,充分展现了大模型在企业知识管理中的广泛应用能力。
Dify——构建企业AI Agent,实现 AI 业务自动化
除了基础对话式的生成模式,随着人们对AI技术的认知逐渐深化,相应的对其更加深入的应用也有了更高期待。能否构建AI智能体实现AI业务自动化,全面赋能企业的工作流、业务流呢?
缪政辉现场介绍了Dify这一大模型工具。这一开放灵活的生成式AI应用开发框架,涵盖了构建生成式 AI原生应用所需的核心技术栈,开发者可以聚焦于创造应用的核心价值,便捷部署,快速发布应用,有效加速企业AI应用的开发周期,并通过阿里云百炼平台进一步优化流程管理,深化AI智能体的应用,为用户提供更全面的解决方案。
除了这两款重点大模型工具,缪政辉还现场推荐了如Jina Reader API、AiPPT、VitePress等增强问答知识库和AI Agent的工具,充分满足企业个性化和多样化需求。
最后,缪政辉向与会者介绍了端木软件。作为阿里云旗舰级合作伙伴,端木软件全国部署6大灵活开发团队池、9大云计算支持中心,以其在云业务、应用现代化服务、软件服务外协等方面的专业服务能力,为电力、政府、运营商、制造等多个行业客户提供一站式IT服务。
此次研讨会不仅为企业提供了0代码构建AI机器人的具体操作指南,更为行业内外展示了AI技术如何在不同领域落地,促进业务创新与效率提升。AI和大模型技术日渐成熟的发展,为企业全场景工作流、业务流注入了智能基因,让企业宝贵的知识资产得以高效反哺业务发展,是企业降低人力成本、显著提高业务流转效率的强大动能。