在21日召开的华为开发者大会2024上,华为云CTO张宇昕表示:“华为云对AI 开发生产线ModelArts进行升级,在AI开发基础设施和流水线之上,构建了大模型即服务平台 ModelArts Studio。提供百模千态的第三方大模型托管服务,支持对大模型定制开发,并提供相应的工具和行业集成套件,让客户可以方便的将大模型与业务系统结合。”
华为云CTO张宇昕
ModelArts Studio大模型即服务平台具备三大特点:
一、支持零代码、免配置模型开发:华为云沉淀盘古大模型的开发经验,以及100多个第三方大模型基于昇腾平台适配和调优的经验,为企业模型调优自动推荐最优配置参数。
二、支持多模型智能路由:ModelArts Studio能够根据任务类型、模型效果自动选择合适的模型,例如将复杂推理类任务路由给盘古处理,而将简单的文案生成类请求路由给开源模型来处理。从而提升企业的模型管理和维护效率,降低模型调用成本25%以上。
三、提供多个智能Agent:ModelArts Studio沉淀了50多个智能Agent,可以准确理解业务意图,分解复杂任务,帮助企业快速智能构建和部署大模型应用。
