{dede:global.cfg_webname/}

当前位置: 首页 > 科技 > 科技快讯 > 正文

浩鲸科技全面升级一站式模型工厂鲸智MAAS平台

来源:互联网    时间:2024-07-03 11:07:42

  智能化技术飞速发展,在运营商AI+推动下,众多生产系统正积极融入并采纳大模型技术,从而引发了对大模型需求的迅猛增长。作为一站式模型工厂,MAAS平台以其卓越的大模型服务能力,覆盖了从模型数据、服务到应用赋能的全流程。然而,在实践落地过程中,数据采集处理、模型纳管微调以及模型服务保障三个环节面临了显著的挑战。

  2024年 MWC上海展会上,浩鲸科技展示的鲸智MAAS平台,以“FUTURE WISE”为设计理念,成功突破了上述三大挑战。通过提供全面的数据管理、强大的模型兼容性、高效的模型微调机制、全面的评估体系以及灵活的发布策略,鲸智MAAS平台帮助客户打造了强大的AI+新质生成力,助力客户在智能化道路上不断攀登新的高峰。

  同时,浩鲸科技深度参与工信部旗下人工智能关键技术和应用评测重点实验室《MaaS模型即服务技术与应用要求 第1部分:模型服务协议要求》标准编写,获“核心参编单位”称号。

https://img.toumeiw.cn/upload/ajax/20240703/537064d77d8407cff166aefa6829bbb9.png

  全域高质量数据供给、解决模型幻觉问题

  鲸智MaaS平台在1.0基础上强化自动化数据采集、智能化数据处理和编排式语料生成等能力,快速高效地为多重场景提供全域高质量数据组装和供给,从而提升模型性能、减少模型幻觉、满足特定场景需求以及加速模型迭代。

  自动化数据采集:通过数据感知技术和数据理解技术,将广泛分布且变动迅速的数据以业务实体智能拟合,并采用分片技术自动执行完成数据采集。

  智能化数据处理:首先对采集数据进行结构化处理,在通过智能数据标注、智能数据连接、数据增强、数据融合等技术,形成大模型投喂的高质量Questions and answers数据队列。

  编排式语料生成:对于高质量的数据队列,通过场景化模板、在线编排式,以拖拉拽的方式,完成数据供给。

  标准化的能力纳管、解决模型适配难问题

  鲸智MaaS平台通过低门槛、高效率的模型微调技术和模型血缘分析,助力企业突破模型管理瓶颈,实现低成本、一站式模型纳管和微调,投入成本缩短至天,当前平台已满足40+大模型的透明化管理。

https://img.toumeiw.cn/upload/ajax/20240703/455d6451d02e65fd8e7339554ddc1004.png

  低门槛、高效率的模型微调技术:提供模型微调标准的六步法(选择基模、创建微调任务、选择数据集、设置超参数、模型训练、模型评估),实现通用模型向场景模型的精调,全程低门槛、高性能的模型微调体验。

  模型自动接入:通过自动采集基模的公开信息和评测报告,形成360度感知视图,采用插件化算法框架和硬件芯片适配,实现运行环境的自动化构建,确保基模型的快速高效接入与运行。

  模型血缘分析:通过模型血缘分析智能分析不同层级模型的复杂依赖关系和环境依赖,实现分层存储和版本控制,结合区块链技术确保防篡改和可追溯。

  高效率模型服务、解决模型准确性和及时性

  鲸智MaaS平台提供了智能化的解决方案,将模型切换耗时从周降至天,实现资源消耗降低20%以上,意图识别准确率提升10%以上,为企业提供了更快、更省、更准的模型服务保障。

https://img.toumeiw.cn/upload/ajax/20240703/b90ca636caf281c1bf6e92a50d88c127.png

  智能差距发现:通过编排式评测数据生成、自动化环境构建和资源分配、自动化指标收集等技术,实现模型场景化能力分析的自动化和高效率。

  智能推理加速:通过KVCache、PagedAttention、动态批量、FlashAttion,模型编排、模型量化等技术,降低推理延迟,提高推理吞吐;同时,对客户问题术语进行标准化,对问题条件进行参数化、问题直达,减少对大模型的调用。

  精准意图识别:采用意图识别代理技术,通过智能问题增强、多路要素提炼、智能问题分解和综合知识召回等多维度增强,提升了基础大模型的意图识别能力,实现场景化问题的精确识别,提高意图识别的准确性。

  未来已来,智慧相伴。鲸智MaaS平台将持续以“FUTURE WISE”设计理念为基础,以创新为驱动力,不断优化和提升自身能力,帮助企业全面提升智能化水平,实现高效、精准、全面的AI应用。

声明:来源非IT商业科技网的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:Email:342 4350 938@qq.com

频道精选
浩鲸科技全面升级一站式模型工厂鲸智MAAS平台

浩鲸科技全面升级一站式模型工厂鲸智MAAS平台

  智能化技术飞速发展,在运营商AI+推动下,众多生产系统正积极融入并采纳大模型技术,从而引发了对大模型需求的迅猛增长。作为一站式模
2024-07-03
京东快递国际推专属服务:丢一件赔十倍 最高赔100万

京东快递国际推专属服务:丢一件赔十倍 最高赔100万

  京东快递国际宣布将为马拉松大众组中国参赛者提供专项快递运输保障,快递费3000元内的中国至巴黎快递均可免费。  具体而言,7月2日至
2024-07-03
Rivian:暂无与大众汽车集团合作生产汽车的计划

Rivian:暂无与大众汽车集团合作生产汽车的计划

  7 月 3 日消息,美国电动汽车公司 Rivian 于 6 月 26 日获得了德国汽车巨头大众汽车集团 50 亿美元(备注:当前约 364 47
2024-07-03
2024全球数字经济大会人工智能专题论坛召开 值得买科技荣获大模型场景应用典型案例

2024全球数字经济大会人工智能专题论坛召开 值得买科技荣获大模型场景应用典型案例

  2024全球数字经济大会人工智能专题论坛在北京举行。值得买科技凭借在消费大模型智能化提升信息消费效率与品质方面的价值,荣获2024人工
2024-07-03
腾讯星脉网络2.0全新发布 400G网络接口 支持超10万卡大规模组网

腾讯星脉网络2.0全新发布 400G网络接口 支持超10万卡大规模组网

(腾讯云副总裁王亚晨)  随着大模型的火热持续迭代,AI基础设施愈发成为云厂商的核心竞争力之一。  7月1日,腾讯宣布其自研星脉高性能计
2024-07-03
鸿海越南子公司斥1.19亿美元 租地委建兴建厂房

鸿海越南子公司斥1.19亿美元 租地委建兴建厂房

  鸿海今日公告,越南子公司Fulian Precision Technology Component CO ,LTD,将斥资1 19亿美元,以租地委建的方式,兴建厂房。  
2024-07-03

2017-2019 Copyright © IT商业科技网 备案许可证号粤ICP备2022153948号 豫公网安备110102003388号

紧急处理QQ:133 4673 445@qq.com