{dede:global.cfg_webname/}

当前位置: 首页 > 科技 > 科技快讯 > 正文

晋升业内新宠儿 MoE模型给了AI行业两条关键出路

来源:互联网    时间:2024-07-30 09:22:32

  今年以来,MoE模型成了AI行业的新宠儿。

  一方面,越来越多的厂商在自家的闭源模型上采用了MoE架构。在海外,OpenAI的GPT-4、谷歌的Gemini、Mistral AI的Mistral、xAI的Grok-1等主流大模型都采用了MoE架构。

  而在国内,昆仑万维推出的天工3.0、浪潮信息发布的源2.0-M32、通义千问团队发布的Qwen1.5-MoE-A2.7B、MiniMax全量发布的abab6、幻方量化旗下的DeepSeek发布的DeepSeek-MoE 16B等等也都属于MoE模型。

  另一方面,在MoE模型被广泛应用的同时,也有部分厂商争先开源了自家的MoE模型。前不久,昆仑万维宣布开源2千亿参数的Skywork-MoE。而在此之前,浪潮信息的源2.0-M32、DeepSeek的DeepSeek-MoE 16B等,也都纷纷开源。

  为什么MoE模型如此火爆,备受各大厂商的青睐?在开源的背后,MoE模型又是以什么样的优势使各大主流厂商成为其拥趸,试图作为改变AI行业的利器?

  MoE模型火爆的背后:

  客观来说,MoE模型的具体工作原理更接近中国的一句古语“术业有专攻”,通过把任务分门别类,然后分给多个特定的“专家”进行解决。

  它的工作流程大致如此,首先数据会被分割为多个区块(token),然后通过门控网络技术(Gating Network)再把每组数据分配到特定的专家模型(Experts)进行处理,也就是让专业的人处理专业的事,最终汇总所有专家的处理结果,根据关联性加权输出答案。

  当然,这只是一个大致的思路,关于门控网络的位置、模型、专家数量、以及MoE与Transformer架构的具体结合方案,各家方案都不尽相同,也逐渐成为各家竞争的方向——谁的算法更优,便能在这个流程上拉开MoE模型之间的差距。

  像浪潮信息就提出了基于注意力机制的门控网络(Attention Router),这种算法结构的亮点在于可以通过局部过滤增强的注意力机制(LFA, Localized Filtering-based Attention),率先学习相邻词之间的关联性,然后再计算全局关联性的方法,能够更好地学习到自然语言的局部和全局的语言特征,对于自然语言的关联语义理解更准确,从而更好地匹配专家模型,保证了专家之间协同处理数据的水平,促使模型精度得以提升。

  基于注意力机制的门控网络(Attention Router)

  抛开目前各家厂商在算法结构上的创新与优化不谈,MoE模型这种工作思路本身所带来的性能提升就非常显著——通过细粒度的数据分割和专家匹配,从而实现了更高的专家专业化和知识覆盖。

  这使得MoE模型在处理处理复杂任务时能够更准确地捕捉和利用相关知识,提高了模型的性能和适用范围。因此,「智能相对论」尝试了去体验天工3.0加持的AI搜索,就发现对于用户较为笼统的问题,AI居然可以快速的完成拆解,并给出多个项目参数的详细对比,属实是强大。

  天工AI搜索提问“对比一下小米su7和特斯拉model3”所得出的结果

  由此我们可以看到,AI在对比两款车型的过程中,巧妙地将这一问题拆解成了续航里程、动力性能、外观设计、内饰设计、智能化与自动驾驶、市场表现与用户口碑、价格等多个项目,分别处理得出较为完整且专业的答案。

  这便是“术业有专攻”的优势——MoE模型之所以受到越来越多厂商的关注,首要的关键就在于其所带来的全新解决问题的思路促使模型的性能得到了较为显著的提高。特别是伴随着行业复杂问题的涌现,这一优势将使得MoE模型得到更广泛的应用。

  各大厂商争先开源MoE模型:

  开源的意义在于让MoE模型更好的普及。那么,对于市场而言,为什么要选择MoE模型?

  抛开性能来说,MoE模型更突出的一点优势则在于算力效率的提升。

  DeepSeek-MoE 16B在保持与7B参数规模模型相当的性能的同时,只需要大约40%的计算量。而37亿参数的源2.0-M32在取得与700亿参数LLaMA3相当性能水平的同时,所消耗的算力也仅为LLaMA3的1/19.

  也就意味着,同样的智能水平,MoE模型可以用更少的计算量和内存需求来实现。这得益于MoE模型在应用中并非要完全激活所有专家网络,而只需要激活部分专家网络就可以解决相关问题,很好避免了过去“杀鸡用牛刀”的尴尬局面。

  举个例子,尽管DeepSeek-MoE 16B的总参数量为16.4B,但每次推理只激活约2.8B的参数。与此同时,它的部署成本较低,可以在单卡40G GPU上进行部署,这使得它在实际应用中更加轻量化、灵活且经济。

  在当前算力资源越来越紧张的“算力荒”局面下,MoE模型的出现和应用可以说为行业提供了一个较为现实且理想的解决方案。

  更值得一提的是,MoE模型还可以轻松扩展到成百上千个专家,使得模型容量极大增加,同时也允许在大型分布式系统上进行并行计算。由于各个专家只负责一部分数据处理,因此在保持模型性能的同时,又能显著降低了单个节点的内存和计算需求。

  如此一来,AI能力的普惠便有了非常可行的路径。这样的特性再加上厂商开源,将促使更多中小企业不需要重复投入大模型研发以及花费过多算力资源的情况下便能接入AI大模型,获取相关的AI能力,促进技术普及和行业创新。

  当然,在这个过程中,MoE模型厂商们在为市场提供开源技术的同时,也有机会吸引更多企业转化成为付费用户,进而走通商业化路径。毕竟,MoE模型的优势摆在眼前,接下来或许将有更多的企业斗都会尝试新的架构来拓展AI能力,越早开源越能吸引更多市场主体接触并参与其中。

  但是,开源最关键的优势还是在于MoE模型对当前算力问题的解决。或许,随着MoE模型被越来越多的企业所接受并应用,行业在获得相应AI能力的同时也不必困顿于算力资源紧张的问题了。

  写在最后

  MoE大模型作为当前人工智能领域的技术热点,其独特的架构和卓越的性能为人工智能的发展带来了新的机遇。不管是应用还是开源,随着技术的不断进步和应用场景的不断拓展,MoE大模型有望在更多领域发挥巨大的潜力。

  MoE模型的本质在于为AI行业的发展提供了两条思路,一是解决应用上的性能问题,让AI有了更强大的解题思路。二是解决算力上的欠缺问题,让AI有了更全面的发展空间。由此来看MoE模型能成为行业各大厂商的宠儿,也是水到渠成的事情。

声明:来源非IT商业科技网的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:Email:342 4350 938@qq.com

频道精选
越秀资本与狮桥集团、深向科技签署战略合作框架协议

越秀资本与狮桥集团、深向科技签署战略合作框架协议

  7月29日上午,狮桥集团、DeepWay深向科技创始人兼CEO万钧一行到访越秀资本,双方围绕企业经营发展、深化业务合作等进行了交流。  越
2024-07-30
用友大易与Blueglass联名 携手成为SuperHR的新选择!

用友大易与Blueglass联名 携手成为SuperHR的新选择!

  近日,招聘管理系统行业领军者用友大易与国内知名高端酸奶品牌Blueglass达成跨界联名,并推出联名款贴纸——这易杯,谁不AI,携手成为S
2024-07-30
第二届升学e网通智慧心育研讨会召开 共启心理健康教育新篇章

第二届升学e网通智慧心育研讨会召开 共启心理健康教育新篇章

  同心共筑·智启未来第二届升学e网通智慧心育研讨会于7月18日-7月19日在杭州铭师堂总部隆重召开。此次心理专题教研工坊研讨会旨在贯彻落
2024-07-30
小鹏G6右舵版纯电SUV登陆新加坡 提供试驾体验

小鹏G6右舵版纯电SUV登陆新加坡 提供试驾体验

  原标题:小鹏 G6 右舵版纯电 SUV 登陆新加坡,首家正式门店预计 9 月开业  7 月 29 日消息,7 月 25 日,小鹏汽车正式进
2024-07-29
漫步者Comfo Clip开放耳夹式蓝牙耳机开售 支持双设备连接

漫步者Comfo Clip开放耳夹式蓝牙耳机开售 支持双设备连接

  原标题:漫步者 Comfo Clip 开放耳夹式蓝牙耳机开售,359 元  7 月 29 日消息,漫步者 Comfo Clip开放式蓝牙耳机现已开售,
2024-07-29
优派“VA2479-2K-HD”23.8英寸显示器上架 支架支持倾斜

优派“VA2479-2K-HD”23.8英寸显示器上架 支架支持倾斜

  原标题:优派VA2479-2K-HD23 8 英寸显示器上架:2K 75Hz,588 元  7 月 29 日消息,优派今天在京东上架一款型号为VA2479-2K-HD
2024-07-29
瓦尔基里V36 AMG带屏夹汉堡一体式水冷散热器预售 搭载38mm加厚铝制冷排

瓦尔基里V36 AMG带屏夹汉堡一体式水冷散热器预售 搭载38mm加厚铝制冷排

  原标题:瓦尔基里 V36 AMG 带屏夹汉堡一体式水冷散热器预售,1499 元  7 月 29 日消息,瓦尔基里 Valkyrie 旗舰级一体式水
2024-07-29
大众ID.UNYX与众纯电轿跑SUV开启交付 提供621KM和565KM两种续航版本

大众ID.UNYX与众纯电轿跑SUV开启交付 提供621KM和565KM两种续航版本

  原标题:大众 ID UNYX 与众纯电轿跑 SUV 开启交付,售 20 99 万元起  7 月 29 日消息,大众汽车昨日宣布,ID UNYX与众纯电
2024-07-29

2017-2019 Copyright © IT商业科技网 备案许可证号粤ICP备2022153948号 豫公网安备110102003388号

紧急处理QQ:133 4673 445@qq.com