{dede:global.cfg_webname/}

当前位置: 首页 > 科技 > 软件 > 正文

MAIA新系统亮相:洞悉AI模型内在机制 审查其安全性

来源:互联网    时间:2024-07-26 09:19:32

  麻省理工学院计算机科学与人工智能实验室的研究人员开发了一种名为“MAIA”的多模式自动化可解释性代理系统,该系统可以使用视觉语言模型来自动执行各种神经网络可解释性任务。

  麻省理工学院(MIT)计算机科学与人工智能实验室(CSAIL)最新研发了名为 MAIA 系统,可以使用视觉语言模型来自动执行各种神经网络可解释性任务。

  MAIA 的全称是 Multimodal Automated Interpretability Agent,直译过来为“多模态自动可解释性代理”,主要利用视觉语言模型,自动执行各种神经网络可解释性任务,并配备了在其他人工智能系统上进行实验的工具。

  研究论文的共同作者,来自 MIT CSAIL 的博士后 Tamar Rott Shaham 表示:

  我们的目标是创建一个能够自主进行可解释性实验的人工智能研究人员。现有的自动可解释性方法只是在一次性过程中对数据进行标注或可视化。

  另一方面,MAIA 可以生成假设,设计实验对其进行测试,并通过迭代分析完善自己的理解。

  通过结合预先训练好的视觉语言模型与可解释性工具库,我们的多模态方法可以在特定模型上组成和运行有针对性地实验,来响应用户的询问,不断完善其方法,直至能够提供全面的答案。

  该自动代理被证明能够完成三项关键任务:

  可以为视觉模型内部的各个组件贴标签,并描述激活这些组件的视觉概念

  可以通过去除无关特征来清理图像分类器,使其对新情况更加稳健

  还可以寻找人工智能系统中隐藏的偏差,帮助发现其输出中潜在的公平性问题。

  MAIA 可以通过生成假设、设计实验来测试假设,并通过迭代分析改进其理解,从而解释人工智能模型的内部机制,帮助我们了解人工智能模型如何运作,并探究其安全性和偏差。

声明:来源非IT商业科技网的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:Email:342 4350 938@qq.com

频道精选
MAIA新系统亮相:洞悉AI模型内在机制 审查其安全性

MAIA新系统亮相:洞悉AI模型内在机制 审查其安全性

  麻省理工学院计算机科学与人工智能实验室的研究人员开发了一种名为MAIA的多模式自动化可解释性代理系统,该系统可以使用视觉语言模型来
2024-07-26
Stellantis上半年净利润56.5亿欧元:同比下降48% 今年推出不少于20款新车

Stellantis上半年净利润56.5亿欧元:同比下降48% 今年推出不少于20款新车

  欧洲汽车巨头 Stellantis 今日公布了 2024 年上半年的财报。数据显示,集团上半年净营收 850 2 亿欧元(备注:当前约 6701 99
2024-07-26
iEnglish:推动英语教育个性化发展

iEnglish:推动英语教育个性化发展

  近日,北京师范大学知名教授张志勇博士指出,随着人工智能时代的全面开启,教育领域正迎来前所未有的变革机遇。AI技术的深入应用,为教
2024-07-26
三星希望成为iPhone COMS供应商:已成立专人团队服务苹果

三星希望成为iPhone COMS供应商:已成立专人团队服务苹果

  据媒体报道,iPhone手机一直在采用索尼的相机传感器,例如iPhone 15 Pro Max上就配备了索尼的IMX803 三星则计划扩大其相机传感器业
2024-07-26
中国电信麦芒30手机首销 主打轻薄设计+大电池

中国电信麦芒30手机首销 主打轻薄设计+大电池

  原标题:中国电信麦芒 30 手机首销,1999 元起  7 月 25 日消息,中国电信麦芒 30手机今日开售,该手机主打轻薄设计 + 大电
2024-07-25
小米14 Civi熊猫设计限量版定于7月29日在印度发布 支持67W快充

小米14 Civi熊猫设计限量版定于7月29日在印度发布 支持67W快充

  原标题:小米 14 Civi 熊猫设计限量版定于 7 月 29 日在印度发布,双拼色  7 月 25 日消息,小米 14 CiviPandaDesign
2024-07-25
英特尔酷睿Ultra 9 285K处理器曝光 采用7nm工艺

英特尔酷睿Ultra 9 285K处理器曝光 采用7nm工艺

  原标题:英特尔酷睿Ultra 9 285K处理器曝光:多核跑分比i9-14900K高 18%  7 月 25 日消息,消息源 Jaykihn 昨日(7 月 24
2024-07-25
岚图FREE车型OTA 5.5版本 主要对语音交互功能进行提升

岚图FREE车型OTA 5.5版本 主要对语音交互功能进行提升

  原标题:岚图 FREE 车型 OTA 5 5 版本:新增空调干燥、离线语音模式等  7 月 25 日消息,岚图 FREE 和岚图 FREE 超长续
2024-07-25
AMD EPYC 9755处理器CPU-Z跑分曝光 基础时钟频率为2.70 GHz

AMD EPYC 9755处理器CPU-Z跑分曝光 基础时钟频率为2.70 GHz

  原标题:多核破 10 万,AMD EPYC 9755 处理器 CPU-Z 跑分曝光  7 月 25 日消息,消息源 HXL(@9550pro)昨日(7 月 24 日
2024-07-25

2017-2019 Copyright © IT商业科技网 备案许可证号粤ICP备2022153948号 豫公网安备110102003388号

紧急处理QQ:133 4673 445@qq.com