IT商业科技网

Facebook否认AI失控:忘记设置英语语法

作者:第一财经日报    时间:2017-08-03 09:54:27    第一财经日报

最近引起轰动的AI失控事件可以追溯到上个月Facebook传出关闭智能对话机器人项目的消息。研究员对两个聊天机器人进行对话策略迭代升级,结果发现它们竟自行发展出了人类无法理解的独特语言,科研人员不得不对其进行人工干预。

Facebook否认AI失控:忘记设置英语语法

Facebook近日公开回应关闭AI失控语言事件,认为一些媒体的报道有失事实,造成不良影响。Facebook并没有关闭机器人聊天系统,而是在使它们变得更加聪明可控。

一篇论文引起的风波

事件起源于Facebook上个月发表的一篇论文。论文中阐述了一个Facebook例行的科学研究项目,展示了两个人工智能机器人如何在看过人类的谈判后,开始互相之间展开对话交流,并通过试错逐渐提升谈判的能力。

具体而言,Facebook人工智能研究院的科学家利用神经网络结构开发了一个人工智能系统。这个结构叫做“生成式对抗网络”(GenerativeAdversarialNetworks,GAN)。所谓“生成式对抗网络”,就好比人类的对抗游戏,你的账户能在不断的对抗中提升技能,玩得越多,水平就会越高。

Facebook的研究人员希望训练这样一个聊天机器人,让它带着“目的”和人类对话。这个目的也很简单:一共有两本书、一顶帽子和三个篮球,三样东西分别设定了不同的权重,为的是让机器人明白它到底有哪些需求,然后去和人谈判。

Facebook的研究员对两个机器人聊天能聊成什么样产生了兴趣。在研究过程中,系统中的两个聊天机器人Alice和Bob产生了让人看不懂的对话。这段对话炸一看像是一堆无法解读的乱码,研究人员后来发现,原来是在为系统设置激励条件时,虽然告诉了它们“请用英文”,但忘了告诉它们:“请用英文语法”。

这原本是一个非常正常的纯学术研究。Facebook人工智能实验室(FAIR)主任YannLeCun此前接受第一财经记者专访时透露,Facebook每年大约会提交近百篇这样的论文,并公开实验结果。但这项研究却因为公布了人类所无法理解的语言而受到媒体的大肆炒作。甚至有人担心“失控”的语言将威胁到人类,必须“关闭”。

北京的一家科技公司国承万通CEO郭成博士对第一财经记者表示:“Facebook不太高明的工程师写了个不太高明的算法,里面忘记设置要用英语语法交流,结果两台机器自己不管语法,搞了点人仔细看也能看懂的语言出来。就像我们小时候玩的红白机boss会做一些诡异的攻击动作一样。”他补充道,人工智能可能还很傻,千万别高估了它。

Facebook研究人员对此表示:“人工智能机器人确实没有使用标准正确的英语语法进行对话,但这并不是重点。这项研究原本是为了使得机器人之间能够更加有效地进行谈判,我们的目的达到了,完成了任务。”

为此,Facebook重新设定了正确的激励机制,修正了机器人的行为,让机器人说“人话”。这段表态中值得注意有两点,其一,机器人并没有发明自己的语言,只是创造了新的表达方式,其二,Facebook修正机器人行为,并不代表“关掉”这个系统,原因也不是因为害怕系统失控,而是为了更加有效地进行新的实验。

上海威盛电子语音交互部门技术总监张国峰对第一财经记者表示:“只是一项普通的研究实验,最终的目的也不是让两个机器人聊天,而是通过机器人和机器人的聊天,来提高机器人和人聊天的技巧。根本还是为了实现人机之间的交互。”

至于Facebook为什么要允许两个机器人之间进行交流,张国峰表示,因为机器人的表达方式有限,因此机器人与机器人的对话相对容易做,而目前的人工智能技术尚不支持机器人的逻辑推理能力。

张国峰向第一财经记者说道:“给机器设定策略和另外一个机器谈判,这确实看上去很智能,但这还是在人设定的逻辑框架下,目前的人工智能尚不具备逻辑推理的能力。

他进一步解释道,Facebook“关闭”的这个项目就是试图在开放领域通过互相对话来学习对话策略以及表达方式。“但这并不是说发明了新的语言,而是它们的语言完全不收敛,这个项目的方法错了,没有继续的必要。没有内在的推理和记忆能力,通过统计方法学习是一条死路。”

通过机器之间的互相博弈来学习,AlphaGo此前已经加入了围棋推理和记忆能力,所以自己和自己下棋能够提高棋艺,但是这种推理还是由人类加入的推理,仍然无法在开放领域实现。所谓开放领域,就是指没有限制的对话。相比较于机器之间的对话,机器与人的对话更难,就是因为人的语言是毫无限制的。

人工智能威胁论再现

虽然人工智能发展迅速,但是目前机器的智慧水平还远不及人类。所以尽管人工智能威胁论几乎每十年就会被抛出一次,但反对的声音盖过威胁论。为此,FacebookCEO扎克伯格还和特斯拉CEO马斯克怼上了。马斯克说他一谈到人工智能,就感到恐惧,他认为人工智能是人类存在的最大风险。而扎克伯格却认为人工智能会让人们的生活更美好,还称马斯克的威胁论极不负责任。

创新工场董事长、CEO李开复也公开反对马斯克的“威胁论”,他明确反对马斯克“人工智能终将灭绝人类”的悲观论调。李开复表示,人工智能现在仅仅是人类的工具,离拥有意识的“超级智能”的能力还非常遥远。

针对此次Facebook关闭“失控”AI事件,李开复发表文章称,人形机器人将马上进入千家万户的说法是无稽之谈。当机器人在言谈举止各方面都与人类极其相似时,普通家庭用户对机器人的“人类素质”的期望也会变得高不可攀。仅仅这种期望所带来的失望就足以让很多公司的“未来十年让科幻小说成为现实”的展望受挫,更别提消费市场对价格的苛刻要求了。

对人工智能持怀疑态度的最强大的代表是著名物理学家霍金。在今年早些时候举行的2017全球移动互联网大会(GMIC)上,霍金通过视频发表主题演讲。他表示:“人工智能的崛起可能是人类文明的终结。”

这已经不是霍金第一次提出“人工智能威胁论”。在今年3月,霍金向英国《独立报》表示,人类必须建立有效机制尽早识别威胁所在,防止人工智能对人类的威胁进一步上升。

不过,霍金也表示,虽然他对人工智能有各种担忧,但他对人工智能技术本身还是抱有乐观的态度。他认为人工智能带来的收益是巨大的,人类或许借助这一强大的工具,可以减少工业化对自然的伤害。但他表示不确定我们是会被智能无限地帮助,还是被无限地边缘化,甚至毁灭。

借用霍金的话说:“这是一个美丽但充满不确定的世界,而你们是先行者。”

【责任编辑:徐菲菲】
频道精选
有人质疑天猫双11造假,天猫:造谣要负法律责任

有人质疑天猫双11造假,天猫:造谣要负法律责任

今天凌晨,天猫双11公布最终成交额为2684亿元,成功刷新了自己创下的商业纪录。
天猫双11造假 互联网 天猫
英雄联盟S9总决赛FPX新王登基!凤凰涅槃,一飞冲天,金翅翱翔

英雄联盟S9总决赛FPX新王登基!凤凰涅槃,一飞冲天,金翅翱翔

英雄联盟S9总决赛FPX新王登基!凤凰涅槃,一飞冲天,金翅翱翔,勇夺桂冠!恭喜FPX电子竞技俱乐部 以3:0的比分战胜G2战队,斩获2019英雄联盟全球总决赛世界冠军!
英雄联盟S9 FPX
蔚来汽车陷50亿投资罗生门:吴兴区明确否认签署框架协议

蔚来汽车陷50亿投资罗生门:吴兴区明确否认签署框架协议

根据相关媒体报道,吴兴区相关部门向记者称,“有意向,区政府层面签了框架协议,但目前尚未正式确定,确定后会统一发布”。
蔚来汽车 投资 新能源车 吴兴区
公安部发文证实!这些地方有网友微信/QQ/支付宝会被封号!

公安部发文证实!这些地方有网友微信/QQ/支付宝会被封号!

公安部证实!自2019年10月14日起,部分地方的QQ、微信、支付宝、POS机等社交和支付账户采取封停措施。
微信 QQ 社会 支付宝 封号
三星手机重返中国失利:关闭本地工厂 市场份额仍1%

三星手机重返中国失利:关闭本地工厂 市场份额仍1%

关闭惠州工厂的消息,让三星手机在中国市场再显落寞。这是这家韩企在中国关停的第三家手机工厂,也是最后一家。
三星 手机 通信 市场份额
一组数据揭底新能源车“骗补”:补贴到谁兜里 又是谁在裸泳

一组数据揭底新能源车“骗补”:补贴到谁兜里 又是谁在裸泳

随着新能源汽车“骗补”事件的出现,人们对其的关注度也逐渐增高,国家“输血式”扶持行业的发展,却引发了“帮扶扶不起,贴补补不及”的情况。
新能源车 骗补 新能源补贴
《财富》2019年最受赞赏的十大中国公司:华为居首格力第三

《财富》2019年最受赞赏的十大中国公司:华为居首格力第三

中国企业越来越明显地感受到多浪叠加的时代冲击,逆全球化与地缘政治加剧,形成一股强烈的回拽之力,让怀抱理想与使命的企业身不由己。
财富 互联网 最受赞赏 十大公司
汉能集团创始人李河君就欠薪事件道歉:几百亿应收款未能按时

汉能集团创始人李河君就欠薪事件道歉:几百亿应收款未能按时

李河君称:“大家知道30年来,我们从来没有欠过员工一分钱,这次是头一 回,实在是对不住大家。”
汉能欠薪 互联网 李河君
长租公寓冰与火:头部企业忙上市 25家已“阵亡”

长租公寓冰与火:头部企业忙上市 25家已“阵亡”

长租公寓业内人士指出,经过几年的跑马圈地、长租公寓进入了深度整合期,要么破产被重组,要么上市。资本要求变现,经营也需要更多的金融支持,头部企业的资本化
长租公寓 房产 家居
Uber宣布在自动驾驶和外卖服务等部门裁员约350人

Uber宣布在自动驾驶和外卖服务等部门裁员约350人

受此裁员计划影响的其他团队包括Uber旗下绩效营销部门、招聘部门、先进技术部门和安全部门以及多个全球乘车和平台部门。
Uber 裁员 出行 外卖

2017-2019 Copyright © IT商业科技网 备案许可证号豫ICP备18040629号 豫公网安备110102003388号

技术支持:沿亮云科技