IT商业科技网

Facebook否认AI失控:忘记设置英语语法

作者:第一财经日报    时间:2017-08-03 09:54:27    第一财经日报

最近引起轰动的AI失控事件可以追溯到上个月Facebook传出关闭智能对话机器人项目的消息。研究员对两个聊天机器人进行对话策略迭代升级,结果发现它们竟自行发展出了人类无法理解的独特语言,科研人员不得不对其进行人工干预。

Facebook否认AI失控:忘记设置英语语法

Facebook近日公开回应关闭AI失控语言事件,认为一些媒体的报道有失事实,造成不良影响。Facebook并没有关闭机器人聊天系统,而是在使它们变得更加聪明可控。

一篇论文引起的风波

事件起源于Facebook上个月发表的一篇论文。论文中阐述了一个Facebook例行的科学研究项目,展示了两个人工智能机器人如何在看过人类的谈判后,开始互相之间展开对话交流,并通过试错逐渐提升谈判的能力。

具体而言,Facebook人工智能研究院的科学家利用神经网络结构开发了一个人工智能系统。这个结构叫做“生成式对抗网络”(GenerativeAdversarialNetworks,GAN)。所谓“生成式对抗网络”,就好比人类的对抗游戏,你的账户能在不断的对抗中提升技能,玩得越多,水平就会越高。

Facebook的研究人员希望训练这样一个聊天机器人,让它带着“目的”和人类对话。这个目的也很简单:一共有两本书、一顶帽子和三个篮球,三样东西分别设定了不同的权重,为的是让机器人明白它到底有哪些需求,然后去和人谈判。

Facebook的研究员对两个机器人聊天能聊成什么样产生了兴趣。在研究过程中,系统中的两个聊天机器人Alice和Bob产生了让人看不懂的对话。这段对话炸一看像是一堆无法解读的乱码,研究人员后来发现,原来是在为系统设置激励条件时,虽然告诉了它们“请用英文”,但忘了告诉它们:“请用英文语法”。

这原本是一个非常正常的纯学术研究。Facebook人工智能实验室(FAIR)主任YannLeCun此前接受第一财经记者专访时透露,Facebook每年大约会提交近百篇这样的论文,并公开实验结果。但这项研究却因为公布了人类所无法理解的语言而受到媒体的大肆炒作。甚至有人担心“失控”的语言将威胁到人类,必须“关闭”。

北京的一家科技公司国承万通CEO郭成博士对第一财经记者表示:“Facebook不太高明的工程师写了个不太高明的算法,里面忘记设置要用英语语法交流,结果两台机器自己不管语法,搞了点人仔细看也能看懂的语言出来。就像我们小时候玩的红白机boss会做一些诡异的攻击动作一样。”他补充道,人工智能可能还很傻,千万别高估了它。

Facebook研究人员对此表示:“人工智能机器人确实没有使用标准正确的英语语法进行对话,但这并不是重点。这项研究原本是为了使得机器人之间能够更加有效地进行谈判,我们的目的达到了,完成了任务。”

为此,Facebook重新设定了正确的激励机制,修正了机器人的行为,让机器人说“人话”。这段表态中值得注意有两点,其一,机器人并没有发明自己的语言,只是创造了新的表达方式,其二,Facebook修正机器人行为,并不代表“关掉”这个系统,原因也不是因为害怕系统失控,而是为了更加有效地进行新的实验。

上海威盛电子语音交互部门技术总监张国峰对第一财经记者表示:“只是一项普通的研究实验,最终的目的也不是让两个机器人聊天,而是通过机器人和机器人的聊天,来提高机器人和人聊天的技巧。根本还是为了实现人机之间的交互。”

至于Facebook为什么要允许两个机器人之间进行交流,张国峰表示,因为机器人的表达方式有限,因此机器人与机器人的对话相对容易做,而目前的人工智能技术尚不支持机器人的逻辑推理能力。

张国峰向第一财经记者说道:“给机器设定策略和另外一个机器谈判,这确实看上去很智能,但这还是在人设定的逻辑框架下,目前的人工智能尚不具备逻辑推理的能力。

他进一步解释道,Facebook“关闭”的这个项目就是试图在开放领域通过互相对话来学习对话策略以及表达方式。“但这并不是说发明了新的语言,而是它们的语言完全不收敛,这个项目的方法错了,没有继续的必要。没有内在的推理和记忆能力,通过统计方法学习是一条死路。”

通过机器之间的互相博弈来学习,AlphaGo此前已经加入了围棋推理和记忆能力,所以自己和自己下棋能够提高棋艺,但是这种推理还是由人类加入的推理,仍然无法在开放领域实现。所谓开放领域,就是指没有限制的对话。相比较于机器之间的对话,机器与人的对话更难,就是因为人的语言是毫无限制的。

人工智能威胁论再现

虽然人工智能发展迅速,但是目前机器的智慧水平还远不及人类。所以尽管人工智能威胁论几乎每十年就会被抛出一次,但反对的声音盖过威胁论。为此,FacebookCEO扎克伯格还和特斯拉CEO马斯克怼上了。马斯克说他一谈到人工智能,就感到恐惧,他认为人工智能是人类存在的最大风险。而扎克伯格却认为人工智能会让人们的生活更美好,还称马斯克的威胁论极不负责任。

创新工场董事长、CEO李开复也公开反对马斯克的“威胁论”,他明确反对马斯克“人工智能终将灭绝人类”的悲观论调。李开复表示,人工智能现在仅仅是人类的工具,离拥有意识的“超级智能”的能力还非常遥远。

针对此次Facebook关闭“失控”AI事件,李开复发表文章称,人形机器人将马上进入千家万户的说法是无稽之谈。当机器人在言谈举止各方面都与人类极其相似时,普通家庭用户对机器人的“人类素质”的期望也会变得高不可攀。仅仅这种期望所带来的失望就足以让很多公司的“未来十年让科幻小说成为现实”的展望受挫,更别提消费市场对价格的苛刻要求了。

对人工智能持怀疑态度的最强大的代表是著名物理学家霍金。在今年早些时候举行的2017全球移动互联网大会(GMIC)上,霍金通过视频发表主题演讲。他表示:“人工智能的崛起可能是人类文明的终结。”

这已经不是霍金第一次提出“人工智能威胁论”。在今年3月,霍金向英国《独立报》表示,人类必须建立有效机制尽早识别威胁所在,防止人工智能对人类的威胁进一步上升。

不过,霍金也表示,虽然他对人工智能有各种担忧,但他对人工智能技术本身还是抱有乐观的态度。他认为人工智能带来的收益是巨大的,人类或许借助这一强大的工具,可以减少工业化对自然的伤害。但他表示不确定我们是会被智能无限地帮助,还是被无限地边缘化,甚至毁灭。

借用霍金的话说:“这是一个美丽但充满不确定的世界,而你们是先行者。”

【责任编辑:徐菲菲】
频道精选
新氧APP商家线下私售违禁药 线上运营可代写医生问答

新氧APP商家线下私售违禁药 线上运营可代写医生问答

有着中国互联网医美第一股之称的新氧科技平台,入驻的部分医美机构存在销售违禁的肉毒素等药品行为。而其重要的医美社区生态一环客户的“美丽日记”、评价也存在
新氧APP 违禁药 新氧代运营 头条
高校付费刷课灰色产业链:花钱在线刷课就能拿高分?

高校付费刷课灰色产业链:花钱在线刷课就能拿高分?

这学期他通过一个QQ群联系上“刷课代理”,购买了“代学网课、代考试”的一条龙“刷课”服务,轻松拿到了这门课的成绩。
高校 头条
何小鹏道歉未换来认可 小鹏汽车车主集体维权要退车

何小鹏道歉未换来认可 小鹏汽车车主集体维权要退车

消息人士透露,北京、广州等地的小鹏汽车城市服务中心外,大批车主拉横幅维权。横幅上写着“小鹏汽车欺诈消费者,侵犯消费者合法权益”等字样。
何小鹏道歉 汽车 小鹏汽车 集体维权
百度一系列操作惹众怒 网友:what's your problem

百度一系列操作惹众怒 网友:what's your problem

在子欣去世之后,百度新闻当值编辑联系了子欣父亲,在与父亲联系,但未得到父亲确认回复的情况下,发布了最新一条动态消息。
百度 头条 资讯 发文造假
罚款50亿美元!脸书与美监管就数据泄露调查达成和解

罚款50亿美元!脸书与美监管就数据泄露调查达成和解

美国联邦贸易委员会(FTC)对Facebook(脸书)的不当隐私实践进行了长期调查之后,双方最终达成和解,和解金约50亿美元。
Facebook 罚款 互联网 数据泄露
央行官员直言人脸支付风险:有技术也不能滥用

央行官员直言人脸支付风险:有技术也不能滥用

引导信息技术在金融领域合理的运用,纠正部分机构,有技术就滥用,有技术就任性的乱像。
央行 人脸支付 财经 风险
百度再回应"章子欣父亲发文为假":编辑违规立即开除

百度再回应"章子欣父亲发文为假":编辑违规立即开除

声明称,百度新闻紧急启动了内部调查流程,“章子欣父亲”的账号是经过本人授权开设,该账号在最新一条信息发布之前的消息,都是经过当事人确认发布的。
百度 编辑 头条 互联网
中国联通回应“不支持华为”谣言:凭空捏造滥扣帽子

中国联通回应“不支持华为”谣言:凭空捏造滥扣帽子

中国联通官方微博发布声明称,近日注意到有关自媒体编造“不支持华为的企业,居然还有国内四大运营商之一”、“联通迎来大动作,5G合作商终于确定,可惜不是华为
中国联通 通信 谣言
英孚外教吸毒:外教背景审查交给第三方机构,审查成走过场?

英孚外教吸毒:外教背景审查交给第三方机构,审查成走过场?

社会公众这次对英孚教育外教吸毒事件如此关注,并不只是因为涉毒这件事本身,更因为它是一家教育机构。自砸招牌事小,误人子弟、荼毒孩子事大。
英孚外教 资讯 教育
苹果新飞船总部多值钱?41.7亿美元

苹果新飞船总部多值钱?41.7亿美元

苹果为了建造他们的Apple Park新总部花费了不少钱财,到底是多少钱呢?据最新消息称,这个花费达到了36亿美元。
苹果总部 飞船总部 互联网

2017-2018 Copyright © IT商业科技网 京ICP备11023699号 京公网安备110102003388号

技术支持:沿亮科技 www.yanliangcloud.com