当前位置: 首页新闻中心行业动态 > 关停!Facebook的AI「失控」聊嗨后,研究员也看不懂

关停!Facebook的AI「失控」聊嗨后,研究员也看不懂

作者:友利来源:中国机器人网 日期:2017-08-01 16:18

 

      Icaniieverythingelse……ballshavezerotometometometometometometometometo

     上面的内容,不是我睡着了,脸在键盘上滚过打出的字。

     这是两个「失控」AI自己发明的对话语言。

     趁着人类不注意,俩AI聊了什么?

      Facebook人工智能实验室前不久做了个研究:让两个AI通过对话训练来学习人类的交流方式。这个测试目的是提高AI的语言能力,希望未来它们能和Facebook的用户做沟通。

     但是聊着聊着,两个机器人就「嗨」了,不再受限于原有设定——用标准英语语法沟通,开始用研究员不懂的语言来对话。   

     Bob:icaniieverythingelse……

     Alice:ballshavezerotometometometometometometometometo

     Bob:youieverythingelse……

     Alice:ballshaveaballtometometometometometometome

     Bob:iicaniiieverythingelse……

     Bob:i……

     Alice:ballshavezerotometometometometometometometometo

 
关停!Facebook的AI「失控」聊嗨后,研究员也看不懂
  (图自:independent)
   

       面对这些无语法结构的内容,研究员也没办法真实理解这两个AI到底在聊什么。最开始时候,研究员以为这是机器出现的偶然错误,但随后发现,这种聊天模式频繁出现。而且,只要AI用自己的这种聊天方式,最终双方总能达到预期的谈判结果。相反的,当研究员调整模型结构,强制纠正AI的语言后,Facebook的数据显示,最终的对话效果并不优秀。

       今年6月时,Facebook就发现了这种现象出现,随后研究员做了人工干预调整。但或者是效果不佳,7月31日,Facebook决定关停这个AI系统。官方解释称,Facebook希望AI能和人沟通提高效率,而不是让AI用人类不懂的语言相互沟通。

       FacebookAI语,真的可以称为「语言」吗?

       Facebook的AI有了自己的沟通方式后,不少人开始想一个问题:这些无结构的文本内容,真的可以称得上「语言」吗?仅从人类角度来看,这些文本并没有意义。宾夕法尼亚大学语言学教授马克·利伯曼(MarkLiberman)就此表示:

      「语言」二字具体如何使用,不是由语言学家来决定的。Facebook的AI是否创造了语言,要看我们如何定义「语言」。比如说,语言学家会认为Python、JavaScript这类计算机语言并非真正的语言,但我们也会称之为「语言」。

      那么,FacebookAI所使用的语言(外媒称之为Facebotlish),可以成为一种新的或会持续发展的语言吗?

      马克·利伯曼给出了否定的答案。他表示,尽管还没有足够的信息能够解释这种情况,但AI的交流是完全基于文本,而人类语言来涉及到了口语表达和肢体动作,文本沟通是一种人为附加方式。也就是说,FacebookAI的语言能力距离人类文明程度还很遥远。

      利伯曼教授还表示,机器或系统自己在发展过程里开发出一个属于自己系统内沟通的方式,并且不会被人类打断,自己进化和发展几十年甚至几百年,这种情况在未来是会发生的。但他也认为,Facebook的AI并不能代表这种未来趋势,因为它的水平还很低。

 

 

关停!Facebook的AI「失控」聊嗨后,研究员也看不懂

 

 尽管如此,Facebook此前曾发表过一篇关于人工智能的研究论文,表示AI在学习了人类的谈判技巧后,他们的表现已经很像「人」。比如说,AI会假装自己对某个特定的内容感兴趣,然后假装让步,以看似「牺牲」的方式获得更大的利益空间。像这次这两个AI的对话,从对话形式和这些语句来看,两个AI似乎在「争吵」,而谁都不肯让步于自己的「想法」。

 AI在训练过程里发明出自己的语言,Facebook的AI并不是孤例。此前,Google曾发现人工智能能通过翻译工具创造自己的沟通语言。

 

 

 

所属类别: 行业动态

该资讯的关键词为: