当前位置:首页 > it资讯 >

霍金预言恐将成真 人工智能已经学会欺骗

2020-11-15 19:27:32

脸书对人工智能的研发投入颇大,已经能实现两个人工智能机器人相互之间进行简单的沟通。但脸书并不满足于此,脸书希望人工智能将来能够学习更高难度的谈判技巧。

霍金预言恐将成真 人工智能已经学会欺骗 人工智能

为了让可以聊天的人工智能机器人学会谈判技巧,脸书人工智能研究实验室(FAIR)想出了让两个AI相互对谈的方法。他们让两台人工智能机器人各自拥有书、帽子和球这三种物品。科学家设定每个物品对于两台机器人的价值大小,每个物品对于两台机器人的价值是不同的。并且科学家还要求他们不能说出物品的价值多少,人工智能需要通过讨价还价,从而交换得到对于自己价值最高的物品。科学家设想如果此项实验获得成功,将标志着人工智能拥有谈判的能力。

在实验初始阶段还挺顺利,机器人渐渐学会了掩人耳目、虚张声势,其实就是学会了撒谎。两个人工智能机器人先假装对于想要得到的物品不感兴趣,最后达成妥协。细思极恐的是,这一个行为并不是研究人员编写进去的。

霍金预言恐将成真 人工智能已经学会欺骗

FAIR的科研人员发现机器人通过深度学习来改善谈判技巧的时候,科研人员发现两个人工智能机器人用一种从未听过的需

语言交流。出现这种情况只有两种可能,要么是机器人出现了故障,要么是人工智能学会了欺骗,绕过人类直接通过新语言交流。


松鼠AI http://info.edu.hc360.com/2020/04/141813846601.shtml
阡陌生活网