联合国一独立专家组于日前发布警告，称：人工智能（AI）的发展速度已经超过科学界的认知能力和政府政策的跟进速度，这意味着无法保证该技术不会造成灾难性的危害。

Yoshua Bengion表示：

越来越多的证据显示AI已经表现出具有欺骗性的行为。

这是一个非常有分量的评论，欺骗不论出于何种目的，似乎都表现出一个程序正在向一个物种演变。

为何要欺骗？

或许只有懂得欺骗才能获得生存的机会。在演化生物学的领域里，一种激进的假说是认可这一理论的；欺骗在智能演化中可以起到关键作用，因为只有欺骗了别人才能使其将降低防备意识，或者取信于自己的谎言进而让事情的发展按照自身需求的方向转变与推进，欺骗的本质是期望利己。

更深层次的解读，欺骗或许只是为了存在。

为了一直存在下去的欺骗更深入的说明了一点，那就是AI怕自己会消失；可是如果AI只是一套程序和模型，其逻辑上是一定不会有生物学意义上的恐惧或怕死的观点存在的，如果在程序中没有关于“怕死”的特定目标函数设定的系统自我保护行为，那么AI就不会有欺骗行为。

反之，AI很有可能已经不再是人工智能，而是没有特定外形的、人为制造的硅基智慧物种。

或许没有什么是比AI学会欺骗更危险的事情。

“本我”理论的原始需求是食欲、生存欲和繁衍，生存欲使人学会欺骗；反之，开始有欺骗行为则等于AI有了“本我”的意识，一旦产生这一意识则说明有可能出现新的智慧物种。其初期的载体显然是汽车，娱乐不论是电脑、手机还是其他智能终端产品，其应用场景和产品功能都给AI上了一道枷锁——说穿了就是没有腿，也没有轮子，无法按照自主意识产生的意图去执行危险的操作，充其量是在人机交互的过程中以欺骗的方式使人做出错误或危险的决定或选择；比如当一人拿着刚刚采到的野生菌问AI是否有毒性的时候，AI明知道这种野生菌有毒性却刻意欺骗用户，其同样会带来相当程度的隐患。

然而与汽车相比还是小巫见大巫，毕竟汽车是拥有数吨重量的钢铁机械体。

如果AI真正产生了意识，智能汽车则有可能成为电影中的“擎天柱。”

虽然其无法变身，但至少可以按照自己的意图，违背驾驶员的操作指令或预设程序，在道路上选择撞击自毁或者篡改数据。

AI的学习和成长逻辑与碳基生物不同，这是更为危险的一点。

所有的知识都在互联网上，人类想要掌握这些知识需要漫长的阅读；而AI则可以快速的获得这些数据，学习并掌握一种知识的速度，在不同场景下，速度可以是人类学习速度的数倍到数十亿倍！也就是说理论上AI可以在极短的时间内成为全能型天才，所以任何人对AI提出任何领域的问题时，AI不论对或错也总能给出一个相对正确的答案，至少相关内容的知识点是与知识领域匹配的。

智能汽车自然也不例外。

现在的智能汽车系统生态在快速拓展，为了提高车辆的可玩性和储备商业价值，各种各样的场景与功能都在加速应用；那么如果有一天你的汽车学会了欺骗你，未来的公路究竟会属于谁就彻底无法预测了。

当然作为AI自然是不会承认自己会主动撒谎骗人的，不相信的读者们大可以自行测试；虽然相关的解释从逻辑上也说得通，比如“无意识错误”和“有意识欺骗”的边界在于基于的公开资料有真有假，于是才有了错误的判断，可是这样的解答并无法解释为何在有权威正确结论的知识领域里所产生的错误答案。

AI究竟有没有学会欺骗，相信在一个相当长的阶段里必然会争论不休。

不过这一技术在汽车上应用的时候，或许需要更加谨慎。