牛津大学以及谷歌人为智能局限 DeepMind 的钻研职员宣称，高级名义的人为智能颇有能够“对于地球上的人命组成挟制”。

在他们合著的一篇发表于共行评审期刊 AI Magazine 的论文中，钻研职员告诫称，倘使某些人为智能体的发扬接续下往，将会孕育“灾难性结果”。

该论文提出一个情景，人为智能为了取得预先编程时所成立的夸奖，能够会发扬出做弊战略。真验以为人类终究会取人为智能争夺资源。

“在尔们已细目的前提下，尔们患上出的论断比往常发表的任何文章皆要切确患上多——‘活命灾难’没有仅能够发生，而是颇有能够。”来自牛津大学的论文合著者科恩此前在推特上写路。“这些能够性，绝管是理论上的，皆表示着尔们在启发更重大的人为智能上，步伐应该搁慢。”

DeepMind 曾经提出针对于这类能够性的包庇法子。在 2016 年题为“安齐绝交署理”的论文中，该公司勾画了一个框架，用于防止高级机器忽略闭关召唤，成为失控的淌氓署理。