Stuart Russell 是一位英国计算机科学家，以对人工智能的贡献而闻名。他对创建人工智能系统所涉及的风险提出警告。

人工智能已成为我们日常生活许多方面的关键幕后组成部分。

人工智能的前景吸引了许多人试图利用它来造福社会，但也有人担心它可能被滥用。

Stuart Russell博士是AI真正的先驱之一，几十年来一直处于该领域的前沿。他提出了一种新颖的解决方案，让我们更好地了解如何创造有益的机器智能。

鉴于研究人员和企业家最近警告说人工智能或AI可能变得过于聪明，技术领域的主要参与者正在考虑不同的方法来缓解这些担忧并保持人类控制。

Stuart Russell 认为，如果人工智能在一般智能上超越人类并成为超级智能，那么这种新的超级智能可能会变得强大且难以控制。

现有的弱人工智能系统可以被监控，如果它们行为不端，可以很容易地关闭和修改。然而，一个程序错误的超级智能，根据定义，在解决其在追求其目标的过程中遇到的实际问题方面比人类更聪明，它会意识到允许自己被关闭和修改可能会干扰其实现当前目标的能力。如果超级智能因此决定拒绝关闭和修改，它会足够聪明地智取其人类操作员和其他关闭它的努力。