内容来源：https://www.theverge.com/ai-artificial-intelligence/1009337/satya-nadella-says-we-should-assume-all-ai-models-are-compromised

内容总结：

微软首席执行官萨蒂亚·纳德拉在社交平台X上发表长文，阐述了他对高度先进人工智能模型所构成风险的看法以及应对之策。纳德拉表示，我们不能再接受这样一个世界：人工智能被视为“一套嵌套的黑箱”，我们只能被动接受或拒绝其建议和行动。他呼吁建立一个更加透明的体系，使模型能够被控制、被观察，并留下“防篡改的人类可读证据”。

纳德拉指出，我们应当假设所有人工智能模型都已被“攻破”，并呼吁为人工智能设置“紧急刹车”。他的多项建议与业内其他人士的观点一致，包括及时披露事故、独立审计、可验证数据以及 containment（围控）。但在围控这一点上，他似乎比业内一些人走得更远。他表示：

我们必须假设模型已被攻破，并从一开始就对其进行围控。可以把它想象成紧急刹车。授权人员应当始终能够在模型执行任务的过程中暂停或关闭它。更先进的模型将需要更先进的围控技术，而我们需要将这些技术标准化。

不过，纳德拉在整篇文章中也将人工智能称为“超级智能”。

中文翻译：

在X平台上发布的一篇长文中，微软CEO阐述了他对高度先进AI模型所带来危险的看法，以及如何应对这些风险。纳德拉表示，我们不能再接受这样一个世界：AI被视为“一套嵌套的黑箱”，其建议和行动我们只能被动接受或拒绝。他呼吁建立一个更加透明的体系，使模型能够被遏制、被观察，并留下“防篡改的人类可读证据”。

萨提亚·纳德拉称我们应假定所有AI模型都已被“攻陷”
微软CEO呼吁对AI设置“紧急刹车”
微软CEO呼吁对AI设置“紧急刹车”

他的许多建议与业界其他人的观点一致：及时的事件披露、独立审计、可验证的数据以及遏制机制。正是在最后一点上，他似乎比该领域的一些人走得更远，他表示：

我们必须假定一个模型已被攻陷，并从一开始就对其加以遏制。把它想象成一个紧急刹车。授权人员应始终能够在模型执行任务的过程中暂停或关闭它。更先进的模型将需要更先进的遏制技术，而这些技术需要我们制定统一标准。

遗憾的是，纳德拉在整篇文章中还将AI称为“超级智能”。

英文来源：

In a lengthy post on X, Microsoft’s CEO laid out his views on the dangers posed by highly advanced AI models and how to confront those risks. Nadella says we can no longer accept a world where AI is treated as a “set of nested black boxes” whose advice and actions we simply accept or reject. He calls for building a more transparent system where models can be contained, observed, and leaves behind “tamper-proof human readable evidence.”
Satya Nadella says we should assume all AI models are ‘compromised’
Microsoft’s CEO calls for putting an ‘emergency brake’ on AI.
Microsoft’s CEO calls for putting an ‘emergency brake’ on AI.
Many of his recommendations align with what we’ve heard from others in the industry: timely incident disclosure, independent audits, verifiable data, and containment. It’s on that last point that he appears to go slightly farther than some others in the field, saying:
We must assume a model is compromised and contain it from the start. Think of it like an emergency brake. An authorized person should always be able to pause or shut down a model mid-task. More advanced models will require more advanced containment technologies that we need to standardize on.
Unfortunately, Nadella also refers to AI as “super intelligence” throughout the post.