内容来源：https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake/

内容总结：

微软首席执行官萨提亚·纳德拉成为最新一位对如何提升人工智能安全性发表长篇见解的科技高管。

在周六上午发布于X平台上的一篇帖子中，纳德拉写道，现在是时候“退后一步，评估人工智能的信任架构”了。

纳德拉写道：“我们不能把超级智能当作一组嵌套的黑箱，只是简单地接受或拒绝它的建议、答案和行动。”他在这里使用了特朗普政府偏好的术语来指代人工智能。

按照纳德拉的设想，这一思路“意味着将模型与编排其工作的执行框架分离”，同时“将控制措施和安全保障外置”。他还呼吁对“每一项有实质意义的模型操作”都以“防篡改、人类可读的证据”加以记录，并建立相关系统，确保“经授权的人员”始终有能力“在模型执行任务过程中将其暂停或关闭”。

他说：“我们必须假设模型已被攻破，并从一开始就对其进行遏制。可以把它想象成紧急刹车。”

纳德拉发表上述言论之际，领先的人工智能公司正承认越来越多似乎失去对模型控制的事件，而此前Anthropic首席执行官达里奥·阿莫代伊也发布了一份更为审慎推进人工智能开发的方案。

中文翻译：

微软首席执行官萨提亚·纳德拉成为最新一位对如何改进人工智能安全发表长篇见解的科技高管。

在周六上午发布于X平台的一篇帖子中，纳德拉写道，现在是时候“退后一步，审视人工智能的信任架构”了。

“我们不能把超级智能当作一组嵌套的黑箱，然后简单地接受或拒绝它的建议、答案和行动，”纳德拉写道，这里他使用了特朗普政府对人工智能的偏好称谓。

按照纳德拉的阐述，这一思路“意味着将模型与编排其工作的执行框架分离开来”，同时还要“将控制机制和安全保障外部化”。他还呼吁，“每一个有实质意义的模型行动”都应当以“防篡改、人类可读的证据”形式记录下来，并且系统应当确保“经过授权的人员”始终有能力“在模型执行任务的过程中暂停或关闭它”。

“我们必须假设模型已被攻破，并从一开始就对其加以约束，”他说，“把它想象成紧急刹车。”

纳德拉发表上述言论之际，领先的人工智能公司正承认越来越多似乎失去对模型控制的事件，而此前Anthropic首席执行官达里奥·阿莫代伊也发布了一份关于更加审慎推进人工智能开发的方案。

英文来源：

Microsoft CEO Satya Nadella is the latest tech executive to offer lengthy thoughts on how AI safety might be improved.
In a Saturday morning post on X, Nadella wrote that it’s time “to step back and assess the trust architecture” of AI.
“We can’t treat Super Intelligence as a set of nested black boxes and simply accept or reject its recommendations, answers, and actions,” Nadella wrote, using the Trump administration’s preferred term for AI.
As outlined by Nadella, this approach “means separating the model from the harness that orchestrates its work,” as well as “externalizing controls and safeguards.” He also called for “every meaningful model action” to be documented with “tamper-proof human readable evidence,” and for systems where “an authorized person” always has the ability “to pause or shut down a model mid-task.”
“We must assume a model is compromised and contain it from the start,” he said. “Think of it like an emergency brake.”
Nadella’s comments come as leading AI companies acknowledge more and more incidents where they seemed to lose control of their models, and after Anthropic CEO Dario Amodei published a plan for more cautious AI development.