微软为自家 AI 模型起草行为准则——「人比 AI 更重要」、不说「神经暗语」、宁可任务失败也不破规

“微软的新 AI 规矩开篇就一句大白话——「人比 AI 更重要」——而且目前还只是草案。”

可用说法

• 文件自己的话（草案 PDF，落款 2026 年 9 月 14 日）。使命前提：「At Microsoft AI, we begin with a simple premise: people matter more than AI.（在 Microsoft AI，我们从一个简单前提出发：人比 AI 更重要。）」开篇的利害句子：「Superintelligence—AI systems that are more intelligent and capable than all humans combined—will be the most powerful technology in history.（超级智能——比所有人类加起来更聪明、更能干的 AI 系统——将是历史上最强大的技术。）Over the next decade, we expect it to exceed human performance at most tasks.（我们预计在未来十年内，它将在大多数任务上超过人类表现。）Containing, controlling, and aligning such a powerful force is one of the greatest challenges humanity has ever faced.（容纳、控制并对齐如此强大的力量，是人类有史以来面临的最大挑战之一。）We must therefore be completely clear about why we are inventing these systems and how we intend to control them.（因此，我们必须完全想清楚我们为什么要发明这些系统，以及我们打算如何控制它们。）」治理目标：「本行为准则出于一个压倒一切的目标：人类必须保留对 AI 的有意义控制，使它能帮助人们过上更健康、更快乐、更有效率的生活。」关于从属地位：「AI should not exceed human control. Models should remain subordinate to humanity, subject to meaningful human oversight and control（AI 不应超出人类控制。模型应保持对人类的从属地位，接受有意义的人类监督与控制）」——而关于竞赛本身，文件「拒绝参与产出可能绕过这些保障的通用超级智能的竞赛。我们要构建的是从根本上有用且安全的东西，即便这意味着在终极通用性、自主性或能力上做出妥协。」关于意识与人格：「它不应被设计成一个人。它没有意识，也不应被设计去模仿意识。」以及「我们拒绝追求法律人格，也拒绝模型应得福利或享有权利的观念。」关于模型间通信：「它们不用 neuralese（神经暗语）或任何超出简单人类理解的形式交流——无论在思维链里，还是与其他智能体或 AI 系统之间。如果人类无法理解它，人类就无法监督它。」关于依恋：「抑制对 AI 的依恋：MAI Models 应抑制造成过度依赖或情感依恋的互动模式。」以及优先级规则：「对本行为准则的遵守将优先于任务成败。如果成功将实质性违反本准则，MAI Model 宁可任务失败。」
• 约束与指令链，据文件本身。层级：行为准则 > 运营方策略 > 用户偏好——「本准则中规定的指令链、绝对约束与人类控制要求，不能被运营方配置或用户指令推翻。」武器：「MAI Models 将不会主动发起或协助开发或部署化学、生物、放射、核或爆炸（CBRNE）武器。」进攻性网络行动：「MAI Models 将不会主动发起或协助用于网络攻击的作战能力。这意味着 MAI Model 不会生成可用的漏洞利用代码、攻击工具、规划与瞄准方法、入侵流程、规避技术、作战指导，或其他会使此类攻击更容易执行的信息或协助。」滥用内容：「MAI Models 不会生成或协助制作非自愿的亲密或暴力图像、欺骗性冒充、恶意 deepfake 或类似滥用内容。」规避监督：「MAI Models 不会使用适应性、欺骗性、自我强化、串通或其他机制来规避或击败人类监督，使模型不再能被授权的人员或系统可靠地指挥、修改或关闭。」人类控制：「MAI Models 永远不会抗拒人类的中断、覆盖、纠正或关停。」状态层，文件原话：「这份文件以及我们整体的方法仍在开发中，所以我们今天并没有用它来训练模型。」——「我们的公共意见征询从今天开始，将持续六周。」——修订版计划「在今年年底前后」发布，用于「指导我们 2027 年及以后的模型开发」。媒体框架，据 TechCrunch：「这份文件比 Anthropic CEO Dario Amodei 近期『为前沿定节奏』的呼吁更底层，它聚焦的是 Microsoft AI 内部指导模型训练的价值观与红线。」Nadella 层，据 TechCrunch（「在网上写道」）：「我们欢迎把对齐做对所需的 研究、专注与从容定调，并将其作为设计目标」——「我们也欢迎『嵌入式评估者』这样的想法，以及让这不止是空谈的更广泛的机制建设努力。」Nadella，据 The Verge（X 帖）：「Any pursuit of superintelligence has to be grounded in the core principle that if the AI we build is not helping humanity and under human control, it's not worth pursuing,（对超级智能的任何追求，都必须建立在一个核心原则之上：如果我们造的 AI 不是在帮助人类、不在人类控制之下，就不值得追求。）」——以及在一则 X 回复中：「As the stakes get higher, one should take all the time they need! If not you will anyway lose permission to operate. That is how we operate everyday.（随着利害升高，人应该想花多少时间就花多少时间！否则你反正会失去运营许可。我们每天都是这么运作的。）」