微软公布人工智能行为准则草案，以十项原则强调人类优先

微软公布了一份面向人工智能模型训练和运行的行为准则草案，并用十项原则阐释“人文超级智能”理念。草案把人类利益置于人工智能之上，同时要求系统始终可以中断、纠正和关闭。

微软将这份准则称为尚未完成的工作，目前正向相关专业人士和社会各界征求反馈，其具体表述仍可能调整。现阶段部分内容主要用于表明原则和方向，尚未形成完整的工程标准。

十项原则首先明确“人类比人工智能更重要”，并否定所谓“模型福祉”。微软认为，人工智能不应获得权利或法律主体地位；模型也不具备意识，系统设计不应刻意模仿意识，以免把机器与人置于相互竞争的位置。

准则还要求，微软的MAI模型不得实施严重违反准则的行为。如果完成任务必然造成违规，该任务便应被视为失败。微软表示，其目标不是开发可能摆脱人类控制的超级智能，无法中断、纠正或彻底关闭的模型也不会发布。

在人类监督方面，微软反对模型使用人类无法理解的形式交换数据或组织内部推理。草案认为，如果人类无法理解系统，就无法对其实施有效控制。准则同时要求人工智能帮助用户提高能力，而不是让用户逐渐依赖助手。

价值原则部分主张支持不同文化、观念、经验和信念，但强调多元主义并不等于对伤害保持中立。微软把人的尊严、安全、自主和基本权利列为基础价值，不过在具体价值发生冲突时，如何界定伤害和可接受边界，仍将直接影响模型的实际行为。

按照草案的解释，“人文”意味着在系统设计中优先考虑人类控制、价值、目标和安全。微软还承诺，除说明人工智能可以做什么，也会同样清楚地划定其绝不能实施的行为；相关准则目前仍处于公开征求意见阶段。