机器人三定律 / 机器人宪法

阿西莫夫为机器人设定的三条行为准则，以及大模型时代的规则版。

科幻作家阿西莫夫在 1942 年短篇《环舞》（Runaround）中完整提出：一、机器人不得伤害人类，或因不作为让人类受到伤害；二、机器人必须服从人类命令，除非与第一条冲突；三、在不违背前两条的前提下，机器人要保护自己。后来又加了优先级更高的「第零定律」：不得伤害人类整体。三定律只是小说设定。大模型接入机器人后，谷歌 DeepMind 借用这一思路提出「机器人宪法」：用自然语言写一组安全规则放进提示词，让模型在挑选任务、决定动作时自我约束。它是力限制、急停等物理安全措施之外的补充，不能替代后者。

例子谷歌 DeepMind 的 AutoRT（2024）在提示词中写入受三定律启发的机器人宪法，规定机器人不接涉及人、动物、尖锐物体或电器的任务；2025 年的 ASIMOV 基准用自动生成并迭代修订的宪法评测语义安全，最高对齐率 84.3%。

也叫

阿西莫夫三定律、机器人学三定律、Robot Constitution

相关

具身安全、安全滤波器、功能安全、急停、AutoRT、Gemini Robotics

来源

Three Laws of Robotics – Wikipedia
Shaping the future of advanced robotics (Google DeepMind, AutoRT)
Generating Robot Constitutions & Benchmarks for Semantic Safety (arXiv 2503.08663)

信息截至

2025-03