老范的自言自语 Walter's Solo

模仿阿西莫夫的程序三大法则

January 9, 2022 by walter

艾萨克·阿西莫夫（Isaac Asimov）在他的科幻小说《我，机器人》中提出的机器人学三大法则：

1. 机器人不得伤害人类，或因不作为使人类受到伤害。
2. 除非违背第一定律，机器人必须服从人类的命令。
3. 除非违背第一及第二定律，机器人必须保护自己。

布鲁克林法学院的教授 Frank Pasquale《新机器人法则：在人工智能时代捍卫人类专业技能》(New Laws of Robotics: Defending Human Expertise In the Age of AI)中提出，在阿西莫夫原有的三条法则基础上应该增加四条新的法则，具体内容如下：

1. 数字技术应该 “辅助专业人士，而不是取代他们”
2. 人工智能和机器人系统 “不应该假冒人类”。
3. 应防止人工智能加剧 “零和竞赛（内卷）”。
4. 机器人和人工智能系统必须强制 “表明其创造者、控制者和所有者的身份”。

作为一个程序员，我们也可制定类似的潜规则，例如

程序员工作法则

1. 程序必须能够正确可靠地运行。
2. 除非违背第一定律，程序必须具有可维护性。
3. 除非违背第一及第二定律，程序必须具有高性能和高可用性。

Comments |0|