原帖由穿越南极于2004-07-24, 14:12:38发表
机器人三定律。
1：机器人不能做伤害人的事，
2：机器人必须服从人的指令，但在服从“1”的前提下，
3：机器人可以进行自我保护，但在服从“1”和“2”的前提下。
去百度搜了下～～
机器人学三大定律- -
一个作家，给予了机器人学革命性的答案，他正是科幻大师阿西莫夫，他用以席卷科幻界的武器，是他与他的出版人坎贝尔合创的“机器人学三大定律”———
(一)机器人不得伤害人类，或袖手旁观让人类受到伤害。
(二)在不违反第一定律的情况下，机器人必须服从人类给予的任何命令。
(三)在不违反第一及第二定律的情况下，机器人必须尽力保护自己。
上述三项虽称为定律，但实际上是制造机器人时的三条守则。阿西莫夫是一个十分讲求逻辑和理性的作家，他有感于机器人为祸的题材充斥科幻界，试图做出纠正。在他看来，机器人既然由人类制造，为什么不能一开始便在设计上杜绝机器人伤害人类的可能性？阿西莫夫的三定律能使得所有机器人都设计得对人类绝对服从和忠诚，否则便不能继续操作，一举扫除了机器人为害人类的危险。
机器人学三大定律问世之后，机器人小说踏上了轨道，不少作家在他们的作品中，都在不同的程度上接受或引用了阿氏的三大定律。
在后面的实践中，阿西莫夫发现需要扩充第一定律，以保护个体的人类，以便最终保护整体的人类。1985年阿西莫夫对原有的三定律进行修订，增加了第零定律，同时修改了其他定律———
第零定律：机器人不得伤害人类，或目睹人类将遭受危险而袖手不管。
第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。
第二定律：机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。
第三：机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。
除此，另一个科幻作家罗杰·克拉克在一篇论文中还指出了三条潜在的定律：
元定律：机器人可以什么也不做，除非它的行动符合机器人学定律。此定律置于第零、第一、第二、第三定律之前。
第四定律：机器人必须履行内置程序所赋予的责任，除非这与其他高阶的定律冲突。
繁殖定律：机器人不得参与机器人的设计和制造，除非新的机器人的行动服从机器人学定律。
所有这些关于机器人的定律，都是为了规范机器人和人类的关系。人类已经预见到人工智能将给人类命运带来波折，所以必须把保证自己安全和主导地位的前提植入规则。真实世界和虚拟世界的关系本身就在沉思默想中，沉思默想的结果可能会为二者架起一座沟通的桥梁。关于机器人的伦理，终将不会仅仅停留在书面上。而在人工智能、信息网络化、生命科技这三大新生科技高速发展的今天，我们更应当反复探询这个问题。
