三大纪律－－“I, ROBOT” - 动漫先锋 - 轩辕春秋文化论坛 20周年


	穿越南极

组别	百姓
级别	破贼校尉
功绩	1
帖子	81
编号	8013
注册	2004-5-31

#1

发表于 2004-7-24 14:12 资料主页短消息只看该作者

昨晚去看了WILL SMITH的『I, ROBOT』，里面有对机器人的三大纪律。
1：机器人不能做伤害人的事，
2：机器人必须服从人的指令，但在服从“1”的前提下，
3：机器人可以进行自我保护，但在服从“1”和“2”的前提下。

有了这三条，机器人会是人类的好帮手。

电影其实探讨了人与机器人如何共存的问题，感觉还好，可以一看。
里面机器人的动作很漂亮，打斗是还会武术的招式。

不知大家对那三大纪律有何高见？

[广告] 《精忠报国岳飞传完整版》火热发布


	穿越南极

组别	百姓
级别	破贼校尉
功绩	1
帖子	81
编号	8013
注册	2004-5-31

#2

发表于 2004-7-24 17:12 资料主页短消息只看该作者

Three Laws of Robotics

1. A robot may not injure a human being, or, through inaction, allow a human being to come to harm.

2. A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.

3. A robot must protect its own existence as long as such protection does not conflict with the First or Second laws.

Isaac Asimov 1940

三大纪律的原文，是1940年时Isaac Asimov提出的。

[广告] 安装Alexa工具条，提高轩辕排名，支持轩辕发展！


	鲍伯 . 迪伦


	曲阿侯枢密直学士

组别	翰林学士
级别	平南将军
好贴	3
功绩	462
帖子	2158
编号	6877
注册	2004-4-18
家族	现视研

#3

发表于 2004-7-24 21:48 资料个人空间短消息只看该作者

黑黑，这个。。。究竟机器人是不是真的不会伤害人类，现时有激烈的辩论
楼主知道现在世界上分为"Cosmist"和"Terran"两种人吗? Cosmist认为人工智能是事在必行。Terran反对制造智能机器人，因为它们的"脑"发展比人类的"大脑"发展要快好多倍，最终会超过人类而带来灾难；发展智能机器人是自取灭亡。
如果机器人的大脑跟人一样，它们还会不会遵守人类定下来给它们的规则?
正如你的智力一但超过你的"主人"(假设)，你还会不会完全服从他? 你会不会甘愿受他的奴役? 或是反过来，你会想到由你来奴役他?
当然错不会在机器人身上。一但人类发现机器人快将超过自己，恐怕还是人类先对机器人进行"灭种"。个人认为，人和智能机器人会有一战，反正人类连自己都在互相杀戮；人类连有别于"自己"的人类也看不过眼。

[广告] 安装Alexa工具条，提高轩辕排名，支持轩辕发展！


	fandongpai

组别	羽林都尉
级别	安南将军
好贴	1
功绩	70
帖子	2861
编号	1608
注册	2003-10-22

#4

发表于 2004-7-25 00:31 资料主页文集短消息只看该作者

QUOTE:

原帖由鲍伯 . 迪伦于2004-07-24, 9:48:33发表
个人认为，人和智能机器人会有一战

好耳熟的话......

说认真的, 看第一条戒律的原文, 有个矛盾.

要是一个ROBOT看见两个强盗殴打和企图杀害一个无辜者, 那它是否应该上去干涉呢?

[广告] 《精忠报国岳飞传完整版》火热发布


	雷神太史慈

组别	校尉
级别	仁勇校尉
好贴	2
功绩	12
帖子	161
编号	4753
注册	2004-1-25
家族	轩辕狼党

#5

发表于 2004-7-26 02:20 资料文集短消息只看该作者

那机器人可没办法当警察了~

[广告] 真诚支持说岳，携手共创辉煌


	鲍伯 . 迪伦


	曲阿侯枢密直学士

组别	翰林学士
级别	平南将军
好贴	3
功绩	462
帖子	2158
编号	6877
注册	2004-4-18
家族	现视研

#6

发表于 2004-7-26 22:42 资料个人空间短消息只看该作者

QUOTE:

原帖由fandongpai于2004-07-25, 0:31:33发表
要是一个ROBOT看见两个强盗殴打和企图杀害一个无辜者, 那它是否应该上去干涉呢?

那要看当时机械人大脑的发展情度了。如果还是比人类低的话，那将不去干涉。

(BS老反，总要挑偶的话 )

[广告] 真诚支持说岳，携手共创辉煌


	wndblack

组别	士兵
级别	护军
功绩	5
帖子	454
编号	1191
注册	2003-10-1

#7

发表于 2004-7-26 22:46 资料主页短消息只看该作者

机器人不能做伤害人的事
泛指还是特指的人？

[广告] 《精忠报国岳飞传完整版》火热发布


	气流


	上郡公枢密直学士

组别	翰林学士
级别	征东将军
好贴	2
功绩	949
帖子	5449
编号	131
注册	2003-8-25

#8

发表于 2004-7-27 01:57 资料文集短消息只看该作者

QUOTE:

原帖由fandongpai于2004-07-25, 0:31:33发表
好耳熟的话......

说认真的, 看第一条戒律的原文, 有个矛盾.

要是一个ROBOT看见两个强盗殴打和企图杀害一个无辜者, 那它是否应该上去干涉呢?

机器人要以不伤害强盗的方式上前干涉。

[广告] 安装Alexa工具条，提高轩辕排名，支持轩辕发展！


	西油记

组别	士兵
级别	牙门将军
功绩	6
帖子	559
编号	299
注册	2003-9-2

#9

发表于 2004-7-27 12:13 资料主页个人空间短消息只看该作者

看看阿西莫夫《 I Robot》的原著，就可以看到他是怎样诠释三定律的了，他的三定律其实定得相当好，所以后世的科幻小说凡是涉及机器人题材的无不遵从。

[广告] 安装Alexa工具条，提高轩辕排名，支持轩辕发展！


	fandongpai

组别	羽林都尉
级别	安南将军
好贴	1
功绩	70
帖子	2861
编号	1608
注册	2003-10-22

#10

发表于 2004-7-27 13:21 资料主页文集短消息只看该作者

QUOTE:

原帖由鲍伯 . 迪伦于2004-07-26, 10:42:13发表
(BS老反，总要挑偶的话 )

没有啦, 其实是挑阿西莫夫的话啦......

BOB还记住许冠杰那篇文章...... 小气鬼......

[广告] 《精忠报国岳飞传完整版》火热发布


	q42474112

组别	羽林都尉
级别	安东将军
功绩	63
帖子	3273
编号	6798
注册	2004-4-15

#11

发表于 2004-7-28 10:49 资料主页文集短消息只看该作者

机器人的大脑发展是极快的，至少比人类的进化快得多
最后人类可能会用电子方式改造自己的大脑以跟上机器人的脚步

不过，机器人恐怕早晚会有一天有了自己的意识（好多的科学怪人等着当机器人导师呢）
那时候

哼哼

[广告] 《精忠报国岳飞传完整版》火热发布


	穿越南极

组别	百姓
级别	破贼校尉
功绩	1
帖子	81
编号	8013
注册	2004-5-31

#12

发表于 2004-7-29 19:03 资料主页短消息只看该作者

静心一想，要真有那么一天，机器人取代了人，也是很正常的，没有规定说人一定是机器人的统治者啊。就象以前的君臣关系。

[广告] 《精忠报国岳飞传完整版》火热发布


	wndblack

组别	士兵
级别	护军
功绩	5
帖子	454
编号	1191
注册	2003-10-1

#13

发表于 2004-8-2 00:05 资料主页短消息只看该作者

QUOTE:

原帖由穿越南极于2004-07-29, 19:03:34发表
静心一想，要真有那么一天，机器人取代了人，也是很正常的，没有规定说人一定是机器人的统治者啊。就象以前的君臣关系。

你喜欢被自己早出来的东西统治啊，受虐倾向？

[广告] 安装Alexa工具条，提高轩辕排名，支持轩辕发展！


	症狀

组别	百姓
级别	破贼校尉
功绩	1
帖子	70
编号	13898
注册	2004-7-28

#14

发表于 2004-8-3 15:44 资料短消息只看该作者

人类的大脑不是有研究90x%都没用到，如果我们能把人脑充分用到100%，我相信300年後的机器人还是很难敌过人脑，所以我们现在应该好好研究基因工程，改善人脑的运用度。

[广告] 真诚支持说岳，携手共创辉煌


	罡铁

组别	校尉
级别	前将军
功绩	17
帖子	1678
编号	2345
注册	2005-4-16
来自	以上信息俺都没有！
家族	轩辕丐帮

#15

发表于 2005-8-19 14:56 资料主页文集短消息只看该作者

QUOTE:

原帖由穿越南极于2004-07-24, 14:12:38发表
机器人三定律。
1：机器人不能做伤害人的事，
2：机器人必须服从人的指令，但在服从“1”的前提下，
3：机器人可以进行自我保护，但在服从“1”和“2”的前提下。

去百度搜了下～～

机器人学三大定律- -

一个作家，给予了机器人学革命性的答案，他正是科幻大师阿西莫夫，他用以席卷科幻界的武器，是他与他的出版人坎贝尔合创的“机器人学三大定律”——— 　

(一)机器人不得伤害人类，或袖手旁观让人类受到伤害。　　

(二)在不违反第一定律的情况下，机器人必须服从人类给予的任何命令。　　

(三)在不违反第一及第二定律的情况下，机器人必须尽力保护自己。　　

上述三项虽称为定律，但实际上是制造机器人时的三条守则。阿西莫夫是一个十分讲求逻辑和理性的作家，他有感于机器人为祸的题材充斥科幻界，试图做出纠正。在他看来，机器人既然由人类制造，为什么不能一开始便在设计上杜绝机器人伤害人类的可能性？阿西莫夫的三定律能使得所有机器人都设计得对人类绝对服从和忠诚，否则便不能继续操作，一举扫除了机器人为害人类的危险。　　

机器人学三大定律问世之后，机器人小说踏上了轨道，不少作家在他们的作品中，都在不同的程度上接受或引用了阿氏的三大定律。　　

在后面的实践中，阿西莫夫发现需要扩充第一定律，以保护个体的人类，以便最终保护整体的人类。1985年阿西莫夫对原有的三定律进行修订，增加了第零定律，同时修改了其他定律——— 　　

第零定律：机器人不得伤害人类，或目睹人类将遭受危险而袖手不管。　　

第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。　　

第二定律：机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。　　

第三：机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。　　

除此，另一个科幻作家罗杰·克拉克在一篇论文中还指出了三条潜在的定律：　　

元定律：机器人可以什么也不做，除非它的行动符合机器人学定律。此定律置于第零、第一、第二、第三定律之前。　　

第四定律：机器人必须履行内置程序所赋予的责任，除非这与其他高阶的定律冲突。　　

繁殖定律：机器人不得参与机器人的设计和制造，除非新的机器人的行动服从机器人学定律。　　

所有这些关于机器人的定律，都是为了规范机器人和人类的关系。人类已经预见到人工智能将给人类命运带来波折，所以必须把保证自己安全和主导地位的前提植入规则。真实世界和虚拟世界的关系本身就在沉思默想中，沉思默想的结果可能会为二者架起一座沟通的桥梁。关于机器人的伦理，终将不会仅仅停留在书面上。而在人工智能、信息网络化、生命科技这三大新生科技高速发展的今天，我们更应当反复探询这个问题。

[广告] 安装Alexa工具条，提高轩辕排名，支持轩辕发展！


	门清 (ベディヴィエル)


	长清公主

组别	轩辕公主
级别	安北将军
好贴	2
功绩	252
帖子	2749
编号	34754
注册	2005-3-16
来自	冬木町
家族	现视研

#16

发表于 2005-8-19 20:52 资料主页文集短消息只看该作者

《I,ROBOT》的小说版基本上就是在探讨这三大定律的潜在问题和矛盾= =

[广告] 《精忠报国岳飞传完整版》火热发布


	圆点


	羽林军

组别	士兵
级别	护军
好贴	1
功绩	9
帖子	415
编号	40481
注册	2005-6-7

#17

发表于 2005-8-19 21:59 资料主页短消息只看该作者

什么样的人算是机器人根本就没有个完整的概念，这些规定只对极为低等的东西有效。
比如改造生命体，改造人算不算机器人呢？

[广告] 真诚支持说岳，携手共创辉煌


	Maxwell


	代王监管使枢密直学士山南西道节度使 ★

组别	诸侯
级别	征东将军
好贴	4
功绩	1845
帖子	5799
编号	622
注册	2004-7-7

#18

发表于 2005-8-21 13:19 资料文集短消息只看该作者

这几条规则有可行性吗？如何来判定里面说的“伤害”“将遭受危险”等？

[广告] 真诚支持说岳，携手共创辉煌


	罡铁

组别	校尉
级别	前将军
功绩	17
帖子	1678
编号	2345
注册	2005-4-16
来自	以上信息俺都没有！
家族	轩辕丐帮

#19

发表于 2005-8-21 13:28 资料主页文集短消息只看该作者

QUOTE:

原帖由Maxwell于2005-08-21, 13:19:40发表
这几条规则有可行性吗？如何来判定里面说的“伤害”“将遭受危险”等？

应该是指生命受到死亡的威胁，以及有机个体受到破损

当有这些潜在可能性存在时，机器人就必须去遵守定律救人了吧～～

[广告] 真诚支持说岳，携手共创辉煌


	Maxwell


	代王监管使枢密直学士山南西道节度使 ★

组别	诸侯
级别	征东将军
好贴	4
功绩	1845
帖子	5799
编号	622
注册	2004-7-7

#20

发表于 2005-8-21 13:50 资料文集短消息只看该作者

死亡啊，比如说我要朝你脑后一击，这个很难说会造成什么后果。或者说我打你一拳，到底是我想揍你还是想跟你开玩笑。这个判断怎么做？

[广告] 真诚支持说岳，携手共创辉煌


	罡铁

组别	校尉
级别	前将军
功绩	17
帖子	1678
编号	2345
注册	2005-4-16
来自	以上信息俺都没有！
家族	轩辕丐帮

#21

发表于 2005-8-21 14:24 资料主页文集短消息只看该作者

QUOTE:

原帖由Maxwell于2005-08-21, 13:50:38发表
死亡啊，比如说我要朝你脑后一击，这个很难说会造成什么后果。或者说我打你一拳，到底是我想揍你还是想跟你开玩笑。这个判断怎么做？

……流了好多汗

我觉得象这样甚至连人都不一定能分出来吧，经常在报纸上看得到有这样互相玩的然后就演变成真打了，我怀疑是不是那些没有人工智能的机器人看到类似行为就会制止啊（有了人工智能也未必分得清，人都分不清啊）

所以，我觉得是不是只要会造成类似后果的，都会被制止啊～～不太清楚～～如果真是这样，好像有些乱套啊～～～

[广告] 真诚支持说岳，携手共创辉煌


	Maxwell


	代王监管使枢密直学士山南西道节度使 ★

组别	诸侯
级别	征东将军
好贴	4
功绩	1845
帖子	5799
编号	622
注册	2004-7-7

#22

发表于 2005-8-21 16:25 资料文集短消息只看该作者

所以啊，这三条定律就没用。

[广告] 真诚支持说岳，携手共创辉煌


	秋月枫舞 (花之庆次)


	东襄侯谏议大夫

组别	翰林学士
级别	卫将军
好贴	7
功绩	491
帖子	6522
编号	1977
注册	2004-9-23
来自	云的彼端
家族	司徒实业

#23

发表于 2005-8-21 16:29 资料主页文集短消息只看该作者

人类如果连自己都没有完全了解的话，根本不可能造出所谓的智能型机器人，即使勉强造出来估计也是祸害无穷的

[广告] 真诚支持说岳，携手共创辉煌


	罡铁

组别	校尉
级别	前将军
功绩	17
帖子	1678
编号	2345
注册	2005-4-16
来自	以上信息俺都没有！
家族	轩辕丐帮

#24

发表于 2005-8-21 17:06 资料主页文集短消息只看该作者

可怜的阿西莫夫，就这么被否定了～～

[广告] 真诚支持说岳，携手共创辉煌