器人必须服从人类的命令；第三法则：在不违背第一和第二法则的情况下，机器人必须保护自己。“这堪称机器人版的‘绝对命令’学说。哲学家康德提出的‘绝对命令’要求，人应该在任何情况下把自己和他人当作目的，而非手段。”徐英瑾评论道，“未来出现超级人工智能后，应将这种机器人伦理以立法形式确立下来，防止疯狂的科学家开发出旨在控制甚至毁灭人类的机器。”

相关链接

汉字屋论证

一个母语是英语、对汉语一窍不通的人，呆在一间只有一个开口的封闭房间里。屋内有一本用英文写的说明汉语语法和汉字组合规则的手册，以及一大堆汉字符号。屋外的人不断向屋内递进用汉字写成的问题。屋子里的人便按照手册上的说明，将汉字符号组合成对问题的解答，并将答案递出房间。

在这个思想实验中，屋内人相当于计算机，手册相当于计算机程序。塞尔想以此证明，正如屋内人不可能通过手册理解汉语一样，计算机不可能通过程序获得理解力，即冯·诺依曼型计算机不可能具备强人工智能。

关注天下网吧微信,了解网吧网咖经营管理，安装维护: