美国著名的科普作家阿西摩夫曾提出有名的“机器人三条原则”:1、机器人决不可伤害人,或者眼看人遇害而袖手旁观。
2、机器人必须服从人的命令,但是,当这条命令违背第一条原则时,机器人可以不服从这条命令。
3、机器人必须在不违反第一、二条原则的情况下保护自己。
这三条原则是否真正可行,以及如何使机器人切实遵循这三条原则,都是迄今尚未解决的问题。1978年以来,仅在日本至少有10名工人死于机器人之手,被机器人致伤的事故也层出不穷。例如,日本兵库县的川崎重工业公司就曾接二连三地发生机器人“杀人”事件。1978年10月,一个“发狂”的机器人,用两只铁手抓住一个操作人员把他作为加工原料放在切削机器上。仅仅过了一个星期,在该厂的齿轮车间里,又有一个机器人,把一位工人抓起来放到正在转动的机器内。1981年7月4日该厂汽车传动机构车间的机器发生了故障,一个名叫酒田宽二的修理工修好机器后,接通电源试车。就在这时,一个机器人从酒田宽二背后用两只铁手紧紧抓住了他,把他放进了刚刚修好的机器中。
机器人“杀人”的原因,经专家调查分析,是由于电磁干扰使机器人内部已编好的程序发生紊乱,以致动作失灵,误杀了工人。那么什么是电磁干扰呢?其实,电磁干扰我们随时都可能感受到。例如,当我们正在聚精会神地看电视的时候,画面突然受到破坏,屏幕上出现许多波浪、雪花、或许还有黑色的条纹。这时,可能有汽车正在室外经过,也可能是邻居正在启动大功率的电气设备。
实际上,人类一直生活在电磁环境中。宇宙中的无数星体一直有电磁波向地球送来。电闪雷鸣产生着很强的电磁波。人类制造出来的各种电器设备也无时不在向外辐射电磁波。正像工厂里的废气、废水、废渣会污染环境一样,大量产生的电磁波也会污染人类的生存环境,造成电器设备故障。前面提到的酒田宽二之死,可能是由于在他合上电源开关时,产生了足够强度的电磁干扰,致使机器人中的程序出现了差错,从而导致机器人的误操作,酿成了一场悲剧。
如何有郊防止电磁干扰,如何防止机器人杀伤人的事故发生,是科学家正在努力争取解决的一个研究课题。