机器人杀人不是神话
7月初,《金融时报》发表《机器人真的在现实世界杀人了》专题报道称,7月1日,大众汽车公司包纳塔尔工厂一名技术员,与同事调试一台机器人,机器人突然“出手”击中技术员胸部,并将其抓起,重重地摔在金属板上,技术员伤重不治身亡。德国检察机关正就此事件启动调查。
有关机器人杀人的担忧由来已久。早在1942年,美国著名科幻小说作家艾萨克·阿西莫夫就在短篇小说《环舞》中,提出了“机器人三大法则”:一、机器人不可以伤害人类,或看到一个人将受到伤害而不作为;二、机器人必须服从人类的命令,除非这些命令与第一项法则矛盾;三、在不违反第一、第二项法则的前提下,机器人必须保护自身生存。
如果说德国这起“机器人杀人案”,或许还能用工业事故来解释的话。那么近年来,各国“杀手机器人”的研发,却是如火如荼,令有识之士心急如焚?
2013年联合国人权委员会对“杀手机器人”下了定义——“在无外界人为信息输入的条件下,能够对目标发动袭击的机器人”。学界界定更为宽泛,涵盖“人工智能武器”、“攻击性自动机器人”、“军用机器人”等等。
1984年美国华纳公司拍摄电影《终结者——1》,“杀人机器人”T-800不断升级演变,给人类带来一次次震撼。现实当中,“杀手机器人”的发展堪称一日千里。《简氏防务周刊》曾预测,2015年以美军为主的发达国家军队将配备“一系列具有某种半自动化程度的军事机器人和飞行器”。果不其然,2004年美国部署163个无人地面半自动机器人系统,2007年猛增到5000个。伊拉克和阿富汗战争中,美军成建制地投入了机器人战车和无人机,战绩有目共睹。
雄心勃勃的美国陆军,规划以数万机器人代替普通士兵服役,并会在未来持续扩充。尽管目前应用于军事行动中的机器人依旧高度依赖人类的指令,主要从事侦察、爆破、后勤和安保等任务,距离自动化军事机器人尚远。但不难预见,一旦军事机器人突破了依赖人类的“奇点”,它们带来的问题将远远超过技术层面。
“杀手机器人”的支持者信心满满,机器人代替人类执行杀戮,士兵远离战场,避免了人类的伤亡。“那时,打开电视看看哪一方取得了战争的胜利,就像观看一场足球比赛一样轻松。”与人类士兵相比,机器人成本要低得多,维护一台机器人的成本预计不到培养一名人类士兵成本的1/10。美军司令部表示:“它们不会饥饿,不会恐惧,不会遗忘命令,不会在意身边的伙伴刚刚被射杀。它们会比人类表现得更好吗?当然。”
反对者则认为,自动作战机器人乃至不断升级的“杀手机器人”被公认为是继火药和核武器之后,人类武器系统的“第三次革命”,势必引发一浪高过一浪的全球人工智能军备竞赛。在全世界的杀手机器人实验室里,科学家不断给予它们更多的人工智能,它们能走,能相互沟通。总有一天,“杀手机器人”抛弃人类,反戈一击将不再是科幻。
1000多名专家日前联合发表公开信,呼吁在世界范围内禁止研发“杀手机器人”。霍金、特斯拉首席执行官马斯克以及苹果联合创始人沃兹尼亚克都在这封信上签了名。“现在就行动,否则杀手机器人将和卡拉什尼科夫步枪(AK47)一样广为流传并造成同样致命的危害。”
加利福尼亚大学伯克利分校拉塞尔教授在《自然》杂志发文,忧心忡忡:“最大的担忧在于这条射出的技术抛物线最后的终点。尽管有着物理学上的极限,但我们可以预料到未来数以百万计的这种智能机器人将被部署。它们所具备的敏捷性和致命性将让人类陷入毫无招架之力的境地,这可不是我们所梦想的未来场景。”
“一大波机器人确实正在袭来,但威胁的首先不是人类的安全,而是人类的很多工作岗位正在随之蒸发。不仅如此,整个经济市场也将面临危机,社会结构将发生巨变。”硅谷企业家马丁·福特在《机器人时代》一书中提醒,“当加速发展的技术将整个体制颠覆到某个程度时,人们必须主动进行根本性的结构重组,唯此方能继续人类的繁荣。”
“它(机器人)很可能对我们的整个文明都造成损害。”福特感慨,自动化、机器化、智能化潮流,使得许多入门级的白领工作被吞噬,蓝领工作首当其冲,受害程度更深。工人痛批:“现在它们终于来了,但并非服侍我们,我们发现它们在争夺我们的工作。这种情况现在很多,还会有更多。”民调显示,4成美国失业者认为,是机器人等新技术让自己无法找到工作。
2008年,奥巴马竞选时百般许诺,将致力于重振美国制造业,让美国工人重获外流的工作岗位。7年后,美国制造业大回流,却并未创造出大量新就业岗位。细究原因,罪魁祸首之一正是机器人快速取代蓝领工作,势不可挡。
相比人类,机器人好处多多。它们不会请病假,也不会离开公司,更不要工资奖金。在《第二次机器时代》一书里,作者哀叹:“对只有‘普通’技能的工人来说,再没有更坏的时代了,因为电脑、机器人和其他数字技术正在飞速习得这些技能。”在过去,新科技倾向于将蓝领工作自动化。现在,信息技术甚至已经开始将白领工作自动化。有朝一日,机器人还会逐渐取代受过高等教育的专业人士。“事实上,任何有关海量信息处理的文书工作都能由机器胜任,无论你是记者,会计还是律师。”
麻省理工大学(MIT)经济学家布林约尔松和麦卡菲表示:机器人造成工作岗位流失,这是人类社会未来十年所面临的最大挑战。美国前任财政部长萨默斯表示,他已经不再相信自动化技术能够给美国带来新增的工作岗位。德勤会计师事务所和牛津大学联合发布报告,悲观预测未来有1000万的不熟练工种将会被机器人取代。2033年之前,全美45%的工作会被机器人广泛取代。
“对人工智能的担忧,是正常的,也是必要的。但机器人与人类先前的任何前沿技术别无二致,历史经验已证明,过去的经济繁荣,大多数是因为采用新技术。”谷歌董事长施密特信誓旦旦,“别担心失业,人类将与机器相依为命,机器人也不例外。”
“旧的、低技能工作被取代后,新的、需更高技能的工作出现,流转出来的劳动力接受培训后填补了这些新职位——这就是进步的方式。历史一再证明,当原来的工作被外包或实现自动化后,人们总能找到新的和更有价值的事情去做。”技术乐观主义者戴曼迪斯表示。
“很难想象未来的工作是什么样子,因为不知道将出现什么技术,并改变整个世界。”杜克大学教授瓦德瓦表示。唯一可以肯定的是,未来的工作将更多仰仗人类的创造力。人类的特长在于复杂的情感交流和创造性思维。
“2050年最赚钱的行业建立在如今尚未发明的自动化技术和机器上,我们现在还无法预见这些行业,催生这些行业的机器和技术还尚未出现,机器人会创造出我们想象不到的工作。”硅谷大神凯文·凯利给出答案——未来人类将和机器人齐头并进。