殺手之濫殺風(fēng)險(xiǎn)

人類底線在哪里？

在科幻電影中，機(jī)器人的濫殺主要有三種原因。一是某臺(tái)中央電腦產(chǎn)生邪惡意識(shí)，從而操控其控制下的機(jī)器人發(fā)動(dòng)對人攻擊，如《機(jī)械公敵》《終結(jié)者》等都是如此；二是機(jī)器人本身由于故障或病毒或自主意識(shí)產(chǎn)生了反抗乃至屠殺制造者的思想，如《變形金剛》。還有更多的情況，則是野心家或幕后集團(tuán)刻意的造出了殺人機(jī)器人，只不過，有時(shí)他們反過來失去對機(jī)器人的控制而已。

據(jù)美國媒體報(bào)道，過去幾個(gè)月，對于使用全自動(dòng)機(jī)器人的辯論日益增多。有人堅(jiān)稱，機(jī)器人在戰(zhàn)場上能拯救更多生命。美國陸軍肯尼斯少校勾勒出機(jī)器人技術(shù)在戰(zhàn)場上的幾大優(yōu)勢：機(jī)器不會(huì)疲倦，下雨時(shí)不需要躲到樹下，也不需要交談。但是人權(quán)組織對“全自動(dòng)殺人機(jī)器人”的擔(dān)心，主要是倫理道德層面的。

相比科幻電影，現(xiàn)實(shí)中機(jī)器人濫殺無辜的可能性遠(yuǎn)不止這些。有智能的機(jī)器也是機(jī)器，是機(jī)器就有出故障的可能，而且智能化越高，出故障風(fēng)險(xiǎn)越大。全自動(dòng)殺人機(jī)器導(dǎo)致濫殺固然是可怕的；但就算現(xiàn)在的半自動(dòng)殺人機(jī)器，難道就是安全的么？偵察系統(tǒng)可能獲取錯(cuò)誤的信息，造成對目標(biāo)的誤判；后方遙控信號(hào)可能被干擾，接收到錯(cuò)誤的攻擊指令。

而且，比機(jī)器更可怕的是操作機(jī)器的人。即使軟硬件不出故障，也可能因?yàn)椴僮髡叩氖韬龃笠庠斐烧`傷。而軍人的惡念更是戰(zhàn)爭罪行的直接來源。以美軍為例，在伊拉克、阿富汗打著反恐名義殺傷的大量平民，很多是不能怪罪到武器系統(tǒng)的。國際機(jī)器人武器控制委員會(huì)主席諾艾爾撰文稱：“隨著戰(zhàn)爭變得越來越自動(dòng)化，我們必須捫心自問，我們的底線在哪里？”（楊益）