美國(guó)法律扼殺機(jī)器人前途 產(chǎn)業(yè)發(fā)展喜憂參半

　　國(guó)防部指導(dǎo)中寫到：“自主和半自主武器應(yīng)該能夠聽(tīng)得懂指揮官或操作人員下令開(kāi)火的合適命令。”規(guī)劃中要求武器要做到“足夠機(jī)動(dòng)靈活，盡量避免執(zhí)行計(jì)劃外行動(dòng)或讓未授權(quán)使用者操控機(jī)器?！?/p>本文引用地址：http://www.ex-cimer.com/article/201603/288243.htm

　　但是指導(dǎo)似乎的的確確放棄人工智能武器，而選用人類精確定位目標(biāo)：“有人監(jiān)控自主武器系統(tǒng)可以用于選擇目標(biāo)并向目標(biāo)開(kāi)火，但目標(biāo)不可為人類，以應(yīng)對(duì)攔截美國(guó)國(guó)內(nèi)可能發(fā)生的襲擊行動(dòng)，這些行動(dòng)經(jīng)常是時(shí)敏目標(biāo)或密集目標(biāo)?！?/p>

　　英國(guó)政府的態(tài)度則與美國(guó)相反，英國(guó)并不打算采用全自主武器。今年初英國(guó)外交部部長(zhǎng)Alistair Burt向國(guó)會(huì)做陳述說(shuō)“英國(guó)軍隊(duì)的武器控制權(quán)始終掌握在人類手中，以此保證武器由人類監(jiān)督由人類掌管，并由人類負(fù)責(zé)使用武器?！钡请S后Burt的言辭又讓人尋味：“英國(guó)單方面做出承諾目前階段絕不部署致命自助武器系統(tǒng)，但是這不表明英國(guó)會(huì)簽署暫緩研發(fā)和使用自主機(jī)器人武器的條約。”

　　ICRAC主席Norl Sharker是英國(guó)謝菲爾德大學(xué)研究人工智能和機(jī)器人的一名教授。這位教授看過(guò)了自主武器的軍方計(jì)劃書后大為震驚，因?yàn)椤败姺斤@然完全過(guò)分預(yù)估了這項(xiàng)技術(shù)，他們對(duì)自主機(jī)器人的看法更像是科幻小說(shuō)的描寫?！?/p>

　　ICRAC提議禁止研發(fā)和制造自主機(jī)器人武器的目的并不是抵抗自主機(jī)器人?！拔壹依镉玫奈鼔m器機(jī)器人就是自主機(jī)器人，我研究自主機(jī)器人的開(kāi)發(fā)已經(jīng)有30個(gè)年頭了。”ICRAC真正希望是禁止機(jī)器人擁有“殺戮功能”。自主機(jī)器人一旦運(yùn)行，就會(huì)自主尋找目標(biāo)并打擊目標(biāo)，Sharkey說(shuō)：“打擊目標(biāo)的意思是指殺死目標(biāo)。把機(jī)器人設(shè)計(jì)成自己選擇自己認(rèn)為合適的目標(biāo)進(jìn)行打擊，這就是ICRAC要阻止的。”

　　對(duì)Sharkey來(lái)說(shuō)機(jī)器人根本不會(huì)遵循基本的戰(zhàn)爭(zhēng)法。機(jī)器人無(wú)法區(qū)分戰(zhàn)斗人員和平民，也無(wú)法分辨出哪些人是傷兵或者那些建筑是符合戰(zhàn)爭(zhēng)法中規(guī)定的可打擊目標(biāo)。“沒(méi)有任何人工智能機(jī)器人武器可以做到完全分辨目標(biāo)，根本不可能?！盨harkey博士指著英國(guó)制造的可以區(qū)分人和汽車的機(jī)器人說(shuō)“這太機(jī)器人可以分辨人和汽車，但卻分不清對(duì)面站著的是一只跳舞的狗熊還是一條兩條后腿站立的狗?！?/p>

　　機(jī)器人武器也不能判斷利弊，他說(shuō)，機(jī)器人無(wú)法判斷某次攻擊行為造成的軍事打擊和平民傷亡孰重孰輕。“機(jī)器人怎么可能知道?軍事打擊獲得的戰(zhàn)爭(zhēng)優(yōu)勢(shì)都可以讓博士們發(fā)表好幾篇論文了，戰(zhàn)場(chǎng)上有太多變數(shù)，只有身經(jīng)百戰(zhàn)的指揮官身臨戰(zhàn)場(chǎng)才能做出判斷。”

　　Sharkey指出最大的問(wèn)題其實(shí)還是負(fù)責(zé)制度。如果某次軍事行動(dòng)出錯(cuò)，機(jī)器人無(wú)法被問(wèn)責(zé)，這也是與Sharkey交流過(guò)的指揮者們真正擔(dān)心的問(wèn)題：如果機(jī)器人出錯(cuò)了，倒霉的可是指揮官們。

　　“這對(duì)指揮官不公平，機(jī)器人隨時(shí)會(huì)崩潰當(dāng)機(jī)，機(jī)器人有可能被人類誘騙，可能被黑，可能由于編程中的某次出錯(cuò)讓黑客通過(guò)計(jì)算機(jī)控制開(kāi)槍，機(jī)器人的傳感器可能出現(xiàn)故障，而這一切又應(yīng)該由誰(shuí)來(lái)負(fù)責(zé)呢?是制造者?軟件工程師?機(jī)器人工程師?還是指揮官?在戰(zhàn)場(chǎng)上一旦出錯(cuò)必須清楚誰(shuí)該負(fù)責(zé)?！?/p>

　　Sharkey關(guān)心的是一旦技術(shù)上的限制被突破，戰(zhàn)爭(zhēng)機(jī)器人極有可能逐步推廣到全世界的戰(zhàn)場(chǎng)。“自主機(jī)器人技術(shù)并非用于戰(zhàn)爭(zhēng)，即便自主機(jī)器人武器被部署在戰(zhàn)場(chǎng)，這項(xiàng)技術(shù)本身也不適合用于戰(zhàn)爭(zhēng)。”

　　戰(zhàn)場(chǎng)上的科技樹(shù)越攀越高，自主機(jī)器人投入使用的可能行也越來(lái)越大。如果僅靠攔截通訊就可以阻攔敵方無(wú)人機(jī)，那么可以輕易自主執(zhí)行任務(wù)的無(wú)人機(jī)就會(huì)被開(kāi)發(fā)出來(lái)。同樣的道理，遙控?zé)o人機(jī)駕駛員在遙控裝置上發(fā)出一個(gè)指令到無(wú)人機(jī)真正執(zhí)行之間有1.5秒的延時(shí)，人工操控?zé)o人機(jī)的反應(yīng)速度會(huì)不如自主無(wú)人機(jī)，這也為自主無(wú)人機(jī)的推廣給出了理由。