殺人機器人？科學家擔憂人工智能軍備競賽

超過1000名科技專家、科學家、研究員共同撰寫一封信，警告自動化武器可能帶來的危險。

科學家在信中警告：「人工智能軍備競賽是個可怕的想法」。讓人聯想到熱門電影「終結者」中的「殺人機器人」。

這封信的簽署有科學巨擘史蒂芬·霍金（Stephen Hawking），企業家埃倫·穆斯克 (Elon Musk)，以及蘋果公司共同創辦人斯蒂芬·沃茲尼亞克（Stephen Wozniak）。

這封信將在今天的國際人工智能聯合會議中被呈現。

「殺人機器人」 近期在聯合國委員會上成為辯論的主題之一，討論是否要禁止某些有潛在威脅的自動化武器。

現在專家們呼籲要特別禁止那些使用人工智能來操控的武器，認為它們可能會「超越人類控制」。

專家們表示：「就像大部分科學家和生物學家不會對打造生化武器有興趣一樣，絕大多數的人工智能研究員不會對打造人工智能武器有興趣，而且也不想弄髒自己的手去插足這個領域」。

美國麻省理工學院（MIT）教授喬姆斯基（Noam Chomsky）和谷歌人工智能首席Demis Hassabis，以及意識學專家Daniel Dennett都認可了這封信。

信件內容由未來生命研究院（Future of Life Institute）在網絡上發佈，而紙本將在布宜諾斯艾利斯舉行的國際人工智能聯合會議（International Joint Conference on Artificial Intelligence）上提交。

身為信件簽署人之一的霍金，最近參加美國熱門社交論壇Reddit「向我提問」活動，向網民收集關於「如何讓未來科技更人性」的問題。

他在本周會挑出要回答的問題，但現在還沒開始回答。在去年11月BBC科技新聞記者凱蘭—瓊斯（Rory Cellan-Jones）獨家專訪霍金，在訪談中，霍金提出了人工智能可能終結人類文明的擔憂。

霍金說：「人類受限於緩慢的生物學進化過程，無法（與人工智能）較勁，而且將會被人工智能取代。」

然而，另一位簽署這封信的微軟研究首席Eric Horvitz也上傳了一段為人工智能辯護的影片。

他說：「看看電腦計算已經為我們帶來多少難以置信的改變，在社會經濟面、醫療應用面等等。人工智能改變了許多事。」

「這將帶來許多希望，許多可能的好處，當然也有其隱憂。我覺得有很多問題需要被解決，但我期待經由人類的引導，人工智能將帶來更多正面效應。」

英國國防部最近在一項聲明中說到，所有英國軍隊的運作都必須「依照國際人道主義法」。

國防部表示：「英國的交戰規則（ROE）很明確的是依照人道主義法為基礎制定的，所以在此系統中永遠會有『人為控制』。英國軍方人員在目前以及未來，總會有人員下達控制武器的指令。」

from BBC News