Thomas_Chan 發表於 2015-1-12 17:23:01

霍金等呼籲提防人工智能副作用

http://i.ftimg.net/picture/9/000049209_piclink.jpg

數十位科學家、企業家及與人工智能領域有關的投資者聯名發出了一封公開信,警告人們必須更多地註意人工智能(AI)的安全性及其社會效益。參加聯署的人中包括了科學家史蒂芬•霍金(Stephen Hawking)及企業家埃倫•馬斯克(Elon Musk)。
這封發自生命未來研究所(Future of Life Institute,簡稱FLI)的公開信還附帶了一篇論文,其中建議應優先研究“強大而有益”的人工智能。目前,人們日益擔心機器的智力和能力可能會超過創造它們的人類,從而影響到人類的就業,甚至影響到人類的長期生存。

這封FLI的公開信表示:“由於人工智能的巨大潛力,開展如何在規避其潛在陷阱的同時獲取其好處的研究十分重要。我們的人工智能系統,必須按照我們的意願工作。”

FLI去年由包括Skype聯合創始人讓•塔林(Jaan Tallinn)在內的志願者創立。成立該研究所的目的一方面是為了促進對“未來樂觀圖景”的研究,一方面則是為了“降低人類面臨的現存風險”。這其中,在開發與人類相當的人工智能技術過程中出現的那些風險,將是該所關註的重點。

SpaceX和特斯拉(Tesla)的共同創始人馬斯克、著名演員摩根•弗里曼(Morgan Freeman)以及宇宙學家史蒂芬•霍金都是FLI科學顧問委員會的委員。馬斯克表示,他相信不受控制的人工智能“可能比核武器更危險”。

這封FLI公開信上的其他聯署人還包括機器智能研究所(Machine Intelligence Research Institute)的執行主任呂克•米爾豪澤(Luke Muehlhauser),麻省理工學院(MIT)物理學教授、諾貝爾獎得主弗蘭克•維爾切克(Frank Wilczek),人工智能企業DeepMind和Vicarious的幕後主管,以及幾名谷歌(Google)、IBM和微軟(Microsoft)的員工。

這封信並不以一封兜售恐懼心理為目的。與此相反,它十分謹慎地同時強調了人工智能的積極面和消極面。



信中寫道:“如今存在的一個廣泛共識是,人工智能研究正在穩步進展之中,它對社會的影響也很可能會逐漸增大。人類文明所能提供的一切都是人類智慧的結晶。這種智慧被人工智能可能提供的工具放大後,我們能做到什麽是我們無法想象的,不過那樣的話根除疾病和貧困將不再是遙不可及的。從這個意義上說,人工智能有巨大的潛在好處。”

目前,人工智能研究的部分好處已經成為現實,其中包括語音識別和圖像識別,以及自動駕駛的汽車。在硅谷,部分人估計如今從事人工智能業務的初創企業超過了150家。

人工智能正吸引越來越多的投資,許多創業家和谷歌等企業都在盼望著能通過建立會自主思考的電腦,獲得巨額回報。對於這種局面,FLI警告說,人們或許應“及時”將更多註意力集中在人工智能的社會後果上,不僅要從計算機科學的角度開展研究,還要從經濟、法律及信息安全的角度開展研究。

from Financial Times
頁: [1]
查看完整版本: 霍金等呼籲提防人工智能副作用