數十位科學家、企業家及與人工智能領域有關的投資者聯名發出了一封公開信，警告人們必須更多地註意人工智能(AI)的安全性及其社會效益。參加聯署的人中包括了科學家史蒂芬•霍金(Stephen Hawking)及企業家埃倫•馬斯克(Elon Musk)。
這封發自生命未來研究所(Future of Life Institute，簡稱FLI)的公開信還附帶了一篇論文，其中建議應優先研究“強大而有益”的人工智能。目前，人們日益擔心機器的智力和能力可能會超過創造它們的人類，從而影響到人類的就業，甚至影響到人類的長期生存。
這封FLI的公開信表示：“由於人工智能的巨大潛力，開展如何在規避其潛在陷阱的同時獲取其好處的研究十分重要。我們的人工智能系統，必須按照我們的意願工作。”
FLI去年由包括Skype聯合創始人讓•塔林(Jaan Tallinn)在內的志願者創立。成立該研究所的目的一方面是為了促進對“未來樂觀圖景”的研究，一方面則是為了“降低人類面臨的現存風險”。這其中，在開發與人類相當的人工智能技術過程中出現的那些風險，將是該所關註的重點。
SpaceX和特斯拉(Tesla)的共同創始人馬斯克、著名演員摩根•弗里曼(Morgan Freeman)以及宇宙學家史蒂芬•霍金都是FLI科學顧問委員會的委員。馬斯克表示，他相信不受控制的人工智能“可能比核武器更危險”。
這封FLI公開信上的其他聯署人還包括機器智能研究所(Machine Intelligence Research Institute)的執行主任呂克•米爾豪澤(Luke Muehlhauser)，麻省理工學院(MIT)物理學教授、諾貝爾獎得主弗蘭克•維爾切克(Frank Wilczek)，人工智能企業DeepMind和Vicarious的幕後主管，以及幾名谷歌(Google)、IBM和微軟(Microsoft)的員工。
這封信並不以一封兜售恐懼心理為目的。與此相反，它十分謹慎地同時強調了人工智能的積極面和消極面。
信中寫道：“如今存在的一個廣泛共識是，人工智能研究正在穩步進展之中，它對社會的影響也很可能會逐漸增大。人類文明所能提供的一切都是人類智慧的結晶。這種智慧被人工智能可能提供的工具放大後，我們能做到什麽是我們無法想象的，不過那樣的話根除疾病和貧困將不再是遙不可及的。從這個意義上說，人工智能有巨大的潛在好處。”
目前，人工智能研究的部分好處已經成為現實，其中包括語音識別和圖像識別，以及自動駕駛的汽車。在硅谷，部分人估計如今從事人工智能業務的初創企業超過了150家。
人工智能正吸引越來越多的投資，許多創業家和谷歌等企業都在盼望著能通過建立會自主思考的電腦，獲得巨額回報。對於這種局面，FLI警告說，人們或許應“及時”將更多註意力集中在人工智能的社會後果上，不僅要從計算機科學的角度開展研究，還要從經濟、法律及信息安全的角度開展研究。
from Financial Times
| 
雷达卡
發表於 2015-1-12 17:23:01
置顶卡
喧嚣卡
变色卡
显身卡