大角嘴 - 港 灣 豪 庭 Metro Harbor View

 找回密碼
 注册
今天是
搜索
查看: 1627|回復: 0

霍金等呼籲提防人工智能副作用

[複製鏈接]
發表於 2015-1-12 17:23:01 | 顯示全部樓層 |閱讀模式

                               
登錄/註冊後可看大圖


數十位科學家、企業家及與人工智能領域有關的投資者聯名發出了一封公開信,警告人們必須更多地註意人工智能(AI)的安全性及其社會效益。參加聯署的人中包括了科學家史蒂芬•霍金(Stephen Hawking)及企業家埃倫•馬斯克(Elon Musk)。

這封發自生命未來研究所(Future of Life Institute,簡稱FLI)的公開信還附帶了一篇論文,其中建議應優先研究“強大而有益”的人工智能。目前,人們日益擔心機器的智力和能力可能會超過創造它們的人類,從而影響到人類的就業,甚至影響到人類的長期生存

這封FLI的公開信表示:“由於人工智能的巨大潛力,開展如何在規避其潛在陷阱的同時獲取其好處的研究十分重要。我們的人工智能系統,必須按照我們的意願工作。”

FLI去年由包括Skype聯合創始人讓•塔林(Jaan Tallinn)在內的志願者創立。成立該研究所的目的一方面是為了促進對“未來樂觀圖景”的研究,一方面則是為了“降低人類面臨的現存風險”。這其中,在開發與人類相當的人工智能技術過程中出現的那些風險,將是該所關註的重點。

SpaceX和特斯拉(Tesla)的共同創始人馬斯克、著名演員摩根•弗里曼(Morgan Freeman)以及宇宙學家史蒂芬•霍金都是FLI科學顧問委員會的委員。馬斯克表示,他相信不受控制的人工智能“可能比核武器更危險”。

這封FLI公開信上的其他聯署人還包括機器智能研究所(Machine Intelligence Research Institute)的執行主任呂克•米爾豪澤(Luke Muehlhauser),麻省理工學院(MIT)物理學教授、諾貝爾獎得主弗蘭克•維爾切克(Frank Wilczek),人工智能企業DeepMind和Vicarious的幕後主管,以及幾名谷歌(Google)、IBM和微軟(Microsoft)的員工。

這封信並不以一封兜售恐懼心理為目的。與此相反,它十分謹慎地同時強調了人工智能的積極面和消極面。



信中寫道:“如今存在的一個廣泛共識是,人工智能研究正在穩步進展之中,它對社會的影響也很可能會逐漸增大。人類文明所能提供的一切都是人類智慧的結晶。這種智慧被人工智能可能提供的工具放大後,我們能做到什麽是我們無法想象的,不過那樣的話根除疾病和貧困將不再是遙不可及的。從這個意義上說,人工智能有巨大的潛在好處。”

目前,人工智能研究的部分好處已經成為現實,其中包括語音識別和圖像識別,以及自動駕駛的汽車。在硅谷,部分人估計如今從事人工智能業務的初創企業超過了150家。

人工智能正吸引越來越多的投資,許多創業家和谷歌等企業都在盼望著能通過建立會自主思考的電腦,獲得巨額回報。對於這種局面,FLI警告說,人們或許應“及時”將更多註意力集中在人工智能的社會後果上,不僅要從計算機科學的角度開展研究,還要從經濟、法律及信息安全的角度開展研究。

from Financial Times
您需要登錄後才可以回帖 登錄 | 注册

本版積分規則

Archiver|手机版|小黑屋|港灣豪庭論壇 admin@mhvlive.com

GMT+8, 2021-5-19 10:16 , Processed in 0.050993 second(s), 16 queries .

Metro Harbor View MHVLive X3.4

© 2007-2021 mhvlive.com

快速回復 返回頂部 返回列表