文化

專訪Elon Musk & YC | 如何防止人工智能颠覆人類

字号+作者:賽先生 來源: 2016-01-13 21:51 我要評論() 收藏成功收藏本文

為了防止有朝一日人工智能的發展會颠覆人類,包括Elon Musk、Reid Hoffman等諸位美國創新型科技行業的風雲人物共同出資超過10億美元,于12月12日宣布成立'...

像是AI(人工智能)領域的競争還不夠激烈一樣——要知道Google、Facebook、Microsoft之類的巨頭,甚至還有Toyota這樣的汽車公司,都在急匆匆地招募研究人員——現在又有了一個新的組織渴求研究者,但它有一些不同之處。

它是一個非營利性的合資組織,叫做“OpenAI”,于12月12日啟動,宣稱将會向公衆公開它所有的研究成果,并且授予它所有的專利買斷式授權(royalty-free。譯者注:根據維基百科,專利買斷式授權指用來宣告一項具有版權、專利或著作權的産品能(永久或特定時段)被使用而不需要支付權利金或執照費(License fee))。這一切都是為了确保,有朝一日計算機超越人類智力的可怕前景,将不會變得像一些人恐懼的反烏托邦(dystopia)那樣讓人絕望。

OpenAI的資金來自于一群科技行業的權威,包括Elon Musk(埃隆·馬斯克,SpaceX太空探索技術公司、環保跑車公司特斯拉(Tesla)等四家創新科技企業的CEO)、Reid Hoffman(雷德·霍夫曼,LinkedIn的聯合創始人)、Peter Thiel(彼得·蒂爾,矽谷風投教父)、Jessica Livingston(傑西卡·利文斯頓,風投公司Y Combinator的創始合夥人)、以及Amazon(亞馬遜)雲服務。他們承諾,将在未來很長一段時間内向這個組織投入總共超過10億美元的資金。這個組織的聯合董事長分别是Elon Musk和Sam Altman(Y Combinator的CEO)。

衆所周知,Musk是AI的批判者,他加入這樣一個組織并不讓人意外。但Y Combinator是什麼?沒錯,這就是那家10年前從一個夏季計劃中脫胎而出的科技孵化器,當時以給“拉面工資”、然後反饋美食建議的形式資助了6家初創企業,通過這種方式讓它們能夠快速擴張自己的業務。從那時起,YC已經幫助創立了接近1000家公司,包括Dropbox、Airbnb、以及Stripe,并在最近設立了一個研究部門。過去的2年間,YC一直由Altman領導着。他的公司Loopt曾經是2005年YC初創時孵化的公司之一,在2012年他以4340萬美元的價格出售了這家公司。雖然YC和Altman都是OpenAI的創始人,并且Altman還擔任了聯合董事長的職務,但是OpenAI的确是一個與這些公司無關的、獨立的合資組織。

本質上,OpenAI是一個研究實驗室,旨在削減兩類組織的力量:包括因為擁有營利的超級智能系統(super-intelligence systems)而可能獲得過多力量的大型組織,以及可能使用AI來獲取力量甚至用來壓迫本國公民的政府機構。這可能聽上去非常堂吉诃德,但這個團隊已經募集到了一批精英,包括Stripe前CTO Greg Brockman(他将擔任OpenAI的CTO)以及世界一流的研究者Ilya Sutskever。Ilya Sutskever曾經為Google工作過,是在多倫多接受神經網絡先驅Geoff Hinton指導的年輕科學家團隊的一員。他将擔任OpenAI的研究主管。其他的人馬還有一群頂尖的天賦很高的年輕人,他們的簡曆中囊括了主要的學術團體、Facebook AI以及Google在2014年收購的AI公司DeepMind。OpenAI還有一個星光熠熠的顧問委員會,頂尖的計算機科學家Alan Kay也名列其中。

OpenAI的領導者們描述了這個計劃和它的未來願景。我的整個采訪是分成兩部分進行的,首先是與Altman的對話,然後是與Altman、Musk、以及Brockman一起讨論的部分。我将整個訪談融合在一起,編輯成了簡要清晰的格式。

Sam Altman:我們大約是在一個半月以前啟動YC研究部門的,但我一直以來都在思考AI的問題,Elon也是。如果你想想對于世界的未來而言,哪些東西最重要,我覺得一個善良的AI(good AI)可能是這張列表上首當其沖的幾項之一。所以我們創立了OpenAI。這個組織正在嘗試研發出一種對人類友好的AI(human positive AI)。而且因為它是一個非營利性組織,全世界都能享用它的研究成果。

Elon Musk:就像你知道的那樣,我對AI有所顧慮已經有一段時間了。我和Sam,和Reid Hoffman,和Peter Thiel,還有其他人,談了許多次。我們在思考,“有沒有某種方法可以确保——或者提升——AI以有益的方式發展的概率?”作為幾次談話的結果,我們得出了創立一個501c3組織的結論(譯者注:根據維基百科,501(c)是美國國内稅收法(Internal Revenue Code, IRC)中的一項條款(美國國内稅收法, § 501(c)),列出了26種享受聯邦所得稅減免的非營利組織,501(c)(3)為宗教、教育、慈善、科學、文學、公共安全測試、促進業餘體育競争和防止虐待兒童或動物等七個類型的組織):一家非營利性組織,不具有讓利潤最大化的義務,可能會是一件不錯的事情。同時,我們也會對安全性非常重視。

那麼從哲學的角度上來說就有了一個重要的元素:我們希望AI能被廣泛傳播。有兩種流派的思想——你是想要AI的數量很多,還是很少?我們認為可能數量多是一件好事。而且從你可以将它作為人類意願的延伸這個方面來看,這也是一件好事。

Musk:就像你自身有一個AI的延伸部分,每個人在本質上都與AI共生、而不是AI作為一個與你無關的大型中央智能(Large Central Intelligence)。想象一下你将會怎麼使用,比如說網絡上的應用:你可以收發郵件、玩轉社交媒體、你的手機上還有許多其它App——它們讓你變成了一個能做很多事的超人,而你并不會認為它們是與你無關的,你會覺得它們是你的延伸。所以我們想要盡力引導AI往這個方向發展。我們已經找到了一些和我們有相似理念的AI領域的工程師和研究者。

Altman:我們認為AI發展的最好方式就是,它應該是關于讓個人變得強大、讓人類的生活變得更好的東西,對于所有人來說都是免費的,而不是一個比其他人類強大一百萬倍的精英。因為我們并不是一個比如Google那樣的追求盈利的公司,我們可以不用關注于如何讓股東們财源滾滾,而是關注于對于人類未來而言,我們相信的、在實際上最好的東西。

Altman:他們的确與公衆分享了許多研究成果。随着時間過去,随着我們逐漸接近那種超越人類智能的東西,Google還會與公衆分享多少成果是值得懷疑的。

Altman:我預期它會,但是它會是開源的,任何人都能使用,而不是隻能被,比如說Google,來使用。這個團體研發的任何東西都将對所有人開放。如果你拿去以後做了一些改變、讓它适應其他用途,你也不會有義務要和公衆分享你的成果。但是隻要是我們做的任何工作,都會對所有人開放。

Musk:我想這是一個很精彩的問題,我們為這個争論過不少次。

Altman:關于這個問題有一些不同的思路。就像科幻作品中用“大部分人類都是善良的,而人類的集體力量中可能有一些邪惡的元素”的事實來對抗邪惡博士那樣,我們認為,比起一個單獨的比其他任何東西都強大無數倍的AI,許多許多的AI緻力于阻止偶爾出現的邪惡AI,這種可能性要大得多。如果那個強大無比的AI脫離了人類掌控,或者邪惡博士得到了它、沒有東西能與它抗衡,那麼我們就真的落到了很糟糕的境地。

Altman:我們的确希望能夠随着時間建立起監管機制。一開始将隻有Elon和我。我們距離實際開發出真正的AI還有很長很長的距離。但我想我們将會有足夠的時間來建立監管的機制。

Musk:我确實想要将一些時間花在這個團隊上,大概會是每周在辦公室花上一兩個下午的時間來了解研究進展、提供我的想法和反饋,對于AI的現狀和我們是否在接近一種危險的東西有一些更深的理解。我個人将會對安全性極其敏感,我對這個問題有許多顧慮。如果我們看到了某種我們認為在安全性上有風險的東西,我們會将其公之于衆。

Altman:實際上,邪惡的人工智能基本都和科幻小說描繪的差不多,但像終結者那樣的人工智能技術,還需要一段時間才能出現。我在短期内絲毫不擔心它們。不過有一件事我的确認為是挑戰:自動化的普及,以及工作被機器人取代。另一個邪惡的人工智能例子是,人工智能程序能夠像黑客那樣進入電腦,而且這方面要遠比人類強大。這些事現在已經發生了。

Altman:還沒有,開始會像研究實驗室那樣,而且在長期的時間裡,也都會以這樣的形式存在。現在我們還不知道怎麼去建造這個系統。從第一天開始,我們有了 8 名研究者,未來幾個月還會有更多人加入。現在他們會使用 YC 孵化器的辦公空間,當他們逐漸成長後才會搬出去獨立辦公。他們也會不斷演練想法,編寫程序來看是否能加速現在人工智能技術的進展。

Altman:當然可以了。我們把項目以完全開放的形式進行,自由分享信息,這樣的好處是能和任何人合作。你很難和 Google 的員工合作,因為他們有一大堆保密條款。

Altman:如果 OpenAI 的确開發了不錯的技術,而且所有人都可以免費使用并造福于科技公司。不過也僅僅是這樣了。但我們會詢問 YC 孵化器的公司們,在自願的情況下開放合适的數據給 OpenAI。Elon Musk 也在考慮 Tesla 和 Space X 公司能分享哪些數據。

Altman:這有很多。例如說所有的 Reddit 數據都會是非常有用的訓練集。你也可以想象,所有的特斯拉自動駕駛視頻也會變得很有價值。大量的數據的确很重要。如果你思考人類如何變得聰明,當你讀書的時候,你變得聰明,當我讀書的時候,我變得聰明。但是我并不會因為你讀書而變得聰明,反過來也一樣。但是使用特斯拉作為例子,當一輛特斯拉學會新的習慣,那麼所有的特斯拉都會立刻從它的智能獲得收益。

Musk:實話說,我們并沒有非常詳細的專門計劃,因為它還處在公司非常初創的階段。這是一種萌芽期的狀态。但确信的是,特斯拉會有大量的數據,關于真實世界的數據,因為我們的輪子每年都會積累幾百萬的公裡數。也許特斯拉相比世界上任何其他的公司,都有更多的真實世界數據。

Altman:我們正和亞馬遜雲服務合作,他們為項目捐獻了大量的基礎設施服務。

Musk:我得說最後的資金投資會超過 10 億美元。我們并不想出具詳細的資金來源統計分析,但是我們在博客中提到了為項目做出傑出貢獻的人。

Altman:這取決于它需要多長時間建立起來。我們會盡可能的節儉,但這也許是幾十年的項目,需要很多人參與,也需要很多的硬件設施。

Musk:對的。這不是利益取向的投資。也許它未來能夠産生收入,就像斯坦福實驗室 501c3 項目一樣。所以未來也許會有收入,但不會有利潤給股份持有者分紅,也不會有股票價格或其他任何可以獲利的東西。我們認為這樣會比較好。

Musk:我得強調,我并不是通常意義的投資者。我不尋求投資和财務上的回報。我給自己參與創立的公司投資,有時候是出于幫助朋友,有時候是因為我的信仰,也有的時候是因為我關心的事情。我并不是出于分散風險或者物質意義上的考慮。不過,我對 DeepMind 所謂的投資,不過是為了更好的理解人工智能,并且能夠時刻看到它的進展。

Altman:我們的招聘計劃進展的不錯。對科研人員真正有吸引力的是自由度和開放性,以及分享他們研究項目的許可程度,但是在産業實驗室裡面,你很難達到相同的權限。我們得以吸引力非常高質量的初創團隊,而其他人會想着加入,以和這樣的團隊一起工作。最後我認為,我們的使命、願景和管理架構真的對人們有吸引力。

Altman:也許吧。

Altman:我和 Elon Musk 以及其他人就這個問題讨論了很長的時間,不過我到現在都不是 100% 的确定。你永遠也不可能 100% 确定,不是麼?不過我們可以有不同的劇本,通過加密技術來保障安全,通常不怎麼管用。如果隻有一個機構能有這樣的技術,你怎麼決定它應該是 Google、美國政府、中國政府、ISIS 或其他?世界上有很多邪惡的人,但人類卻依然生生不息。但是,如果其中某個壞人擁有了超出其他人類 10 億倍的能力,那世界将會怎樣?

Musk:我認為抵抗AI錯誤使用的最好辦法,就是讓人們盡可能去擁有AI。如果每個人都有AI的力量,那就不會有個人或小團體擁有AI的超級力量。

Musk:那确實。但我心裡一直都在考慮AI的安全性,所以我還是應該做個交易換來心靈平靜。

溫馨提示:網貸界(dns2wd7.top)是國内首家互聯網金融理财P2P網貸資訊門戶網站,用戶在本站發表、轉載的任何文字、圖片僅代表其個人觀點,不代表本網觀點,也不構成任何投資建議。網貸有風險,投資需謹慎!

網友點評