人工智能幫助硅谷迎來(lái)“奇點(diǎn)”時(shí)刻？2045年人類(lèi)智力可提高100萬(wàn)倍
人工智能幫助硅谷迎來(lái)“奇點(diǎn)”時(shí)刻？2045年人類(lèi)智力可提高100萬(wàn)倍
劃重點(diǎn)：
- 1許多專(zhuān)家認(rèn)為，人工智能取得的巨大進(jìn)步正幫助硅谷迎來(lái)奇點(diǎn)時(shí)刻，我們即將迎來(lái)劇烈的、指數(shù)級(jí)的、不可逆轉(zhuǎn)的巨變。
- 2奇點(diǎn)理論的最大擁護(hù)者庫(kù)茲韋爾預(yù)計(jì)，到2030年時(shí)，計(jì)算機(jī)系統(tǒng)將通過(guò)圖靈測(cè)試，與人類(lèi)無(wú)法區(qū)分。之后再過(guò)15年，真正的奇點(diǎn)將會(huì)到來(lái)，屆時(shí)“計(jì)算將成為我們自身的一部分，我們的智力將提高100萬(wàn)倍”。
- 3反對(duì)派的批評(píng)人士認(rèn)為，即使大語(yǔ)言模型取得了驚人的進(jìn)步，也與奇點(diǎn)理論所承諾的不朽的、世界智慧的漫長(zhǎng)歷程相去甚遠(yuǎn)。
「硅谷封面」系列聚焦硅谷科技大公司動(dòng)態(tài)、科技大咖訪談、重磅研究報(bào)告等，旨在為科技資訊愛(ài)好者提供全球最前沿的深度好文。本期為硅谷封面第11期，討論人工智能的“奇點(diǎn)時(shí)刻”。
多年來(lái)，硅谷始終期待著一種全新的技術(shù)出現(xiàn)，并改變一切。它將把人類(lèi)和機(jī)器結(jié)合起來(lái)，變成更高級(jí)的智能，并為歷史劃開(kāi)界限。這個(gè)里程碑的時(shí)刻被稱(chēng)為“奇點(diǎn)”。
它可能會(huì)以多種方式發(fā)生。一個(gè)風(fēng)險(xiǎn)是，人們可能會(huì)將個(gè)人電腦的處理能力添加到他們自己與生俱來(lái)的智能中，變成他們自己的超強(qiáng)變種?；蛘?，計(jì)算機(jī)系統(tǒng)可能會(huì)發(fā)展得異常復(fù)雜，以至于它們實(shí)際上可能會(huì)假設(shè)，創(chuàng)造一個(gè)世界性的思維。
在這兩種情況下，隨之而來(lái)的改變可能是劇烈的、指數(shù)級(jí)的、不可逆轉(zhuǎn)的。一臺(tái)具有自我意識(shí)的超人機(jī)器可能會(huì)比任何一組科學(xué)家更快地設(shè)計(jì)出自己的增強(qiáng)功能，從而引發(fā)智能大爆炸。幾個(gè)世紀(jì)的進(jìn)步可能在幾年甚至幾個(gè)月內(nèi)完成。
人工智能在科技、企業(yè)和政治領(lǐng)域正掀起前所未有的波瀾。留心硅谷發(fā)出的夸張聲明和瘋狂預(yù)言，看來(lái)承諾已久的數(shù)字天堂終于觸手可及。
向來(lái)低調(diào)的谷歌首席執(zhí)行官桑達(dá)爾·皮查伊(Sundar Pichai)稱(chēng)，人工智能的影響“比火、電或我們之前所做的任何事情都要深刻得多”。
億萬(wàn)富翁投資者里德·霍夫曼(Reid Hoffman)表示：“在這個(gè)星球上作出建設(shè)性改變的能力即將得到前所未有的重要提升?！?/p>
微軟聯(lián)合創(chuàng)始人比爾·蓋茨(Invoice Gates)宣稱(chēng)，人工智能“將改變?nèi)藗児ぷ?、學(xué)習(xí)、旅行體驗(yàn)，并獲得健康護(hù)理和相互交流的最佳方式?！?/p>
然而，這里有一個(gè)黑暗的轉(zhuǎn)折。就好像科技公司發(fā)布自動(dòng)駕駛汽車(chē)時(shí)警告說(shuō)，它們可能在你前往沃爾瑪購(gòu)物途中發(fā)生爆炸。
推特和特斯拉掌舵人埃隆·馬斯克(Elon Musk)上月在接受采訪時(shí)表示：“通用人工智能的出現(xiàn)被稱(chēng)為奇點(diǎn)，因?yàn)楹茈y預(yù)測(cè)之后會(huì)發(fā)生什么?！钡硎荆J(rèn)為“一個(gè)富足的時(shí)代”將會(huì)到來(lái)，但通用人工智能也“有可能毀滅人類(lèi)”。
在科技界，人工智能最大的支持者是OpenAI首席執(zhí)行官薩姆·奧特曼(Sam Altman)，這家初創(chuàng)公司的聊天機(jī)器人ChatGPT引發(fā)了當(dāng)前熱潮。奧特曼說(shuō)，人工智能很可能是“我們所見(jiàn)過(guò)的最好的金融賦權(quán)和許多人致富的力量?！辈贿^(guò)，他也表示，馬斯克的觀點(diǎn)可能是對(duì)的。馬斯克對(duì)人工智能持批評(píng)態(tài)度，還創(chuàng)建了致力于開(kāi)發(fā)腦機(jī)接口的組織。
上個(gè)月，奧特曼簽署了一封由非營(yíng)利性組織人工智能安全中心發(fā)起的公開(kāi)信，信中表示，“減輕人工智能滅絕人類(lèi)的風(fēng)險(xiǎn)應(yīng)該是全球優(yōu)先事項(xiàng)”，它應(yīng)該與“流行病和核戰(zhàn)爭(zhēng)”并列。其他簽名者包括奧特曼的OpenAI同事，以及來(lái)自微軟和谷歌的科學(xué)家。
“世界末日”的話題在硅谷已經(jīng)變得耳熟能詳，甚至是許多人所熱衷探討的領(lǐng)域。幾年前，似乎每個(gè)科技大咖都在遙遠(yuǎn)但仍可到達(dá)的地方建有物資儲(chǔ)備充足的末日地堡。2016年，奧特曼表示，他正在收集“武器、黃金、碘化鉀、抗生素、電池、水、防毒面罩，以及可以乘坐飛機(jī)到達(dá)的大蘇爾(Huge Sur)地區(qū)?！痹谝欢螘r(shí)間內(nèi)，新冠疫情讓這些人覺(jué)得自己的做法是正確的。現(xiàn)在，他們正在為奇點(diǎn)的到來(lái)做準(zhǔn)備。
01 奇點(diǎn)的根源
奇點(diǎn)的思想根源可以追溯到約翰·馮·諾伊曼（John von Neumann）身上，他是一位計(jì)算機(jī)科學(xué)家先驅(qū)，在20世紀(jì)50年代，他談到“技術(shù)的不斷加速進(jìn)步”將如何產(chǎn)生“人類(lèi)歷史上一些重要的奇點(diǎn)”。
英國(guó)數(shù)學(xué)家歐文·約翰·古德(Irving John Good)在二戰(zhàn)期間曾在布萊切利公園(Bletchley Park)幫助破譯德國(guó)恩尼格瑪密碼系統(tǒng)，他也是奇點(diǎn)理論的支持者。他在1964年寫(xiě)道：“人類(lèi)的生存將取決于超智能機(jī)器的早期發(fā)展。”導(dǎo)演斯坦利·庫(kù)布里克(Stanley Kubrick)曾就《2001:A House Odyssey》中的人工智能HAL咨詢過(guò)古德，這是電腦科學(xué)和科幻小說(shuō)之間界限模糊的早期例子。
卡耐基梅隆大學(xué)機(jī)器人研究所的兼職教授漢斯·莫拉維克（Hans Moravec）認(rèn)為，人工智能不僅對(duì)人來(lái)說(shuō)是一大福音，無(wú)生命的東西也可以在奇點(diǎn)中被回收。他在《兒童思維：機(jī)器人和人類(lèi)智能的未來(lái)》(Mind Children: the Future of Robot and Human Intelligence)中寫(xiě)道：“我們將有機(jī)會(huì)重新創(chuàng)造過(guò)去，并以一種真實(shí)而直接的方式與之互動(dòng)。”
企業(yè)家兼發(fā)明家雷·庫(kù)茲韋爾(Ray Kurzweil)始終是奇點(diǎn)理論的最大擁護(hù)者。他寫(xiě)了許多有關(guān)奇點(diǎn)的書(shū)，包括1990年發(fā)表的 《智能機(jī)器時(shí)代》、2005年的《奇點(diǎn)臨近》，現(xiàn)在正在寫(xiě)《奇點(diǎn)更近了》。
庫(kù)茲韋爾預(yù)計(jì)，到2030年時(shí)，計(jì)算機(jī)系統(tǒng)將通過(guò)圖靈測(cè)試，與人類(lèi)無(wú)法區(qū)分。他估計(jì)，這之后再過(guò)15年，真正的奇點(diǎn)將會(huì)到來(lái)，屆時(shí)“計(jì)算將成為我們自身的一部分，我們的智力將提高100萬(wàn)倍”。到那時(shí)，庫(kù)茲韋爾可能已經(jīng)97歲了。在營(yíng)養(yǎng)維生素和膳食補(bǔ)充劑的幫助下，他希望繼續(xù)看看以后的發(fā)展趨勢(shì)。
對(duì)于有些批評(píng)奇點(diǎn)理論的人來(lái)說(shuō)，在軟件編程領(lǐng)域復(fù)制感知系統(tǒng)在智力上是一種可疑的嘗試。美國(guó)麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室前主任羅德尼·布魯克斯(Rodney Brooks)說(shuō)：“他們都想要永生，而不必因?yàn)樾叛錾衩鞫鴰?lái)不便?！?/p>
目前推動(dòng)奇點(diǎn)辯論的創(chuàng)新是因?yàn)榇笳Z(yǔ)言模型的出現(xiàn)，即為聊天機(jī)器人提供動(dòng)力的那種人工智能系統(tǒng)。在與這些大語(yǔ)言模型進(jìn)行對(duì)話的過(guò)程中，它可能會(huì)迅速、連貫地給出解決方案。
資深人工智能企業(yè)家、《人工智能：每個(gè)人都需要知道的東西》一書(shū)的作者杰里·卡普蘭（Jerry Kaplan）說(shuō)：“當(dāng)你提出一個(gè)問(wèn)題時(shí)，這些模型會(huì)解釋它的意思，確定它應(yīng)該給出的反應(yīng)，然后把它翻譯成文字。如果這不是自然智能是什么?”
卡普蘭表示，他對(duì)自動(dòng)駕駛汽車(chē)和加密貨幣等被大肆宣揚(yáng)的奇跡持懷疑態(tài)度。他對(duì)最新的人工智能增長(zhǎng)抱有類(lèi)似的疑慮，但他表示自己已經(jīng)被說(shuō)服。他說(shuō)：“如果這不是‘奇點(diǎn)’，那它肯定是一個(gè)革命性的技術(shù)爆發(fā)，將廣泛地加速一大批藝術(shù)、科學(xué)和人類(lèi)知識(shí)的發(fā)展，同時(shí)也會(huì)產(chǎn)生很多問(wèn)題?！?/p>
批評(píng)人士反駁說(shuō)，即使大語(yǔ)言模型取得了驚人的進(jìn)步，也與奇點(diǎn)理論所承諾的不朽的、世界智慧的漫長(zhǎng)歷程相去甚遠(yuǎn)。準(zhǔn)確地將炒作與現(xiàn)實(shí)區(qū)分開(kāi)來(lái)的不利之處在于，驅(qū)動(dòng)這種技術(shù)的引擎被隱藏起來(lái)了。OpenAI最初是一個(gè)利用開(kāi)放源代碼的非營(yíng)利組織，現(xiàn)在是一家盈利性企業(yè)，批評(píng)人士稱(chēng)它成功地成為了一個(gè)黑匣子。谷歌和微軟也提供了有限的可見(jiàn)性。
大部分人工智能分析都是由公司完成的，從結(jié)果中可以得到很多東西。微軟向OpenAI投資了130億美元，該公司的研究人員在4月份發(fā)表的一篇論文中得出結(jié)論，稱(chēng)OpenAI的最新模型“表現(xiàn)出許多智能特征”，包括“抽象、理解、視覺(jué)、編碼”以及“對(duì)人類(lèi)動(dòng)機(jī)和情感的理解”。
斯坦福大學(xué)計(jì)算機(jī)科學(xué)博士學(xué)者賴蘭·謝弗(Rylan Schaeffer)表示，有些人工智能研究人員錯(cuò)誤地描繪了這些大語(yǔ)言模型是如何展示“新興才華”的，這些無(wú)法解釋的能力在較小的變體中并不明顯。
謝弗與斯坦福大學(xué)的兩位同事布蘭多·米蘭達(dá)（Brando Miranda）和桑米·科耶霍（Sanmi Koyejo）一起，在上月公布的一篇分析論文中研究了這一問(wèn)題。他們得出結(jié)論：新出現(xiàn)的熱潮是由測(cè)量誤差造成的“海市蜃樓”。在IMPACT中，研究人員看到了他們希望看到的東西。
02 永生與永恒的利潤(rùn)
在華盛頓、倫敦和布魯塞爾，議員們正在討論人工智能的替代方案和引發(fā)的問(wèn)題，并開(kāi)始談?wù)摫O(jiān)管。奧特曼現(xiàn)在正進(jìn)行全球之旅，希望轉(zhuǎn)移早期的批評(píng)，并將OpenAI宣傳為奇點(diǎn)的牧羊人。
這包括對(duì)監(jiān)管持開(kāi)放態(tài)度，盡管目前對(duì)如何監(jiān)管依然沒(méi)有清晰的框架。硅谷通常認(rèn)為，政府的行動(dòng)過(guò)于遲緩，無(wú)法監(jiān)督突飛猛進(jìn)的技術(shù)發(fā)展。谷歌前首席執(zhí)行官埃里克·施密特（Eric Schmidt）最近接受采訪時(shí)表示，政府中沒(méi)有人能把這件事做對(duì)，他認(rèn)為人工智能應(yīng)該自我監(jiān)管。
人工智能類(lèi)似于奇點(diǎn)，已經(jīng)被描述為不可逆轉(zhuǎn)的技術(shù)趨勢(shì)。奧特曼和他的幾位同事上個(gè)月寫(xiě)道：“阻止它需要類(lèi)似于全球監(jiān)管制度的東西，即使是這樣也不能保證奏效?！彼麄冄a(bǔ)充說(shuō)，如果硅谷做不到，其他地方或許會(huì)成功。
更少提到的是從這種趨勢(shì)中獲得的巨額收入。盡管所有人都在討論人工智能是一臺(tái)巨大的財(cái)富創(chuàng)造機(jī)器，但變得富有的人只是那些已經(jīng)富有的人。微軟今年的市值飆升了5000億美元。得益于人工智能芯片需求激增，英偉達(dá)被認(rèn)為是美國(guó)最受歡迎的上市公司之一。
奧特曼在推特上寫(xiě)道：“人工智能是世界一直想要的技術(shù)?！钡拇_，這絕對(duì)是科技界一直以來(lái)所希望的技術(shù)，在絕對(duì)最好的時(shí)候到來(lái)。去年，硅谷受到裁員和利率上升的打擊，較早增長(zhǎng)的加密貨幣領(lǐng)域陷入了欺詐和失望之中。
查爾斯·斯特羅斯(Charles Stross)是小說(shuō)《書(shū)呆子的狂熱》的合著者之一，這是一部處理奇點(diǎn)的喜劇作品。他說(shuō)：“這里的實(shí)際承諾是，公司將有能力用某些軟件程序來(lái)交換他們有缺陷的、昂貴的、遲緩的、人工信息處理的子模型，從而幫助解決問(wèn)題并減少管理費(fèi)用。”
奇點(diǎn)始終被想象成一個(gè)偉大的“宇宙時(shí)刻”，令人興奮。然而目前人們討論奇點(diǎn)的原因，可能主要是因?yàn)槊绹?guó)企業(yè)希望削減人力，癡迷對(duì)利潤(rùn)的增加。用夸張的表述來(lái)說(shuō)，當(dāng)你（指企業(yè)家）在沖刺以使你的市值增加數(shù)萬(wàn)億美元時(shí)，即使是（無(wú)法達(dá)到）的天堂也可以一直等待下去。（文 / 金鹿）
