到 2030 年代結(jié)束時(shí)，世界將發(fā)生徹底、不可辨認(rèn)的變化。一個(gè)新的世界秩序?qū)⒈唤?，很快，人工智能將統(tǒng)治世界。——一位被OpenAI開除的員工
有時(shí)候想不明白，我的小愛同學(xué)甚至還不能幫我設(shè)置鬧鐘，有人卻在擔(dān)心AI會(huì)毀滅人類文明。
人工智能這位“50后”，多少年只活在影視作品、科幻文學(xué)、報(bào)紙雜志中。如今，高考生作文都得寫AI。
事情確實(shí)變得有些“詭異”。在大約半個(gè)多世紀(jì)長(zhǎng)的時(shí)間里，芯片算力老老實(shí)實(shí)地遵守摩爾定律：性能大約每?jī)赡攴槐丁?
但從2012年開始，AI計(jì)算能力100天就能翻一番。在2014年花一整天訓(xùn)練的模型，2018年只要兩分鐘就可以完成，速度增長(zhǎng)達(dá)30萬倍。
難道是有人把時(shí)針撥快了?
再看看下面這張圖，AI的學(xué)習(xí)速度確實(shí)快得有些驚人。
到目前為止，人類只保留5項(xiàng)能力沒被超過——但從增長(zhǎng)速率來看(幾乎是垂直提升)，這五項(xiàng)很快(或已經(jīng))被超過。
這就好像養(yǎng)了幾十年的老小孩，忽然就長(zhǎng)成大學(xué)生了，而且很多方面比“人類家長(zhǎng)”更厲害。
家長(zhǎng)不會(huì)因?yàn)楹⒆訌?qiáng)過自己而焦慮，但人類卻不是AI的家長(zhǎng)。
如果把AI視作一個(gè)物種的話，那么它的進(jìn)化速度，其實(shí)遠(yuǎn)超于人類數(shù)百萬倍。人類曾經(jīng)創(chuàng)造了AI，但現(xiàn)在它成長(zhǎng)得太快，逐漸讓我們失去了掌控感。
這一切是源于什么?
神秘的硅谷，奇怪的科學(xué)家
人工智能領(lǐng)域的絕對(duì)大牛、2018年圖靈獎(jiǎng)得主、“AI教父”Hinton，說過這樣一句話：“我后悔這一生曾在AI領(lǐng)域里工作?！?
這可不像馬云說后悔創(chuàng)立阿里巴巴。半個(gè)世紀(jì)以來，Hinton一直專注于ChatGPT等背后的核心技術(shù)。Hinton的悔恨，源自他對(duì)AI的失控感。
“這種東西實(shí)際上會(huì)變得比人更聰明”，類似的話，Hinton不止在一個(gè)地方說過。不久前，Hinton又在電視專訪中反復(fù)強(qiáng)調(diào)：
“未來5-20年，AI有一半概率比人類聰明。當(dāng)它們比我們更聰明時(shí)，我不知道我們被接管的可能性有多大，但在我看來，這很有可能。”
曾經(jīng)的AI布道者，如今似乎已經(jīng)轉(zhuǎn)變?yōu)槟┦劳{論者。
其實(shí)，不止是Hinton，科技領(lǐng)域的企業(yè)大佬、學(xué)術(shù)大牛，幾乎都或多或少表達(dá)過對(duì)AI的擔(dān)憂。
6月4日，來自O(shè)penAI、Deepmind等員工發(fā)布公開信，披露OpenAI的人工智能系統(tǒng)已經(jīng)接近人類水平。
AGI很有可能在2027年就會(huì)實(shí)現(xiàn)，而現(xiàn)在的AI公司，不值得信任。
在AI領(lǐng)域，特別流行發(fā)公開信。據(jù)不完全統(tǒng)計(jì)，過去十年里公開信的數(shù)量有數(shù)十封，著名的有這些：
2015年，未來生命研究所的公開信。簽署者包括霍金、馬斯克和超過1000名科學(xué)家和技術(shù)專家。
2017年，一封關(guān)于自主武器系統(tǒng)風(fēng)險(xiǎn)的公開信，超過3000名研究人員簽署。馬斯克在政府首腦峰會(huì)上說，人工智能會(huì)毀滅人類文明。
2023年，后ChatGPT時(shí)代最有名的兩封公開信發(fā)表，還引發(fā)了一場(chǎng)嘴仗。
這個(gè)群體里的人越來越多，陣容越來越強(qiáng)大。
但你會(huì)發(fā)現(xiàn)信上的名字，如微軟、谷歌、Meta、OpenAI，幾乎又同時(shí)是AI的主要玩家。谷歌是最早簽公開信的公司，不過谷歌在過去十年里，買下的AI公司一只手都數(shù)不過來。
那些研究AI的科學(xué)家，流行在硅谷的大型科技公司里謀職。甚至連Hinton，都在谷歌待了十余年。而最新的報(bào)道顯示，他剛剛又加入了一家新的AI公司。
這群人里，最有名而且最典型的，無疑是馬斯克。去年，馬斯克發(fā)起了一封公開信，呼吁暫停AI訓(xùn)練6個(gè)月。
但幾個(gè)月后，馬斯克的xAI也來了。目前，這家公司已經(jīng)獲得了幾十億美元的融資。
有人說，馬斯克的動(dòng)機(jī)不單純。是的，可以這樣懷疑。但好像，每個(gè)人的動(dòng)機(jī)都沒看起來那么單純?
比人類還牛逼的AI，竟是個(gè)黑箱
或許若干年后，幸存者在撰寫后人類時(shí)代史書時(shí)，會(huì)提到這樣一件事：
21世紀(jì)的祖先們一度達(dá)到了科技文明的頂峰，但他們犯了一件致命錯(cuò)誤——任由人工智能飛速發(fā)展，卻搞不清楚狀況，直至一切失控。
很難想象，科學(xué)家們、企業(yè)家們讓AI迅速成長(zhǎng)，卻對(duì)AI的進(jìn)化摸不著頭腦。
如今人類的AI研究，基本遵循著圖靈在上世紀(jì)50年代提出的設(shè)想。這個(gè)被叫做“AI之父”的人，在1950年發(fā)表的一篇論文里寫道：
“通過開發(fā)學(xué)習(xí)算法然后教會(huì)機(jī)器，而不是手工編寫智能程序，這將更容易創(chuàng)造出人類水平的人工智能。”
這就是機(jī)器學(xué)習(xí)的原型——人類退后一步，只設(shè)計(jì)學(xué)習(xí)方法和規(guī)則，讓機(jī)器自學(xué)。
圖靈的方法的確成效卓著。但很多人忘了，他在提出這個(gè)方法不久就警告說，實(shí)現(xiàn)這一目標(biāo)對(duì)人類來說可能不是最好的事情。
先有方法和實(shí)現(xiàn)，后有理論解釋;先有智能技術(shù)，后有智能科學(xué)。我們的AI，如此迭代發(fā)展。
然而，研究者也慢慢發(fā)現(xiàn)，深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)很強(qiáng)大，也讓AI變聰明了，但沒有人知道AI的智能從何而來。這被叫做人工智能的黑箱問題。
未知，是否就伴隨著危險(xiǎn)?無人得知。但是否應(yīng)該保持些許謙卑和謹(jǐn)慎?
人類給出的答案是否定的。美國(guó)“原子彈之父”羅伯特?奧本海默說過：
“當(dāng)人們看到某種從技術(shù)上感覺不錯(cuò)的東西時(shí)，他們就會(huì)去做?！?
所以，核武器誕生了。
人工智能是黑箱，卻根本不妨礙數(shù)以萬億計(jì)的資源進(jìn)入這個(gè)領(lǐng)域。玩家們提出了更激進(jìn)的說法，被叫做Scaling Law。
解釋一下，這話的意思約等于：發(fā)展AI，投入算力越大越好，投入資源越多越好。這太符合資本擴(kuò)張的神話了。
這就好像一群盲人劃著船，領(lǐng)頭的人敲著鼓，呼喊讓大家賣力。但他卻背對(duì)著，不知道前方是不是懸崖。
人性是冒進(jìn)的，資本是大膽的，AI是未知的。
在學(xué)習(xí)機(jī)器那篇文章里，圖靈還提出了著名的圖靈測(cè)試。機(jī)器能否像人類一樣進(jìn)行對(duì)話，讓人類無法分辨?長(zhǎng)久以來，圖靈測(cè)試成為判斷機(jī)器是否具有“智能”的核心命題。
就在不久前，一項(xiàng)研究宣布， GPT-4通過了圖靈測(cè)試，有54%的人將它誤認(rèn)為真人。其實(shí)，自從GPT誕生后，好事者就熱衷于讓它參與圖靈測(cè)試，但結(jié)果不一。
也有人懷疑，圖靈測(cè)試根本無效，比如馬斯克。是的，誠(chéng)實(shí)的AI參與測(cè)試只有兩種結(jié)果——通過或者不通過。
還有不誠(chéng)實(shí)的AI呢?
更中心化，也更集權(quán)
AI圈的大佬，現(xiàn)在流行“逃離”。
Hinton離開谷歌，弟子Ilya Sutskever離開OpenAI。在蘋果、微軟、Meta等科技巨頭，既有大把的人離開，也有大把的人加入。
當(dāng)年谷歌大腦團(tuán)隊(duì)的“Transformer八子”，可以說是這輪AI浪潮的奠基者。后來，他們紛紛離開谷歌，創(chuàng)辦或加入了新的公司。
當(dāng)Ilya Sutskever離開OpenAI時(shí)，所有人都在好奇。因?yàn)樗砩嫌泻芏喙猸h(huán)，比如OpenAI的首席科學(xué)家、ChatGPT之父……
當(dāng)然，最引人注目的，莫過于馬斯克那句煽風(fēng)點(diǎn)火的話——Ilya究竟看到了什么?
Ilya曾在接受采訪時(shí)說：ChatGPT可能已經(jīng)有了意識(shí)，未來，人類會(huì)選擇與機(jī)器融合，AI將萬世不朽。
聽起來，Ilya更像是一個(gè)技術(shù)癡人。
這是不是說明，事情已經(jīng)到了不可掌控的程度，所以才選擇離開?
再來看看其他人的故事。
2021年，從OpenAI離開的人，創(chuàng)建了Anthropic。從這家公司的名字就能夠看出(Anthropic大意為“人擇”，宇宙的存在和人類不可分割)，他們以創(chuàng)建安全、可控的AI為使命。
然而， 這家公司的員工卻預(yù)言，接下來的三年，可能就是他工作的最后幾年，因?yàn)楣ぷ骷磳⒈籄I消滅。
“隨著我們模型的每一次迭代，我都會(huì)面對(duì)比之前更強(qiáng)大和通用的技術(shù)，這可能會(huì)終結(jié)現(xiàn)在所知的就業(yè)形式……(鑒于此)我們應(yīng)該如何看待工作的消失?”
有一句流行的話是：AI不會(huì)取代人類，但用AI的人會(huì)取代不會(huì)用AI的人。但是，這句話還不夠刺激。
不久前，從OpenAI離職的那位德國(guó)小伙，做了165頁(yè)的PPT，旗幟鮮明地宣揚(yáng)AI將滅絕人類。他危言聳聽、故作神秘地說：
“可能全世界有幾百個(gè)人能夠親身感受到正在發(fā)生什么，其中大多數(shù)人都在舊金山的各家人工智能實(shí)驗(yàn)室里?！?
問題就在這里。
絕大部分普通人對(duì)正在發(fā)生的事情一無所知。原子彈發(fā)明的時(shí)候，普通人不知道;葉文潔回答三體人的時(shí)候，普通人也不知道……
更恐怖的事，其實(shí)天才們也不完全明白。更何況，他們中許多不是天才，而是野心家。他們不是看到了什么，而是不知道會(huì)看到什么，但這絲毫沒有阻止他們的腳步。
比如那位德國(guó)人，馬上就被質(zhì)疑：他是在拉投資。事實(shí)上，他不久后就成立了一家AGI投資機(jī)構(gòu)，而錢，同樣來自硅谷巨頭。
資本市場(chǎng)需要故事。無論是樂天派，還是末世論者，他們離開時(shí)帶走的故事，都是說給市場(chǎng)聽的。
市值總額高達(dá)10多萬億美金的“硅谷七姐妹”，過去一年燒掉了1.7萬億美金，也換來了約等于標(biāo)普500指數(shù)75%的增長(zhǎng)。
在中國(guó)，AI賽道玩家擁擠，頭部也能輕松拿到大廠上億的投資。
AI已經(jīng)為一些人創(chuàng)造了可觀的財(cái)富。在過去短短一年內(nèi)，全球科技億萬富翁憑借AI，使自己的總財(cái)富增加了約7500億美元，這超過了其他任何行業(yè)。
AI賽道實(shí)在太多金了，這些錢，幾乎來自極少數(shù)的幾個(gè)玩家。
過去兩年，谷歌、微軟等四家公司，投入的錢占到了全球AI風(fēng)險(xiǎn)投資的近40%。未來，AI還會(huì)獲得數(shù)以萬億計(jì)的投入，創(chuàng)造出數(shù)以萬億計(jì)的財(cái)富。
但是，比起互聯(lián)網(wǎng)浪潮，AI的集中化程度不可同日而語(yǔ)。這些財(cái)富和智能，最終會(huì)掌握在幾個(gè)人手中?
或者，AI干脆會(huì)擺脫人類的控制，甚至替代人類。
無論哪一個(gè)結(jié)果，對(duì)你我來說，都算不上太好的消息。更多股票資訊，關(guān)注財(cái)經(jīng)365！