他指出，同樣可怕的還有社會(huì)的動(dòng)蕩。當(dāng)大學(xué)和學(xué)院的教職員工停止學(xué)習(xí)新事物，從錯(cuò)誤百出的教科書里，他們提供的教育將萎縮和退化成為教條、似是而非以及未經(jīng)測(cè)試的假設(shè)。
 
　　2076年的世界：我們修復(fù)了氣候，但是仍然面對(duì)威脅
 
　　現(xiàn)在是2076年，天空看起來(lái)確實(shí)是乳白色的。在刮著大風(fēng)的平原和海洋上，人類搭建了風(fēng)電農(nóng)場(chǎng)。但在這些渦輪機(jī)邊上，人們還建造了一種不同類型的塔，并從空氣中吸收二氧化碳。
 
　　于是，一大塊土地成為了森林。在發(fā)電場(chǎng)中種植的樹木，在生長(zhǎng)、收獲、以及燃燒過(guò)程之中，都不會(huì)讓二氧化碳排放到大氣中。相反，排放的二氧化碳將被捕捉，并泵送到地下儲(chǔ)存容器中。船舶將粉狀礦物傾倒在海洋中，使其吸收二氧化碳，并減少海洋酸化。
 
　　所有這些技術(shù)都是為了扭轉(zhuǎn)長(zhǎng)達(dá)兩個(gè)多世紀(jì)溫室氣體排放而做的絕望補(bǔ)救。 但他們尚未能完成這一目標(biāo)，我們反而仍然在排放溫室氣體。所以，在10公里至18公里的大氣中，一層細(xì)微的粒子屏蔽了太陽(yáng)向地球的照射，并使我們的環(huán)境保持涼爽。這也是為什么天空有點(diǎn)發(fā)白的原因。
 
　　英國(guó)南安普敦大學(xué)的約翰·謝普德說(shuō)：“我認(rèn)為，在60年后，我們很有可能將使用這兩種技術(shù)。” 他指的是兩種風(fēng)格截然不同的地球工程計(jì)劃：從空氣中吸收二氧化碳，并使用遮陽(yáng)罩將一些太陽(yáng)光線彈回宇宙中。
 
　　像許多氣候科學(xué)家一樣，謝普德認(rèn)為氣候談判進(jìn)展得太慢。 即使工業(yè)排放量能夠迅速下降，盡管即使這一點(diǎn)還要打上一個(gè)大大的問(wèn)號(hào)，還有其他的方面造成的棘手問(wèn)題。我們沒(méi)有飛機(jī)燃料的替代產(chǎn)品，而供養(yǎng)眾多的人類需要精耕細(xì)作的農(nóng)業(yè)，而這兩者占據(jù)了全球二氧化碳排放量的四分之一。
 
　　這就是為什么我們必須從空氣中吸收二氧化碳。因?yàn)檫@是一個(gè)很難實(shí)現(xiàn)的目標(biāo)，我們可能還要依靠“太陽(yáng)輻射管理”。
 
　　研究中最多出現(xiàn)的想法，是將硫酸鹽細(xì)顆粒噴入平流層，但人們對(duì)于其后果仍然知之甚少。電腦模型表明，最終世界上會(huì)分為贏家和輸家。雖然遮陽(yáng)方案可以將全球平均氣溫降低到工業(yè)化前的水平，但這會(huì)帶來(lái)區(qū)域差異。北歐、加拿大、西伯利亞和兩極將比之前更加溫暖，而海洋上的溫度將降低。
 
　　人們預(yù)計(jì)，全球變暖將使得濕潤(rùn)地區(qū)變得更潮濕，而干燥的區(qū)域更干燥。電腦模型指出，遮陽(yáng)罩可能可以改善這一點(diǎn)，但是，這樣的改善仍然不是均勻的。仰賴這季節(jié)性降雨的熱帶區(qū)域由于季風(fēng)變干，可能會(huì)遭受的最大的影響。
 
　　謝普德?lián)模羞@些將會(huì)引起國(guó)際爭(zhēng)端。他設(shè)想了一種全球性的理事會(huì)，而政府可以根據(jù)滿足本國(guó)需求的氣候而進(jìn)行游說(shuō)。為了旅游業(yè)或者農(nóng)業(yè)，有些人可能更加青睞溫暖的氣候。但是依賴珊瑚礁吸引游客的國(guó)家則可能需要更多的CO2吸收技術(shù)來(lái)抵御海洋酸化和漂白。
 
　　最后是一個(gè)苦澀的轉(zhuǎn)折。飛上天的東西最終都會(huì)降下來(lái)，所以人們將不得不不斷補(bǔ)充遮陽(yáng)罩。比如說(shuō)，一些國(guó)際地球工程協(xié)議的完全崩潰這樣的事情發(fā)生之后，我們停止噴灑硫酸鹽，后果將是災(zāi)難性的。
 
　　在十年到二十年的時(shí)間內(nèi)，沒(méi)有遮陽(yáng)罩的地方溫度將會(huì)飆升。原來(lái)溫暖的地區(qū)會(huì)變得超級(jí)熱，誰(shuí)也不知道我們將面臨的是什么臨界點(diǎn)。后果之嚴(yán)重，幾乎不值得我們?nèi)タ紤]。

　　2076年的世界：無(wú)論機(jī)器多聰明，人類仍將是主宰
 
　　無(wú)論你怎樣看，未來(lái)似乎都前景黯淡。在環(huán)境、經(jīng)濟(jì)和政治等方方面面，世界似乎都面臨著巨大的壓力。表面上，我們?cè)谖磥?lái)面臨的威脅數(shù)不勝數(shù)：一個(gè)巨大的小行星撞擊、全球變暖、一種新型瘟疫、或者是把一切變成灰色的粘土的離經(jīng)叛道的納米機(jī)器人。實(shí)際上，我們都不太確定究竟該最害怕什么，甚至未來(lái)人類是否還存在都是一個(gè)大大的問(wèn)號(hào)。
 
　　但這幾年，我們討論最多的一個(gè)潛在威脅則是人工智能。 2014 年 12 月，史蒂芬·霍金告訴英國(guó)廣播公司，“全人工智能的發(fā)展可能會(huì)導(dǎo)致人類的終結(jié)…它將自己能發(fā)展自己，并以不斷增長(zhǎng)的速度重新設(shè)計(jì)自己。受到緩慢的生物進(jìn)化限制的人類，將無(wú)法與之競(jìng)爭(zhēng)，并最終將被取代。”去年，他接著這一話題對(duì)媒體表示，人工智能有可能是“發(fā)生在人類頭上最好的或最壞的事” 。
 
　　其他的知名人士，包括埃隆·馬斯克、比爾·蓋茨和史蒂夫·沃茲尼亞克，對(duì)于人工智能可能對(duì)人類造成的風(fēng)險(xiǎn)也作了類似的預(yù)測(cè)。 然而，數(shù)十億美元仍舊滾滾地流入人工智能領(lǐng)域的研究中，并且這一領(lǐng)域正在取得驚人的進(jìn)步。
 
　　在今年3月份的一場(chǎng)堪稱里程碑的比賽之中，圍棋大師李世石以1-4的比分落敗于AlphaGo計(jì)算機(jī)。在許多其他領(lǐng)域，無(wú)論是在地面駕駛出租車還是在空中贏得格斗，計(jì)算機(jī)正逐步開始接管人類。
 
　　理論上，霍金的恐懼源自于技術(shù)奇點(diǎn)這一想法。在該語(yǔ)境中，奇點(diǎn)是指機(jī)器智能開始跨越式發(fā)展的時(shí)間點(diǎn)，同時(shí)也是一個(gè)更為智能的新型物種開始統(tǒng)治地球的起點(diǎn)。 技術(shù)奇點(diǎn)這一想法可以追溯到許多早期的思想家，其中包括計(jì)算的創(chuàng)始人之一約翰·馮·諾伊曼（John von Neumann）和科幻作家弗諾文奇（Vernor Vinge）。
 
　　有趣的是，這個(gè)想法的歷史大致與AI研究本身相近。在1958年，數(shù)學(xué)家斯坦尼斯瓦夫·烏蘭姆（Stanislaw Ulam）在悼念不久之前逝世的馮·諾伊曼的文章中，他回憶道：“（我們有過(guò)）一次對(duì)話，對(duì)話的中心是不斷加速的技術(shù)進(jìn)步和人類生活方式的變化，而這些變化促成了一些奇點(diǎn)基礎(chǔ)觀點(diǎn)的雛形......我們那時(shí)候的理解是，奇點(diǎn)之后，人類的事務(wù)將無(wú)法繼續(xù)。”
 
　　最近，技術(shù)奇點(diǎn)的想法受雷·庫(kù)茲韋爾（Ray Kurzweil）的推廣而廣為人知。他預(yù)測(cè)，技術(shù)奇點(diǎn)將在2045年左右發(fā)生，而尼克·博斯特魯姆（Nick Bostrom）已經(jīng)寫了一本介紹后果的暢銷書。
 
　　我們害怕機(jī)器超越我們的智力有如下幾個(gè)原因。人類之所以能夠成為地球上的最具有統(tǒng)治力的物種，最主要是因?yàn)槲覀儞碛袩o(wú)可比擬的智力優(yōu)勢(shì)。許多動(dòng)物比我們體型更大，更快或更強(qiáng)，但我們利用我們的智慧發(fā)明了工具，發(fā)展了農(nóng)業(yè)，并開發(fā)出許多驚人的技術(shù)，比如蒸汽機(jī)、電機(jī)和智能手機(jī)。我們的生活由此改變，并使得我們得以統(tǒng)治地球。
 
　　因此，具有思考能力的、甚至思考能力可能比人類還要強(qiáng)大的機(jī)器未來(lái)很有可能將篡奪人類的位置——這一想法毫不意外，就正如大象、海豚和熊貓依靠我們的善意繼續(xù)存在，而我們的命運(yùn)則反過(guò)來(lái)有可能取決于這些高級(jí)思維機(jī)器的決定。
 
　　智力爆炸這一觀點(diǎn)，即機(jī)器能夠遞歸般提高它們的智力，從而迅速超過(guò)人類智力，其實(shí)并不是一個(gè)特別瘋狂的想法。
 
　　從許多類似的指數(shù)趨勢(shì)中，計(jì)算領(lǐng)域獲益匪淺。 摩爾定律預(yù)測(cè)集成電路上的晶體管數(shù)量每?jī)赡陮⒃黾右槐?，這是過(guò)去幾十年來(lái)的現(xiàn)實(shí)。 因此，假設(shè)AI也將經(jīng)歷指數(shù)增長(zhǎng)并不是不合情理的。
 
　　像許多在 AI 領(lǐng)域工作的同事一樣，我們預(yù)測(cè)，距離 AI 達(dá)到甚至超越人類的智力水平僅僅只需 30 年到 40 年即可。
 
　　總之，我們認(rèn)為，技術(shù)奇點(diǎn)是不可能實(shí)現(xiàn)的。