1.3人工智能會(huì)議

會(huì)議出席

經(jīng)過(guò)一段時(shí)間的出席人數(shù)增加后，AIIndex 收集數(shù)據(jù)的會(huì)議的總出席人數(shù)在 2021 年和 2022 年再次下降（圖 1.3.1）。這種下降可能是由于許多會(huì)議在之后恢復(fù)了混合或面對(duì)面的形式。 2020年和2021年完全虛擬。例如，國(guó)際人工智能聯(lián)合會(huì)議（IJCAI）和國(guó)際知識(shí)表示與推理原則會(huì)議（KR）均嚴(yán)格以現(xiàn)場(chǎng)形式舉行。神經(jīng)信息處理系統(tǒng)（NeurIPS）仍然是其中之一 參加人數(shù)最多的會(huì)議，約有 15,530 人參加（圖 1.3.2）。參加人數(shù)一年增幅最大的會(huì)議是國(guó)際機(jī)器人與自動(dòng)化大會(huì) (ICRA)，從 2021 年的 1,000 人增加到 2022 年的 8,008 人。

2010-22年人工智能會(huì)議的與會(huì)者人數(shù)

圖 1.3.1

2010-22年出席大型會(huì)議

圖 1.3.2

2010-22年出席小型會(huì)議

圖 1.3.3

GitHub是一個(gè)基于web的平臺(tái)，個(gè)人和編碼團(tuán)隊(duì)可以在各種代碼存儲(chǔ)庫(kù)上托管、審查和協(xié)作。GitHub被軟件開(kāi)發(fā)人員廣泛用于管理和共享代碼、在各種項(xiàng)目上進(jìn)行協(xié)作，并支持開(kāi)源軟件。本小節(jié)使用了GitHub和經(jīng)合組織提供的數(shù)據(jù)。人工智能政策天文臺(tái)。這些趨勢(shì)可以作為學(xué)術(shù)出版物數(shù)據(jù)沒(méi)有捕捉到的開(kāi)源人工智能軟件世界中發(fā)生的一些更廣泛的趨勢(shì)的一個(gè)代理。

1.4開(kāi)源人工智能軟件

項(xiàng)目

GitHub 項(xiàng)目是文件的集合，可以包括構(gòu)成軟件項(xiàng)目的源代碼、文檔、配置文件和圖像。 自 2011 年以來(lái)，與人工智能相關(guān)的 GitHub 項(xiàng)目總數(shù)穩(wěn)步增長(zhǎng)，從 2011 年的 1,536 個(gè)增長(zhǎng)到 2022 年的 347,934 個(gè)。

2011-22年GitHub AI項(xiàng)目數(shù)量

圖 1.4.1

截至2022年，很大一部分GitHub AI項(xiàng)目是由印度的軟件開(kāi)發(fā)者貢獻(xiàn)的（24.2%）（圖1.4.2）。其次最代表性的地理區(qū)域是歐盟和英國(guó)（17.3%），然后是美國(guó)（14.0%）。自2016年以來(lái)，美國(guó)GitHub人工智能項(xiàng)目的份額一直在穩(wěn)步下降。

2011-22年GitHub AI項(xiàng)目（總%）按地理區(qū)域劃分

圖 1.4.2

“點(diǎn)贊”

GitHub用戶可以通過(guò)“主演”它來(lái)收藏或保存一個(gè)感興趣的存儲(chǔ)庫(kù)。GitHub的明星類似于社交媒體平臺(tái)上的“點(diǎn)贊”，表示對(duì)某個(gè)開(kāi)源項(xiàng)目的支持。一些最突出的GitHub存儲(chǔ)庫(kù)包括張量流、OpenCV、Keras和PyTorch等庫(kù)，這些庫(kù)被AI編碼社區(qū)的軟件開(kāi)發(fā)人員廣泛使用。圖1.4.3顯示了屬于不同地理區(qū)域所有者的項(xiàng)目的累計(jì)星數(shù)。截至2022年，來(lái)自美國(guó)的GitHub AI項(xiàng)目獲得的星數(shù)最多，其次是歐盟和英國(guó)，然后是中國(guó)。在許多地理區(qū)域，新出現(xiàn)的GitHub恒星的總數(shù)在過(guò)去幾年中已經(jīng)趨于穩(wěn)定。

2011-22年按地理區(qū)域劃分的GitHub“點(diǎn)贊”數(shù)量

圖 1.4.3

第二章：技術(shù)性能要求

要點(diǎn)

今年的技術(shù)性能章節(jié)主要分析了2022年人工智能的技術(shù)進(jìn)展。在以前的報(bào)告的基礎(chǔ)上，本章記錄了在計(jì)算機(jī)視覺(jué)、語(yǔ)言、語(yǔ)音、強(qiáng)化學(xué)習(xí)和硬件方面的進(jìn)展。此外，今年本章將對(duì)人工智能對(duì)環(huán)境造成的影響進(jìn)行分析，討論人工智能促進(jìn)科學(xué)進(jìn)步的方式，以及對(duì)最近一些最重要的人工智能發(fā)展的時(shí)間線式概述。

章節(jié)亮點(diǎn)

在傳統(tǒng)的基準(zhǔn)測(cè)試上的性能飽和；人工智能繼續(xù)發(fā)布最先進(jìn)的結(jié)果，但在許多基準(zhǔn)測(cè)試上的同比改善仍然很少。此外，達(dá)到基準(zhǔn)飽和度的速度也在增加。然而，新的、更全面的基準(zhǔn)測(cè)試套件，如BIG-bench和HELM正在發(fā)布。

生成性人工智能進(jìn)入了公眾的意識(shí)；2022年，DALL-E 2和穩(wěn)定擴(kuò)散等文本到圖像模型發(fā)布，make-視頻這樣的文本到視頻系統(tǒng)，以及ChatGPT這樣的聊天機(jī)器人。盡管如此，這些系統(tǒng)還是容易產(chǎn)生幻覺(jué)，自信地輸出不連貫或不真實(shí)的反應(yīng)，這使得很難在關(guān)鍵的應(yīng)用中依賴它們。

人工智能系統(tǒng)變得更加靈活；傳統(tǒng)上，人工智能系統(tǒng)在狹窄的任務(wù)上表現(xiàn)良好，但在更廣泛的任務(wù)中卻很困難。最近發(fā)布的模型挑戰(zhàn)了這一趨勢(shì)；BEiT-3、PaLI和Gato等地，單一的人工智能系統(tǒng)越來(lái)越能夠?qū)Ш蕉鄠€(gè)任務(wù)（例如，視覺(jué)、語(yǔ)言）。

有能力的語(yǔ)言模型仍然難以進(jìn)行推理；語(yǔ)言模型繼續(xù)提高它們的生成能力，但新的研究表明，它們?nèi)匀浑y以完成復(fù)雜的規(guī)劃任務(wù)。

人工智能既幫助又破壞了環(huán)境；新的研究表明，人工智能系統(tǒng)可能會(huì)產(chǎn)生嚴(yán)重的環(huán)境影響。根據(jù)Luccioni等人，2022年，布魯姆的訓(xùn)練運(yùn)行排放的碳比從紐約到舊金山的單程旅行者多25倍。盡管如此，像空氣冷卻器這樣的新的強(qiáng)化學(xué)習(xí)模型表明，人工智能系統(tǒng)可以用于優(yōu)化能源使用。

世界上最好的新科學(xué)家……人工智能嗎？人工智能模型開(kāi)始迅速加速科學(xué)進(jìn)步，并于2022年被用于幫助氫氣融合，提高基質(zhì)操作的效率，并產(chǎn)生新的抗體。

人工智能開(kāi)始構(gòu)建更好的人工智能；英偉達(dá)使用了一種人工智能強(qiáng)化學(xué)習(xí)代理來(lái)改進(jìn)為人工智能系統(tǒng)提供動(dòng)力的芯片的設(shè)計(jì)。類似地，谷歌最近使用它的一種語(yǔ)言模型PaLM提出了改進(jìn)相同模型的方法。自我改進(jìn)的人工智能學(xué)習(xí)將加速人工智能的進(jìn)步。

2.12022年的新進(jìn)展：時(shí)間軸

2022年2月2日 DeepMind發(fā)布字母代碼

這是一個(gè)在競(jìng)爭(zhēng)水平上編寫計(jì)算機(jī)程序的人工智能系統(tǒng)，在人類編程競(jìng)賽中排名前54%。這代表了對(duì)人工智能傳統(tǒng)上一直掙扎的更復(fù)雜的問(wèn)題解決任務(wù)的改進(jìn)。

圖2.1.1

2022年2月16日 DeepMind訓(xùn)練強(qiáng)化學(xué)習(xí)代理來(lái)控制托卡馬克（環(huán)磁機(jī)）中的核聚變等離子體

圖2.1.2

2022年3月10日 IndicNLG 對(duì)印度語(yǔ)言的自然語(yǔ)言生成進(jìn)行基準(zhǔn)測(cè)試

一個(gè)國(guó)際研究團(tuán)體啟動(dòng)了IndicNLG，這是一個(gè)用于11種印度語(yǔ)言自然語(yǔ)言生成的數(shù)據(jù)集。IndicNLG的創(chuàng)建增加了人工智能系統(tǒng)在更多樣化、非英語(yǔ)語(yǔ)言環(huán)境中生成語(yǔ)言的潛力。

圖2.1.3

2022年3月24日  Meta AI（臉書之元宇宙人工智能）發(fā)布了make-scene（“制作場(chǎng)景”）

make-scene（“制作場(chǎng)景”）是一種文本到圖像的人工智能模型，用戶可以通過(guò)文本生成圖像。make-scene是2022年發(fā)布的眾多文本到圖像的模型之一。

圖2.1.4

2022年4月5日 谷歌發(fā)布PaLM

谷歌的人工智能團(tuán)隊(duì)訓(xùn)練了世界上最大的語(yǔ)言模型之一--PaLM。由5400億個(gè)參數(shù)組成的PaLM強(qiáng)化了這樣一種信念，即研究人員可以通過(guò)在更多數(shù)據(jù)上訓(xùn)練大型語(yǔ)言模型來(lái)提高它們的性能。

圖2.1.5

2022年4月13日 OpenAI發(fā)布DALL-E 2

DALL-E 2是一個(gè)文本到圖像的人工智能系統(tǒng)，可以從文本描述中創(chuàng)建真實(shí)的藝術(shù)和圖像，它向公眾發(fā)布，引發(fā)了生成式人工智能熱潮。

圖2.1.6

2022年5月12日  DeepMind啟動(dòng)Gato

Gato是一種新的強(qiáng)化學(xué)習(xí)代理，能夠完成廣泛的任務(wù)，如機(jī)器人操作、游戲玩、圖像字幕和自然語(yǔ)言生成。這些模型的發(fā)布表明，人工智能系統(tǒng)在泛化方面正變得更好。

圖2.1.7

2022年5月23日  谷歌發(fā)布Imagen

Imagen是一種文本到圖像的擴(kuò)散模型，能夠產(chǎn)生具有高度的攝影真實(shí)感的圖像。Imagen的發(fā)布也伴隨著DrawBench的發(fā)布，這是一個(gè)具有挑戰(zhàn)性的文本到圖像系統(tǒng)的新基準(zhǔn)測(cè)試。

圖2.1.8

2022年6月9日  來(lái)自132個(gè)機(jī)構(gòu)的442名作者聯(lián)合起來(lái)推出“BIG-bench”項(xiàng)目

為了更好地挑戰(zhàn)能力日益強(qiáng)大的大型語(yǔ)言模型，一個(gè)由來(lái)自132個(gè)機(jī)構(gòu)的442名作者組成的團(tuán)隊(duì)推出了超越模仿游戲基準(zhǔn)測(cè)試（“BIG-bench”）。該基準(zhǔn)測(cè)試包括204個(gè)任務(wù)，這些任務(wù)的范圍包括語(yǔ)言學(xué)、兒童發(fā)展、數(shù)學(xué)、常識(shí)性推理、生物學(xué)、物理學(xué)、社會(huì)偏見(jiàn)和軟件開(kāi)發(fā)。

圖2.1.9

2022年6月21日 GitHub為個(gè)人開(kāi)發(fā)者提供了一種基于訂閱的副駕駛服務(wù)

副駕駛是一個(gè)生成式人工智能系統(tǒng)，能夠?qū)⒆匀徽Z(yǔ)言提示轉(zhuǎn)換為跨多種語(yǔ)言的編碼建議。類似的系統(tǒng)包括OpenAI的法本和銷售部隊(duì)的CodeGen。調(diào)查顯示，副駕駛可以讓程序員更有效率，更少沮喪。

圖2.1.10

2022年7月8日 英偉達(dá)利用強(qiáng)化學(xué)習(xí)來(lái)設(shè)計(jì)性能更好的圖形處理器

英偉達(dá)利用其人工智能系統(tǒng)來(lái)提高其最新的H100級(jí)GPU芯片的性能。GPU對(duì)人工智能培訓(xùn)至關(guān)重要，這是人工智能如何開(kāi)始開(kāi)發(fā)出更好的人工智能的一個(gè)例子。

圖2.1.11

2022年7月8日 Meta發(fā)布“No Language Left Behind”

“No Language Left Behind”（NLLB）是一系列可以翻譯200種不同語(yǔ)言的模型。NLLB是第一批能夠在Kamba語(yǔ)和老撾語(yǔ)等各種低資源語(yǔ)言中表現(xiàn)良好的系統(tǒng)之一。

圖2.1.12

2022年8月4日 清華大學(xué)的研究人員推出了GLM-130B

清華大學(xué)的中國(guó)研究人員發(fā)布了GLM-130B，這是一種大型語(yǔ)言模型，優(yōu)于mate的OPT、Hugging Face’s BLOOM

和OpenAI的原始GPT-3。

圖2.1.13

2022年8月22日  Stability AI 發(fā)布Stable Diffusion

穩(wěn)定擴(kuò)散（Stable Diffusion ）是一個(gè)開(kāi)源的基于文本到圖像擴(kuò)散的模型，這意味著用戶可以自由地使用模型的權(quán)重來(lái)生成自己的圖像。穩(wěn)定擴(kuò)散是根據(jù)人類創(chuàng)建的現(xiàn)有圖像進(jìn)行訓(xùn)練的，沒(méi)有給予任何認(rèn)可或承認(rèn)，這給圖像生成器的倫理使用留下了一個(gè)懸而未決的問(wèn)題。

圖2.1.14

2022年9月21日 OpenAI推出Whisper

Whisper是一個(gè)大規(guī)模的語(yǔ)音識(shí)別系統(tǒng)，以大約70萬(wàn)小時(shí)的音頻數(shù)據(jù)進(jìn)行訓(xùn)練，能夠在各種語(yǔ)音識(shí)別任務(wù)上具有可觀的性能。耳語(yǔ)既不需要有監(jiān)督的預(yù)訓(xùn)練，也不需要無(wú)監(jiān)督的微調(diào)訓(xùn)練，但能夠僅僅通過(guò)增加訓(xùn)練數(shù)據(jù)來(lái)獲得強(qiáng)大的性能，這一事實(shí)進(jìn)一步驗(yàn)證了越來(lái)越縮放人工智能模型的方法。

圖2.1.15

2022年9月29日Meta 發(fā)布 Make-A-Video

Make-A-Video是一個(gè)允許用戶從短文描述中創(chuàng)建視頻的系統(tǒng)。視頻的質(zhì)量較高，再次證明了縮放方法的有效性。

圖2.1.16

2022年10月5日DeepMind 啟動(dòng) AlphaTensor

AlphaTensor（阿爾法張量）是一個(gè)基于人工智能強(qiáng)化學(xué)習(xí)的系統(tǒng)，能夠發(fā)現(xiàn)新的和有效的矩陣操作算法。矩陣操縱對(duì)于廣泛的數(shù)字實(shí)踐是必不可少的，也是研究人員幾十年來(lái)一直試圖提高效率的過(guò)程。

圖2.1.17

2022年10月22日 谷歌使用PaLM來(lái)改進(jìn)PaLM的推理能力

谷歌的研究人員使用他們現(xiàn)有的語(yǔ)言模型之一，PaLM，來(lái)改進(jìn)同一模型的推理能力。這一過(guò)程是人工智能系統(tǒng)利用自身知識(shí)進(jìn)行改進(jìn)的另一個(gè)例子。

圖2.1.18

2022年11月9日  國(guó)際研究小組發(fā)布“BLOOM”

由來(lái)自全球各地的100多名研究人員合作開(kāi)發(fā)了一種名為BLOOM的開(kāi)放獲取語(yǔ)言模型。BLOOM的公開(kāi)發(fā)布讓人印象深刻，并進(jìn)一步促進(jìn)了在人工智能研究方面的國(guó)際合作的可能性。

圖2.1.19

2022年11月16日 斯坦福大學(xué)的研究人員發(fā)布HELM

作為根據(jù)更統(tǒng)一的標(biāo)準(zhǔn)來(lái)判斷新的語(yǔ)言模型的一部分，斯坦福大學(xué)的研究人員為大型語(yǔ)言模型開(kāi)發(fā)了一種新的基準(zhǔn)測(cè)試方法，稱為語(yǔ)言模型的整體評(píng)估（HELM）。HELM的推出證明了人工智能社區(qū)試圖圍繞日益強(qiáng)大、有能力和有影響力的大型語(yǔ)言模型開(kāi)發(fā)透明度的證據(jù)。

圖2.1.20

2022年11月22日mate 發(fā)布CICERO

CICERO是第一個(gè)在人類參與的外交游戲中排名前10%的人工智能。CICERO的發(fā)布表明，人工智能系統(tǒng)在戰(zhàn)略推理方面得到了改進(jìn)，這是他們傳統(tǒng)上一直在掙扎的領(lǐng)域，并且能夠有效地說(shuō)服人類實(shí)現(xiàn)他們的目標(biāo)。

圖2.1.21

2022年11月30日OpenAI推出ChatGPT

ChatGPT是一個(gè)令人印象深刻的、可公開(kāi)使用的聊天機(jī)器人，能夠?qū)懘髮W(xué)水平的論文。在推出幾個(gè)月后，ChatGPT的月活躍用戶達(dá)到了1億，使其成為歷史上增長(zhǎng)最快的消費(fèi)者應(yīng)用程序。ChatGPT的發(fā)布結(jié)束了生成性人工智能成為時(shí)代精神的一部分的一年，并提出了對(duì)人工智能將對(duì)人類未來(lái)產(chǎn)生的影響的質(zhì)疑。

圖2.1.21