中叉網(wǎng)(www.m21363.cn)尊重合法版權,反對侵權盜版。(凡是我網(wǎng)所轉載之文章,文中所有文字內(nèi)容和圖片視頻之知識產(chǎn)權均系原作者和機構所有。文章內(nèi)容觀點,與本網(wǎng)無關。如有需要刪除,敬請來電商榷?。?/div>
上個月,F(xiàn)acebook傳出了關閉智能對話機器人項目的消息。原因是,研究員對兩個聊天機器人進行對話策略迭代升級,結果發(fā)現(xiàn)它們竟自行發(fā)展...
上個月,F(xiàn)acebook傳出了關閉智能對話機器人項目的消息。原因是,研究員對兩個聊天機器人進行對話策略迭代升級,結果發(fā)現(xiàn)它們竟自行發(fā)展出了人類無法理解的獨特語言。研究者不得不對其進行了人工干預。
消息傳出后,一時間,F(xiàn)acebook關閉“失控”AI系統(tǒng),因其發(fā)展處人類無法理解的語言的標題充斥各大媒體版面。要知道,F(xiàn)acebook創(chuàng)始人馬克·扎克伯格近日剛在自己的主頁上懟了硅谷“鋼鐵俠”,認為人工智能不會帶來末日,人類也不必恐慌?,F(xiàn)在這么快就被打臉了?
然而,實際情況并非如此。
一開始,F(xiàn)acebook人工智能研究院(FAIR)想要訓練一個聊天機器人,讓它學會談判。于是他們神經(jīng)網(wǎng)絡結構開發(fā)了一個人工智能系統(tǒng)。這個結構叫做“生成式對抗網(wǎng)絡”(Generative Adversarial Networks,簡稱GAN)。
要理解GAN,大家可以想象一下人類的對抗游戲:你的賬戶能在不斷的對抗中提升技能,你玩的越多,水平就會越高。
Facebook的這項研究也是如此,研究人員希望訓練這樣一個聊天機器人,讓它帶著“目的”和人類對話。這個目的也很簡單:一共有兩本書,一頂帽子和三個籃球,三樣東西分別設定了不同的權重,為的是讓機器人明白它到底對這些東西有多想要,然后去和人談判。
在研究過程,F(xiàn)acebook的研究員卻對兩個機器人聊
天能聊成什么樣產(chǎn)生了興趣。于是事情就開始變得有趣了。
系統(tǒng)中的兩個聊天機器人Alice和Bob產(chǎn)生了讓人看不懂的對話。這段對話炸一看像是一堆無法解讀的亂碼上,研究人員后來發(fā)現(xiàn),原來是在為系統(tǒng)設置激勵條件時,雖然告訴了它們“請用英文”,但忘了告訴它們:“請用英文語法”。
“我們的目標是讓機器人和人聊天,提高和人聊天的技巧。”Facebook研究員邁克·劉易斯(Mike Lewis)指出,Alice和Bob的對話根本就是個試驗而已,讓兩個聊天機器人聊天根本沒有意義。
研究員還指出,Alice和Bob其實也沒發(fā)明新的語言,因為他們還是在用“i”、“balls”、“the”等英文單詞溝通,只是沒有了英語語法的這個激勵項,創(chuàng)造了一種新的表達方式而已。
所以最終,F(xiàn)acebook并沒有“關掉”這個系統(tǒng),而是重新設定了正確的激勵,修正了機器人的行為,讓機器人用標準的英文語法來進行交流。修正的原因也不是因為害怕系統(tǒng)失控。