最近谷歌的研究人員發(fā)表了一篇名為“人工智能安全問(wèn)題具體分析”的報(bào)告，讓我們看到了機(jī)器人們?cè)谶m應(yīng)性、協(xié)調(diào)性上出現(xiàn)的問(wèn)題。并且表示比如清潔機(jī)器人應(yīng)該擁有更好的避害性能，而不應(yīng)該用一個(gè)潮濕的拖把來(lái)擦拭有插座的地面。

　　機(jī)器人需要通過(guò)智能算法來(lái)學(xué)習(xí)，并且不斷更新和向前探索，而與軟件不同的是，不斷嘗試新事物的機(jī)器人甚至有可能成為一名殺人犯。因此谷歌的研究人員想出了下面的這五個(gè)問(wèn)題：

　　避免負(fù)面影響：我們?nèi)绾尾拍艽_保一個(gè)AI系統(tǒng)不會(huì)為了達(dá)到目的而對(duì)環(huán)境造成負(fù)面影響，比如清潔機(jī)器人為了更快的完成清潔任務(wù)而撞倒一個(gè)花瓶；

　　避免被黑客控制：我們都希望機(jī)器人不要被目的不純的黑客控制，比如清潔機(jī)器人不管任何材質(zhì)而一味的清理，造成對(duì)環(huán)境的破壞；

　　彈性監(jiān)督：我們?nèi)绾尾拍苡行У拇_保在各個(gè)方面對(duì)AI系統(tǒng)進(jìn)行客觀的評(píng)估？比如當(dāng)人們要求機(jī)器人總是反復(fù)執(zhí)行同一項(xiàng)任務(wù)，機(jī)器人是否會(huì)感到厭倦？

　　安全的探索：如何確保一個(gè)AI系統(tǒng)在探索的同時(shí)不會(huì)帶來(lái)消極的影響。比如清潔機(jī)器人應(yīng)該知道避害，而不應(yīng)該用一個(gè)潮濕的拖把來(lái)擦拭有插座的地面。

　　適應(yīng)性：我們?nèi)绾未_保一個(gè)AI系統(tǒng)擁有更高效的識(shí)別能力，在非常規(guī)的環(huán)境下也能擁有適應(yīng)能力？

　　研究者擔(dān)心的并非是機(jī)器人引發(fā)的革命，而是由于草率的設(shè)計(jì)而帶來(lái)的現(xiàn)實(shí)問(wèn)題。過(guò)多的事故容易讓人們喪失對(duì)合理自動(dòng)化系統(tǒng)的信任感。不過(guò)提到事故，我們不妨來(lái)輕松一下，看看那些機(jī)器人的一些萌摔搞笑視頻。（原作者：Steve Dent 編譯：Guti）