Google和OpenAI的新工具讓我們更好地了解人工智能

人工智能的世界是什么樣的?

幾十年來，研究人員一直對(duì)此感到困惑，但近年來，這個(gè)問題變得更加緊迫。機(jī)器視覺系統(tǒng)正在越來越多的生活領(lǐng)域得到應(yīng)用，從醫(yī)療保健到自動(dòng)駕駛汽車，但是通過機(jī)器的眼睛“看到” - 理解為什么它將那個(gè)人歸類為行人但將其作為路標(biāo) -仍然是一個(gè)挑戰(zhàn)。我們無法這樣做可能會(huì)產(chǎn)生嚴(yán)重甚至致命的后果。有人會(huì)說，由于涉及自動(dòng)駕駛汽車的死亡，它已經(jīng)有了。

谷歌和非營(yíng)利實(shí)驗(yàn)室OpenAI的新研究希望通過繪制這些系統(tǒng)用于理解世界的視覺數(shù)據(jù)來進(jìn)一步開放人工智能視覺的黑匣子。這種被稱為“ 激活地圖集 ”的方法讓研究人員可以分析各種算法的工作原理，不僅揭示了他們識(shí)別的抽象形狀，顏色和圖案，還揭示了他們?nèi)绾螌⑦@些元素結(jié)合起來識(shí)別特定的物體，動(dòng)物和場(chǎng)景。

谷歌的Shan Carter是這項(xiàng)工作的首席研究員，他告訴The Verge，如果先前的研究就像在算法的視覺字母表中顯示單個(gè)字母一樣，激活地圖集提供了更接近整個(gè)字典的東西，顯示字母是如何組合在一起制作實(shí)際字詞的。“因此，在像'鯊魚'這樣的圖像類別中，會(huì)有很多激活因素，比如'牙齒'和'水'，”卡特說。

這項(xiàng)工作不一定是一個(gè)巨大的突破，但它在更廣泛的研究領(lǐng)域中向前邁出了一步，稱為“特征可視化”。佐治亞理工學(xué)院的博士生Ramprasaath Selvaraju沒有參與這項(xiàng)工作，他說這項(xiàng)研究“非常令人著迷的“并結(jié)合了許多現(xiàn)有的想法來創(chuàng)造一個(gè)新的”非常有用“的工具。

Selvaraju告訴The Verge，在未來，這樣的工作將有很多用途，幫助我們建立更高效和先進(jìn)的算法，并通過讓研究人員進(jìn)入內(nèi)部來提高他們的安全性和消除偏見。“由于[神經(jīng)網(wǎng)絡(luò)]固有的復(fù)雜性，它們?nèi)狈山忉屝裕?rdquo;Selvaraju說。但他表示，未來，當(dāng)這種網(wǎng)絡(luò)經(jīng)常用于駕駛汽車和引導(dǎo)機(jī)器人時(shí)，這將是必要的。

OpenAI的Chris Olah也參與了這個(gè)項(xiàng)目，他說：“感覺有點(diǎn)像創(chuàng)造一個(gè)顯微鏡。至少，這就是我們所追求的目標(biāo)。“