普林斯頓學(xué)生深入研究深度學(xué)習(xí)計(jì)算

10月16日至17日，約60名普林斯頓研究生和博士后以及少數(shù)本科生探索了計(jì)算機(jī)視覺任務(wù)中使用最廣泛的深度學(xué)習(xí)技術(shù)，并深入研究了使用新的并行計(jì)算程序來顯著加快應(yīng)用程序的速度。

自20世紀(jì)50年代早期的樂觀情緒涌現(xiàn)以來，人工智能的較小子集，首先是機(jī)器學(xué)習(xí)，然后是深度學(xué)習(xí)，造成了越來越大的破壞。

為期兩天的研討會(huì)由NVIDIA深度學(xué)習(xí)研究所的專家主持，由普林斯頓計(jì)算科學(xué)與工程研究所(PICSciE)贊助，PICSciE是普林斯頓研究計(jì)算聯(lián)盟的一部分，并由統(tǒng)計(jì)和機(jī)器學(xué)習(xí)中心共同贊助。

深度學(xué)習(xí)，也許是機(jī)器學(xué)習(xí)中發(fā)展最快的一個(gè)分支，它在人腦分析信息和做出預(yù)測的復(fù)雜和非線性方式之后松散地對自己進(jìn)行建模。計(jì)算機(jī)視覺程序員意識(shí)到，到3歲時(shí)，幼兒已經(jīng)吸收了他們在周圍世界中看到的數(shù)億個(gè)物體的信息;正是這種大量多樣的數(shù)據(jù)輸入訓(xùn)練它們在非常不同的環(huán)境中識(shí)別同一物體。

NVIDIA解決方案架構(gòu)師BradPalmer表示：“我們訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)以某種類似的方式識(shí)別和分類事物。”“該算法在不同情況下看到的對象越多，就越能更好地識(shí)別該對象。”(普林斯頓大學(xué)教授KaiLi、PaulM.Wythes和MarciaR.Wythes計(jì)算機(jī)科學(xué)教授以及PICSciE的相關(guān)教員參與了創(chuàng)建世界上最大的視覺數(shù)據(jù)庫Imagenet的團(tuán)隊(duì)，Imagenet是計(jì)算機(jī)視覺的重要培訓(xùn)資源程序員。)

深度學(xué)習(xí)研討會(huì)的一位參加者是普林斯頓計(jì)算機(jī)科學(xué)博士生KseniaSokolova，她與OlgaTroyanskaya計(jì)算機(jī)科學(xué)教授和Lewis-Sigler綜合基因組學(xué)研究所以及PICSciE的相關(guān)教員一起從事一個(gè)研究項(xiàng)目。Sokolova說她參加研討會(huì)是因?yàn)檫@項(xiàng)技術(shù)在基因組學(xué)研究和精準(zhǔn)醫(yī)學(xué)方面的潛力。“我目前正在研究一種深度學(xué)習(xí)模型，該模型將幫助我們更好地了解DNA突變與人可能患有的疾病之間的依賴關(guān)系，”她說。

在JadwinHall舉行的為期一天的深度學(xué)習(xí)研討會(huì)的休息時(shí)間，計(jì)算機(jī)科學(xué)博士生KseniaSokolova(右)與地球科學(xué)研究生RyanManzuk交談。

Sokolova補(bǔ)充說：“基因組學(xué)非常適合深度學(xué)習(xí);有大量復(fù)雜的數(shù)據(jù)需要解釋。我認(rèn)為對這些方法和應(yīng)用有廣泛的了解很重要，而且我發(fā)現(xiàn)這個(gè)研討會(huì)是對使用神經(jīng)網(wǎng)絡(luò)及其計(jì)算機(jī)視覺應(yīng)用的精心準(zhǔn)備和結(jié)構(gòu)化的介紹。

“當(dāng)人們開始從事深度學(xué)習(xí)時(shí)，他們沒有意識(shí)到訓(xùn)練參數(shù)對性能的影響程度。例如，準(zhǔn)確率低可能是由于網(wǎng)絡(luò)的訓(xùn)練方式，而不是網(wǎng)絡(luò)架構(gòu)。”

Troyanskaya說：“我們可以使用該信息給出一個(gè)單一的影響評分，該評分表明突變是否看起來是人類疾病突變以及它是否可能具有功能性。”她的跨學(xué)科團(tuán)隊(duì)包括生物信息學(xué)、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)學(xué)、算法和生物學(xué)方面的專家，共同努力將計(jì)算預(yù)測轉(zhuǎn)化為關(guān)于阿爾茨海默病、自閉癥、乳腺癌和腎病等不同研究領(lǐng)域的可檢驗(yàn)假設(shè)。

NVIDIA高等教育研究團(tuán)隊(duì)的兩名成員羅納克·沙阿(RonakShah)和喬納森·本茨(JonathanBentz)指出，每次他們與教師和學(xué)生研究人員互動(dòng)時(shí)，“普林斯頓差異”都很明顯。“在普林斯頓，我們看到了一種進(jìn)步的科學(xué)方法，擁有大量本土應(yīng)用程序，例如由JeroenTromp領(lǐng)導(dǎo)的理論和計(jì)算地震學(xué)小組創(chuàng)建的開源軟件包，”Shah說。“我覺得普林斯頓的高研究成果與開發(fā)新計(jì)算科學(xué)技術(shù)的研究人員數(shù)量之間存在很強(qiáng)的相關(guān)性。”

Bentz補(bǔ)充說：“普林斯頓計(jì)算研究與大學(xué)研究小組之間的關(guān)系令人非常興奮。PICSciE和OITResearchComputing的組織方式使大學(xué)的高性能計(jì)算資源、其工作人員和繼續(xù)在各自領(lǐng)域開展開創(chuàng)性工作的研究小組之間進(jìn)行了高效協(xié)作