CMU 葡萄牙校友和研究員贏得了200萬(wàn)歐元的ERC合并補(bǔ)助金

來(lái)自Instituto de Telecomunicações ( IT ) 和 CMU 葡萄牙校友的葡萄牙研究員 André Martins 獲得了200萬(wàn) 歐元的歐洲研究委員會(huì)聯(lián)合資助 (ERC CoG )， 用于研究應(yīng)用于自然語(yǔ)言處理 ( NLP ) 的人工神經(jīng)網(wǎng)絡(luò)。

ERC Consolidator 資金將用于 DECOLLAGE 項(xiàng)目(針對(duì)語(yǔ)言生成的深度認(rèn)知學(xué)習(xí))，該項(xiàng)目專(zhuān)注于尋找 NLP 一些基本問(wèn)題的解決方案，使用創(chuàng)新的跨學(xué)科方法，將人工智能、稀疏建模、神經(jīng)科學(xué)的工具結(jié)合在一起和認(rèn)知科學(xué)。

現(xiàn)有的自然語(yǔ)言處理深度學(xué)習(xí)模型雖然有時(shí)令人印象深刻，但往往不可靠甚至具有誤導(dǎo)性：它們不能很好地泛化到新領(lǐng)域，不能利用上下文信息，校準(zhǔn)不佳，記憶不可追溯。這些限制源于它們的單體架構(gòu)，適合感知但不適合需要更高層次認(rèn)知的任務(wù)。

“這個(gè)項(xiàng)目在克服當(dāng)前 NLP 技術(shù)的局限性方面更進(jìn)了一步，使人類(lèi)和機(jī)器能夠用自然語(yǔ)言進(jìn)行有效交流并協(xié)同工作以解決日益困難的問(wèn)題”，André Martins

有了這筆新?lián)芸畹目捎觅Y金，研究將集中在三個(gè)主要步驟上。首先，使用不確定性和質(zhì)量估計(jì)作為受控生成的指導(dǎo)原則，將這種控制機(jī)制與有效編碼上下文信息和集成多種模式相結(jié)合。其次，開(kāi)發(fā)長(zhǎng)期記憶的稀疏和結(jié)構(gòu)化模型，注意描述性表示，第三，為稀疏通信設(shè)計(jì)新的數(shù)學(xué)模型(彌合離散和連續(xù)表示之間的差距)，支持端到端的可區(qū)分性并實(shí)現(xiàn)多個(gè)模塊和代理可以在其中進(jìn)行通信的共享工作區(qū)。這些創(chuàng)新將應(yīng)用于極具挑戰(zhàn)性的生成任務(wù)，包括機(jī)器翻譯、對(duì)話(huà)和開(kāi)放式生成。

該 ERC 獎(jiǎng)項(xiàng)是在研究人員于 2017 年獲得價(jià)值 140 萬(wàn)歐元的早期啟動(dòng)基金之后獲得的，該基金應(yīng)用于 DeepSPIN 項(xiàng)目 ，使他能夠開(kāi)展深度學(xué)習(xí)和結(jié)構(gòu)化預(yù)測(cè)方面的研究，以解決自然語(yǔ)言處理(包括機(jī)器翻譯)中具有挑戰(zhàn)性的任務(wù)、質(zhì)量估計(jì)和句法分析。

André Martins 是第一個(gè) CMU 葡萄牙雙學(xué)位博士。語(yǔ)言技術(shù)校友，2012 年獲得 Técnico 和 卡內(nèi)基梅隆大學(xué) (CMU) 授予的博士學(xué)位。從那時(shí)起，他一直高度參與該計(jì)劃的倡議，指導(dǎo)兩名博士。候選人并與 CMU 團(tuán)隊(duì)嚴(yán)格合作領(lǐng)導(dǎo)兩個(gè) CMU 葡萄牙大型項(xiàng)目(MAIA 和 GoLocal)。他目前是 Unbabel人工智能研究副總裁 和 Instituto Superior Técnico ( Técnico). 他共同創(chuàng)立并共同組織了第 12 屆里斯本機(jī)器學(xué)習(xí)學(xué)院 (LxMLS)，該學(xué)院得到了 CMU 葡萄牙計(jì)劃的支持，并且是泛歐人工智能網(wǎng)絡(luò) ELLIS 協(xié)會(huì)的成員。André 發(fā)表了 100 多篇論文，被引用超過(guò) 6,000 次，在頂級(jí)會(huì)議和期刊中的 h 指數(shù)為 37，在 Elsevier 評(píng)選的其科學(xué)領(lǐng)域中被引用次數(shù)最多的科學(xué)家中排名前 2%。