微軟開放源代碼解釋黑盒AI

微軟研究公司(Micros of t Research)今天開放了一個軟件工具包，旨在解決AI的“黑匣子”問題。 解釋ML是為了幫助開發(fā)人員嘗試介紹人工智能系統(tǒng)輸出的解釋的方法。 解釋ML目前在alpha中，可在GitHub上使用。

解釋人工智能系統(tǒng)所作預(yù)測的能力日益受到關(guān)注，因為人工智能更多地應(yīng)用于法律和保健等部門。

“如果醫(yī)生、法官和其他決策者信任支撐智能系統(tǒng)的模型，他們就能做出更好的決策。 更廣泛地說，隨著對模型的更充分理解，最終用戶可能更容易接受人工智能驅(qū)動的產(chǎn)品和解決方案，而日益增長的監(jiān)管需求可能更容易得到滿足，“微軟數(shù)據(jù)科學(xué)家和工程師今天在一篇博客中說。

微軟的研究人員還認(rèn)為，可解釋性可以幫助開發(fā)人員決定最佳的方法來訓(xùn)練人工智能模型或衡量方法之間的一致性。

此舉之際，微軟結(jié)束了在西雅圖舉行的年度Build Developer Conference，該公司在這里推出了用于在網(wǎng)絡(luò)上創(chuàng)建文檔的Fluid框架、Azure Kubernetesnetes服務(wù)，以及第一批人工智能和機(jī)器人工具包。

在構(gòu)建之前，上周微軟宣布了它的開放神經(jīng)網(wǎng)絡(luò)交換(ONN X)現(xiàn)在支持Nvidia的Tensor Intel的nGraphfor在Nvidia和Intel硬件上的高速推理。

微軟是AI合作伙伴關(guān)系的成員，這是一個由80多家科技公司和非營利組織組成的集團(tuán)，最近宣布算法不適合自動化審前保釋程序，部分原因是缺乏對原告如何被標(biāo)記為高風(fēng)險或低風(fēng)險的明確解釋。

AzureCloud和AI負(fù)責(zé)人Scott Guthrie上周斷言，微軟參與開源項目的意愿遠(yuǎn)遠(yuǎn)超過亞馬遜或谷歌。

“我想你看到的是一個微軟，它既深深地?fù)肀Я碎_放，既是消費者，也是貢獻(xiàn)者，我認(rèn)為這是獨一無二的。 如果你看看，比如說AWS對開源的貢獻(xiàn)，就不會有很多。 有很多消費，但沒有太多的貢獻(xiàn)回來，我認(rèn)為，即使你是看看谷歌相對于我們在Azure上所做的貢獻(xiàn)，我認(rèn)為人們通常會驚喜地把它加起來。”

Venture Beat要求提供更多關(guān)于微軟內(nèi)部如何使用該工具的細(xì)節(jié)。 如果我們聽到回音，這個故事會更新的。