新的框架將使AI決策變得更加模糊

2022-08-20 00:09:41 編輯：杜影婷來源：

導讀一個新的框架將允許用戶了解人工智能決策背后的原理?？紤]到推動擺脫黑匣子人工智能系統(tǒng)的推動，這項工作意義重大，尤其是在和執(zhí)法部門等需...

一個新的框架將允許用戶了解人工智能決策背后的原理?？紤]到推動擺脫“黑匣子”人工智能系統(tǒng)的推動，這項工作意義重大，尤其是在和執(zhí)法部門等需要證明決策依據(jù)的部門。

該論文的第一作者，北卡羅來納州立大學計算機工程學助理教授吳天福說：“使我們的框架與眾不同的是，我們將這些可解釋性要素納入了AI培訓過程。”

“例如，在我們的框架下，當一個AI程序學習如何識別圖像中的對象時，它也在學習定位圖像中的目標對象，并解析滿足目標對象標準的局部性。然后將這些信息與結果一起顯示。”

在概念驗證實驗中，研究人員將該框架整合到了廣泛使用的R-CNN人工智能對象識別系統(tǒng)中。然后，他們在兩個完善的基準數(shù)據(jù)集上運行該系統(tǒng)。

研究人員發(fā)現(xiàn)，將可解釋性框架整合到AI系統(tǒng)中，無論從時間還是準確性上都不會損害系統(tǒng)的性能。

Wu說：“我們認為這是實現(xiàn)完全透明的AI的重要一步。”“但是，還有一些懸而未決的問題要解決。

“例如，該框架目前已通過AI向我們顯示了對象的位置，這些圖像被認為是目標對象的不同特征。那是定性的。我們正在努力使這種定量化，并將置信度得分納入流程。”

標簽：

免責聲明：本文由用戶上傳，如有侵權請聯(lián)系刪除！

本站除標明“本站原創(chuàng)”外所有信息均轉載自互聯(lián)網(wǎng) 版權歸原作者所有。