研究人員通過負責任的AI來應對動蕩

大流行已經(jīng)使數(shù)據(jù)科學家和商業(yè)領導者爭先恐后地尋找有關他們所依賴的分析模型的緊急問題的答案。金融機構(gòu)，公司及其所服務的客戶都在應對前所未有的情況，而失去控制似乎可以用全新的決策策略來彌補。如果您的公司打算急于想出新的分析模型來指導在這種非同尋常的環(huán)境中進行決策，請稍等片刻。首先，請仔細查看您現(xiàn)有的模型。

負責任地構(gòu)建的現(xiàn)有模型-結(jié)合了強大，可解釋，合乎道德和高效的人工智能(AI)和機器學習(ML)技術-在當今動蕩的環(huán)境中具有可以利用和信任的彈性。這是一份清單，可幫助您確定公司的模型是否具備所需功能。

堅固性

在云服務和開源時代，仍然沒有“快速簡便”的捷徑來進行適當?shù)哪Ｐ烷_發(fā)。具有適當數(shù)據(jù)和科學嚴謹性的AI模型是強大的，并且能夠像我們現(xiàn)在所經(jīng)歷的那樣在艱難的環(huán)境中蓬勃發(fā)展。

強大的AI開發(fā)實踐包括定義明確的開發(fā)方法;正確使用歷史，培訓和測試數(shù)據(jù);可靠的績效定義;仔細的模型架構(gòu)選擇;模型穩(wěn)定性測試，仿真和治理的過程。重要的是，所有數(shù)據(jù)科學組織都必須遵守所有這些因素。

讓我強調(diào)有關數(shù)據(jù)，特別是歷史數(shù)據(jù)的重要性。數(shù)據(jù)科學家需要盡可能地評估未來可能遇到的所有不同的客戶行為：僅是在經(jīng)濟衰退期間抑制收入，以及與自然災害相關的ho積行為。此外，必須對模型的假設進行測試，以確保它們可以承受生產(chǎn)環(huán)境中的巨大變化。

可解釋的AI

神經(jīng)網(wǎng)絡可以發(fā)現(xiàn)數(shù)據(jù)中復雜的非線性關系，從而產(chǎn)生強大的預測能力，這是AI的關鍵組成部分。但是，許多組織不愿部署“黑匣子”機器學習算法，因為盡管它們的數(shù)學方程式通常很簡單，但是要獲得易于理解的解釋卻往往很困難。結(jié)果是，即使是具有改進的業(yè)務價值的ML模型也可能是無法解釋的-與受管制的行業(yè)不兼容的質(zhì)量-因此無法部署到生產(chǎn)中。

為了克服這一挑戰(zhàn)，公司可以使用一種稱為可解釋性潛在特征的機器學習技術。這導致了可解釋的神經(jīng)網(wǎng)絡體系結(jié)構(gòu)，這種行為可以被人類分析人員輕松理解。值得注意的是，作為負責任AI的關鍵要素，模型的可解釋性應該是首要目標，其次才是預測能力。