為了使AI發(fā)揮其潛能 其風(fēng)險(xiǎn)必須是可見的

2019年，人工智能(AI)的嗡嗡聲被對其潛在危險(xiǎn)的保留所抵消。弗朗西斯教皇，五角大樓和委員會都對它的使用表示謹(jǐn)慎。

但是，Covid-19大流行在全球范圍內(nèi)的發(fā)展正在重新激發(fā)人們對其使用的熱情，一些人將AI視為靈丹妙藥，從而強(qiáng)調(diào)了其了解病毒，預(yù)測其如何進(jìn)化以及更有效地抵抗其傳播的能力。

州和公司同樣在傳播健康錯(cuò)誤信息，并部署注入AI的監(jiān)視技術(shù)，但不保證所收集的數(shù)據(jù)以及所產(chǎn)生的見解只能用于解決流行病。這讓許多人深感擔(dān)憂。

為了使AI發(fā)揮其潛能，其風(fēng)險(xiǎn)必須是可見的，并應(yīng)予以積極管理。本文為經(jīng)理們提供了五項(xiàng)可行的建議，以幫助經(jīng)理們在這一關(guān)鍵時(shí)刻有效地做到這一點(diǎn)。

五個(gè)基本教訓(xùn)

該建議建立在對一家大型歐洲保險(xiǎn)公司的經(jīng)理和員工進(jìn)行的一系列采訪的基礎(chǔ)上，他們開始努力在面向客戶的環(huán)境中開發(fā)支持AI的流程和服務(wù)。保險(xiǎn)公司對可信賴的AI的興趣正在迅速增加，因?yàn)榭蛻舻男湃螌ζ錁I(yè)務(wù)至關(guān)重要。我們的研究屬于巴黎高等商學(xué)院可持續(xù)發(fā)展與社會創(chuàng)新碩士課程的一部分，著重于風(fēng)險(xiǎn)感知，了解在創(chuàng)新過程中如何，如何以及由誰識別AI風(fēng)險(xiǎn)。

建議1：對AI有一個(gè)清晰的定義，以開始評估其風(fēng)險(xiǎn)

公司需要對AI可能造成的危害有清晰的了解。如果沒有公司范圍內(nèi)明確的定義，員工和經(jīng)理往往會依賴于自己的假設(shè)，并預(yù)計(jì)它會如何影響其工作場所。一旦損害已經(jīng)形成，組織往往太遲了才知道這些聲譽(yù)和其他成本是什么。例如，這家技術(shù)公司花了一年的時(shí)間才發(fā)現(xiàn)其招聘引擎并非不分性別，并且其聲譽(yù)受到打擊。

建議2：意識到自己對AI的偏見

我們發(fā)現(xiàn)，個(gè)人傾向于根據(jù)特定的假設(shè)來錨定對AI風(fēng)險(xiǎn)的期望。這些假設(shè)不僅是由媒體消費(fèi)(恐懼或幻想)引起的，而且還取決于個(gè)人在公司中的職位。例如，管理人員傾向于將AI風(fēng)險(xiǎn)視為技術(shù)性(魯棒性，隱私權(quán)，透明度)，而員工則傾向于將AI風(fēng)險(xiǎn)視為社會性(監(jiān)視，工作流離失所，歧視性偏見)。這些期望導(dǎo)致雙方低估了AI的總體風(fēng)險(xiǎn)，而忽視了它們在孵化過程中出現(xiàn)的風(fēng)險(xiǎn)。