科技行業(yè)必須避免意外后果

Telstra集團(tuán)技術(shù)，創(chuàng)新和戰(zhàn)略部門負(fù)責(zé)人斯蒂芬·埃洛普表示，破壞之路是由意外后果造成的，科技行業(yè)需要確保機(jī)器學(xué)習(xí)和人工智能(AI)應(yīng)用程序免受無意識(shí)偏見和安全與信任的破壞。

埃洛普周四在墨爾本舉行的年度Telstra Vantage會(huì)議上表示，在自動(dòng)化和人工智能的興起中，唯一能夠應(yīng)對(duì)關(guān)懷，創(chuàng)造和監(jiān)督的角色。

根據(jù)埃洛普的說法，他在去年加入Telstra團(tuán)隊(duì)之前擔(dān)任諾基亞首席執(zhí)行官，此前電信公司創(chuàng)建了新的創(chuàng)新角色，負(fù)責(zé)領(lǐng)導(dǎo)其首席技術(shù)官，首席科學(xué)家，軟件集團(tuán)和企業(yè)戰(zhàn)略 - 而AI機(jī)器學(xué)習(xí)從數(shù)據(jù)輸入到他們的系統(tǒng)，這些數(shù)據(jù)受到無意識(shí)偏見的人的污染。

“人工智能的核心是大數(shù)據(jù)，可以從高級(jí)數(shù)據(jù)分析中獲得的見解......我們?nèi)绾问褂脭?shù)據(jù)，以及我們選擇的數(shù)據(jù)來訓(xùn)練我們的機(jī)器可以對(duì)我們的分析產(chǎn)生深遠(yuǎn)的影響，”埃洛普說過。

因此，人類開發(fā)人員精心挑選的數(shù)據(jù) - 例如，最近發(fā)現(xiàn)女性不太可能向高薪工作展示Google廣告，某些面部識(shí)別軟件難以跟蹤較暗的膚色，以及正被建議在低社會(huì)經(jīng)濟(jì)社區(qū)尋找 - 因此，人們通過人工智能繼續(xù)存在歧視。

“即使我們依賴所謂的大數(shù)據(jù)和現(xiàn)代技術(shù)，歧視的社會(huì)歷史也可以在我們的數(shù)字平臺(tái)中依賴于系統(tǒng)所學(xué)習(xí)的數(shù)據(jù)和已經(jīng)設(shè)計(jì)的算法，”他解釋。

埃洛普還指出了一個(gè)案例，其中一個(gè)人工智能機(jī)器人被互聯(lián)網(wǎng)上的用戶有意識(shí)地轉(zhuǎn)移：微軟在Twitter上的Tay聊天機(jī)器人，從故意的推文中了解種族主義行為。

因此，人工智能和物聯(lián)網(wǎng)(IoT)的興起必須同時(shí)處理他所謂的“推特巨魔”和無意識(shí)的開發(fā)者偏見，如果社會(huì)的數(shù)字化將避免不僅加劇歧視，而且還會(huì)破壞無意識(shí)的后果Elop說，所有用戶的隱私和信任。

“隨著Telstra推出可能是該國(guó)最大的連續(xù)物聯(lián)網(wǎng)網(wǎng)絡(luò)，承諾從更好的能源管理到安全保障，到現(xiàn)場(chǎng)效率，到礦山，到自動(dòng)駕駛，所有這些都與大數(shù)據(jù)，毫無疑問，物聯(lián)網(wǎng)將對(duì)我們向客戶提供的結(jié)果產(chǎn)生深遠(yuǎn)的影響，“他說。

“隱私泄露很快就會(huì)成為所有這些基于云的數(shù)據(jù)的意外后果。”

他說，收集如此大量的數(shù)據(jù)，用于機(jī)器學(xué)習(xí)和為和智能城市設(shè)計(jì)的人工智能設(shè)備，有可能被不良行為者濫用，特別是如果來自多個(gè)來源的數(shù)據(jù)合并在一起。

“大量數(shù)據(jù)的收集會(huì)導(dǎo)致隱私領(lǐng)域出現(xiàn)各種意外后果，而這些隱私風(fēng)險(xiǎn)會(huì)隨著大數(shù)據(jù)的增加而增加 - 不僅是主要數(shù)據(jù)本身，還有可以通過組合收集的新推論來自不同來源的大數(shù)據(jù)，“他解釋道。

“例如，將來自越來越受歡迎的牌照讀者的數(shù)據(jù)與城市中的模式進(jìn)行混搭 - 可以從中收集各種有趣的信息。”

其中一個(gè)例子是亞馬遜的Alexa，它可以保存所有人類互動(dòng)，以便學(xué)習(xí)并成為其所有者更聰明，更有用的AI助手 - 但無意間的后果可能是這些數(shù)據(jù)被濫用，他建議。

埃羅普說：“這臺(tái)設(shè)備在云中記錄并存儲(chǔ)了我所說過的所有內(nèi)容，并實(shí)際記錄了我的聲音，錄音開始前幾秒鐘，我甚至要求它開始收聽。”

“這些錄音用于非預(yù)期目的只是時(shí)間問題。”

最重要的是，埃洛普說，當(dāng)開發(fā)人員無法確保系統(tǒng)免受違反信任的意外后果時(shí)。

埃洛普指出最近發(fā)生的Equifax違規(guī)行為表示，違反此類高度個(gè)人信息以及公司對(duì)此事件的回應(yīng)都是對(duì)他的隱私和信任的“根本違反”，并且事后不能簡(jiǎn)單地修復(fù)。

他補(bǔ)充說，人們也開始質(zhì)疑他們可以相信哪些信息，這是由于技術(shù)的進(jìn)步，社會(huì)信任崩潰的另一個(gè)跡象。

“你能相信什么?你相信你在互聯(lián)網(wǎng)上讀到的東西嗎?你是否相信你在互聯(lián)網(wǎng)上看到的東西，如果它與你的觀點(diǎn)一致?你是否相信你在互聯(lián)網(wǎng)上讀到的東西，如果它被世界發(fā)推文領(lǐng)導(dǎo)者?如果設(shè)備有預(yù)編程的后門，您是否相信設(shè)備?您是否相信您客廳中的相機(jī)可能是650Gbps拒絕服務(wù)攻擊的一部分，或者有人可能會(huì)秘密使用它監(jiān)視你?“ 他問。

“當(dāng)安全性破裂，或委托施加安全措施的人員失去其職責(zé)，或者普通公民不能再?gòu)奶摌?gòu)中說出真相時(shí)，我們就會(huì)產(chǎn)生信任問題。

“未能保護(hù)我們的世界的意外后果是對(duì)社會(huì)信任的破壞 - 信任是社會(huì)本身的基礎(chǔ)。”

根據(jù)埃洛普的說法，企業(yè)可以防范違反信任和歧視的意外后果的唯一方法是展示他提到的三種角色的主要特征：人工智能：關(guān)懷，創(chuàng)造力和領(lǐng)導(dǎo)能力。

最重要的是，開發(fā)和部署數(shù)據(jù)收集機(jī)器和服務(wù)的人必須采用意向性。

“我們不能接受我們的努力給我們的客戶和我們的底線所帶來的諸多好處，而不會(huì)對(duì)所產(chǎn)生的全部后果負(fù)責(zé)，”他說。

“只有通過有意識(shí)的努力才能克服無意識(shí)的偏見。而且，正如我們?cè)赥elstra學(xué)到的那樣，隱私相關(guān)的風(fēng)險(xiǎn)無法通過抽象的政策聲明和白皮書或?qū)嶒?yàn)來完全解決。每一個(gè)新的產(chǎn)品和服務(wù)都是必須在隱私和意外后果方面仔細(xì)評(píng)估您的數(shù)據(jù)使用情況。“