人工智能研究人員表示 舊金山的面部識別禁令只是觸及表面

舊金山的監(jiān)事會本周采取了重大舉措，當(dāng)時它投票禁止將面部識別軟件用于執(zhí)法目的，但這些措施本身并不能解決人工智能監(jiān)控所帶來的道德問題。

至少這些是來自三位專家的第一印象，專注于人工智能迅速崛起的社會影響。

卡內(nèi)基梅隆大學(xué)(Carnegie Mellon University)哲學(xué)教授戴維·丹克斯(David Danks)表示，他沒有機(jī)會深入研究市政立法的細(xì)節(jié)，該立法于周二獲得通過，并將在下周進(jìn)行第二次程序性投票。他說“這是一個細(xì)節(jié)重要的案例。”

“在面部識別匹配的基礎(chǔ)上逮捕某人意義上的'執(zhí)法目的'就是這種極端明顯的案例，”Danks在周二晚上參加了西雅圖大學(xué)人工智能小組討論會后告訴GeekWire。“但是，如果它監(jiān)視一個團(tuán)體的成員，并不是我知道這是這個人，但我知道這是一個我上傳了20個面孔的社區(qū)的成員?”

面部識別引起了研究人員和隱私權(quán)倡導(dǎo)者的大量批評 - 部分原因是當(dāng)局一直在使用該技術(shù)追蹤中國西北地區(qū)數(shù)百萬穆斯林，部分原因是有關(guān)種族和性別相關(guān)軟件的報告失敗，部分原因是僅僅因為面孔是一個人的公共身份的重要組成部分。

康奈爾大學(xué)信息科學(xué)家Solon Barocas 說：“實際上還有很多其他東西具有與面部識別相似的特性，同樣有害，但不產(chǎn)生相同的內(nèi)臟反應(yīng)。”

谷歌研究和機(jī)器智能部門的高級科學(xué)家瑪格麗特·米切爾說，例子可能包括分析一個人的步行步態(tài)，或檢查一個人的講話的節(jié)奏。

“機(jī)器學(xué)習(xí)將發(fā)現(xiàn)一大堆新方法，”巴羅卡斯說。

人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的領(lǐng)先公司表示，他們正試圖自我調(diào)節(jié)他們推出的AI產(chǎn)品。米切爾說：“谷歌一直在努力提高對價值觀的透明度。” “我最喜歡的一個，因為它直接適用于我所做的一切，是為了避免加強(qiáng)不公平的偏見。”

與此同時，微軟有一個內(nèi)部道德委員會，負(fù)責(zé)審查其人工智能軟件的擬議應(yīng)用程序 - 偶爾會拒絕它所認(rèn)為的不道德的用例。面部識別是一個頂級的問題。

但自我監(jiān)管是否足夠?去年12月，微軟總裁布拉德史密斯表示，聯(lián)邦政府應(yīng)制定管理面部識別技術(shù)的法律，重點關(guān)注同意，第三方測試，公平和隱私等問題。

政府應(yīng)該建立聯(lián)邦人工智能委員會嗎?

“我不太確定那會是什么樣子，”丹克斯說。“在我看來，有點像'聯(lián)邦內(nèi)燃機(jī)委員會'。重要的是如何使用這些技術(shù)，而不是孤立的技術(shù)。“

在Danks看來，規(guī)范AI可能不需要創(chuàng)建一個全新的官僚機(jī)構(gòu)。

“在許多領(lǐng)域，實際上，已經(jīng)有監(jiān)管權(quán)力來做到這一點，”他說。“缺乏的是監(jiān)管機(jī)構(gòu)的技術(shù)專長，以了解如何行使這些權(quán)力來管理某些新技術(shù)或某些公司。隨著任何新的技術(shù)進(jìn)步，問題在于，我們?nèi)绾翁钛a(bǔ)這些空白?

一個很好的例子可能是個人醫(yī)療數(shù)據(jù)。Danks說，人工智能工具可能遠(yuǎn)遠(yuǎn)超過根據(jù)健康保險流通與責(zé)任法案或HIPAA提供的聯(lián)邦隱私保護(hù)。

“例如，HIPAA不涵蓋推斷的屬性，”他說。“我們在某些方面對我們的醫(yī)療數(shù)據(jù)有很好的保護(hù)。但是，如果我使用AI來解決它而不是FDA批準(zhǔn)的測試，它就不再被認(rèn)為是私人數(shù)據(jù)了。這是引用中的“猜測”。這是我們需要填補(bǔ)的差距之一。“

然而，該法案未能成為法律。美國公民自由聯(lián)盟和其他批評者稱，該立法包含太多漏洞 - 并且反對微軟和其他科技公司在制定該法案時所起的作用。這些差異無法及時解決，以滿足今年立法會的最后期限，但贊助該法案的西雅圖民主黨參議員魯文卡萊爾表示，支持者將在明年再次嘗試。

由西雅圖大學(xué)阿爾伯斯商業(yè)與經(jīng)濟(jì)學(xué)院主辦的阿爾伯斯倫理周繼續(xù)推出“責(zé)任人工智能和物聯(lián)網(wǎng)”，微軟物聯(lián)網(wǎng)和智能邊緣高級主管Avijit Sinha的演講?；顒佣ㄓ谥芩南挛?:30在Pigott Auditorium舉行。

談到面部識別，西雅圖大學(xué)的數(shù)字藝術(shù)與技術(shù)俱樂部將于周六中午至下午4點在大學(xué)的Redhawk中心的Quadstock音樂節(jié)上展示“Emotion Bots” 。學(xué)生將能夠根據(jù)他們的面部表情閱讀他們所表達(dá)的情感。這是一個俱樂部項目的演示版本，將在校園的不同地點實施，并將于明年開始試用。