Facebook，Instagram和Twitter限制了人工智能保姆背景調(diào)查的數(shù)據(jù)訪問

Facebook，Instagram和Twitter限制了Predictim可以訪問的數(shù)據(jù)量，Predictim是一家總部位于加利福尼亞的創(chuàng)業(yè)公司，它使用機(jī)器學(xué)習(xí)來審查潛在的保姆。在華盛頓郵報(bào) 上周報(bào)道了 其方法后，社交網(wǎng)絡(luò)對公司采取了行動(dòng)，引起了廣泛的批評。

Predictim聲稱使用“先進(jìn)的人工智能”來判斷保姆的適用性。這包括在對個(gè)人的角色進(jìn)行自動(dòng)評估之前，通過個(gè)人的Facebook，Instagram和Twitter歷史進(jìn)行梳理。該公司聲稱，它可以預(yù)測個(gè)人是否是吸毒者，是否可能欺負(fù)或騷擾他人，即使他們的態(tài)度“不好”。

專家們批評Predictim的服務(wù)是不科學(xué)的，并指出機(jī)器學(xué)習(xí)在解析人類語音等復(fù)雜數(shù)據(jù)方面是出了名的不可靠。AI可能善于識別照片中的物體或手寫數(shù)字化，但它無法可靠地解釋音調(diào)和語音中的細(xì)微差別，如諷刺或笑話。數(shù)據(jù)政策專家還指出，Predictim的軟件并沒有解釋它的決定如何，這意味著潛在的保姆可能會(huì)在不知道原因或提供解釋的情況下失去工作。

據(jù)華盛頓郵報(bào)和BBC新聞報(bào)道，F(xiàn)acebook，Instagram和Twitter都在過去幾周內(nèi)對Predictim采取了行動(dòng)。Facebook表示，在違反禁止開發(fā)人員使用此信息審查求職者的禁令后，它極大地限制了該公司在Facebook和Instagram上訪問用戶數(shù)據(jù)。Twitter在本周早些時(shí)候撤銷了Predictim對API的訪問權(quán)限(用于訪問規(guī)模的數(shù)據(jù)，而不是閱讀個(gè)人資料)。一位發(fā)言人告訴郵報(bào)， “我們嚴(yán)格禁止將Twitter數(shù)據(jù)和API用于監(jiān)視目的，包括進(jìn)行背景調(diào)查。”

“每個(gè)人都會(huì)在社交媒體上看到人們，他們會(huì)在GOOGLE上看到人們。”

Predictim的首席執(zhí)行官兼聯(lián)合創(chuàng)始人Sal Parsa表示，該公司沒有做錯(cuò)任何事。Parsa告訴BBC新聞?wù)f：“每個(gè)人都在社交媒體上看人，他們會(huì)在Google上看人。” “我們只是在實(shí)現(xiàn)這一過程的自動(dòng)化。”

Parsa還建議，掃描用戶數(shù)據(jù)以便向他們定位廣告的社交網(wǎng)絡(luò)有自己阻止其軟件的動(dòng)機(jī)。“Twitter和Facebook已經(jīng)在挖掘我們的數(shù)據(jù)，”Parsa告訴郵報(bào)。“就在那里，用戶生成的數(shù)據(jù)?，F(xiàn)在又有一家初創(chuàng)公司試圖利用這些數(shù)據(jù)來幫助父母選擇一位更好的保姆，并在此過程中賺到一點(diǎn)錢。“

無論這些行動(dòng)如何，關(guān)于自動(dòng)背景調(diào)查合法性的更廣泛的問題仍然懸而未決。一些專家建議，Predictim的軟件可能會(huì)違反州級禁止雇主要求訪問求職者的社交媒體帳戶。其他社交網(wǎng)絡(luò)希望完全阻止這種數(shù)據(jù)抓取。LinkedIn目前正處于與第三方網(wǎng)站HiQ 的法律斗爭中，后者利用其數(shù)據(jù)來預(yù)測員工何時(shí)可能離職。

與此同時(shí)，公司繼續(xù)創(chuàng)建更多基于人工智能的篩選服務(wù)，不僅僅是關(guān)注社交媒體活動(dòng)，還包括其他指標(biāo)，包括個(gè)人的訪談表現(xiàn)。專家擔(dān)心，將關(guān)鍵決策移交給無法解釋其思維或理解人類行為的算法是不明智的，而銷售這些服務(wù)的公司則表示機(jī)器級方法更加詳細(xì)和公正。