FTC關(guān)于使用人工智能和算法的提示

人工智能技術(shù)可能看起來是客觀且無偏見的，但是FTC警告可能會產(chǎn)生不公平或歧視性的結(jié)果，或者永久存在現(xiàn)有的社會經(jīng)濟(jì)差異。例如，聯(lián)邦貿(mào)易委員會(FTC)指出，意圖良好的算法可用于做出積極的決定，但結(jié)果可能會無意間不成比例地影響特定的少數(shù)群體。

FTC不想誤導(dǎo)消費(fèi)者。它提供了以下示例：“如果公司使用doppelgängers(無論是假的約會個(gè)人資料，虛假的追隨者，深造假貨還是AI聊天機(jī)器人)誤導(dǎo)消費(fèi)者，該公司可能會面臨FTC強(qiáng)制執(zhí)行的行動。”

企業(yè)從第三方消費(fèi)者報(bào)告機(jī)構(gòu)(CRA)獲得AI數(shù)據(jù)，并根據(jù)州和聯(lián)邦《公平信用報(bào)告法》(FCRA)法律對此做出決策，具有特殊的義務(wù)。根據(jù)FCRA，將“收集”消費(fèi)者信息以自動進(jìn)行有關(guān)信貸，就業(yè)，保險(xiǎn)，住房或類似福利和交易資格的決策的供應(yīng)商稱為“消費(fèi)者報(bào)告機(jī)構(gòu)”。依賴于基于第三方供應(yīng)商信息的自動化決策的雇主是該信息的用戶。作為用戶，如果企業(yè)對消費(fèi)者采取不利行動，則必須向消費(fèi)者提供FCRA要求的“不利行動通知”。通知的內(nèi)容必須適合不良行為，并且可能包含包含AI信息的“消費(fèi)者報(bào)告”的副本，聯(lián)邦權(quán)利摘要和其他信息。作為CRA的賣方有義務(wù)執(zhí)行合理的程序，以確保消費(fèi)者報(bào)告的最大可能準(zhǔn)確性，并為消費(fèi)者提供訪問其自身信息以及糾正任何錯(cuò)誤的能力。FTC正在尋求透明度，并能夠根據(jù)消費(fèi)者的要求提供解釋清楚的AI決策的能力。

雇主要點(diǎn)

仔細(xì)檢查AI的使用，以確保不會導(dǎo)致歧視。根據(jù)聯(lián)邦貿(mào)易委員會的說法，出于信譽(yù)目的，使用郵政編碼等算法可能會對特定的受保護(hù)群體產(chǎn)生不同的影響。

數(shù)據(jù)的準(zhǔn)確性和完整性是關(guān)鍵。

AI模型的驗(yàn)證對于最大程度地降低風(fēng)險(xiǎn)很重要。驗(yàn)證后監(jiān)視和定期重新驗(yàn)證也很重要。

審查聯(lián)邦和州FCRA法律是否適用。