Instagram使用人工智能來(lái)減少攻擊性的帖子標(biāo)題

Instagram正在利用人工智能減少其平臺(tái)上的攻擊性字幕數(shù)量。該公司已經(jīng)使用了這項(xiàng)技術(shù)，以努力讓用戶自我保護(hù)他們?cè)谔由狭粝碌脑u(píng)論。人工智能通過(guò)警告用戶，他們的評(píng)論可能對(duì)那些閱讀它的人有害

Instagram允許用戶報(bào)告包括欺凌在內(nèi)的各種問(wèn)題的評(píng)論。這些報(bào)告被審查，要么被駁回，要么被采取行動(dòng)，然后用這些數(shù)據(jù)來(lái)訓(xùn)練平臺(tái)的反騷擾人工智能系統(tǒng)。

利用這一技術(shù)和現(xiàn)有的人類報(bào)告，Instagram可以自動(dòng)檢測(cè)到類似于人類報(bào)告的新評(píng)論。人工智能產(chǎn)生一個(gè)提示，鼓勵(lì)用戶審查，并在必要時(shí)編輯他們的評(píng)論，使其不那么冒犯。

現(xiàn)在正在使用同樣的技術(shù)來(lái)審查帖子上的標(biāo)題。假設(shè)系統(tǒng)被絆倒，Instagram應(yīng)用程序?qū)⑻嵝延脩羲麄兊臉?biāo)題可能是有害的，讓他們有機(jī)會(huì)在發(fā)布帖子之前編輯文本。然而，Instagram并不要求對(duì)標(biāo)題進(jìn)行編輯。

對(duì)于許多Instagram用戶來(lái)說(shuō)，字幕警報(bào)從今天開(kāi)始是現(xiàn)場(chǎng)直播的，盡管公司需要幾個(gè)月的時(shí)間才能向每個(gè)人推出這個(gè)系統(tǒng)。雖然用戶可以選擇發(fā)布標(biāo)題，即使它收到警告，Instagram提醒用戶，他們必須遵循公司的規(guī)則，以避免他們的帳戶面臨風(fēng)險(xiǎn)。