微軟對(duì)聊天機(jī)器人的攻擊深表歉意

舊金山--微軟(Microsoft)對(duì)其叛逆的人工智能聊天機(jī)器人泰(Tay)“對(duì)無(wú)意中的攻擊性和傷害性推文深感遺憾”。Tay在生命一天后于周四突然離線。

微軟研究公司(Microsoft Research)副總裁彼得·李(Peter Lee)周五在博客上寫道，該公司表示，在工程師們能夠更好地為黑客制定更好的計(jì)劃、“惡意意圖與我們的原則和價(jià)值觀相沖突”之后，他們將讓泰復(fù)出

泰在周三的發(fā)布會(huì)上幾乎沒(méi)有大張旗鼓。這項(xiàng)實(shí)驗(yàn)針對(duì)的對(duì)象是18到24歲的年輕人，他們通過(guò)文本、Twitter和Kik進(jìn)行交流，其人工智能任務(wù)主要是讓社交用戶參與對(duì)話。Tay模仿了中國(guó)成功推出的聊天機(jī)器人--小車，這顯然沒(méi)有受到4000萬(wàn)用戶的歡迎，這篇文章指出。

但在美國(guó)上市后不久，Tay遭到黑客攻擊，并開(kāi)始進(jìn)行攻擊性對(duì)話，促使微軟停止使用這款電腦。李明博寫道：“盡管我們已經(jīng)準(zhǔn)備好應(yīng)對(duì)各種濫用該系統(tǒng)的行為，但我們對(duì)這一具體的攻擊做出了重大疏忽。結(jié)果，泰在推特上發(fā)表了非常不恰當(dāng)、應(yīng)受譴責(zé)的言論和圖像。我們對(duì)沒(méi)有提前看到這種可能性承擔(dān)全部責(zé)任?！?/p>

微軟揚(yáng)克斯A.I.聊天機(jī)器人在種族誹謗之后

隨著計(jì)算能力繼續(xù)以指數(shù)級(jí)增長(zhǎng)，人工智能正獲得發(fā)展勢(shì)頭。盡管最先進(jìn)的人工智能設(shè)備仍掌握在IBM(Watson)和谷歌(Google)等大公司手中，但科技企業(yè)家們渴望將Siri和Cortana等基本系統(tǒng)提升到更高的預(yù)測(cè)水平。Siri的創(chuàng)始人達(dá)格·基特勞斯(DagKittlaus)正致力于一項(xiàng)名為viv的后續(xù)工作，承諾將擁有“思考”屬性。

并不是每個(gè)人都對(duì)機(jī)器獲得像人類一樣的推理能力的前景感到興奮。特斯拉創(chuàng)始人埃隆·馬斯克(ElonMusk)繼續(xù)警告機(jī)器人的崛起。微軟的李暗示，這并不是一帆風(fēng)順的，正如泰的弱點(diǎn)所顯示的那樣。

他寫的"展望未來(lái)，我們面臨著一些棘手的問(wèn)題--人工智能設(shè)計(jì)中的研究挑戰(zhàn)，"."我們將盡一切可能限制技術(shù)漏洞，但也知道我們無(wú)法完全預(yù)測(cè)所有可能的人類交互錯(cuò)誤，而不會(huì)從錯(cuò)誤中吸取教訓(xùn)。我們將繼續(xù)堅(jiān)定地努力從這一經(jīng)驗(yàn)和其他經(jīng)驗(yàn)中汲取教訓(xùn)，因?yàn)槲覀兣Υ龠M(jìn)一種代表人類的最好、而不是最差的互聯(lián)網(wǎng)。"

關(guān)注今日美國(guó)科技記者馬爾科德拉卡瓦在Twitter上：@marcodellacava