精明的演講者很有用又有趣 但不要讓他們成為所有知識的女王

幾年前，當(dāng)我們被要求幫助索尼電影公司推廣“生化危機”電影專營權(quán)時，我們想到了將虛構(gòu)的人工智能 角色(紅色女王)變成真正的AI角色的想法 -粉絲可以互動。這個有趣的概念非常成功，但是卻帶來了一些嚴(yán)峻的挑戰(zhàn)，并提醒我們構(gòu)建真正有意義的AI的難度。

創(chuàng)建 AI(包括Alexa這樣的智能揚聲器和Siri這樣的智能手機助手)是具有挑戰(zhàn)性的。這些設(shè)備提供了有用的實用功能，并且很有趣，但是它們是由人類創(chuàng)造和訓(xùn)練的，可能會引起偏差和動力動態(tài)，應(yīng)予以解決。

敬業(yè)度是我們開始使用 Red Queen AI時的目標(biāo)。我們首先收集該系列電影的作家創(chuàng)作的所有劇本。我們訓(xùn)練了AI使用自然語言處理技術(shù)來學(xué)習(xí)角色，然后生成了完全由AI編寫的新對話，以查看其工作原理。

前幾個AI輸出是一場噩夢。該模型中沒有足夠的訓(xùn)練數(shù)據(jù)，因此該角色的新AI版本過于激進。我們需要更多數(shù)據(jù)來減輕惡劣的反派角色，使其能夠為更廣泛的受眾服務(wù)。

影片角色的口號是“你們都將在這里死去”，但AI的第一個版本無法完全正確。它給我們帶來了一些非常有趣的結(jié)果，包括“您必須死”和“您的死亡就在這里”。您可能會想到，這可能會因上下文而有些沉重，并且可能會阻礙我們接觸尚未出現(xiàn)的新受眾的能力?？催^以前的電影。

為了增加更多的訓(xùn)練數(shù)據(jù)并使AI更智能，我們決定利用Charles Dickens和Shakespeare等作家的文獻，以便AI可以借鑒經(jīng)典反派的更溫和的交流方式。然后，我們增加了警方與罪犯的交往中的真實對話，以提供更多的真實感和現(xiàn)代的交流，以及使用精神藥物的人講述他們所見事物的實例，最終提供了一些頗具創(chuàng)造性的對話。

我們進行了培訓(xùn)和再培訓(xùn)，最后確定了AI的輸出結(jié)果：“我不確定我是否已經(jīng)和您一起玩了。”這樣的話會顯得更加有趣，而不是那么有害。加上它在參與的背景下工作，使人們可以重新參與游戲。

每個人都對最終結(jié)果感到滿意，并且這款游戲大受歡迎。但重要的是要注意，我們在決定使用哪些訓(xùn)練數(shù)據(jù)方面存在偏見。作家關(guān)于什么才是好壞人的決定有偏見。當(dāng)目標(biāo)是時，所有這些有偏見的偏見都可以-但在由語音助手管理的更嚴(yán)肅的對話(例如醫(yī)療保健，財務(wù)和營養(yǎng))上，應(yīng)謹(jǐn)慎對待。

AI助手的創(chuàng)建者，通常是一群勻稱的小人物，他們決定對數(shù)十億人來說正確的(或最準(zhǔn)確的)答案是什么。這些隨意的陳述使AI助手的用戶可能將福音視為現(xiàn)實的歪曲事實。

例如，一年多以前，亞歷克斯(Alexa)被指控存在 自由主義偏見。去年1月， 當(dāng)有人問Google Home耶穌是誰而設(shè)備無法回答但可以告訴用戶佛陀是誰的時候，一段 視頻開始傳播開來。該公司解釋說，它不允許設(shè)備回答問題，因為一些答案來自網(wǎng)絡(luò)，這可能會促使基督徒做出不敬的回應(yīng)。

隨著智能揚聲器的使用不斷增長，人們的期望也越來越高。 根據(jù)“智能音頻報告”，從2017年12月到2018年12月，美庭中的智能揚聲器數(shù)量增長了 78%，達(dá)到1.185億個。但是，用戶需要注意AI平臺的工作方式。

畢竟，當(dāng)一臺設(shè)備(因此，一家公司)擁有獲取外部知識的道路時，該公司可以出于自己的利益采取不道德的行動。

例如，如果我要求Siri播放披頭士樂隊的歌曲，則該設(shè)備可能會自動播放Apple Music而不是我的Spotify庫中的歌曲?；蛘呶铱赡軙驛lexa訂購AA電池，而Alexa可以很高興地訂購 亞馬遜自有品牌。

在應(yīng)該使消費者受益的競爭的自由市場中，這些缺陷可能會構(gòu)成重大障礙?？梢韵胂螅瑩碛邪l(fā)言人的公司可以獲得比以往更多的商業(yè)控制權(quán)。

為此，用戶對AI設(shè)備的請求應(yīng)盡可能透明。例如，“更詳盡的說明”是“在Spotify上播放披頭士樂隊”或“訂購最便宜的AA電池”。用戶越了解公司如何與他們互動，他們越能在保持環(huán)境控制的同時享受AI助手的好處。

您還可以在購買商品時要求AI設(shè)備與特定公司進行通信。例如，百思買提供的獨家交易只有在通過智能揚聲器訂購時才能獲得。您還可以獲取訂單更新，客戶服務(wù)需求幫助以及新版本的更新。

用戶應(yīng)該記住，人工智能助手是工具，他們需要考慮如何管理它們，以獲得良好的體驗。

如果助手讓他們感到不舒服，則用戶應(yīng)報告響應(yīng)，以便這些設(shè)備和技能的制造者可以改善每個人的體驗。自然語言處理需要考慮的重點，因為潛在的好處與發(fā)生錯誤的責(zé)任一樣重要。

至于我們的自然語言處理和Red Queen，我們發(fā)現(xiàn)一些用戶在晚上以“ Good night，Red Queen”簽字，這表明她最終并不太積極。