我們的辯論教給我們關(guān)于AI和機(jī)器人的內(nèi)容

今年在SXSW，我們向節(jié)日觀眾展示了“極端之戰(zhàn)：人工智能主持人辯論”。它背后的想法是探索使用AI機(jī)器人跟隨我們時(shí)代的一些最大問題的對(duì)話的可能性，并呼吁任何極端思考，絕對(duì)主義，高情緒和積極性與消極性。從數(shù)據(jù)保護(hù)和隱私到個(gè)性化和道德，元扭曲是這些是人工智能本身存在的一些核心爭論。

這個(gè)想法首先出現(xiàn)在機(jī)構(gòu)內(nèi)部不同的談話中。在Karmarama，我們的口頭禪是“好作品”，我們的客戶工作和文化遵循這一信條。對(duì)于這個(gè)想法，我們想用技術(shù)做一些有趣的事情并自信地問自己，它有用嗎?它能做的不僅僅是省錢和削減成本嗎?毫無疑問，這些是與新興技術(shù)合作的良好商業(yè)原因，但我們希望進(jìn)一步發(fā)展。

在SXSW所代表的推動(dòng)下，我們相當(dāng)容易地討論了辯論的形式：各種主題的融合以及討論它們的各種各樣的人。我們研究了人工智能，因?yàn)樗悄壳按嬖诘淖盍钊伺d奮和最有前景的技術(shù)之一，而且仍然處于相對(duì)的初級(jí)階段。

我們想探討是否有可能證明或反駁AI在社會(huì)中的用處。因此，我們著手進(jìn)行一項(xiàng)實(shí)驗(yàn)，探討它是否具有社會(huì)積極性。我們研究了人工智能如何在辯論中發(fā)揮作用; 我們與舞臺(tái)上的人類主持人合作，賦予其分析，可視化和調(diào)節(jié)辯論的作用。在我之后，團(tuán)隊(duì)決定對(duì)機(jī)器人進(jìn)行建模。他們告訴我，本著展示人與機(jī)器如何協(xié)同工作的精神，但在你自己接受采訪之前，不要告訴我這不是一點(diǎn)奇怪。

然而，格式并不完全正確。問題在于辯論的二元性質(zhì)。一方贏得了爭論，另一方輸了。我們想要實(shí)現(xiàn)的是建設(shè)性對(duì)話，所以要做到這一點(diǎn)，小組成員需要從他們不同的觀點(diǎn)出發(fā)。Jon-Bot的工作是幫助他們和觀眾看到不同的觀點(diǎn)，以及他們?cè)谟^點(diǎn)上分歧的地方。我們不想使用技術(shù)來強(qiáng)制達(dá)成共識(shí)，而是幫助雙方找到共同點(diǎn)。

我們自己建造了機(jī)器人。我們的出發(fā)點(diǎn)是搜索現(xiàn)有服務(wù)。亞馬遜，微軟和IBM都為不同的任務(wù)提供現(xiàn)成的語音到文本，自然語言處理，機(jī)器學(xué)習(xí)和情感分析功能，這適合我們構(gòu)建可以實(shí)時(shí)分析對(duì)話的AI的挑戰(zhàn)在談?wù)摰闹黝}和相關(guān)內(nèi)容，內(nèi)容的廣度，顯示的情感和內(nèi)容的準(zhǔn)確性。在分析辯論者如何相互作用時(shí)，我們需要看看他們是在融合還是分歧，以及他們找到共同點(diǎn)的主題。

我們與埃森哲在都柏林碼頭的團(tuán)隊(duì)密切合作，專門研究應(yīng)用智能。他們開始創(chuàng)建一個(gè)定制的AI平臺(tái)來執(zhí)行所需的任務(wù)，與我們的研究和見解團(tuán)隊(duì)密切合作，他們收集了關(guān)于辯論主題的數(shù)據(jù)語料庫。

在我們的實(shí)驗(yàn)開始時(shí)，在我們的腦海中，AI就像人一樣，具有廣泛的知識(shí)。我們的期望是它能夠理解正在發(fā)生的事情并做出回應(yīng)。這被稱為“一般情報(bào)”，但它在AI中并不存在。當(dāng)機(jī)器學(xué)習(xí)超越人類的理解時(shí)，發(fā)生這種情況的點(diǎn)就是所謂的“奇點(diǎn)”。對(duì)于未來學(xué)家來說，這是一個(gè)激動(dòng)人心的幻想，但這就是現(xiàn)在的全部。

對(duì)于我們的機(jī)器人，我們不得不考慮大刀闊斧。如果我們訓(xùn)練AI來理解關(guān)于社會(huì)的辯論的主題，那么實(shí)現(xiàn)這一目標(biāo)的最簡單方法是通過模式識(shí)別。這導(dǎo)致了進(jìn)一步的考慮。AI事實(shí)可以檢查嗎?它是如何知道什么是真的?它是如何與它認(rèn)為真實(shí)的來源相匹配的事實(shí)?你如何識(shí)別這些主題?

有一種常見的誤解，你可以將機(jī)器學(xué)習(xí)設(shè)置為一項(xiàng)任務(wù)，它可以將其排序 - 有點(diǎn)像使用谷歌搜索。例如，要求它在網(wǎng)上搜索關(guān)于數(shù)據(jù)和社會(huì)的辯論，并在這些主題中進(jìn)行自我訓(xùn)練。對(duì)于我們使用該技術(shù)的地方來說，這根本不可能。只有當(dāng)人類識(shí)別并整理信息然后輸入算法時(shí)才有可能。這對(duì)許多人來說是一次大規(guī)模的學(xué)習(xí) - 項(xiàng)目花費(fèi)的大部分時(shí)間都是訪問數(shù)據(jù)并組織它，因此機(jī)器學(xué)習(xí)可以用它來做些什么。

作為我們構(gòu)建過程的一部分，我們進(jìn)行了大量的研究，以了解圍繞人工智能和社會(huì)的爭論，找到我們用來教育我們機(jī)器人的辯論。在眾多主題中，我們探討了一些主題：

人與機(jī)器 - 技術(shù)應(yīng)該增強(qiáng)人類。但是媒體和其他壓力團(tuán)體并不缺乏隨意的恐慌。我們發(fā)現(xiàn)有許多相關(guān)的機(jī)構(gòu)，政府和組織，并且正在為這個(gè)重要問題投入高質(zhì)量的研究工作

濫用商業(yè)機(jī)構(gòu)的權(quán)力 - 如果期望對(duì)AI的投資從長遠(yuǎn)來看會(huì)產(chǎn)生商業(yè)利益，那對(duì)社會(huì)是好還是壞?那怎么控制呢?法規(guī)或法律在何處進(jìn)入?另一方面，隨著人們對(duì)政府的信任度越來越低，大企業(yè)在事實(shí)上的作用就是善用他們的權(quán)力。這超越了“綠色環(huán)保” - 看看聯(lián)合利華的可持續(xù)生活品牌，這是一個(gè)通過做好事來看到增長的企業(yè)的一個(gè)很好的例子

對(duì)排斥和偏見的恐懼 - 誰在訓(xùn)練人工智能，他們是否有能力不偏不倚?你如何讓AI公平?亞馬遜不得不拔出插頭去年對(duì)有偏見的女性申請(qǐng)人招聘工具

失去隱私 - 要真正智能化，機(jī)器學(xué)習(xí)需要知道一切 - 那么你如何解決這個(gè)問題呢?是通過匿名數(shù)據(jù)嗎?

人力資源機(jī)構(gòu) - 機(jī)器學(xué)習(xí)越多，你就越能剝奪人類的權(quán)力，因?yàn)樗麄冊(cè)絹碓揭蕾嚰夹g(shù)

我們還研究了解決方案領(lǐng)域 - 從人類合作到道德政策和民主保障。很明顯，教育將發(fā)揮核心作用。每個(gè)人都需要了解技術(shù)及其潛力，以便他們了解相關(guān)風(fēng)險(xiǎn)。我們學(xué)到的最有前途的解決方案之一是開發(fā)機(jī)器學(xué)習(xí)的協(xié)作流程。以醫(yī)療保健為例，您可以通過社區(qū)優(yōu)化該領(lǐng)域的機(jī)器學(xué)習(xí)：邀請(qǐng)社區(qū)成員幫助進(jìn)行檢查和平衡以消除偏見。

到了表演的時(shí)候，我們從機(jī)器人那里學(xué)到了很多東西。在辯論之后，它聽取了這些主題的有趣工作。辯論者發(fā)現(xiàn)的是，當(dāng)你處于討論的核心時(shí)，你并不總是意識(shí)到你正在插入多個(gè)元主題。我們使用語音到文本功能實(shí)時(shí)轉(zhuǎn)錄辯論，AI從中分析了主題并突出了主題領(lǐng)域。我們還訓(xùn)練AI識(shí)別表達(dá)說話者情緒的短語和單詞 - 例如，他們是否感到高興，震驚或生氣。它還指出了任何可疑或不正確的事實(shí); 這種效果令人尷尬，因?yàn)樗鼘?duì)我們的辯手來說很有教育意義。

我們的研究向我們展示了圍繞這項(xiàng)技術(shù)的討論正朝著同一方向發(fā)展：走向合作 - 這是一種令人放心的想法。有很多倡議使用人工智能，例如Colorintech關(guān)注包含偏見和ProPublica 對(duì) COMPAS 偏見的調(diào)查。但是我們通過像我們這樣的項(xiàng)目來理解的是，這些應(yīng)用需要展示更多的解決方案并提出難題，比如我們?nèi)绾螢樯鐣?huì)做出貢獻(xiàn)。只有這樣，我們才能加深知識(shí)，理解我們的極限。