教授今天的AI學(xué)生成為明天的道德領(lǐng)袖：張焱訪談錄

一些最偉大的科學(xué)家和未來的發(fā)明家現(xiàn)在坐在高中課堂上，通過微積分微笑，熱切地等待世界頂尖大學(xué)的一年級學(xué)生。他們可能已經(jīng)贏得了數(shù)學(xué)奧林匹克運動會或發(fā)明了聰明的新互聯(lián)網(wǎng)應(yīng)用程序。我們知道這些學(xué)生很聰明，但他們是否準(zhǔn)備負(fù)責(zé)任地指導(dǎo)技術(shù)的未來?

開發(fā)安全和有益的技術(shù)需要的不僅僅是技術(shù)專業(yè)知識 - 它需要全面的教育和理解其他觀點的能力。但是，由于數(shù)學(xué)和理科學(xué)生必須花費大量時間從事技術(shù)工作，他們往往缺乏理解他們的發(fā)明如何影響社會所需的技能和經(jīng)驗。

這些教育差距可能會成為問題，因為人工智能在我們的生活中扮演著更重要的角色人工智能研究正在年輕的計算機科學(xué)家中蓬勃發(fā)展，這些學(xué)生需要了解他們的創(chuàng)新所帶來的復(fù)雜的道德，治理和安全挑戰(zhàn)。

SPARC

2012年，一群人工智能研究人員和安全倡導(dǎo)者--Paul Christiano，Jacob Steinhardt，Andrew Critch，Anna Salamon和Yan Zhang--創(chuàng)建了應(yīng)用理性與認(rèn)知暑期課程(SPARC)，以解決數(shù)量眾多的青少年問題。 ，包括AI中的教育差距問題。正如所有技術(shù)一樣，他們解釋說，人工智能社區(qū)越是由思想敏捷，聰明，寬廣的推理者組成，人工智能就越有可能以安全和有益的方式發(fā)展。

每年夏天，SPARC創(chuàng)始人都會邀請30-35名數(shù)學(xué)天才的高中生參加他們?yōu)槠趦芍艿恼n程。SPARC的主任張解釋說：“我們的目標(biāo)是建立一個強大的社區(qū)，讓這些學(xué)生接觸到他們不會在課堂上得到的想法 - 成為當(dāng)今世界中數(shù)量上強大的青少年的盲點，如移情和社會動態(tài)?？偟膩碚f，我們希望讓他們成為能夠為世界帶來積極變化的更強大的人。“

為了幫助學(xué)生產(chǎn)生積極影響，SPARC講師教授有效利他主義(EA)的核心思想。“我們有很多關(guān)于EA的談話，但我們不會讓學(xué)生成為EA，”張說。“我們向他們展示好的想法，我認(rèn)為這是一種更健康的指導(dǎo)方式。”

SPARC還向?qū)W生展示機器學(xué)習(xí)，人工智能安全和存在風(fēng)險。在2016年和2017年，他們就這些主題舉辦了10多個課程，包括：Jacob Steinhardt教授的“機器學(xué)習(xí)”和“Tensorflow”，Paul Christiano教授的“不負(fù)責(zé)任的未來主義”和“有效的做好”，“優(yōu)化”由John Schulman和Michael Webb教授的“人工智能和自動化的長期思考”。

但是，SPARC教練也沒有將學(xué)生推向AI路徑。相反，他們鼓勵學(xué)生應(yīng)用SPARC的整體培訓(xùn)，以在任何領(lǐng)域產(chǎn)生更積極的影響。

關(guān)于保證金的思考：社會技能的作用

要產(chǎn)生最積極的影響，需要考慮邊際問題，并要求：哪一個額外的知識單元最有助于產(chǎn)生積極影響?對于這些學(xué)生來說，他們中的大多數(shù)都贏得了數(shù)學(xué)和計算奧林匹克運動會，通常不會有更多的數(shù)學(xué)。

“許多具有數(shù)學(xué)頭腦的學(xué)生的弱點是社交技能或與人有充分的爭論，”張說。“因為要有影響力，你需要你的定量技能，但你也需要能夠與人交往。”

為了應(yīng)對這種弱點，他教授社交技巧和信號方面的課程，并偶爾引領(lǐng)即興游戲。SPARC仍然教授大量的數(shù)學(xué)知識，但張更有興趣解決這些學(xué)生的教育盲點 - 教師們自己作為學(xué)生的盲點。“什么會讓我們更具有影響力的個人，而且在很多方面也會更加完整和更加人性化?”他問道。

與非數(shù)學(xué)學(xué)生一起工作可以提供幫助，因此張和他的同事們已經(jīng)嘗試將優(yōu)秀的作家和原創(chuàng)思想家?guī)朐撚媱潯?ldquo;我們一直與這些學(xué)生取得了非常好的成績，因為他們帶來了數(shù)學(xué)奧林匹克運動員孩子所沒有的東西，”張說。

SPARC還通過開放慈善項目，OpenAI，Dropbox和Quora等學(xué)術(shù)界和組織的嘉賓發(fā)言人拓寬了學(xué)生的視野。在一次演講中，Dropbox工程師Albert Ni向SPARC學(xué)生講述了“數(shù)學(xué)人在以后的生活中嘗試做事時常犯的錯誤”。

在另一個成功的實驗中，SPARC校友Ofer Grossman現(xiàn)在是一名工作人員，SPARC在2017年將所有課程中的一半選為可選課程。由于學(xué)生對文化的欣賞，課程仍然很緊張。創(chuàng)始人還同意課后的談話往往比課堂更有影響力，因此一對一時間和課堂討論進(jìn)行了一致。他們在邊緣思考時問道：“學(xué)校里有什么令人難忘的東西?有什么好的部分?我們可以做更多這些而不是其他的嗎?“

最重要的是，SPARC培養(yǎng)了一種開放，好奇和責(zé)任感的文化。該項目固有的“認(rèn)知消除” - 了解選擇偏差和確認(rèn)偏差等常見偏差，并對其進(jìn)行糾正。“我們非常明確地在彼此的互動中做了大量的去偏見，”張說。“我們也有關(guān)于認(rèn)知偏見的課程，但文化是更重要的部分。”

AI研究和未來領(lǐng)導(dǎo)者

設(shè)計安全和有益的技術(shù)需要技術(shù)專業(yè)知識，但在SPARC看來，培養(yǎng)整體研究文化同樣重要。今天的優(yōu)秀學(xué)生可能會在未來取得一些最重要的人工智能突破，他們的價值觀，教育和氣質(zhì)將在確保高級人工智能安全部署和共同利益方面發(fā)揮關(guān)鍵作用。

“這在人工智能之外也很重要，”張解釋道。“SPARC官方的立場是讓這些學(xué)生成為他們社區(qū)的未來領(lǐng)導(dǎo)者，無論是AI，學(xué)術(shù)界，醫(yī)學(xué)還是法律。然后，這些領(lǐng)導(dǎo)人可以互相交談，成為盟友，而不是擁有一堆分散的，狹隘的紀(jì)律。“

隨著SPARC接近第7年，一些校友已經(jīng)開始產(chǎn)生影響。一些面向AI的校友最近成立了AlphaSheets--一個用于融資的協(xié)作式可編程電子表格，不易出錯 - 而其他學(xué)生正在與硅谷的人們一起領(lǐng)導(dǎo)一個“黑客之家”。此外，SPARC啟發(fā)了ESPR的創(chuàng)建，ESPR是一個明確專注于AI風(fēng)險的類似歐洲計劃。

但大多數(shù)影響都不那么明顯。“對不同事物感興趣的不同人群一直在與SPARC的資源合作，他們正在組建許多社會團(tuán)體，”張解釋說。“這就像一堆小小的火花，我們不知道它們會變成什么樣，但我對未來五年的表現(xiàn)非常興奮。”