機(jī)器學(xué)習(xí)無(wú)處快速移動(dòng)并打破事物

在快速行動(dòng)和打破常規(guī)的口號(hào)早已在科技創(chuàng)業(yè)公司中普及之前，黑客文化已經(jīng)成為軟件工程的命脈[1、2]。從克里斯·拉特納[3]到比爾·蓋茨的計(jì)算機(jī)行業(yè)領(lǐng)導(dǎo)者都講述了他們年幼時(shí)壞壞并重新組裝了收音機(jī)和其他小玩意，最終因其可入侵性而被計(jì)算機(jī)所吸引。如果不是硅谷本身不是由戈登·弗蘭奇(Gordon French)和弗雷德·摩爾(Fred Moore)創(chuàng)辦的“家庭釀造俱樂(lè)部”發(fā)起的黑客道場(chǎng)活動(dòng)，那么它可能永遠(yuǎn)不會(huì)成為世界創(chuàng)新的溫床。

計(jì)算機(jī)程序員仍然通過(guò)遵循行業(yè)公認(rèn)的過(guò)程(例如測(cè)試驅(qū)動(dòng)的開(kāi)發(fā)和敏捷方法論)來(lái)努力快速移動(dòng)和迭代事物，開(kāi)發(fā)和部署可靠，強(qiáng)大的軟件。在一個(gè)理想的世界中，程序員可以遵循這些慣例來(lái)編寫原始軟件。然而時(shí)間就是金錢。在編碼人員可以在發(fā)布之前正確完成軟件開(kāi)發(fā)之前，必須經(jīng)過(guò)激進(jìn)的，由業(yè)務(wù)驅(qū)動(dòng)的截止日期。加上快速發(fā)布和熱修復(fù)(或動(dòng)態(tài)更新功能[4])的現(xiàn)代最佳實(shí)踐，可部署軟件的門檻更低。像Apple這樣的公司甚至以發(fā)布缺少軟件功能的手機(jī)硬件而引以為傲：Deep Fusion 圖像處理是最新iPhone發(fā)行幾個(gè)月后的iOS更新的一部分[5]。

軟件交付變得越來(lái)越快是進(jìn)步的標(biāo)志。軟件仍在吞噬世界[6]。但這也容易受到濫用：快速軟件流程用于發(fā)布修補(bǔ)程序和完成新功能，但也用于發(fā)布不完整的軟件，這些軟件將在以后進(jìn)行修復(fù)。特斯拉已經(jīng)成為“空中飛人”更新的代言人，可以提高駕駛性能和電池容量，或錯(cuò)誤地阻止它們[7]。天真的消費(fèi)者稱贊特斯拉將其帶給老式汽車行業(yè)的技術(shù)至上，軟件優(yōu)先的方法。然而，業(yè)內(nèi)專業(yè)人士批評(píng)特斯拉的魯ck性：在道路上進(jìn)行1800kg的車輛的A / B測(cè)試[8]的風(fēng)險(xiǎn)要比在Facebook上試驗(yàn)新功能的風(fēng)險(xiǎn)稍高。

將Tesla Autopilot和機(jī)器學(xué)習(xí)算法添加到組合中，這將變得更加棘手。從定義上講，機(jī)器學(xué)習(xí)系統(tǒng)是概率性的和隨機(jī)的-在實(shí)時(shí)環(huán)境中進(jìn)行預(yù)測(cè)，做出反應(yīng)和學(xué)習(xí)-更不用說(shuō)到處都是測(cè)試的極端案例和對(duì)無(wú)法預(yù)見(jiàn)的場(chǎng)景的脆弱性。

軟件系統(tǒng)的巨大進(jìn)步使工程師無(wú)論好壞都可以快速，反復(fù)地移動(dòng)。現(xiàn)在，隨著機(jī)器學(xué)習(xí)系統(tǒng)(或“軟件2.0” [9])的巨大進(jìn)步，工程師可以無(wú)縫地構(gòu)建和部署涉及人，機(jī)器和環(huán)境的決策系統(tǒng)。

“當(dāng)前的危險(xiǎn)是工程師的工具集已廣泛可用，但理論上的保證和正確流程的發(fā)展尚未部署。因此，盡管深度學(xué)習(xí)出現(xiàn)在工程專業(yè)的面貌，但它卻缺少一些理論上的檢驗(yàn)，而從業(yè)者冒著跌倒的風(fēng)險(xiǎn)。”

Neil Lawrence，劍橋大學(xué)ML的DeepMind教授

加里·馬庫(kù)斯(Gary Marcus)在他最近的《重新啟動(dòng)AI》[10] 一書(shū)中，在深度學(xué)習(xí)和藥理學(xué)之間進(jìn)行了令人發(fā)指的類比：深度學(xué)習(xí)模型比傳統(tǒng)軟件系統(tǒng)更像藥物。生物系統(tǒng)是如此復(fù)??雜，因此很難完全了解和預(yù)測(cè)藥物的作用。關(guān)于藥物如何起作用的理論可能含糊不清，而且可行的結(jié)果來(lái)自實(shí)驗(yàn)。傳統(tǒng)軟件系統(tǒng)具有確定性和可調(diào)試性(因此非常強(qiáng)大)，而藥物和深度學(xué)習(xí)模型是通過(guò)實(shí)驗(yàn)開(kāi)發(fā)并部署的，而沒(méi)有基本的了解和保證。AI研究過(guò)程通常是先進(jìn)行實(shí)驗(yàn)，然后再證明結(jié)果。它應(yīng)該是假設(shè)驅(qū)動(dòng)的，具有科學(xué)的嚴(yán)格性和徹底的測(cè)試過(guò)程。

“我們?nèi)鄙俚氖且婚T具有分析和設(shè)計(jì)原理的工程學(xué)科。”

邁克爾·喬丹(Michael Jordan)，加州大學(xué)伯克利分校教授[11]

在進(jìn)行土木工程之前，有一些建筑物以不可預(yù)見(jiàn)的方式倒在了地上。如果沒(méi)有經(jīng)過(guò)驗(yàn)證的深度學(xué)習(xí)(以及整個(gè)機(jī)器學(xué)習(xí))工程實(shí)踐，我們將面臨同樣的風(fēng)險(xiǎn)。

也不建議將其極端化?？紤]一下過(guò)去十年中航天器工程的轉(zhuǎn)變：高效的運(yùn)營(yíng)和快速的文化對(duì)SpaceX和其他初創(chuàng)公司(例如Astrobotic，Rocket Lab，Capella和Planet)的成功至關(guān)重要。NASA無(wú)法跟上創(chuàng)新的步伐-而是與太空創(chuàng)業(yè)生態(tài)系統(tǒng)合作并提供支持。盡管如此，機(jī)器學(xué)習(xí)工程師仍然可以從一個(gè)組織中學(xué)到一兩個(gè)東西，該組織在部署新穎技術(shù)以與人類生命息息相關(guān)的大規(guī)模協(xié)調(diào)方面擁有令人難以置信的業(yè)績(jī)。

格蕾絲·霍珀(Grace Hopper)提倡快速行動(dòng)：“這給我?guī)?lái)了我可以給大家的最重要的建議：如果您有一個(gè)好主意，而且是一個(gè)貢獻(xiàn)，我希望您繼續(xù)前進(jìn)并做到這一點(diǎn)。道歉要比獲得許可容易得多。” 希望她的動(dòng)力和意圖不會(huì)對(duì)工程師和科學(xué)家失去。