在即時和長期人工智能安全工作之間是否存在權衡

我經(jīng)常在機器學習社區(qū)和媒體文章中聽到的一點是“對超級智能的擔憂會分散我們今天面對人工智能的真實問題X”(其中X =算法偏差，技術失業(yè)，可解釋性，數(shù)據(jù)隱私，等等)。這種競爭態(tài)度給人的印象是，直接和長期的安全問題都存在沖突。但他們之間真的存在權衡嗎?

我們可以更具體地提出這個問題：這兩種類型的努力可能會爭奪哪些資源?

媒體關注。鑒于媒體對人工智能的興趣濃厚，有很多關于所有這些問題的文章。關于高級人工智能安全的文章大多是危言聳聽的終結者，他們忽略了問題的復雜性?？梢岳斫獾氖牵@讓許多人工智能研究人員感到惱火，并且他們中的一些人基于媒體中提出的漫畫而不是真正的論點來解雇這些風險。媒體關注對高級AI風險的總體影響非常不利。如果媒體完全停止撰寫有關超級智能的文章并關注當今人工智能系統(tǒng)的安全和道德問題，我將非常高興。

資金。高級人工智能安全工作的大部分資金目前來自對這些問題特別感興趣的捐助者和組織，如開放慈善項目和伊隆馬斯克。他們不太可能資助那些不能推廣到高級人工智能系統(tǒng)的安全工作，因此他們對高級人工智能安全研究的捐款并沒有從即時問題中獲取資金。相反，F(xiàn)LI的第一個撥款計劃為當前的人工智能問題(如經(jīng)濟和法律影響)提供了一些資金。沒有一個固定的資金來源，即時和長期的安全性正在競爭 - 它更像是兩個不重疊的餡餅。進入這兩個領域的資金越來越多，希望這種趨勢將繼續(xù)下去。

天賦。近年來，先進的人工智能安全領域不斷發(fā)展，但仍然非常小，研究人員開展研究所產(chǎn)生的“人才流失”迄今為止微不足道。處理當前和長期問題的動機也往往不同，這些問題往往會吸引不同類型的人。例如，主要關心社會正義的人更有可能研究算法偏差，而主要關心長期未來的人更有可能處理超級智能風險。

總體而言，在資金或人才方面似乎沒有太大的權衡，媒體關注權衡可以(理論上)通過將基本上所有的廣播時間用于當前的關注來解決。這些問題不僅沒有沖突 - 解決這些問題之間存在協(xié)同作用。兩者都受益于在人工智能研究社區(qū)培養(yǎng)關注社會影響和積極主動地應對風險的文化。一些安全問題在近期和長期都非常重要，例如可解釋性和對抗性的例子。我認為我們需要更多人為當前系統(tǒng)解決這些問題，同時考慮到更高級的未來系統(tǒng)的可擴展性。

人工智能的安全問題對于討論會因“我的問題比你的問題更好”這樣的地位競賽而變得非常重要。這種錯誤的二分法本身就分散了人們的共同目標，即確保人工智能對現(xiàn)在和將來的世界產(chǎn)生積極影響。關心當前和未來人工智能系統(tǒng)安全的人是天生的盟友 - 讓我們在實現(xiàn)這一共同目標的道路上相互支持。

文明的大部分好處都源于智力，那么我們?nèi)绾尾拍芡ㄟ^人工智能增強這些好處，而不是在就業(yè)市場上取而代之，而且可能完全取而代之?