預(yù)測人工一般智能的未來

CBS新聞和CNET高級制片人Dan Patterson采訪了世界經(jīng)濟(jì)論壇主任Murat Sonmez，介紹了人工綜合智能的未來。 以下是經(jīng)過編輯的采訪記錄。

穆拉特·桑梅茲：很難預(yù)測。 許多像OpenA I這樣的倡議都在用微軟的10億美元投資來解決這個問題。 問題是，在那之前，我們做了什么？ 因?yàn)檫@些威脅-這些算法-不是人類寫的，它是從數(shù)據(jù)中派生出來的，我們需要確保數(shù)據(jù)足夠多樣化，它不會放大我們在這個社會中已經(jīng)存在的偏見，它來自真實(shí)的來源，而不是假數(shù)據(jù)。

假設(shè)我們有它，但也有一個真正的機(jī)會，這些算法將做一些有害或不道德的事情，因?yàn)槲覀儧]有控制它。 問題是，我們?nèi)绾畏乐顾：ι鐣?/p>

我們回顧了技術(shù)史和工業(yè)革命，并說：“這個問題以前解決過嗎？” 當(dāng)我們從蒸汽變成電的時候。 工廠在19世紀(jì)末、20世紀(jì)初采用了電力，由于電壓沒有調(diào)節(jié)，它引起了各種火災(zāi)。 的保險公司受夠了賠償損失，他們發(fā)現(xiàn)了由愛迪生發(fā)明的斷路器，但沒有標(biāo)準(zhǔn)，所以他們創(chuàng)建了承銷商實(shí)驗(yàn)室，一個俘虜?shù)纳眢w，他們告訴工廠老板，‘如果你不使用UL認(rèn)證的斷路器，我們就不會為你投保。’ 這就是我們在世界上有安全電力的原因。 這就是拍攝和廣播的方式。

我們說，我們能做同樣的事嗎？ 我們有一個倫理轉(zhuǎn)換的概念，在這里定義他們的倫理規(guī)則。 我們把這些規(guī)則下載到智能設(shè)備上。 當(dāng)他們被要求做一些有害的事情時，開關(guān)會說不。

制造商喜歡它，因?yàn)樗o了他們一個安全的方法來規(guī)模技術(shù)。 政府喜歡它，因?yàn)樗o了他們一種盡量減少傷害的方法。 保險公司喜歡它，因?yàn)樗麄兛梢詫懕蝸韽?qiáng)制使用這種道德轉(zhuǎn)換。 在AGI發(fā)生之前，我們希望為有害的行為創(chuàng)建斷路器。