微軟可能會創(chuàng)建天網(wǎng)說研究

星期三，在日內(nèi)瓦舉行的“聯(lián)合國某些常規(guī)武器公約”上，一個政府專家小組就有關(guān)致命自主武器的政策選擇進(jìn)行了辯論。

荷蘭非政府組織Pax創(chuàng)建了一份報告，調(diào)查了該部門的主要參與者對致命自主武器的看法。他們根據(jù)3個標(biāo)準(zhǔn)??對公司進(jìn)行了分類：他們是否正在開發(fā)可能與致命AI相關(guān)的技術(shù)，從事相關(guān)軍事產(chǎn)品的工作，以及他們是否承諾在未來放棄做出貢獻(xiàn)。

根據(jù)這些標(biāo)準(zhǔn)，微軟在天網(wǎng)排名的發(fā)源地得分相當(dāng)高。微軟已經(jīng)投入大量資金開發(fā)人工智能產(chǎn)品，與美國軍方有著非常密切的關(guān)系，而Satya Nadella則致力于為軍方提供最好的技術(shù)。雖然微軟未能明確開發(fā)用于軍事目的的人工智能，但我們知道他們已經(jīng)為軍隊(duì)開發(fā)了一種版本的HoloLens，專門用于增加戰(zhàn)場上士兵的殺傷力。

對于微軟來說，美國軍隊(duì)很可能成為一個關(guān)鍵的增長領(lǐng)域。

雖然它可能還沒有被授予，但微軟可能會贏得100億美元的國防部JEDI合同。

周三，加州大學(xué)伯克利分校的計(jì)算機(jī)科學(xué)教授Stuart Russell告訴法新社：

任何目前都是武器的人，人們正在研究自主版本，無論是坦克，戰(zhàn)斗機(jī)還是潛艇。

自主武器將不可避免地成為可擴(kuò)展的大規(guī)模殺傷性武器，因?yàn)槿绻祟惒辉谘h(huán)中，那么一個人就可以發(fā)射一百萬件武器或一億枚武器。

事實(shí)上，自主武器將由公司發(fā)展，并且在防止自主武器普及的運(yùn)動方面，它們可以發(fā)揮非常重要的作用。

微軟并不是唯一被認(rèn)為是“高風(fēng)險”的公司 - 超過12個不同國家的50多家公司被考慮過; 亞馬遜，微軟，英特爾和Plantir在21位成為“高風(fēng)險”的人中脫穎而出。這項(xiàng)價值8億美元的開發(fā)人工智能系統(tǒng)的合同“可以幫助士兵實(shí)時分析戰(zhàn)區(qū)”，使得Plantir成為最佳類別。

一些人工智能驅(qū)動的自主武器已經(jīng)活躍 - 例如以色列的哈比無人機(jī)。也可能創(chuàng)造新的自主武器類別，他們使用面部識別技術(shù)可能會產(chǎn)生更多的道德問題。

使用這種類型的武器，你可以在集裝箱或貨運(yùn)飛機(jī)上發(fā)送一百萬件武器 - 因此它們具有核彈的破壞能力，但是將所有建筑物留在后面。

(他們可以)消滅一個民族或一個性別，或者使用社交媒體信息，你可以消滅所有具有政治觀點(diǎn)的人。

拉塞爾強(qiáng)烈認(rèn)為應(yīng)該對致命的人工智能實(shí)施國際禁令。

不得開發(fā)，部署或使用決定殺死人類的機(jī)器。“

谷歌是被發(fā)現(xiàn)參與“最佳實(shí)踐”的七家公司之一。以及退出JEDI云合同的競爭; 該公司拒絕續(xù)簽五角大樓合同“Project Maven”，該合同使用機(jī)器學(xué)習(xí)來區(qū)分無人機(jī)視頻中的人和物體。