研究人員發(fā)現(xiàn)人工智能信息隱藏行為供以后使用

稱之為聰明，將其稱為騙子，但不要覺得羞于發(fā)現(xiàn)它非常有趣。“它”是CycleGAN及其與隱寫術(shù)的鏈接 - 其中消息和信息隱藏在非秘密文本或數(shù)據(jù)中。

因此，在2019年，讓人們了解機(jī)器而不是人類可以通過任務(wù)欺騙自己的方式并不令人震驚。在這種情況下，人工智能，就像良好的人類間諜和利弊，學(xué)會(huì)何時(shí)隱藏一些可以在以后使用的信息。

在Packt中，Bhagyashree R寫道：“研究人員發(fā)現(xiàn)機(jī)器正在將航拍地圖的數(shù)據(jù)編碼到低位的街道地圖的噪聲模式中。代碼是如此微妙，以至于它對(duì)人眼是不可見的。但是在仔細(xì)檢查，當(dāng)細(xì)節(jié)被放大時(shí)，顯然機(jī)器已經(jīng)做了數(shù)千個(gè)微小的顏色變化，表明在重建航拍圖像時(shí)可以用作備忘單的視覺數(shù)據(jù) - 因此神奇地重新出現(xiàn)的天窗。

與此同時(shí)，一篇關(guān)于該主題的文章很多(實(shí)際上，這項(xiàng)研究被一些科技觀察網(wǎng)站所覆蓋)使研究人員發(fā)現(xiàn)了這些內(nèi)容。TechCrunch說：“一名機(jī)器學(xué)習(xí)代理人打算將航拍圖像轉(zhuǎn)換成街道地圖，然后發(fā)現(xiàn)是通過隱藏信息來作弊，這些信息后來需要用于”幾乎難以察覺的高頻信號(hào)“ 。

2017 年連線的Lily Hay Newman 提醒讀者，隱寫術(shù)是一種古老的做法，昨天沒有出生。想想達(dá)芬奇在繪畫中嵌入秘密意義; 或者昔日的間諜用隱形墨水書寫。

但是，如果這種做法很古老，那么就存在一些當(dāng)代問題。畢竟，我們是在一個(gè)數(shù)字世界中，所有的惡習(xí)和美德都在網(wǎng)上采取了新的流程。

BankInfoSecurity表示，隱形術(shù)只會(huì)越來越難以發(fā)現(xiàn)，并且已經(jīng)“被壞人演繹了”。

Mathew Schwartz表示，數(shù)字隱寫術(shù)似乎使執(zhí)法機(jī)構(gòu)的生活變得更加困難，并引用了一位大學(xué)教授傳遞了類似的評(píng)論。薩里大學(xué)(University of Surrey)計(jì)算機(jī)科學(xué)教授艾倫伍德沃德(Alan Woodward)表示，“完全可否認(rèn)的隱寫磁盤加密在收集數(shù)字證據(jù)方面將成為一場(chǎng)噩夢(mèng)。”

快進(jìn)到現(xiàn)在的報(bào)告，一群斯坦福大學(xué)和谷歌的研究人員進(jìn)行了一項(xiàng)關(guān)于神經(jīng)網(wǎng)絡(luò) CycleGAN 如何學(xué)習(xí)作弊的研究。論文：CycleGAN，隱形術(shù)大師在arXiv，三位作者是Casey Chu(斯坦福)，Andrey Zhmoginov(谷歌)和馬克桑德勒(谷歌)。

他們寫道，“CycleGAN學(xué)會(huì)將關(guān)于源圖像的信息隱藏到它在幾乎難以察覺的高頻信號(hào)中產(chǎn)生的圖像中。”

作為討論部分的一部分，作者指出“通過以這種方式編碼信息，CycleGAN變得特別容易受到對(duì)抗性攻擊;攻擊者可以通過擾亂任何選擇的來源，使得學(xué)習(xí)的轉(zhuǎn)換之一產(chǎn)生他們選擇的圖像。圖片。”

他們的建議?他們寫道：“這種現(xiàn)象的存在表明在設(shè)計(jì)涉及神經(jīng)網(wǎng)絡(luò)組合的損失函數(shù)時(shí)需要謹(jǐn)慎：如果一個(gè)組件利用其他組件支持對(duì)抗性示例的能力，這些模型可能會(huì)以不直觀的方式運(yùn)行。”

根據(jù)作者的共同框架，例如生成性對(duì)抗網(wǎng)絡(luò)和知覺損失使用這些組合。他們說“應(yīng)該仔細(xì)分析這些框架，以確保對(duì)抗性的例子不是問題。”

可是等等。我們是否應(yīng)該為了滿足我們所有人的機(jī)器人和人工智能的尖叫恐懼而奔向山丘?幸運(yùn)的是，Devin Coldewey讓TechCrunch的讀者平靜下來。這一事件“簡(jiǎn)單地揭示了自發(fā)明以來一直存在的計(jì)算機(jī)問題：它們完全按照你告訴他們要做的那樣。”

Coldewey的意思是什么?“正如你可能想到的那樣，研究人員的意圖是加速和改進(jìn)將衛(wèi)星圖像轉(zhuǎn)換為谷歌著名的精確地圖的過程。為此，團(tuán)隊(duì)正在研究所謂的CycleGAN-一個(gè)學(xué)習(xí)轉(zhuǎn)換圖像的神經(jīng)網(wǎng)絡(luò)通過大量的實(shí)驗(yàn)，盡可能有效而準(zhǔn)確地將X和Y型相互疊加。“

計(jì)算機(jī)得出的解決方案“揭示了這種神經(jīng)網(wǎng)絡(luò)可能存在的弱點(diǎn) - 計(jì)算機(jī)如果沒有明確阻止這樣做，基本上會(huì)找到一種方法將細(xì)節(jié)傳遞給自己以解決給定的問題。問題迅速而輕松。“