男子用AI換臉技術(shù)侵害公共信息安全 杭州檢方提起訴訟

之前有欄目在2023年的4月10日就報(bào)道了有一名男子利用AI換臉的技術(shù)生成淫穢視頻以此來牟利，最近有了新的進(jìn)展杭州的檢察院將會(huì)向杭州地區(qū)的互聯(lián)網(wǎng)法院提起民事公益訴訟。用AI換臉技術(shù)謀取暴利的主要途徑就是將一些明星或者將顧客所需要的人臉轉(zhuǎn)移到淫穢視頻的女主角身上，然后將視頻出售。

在北京時(shí)間2023年的6月20日記者從杭州蕭山地區(qū)的檢察院了解到這名男子除了存在制作傳播淫穢物品牟利的行為以外，同時(shí)還存在損害社會(huì)公眾利益的行為。前就已經(jīng)針對于傳播淫穢物品牟利的罪名向法院提起了公訴，現(xiàn)在將會(huì)以損害社會(huì)公眾利益的行為州互聯(lián)網(wǎng)法院提起民事公益訴訟。

據(jù)了解，在2020年的時(shí)候，這名男子在互聯(lián)網(wǎng)中了解到了AI換臉的技術(shù)，通過不斷的學(xué)習(xí)以后愈發(fā)熟練，到了2021年的時(shí)候開始通過這項(xiàng)技術(shù)來謀取暴利，要經(jīng)過他人同意的情況下，就將他人的頭像轉(zhuǎn)移到其他的淫穢視頻中進(jìn)行核查，最后將這些視頻發(fā)布在社交媒體中，截止到案件正式被發(fā)現(xiàn)審理為止，相關(guān)的工作人員在這名男子的公開群中已經(jīng)查獲了1200多部的淫穢視頻和1600多張的圖片。

在2022年的11月30日公安機(jī)關(guān)以傳播淫穢物品牟利的罪名，將這名男子送到了蕭山地區(qū)的檢察院起訴，在審查過程中發(fā)現(xiàn)這名男子除了傳播淫穢物品以外，還會(huì)為其他的顧客提供私人定制的服務(wù)，顧客提交照片或者視頻然后這邊拿著通過AI換臉技術(shù)生成，另外這名男子還會(huì)在社交平臺(tái)中或者自己所創(chuàng)建的聊天群中銷售AI換臉技術(shù)的軟件，并且向其他的消費(fèi)者提供素材和教程。