|
文/陳根 2019年6月，一款名為DeepNude的應用在海內(nèi)外爆紅。令其爆紅的原因只有一個——只要給出一張女性照片，DeepNude借助神經(jīng)網(wǎng)絡技術，就可以自動“脫掉”女性身上的衣服，顯示出裸體。對于神經(jīng)網(wǎng)絡技術的理解門檻雖高，但應用卻并不費力，因為對于使用者來說，無需任何技術知識，一鍵即可獲取。一時間，大量色情圖片在網(wǎng)絡泛濫，很快，DeepNude級在輿論批評聲中下架了。在人們對DeepNude一鍵“脫衣”的震撼還未完全淡去時，這款色情的軟件再次出現(xiàn)在了即時消息應用程序——Telegram中。而這次關于DeepNude的發(fā)現(xiàn)，影響更甚，危害也更大。這項關于DeepNude的調(diào)查來自美國阿姆斯特丹的網(wǎng)絡安全公司Sensity，這家公司專注于所謂的“視覺威脅情報”，尤其是那些深度造假視頻的傳播。據(jù)Sensity報告顯示，目前DeepNude已經(jīng)產(chǎn)生了68萬以上女性的假裸照，在TeleGram平臺已經(jīng)公開發(fā)布了約104,852張色情圖片，其中70%的照片來自社交媒體或私人渠道，而這一數(shù)據(jù)還不包括私下分享傳播的圖片。更重要的是，這些圖片70%全部來自社交網(wǎng)絡中的真實女性，甚至包括未成年人。這意味著，日常在Facebook、微博等社交媒體中分享的自拍照，很可能會被人用來生成“裸照”。DeepNude的成熟，離不開一個名為DeepFakes的軟件被匿名開源發(fā)布。2017年，ID 為“deepFakes”發(fā)布了通過機器學習來更換視頻人臉的AI 算法。DeepFakes是“deep machine learming”（深度機器學習）和“Fake photos”（假照片）的組合，是依托大數(shù)據(jù)和人工智能深度學習機制，基于數(shù)據(jù)算法和人臉數(shù)據(jù)庫對既有視頻或圖片中的人物面部圖像進行替換的技術工具。在開源代碼庫平臺CitHub上，DeepFakes被描述為“一種利用深度學習技術來識別和交換圖片、視頻中人物臉部圖像的工具”。只要有足夠的圖片視頻素材，有一定的硬件支持，DeepFakes就可以搭建算法匹配模型進行換臉視頻的制作。具體原理思路為：對于每張臉，都訓練一套編碼器和相應的解碼神經(jīng)網(wǎng)絡。編碼時，使用的是第一個人的圖片。而解碼時，卻是使用第二個人的解碼器。而其中主要包含數(shù)據(jù)預處理、圖片融合、圖像預處理、網(wǎng)絡模型、圖像融合等技術。此外，利用AI制作換臉視頻除了要借助已開源的DeepFakes技術，還需要兩個競爭AI系統(tǒng)的參與，一個是生成模型，另一個是判別模型。生成模型和判別模型的結合被稱為CAN（CenerativeAderaril Netwoks，生成對抗網(wǎng)絡技術，簡稱“GAN”，是深度學習原理中重要的監(jiān)督學習模型），也是AI換臉最底層的邏輯。GAN是AI機器學習中較成熟的理論，在最開始的技術中，DepFakes正是借助生成對抗網(wǎng)絡，通過上萬張照片來替換視頻每秒鐘存在的30個畫面，最終通過GPU（CaphiesPoesing Unit，圖形處理器，簡稱“GPU”）訓練完成“移花接木”，僅憑一張照片便可實現(xiàn)面部替換和視頻生成。但當時該技術的使用門檻還比較高，需要編譯代碼等操作。然而，當DeepFakes技術的持有人在網(wǎng)絡論壇中直接開源了該技術的算法代碼并在GitHub上建立了開源項目時，一切都不一樣了。DeepFakes技術變得唾手可得，后來的AI換臉App和DeepNude出現(xiàn)正是基于這一技術，不同的是，對比DeepFakes需要大量的技術專業(yè)知識、龐大的數(shù)據(jù)集以及昂貴的GPU，DeepNude更容易使用，也更容易訪問。時下的DeepNude操作已非常簡單，只需要一張照片，上傳至軟件后，幾秒就可以自動生成裸照，不需要任何技術知識或者專門的硬件支持。盡管DeepNude可供所有人免費使用，但它也有其盈利模式，未付費用戶獲得的裸照后會打上水印標簽或者只有局部裸露，用戶支付1.28美元才可以獲得無水印圖片，但使用權限僅限七天100張。用戶也可以通過介紹他人使用這項服務來賺錢。此外，DeepNude還在VK網(wǎng)站上發(fā)布了廣告，據(jù)統(tǒng)計，在該網(wǎng)站上目前已經(jīng)有了380頁的搜索量。這種病毒式的擴張方式，讓DeepNude的會員迅速增長。根據(jù)Sensity的報告，DeepNude在去年6月就已上線，上線兩個月用戶幾乎過萬，到今年6月，已經(jīng)有了4.5萬用戶。截至7月底，Telegram平臺七個主要頻道均在使用DeepNude軟件。DeepNude的使用者還在telegram上成立了社區(qū)。而目前這個社區(qū)已有成員多達101,080人，其中70%居住在俄羅斯或東歐。低門檻的使用和低廉的價格帶來了可觀的收益和病毒式的擴張，而背后的代價卻令人警惕和感到悚然。技術的社會屬性是技術社會風險形成的根源。技術應用是一面鏡子，映射出人類文明的發(fā)展水平，而DeepNude的走紅則在狂歡中直逼道德底線。其惡劣的一鍵“脫衣”實際上打開了女性被攻擊的可能性，其應用程序和易訪問性更意味著女性在網(wǎng)上面臨的更大的網(wǎng)絡騷擾或危險題，這將對社會造成巨大影響。一方面，DeepNude的一鍵“脫衣”勢必會對被換臉者的聲譽造成影響。除了對肖像權名譽權的侵犯，不法分子往往會利用該技術制作帶有特定人臉的不雅視頻進行敲詐勒索牟利。比如，前幾年合成艷照敲詐勒索官員的案例，不法分子為非法牟利，從網(wǎng)上搜索社會成功、知名人士的頭像合成不雅照片，利用他們懼怕丑聞、顧及名譽的心理特點進行敲詐勒索。互聯(lián)網(wǎng)時代，不雅視頻或不雅圖片這類信息的傳播很難得到控制，給相關當事人帶來的負面影響也是深遠持久的。另一方面，通過DeepNude，任何用戶使用任何照片都可以生成裸照，而這將大大增加制作、傳播、販賣淫穢物品牟利犯罪可能性。Deepfake偽造色情視頻已經(jīng)屢見不鮮，主要以為名人為目標。其也由最初的色情視頻制作，到后來的全民娛樂、惡搞，發(fā)展到今天已經(jīng)走向了制作、傳播淫穢物品牟利的黑色產(chǎn)業(yè)。但根據(jù)一項民意調(diào)查顯示，大多數(shù)用戶對“現(xiàn)實生活中認識的女性”更感興趣，占比達到了63%。DeepNude恰好提供了這樣的支持，從TeleGram平臺的公開數(shù)據(jù)來看，許多照片中的女性都是普通上班族、大學生，而且這些照片都是來自TikTok、Instagram、Facebook等平臺的自拍照。這為色情的傳播帶來了新的興奮點和吸引力，滿足了相關人群獵奇、好奇等多重心理需求，容易產(chǎn)生一定的受眾群體和市場。但這種以非法牟利為目的制作色情視圖并上傳到互聯(lián)網(wǎng)甚至出售的行為，已經(jīng)構成制作、傳播、販賣淫穢物品牟利罪，不僅有悖社會道德和公序良俗，更是對互聯(lián)網(wǎng)健康環(huán)境和良好秩序的挑戰(zhàn)。對于女性強有力的攻擊是第一步，然后呢？新興技術拓展了新的領域與空間，倫理規(guī)范等卻還停留在過去。DeepNude只是人工智能矩陣的一個產(chǎn)品之一，而其本質上是一種偽造手段，除了娛樂或私欲外，其社會的危害程度不容小覷，濫用風險涉及方方面面，“深度偽造”的算法技術與與倫理之間的巨大鴻溝造成了社會頻發(fā)的爭議，讓人謹之慎之。人類的面部與身份特征都被數(shù)字化，算法將人的身份拆解，傳統(tǒng)意義上的身份特質分解并與他人的身份特質再組合重構，人工智能再造的虛擬形象以擬制主體身份展現(xiàn)在真實的人類面前，在倫理上必然造成社會的恐慌與倫理重構。人的體貌特征融合后不再具體的某個人典型的身份，跨越了國界種族的限制，失去了辨識度，一方面容易造成社會角色混亂與身份特征混淆。另一方面，自然人的身份被商品化也并非當下社會倫理所能接受，在相關人員不知情情況下，復制、改造他人的面孔，甚至惡意融合不雅內(nèi)容以謀求金錢利益，構成對他人尊嚴的損害，被解構整合身份特征的人淪為被消費的商品。此外，現(xiàn)階段深度偽造的生成物所依托的技術手段足以達到以假亂真的程度，“眼見為實”不再適用，人類難以在日常的社會生活中區(qū)分數(shù)字面孔與自然人，虛假內(nèi)容輕易取得信任，真?zhèn)沃骐y上加難，合理的猜測與過度猜忌的界限更加難以平衡，這必然對社會造成更大的信賴難題。真?zhèn)谓缦薇粩?shù)字化操縱，娛樂的趣味性與真相的真實性在混淆視聽的人工智能生成物問世后更加模糊。“娛樂至死”的扭曲價值沖擊著當下倫理觀，進而引發(fā)一場社會信任危機。最后，宗教信仰、種族國籍、國際政治領域所涉及的問題具有敏感性，更加需要真實報道與平等人權的保護，肆意更換外貌特征與偽造具有特殊意義的視頻在這些領域的濫用，在社會穩(wěn)定上的破壞力可能直接引發(fā)難以控制的后果。《如何輸?shù)粜畔?zhàn)》一書的作者尼娜·揚科維茨（Nina Jankowicz）就指出，DeepNude對世界各地的女性都有巨大的影響，尤其是在俄羅斯這樣的社會保守國家。如果一張令人信服但卻是假的裸照公之于眾，受害者可能面臨失去工作和生計的風險。有些人可能面臨伴侶暴力。同時，利用偽造技術生成政治領袖發(fā)表不當言論的音視頻，不符宗教信仰的行為，威脅國際關系的各種材料，將會大幅度增加社會關系復雜性，不利于社會穩(wěn)定局面與國家長治久安。盡管對于“深度偽造”技術的檢測方式越來越多，準確度越來越高，但事實上，制造虛假視頻或圖像的趨勢依然沒有得到很好的抑制。究其原因，其一可能是AI生成虛假內(nèi)容越來越方便，如DeepNude，只需要一張照片，人人都可以上手。而其二，如Sensity公司負責人所說，DeepNude目前還處于法律的灰色地帶。而人工智能“脫衣”只是數(shù)字科技所引發(fā)的科技倫理問題之一，隨著人工智能類人機器人的出現(xiàn)，人類的兩性關系與婚姻倫理將受到根本性的沖擊、挑戰(zhàn)與改變?？梢哉f這個時代是最美好的時代，也是最具有挑戰(zhàn)性的時代，我們的道德、價值、倫理因為科技的發(fā)展在經(jīng)受著不斷的挑戰(zhàn)與沖擊。技術的傷害從來不在于技術本身，而只在于使用技術的人，對技術知識的封堵和審查，既無法阻止其擴散和傳播也不利于社會的進步，最后，所有的爭論都回到了人類本身，只有人心向善，才能科技至善。
|
