人們常說“耳聽為虛、眼見為實”。然而在今天，“眼見”就真的是真實的嗎？
隨著數字技術的迅猛發展，一種叫“深度偽造”的技術正慢慢滲入人們的生活。這種技術可以利用人工智能和大數據生成虛假圖片、視頻、文本等，其逼真程度往往讓人難辨真偽。
(資料圖片)
先進的技術本無好壞之分，但當技術披上了“偽造”的外衣，則不僅會讓一些不明真相的網民受到欺騙，更深層面上來看，它最大的威脅，是在廣大群眾中造成信任的危機。
圖源：視覺中國
一
想知道什么是“深度偽造”，首先要知道它的技術原理——“深度合成”技術。簡單來說，就是指利用深度學習、虛擬現實等合成類算法，實現文本轉語音、音樂生成、人臉生成替換、圖像增強等功能的技術。
舉幾個例子就會發現，“深度合成”在我們身邊其實已經運用得比較廣泛。
圖片合成，包括人臉替換、專屬表情包制作、寫真換裝等，人們可以一鍵創造出任何自己想看到的全新圖像。比如在一些小程序中，只需上傳一張自己的照片，一鍵換裝、一鍵美顏、一鍵換背景等都可以通過AI技術輕松實現。就算想要合成“粉紅色大象在撒哈拉沙漠玩撲克”等天馬行空的圖片，也都不是難事。
語音合成，即運用AI技術生成接近真人語調和節奏的聲音。比如，當你聽到“注意看，這個男人叫小帥”這句話時，腦海里是不是有一個聲音已經呼之欲出？沒錯，這個常常出現在抖音、B站的電影解說配音，就是“深度合成”出的一款聲音。它的音色、語氣和停頓非常自然，幾乎沒有機器的生硬之感。而這種無限接近真人的聲音合成技術，在智能語音導航、有聲書朗讀、客服電話中已經得到廣泛應用。
視頻合成，即通過改變人的面部特征，從而操縱面部表情，可以讓一個人看起來在說他從未說過的話。比如，在電影《阿甘正傳》中，制作方就曾將肯尼迪的影像填充在影片中，炮制了肯尼迪接見阿甘的畫面。而在一些“換臉”小程序里，網友也可以用自己的照片替換影視劇主角的臉，合成一段由自己“出演”的經典影片。
近年來，“深度合成”技術已在很多領域大量應用，生產出的內容數量和關注度呈快速增長態勢。統計數據顯示，在國內外主流音視頻網站、社交媒體平臺上，2021年新發布的“深度合成”視頻數量較2017年已增長10倍以上。
由此可見，在“深度合成”技術的世界里，耳聽、眼見甚至連觸摸，都不見得是真實的。
然而，每一次技術變革在帶來福祉的同時，也經常伴隨著風險。正如同硬幣的正反兩面，“深度合成”的另一面就是“深度偽造”，即利用“深度合成”技術生成虛假的視頻、照片和文本等。
二
“深度偽造”可以說一出生就帶有“原罪”。2017年，一位名為“deepfakes”的美國網友上傳了經過合成技術編輯的色情視頻，這是“深度偽造”在世人面前的第一次亮相，很不光彩。
此后，隨著技術逐步“平民化”，造假手段也一日千里、突飛猛進，由此帶來的風險隱患也越來越多。
圖源：新華社
“深度偽造”造成的虛假信息傳播，給社會治理增添了不少難題。麻省理工學院分析了十多年來300萬推特用戶發布的信息后發現：一個捏造故事傳播到1500人的速度是真實故事的6倍。有數據顯示，自2018年11月以來，在線識別的“深度偽造”視頻數量每6個月翻一番。
正因為“深度偽造”的信息極易迷惑人，這一技術也成了認知戰信息戰的新武器。美西方國家近年針對我國的輿論戰中，大量使用“深度偽造”作品。像香港“修例風波”期間，一些境外媒體偽造“港警毆打無辜民眾”等視頻，顛倒黑白，煽動輿論，極易讓人產生錯誤認知，損害我國形象。
除此之外，利用“深度偽造”實施的經濟詐騙更是五花八門。比如在2020年，香港一銀行經理被詐騙者使用語音克隆技術冒充“合作伙伴”騙取了3500萬美元，這也成為目前已知造成最大經濟損失的“深度偽造”案件。一項研究估計，受“深度偽造”影響，全球企業每年損失高達780億美元。
“深度偽造”不僅給個人、企業和社會帶來隱患，更是給國家安全帶來威脅。一些國家的現實政治顯示，特定情況下“適時”出現的“深度偽造”，會造成社會動蕩，甚至改變一個國家的政治進程。有美國政客曾說：“過去威脅美國需要核武器、航母和導彈，但今天，制作一個逼真的‘深度偽造’視頻，就能破壞選舉，使國家陷入巨大的內部危機。”
三
“深度合成”這項技術本身并沒有錯，但一旦被惡意濫用，跨越道德和法律的邊界滑向“深度偽造”時，就會遺禍無窮。當“深度偽造”這個“魔盒”被打開，虛實交界處必須設置一道明辨是非的防火墻。
首先，還是要用好法律這把武器。近幾年，很多國家針對“深度偽造”等新技術，出臺了相關法律法規或管理辦法。我國從2019年11月起，先后出臺《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等法律法規，對生成合成類內容等提出監管要求。
比如《網絡音視頻信息服務管理規定》中明確，利用新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識，不得利用基于深度學習、虛擬現實等新技術新應用制作、發布、傳播虛假新聞信息。同時也明確，違反該規定的，由網信、文化和旅游、廣播電視等部門依照相關法律法規規定處理。
能否將這些規定執行到位，還需要有關部門加大網絡安全執法力度，不斷完善日常監督檢查和定期檢查相結合的監督管理制度，推動網絡平臺履責盡責，有效規范涉及“深度合成”技術應用的行為。
其次，要善于用技術制約技術，加快打造“深度偽造”信息檢測系統。比如，美國五角大樓國防高級研究計劃局啟動了“媒體取證”計劃，贊助十幾個高水平的研究機構加強對“深度偽造”、合成媒體的檢測。
在國內，部分互聯網公司在這方面也具備一定的技術積累。早在2019年，百度安全就推出國內首個基于人臉搜索、人臉屬性提取、語音識別和OCR識別的深偽檢測平臺，對主流“深度偽造”數據識別準確率在99%以上。
然而可以預見的是，隨著技術的不斷發展，“深度偽造”也將變得更加難以檢測。要想在這場基于技術博弈的“貓鼠游戲”中占得上風，就需要加強“深度偽造”檢測技術研發，在關鍵技術領域突破攻堅，持續提升和迭代檢測技術能力。
最后，“深度偽造”面向的是廣大網民，因此還需加強網絡安全教育，提升全民網絡素養。我國是網絡大國，擁有世界上數量最多的網民，截至2022年6月，我國網民規模為10.51億，互聯網普及率達74.4%。但也要看到，我國數字素養教育起步晚，教育水平、知識水平參差不齊。還需要持續加強對網民的宣傳教育，特別要注重對特定群體的數字技術掃盲，在整個社會接種防范“深度偽造”的“疫苗”。
“深度合成”技術可以說是一把雙刃劍，而“深度偽造”就是那道頗具傷害性的鋒芒。希望在各方的共同努力下，我們能用好這把劍，讓它多朝著有利于社會發展的方向，發揮作用。
來源：浙江宣傳
營業執照公示信息