|
Post by mehedi17a on Apr 2, 2024 4:16:29 GMT
辦它們日益成為一些國家和犯罪組織混合侵略武器庫的一部分。 ,即透過人工智慧創建虛假視聽內容的系統,對安全構成了技術威脅,而這種威脅是透過先進技術來應對的。 目錄:越來越令人信服(並且令人不安)所有類型的使用,無論是否惡意勢不可擋的繁榮? 一線希望最新的與使用極其逼真的合成影像(深度偽造)相關的爭議發生在上。 這個中國社交網絡目前擁有一個名為“”的帳戶,該帳戶展示了演員基努·裡維斯的視頻,重點介紹了唱歌、聽音樂或拿自己的職業開玩笑等日常行為。 正如記者埃里克·哈爾·施瓦茨在他的部落格中指出的那樣,「在對影片發表評論的網路用戶中,只有三分之一似乎意識到這不是真正的里夫斯,而是 透過影像合成生成的模仿品」。 儘管該帳戶的名稱再明確不過了,但許多人似乎認為他們看到的是這位演員或「他出生後就與他分開的雙胞胎兄弟」。 正如施瓦茨所解釋的那樣,我們處理的不是惡意的深度偽造,即試圖冒充真實的具有犯罪意圖的偽造品,而是顯然使用虛幻圖形引擎(流行的)製作的用於娛樂用途的應用程序 。 的動作電玩遊戲。 去年夏天,美國新創公司在第十七屆真人秀《美國達人秀》中與貓王等已故藝術 英國電話號碼 家的深度贗品展開競爭。 他進入了決賽。 搖滾之王的虛擬復活讓觀眾難以抗拒,而且還使用了前衛語音合成節目的程序,讓表演中的一切都變得不真實,無論是圖像還是音樂。 越來越有說服力(也越來越令人不安)這兩個軼事完美地說明了自年左右該技術問世以來,深度換臉技術已經取得了長足的進步。 即使是在年引起轟動的巴拉克·奧巴馬的合成圖像與現在相比,現在看起來也很初級。 今天可以用先進的圖形引擎,是的,廣泛使用配備自學習系統(深度學習)的人工智慧演算法。 企業時事通訊的編輯解釋說,語音合成在真實感方面落後於圖像合成,但由於像-這樣的系統,它剛剛邁出了決定性的一步,“它“使聲學創作變得更加容易”。簡單、 快速、微不足道。 所有類型的使用,無論是否惡意與其他技術發展一樣,深度造假是中立的工具。 它已被善意地使用,例如奧巴馬的圖像合成,由電影導演喬丹·皮爾配音,這有助於提高公眾對與這項技術相關的風險的認識。 當然,更令人不安的是犯罪組織對深度造假的使用,這種做法至少三年來越來越頻繁地被發現。 正如一群研究人員在趨勢科技發表的《地下組織如何使用被盜身份和》一文中所報告的那樣,為了克服控制和驗證系統或造成聲譽損害而進行的身份盜竊也變得越來越頻繁。 真正令人擔憂的是帶有政治意圖的深度造假,目的是冒充真實的,就像喬拜登的假影片一樣。 在公共領域,深度造假已被證明是宣傳和虛假資訊行動中非常有效的工具。 有些案例,例如毛里西奧·馬克里、安格拉·默克爾或唐納德·川普針對的使用合成圖像的抹黑運動,可能像軼事一樣有效。 真正令人擔憂的是那些帶有政治意圖、旨在冒充真實內容的深度造假,例如年美國總統競選期間在社交網絡上流傳的喬·拜登的虛假視頻,這些視頻顯示出據稱非常嚴重的 認知惡化跡象。
|
|