2021年3月，美國聯邦調查局（FBI）發布了一份報告，宣稱在未來12-18個月里，惡意行為者幾乎肯定會利用“合成內容”進行網絡攻擊和外國影響行動。這些合成內容包括深度偽造，完全由人工智能或機器學習創造或修改的音頻或視頻，以令人信服的方式地歪曲某個人在做的事或說過的話，實際上這個人并沒有做或說過那樣的事或話。
網絡安全媒體甚至報道過這樣一個故事：一位CEO的聲音被模仿得非常逼真，以至于以他的名義發起了一筆24.3萬美元的電匯。如今，隨處可見的遠程工作時代，不斷Zoom會議創造了大量音頻和視頻數據，可以將這些數據輸入機器學習系統，以創建令人信服的副本。攻擊者也注意到了這一點。Deepfake技術在暗網絡上迅猛發展，攻擊肯定正在發生。
VMware首席網絡安全策略師里克·麥克爾羅伊（Rick McElroy）撰文稱，在其工作中，他與事件響應團隊密切合作，2021年8月月早些時候，他與幾家知名全球公司的首席信息官談論了他們看到的深度造假技術的崛起。并總結了CISO們最為關心的問題。
暗網教程
事件響應公司Recorded Future指出，威脅行為者已轉向暗網，提供定制服務和教程，這些服務和教程結合了視覺和音頻深度偽造技術，旨在繞過和擊敗安全措施。就像勒索軟件發展成“勒索軟件即服務”（RaaS）模式一樣，人們看到深度造假也在做同樣的事情。來自Recorded Future的這條情報表明，黑客們比FBI今年早些時候警告的深度虛假影響行動更進一步。新的目標是使用合成音頻和視頻來逃避安全控制。此外，威脅行為者正在利用暗網，以及論壇和信使等許多清晰的情報來源，來分享deepfake技術探索和成熟的技術工具和最佳實踐，以此達成他們損害組織的目的。
Deepfake釣魚
麥克爾羅伊稱其曾與cisco安全團隊有過深入交流，安全團隊發現深度偽造被用于網絡釣魚，或破壞商務郵件、Slack和微軟團隊等通信平臺。網絡犯罪分子正利用分布式勞動力的優勢，通過模仿老板說話節奏的及時語音郵件，或傳遞相同信息的Slack信息，操縱員工。通過電子郵件或商業交流平臺進行的釣魚活動是深度造假的完美投遞機制，因為組織和用戶完全信任它們，它們在給定的環境中運作。
繞過生物識別技術
深度偽造技術的擴散也打開了身份識別的潘多拉盒子。身份是跨網絡、端點和應用程序的常見變量，對身份驗證的關注對于組織的零信任之旅的安全至關重要。然而，當存在一種技術可以模仿身份到欺騙身份驗證因素的程度時，如生物識別，攻擊失陷的風險就會變得更大。Experian公司的一份報告概述了今年企業面臨的五種威脅，其中合成身份欺詐被認定為增長最快的金融犯罪類型。合成身份欺詐是指網絡罪犯利用深度偽造的面孔來欺騙生物識別驗證。這將不可避免地給依賴面部識別軟件作為身份和訪問管理策略一部分的企業帶來重大挑戰。
數字現實的失真
在當今世界，攻擊者可以操縱一切。不幸的是，他們也是深度造假等先進技術的首批使用者。隨著網絡犯罪分子不再單純地利用深度偽造來實施影響行動或提供虛假信息，他們將開始利用這種技術來危害組織并進入它們的環境。這應該是對所有CIO和安全專業人員的一個警告，我們正進入一個新的現實，由攻擊者的掌控的不信任和扭曲。
