- 今年早些時候，一名香港金融工作人員被騙，將 2500 萬美元轉給一名詐騙犯，該詐騙犯偽造了他的首席財務官，並透過視訊通話下令轉帳。
- 該案例是網路安全專家警告的隨著生成式人工智慧技術的發展而增長的趨勢的一部分。
- 專家表示，隨著網路安全領域努力追趕快速發展的技術，這個問題預計會變得更嚴重，但該公司現在可以採取更好的做法。
越來越多的深度造假詐騙浪潮已經從世界各地的公司中掠奪了數百萬美元，網路安全專家警告說，隨著犯罪分子利用生成式人工智慧進行欺詐，情況可能會變得更糟。
深度造假是指對真實人物的影片、聲音或影像進行數位化修改和操縱（通常透過人工智慧），以令人信服地扭曲它們。
當局今年 2 月告訴當地媒體，在今年最大的已知案件之一中，一名香港金融工作人員被騙，利用 Deepfake 技術，在視訊通話中偽裝成同事，向詐騙者轉移了超過 2500 萬美元 。
上週，英國工程公司奧雅納向 CNBC 證實，該公司是涉案公司，但由於調查仍在進行，該公司無法透露此事的細節。
網路安全公司 Netskope 資訊與安全長 David Fairman 表示，隨著 2022 年推出的 Open AI Chat GPT 的普及，此類威脅不斷增加，該技術迅速將生成式 AI 技術推向主流。
費爾曼說：“這些服務的公眾可訪問性降低了網路犯罪分子的進入門檻——他們不再需要擁有特殊的技術技能。”
他補充說，隨著人工智慧技術的不斷發展，詐騙的數量和複雜性不斷擴大。
上升趨勢
各種生成式人工智慧服務可用於產生類似人類的文字、圖像和影片內容，因此可以成為試圖以數位方式操縱和重建某些個體的非法行為者的強大工具。
Arup 的一位發言人告訴 CNBC：“與全球許多其他企業一樣，我們的業務經常受到攻擊，包括發票欺詐、網絡釣魚詐騙、WhatsApp 語音欺騙和深度偽造。”
據報道，這名財務人員參加了與據信是該公司首席財務官和其他員工的視訊通話，他們要求他進行轉帳。然而，參加該會議的其他與會者實際上都是透過數位方式重新創建的深度偽造品。
奧雅納證實在該事件中使用了“虛假聲音和圖像”，並補充說“近幾個月來，這些攻擊的數量和複雜程度急劇上升”。
中國官方媒體今年報道了山西省發生的類似案件，涉及一名女性財務員工，在與她的老闆進行深度偽造視訊通話後，她被騙將186 萬元人民幣（合262,000 美元）轉入詐騙者的帳戶。
此類事件並不新鮮。
據報道，2019 年，一家英國能源提供商的首席執行官 將 22 萬歐元（合 238,000 美元）轉給了一名騙子，該騙子以數字方式模仿了其母公司的負責人，並要求通過電話與所謂的供應商進行電匯。
去年 8 月，Google研究人員旗下網路安全公司 Mandiant記錄了許多非法行為者利用人工智慧和 Deepfake 技術進行網路釣魚詐騙、錯誤訊息和其他非法目的的實例。
當時，該公司表示，該技術在此類活動中的使用是有限的，但新的生成人工智慧工具的不斷增加將加速惡意行為者的實施。
更廣泛的影響
網路安全專家表示，除了直接攻擊之外，公司越來越擔心高層的深度偽造照片、影片或演講可能會被惡意利用。
Great Hill Partners 網路安全專家兼常駐高管 Jason Hogg 表示，公司高級成員的深度造假可用於傳播假新聞，操縱股價、誹謗公司品牌和銷售，以及傳播其他有害虛假資訊。
「這只是表面現象，」曾擔任聯邦調查局特工的霍格說。
他強調，生成式人工智慧能夠基於大量數位資訊（例如社群媒體和其他媒體平台上託管的公開內容）創建深度偽造品。
2022 年，幣安首席通訊官帕特里克·希爾曼 (Patrick Hillmann) 在一篇 博文中聲稱， 詐騙者根據之前的新聞採訪和電視露面對他進行了深度偽造，用它來欺騙客戶和聯繫人參加會議。
Netskope 的費爾曼表示，此類風險導致一些高階主管開始清除或限制他們的線上業務，因為他們擔心這些業務可能會被網路犯罪分子用作彈藥。
Deepfake 技術已在企業界之外廣為流傳。
從偽造的色情圖片到宣傳炊具的操縱視頻，泰勒·斯威夫特等名人都成為了深度偽造技術的受害者。政客的深度造假也十分猖獗。
同時，一些騙子對個人的家人和朋友進行深度偽造，試圖騙取他們的錢財。
霍格表示，在一段時間內，更廣泛的問題將會加速並變得更糟，因為網路犯罪預防需要進行深思熟慮的分析，以便開發系統、實踐和控制措施來防禦新技術。
然而，網路安全專家告訴 CNBC，公司可以透過改進員工教育、網路安全測試以及要求所有交易使用密碼和多層審批來加強對人工智慧威脅的防禦——這本來可以防止像奧雅納這樣的案例。
沒有留言:
張貼留言