「AI換臉」詐騙出現涉政苗頭

  近日,北方某地警方發佈了一起利用「AI換臉」對當事人實施詐騙的案件。詐騙分子運用人工智慧技術,通過微信視頻通話與受害人進行了十多分鐘交流,受害人轉賬數百萬元。
  引人關注的是,該案不僅是一起新型網路詐騙,更是一起涉政詐騙案件。
  不法分子模擬偽造的,是受害人認識的一名領導幹部。在微信視頻聊天中,「換臉」後的騙子提出,其朋友有一筆工程保證金需要借用受害人公司的對公帳戶走賬。在視頻畫面中,騙子「換臉」後面部表情自然,聲音逼真,受害人便放鬆了警惕,轉賬後打電話確認,才知道被騙。
  「AI換臉」「AI擬聲」、虛擬場景構建……隨著設備性能提升和技術軟體優化,利用「AI換臉」技術實施詐騙,已成為一種新型網路詐騙。近期,各地曝出多起人工智慧「輔助」詐騙案件。一些不法分子利用人工智慧「深度偽造」冒充領導幹部行騙,值得引起高度警惕。
  由於工作原因,一些領導幹部的面部、聲音等生物特徵資訊更易被獲取,被人工智慧學習利用後造成的潛在危害性也更大。接受《瞭望》新聞週刊採訪的業內人士表示,社會各界都應提高識騙防騙意識,有關部門應依法加大對人工智慧「輔助」詐騙案件的執法力度,嚴肅追究相關人員法律責任。
  眼見不一定為實
  近日,華北某地一名地方幹部正為一件事犯愁。有人冒用他的名義,與他的親朋好友大範圍添加微信好友。
  「和我的親戚朋友加完好友後,騙子還給他們打了視頻電話。通話時間只有幾秒鐘,朋友們感覺聲音、畫面都有點兒像。」這名幹部說,直到許多朋友打電話詢問具體情況,他才知道此事。
  「估計下一步就要開始騙錢了。所以,最近幾天我連續發了好幾條朋友圈提醒大家。」這名幹部說。
  受訪業內人士表示,只要有足夠的圖像、音頻素材,不法分子就可以通過人工智慧「換臉」軟體、合成聲音軟體偽造虛擬形象,實施詐騙。「只需提取最少10個字、最多32個字,就可以合成其聲音。」國網資訊通信產業集團安全科研專家趙明明告訴記者。
  一些領導幹部由於工作原因出鏡率相對較高,這為騙子提供了豐富的面部識別素材;在電視、廣播新聞中也可以找到一些領導幹部的大段同期聲,這令「偽造成本」更低。
  在一些案件中,不法分子通過「AI換臉」合成視頻等方式,偽造與領導幹部見面、合影等內容實施詐騙,增加了涉政類詐騙的欺騙性和危害性。
   AI詐騙四大趨勢
  中國資訊通信研究院相關負責人表示,當前,人工智慧「輔助」詐騙存在四大趨勢。隨著人工智慧技術的普及應用,不法分子實施詐騙的精准性、迷惑性、隱蔽性增強,公安、檢察等政法機關辦案將面臨偵查破案難、電子證據調取難、認定處理難等現實困難。
  ——技術成本由高向低轉變。騰訊安全玄武實驗室負責人於旸告訴記者,隨著技術發展,人工智慧「深度偽造」「深度合成」已成為一種可以低成本實現的技術。
  ——技術應用由單一向多元轉變。騰訊互聯網安全專家楊建表示,實施人工智慧「輔助」詐騙一般要滿足多個要素,包括非法獲取資訊、構建熟人帳號、「換臉換聲」、破解手機攝像頭許可權等,涉及多項技術手段。
  ——偽造身份從模糊向具體轉變。傳統電信詐騙往往只能以「某派出所工作人員」「某網站客服」等模糊虛指人設實施。但在人工智慧「輔助」詐騙中,騙子可以以具體的人物形象出現。
  ——作案模式從「廣撒網」向精准施騙轉變。社交媒體平臺往往設有視頻驗證環節,這在客觀上增加了冒充熟人、領導幹部等詐騙的「可信度」。受訪專家分析,隨著技術發展,精准盜號、分析關係網等有指向性的網路詐騙案件占比可能有所上升。
  多層面約束規範
  奇安信安全專家裴智勇表示,目前,專業級別的人工智慧「深度偽造」仍需通過較強的硬體在實驗室環境實現。這意味著,近期「AI換臉」詐騙形成系統性風險的可能性不大,但仍需未雨綢繆、預防打擊。
  在源頭端,需要進一步加強公民個人資訊保護。楊建等專家建議,加強公民資訊尤其是生物特徵等隱私資訊的技術、司法保護力度。針對冒充領導幹部等涉政詐騙風險,可通過規範領導幹部個人社交帳號管理,普及提升帳號安全意識等方式進行規避。
  在技術層面,數字浮水印鑒偽等技術有待進一步普及利用。趙明明表示,數字浮水印能將特定的資訊嵌入音頻、圖片或是視頻等數字信號中,進行版權保護,以防止未經授權的複製和拷貝。他建議,加強打入數字浮水印、開發真偽鑒別等技術治理手段,使其為數字內容生產商以及用戶端等提供廣泛服務,以科技手段制約不法分子利用人工智慧技術實施犯罪。
  瑞萊智慧高級產品經理張旭東建議,對涉及政務、安防、金融、消費等重要應用的人臉識別技術漏洞進行完善和升級,防範不法分子通過後臺劫持手機攝像頭許可權。
  「尤其是涉眾、涉密、涉及公共利益的相關平臺和技術服務提供商,需優先完成技術加固,對手機模擬器做好防範。同時,鼓勵和引導更多手機廠商在系統升級時支持3D人臉識別技術。」張旭東說。
  從法律制度方面看,反電信網絡詐騙法、刑法等法律為打擊治理各類網路詐騙活動提供了法律支撐。趙明明建議,進一步完善人工智慧等領域相關法律,通過案例等指引,建立人工智慧侵權糾紛法律框架、訴訟程式和賠償標準等。
  此外,還需通過完善相關制度進一步落實平臺責任。新華三集團安全專家曹亮表示,對核心領域使用人臉識別技術的產品,監管部門應建立分級別、多層次的國家安全標準及行業安全標準;壓實平臺、企業主體責任,督促相關應用開發企業履行源頭審查責任;建立健全用戶註冊、演算法機制機理審核、數據安全個人資訊保護、反電信網絡詐騙、應急處置等管理制度。
  (吳帥帥 劉懿德 蘭天鳴/文)