(相關資料圖)

近日，內蒙古包頭警方公布一起利用人工智能換臉技術實施詐騙的案件。相較于傳統電信詐騙，此類詐騙利用AI換臉技術繞過面容核驗等防范措施，更具欺騙性。為AI換臉技術加裝安全網尤為必要。

人工智能技術在促進社會經濟發展的同時，也暴露出一定風險。以AI換臉技術為例，普通用戶獲取教程并不難。除被用作電信詐騙，AI換臉還被用于冒充名人直播帶貨，合成視頻販賣營利，甚至誹謗、敲詐勒索他人等。

AI換臉技術打破了眼見為實的傳統認知，如不加干預，隨著技術迭代升級，AI換臉或將愈發逼真，反詐防騙難度進一步加大，因驗證身份帶來的交易成本也將提升。技術研發者、平臺運營方以及監管部門等有責任堵住漏洞，防范AI換臉野蠻生長。

要為AI換臉技術劃定紅線。目前，對生成式人工智能的治理，已告別無法可依。生成式人工智能技術的使用原則、規則得以確立，各方權利、義務與責任基本明確，有利于AI技術濫用的源頭治理。各類科技企業、開發者也應主動開展合規自查，引導技術向善。

要從根源鏟除AI換臉詐騙賴以生存的土壤。人臉的深度偽造，離不開對目標人臉的模型學習與面容合成、通信協議破解技術的配合。公安、網信等部門應形成合力，從數據安全、技術研發、圖像傳播等方面全鏈條打擊AI技術濫用行為。各平臺也應對用戶上傳的圖像進行技術處理。

要以科技賦能提升用戶反詐能力。AI換臉雖可暫時蒙騙人眼，但在技術層面的留痕卻難以被掩蓋。要加快推動AI生成圖像識別、鑒真技術的應用，短視頻平臺、社交軟件等要對合成圖像進行顯著標注，幫助用戶辨別真偽，讓詐騙無處遁形。 （本文來源：經濟日報 作者：史書一）