*本文為《半月談內部版》2026年第6期內容
視頻裏「孫子」哭訴惹禍急需賠錢，電話那頭「好友」的聲音如常，連咳嗽習慣都一模一樣……你敢相信這竟是AI生成的「數字替身」嗎？
隨着AI技術的快速發展，一些不法分子的詐騙手段也在不斷升級，從盜圖、偷聲到合成文書、「數字人」，讓人防不勝防。黑灰產正在從「堆資源、拼人力」的傳統模式，轉向更隱蔽、更低成本、更接近真實用戶行為的「類真人化、智能化」階段。
從盜圖、偷聲到「數字人」
AI詐騙不斷升級
今年3月，家住西部某市83歲的陳婆婆接到「兒子」的電話，稱遭遇意外，需現金「疏通關係」，並讓陳婆婆在約定地點將3萬元交給前來取款的人。當陳婆婆正要將錢交給兩名形跡可疑的年輕人時，被路過的基層幹部發現並報警，兩名詐騙分子慌忙駕車逃離。後經查發現，陳婆婆接到的電話系不法分子使用AI合成聲音打來的。
湖北省黃石市黃石港區人民法院去年底也審結了一起類似的AI詐騙案件。一位老人接到「孫子」打來的電話，「孫子」哭訴在學校與同學發生衝突並失手傷人，需賠償4萬元「私了」，對方家長要上門取錢。前來取款的詐騙分子吳某為讓老人深信不疑，還接通了「孫子」的電話，讓老人確認……同一天，相同的騙局還在另外兩位老人身上上演。吳某在「上線」的遙控指揮下，騙取3位老人共計6萬元。法院審理發現，不法分子使用的AI擬聲技術能高度還原人聲音色，並可實時對話交互，這成為詐騙得逞的關鍵。
半月談記者採訪了解到，近些年AI技術持續迭代，不法分子利用AI技術進行詐騙的手段也在升級，從此前單一的盜圖、換臉、偷聲進行欺詐，到現在可以多模態生成以假亂真的文書證件、動態視頻以及能交互的「數字人」，給群衆甄別違法犯罪增加了難度。
上海一消費者利用AI軟件篡改他人的醫院就診記錄，僞造自己因食用某烤肉店食物而「喫壞肚子」的病歷和發票，以此向商家索賠並威脅向監管部門投訴，商家為息事寧人，最終轉賬賠付；福建某企業負責人郭先生在視頻通話中目睹「好友」面容並親聞其聲，10分鐘內被騙轉賬430萬元，事後發現對方竟是AI合成的「數字替身」；犯罪嫌疑人利用某支付平台漏洞，利用AI技術將他人照片合成視頻進行人臉識別驗證，從而盜刷他人醫保卡……
此類新型AI詐騙在全國各地屢見不鮮。國內一家專注於黑灰產情報和反欺詐技術的機構發布的《2025年互聯網黑灰產趨勢年度總結》顯示，生成式AI與智能體技術的爆發，不僅為產業創新帶來了機遇，也為黑灰產提供了低門檻、高效率的自動化工具。
新技術為何成了新騙術？
AI技術的快速迭代讓使用AI的要求與成本大幅降低，加上監管制度尚不完善、平台責任落實不到位、公衆防範意識薄弱等，讓不法分子找到了可乘之機。
《2025年互聯網黑灰產趨勢年度總結》指出，傳統網絡黑灰產依賴昂貴的硬件，並對編程等技能有較高要求，而AI智能體賦能後，不法分子無需硬件以及編程等技能，通過語言指令就能一鍵式操作，且視覺效果從「僵硬」走向「毛孔級真實」，讓攻擊成本呈指數級下降。
一些網絡黑灰產團伙在暗網和一些論壇獲取AI工具，價格從幾元到數百元不等，並通過社交平台、公共視頻等渠道獲取人臉或語音數據，成本幾乎為零。外交學院信息化辦公室主任王大印表示，造假成本低，但通過詐騙、流量變現可獲得暴利，形成了AI詐騙的經濟驅動力。
在AI詐騙技術升級的同時，相應的攔截和識別技術仍滯後。專注於人工智能安全與治理的「安遠AI」安全治理主管方亮認為，造假技術的進步也推動着檢測技術的發展，但目前造假技術的迭代速度往往更快。從事數字筆跡AI識別技術的重慶親筆籤數字科技有限公司聯席總裁賀英輝表示，人臉、指紋、聲音等單一生物特徵認證方式，正面臨AI深度僞造的威脅，已無法滿足高安全場景需求，數字身份基礎設施亟待升級加固。
給技術戴上「緊箍」
近年來，相關部門先後出台了《生成式人工智能服務管理暫行辦法》《人工智能生成合成內容標識辦法》等，推動AI技術合規發展。業內人士認為，對於用AI換臉實施詐騙或誹謗的定性、平台應承擔的審查責任邊界等問題，現有法律法規還需進一步明確和細化，壓實互聯網平台對AI造假內容的識別和監管責任，建立AI詐騙的國際執法協作機制。實施「風險分級治理」：對醫療診斷、司法證據等 「高風險」 場景，設定嚴格的技術標準、透明度與監管要求；對普通娛樂、創作等 「有限風險」 場景，則以顯著標識和用戶知情管理為主。王大印認為，在現有法律框架內，可明確對利用AI實施詐騙、誹謗、侵犯肖像權等行為的加重處罰情節，提高違法成本。
相關執法部門可開展專項執法行動，完善舉報投訴機制，嚴懲實施AI詐騙的關鍵主體。對組織研發AI詐騙技術、工具者，策劃實施詐騙的組織者，以及累犯、慣犯，堅持依法從嚴懲處。
王大印認為，技術上的可追溯是實現法律上可問責的前提，需要強制推行數字水印等可追溯技術。賀英輝介紹，與人臉、指紋等靜態生物特徵不同，數字筆跡包含筆畫、筆序、筆壓、筆速等上百項動態生物特徵數據，這些筆跡數據具有極強的個人唯一性，AI也難以模仿，可有效避免AI盜圖進行認證造假。
受訪民警提示，如遇親友、領導、客服等線上要求轉賬，務必當面二次覈實，絕不輕信單一渠道信息。視頻通話可讓對方做眨眼、擋臉等動作辨別AI換臉，留意語音有無機械感、有無自然呼吸停頓。及時安裝國家反詐中心App，一旦被騙，立即報警並留存聊天、轉賬等全部證據。
半月談記者：周凱 鄭世昌
原標題：《「孫子」成了數字人，視頻裏哭碎心》
