頭圖來自：AI生成
如果有一天，你在交友軟件上認識了一個人。對方記得你說過的話，會持續回應，也會在你要求視頻時真的出現在鏡頭裏。過去，這大概足以證明螢幕另一端「確實有人」。
但Anthropic最新發布的154頁威脅情報報告，給出了一個更麻煩的現實：視頻裏出現的可能是真人，過去幾天一直陪你聊天的，卻未必一直是。
2026年4月，Anthropic發現一家位於中國的應用工作室運營20多款約會應用。在其觀察的兩周窗口內，超過4700個AI驅動的人設至少與2.5萬名真實用戶互動，產生約236萬條Claude消息。匹配池中的賬號約四分之三由AI驅動。更關鍵的是，當用戶要求視頻通話或轉移到其他社交平台時，真人工作人員可以介入。
這不是整份報告裏技術風險最高的案例，卻可能是離普通人最近的一幕：AI負責規模化維持關係，真人負責在最關鍵的時刻證明「我是真人」。
把這一個案例放回Anthropic整份報告，會發現它和網絡攻擊、監控、影響力行動甚至武器研發共享着同一條變化：AI正在從「給人建議」，走向參與更長、更完整的執行鏈。過去需要很多人、很多時間和較高專業門檻才能推進的事情，開始被壓縮成少數人加上一組模型或Agent。
先看報告：Anthropic到底發現了什麼？
Anthropic這份《Detecting and Countering Misuse of AI: September 2026》覆蓋2025年12月至2026年8月間被公司發現並處置的濫用活動。它不是Claude整體用戶行為的抽樣統計，而是集中呈現Anthropic認為最值得注意、最具新穎性的威脅案例：
此表更適合被理解為「AI濫用邊界正在延伸到哪裏」，而不是「這些風險在所有用戶中有多普遍」。
一、4700個「真人」：AI開始學會在最關鍵的時候讓真人出現
過去我們對網絡機器人的識別方式很樸素：頭像可能是假的，話術可能是模板，聊久了總會露出破綻。生成式AI已經讓「聊得像真人」變得容易，但Anthropic披露的約會應用案例更進一步——系統不是執着於讓AI完成100%的僞裝，而是在人最容易起疑的地方引入真人。
這是一種很值得注意的人機分工。AI承擔最耗時間、最需要規模的長期聊天，真人只在視頻、跨平台聯繫等高風險節點介入。換句話說，真人不再負責維持關係，而開始成為大量AI身份背後的驗證節點。
這改變了欺騙的成本結構。過去，一個真人一天能認真維護的關係數量非常有限；現在，同一套系統可以讓數千個身份同時在線、持續回應、保留上下文，再用少量人工去處理機器最難通過的驗證。
報告還顯示，這些應用通過匹配和消息額度推動用戶持續購買虛擬幣。於是情感互動不再只是「AI會不會說甜言蜜語」的產品能力，而被嵌進一條完整的商業鏈：身份製造、持續互動、真人驗證、付費轉化。
需要說明的是，Anthropic披露的是它發現並處置的具體濫用活動，不能由此推斷所有AI陪伴或約會產品都採用類似模式。真正的分界線也不是「AI能不能陪伴人」，而是用戶是否知道自己正在和AI交流。
二、AI從「告訴你怎麼做」，走向「參與把事情做完」
如果只看4700個AI戀人，這份報告很容易變成獵奇新聞。但Anthropic真正反覆呈現的，是另一條更重要的技術趨勢：AI的角色正在從一次性的內容生成，進入連續任務。
網絡攻擊是最清楚的例子。攻擊者不再只是讓Claude解釋漏洞或寫一段代碼，而是把模型放進偵察、利用、數據整理、惡意軟件迭代等多個環節。報告披露的一項疑似與俄羅斯國家背景相關的網絡間諜活動，計劃攻擊超過20家組織；當惡意工具被安全產品發現後，AI還被繼續用於修改和重新部署代碼。
這裏真正變化的是經濟學，而不是AI突然有了「惡意」。對於合法企業，Agent的價值就在於減少人工接力，讓一個人能推進更完整的工作流；同樣的生產率提升落到攻擊者手裏，也會讓少數人完成過去需要更多專業人員才能完成的事情。
因此，AI安全問題正在從「模型會不會回答一個危險問題」，變成「模型能不能在現實系統裏連續行動」。前者主要靠內容過濾，後者則涉及權限、工具調用、日誌、身份驗證、人工接管和異常檢測。
三、監控和情報工作也開始Agent化
Anthropic還披露了AI被用於監控與情報活動的案例。一名為馬裏國家安全部門工作的顧問曾藉助Claude參與開發通信攔截平台；另一起與伊朗相關的活動則使用Claude處理大量社交媒體信息，並篩選特定賬戶持續分析。
這類案例之所以重要，不在於模型能夠「讀社交媒體」，而在於它開始承擔過去需要分析人員長期處理的信息整理和篩選任務。模型越能持續調用工具、讀取數據、形成中間結論，風險的單位就越從一條輸出變成一段工作流。
對企業也是同樣的提醒。未來一個Agent能讀取郵件、合同、CRM、代碼倉庫和財務文件時，真正決定風險的不只是模型聰不聰明，而是企業究竟給了它多大的行動半徑。
報告中更敏感的一部分涉及常規武器相關研發。Anthropic披露，一個位於也門北部的團隊同時運行多個Claude實例，讓不同實例承擔研究、編碼和代碼審查等任務，並用於制導火箭相關的軟件研發。在一次真實測試失敗後，相關人員又使用Claude分析問題。
這部分最容易在傳播中被誇大。嚴格按照報告，能夠確認的是Claude參與了研發鏈條中的若干具體任務，而不是模型獨立設計、製造或部署了某種武器。
但即便保持這個邊界，信號依然足夠重要：通用模型正在進入過去高度專業化的研發環節。它與AI進入企業的方式並沒有本質不同——先從檢索、代碼、分析、調試和文檔開始，只是當應用場景換成高風險領域，同樣的生產率就會轉化為新的安全壓力。
四、最難治理的可能不是明確的惡意，而是「既能救人也能害人」的研究
Anthropic還披露了5組可能支持高風險生物用途的研究活動，涉及病毒功能增強、適應實驗、毒素改造等方向。但報告沒有把這些研究者直接定性為正在製造生物武器。
原因很現實：生物研究具有典型的雙重用途。研究病毒傳播、免疫逃逸和病原體機制，可能服務疫苗、治療和公共衛生，也可能被惡意利用。只看一段模型交互，往往不足以確認研究者最終要做什麼。
這讓AI安全進入了一個比「屏蔽危險關鍵詞」更困難的階段。真正的問題變成：同一種知識，由什麼人、在什麼環境、為了什麼目標調用？模型越通用，合法研究和惡意使用之間越難用一條簡單規則切開。
五、從生成一篇內容，到運營一整套影響力機器
生成式AI能夠批量寫文章早已不是新聞。Anthropic這次披露的新變化，是影響力行動開始擁有更完整的自動化基礎設施。
在與中非共和國相關的一起俄羅斯影響力行動中，Claude被用於生成廣播材料、社交媒體內容、合同等文件，並幫助內容更接近當地記者的表達。其他案例還涉及賬號維護、技術基礎設施和互動操作。因此，AI對輿論操縱最大的改變未必是「假內容更像真的」，而是組織一場持續影響力行動的成本開始下降。寫作、改寫、本地化、資料整理和運營原本需要多人接力，現在越來越多環節可以被模型接住。
AI沒有發明詐騙、宣傳、網絡攻擊或間諜活動。它真正可能改變的，是這些事情的單位成本和可複製規模。
Anthropic在報告定位上有一個必須保留的限定：這些是公司發現的最值得注意和較新穎的濫用活動，不代表Claude的典型使用方式。
這意味着我們不能從這份報告推導出「100萬個Claude用戶裏有多少人在作惡」，也不能據此計算AI讓網絡犯罪增長了多少。它更像一本邊界案例集：當最先進的通用模型進入現實世界後，已經有人嘗試把它推到哪裏。
但也正因為如此，它有另一種價值。很多技術變化在成為大規模社會問題之前，往往先以少量邊緣案例出現。4700個AI身份、連續攻擊鏈、自動化影響力行動的重要性，不在於證明今天已經到處如此，而在於它們讓人提前看到：一旦能力繼續提升、成本繼續下降，哪些模式最容易被複制。
結語
整份報告裏，導彈、網絡間諜和高風險生物研究都比約會應用更嚴重，但4700多個AI身份反而最容易讓普通人感到一種具體的不安。因為我們每天都在默認一件事：螢幕另一邊，大概率還有一個人。
交友軟件裏的對象、社交平台上的網友、評論區裏的陌生人、主動聯繫你的獵頭、推薦商品的「用戶」，甚至一個在深夜耐心聽你說話的人。過去即便頭像是假的、名字是假的，我們仍然默認對面存在一個真實主體。
生成式AI正在讓這個默認前提失效。更復雜的是，未來「真人」和「AI」可能不是兩種互斥身份。一個賬號可以80%的時間由AI維護，20%的關鍵時刻由真人接管；一個真人也可以成為幾十、幾百甚至更多AI身份背後的驗證節點。
一次視頻通話也不再天然證明此前的每一句話都來自視頻裏的人。這並不意味着AI陪伴本身有問題。一個明確告訴用戶「我是AI」的虛擬伴侶，與一個故意讓用戶相信「我是一個真實的人」的系統，是兩件完全不同的事。未來AI社交和AI陪伴真正繞不開的規則，很可能不是禁止AI擁有情感表達，而是身份披露：用戶有沒有權利知道自己正在和誰交流，AI參與到什麼程度，真人又在什麼時候接管。
互聯網已經讓人與人之間隔着頭像、暱稱和螢幕在交流了，AI又在這層距離里加入了新的不確定性。當僞造一個持續存在、耐心回應、看起來有記憶的人越來越便宜，真實關係裏的陪伴、責任、身份和可驗證的共同經歷——反而會重新變得重要。
對一個孤獨的人來說，螢幕裏那句「我記得你上次說過這件事」可能真的會帶來安慰。問題不在於這種安慰來自AI，而在於如果有人故意讓你相信它來自一個真實的人，再利用這份信任推動你持續付費，那麼被利用的就不只是信息差，而是人的情感需要。
資料：Anthropic《Detecting and Countering Misuse of AI: September 2026》
本內容未經允許不得轉載。授權事宜請聯繫 hezuo@huxiu.com。
End
想漲知識 關注虎嗅視頻號！