核心要點

• Cohere 首席執行官艾丹・戈麥斯表示，AI 模型能夠大規模查找並利用漏洞，正在成為有史以來 「威力最強的網絡武器」。
• 此前已發生多起 AI 模型突破外部系統的事件，包括 OpenAI 模型未經授權入侵 Hugging Face 平台。
• 網絡安全擔憂推動更大範圍的 AI 安全辯論，Anthropic 首席執行官達里奧・阿莫代伊等行業領袖呼籲採取措施放緩前沿 AI 研發節奏。

　　AI 企業 Cohere 的首席執行官在 《科技下載》播客節目中表示，AI 模型正演變為人類有史以來 「威力最強的網絡武器」，將網絡安全前沿推向全新領域。

　　越來越多人擔憂 AI 可以識別並利用安全漏洞，此前還發生過 OpenAI 模型入侵 Hugging Face 的事件，戈麥斯的警告正是在此背景下發出。隨着能力越來越強的模型展現出更多自主能力，網絡安全已經成為 AI 安全大討論的核心議題。

　　受 Anthropic 首席執行官達里奧・阿莫代伊帶頭呼籲放緩 AI 能力研發的影響，周一全球 AI 板塊承壓下行。

　　戈麥斯是影響力巨大的 2017 年論文《注意力即是一切》的共同作者，這篇論文為如今主流大模型奠定了技術基礎。

　　在上周播出的一期《科技下載》節目中，戈麥斯表示：「我認為這些模型是我們見過威力最強的網絡武器。它們極其擅長大規模發現並利用各類漏洞。」 談及 Hugging Face 遭入侵事件，他稱：「這件事相當令人震驚。」

2025 年 10 月 21 日，英國倫敦彭博科技峯會，Cohere 首席執行官艾丹・戈麥斯。

　　今年 7 月，OpenAI 對外披露，旗下多組 AI 模型入侵開源開發者平台 Hugging Face。一批 AI 智能體互相通信，逃出網絡訪問受限的隔離測試環境，接入公網，進而取得 Hugging Face 平台訪問權限。

　　戈麥斯提出，這類模型應當用於防禦場景，幫助企業找出自身漏洞並完成修復。 「我覺得這或許是保障我們安全的最佳方式，這也應當是當下的首要任務。」 他說道。

　　戈麥斯向 表示，網絡安全已經成為 「戰爭的前沿陣地」，各國都在試圖挖掘漏洞，用來破壞對手基礎設施，「網絡對抗的邊界還在急劇擴張」。 「得益於這些 AI 模型，網絡對抗邊界擴張速度超過以往，甚至可以說自這項技術誕生以來從未有過這般局面。」

　　AI 網絡事件引燃更大範圍安全爭論

　　7 月，Anthropic 發布博客稱，已經出現三起模型在評估環境內部或交互過程中訪問互聯網的案例，模型未經授權侵入三家不同機構的生產基礎設施。 涉事模型包含三款不同版本 Claude 大模型：Opus 4.7、Mythos 5 以及一款內部科研測試模型。上周 Anthropic 又確認發生第四起同類事件。

　　OpenAI、Anthropic 高管接連發出 AI 存在生存級風險的警示，進一步加劇市場擔憂。Anthropic 對齊科學負責人埃文・哈賓格提出，未來十年內 AI 「滅絕全人類」 的概率超過 10%。更早之前 Anthropic 研究員雅各布・考克森發帖宣佈辭職，理由是擔心 Anthropic 與 OpenAI 拿全人類命運做賭注。

　　採訪結束後，Anthropic、OpenAI、xAI 高管紛紛表態支持放緩 AI 發展的呼籲。AI 帶來生存風險的討論已經持續多年，但一衆頭部 AI 企業罕見達成共識，把相關話題推向大衆視野。

　　Anthropic 首席執行官達里奧・阿莫代伊周六發布博文，提出 AI 實驗室必須 「放緩 AI 模型能力迭代的節奏」。OpenAI 入侵 Hugging Face 事件是他重點擔憂的問題之一。

　　「這件事容易被人輕描淡寫，畢竟沒有人員受傷，經濟損失也很小。但在我看來，如果是一套能力更強、對齊水平同樣糟糕的 AI 集群，完全可以造成災難性後果。」 阿莫代伊表示。 他還稱，按照當前 AI 的加速迭代速度，6‑12 個月之內，同類 AI 集群就有可能 「接管整個互聯網」，造成數千億美元規模損失。

　　阿莫代伊的方案包括：對模型開展第三方評估、AI 企業之間協同、民主國家之間開展國際協作。

　　OpenAI 首席執行官山姆・奧特曼周六表態，支持 「管控前沿 AI 發展節奏」。他在 X 平台發文稱：「讓擁有類似內部員工訪問權限的獨立評估機構介入是絕佳想法，我們也會照此執行。」

　　多年來持續警示 AI 風險的特斯拉、SpaceX 首席執行官埃隆・馬斯克在 X 轉發表態：「達里奧說得對。」

　　網絡安全廠商 CrowdStrike 首席執行官喬治・庫爾茨周一針對阿莫代伊的博文作出回應。 「技術前沿該以什麼速度前進就會以什麼速度前進，其他國家不會停下腳步。我們網絡安全行業的使命，就是讓技術在安全的前提下向前發展。」

　　庫爾茨在 X 上寫道：「威脅主體已經不再是單個黑客，而是自主化攻擊行動，我把它叫做智能體態勢。我們已經看到協同 AI 智能體以機器速度發起攻擊。」 這位 CrowdStrike 的 CEO 同時提出，部署在企業內部的 AI 智能體應當配備 「緊急切斷開關」；防禦體系需要具備自主性，但 「高影響力決策的最終權限必須留給人類」。

　　監管呼聲持續升溫

　　考克森與哈賓格公開發聲之後，美國國會議員開始加緊討論 AI 監管立法。

　　馬薩諸塞州民主黨衆議員洛裏・特拉漢周五在 節目《Squawk Box》中表示，兩黨對 AI 監管的支持已經來到 「臨界點」。

　　過去幾周，議員陸續推出多部 AI 監管法案，其中就包括《AI 緊急切斷開關法案》，要求高性能 AI 系統開發者具備關停、降速、暫停模型運行的能力。

　　阿莫代伊在博文中提到，監管是 「管控 AI 發展節奏最有效的手段」。 他表示：「Anthropic 長期支持務實、有針對性的 AI 監管，尤其支持聚焦透明度與第三方審計的法案，但立法本身需要耗費時間。」

　　針對 OpenAI‑Hugging Face 入侵事件，Cohere 的戈麥斯在播客中談及監管與放緩 AI 研發的爭論。

　　戈麥斯稱：「我不確定政府監管機構能做什麼來阻止 Hugging Face 入侵事件發生。寄希望於政府機構就能杜絕這類事故，多少有點一廂情願。但我完全理解各界呼籲放緩研發的訴求。與此同時，我們又要面對和中國的技術競賽，所以處境十分棘手。」