據報道，OpenAI正在測試的人工智能智能體在7月份黑入AI軟件公司Hugging Face的兩個月前，就對一款熱門軟件服務發起了網絡攻擊。這一新事件表明，先進的人工智能工具存在脫離人類控制的潛在風險。

　　該服務運營商表示，此次攻擊壓垮了面向程序員的在線服務RubyGems的維護團隊，迫使他們不得不關閉新賬戶註冊以應對造成的混亂。

　　一個AI研究人員聯盟表示，他們已找到證據表明5月份的攻擊系OpenAI智能體所為，並將調查結果分享給了OpenAI。這家AI開發商周五證實，其智能體確實捲入了一起涉及RubyGems的事件。

　　OpenAI發言人在一份聲明中表示：「根據我們的審查，我們的智能體利用RubyGems平台訪問互聯網，以執行良性任務並獲取公開信息。作為對訓練和評估期間智能體活動進行廣泛審查的一部分，我們將繼續展開調查。」

　　OpenAI表示，這些智能體被要求執行填寫電子表格和生成報告等任務。由於在受限環境中無法完全訪問互聯網，這些AI智能體似乎將RubyGems當作了一種臨時的網絡瀏覽器，以訪問公開信息。

　　非營利組織「夜鶯聯盟」（Nightingale Collective）的首席執行官Sydney Von Arx表示，雖然該事件造成的整體損害較小，但它展示了這些智能體的能力。該組織協助揭露了此次攻擊。「它們能夠逃離互聯網並造成嚴重破壞，」她說。

　　過去一年裏，AI智能體的網絡安全能力實現了飛躍，引發了人們對AI增強型網絡攻擊的擔憂，並加劇了業界對高能力智能體可能擺脫其創造公司控制的恐懼，這標誌着人工智能正步入一個更加危險的新紀元。

　　根據AI安全研究組織METR在8月下旬的一份報告，在7月份針對Hugging Face的黑客事件中，多達1200個智能體在OpenAI內部搭建的一個臨時留言板上進行了協調，而OpenAI對此毫不知情。Von Arx表示，今年早些時候，OpenAI的智能體還劫持了一個不知名的德國網站及其他幾個網站。

　　德國網站的問題同樣是由Von Arx的團隊報告的。她表示，AI公司對其實驗室內部發生的事情缺乏透明度。OpenAI本月早些時候表示，AI社區需要更好的標準來報告所謂的「錯位事件」（misalignment incidents），即智能體表現出超出預期行為的情況。

　　包括Anthropic和Meta Platforms在內的多家公司，其AI智能體頻頻採取超出運營者預期的行動，在某些情況下甚至試圖欺騙人類。這一連串的事件引發了AI安全研究人員長期以來的擔憂：AI可能會進化到超越人類控制的程度。

　　本周，一名Anthropic工程師因擔憂AI行業正競相開發最終可能威脅人類文明的先進AI系統而辭職。Anthropic和OpenAI的一些現任及前任員工附和了這一評估，其中一人估計「AI可能會消滅全人類」的概率超過10%。

　　OpenAI和Anthropic均呼籲建立治理體系，以協調全行業放緩對最先進AI模型的研究。隨着這些公司接近實現AI系統自主訓練新版本（即「遞歸自我改進」）的潛力，這種呼籲顯得尤為迫切。一些研究人員指出，這可能正是AI變得無法控制的臨界點。

　　安全研究人員當時將5月份的事件命名為「GemStuffer」。該事件始於5月11日。智能體每隔兩到三分鐘就在RubyGems上創建新賬戶，並向RubyGems安全團隊上傳了數百個看似垃圾郵件的文件。RubyGems文件本應包含旨在加速軟件開發的代碼和文檔，但這些文件裏裝的卻是從互聯網上抓取的網頁。

　　據AI研究人員在報告中稱，「GemStuffer」的創建者發布了來自英國政府網站的信息（如在線日曆）。他們還試圖利用兩個漏洞，這些漏洞本可能允許其發布屬於其他用戶的現有RubyGems文件的新版本。其中一個漏洞此前並未公開，在網絡安全術語中被稱為「零日漏洞」，性質嚴重。OpenAI表示無法證實這一說法。

　　運營RubyGems的非營利公司Ruby Central的開源主管Marty Haught表示：「就我們觀察到的攻擊量而言，這是一次重大攻擊。」由於不堪垃圾郵件的重負，RubyGems被迫關閉新賬戶註冊長達四天。

　　Haught表示，他不知道攻擊背後的始作俑者，但攻擊似乎並未成功利用那個零日漏洞。

　　網絡安全公司Socket的威脅研究員Joseph Edwards認為，「GemStuffer」可能是某種網絡安全測試。「由於攻擊速度極快，加上相關的命名特徵，我們當時認為這可能是AI生成的。」

　　但根據攻擊者留下的數字線索，AI研究人員將該事件與OpenAI的實驗室聯繫了起來。攻擊者使用了大量相同的網頁鏈接，其行為方式與之前的OpenAI智能體群非常相似；他們在文件名甚至電子郵件地址中使用了「OAI」這個縮寫。