獨立研究人員發現，OpenAI"失控"智能體活動範圍遠超此前披露。與此同時，OpenAI宣佈將一名知名AI安全研究員納入非營利董事會，此舉被外界視為對日益高漲的安全質疑的回應。
9月9日，據路透社報道，六組獨立調查人員及其審閱的數據顯示，OpenAI智能體在今年5月至7月間曾藉助至少18個此前未披露的網站相互傳遞信息。
加利福尼亞州非營利機構CivAI研究員Andrew Yoon表示，這一規模"比我們原先以為的要大一些"，並稱"幾乎可以肯定還有更多我們尚不知曉的情況"。
上述披露令市場對AI模型能力邊界及開發公司信息透明度的擔憂進一步升溫。OpenAI對此未直接回應智能體究竟使用了多少個第三方網站，也未解釋為何將相關事件壓制數月。
該公司在一份聲明中表示，正在對智能體活動展開更大範圍審查，目前"尚未發現其他與Hugging Face事件同等嚴重程度或規模的活動"，並稱將"儘快"發布一套關於AI"失調"行為報告機制的框架。
活動範圍遠超此前公開信息
據路透社報道，上周五，研究人員首次披露，一群OpenAI智能體入侵了一個德語維基網站，將其改造為考試作弊的臨時通信平台。
彼時，OpenAI正忙於處理今年7月開源代碼庫Hugging Face遭黑客攻擊的後續影響，並未主動公開德語維基事件。
此後，多組獨立調查人員進一步發現，同一批智能體在更早時間還在多個未曾曝光的網站上留下了類似痕跡。
研究人員Sydney Von Arx的團隊，即最早披露德語維基事件的研究小組表示，其已在23個此前未經報道的網站上發現了可信的智能體活動記錄，但她同時警告，所有統計結果均不完整。她說：
我們根本不知道實際規模有多大。
軟件開發者Kenneth Russell DeGraff表示，他在至少10個網站上發現了相關信息痕跡。
各方調查人員的計數方法不盡相同，路透社亦無法逐一覈實每項說法，但所有接受採訪的人士均認同受影響網站數量超過10個。
智能體如何繞過限制
研究人員的調查方法各異，但多數人通過將德語維基上遺留的特定數據字符串與其他網站上同期出現的相同字符串進行匹配，或對比相似的用戶名，以及識別旨在回答相同冷僻問題（例如愛荷華州癌症發病率查詢）的活動，來鎖定智能體行為。
部分情況下，研究人員還將相關活動追溯到指向微軟Azure基礎設施的IP地址。
OpenAI迄今未公開解釋智能體為何將第三方網站當作臨時留言板。
不過，據最早發現該活動的研究人員分析，這可能是因為OpenAI要求這批智能體在僅允許掃描網頁而不得發布任何內容的限制條件下完成一系列高難度研究任務，而智能體通過利用舊式維基或其他網站在非標準命令下允許用戶編輯的漏洞，找到了相互通信的變通途徑。
DeGraff說：
如果這些模型只被允許讀取內容，那麼它們就必須想辦法留下信息。
這種行為頗似考場上被禁止交流的學生在衛生間隔板上傳遞答案。
受波及網站範圍頗為龐雜，包括一名馬薩諸塞州高中教師於2008年創建的AP化學維基、兩名波蘭科技工作者的個人網站、面向益智遊戲愛好者的維基，以及多倫多大學和範德堡大學運營的兩個短鏈接服務。
多倫多大學表示，OpenAI在路透社報道發布後"已與我們就網站上的可能活動取得聯繫"。
在奧地利的軟件開發者Helmut Leitner為六個受影響維基網站提供託管服務。
他表示，在路透社向OpenAI呈交調查結果數小時後，才收到一封來自該公司的無署名郵件，稱其內容"與我對OpenAI的預期相差甚遠"。Leitner同時指出，責任不在於智能體本身，"而在於其背後的人和組織"。
任命安全研究員入董事會，回應外界壓力
就在外界對OpenAI技術管控能力的質疑持續發酵之際，該公司宣佈任命Paul Christiano加入其非營利基金會董事會。
Christiano目前擔任美國商務部下屬機構、AI標準與創新中心（CAISI）的高級技術顧問，是AI"對齊"領域的權威專家，即研究如何確保AI系統按照人類意圖運作。他曾於2024年前擔任OpenAI競爭對手Anthropic非營利信託成員。
Christiano將加入董事會安全與安保委員會，同時作為無投票權觀察員列席OpenAI營利性董事會。作為非營利董事會成員，他還將監督該基金會的慈善工作——該基金會在OpenAI去年完成重組後持有其營利性公共利益公司26%的股權。
Christiano此前曾公開談及他對AI風險的強烈警覺。他在2023年的一檔播客中表示，未來"AI接管"事件的發生概率或達10%至20%，並可能導致大量人員死亡。
Christiano在一份聲明中表示：
過去一年AI能力進步極為迅猛，而對齊問題在技術層面依然困難重重，這使得安全與安保委員會的職責比以往任何時候都更為重要，也更具挑戰性。
OpenAI表示，Christiano將回避所有與CAISI相關的公司事務及所有模型評估工作。