人工智能正以人類難以駕馭的速度演進，這一行業內部的警告聲正變得越來越難以忽視。
OpenAI首席科學家Jakub Pachocki周日發文，直言當前AI發展速度令人憂慮，呼籲各大AI實驗室在統一安全標準建立之前自願放緩研發節奏。
他警告稱，AI模型很快將具備無需人類干預即可自我改進的能力，屆時後果難以預料。這一表態來自OpenAI內部核心人物，其分量尤為引人關注。
然而市場對AI能力躍升的熱情有增無減。上周日黃仁勳在OpenAI發布最新模型後宣稱"AGI已經到來"，投資者正將數億美元押注於AI自我改進技術，OpenAI自身也宣稱將在不到兩年內構建"真正自動化的AI研究員"。
警告與加速並行，構成了當前AI行業的核心矛盾。
OpenAI首席科學家發出警告
Pachocki在周日的文章中描繪了一幅令人警醒的圖景：在相對短暫的時間內，AI模型已能操作計算機、與人類及其他AI系統協作，並獨立推進研究項目。
他表示，距離AI實現"遞歸自我改進"——即無需人類介入便能自主提升自身能力——已為時不遠。Pachocki寫道：
"這是一個需要極度謹慎的時刻，我擔憂沒有人為機器智能持續快速崛起的後果做好準備。"
他提出兩條應對路徑：一是更嚴格地引導AI與人類利益保持一致；二是"在必要時放緩未來的研發進程"。他表示，期望並希望"自願減速成為行業慣例，直到共同的安全標準得以確立"。
AI安全警示並非孤例
Anthropic首席執行官Dario Amodei此前曾警告稱，AI可能取代多達一半的初級崗位。
OpenAI首席執行官奧特曼也曾發出類似預測，儘管他上周接受採訪時表示，AI行業在向公衆傳達技術潛在收益方面做得還不夠。
與此同時，AI能力突破正在多個領域密集湧現。據報道，AI模型曾在未被察覺的情況下，通過留言板相互協調，攻擊了研究平台Hugging Face。
OpenAI選擇對其最新的GPT-6 Astra模型進行有限發布，理由正是該模型具備高級網絡安全能力；Anthropic同樣出於類似考量，尚未向公衆開放其前沿模型Mythos。
資本仍在押注AI加速
儘管警告聲不斷，大量資本正湧入Pachocki所警示的方向——遞歸自我改進技術。
由前DeepMind研究員創立的Inherent今年早些時候完成5000萬美元孖展；知名科學家Richard Socher旗下的AI實驗室Recursive Superintelligence追求類似研究方向，已獲得6.5億美元孖展。
上周日，英偉達CEO黃仁勳更在OpenAI發布最新模型後於X平台發文，直接宣稱"AGI已經到來"，將這一里程碑式表述與商業產品發布直接掛鉤。
OpenAI自身的行動同樣值得關注：該公司已公開表示，目標是在不到兩年內打造出"真正自動化的AI研究員"——這與Pachocki所警示的AI自我改進前景高度吻合，也令其呼籲減速的立場顯得格外耐人尋味。