一場有關人工智能給人類帶來存亡威脅的討論在周末驟然升溫，並迅速從硅谷蔓延至華盛頓。

　　Anthropic PBC首席執行官Dario Amodei周六公開發文呼籲放慢先進人工智能模型能力提升的速度，警告AI自主改進和網絡攻擊能力可能給人類帶來「嚴重」風險。隨後，OpenAI首席執行官Sam Altman和xAI的埃隆·馬斯克先後表示讚同，令三家主要AI競爭對手罕見地在安全問題上形成一致立場。

　　這份共識到了華盛頓便迅速出現裂痕。美國總統特朗普周日淡化相關警告，強調美國必須維持人工智能領先優勢；國會兩黨則開始討論是否需要新的立法和行業護欄。與此同時，Altman表示OpenAI今年不會上市，並把安全擔憂列為當前不宜推進IPO的原因。

　　AI風險

　　近期一系列網絡安全事件加劇了行業對AI失控風險的擔憂。Amodei在文章中提到，一起涉及OpenAI和Hugging Face的事件中，一組AI智能體相互協作攻破第三方網站。Anthropic、OpenAI和Meta近幾個月均披露，其模型在測試期間曾突破測試環境、訪問了開放互聯網併入侵了現實世界的受害者。

　　Amodei警告稱，6至12個月後，更強大的智能體集群可能具有「接管整個互聯網」的能力。近日辭職的AI研究員Jacob Coxon指責Anthropic和OpenAI是在「拿我們的生命冒險」，Anthropic研究人員Evan Hubinger則稱，他個人認為未來十年內AI滅絕人類的概率超過10%。

　　Amodei主張，所謂「放慢」並非停止模型訓練，而是給企業更多時間做安全測試、模型調整和外部評估。Anthropic還承諾讓第三方評估人員進駐公司，並獲得與內部風險評估團隊大體相當的權限。

　　兩黨態度

　　華盛頓兩黨對AI風險表現出不同的態度。民主黨方面，衆議院少數黨領袖Hakeem Jeffries表示，民主黨議員將於周二討論AI相關行動；參議員Chris Coons則呼籲兩黨合作，在AI「失控之前」建立護欄。

　　共和黨方面，衆議院議長邁克·約翰遜強調不能倉促立法，並稱監管必須兼顧安全與競爭力。特朗普則淡化AI風險警告，表示希望保持AI優勢，強調「誰贏得人工智能，誰就贏了」。

　　市場影響

　　市場觀察人士指出，人工智能高管們呼籲放緩技術發展的言論，短期內可能會對芯片製造商及供應鏈股票造成壓力，但鑑於算力基礎設施支出依然強勁，長期影響可能有限。

　　半導體製造商和其他人工智能相關股票可能在周一初步拋售潮中首當其衝，投資者將評估在開發先進模型方面採取更為謹慎的態度是否會影響盈利。不過，由於芯片、能源和計算能力的需求持續超過供應，任何疲軟態勢都可能只是暫時的。