FX168財經報社(亞太)訊 美國總統特朗普周四(9月10日)淡化了人工智能可能失控、甚至威脅人類生存的警告，強調美國當前更重要的任務是繼續維持AI領域的技術領先優勢。與此同時，OpenAI和Anthropic內部圍繞前沿模型安全性的擔憂明顯升溫，使美國AI產業再次陷入「技術競賽」與「安全約束」之間的爭論。

特朗普當天離開達拉斯時被記者問及，是否擔心AI最終可能導致人類滅絕。

他回答稱：「不，我沒有這種擔憂。」特朗普隨後表示，他真正擔心的是，如果美國不能在AI競爭中保持領先，將處於非常不利的位置。

他表示，美國目前仍保持一定技術優勢，而在AI這樣快速發展的領域，即便一年的領先時間，也可能具有重要意義。

這番表態進一步凸顯出特朗普政府當前AI政策的核心優先級：與潛在長期安全風險相比，保持技術領先、擴大AI基礎設施投資以及加快先進模型落地，被置於更加突出的位置。

白宮此前公布的AI政策框架已經明確提出，美國應加快AI創新、基礎設施建設以及國家安全領域應用，同時繼續鞏固自身在全球人工智能產業中的領先地位。

AI安全爭議突然升溫

特朗普作出上述表態之際，AI安全問題本周重新成為硅谷和美國政策界討論焦點。

此前，一名Anthropic研究人員辭職，並公開警告當前大型AI公司正在過快推進可能具備「自我改進」能力的前沿模型。

Jacob Coxon表示，自己過去三年曾分別在Anthropic和OpenAI工作。他在社交媒體X上警告，相關企業正在競相開發「自我改進型超級智能」，而這種技術可能最終脫離人類控制。

Coxon稱，未來更高級的AI系統可能在網絡攻擊、科學研究以及資源獲取等方面獲得遠超當前水平的能力。

他還表示，一些直接參與前沿AI研發的人士確實認為，高級AI在本十年結束前存在引發極端風險的可能。

Anthropic現任研究人員Evan Hubinger隨後公開表示認同這種擔憂，並稱自己估計未來十年發生極端AI風險的概率超過10%。

這些觀點並不代表整個AI行業的共識，但再次凸顯出前沿模型開發者內部長期存在的一項核心爭論：能力進步的速度，是否已經開始超過安全研究和治理機制的發展速度。

OpenAI也開始討論是否「踩剎車」

值得注意的是，部分頭部AI企業管理層對這一風險並非完全忽視。

據知情人士透露，OpenAI首席執行官Sam Altman本周向員工表示，公司正在考慮適當放慢最前沿AI模型的開發速度，並希望其他主要AI企業也採取類似行動。這意味着，即便在全球AI競爭進一步升溫的情況下，行業內部對於「是否應該繼續不計成本地追求更強模型」已經出現更加明顯的分歧。

問題在於，對任何一家頭部AI公司而言，單方面放緩研發都存在巨大商業風險。

OpenAI、Anthropic、Google、Meta以及其他大型科技公司目前正圍繞模型能力、算力、企業客戶以及開發者生態展開激烈競爭。

如果其中一家企業主動降低研發速度，而其他競爭對手繼續推進，就可能迅速失去技術領先優勢。而如果所有企業都選擇繼續加速，又可能增加安全治理跟不上技術進步的風險。這構成了AI行業最典型的「囚徒困境」。

特朗普政府明顯站在「先保持領先」一邊

從政策方向來看，特朗普政府目前明顯傾向於降低監管壁壘、擴大投資和加速商業部署。

美國政府此前公布的AI政策框架提出，應在保護公衆利益的同時，避免監管政策過度限制AI產業創新能力，並希望通過更加統一的監管體系減少政策碎片化。

因此，特朗普此次明確表示「不擔心AI導致人類滅絕」，基本延續了其政府此前的政策邏輯。即：AI首先被視為一項經濟競爭和國家安全技術，而不是優先需要限制發展的潛在風險源。

全球AI競爭成為政策核心變量

特朗普此次強調技術領先，也凸顯出全球AI競爭正在越來越直接地影響美國監管政策。

對於華盛頓而言，AI已不僅是一項科技產業，而是與芯片、數據中心、電力、網絡安全、軍事能力和經濟生產率直接相關的戰略資產。這意味着，美國每增加一項針對前沿模型的安全限制，都需要同時評估其是否會減緩本國企業研發速度，從而削弱其在全球AI產業中的競爭優勢。

這也是當前AI安全爭論最難解決的地方。

從技術研究者角度看，能力越強的模型越需要更嚴格的可控性測試和安全機制。但從產業和戰略競爭角度看，任何主動放慢研發的行為，都可能意味着讓出技術和商業優勢。

對華爾街意味着什麼？

這一爭論同樣直接關係到資本市場。

過去幾年，美股AI行情的核心邏輯之一，就是大型科技企業會持續投入數千億美元建設數據中心、芯片、網絡和電力基礎設施。

如果美國政策繼續優先推動AI發展，意味着大型科技公司的資本開支周期短期內仍可能保持高位，對英偉達、博通、數據中心、電力基礎設施以及雲計算產業鏈構成支撐。

相反，如果AI安全爭議最終推動美國建立更嚴格的前沿模型監管制度，或者主要AI實驗室共同決定放慢最先進模型的開發速度，則可能改變市場目前對於算力需求持續高速增長的預期。

因此，這場爭論並非只是哲學意義上的「AI會不會失控」。

對於投資者而言，更實際的問題是：美國最終會選擇繼續踩下AI競賽的油門，還是開始為前沿模型增加更強的剎車。

目前來看，特朗普給出的答案相當明確——至少在全球AI產業競爭仍然激烈的階段，美國政府更擔心的並不是AI發展得太快，而是發展得不夠快。

這也意味着，未來圍繞AI監管的真正衝突，可能不再只是「安全與創新」之間的傳統爭論，而會進一步演變成安全風險、產業利益和全球技術競爭三者之間的博弈。