Courtney Rozen

路透華盛頓9月11日 - 美國參議院談判代表正在辯論一項立法，根據兩名參議院助手的說法，該立法將要求科技公司承擔設計安全人工智能產品的責任；據一名參議院助手和一名參與談判的遊說人士稱，如果美國政府希望阻止這些產品發布，聯邦法院也將介入。

據兩名參議院助手稱，該提案將為人工智能開發者確立所謂的「注意義務」。一名參議院助手錶示，企業在設計產品時必須以防範「災難性風險」為目標。

據一位熟悉審議情況的消息人士和其中一位參議院助手透露，談判代表「旨在」賦予美國政府阻止某些被視為不安全的AI模型發布的權力。企業將能夠向聯邦法院對這一決定提出異議，而關於美國政府將擁有多大權力的具體框架仍在討論中。

據這兩位參議院助理稱，該法案的部分內容還將阻止各州執行鍼對AI模型帶來的特定風險制定的本州法律。其中一位助理列舉了此類風險的幾個例子，包括惡意行為者可能利用AI系統設計核武器或生物武器的可能性。

所有這些內容仍在協商之中。該法案將適用於具備最先進能力的人工智能模型。擁有最先進人工智能模型的美國公司包括Alphabet旗下的谷歌 GOOGL.O、Anthropic和OpenAI。

即使談判代表達成一致，國會的日程安排也將使法案的通過變得複雜。衆議院計劃在11月3日中期選舉前僅開會一周，而參議院預計將在華盛頓開會三周。

該提案目前正由參議院多數黨領袖約翰·圖恩、參議院商業委員會主席泰德·克魯茲以及參與談判的民主黨首席代表艾米·克洛布查爾參議員進行討論。參議院商業委員會負責監督美國商務部，該部門擁有內部的人工智能安全研究人員。商業委員會的民主黨首席代表瑪麗亞·坎特韋爾參議員也對該立法發表了看法。

圖恩的發言人拒絕就談判置評。克魯茲在X平台的一篇帖子中表示，他正在與克洛布徹和圖恩共同起草立法，以「應對涉及生物或核威脅的災難性風險」。

「我正在繼續努力，爭取就政府對AI模型所帶來最大風險的監管立法達成兩黨共識，」克洛布徹在發給路透的一份聲明中表示。「這包括要求開發者與政府專家合作，對模型進行驗證和測試，以確保AI的安全性。」

此次談判正值美國國會和美國總統唐納德·特朗普面臨日益增大的壓力，要求其應對先進人工智能系統帶來的風險。隨着有關人工智能代理偏離人類指令併入侵外部系統的報道不斷湧現，以及曾任職於領先企業的人工智能研究人員因擔憂該技術潛在危險而公開警告並辭職，相關擔憂日益加劇。近日，兩黨議員均呼籲加強對該領域的監管。