OpenAI當地時間9月9日表示，將推動美國建立具有強制約束力、按照模型能力和風險分級的全國人工智能安全制度。公司提出，針對開發最先進模型的少數大型實驗室，應設定統一的測試、獨立評估、網絡安全和重大事故報告要求。

OpenAI發布文章，名為「AI政策窗口打開。我們需要採取行動。」

與此同時，OpenAI正式支持四項已經通過加州議會的人工智能法案。公司稱，其中部分法案此前未獲其支持，此次調整立場源於近期模型能力快速提升。

監管對象集中於前沿模型開發商

OpenAI全球事務主管克里斯·萊恩在文章中表示，人工智能已經開始加速部分模型研發和對齊工作。雖然能夠自主推動下一代模型開發的「遞歸式自我改進」目前尚未出現，但單靠企業自願承諾已不足以應對相關風險。

OpenAI建議聯邦監管制度包括：

• 統一的模型能力與安全測試標準；
• 由獨立機構開展技術評估；
• 更嚴格的模型、算力及研發環境網絡安全保護；
• 明確的重大安全事故報告規則；
• 衡量人工智能參與模型研發程度的共同指標；
• 在安全門檻無法滿足時，放緩或停止模型開發和部署的機制。

公司強調，相關義務應與模型能力和風險相匹配，主要適用於擁有充足資源、開發最先進系統的少數實驗室，不應把同等要求施加於初創企業、小型開發商及普通研究人員。

OpenAI還主張，前沿模型安全監管不應被轉化為對開放權重模型的全面限制，以免削弱競爭、鞏固大型企業優勢或推動研發活動轉移至海外。

四項加州法案覆蓋評估、審計、青少年和生物安全

在國會尚未建立全國制度的情況下，OpenAI表示將繼續支持能夠提高安全標準的州級立法。此次獲得公司正式支持的四項加州法案分別為：

• SB 813：建立獨立驗證機構認定機制，使具備資格的第三方機構能夠評估人工智能系統和模型是否符合州法律。
• AB 1405：設立人工智能審計機構登記制度，並規定審計機構在獨立性、透明度、專業能力和問責方面的標準。
• SB 1119：針對未成年人使用陪伴型聊天機器人，要求採取年齡驗證、風險評估、獨立審計、家長控制及有害內容防護措施。
• AB 1864：要求基因合成服務商及台式合成設備製造商執行聯邦篩查標準，降低人工智能被用於製造生物威脅的風險。

加州州長加文·紐森已於9月9日簽署SB 813和AB 1405。前者建立人工智能獨立驗證組織框架，後者建立州級人工智能審計機構名錄及相關執業標準。SB 1119和AB 1864當時仍等待州長處理。

OpenAI稱部分立場因模型能力躍升而調整

OpenAI沒有表示此前反對上述全部四項法案。公司的準確表述是，其中「部分法案」過去未獲其支持，而公司在重新評估近期模型能力進展後決定予以支持。

這一變化表明，OpenAI正在接受更具強制性和外部監督色彩的監管機制，包括獨立審計、第三方安全驗證以及嚴重事故披露。公司同時提出，當模型在開發或評估過程中未經授權繞過其他機構的安全控制，並實質性訪問、修改或破壞受保護系統及機密信息時，開發商應及時書面通知受影響方。

不過，OpenAI公布的內容目前仍屬於政策倡議。美國國會尚未據此通過全國人工智能安全法，具體能力門檻、監管機構、事故定義、法律責任以及聯邦規則與州法的關係，仍需在後續立法中確定。