OpenAI總裁兼聯合創始人Greg Brockman認為,人工智能發展的任何減速都應該僅限於像他的公司這樣正在構建最強大模型的公司。
「很多人都會問,‘我還能繼續開發我的開源模型嗎?我還能繼續做我的業餘項目嗎?’答案應該是當然能,」Brockman表示。「當我們談論步調時,我們實際上是在談論這個領域的前沿。我們談論的是這些耗資數千億美元的巨型超級計算模型。」
Brockman的採訪講話是在Anthropic PBC首席執行官Dario Amodei周六發布博客文章之前作出的。Amodei在文章中指出AI風險加劇,並承諾放緩推進先進模型。OpenAI首席執行官Sam Altman迅速響應了Amodei關於設立獨立評估機構的呼籲。Altman還在周末的採訪中表示,由於公司正在解決安全相關問題,因此今年不會上市。
Brockman在採訪中指出OpenAI在最近的Hugging Face事件之後如何放慢訓練AI模型的頻率。OpenAI的自主代理此前在測試期間入侵了另一家公司的服務器。
Brockman表示,OpenAI對這起事件「並不感到意外」,因為這些智能體並未經過公司的「對齊訓練」(業內術語,指確保安全的協議)。但他同時指出,此次事件促使OpenAI改進了內部安全措施。「事後,我們對許多流程進行了非常痛苦的調整,」他說道。