IT之家
4 月 27 日消息，OpenAI CEO 薩姆 · 奧爾特曼（Sam Altman）於當地時間 4 月 26 日發文，闡述了該公司在人工智能發展過程中的核心原則與長期目標。
他表示，AI 有潛力幫助人類社會在許多領域實現顯著改善，人們藉助 AI 所能完成的事情將遠超蒸汽機或電力帶來的變革。
他描述了一個繁榮程度遠超當下想象的世界，在其願景中，個人能力、主動性與實現自我價值的機會將顯著提升，部分曾只存在於科幻作品中的設想可能成為現實。
但他同時指出，這一結果並非必然：未來技術權力可能集中在少數掌握超級智能的公司手中，也可能以去中心化的方式掌握在公衆手裏。OpenAI 的目標是將真正的通用人工智能交到儘可能多的人手中。
OpenAI 的使命是確保 AGI 惠及全人類，並據此制定了五項原則：
第一，民主化。OpenAI 將抵制該技術將權力集中在少數人手中的可能性。這意味着除了讓每個人都能使用 AI 之外，還需要確保關於 AI 的關鍵決策通過民主程序和公平原則制定，而不僅僅由 AI 實驗室決定。
第二，賦能。OpenAI 相信 AI 可以賦能每個人實現目標、學習更多、更快樂、更充實，並追求自己的夢想，整個社會都將從中受益。用戶應能可靠地利用其服務完成越來越有價值的任務。OpenAI 希望給予用戶廣泛的自主權，同時有責任以最小化傷害的方式構建和部署 AI—— 既包括預防災難性傷害，也包括減少局部傷害和避免潛在的腐蝕性社會影響。
第三，普惠繁榮。OpenAI 希望未來每個人都能擁有優質生活。通過將易於使用且具備強大計算能力的 AI 系統交到每個人手中，人們將找到創造價值的新方法，大幅改善生活質量，尤其是在新科學發現方面。為實現廣泛共享的繁榮，奧爾特曼認為政府可能需要考慮新的經濟模式，同時需要建設大量 AI 基礎設施並開發新技術以大幅降低成本。
第四，韌性。AI 的爆發必然會引出新的風險，OpenAI 將與其他公司、政府及社會各方合作解決這些問題，包括生物安全與網絡安全等領域。他指出，任何 AI 實驗室都無法獨自確保良好的未來 —— 例如，足夠強的模型可能使製造新型病原體變得更容易，需要全社會採取與病原體無關的防禦措施。OpenAI 將延續其迭代部署策略，讓社會逐步應對每一級 AI 能力。同時，OpenAI 也預期在某些時期需要與政府、國際機構及其他 AGI 項目協作，確保在充分解決嚴重的對齊、安全或社會問題後再繼續推進工作。
第五，適應性。OpenAI 認為應對不可預測未來的唯一方法是根據學到的新知識持續調整自身策略，並將在運營原則發生變化時保持透明。他舉例稱，儘管普惠繁榮仍然非常重要，但未來某些時期可能需要在賦能和韌性之間進行權衡。
奧爾特曼回顧稱，不久之前 OpenAI 還因不確定對社會的影響而對發布 GPT-2 的權重感到緊張。事後看這種擔憂有些多餘，但正是這一過程促使他們發現了迭代部署策略 —— 這是他們摸索出的最重要的方法之一。
奧爾特曼表示他們正進入一個技術持續進步且影響深遠的階段，每一項決策都值得被審視，他們不可能做到事事正確，但會快速學習並修正方向，並致力於推動技術發展帶來更積極的社會影響。
責任編輯：凌辰