吹哨人警告不斷之際 OpenAI討論放緩前沿AI研發並呼籲同行減速

環球市場播報
09/11

  在人工智能行業內部警報聲不斷之際,OpenAI正在考慮放緩前沿AI模型的發展步伐,而這家ChatGPT開發商的首席執行官Sam Altman希望這一做法能夠獲得同行響應和跟進。

  據多位知情人士透露,在本周舉行的一次全員會議上,Altman告訴員工,OpenAI未來可能放緩人工智能研發節奏,或許會與其他幾家人工智能實驗室協調行動,但部分公司未必願意配合。由於相關討論屬於內部事項,這些人士要求匿名。

  最近數周,多家領先人工智能公司的員工公開表達了對先進AI系統風險不斷上升的擔憂,加劇了行業內部的焦慮情緒。OpenAI及其競爭對手Anthropic PBC均已於今年稍早保密提交上市申請文件。

  OpenAI謝絕置評。

  該公司首席科學家Jakub Pachocki近日撰文警告人工智能帶來的風險,並表示他認為AI公司應「根據需要協調放緩未來的發展」。Pachocki補充稱,希望「在建立共同安全標準之前,自願放緩研發能夠成為行業常態」。

  OpenAI表示,出於安全考慮,公司近期已放緩部分模型開發進度,並暫停了一些內部AI訓練項目。Altman今年7月也曾表示,他與白宮官員討論過放緩AI發展步伐的「必要性」。

  周二,人工智能研究員Jacob Coxon辭職,並指責其兩家前僱主Anthropic和OpenAI在競相邁向超級智能AI時「拿人類生命作賭注」。Coxon在社交媒體發文稱,從事AI研發的人「真心認為,到本十年末,人工智能可能會殺死我們所有人」。相關言論迅速傳播,瀏覽量超過1.5億次,並引起知名議員和公衆人物關注。

  周四,兩名近期離開Anthropic和谷歌DeepMind的研究人員也公開表達了對AI發展速度過快的擔憂,並表示AI開發商需要更加透明地披露這項技術帶來的風險。

  今年7月底,來自各大人工智能公司的1,000多名員工簽署請願書,呼籲建立機制放緩人工智能發展速度。過去幾個月,多名專注於AI安全研究的員工也已從主要實驗室辭職。

  儘管許多AI行業高管和研究人員長期以來一直警告人工智能系統可能帶來生存風險,但隨着OpenAI的AI智能體被曝曾協同突破安全隔離措施併入侵第三方網站,這類擔憂進一步升溫。該事件以及其他類似安全事故,加劇了外界對於新一代模型網絡能力的擔憂,也引發對AI公司是否有能力阻止這些模型失控的質疑。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10