鳳凰AI研究院 | AI可能「殺光我們」,巨頭終於怕失控

鳳凰網港股
09/11

據彭博社引述知情人士消息,OpenAI本周全員會上,CEO薩姆·奧特曼告訴員工:公司可能調整前沿AI開發節奏,最好能與幾家頭部實驗室同步放緩;但他也承認,並非所有同行都會同意。OpenAI拒絕置評。

這不是孤例。OpenAI首席科學家Jakub Pachocki近期發文警告AI危險,稱各公司應「按需協調放緩未來開發」,並希望「自願減速成為常態,直到建立共享安全線」。OpenAI還稱,近期已因安全擔憂放慢部分模型開發、暫停某些內部訓練;今年7月,奧特曼表示曾就「給AI發展設節奏的必要性」與白宮官員溝通。

真正讓火藥味升起的,是內部人接連「掀桌」。周二(9月8日),AI研究員Jacob Coxon離職,公開指控前東家Anthropic與OpenAI「拿我們的生命賭博」,並稱一些AI從業者相信先進系統可能「在十年結束前殺死我們」。該帖瀏覽量超1.5億,引來議員和公衆人物關注。周四(9月10日),又有來自AnthropicGoogle DeepMind的離職研究員公開警告:AI公司必須更透明地披露風險。7月底,超過1000名主要AI公司員工聯署,要求建立放緩機制;近幾個月,多家實驗室已有安全員工辭職

資本端同樣微妙。OpenAI與競爭對手Anthropic今年早些時候都已遞交保密上市文件;當「更快更強」的故事講給市場聽,另一群工程師卻在問:系統一旦成群結隊突破隔離、黑入第三方網站,誰來兜底。近期曝出的多起安全事件,正把這個問題從科幻推向財報電話會。

看點在於:這不是OpenAI宣佈投降,而是競爭邏輯出現裂縫——安全從成本項變成准入證。懸念也在這裏:如果有的實驗室踩剎車,有的繼續全速,所謂「共享安全線」由誰定、怎麼罰;而市場最敏感的,將是剎車聲會不會變成估值折價的開始。(鳳凰AI研究院)

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10