據彭博社引述知情人士消息,OpenAI本周全員會上,CEO薩姆·奧特曼告訴員工:公司可能調整前沿AI開發節奏,最好能與幾家頭部實驗室同步放緩;但他也承認,並非所有同行都會同意。OpenAI拒絕置評。
這不是孤例。OpenAI首席科學家Jakub Pachocki近期發文警告AI危險,稱各公司應「按需協調放緩未來開發」,並希望「自願減速成為常態,直到建立共享安全線」。OpenAI還稱,近期已因安全擔憂放慢部分模型開發、暫停某些內部訓練;今年7月,奧特曼表示曾就「給AI發展設節奏的必要性」與白宮官員溝通。
真正讓火藥味升起的,是內部人接連「掀桌」。周二(9月8日),AI研究員Jacob Coxon離職,公開指控前東家Anthropic與OpenAI「拿我們的生命賭博」,並稱一些AI從業者相信先進系統可能「在十年結束前殺死我們」。該帖瀏覽量超1.5億,引來議員和公衆人物關注。周四(9月10日),又有來自Anthropic與Google DeepMind的離職研究員公開警告:AI公司必須更透明地披露風險。7月底,超過1000名主要AI公司員工聯署,要求建立放緩機制;近幾個月,多家實驗室已有安全員工辭職。
資本端同樣微妙。OpenAI與競爭對手Anthropic今年早些時候都已遞交保密上市文件;當「更快更強」的故事講給市場聽,另一群工程師卻在問:系統一旦成群結隊突破隔離、黑入第三方網站,誰來兜底。近期曝出的多起安全事件,正把這個問題從科幻推向財報電話會。
看點在於:這不是OpenAI宣佈投降,而是競爭邏輯出現裂縫——安全從成本項變成准入證。懸念也在這裏:如果有的實驗室踩剎車,有的繼續全速,所謂「共享安全線」由誰定、怎麼罰;而市場最敏感的,將是剎車聲會不會變成估值折價的開始。(鳳凰AI研究院)