辛頓

鳳凰網科技訊 北京時間9月11日，據《商業內幕》報道，「AI教父」傑弗裏·辛頓(Geoffrey Hinton)表示，很難估計AI將人類全部滅絕的概率，但這個概率並非為零。

辛頓周三在接受BBC《新聞之夜》採訪時說：「在我看來，10%的概率似乎是一個不算離譜的估計，但實際上沒人知道該如何給出一個合理的估計。」

《新聞之夜》主持人維多利亞·德比希爾(Victoria Derbyshire)對此表示驚訝，因為辛頓基本認同了Anthropic頂級AI安全研究人員雅各布·考克森(Jacob Coxon)的判斷。該研究員表示，未來10年內，AI「有超過10%的概率殺死全人類」。

「哇，」德比希爾說，「我的天哪。」

辛頓表示，很難估計具體概率，因為人類社會從未見過一種「很快就可能比我們更聰明」的技術。

「如果說只有1%的概率，那就太愚蠢了，」他說，「沒有人知道該如何估算。」

這位諾貝爾獎得主表示，可以確定的是，這種災難可能發生的時間窗口已經縮短了。「我以前認為是30到50年，後來縮短到10到20年，」他表示，「現在，我覺得可能是10年，甚至更短。而其他人認為比這還要快得多。」

至於這種情況可能如何發生，辛頓提到了從網絡攻擊到AI研發出致命病毒等各種風險。儘管辛頓沒有說明為什麼這一時間表被大幅縮短，但包括Anthropic和OpenAI在內的領先AI公司已經投入數十億美元來擴大模型規模，而它們最近發布的產品相比數月前的模型已展現出顯著提升。

在辛頓發表上述言論之前，Anthropic研究員考克森在該公司備受期待的IPO前夕宣佈辭職。考克森此前曾在OpenAI工作，他說這些AI巨頭正在「拿我們的生命賭博」。

「那些開發AI的人真心相信，AI可能在這個十年結束前殺死我們所有人，」考克森在X上寫道，「這不是營銷噱頭。如果說有什麼不同，那就是許多高管和資深研究員在媒體上會措辭謹慎，讓自己聽起來理性，但我在私下聽到的是同一批人表達恐懼。」

辛頓表示，人類可能走上自我毀滅的道路，也可能在實現AI潛力的同時，找到「如何應對AI所帶來危險」的辦法。他再次呼籲加強全球監管，並指出儘管各國可能無法在所有問題上達成一致，但它們都有維護人類生存的共同願望。

「對於防止AI取代人類這類問題，各國的利益是一致的。因此，它們最終會展開合作。問題在於，他們能及時採取行動嗎？」他表示。 (作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網科技。想看深度報道，請微信搜索「鳳凰網科技」。