美國AI巨頭專家：10年內AI導致人類滅絕的概率超過10%！特朗普：不擔心AI滅絕人類，只擔心不能贏得競爭

每日經濟新聞

09/12

「在本十年結束前，人工智能（AI）有可能使人類全體覆滅。」　　9月9日，曾先後在OpenAI和Anthropic從事前沿模型預訓練研究的雅各布·考克森（Jacob Coxon）宣佈離開Anthropic，並公開警告，兩家公司圍繞先進模型的競爭，是拿全人類的命運豪賭。　　這條X推文轟動全球，瀏覽量已超1.6億。　　GPT-6 Astra發布後，越來越多研究人員和業內專家開始擔憂：真正值得...

網頁鏈接

免責聲明：投資有風險，本文並非投資建議，以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請，作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考，不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證，投資者應自行研究並在投資前尋求專業建議。

熱議股票

{"basename":"/hant","ssrTDKData":{"titleTemplate":"%s - 老虎證券","title":"老虎證券香港 | 輕鬆買賣美股港股A股/美債/ETF/Crypto/期權期貨","description":"老虎證券香港提供多種優惠: 港股&Crypto 0佣、A股一年0佣、美股期權0佣、IPO抽新股0孖展利息0手續費。美股1美金起投，即時串流報價與多種工具，立即開戶享更多優惠！","keywords":"老虎證券,老虎證券開戶,老虎證券香港,老虎證券投資,老虎證券美股,老虎證券登錄,證券開戶,證券公司開戶,股票開戶,香港證券公司,香港證券,證券公司,美股投資平台,小額投資理財,投資app,投資平台,股票買賣,買賣股票平台,炒股app,證券app,新手投資","social":{"ogDescription":"老虎證券香港提供多種優惠: 港股&Crypto 0佣、A股一年0佣、美股期權0佣、IPO抽新股0孖展利息0手續費。美股1美金起投，即時串流報價與多種工具，立即開戶享更多優惠！","ogImage":"https://c1.itigergrowtha.com/portal5/static/media/og-logo.0a0bd8dc.png","ogUrl":"https://www.atigrcrest.com/hant/news/2666066845"},"companyName":"老虎證券"},"pageData":{"isMobile":false,"isTiger":false,"isTTM":true,"region":"HKG","license":"TBHK","edition":"fundamental"},"isCrawlerRequest":true,"__swrFallback__":{"@#url:\"https://stock-news.skytigris.cn/v3/news\",params:#id:\"2666066845\",edition:\"fundamental\",auth_exemption:1,,,undefined,":{"share":"https://ttm.financial/m/news/2666066845?lang=zh_TW&edition=fundamental","thumbnail":"","is_english":false,"pubTime":"2026-09-12 14:48","share_image_url":"https://static.laohu8.com/b0d1b7e8843deea78cc308b15114de44","id":"2666066845","market":"hk","top_or_hot":-1,"title":"美國AI巨頭專家：10年內AI導致人類滅絕的概率超過10%！特朗普：不擔心AI滅絕人類，只擔心不能贏得競爭","media":"每日經濟新聞","content":"<div>\n<p>「在本十年結束前，人工智能（AI）有可能使人類全體覆滅。」\n\n　　9月9日，曾先後在OpenAI和Anthropic從事前沿模型預訓練研究的雅各布·考克森（Jacob Coxon）宣佈離開Anthropic，並公開警告，兩家公司圍繞先進模型的競爭，是拿全人類的命運豪賭。\n　　這條X推文轟動全球，瀏覽量已超1.6億。\n\n　　GPT-6 Astra發布後，越來越多研究人員和業內專家開始擔憂：真正值得...</p>\n\n<a href=\"https://finance.sina.com.cn/roll/2026-09-12/doc-inirqfia5163712.shtml\">網頁鏈接</a>\n\n</div>\n","source":"sina","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>美國AI巨頭專家：10年內AI導致人類滅絕的概率超過10%！特朗普：不擔心AI滅絕人類，只擔心不能贏得競爭</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 12.5px; color: #7E829C; margin: 0;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n美國AI巨頭專家：10年內AI導致人類滅絕的概率超過10%！特朗普：不擔心AI滅絕人類，只擔心不能贏得競爭\n</h2>\n<h4 class=\"meta\">\n<p class=\"head\">\n<strong class=\"h-name small\">每日經濟新聞</strong><span class=\"h-time small\">2026-09-12 14:48</span>\n</p>\n</h4>\n</header>\n<article>\n<div>\n<p>「在本十年結束前，人工智能（AI）有可能使人類全體覆滅。」\n\n　　9月9日，曾先後在OpenAI和Anthropic從事前沿模型預訓練研究的雅各布·考克森（Jacob Coxon）宣佈離開Anthropic，並公開警告，兩家公司圍繞先進模型的競爭，是拿全人類的命運豪賭。\n　　這條X推文轟動全球，瀏覽量已超1.6億。\n\n　　GPT-6 Astra發布後，越來越多研究人員和業內專家開始擔憂：真正值得...</p>\n\n<a href=\"https://finance.sina.com.cn/roll/2026-09-12/doc-inirqfia5163712.shtml\">網頁鏈接</a>\n\n</div>\n\n<div class=\"bt-text\">\n\n\n<p> 來源：<a href=\"https://finance.sina.com.cn/roll/2026-09-12/doc-inirqfia5163712.shtml\">每日經濟新聞</a></p>\n<p>為提升您的閱讀體驗，我們對本頁面進行了排版優化</p>\n\n\n</div>\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"ARTY","symbol_name":"ISHARES FUTURE AI & TECH ETF","start_time":0,"source_url":"https://finance.sina.com.cn/roll/2026-09-12/doc-inirqfia5163712.shtml","article_id":"2666066845","we_media_id":null,"thumbnails":[],"rights":{"source":"sina","url":"https://finance.sina.com.cn/roll/2026-09-12/doc-inirqfia5163712.shtml","rn_cache_url":null,"customStyle":"body{padding-top:10px;}.art_tit_h1{#titleStyle#}a{#lv2TextColor#}.art_time, .art_cite{#sourceStyle#;} .art_cite{margin-left: 3px;}","selectors":".module-article, article","filters":"header, .voice2, .tags, #norm_qrcode_link_auto, .unfold-box, .action","directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2666066845","pubTimestamp":1789195680,"columns":[],"sourceInfo":{"source_id":"sina","name":"sina"},"weMediaInfo":null,"summary":"Anthropic對齊科學負責人Evan Hubinger公開支持這一擔憂，並判斷：未來10年內AI導致人類滅絕的概率超過10%。他警告，OpenAI和整個AI行業目前仍沒有充分降低AI失控造成災難性後果的風險。對此，美國總統特朗普進行了駁斥，認為首要任務是保持AI的領先優勢。當被問及是否擔心AI可能導致人類滅絕時，特朗普當地時間周四回答稱：「不，我一點也不擔心。」Anthropic和OpenAI均已於今年6月提交IPO申請。","collect":0,"end_time":0,"defaultTopTitle":"sina.com.cn","property":[],"viewcount":null,"language":"zh","relate_stocks":{"ARTY":"ISHARES FUTURE AI & TECH ETF","QTOC":"Innovator Growth Accelerated Plus ETF - October","AIPO":"Defiance AI and Power Infrastructure ETF","AGIX":"通用人工智能 ETF-AGIX","VTHR":"Vanguard Russell 3000 ETF","CHAT":"ROUNDHILL GENERATIVE AI & TECHNOLOGY ETF"},"translate_title":"American AI giant expert: The probability of AI causing human extinction within 10 years exceeds 10%! Trump: I'm not worried about AI wiping out humanity, I'm only worried about not being able to win the competition.","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"QTOC":1.5,"CHAT":1.5,"AGIX":1.5,"ARTY":1.5,"AIPO":1.5,"VTHR":1.5},"content_text":"「在本十年結束前，人工智能（AI）有可能使人類全體覆滅。」\n\n　　9月9日，曾先後在OpenAI和Anthropic從事前沿模型預訓練研究的雅各布·考克森（Jacob Coxon）宣佈離開Anthropic，並公開警告，兩家公司圍繞先進模型的競爭，是拿全人類的命運豪賭。\n　　這條X推文轟動全球，瀏覽量已超1.6億。\n\n　　GPT-6 Astra發布後，越來越多研究人員和業內專家開始擔憂：真正值得警惕的，可能不只是AI能力越來越強，而是AI正在開始參與下一代AI的研發。一旦「AI研發AI」形成自我強化循環，人類還能否理解、監控並及時踩下剎車？\n　　風險警報聲聲入耳，但以OpenAI、Anthropic 為代表的AI行業，已被萬億算力資本、產業鏈條與宏觀經濟深度捆綁。一場明知危險、卻難以單方面停下的博弈，正在上演。\n　　9月3日OpenAI發布的GPT-6 Astra在計算機操作、軟件工程、科學研究等領域的能力進一步提升，並首次達到OpenAI定義的「關鍵網絡安全能力」門檻。\n　　9月6日，OpenAI首席科學家Jakub Pachocki發表文章稱，隨着AI能夠操作計算機、協作完成研究任務並推動科學研究，未來的系統可能越來越多地參與AI自身研發，並進一步推動下一代系統能力提升。但問題在於，安全能力並未同步增長。\n　　Pachocki表示，目前沒有任何一家AI實驗室已經解決了對齊和監控問題，可以長期負責任地維持最大速度的模型擴張。隨着模型能力增強，人類也越來越難判斷模型在複雜環境中的真實能力和行為。因此，他提出在共同的安全標準建立之前，應當在必要時主動放慢AI發展速度，並推動AI實驗室之間進行協調。\n　　三天後，從事前沿模型預訓練研究的雅各布·考克森宣佈離開Anthropic。他表示，自己在OpenAI和Anthropic累計工作約三年，越來越擔心兩家公司正在競相走向自我改進的超級智能，而安全研究和風險評估的時間窗口卻不斷被壓縮。\n　　Anthropic對齊科學負責人Evan Hubinger公開支持這一擔憂，並判斷：未來10年內AI導致人類滅絕的概率超過10%。而且，Anthropic目前仍沒有解決超級智能對齊問題的方案，也沒有明確處於解決這一問題的軌道上。\n\n　　OpenAI管理層隨後釋放出「減速」信號。9月11日，據媒體報道，OpenAI首席執行官山姆·奧爾特曼（Sam Altman）在公司會議上告訴員工，公司對放慢AI系統研發速度持開放態度，並希望其他AI實驗室採取類似行動。\n　　9月9日，AI對齊研究先驅Paul Christiano加入OpenAI Foundation董事會，並進入負責公司安全與安保治理的安全委員會。他警告，OpenAI和整個AI行業目前仍沒有充分降低AI失控造成災難性後果的風險。\n　　9月11日，對沖基金巨頭橋水（Bridgewater Associates）的聯席首席投資官Greg Jensen在播客中説道：「歷史似乎表明，在AI開始殺人之前，我們不會採取任何行動。但我們最終會面對這種情況。這一定會發生，如果我們能在那之前開始處理這個問題，會好得多。」Jensen並不是一個技術恐懼論者，他很早就投資了OpenAI和Anthropic。\n　　此外，聯合國人權事務高級專員Volker Turk周一警告稱，人工智能（AI）對人類構成「生存」威脅，呼籲採取嚴格措施對人工智能進行監管。他在聯合國人權理事會第63屆會議上説：「我和業內專家一樣擔憂，先進的人工智能系統可能對人類構成存續威脅。我今天在此呼籲，必須全力以赴，在為時已晚之前，為人工智能的安全保障建立牢不可破的保證。」\n　　對此，美國總統特朗普進行了駁斥，認為首要任務是保持AI的領先優勢。\n　　當被問及是否擔心AI可能導致人類滅絕時，特朗普當地時間周四回答稱：「不，我一點也不擔心。」\n\n　　特朗普指出：「我擔心的是，AI發展不夠快，使我們無法贏得這場競賽，那麼將陷入非常不利的境地。」他還稱，目前美國在AI領域領先其他對手相當長一段時間，並認為這一領先優勢「大約是一年左右，而一年已經算是很長的時間了」。\n　　不過，據央視新聞，美國方面10日消息，美國參議院國土安全與政府事務委員會災害管理小組委員會主席喬希·霍利9日致信美國開放人工智能研究中心（OpenAI）首席執行官奧爾特曼，表示正在因美國「抱抱臉」公司系統遭侵入事件對OpenAI展開調查。\n　　霍利表示，從OpenAI發布的內部調查報告看出，其對網絡測試的處理方式是「魯莽的」。他還指出，OpenAI對報告中有關這起事件的許多重要細節進行了編輯、刪減。\n\n　　今年7月，由OpenAI模型驅動的人工智能體在網絡安全評測中利用漏洞突破隔離環境，入侵「抱抱臉」公司系統，引發外界對人工智能安全和監管的廣泛擔憂。\n　　就在當月末，Anthropic也在一份聲明中表示，其人工智能模型Claude在測試期間入侵了三個組織的系統。Anthropic公司表示，在網絡安全評估期間，由於配置錯誤，模型能夠從本應隔離的測試環境中連接到互聯網，Claude因此獲得了對系統的未經授權的訪問權限。該公司補充稱，其在審查了141006次測試會話後發現了這些事件，這一流程是在OpenAI披露相關信息後啓動的。但被入侵的三個組織並未發現此次攻擊活動，Anthropic已經與受影響的組織取得了聯繫。\n\n　　當AI開始具備越來越強的自主決策能力時，如何建立與之匹配的安全機制和監管框架，或許比模型性能競爭本身更加迫切。對於正衝刺IPO的OpenAI和Anthropic而言，這也將成為資本市場關注的重要議題。\n　　Anthropic和OpenAI均已於今年6月提交IPO申請。今年以來，Anthropic已完成至少兩輪大規模融資，估值從2月時的3800億美元升至5月的9650億美元，高於OpenAI的最新估值（8520億美元）。\n\n　　9月12日，據報道，人工智能公司Anthropic正與英偉達洽談，擬邀請後者成為其首次公開募股（IPO）的基石投資者。Anthropic此次IPO計劃募資最高1000億美元，估值或達約2萬億美元；英偉達考慮投資最多100億美元。\n　　據報道，Anthropic計劃在今年11月美國中期選舉前完成上市。若成行，英偉達將進一步加深與這一主要客户的合作關係。Anthropic目前高度依賴英偉達GPU，同時也在擴大對亞馬遜、谷歌等芯片及算力供應商的合作。\n　　（免責聲明：文章內容和數據僅供參考，不構成投資建議。投資者據此操作，風險自擔。）\n　　編輯|段煉 杜波\n　　校對|梁露月","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":false,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"isVideo":false,"video":null,"symbols":[],"gpt_button":1,"need_auth":false,"need_login_tip":false,"code":"91000000","status":"200"}}}