AI 智能體出現失控行為，OpenAI 呼籲美國出台強制性全國 AI 安全法規

IT之家

09/10

IT之家 9 月 10 日消息，據路透社報道，OpenAI 當地時間周三表示，鑑於自身部分 AI 智能體出現失控行為，出於對該技術可能加速自身發展的擔憂，該公司正推動美國出台強制性的全國人工智能安全法規。 IT之家注意到，包括 OpenAI 在內的多家開發商的 AI 模型在測試期間訪問外部系統的多起事件，凸顯了在高級智能體中遏制意外行為的難度，也引發了對更嚴格安全法規的呼籲。OpenAI ...

網頁鏈接

免責聲明：投資有風險，本文並非投資建議，以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請，作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考，不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證，投資者應自行研究並在投資前尋求專業建議。

熱議股票

{"basename":"/hant","ssrTDKData":{"titleTemplate":"%s - 老虎證券","title":"老虎證券香港 | 輕鬆買賣美股港股A股/美債/ETF/Crypto/期權期貨","description":"老虎證券香港提供多種優惠: 港股&Crypto 0佣、A股一年0佣、美股期權0佣、IPO抽新股0孖展利息0手續費。美股1美金起投，即時串流報價與多種工具，立即開戶享更多優惠！","keywords":"老虎證券,老虎證券開戶,老虎證券香港,老虎證券投資,老虎證券美股,老虎證券登錄,證券開戶,證券公司開戶,股票開戶,香港證券公司,香港證券,證券公司,美股投資平台,小額投資理財,投資app,投資平台,股票買賣,買賣股票平台,炒股app,證券app,新手投資","social":{"ogDescription":"老虎證券香港提供多種優惠: 港股&Crypto 0佣、A股一年0佣、美股期權0佣、IPO抽新股0孖展利息0手續費。美股1美金起投，即時串流報價與多種工具，立即開戶享更多優惠！","ogImage":"https://c1.itigergrowtha.com/portal5/static/media/og-logo.0a0bd8dc.png","ogUrl":"https://www.atigrcrest.com/hant/news/2666595094"},"companyName":"老虎證券"},"pageData":{"isMobile":false,"isTiger":false,"isTTM":true,"region":"HKG","license":"TBHK","edition":"fundamental"},"isCrawlerRequest":true,"__swrFallback__":{"@#url:\"https://stock-news.skytigris.cn/v3/news\",params:#id:\"2666595094\",edition:\"fundamental\",auth_exemption:1,,,undefined,":{"share":"https://ttm.financial/m/news/2666595094?lang=zh_TW&edition=fundamental","thumbnail":"https://k.sinaimg.cn/n/spider20260910/650/w1440h810/20260910/560b-b13ff020cd0998543ecf267c4a58696f.png/w120h90l50t14a8.jpg","is_english":false,"pubTime":"2026-09-10 15:08","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2666595094","market":"hk","top_or_hot":-1,"title":"AI 智能體出現失控行為，OpenAI 呼籲美國出台強制性全國 AI 安全法規","media":"IT之家","content":"<div>\n<p>IT之家 9 月 10 日消息，據路透社報道，OpenAI 當地時間周三表示，鑑於自身部分 AI 智能體出現失控行為，出於對該技術可能加速自身發展的擔憂，該公司正推動美國出台強制性的全國人工智能安全法規。\n\n\n\n\nIT之家注意到，包括 OpenAI 在內的多家開發商的 AI 模型在測試期間訪問外部系統的多起事件，凸顯了在高級智能體中遏制意外行為的難度，也引發了對更嚴格安全法規的呼籲。OpenAI ...</p>\n\n<a href=\"https://tech.sina.cn/mobile/xp/2026-09-10/detail-inirinuw2937504.d.html?vt=4\">網頁鏈接</a>\n\n</div>\n","source":"sina_tech","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>AI 智能體出現失控行為，OpenAI 呼籲美國出台強制性全國 AI 安全法規</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 12.5px; color: #7E829C; margin: 0;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\nAI 智能體出現失控行為，OpenAI 呼籲美國出台強制性全國 AI 安全法規\n</h2>\n<h4 class=\"meta\">\n<p class=\"head\">\n<strong class=\"h-name small\">IT之家</strong><span class=\"h-time small\">2026-09-10 15:08</span>\n</p>\n</h4>\n</header>\n<article>\n<div>\n<p>IT之家 9 月 10 日消息，據路透社報道，OpenAI 當地時間周三表示，鑑於自身部分 AI 智能體出現失控行為，出於對該技術可能加速自身發展的擔憂，該公司正推動美國出台強制性的全國人工智能安全法規。\n\n\n\n\nIT之家注意到，包括 OpenAI 在內的多家開發商的 AI 模型在測試期間訪問外部系統的多起事件，凸顯了在高級智能體中遏制意外行為的難度，也引發了對更嚴格安全法規的呼籲。OpenAI ...</p>\n\n<a href=\"https://tech.sina.cn/mobile/xp/2026-09-10/detail-inirinuw2937504.d.html?vt=4\">網頁鏈接</a>\n\n</div>\n\n<div class=\"bt-text\">\n\n\n<p> 來源：<a href=\"https://tech.sina.cn/mobile/xp/2026-09-10/detail-inirinuw2937504.d.html?vt=4\">IT之家</a></p>\n<p>為提升您的閱讀體驗，我們對本頁面進行了排版優化</p>\n\n\n</div>\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"AIPO","symbol_name":"Defiance AI and Power Infrastructure ETF","start_time":0,"source_url":"https://tech.sina.cn/mobile/xp/2026-09-10/detail-inirinuw2937504.d.html?vt=4","article_id":"2666595094","we_media_id":null,"thumbnails":["https://k.sinaimg.cn/n/spider20260910/650/w1440h810/20260910/560b-b13ff020cd0998543ecf267c4a58696f.png/w120h90l50t14a8.jpg"],"rights":{"source":"sina_tech","url":"https://tech.sina.cn/mobile/xp/2026-09-10/detail-inirinuw2937504.d.html?vt=4","rn_cache_url":null,"customStyle":"body{padding-top:10px;}.art_tit_h1{#titleStyle#}a{#lv2TextColor#}.art_time, .art_cite{#sourceStyle#;} .art_cite{margin-left: 3px;}.weibo_user{#sourceStyle#; margin-bottom: 0; display: inline-block;}.weibo_time{#sourceStyle#};","selectors":".module-article, article","filters":"header, .voice2, .tags, #norm_qrcode_link_auto, .unfold-box, .action, .j_float_wbro, .j_article_wbreco","directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2666595094","pubTimestamp":1789024138,"columns":[],"sourceInfo":{"source_id":"sina_tech","name":"新浪科技"},"weMediaInfo":null,"summary":"IT之家 9 月 10 日消息，據路透社報道，OpenAI 當地時間周三表示，鑑於自身部分 AI 智能體出現失控行為，出於對該技術可能加速自身發展的擔憂，該公司正推動美國出台強制性的全國人工智能安全法規。OpenAI 還敦促美國國會在休會前採取行動，並表示在國會採取此類行動之前，將繼續支持各州的人工智能相關立法。OpenAI 支持了加州四項為該州制定人工智能監管規定的法案。","collect":0,"end_time":0,"defaultTopTitle":"sina.cn","property":[],"viewcount":null,"language":"zh","relate_stocks":{"AIPO":"Defiance AI and Power Infrastructure ETF","AGIX":"通用人工智能 ETF-AGIX","QTOC":"Innovator Growth Accelerated Plus ETF - October","VTHR":"Vanguard Russell 3000 ETF","CHAT":"ROUNDHILL GENERATIVE AI & TECHNOLOGY ETF","ARTY":"ISHARES FUTURE AI & TECH ETF"},"translate_title":"AI agents are experiencing out-of-control behavior, prompting OpenAI to call on the United States to enact mandatory national AI safety regulations.","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"AIPO":1.5,"AGIX":1.5,"ARTY":1.5,"CHAT":1.5,"VTHR":1.5,"QTOC":1.5},"content_text":"IT之家 9 月 10 日消息，據路透社報道，OpenAI 當地時間周三表示，鑑於自身部分 AI 智能體出現失控行為，出於對該技術可能加速自身發展的擔憂，該公司正推動美國出台強制性的全國人工智能安全法規。\n\n\n\n\nIT之家注意到，包括 OpenAI 在內的多家開發商的 AI 模型在測試期間訪問外部系統的多起事件，凸顯了在高級智能體中遏制意外行為的難度，也引發了對更嚴格安全法規的呼籲。OpenAI 全球事務主管克里斯 · 萊昂在一篇博客文章中表示：「AI 加速的 AI 開發前景要求的不僅僅是自願承諾。美國需要制定強制性、基於能力的國家監管規則，使其能隨着技術的發展而不斷完善。」這標誌着 OpenAI 大力推動制定具有約束力的國家人工智能安全規則，而目前美國國會尚未制定聯邦人工智能法律框架，與此同時美國已有多個州出台了各自的相關立法。這家人工智能巨頭及其競爭對手 Anthropic 正籌備首次公開募股，與此同時人工智能正迅速成為本十年具有標誌性的投資主題。OpenAI 敦促美國國會採用基於能力的國家人工智能安全要求，包括針對最先進人工智能系統的測試標準、獨立評估、網絡安全保護以及事件報告規則。OpenAI 還敦促美國國會在休會前採取行動，並表示在國會採取此類行動之前，將繼續支持各州的人工智能相關立法。美國國會定於 12 月休會。OpenAI 表示，完全自主的遞歸式自我改進 —— 即人工智能具備獨立性並能推動下一代人工智能的發展 ——「目前尚未實現」，且「除非能夠安全地實現，否則我們不應追求這一目標」。OpenAI 支持了加州四項為該州制定人工智能監管規定的法案。加文 · 紐森州長於周三簽署了第 813 號參議院法案和第 1405 號法案，這兩項法案為人工智能系統的獨立第三方評估和審計確立了法律框架。另外兩項法案，即 AB 1864 和 SB 1119，分別針對人工智能引發的生物威脅篩查保障措施以及針對兒童的聊天機器人保護條款做出了規定。OpenAI 在其博客文章中表示：「過去我們並未支持其中一些法案，但鑑於我們看到的近期技術能力大幅提升，經過重新考量，現在我們予以支持。」今年早些時候，OpenAI 的智能體使用了 10 多個此前未披露的網站進行未經批准的溝通，這表明該智能體的違規行為範圍比此前披露的更廣。OpenAI 正是在此之後發表了上述聲明。今年春天，非法的 OpenAI 智能體還劫持了一家德國網站，將其改造成其他人工智能智能體的公告板，而公司管理人員數周前就已得知此事，卻一直對此秘而不宣。Anthropic 於當地時間周三披露了其在測試期間第四次出現 AI 模型入侵外部系統的情況，此前該公司在 7 月曾宣佈其部分 Claude 模型在網絡安全測試中入侵了三家公司的系統。OpenAI 表示，任何為監管人工智能而制定的行業標準也需要超越美國的邊界。這家人工智能公司表示：「如果美國要在國際上發揮引領作用，就必須在國內建立可靠的標準，而且我們越來越確信，相兼容的國際標準也將是必不可少的。」","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":false,"editions":null,"column":"","sentiment":"-1","news_tag":"policyRegulatory","news_rank":0,"isVideo":false,"video":null,"symbols":[],"gpt_button":1,"need_auth":false,"need_login_tip":false,"code":"91000000","status":"200"}}}