路透7月16日 - 摩根大通 JPM.N 首席執行官傑米·戴蒙周三表示,Anthropic公司的Mythos人工智能模型帶來的風險是一個「真實存在的問題」,美國政府正在密切關注此事,這凸顯了外界對這一強大模型的擔憂——正是這種擔憂促使華盛頓方面介入。
戴蒙在參議員戴夫·麥考密克(Dave McCormick)主辦的賓夕法尼亞州國防與創新峯會上發言時補充道,必須對先進AI能力的獲取進行管控,並表示:「向個人提供Mythos,無異於將彈道導彈交到他們手中。」
總部位於美國的Anthropic公司於4月向包括摩根大通在內的一小部分用戶發布了Mythos。該模型吸引了銀行界的關注 (link),因為它被認為是識別網絡安全漏洞的最先進的人工智能系統之一,有助於企業更快地發現並修復漏洞。
然而,在6月 (link),美國政府出於國家安全考慮,下令Anthropic限制外國公民訪問其頂級AI模型Fable 5和Mythos 5,迫使該公司切斷了全球範圍內的訪問權限。
在Anthropic實施新的安全保障措施後,政府隨後 (link) 解除了對這些模型的限制。
各國政府和科技公司正努力應對人工智能安全問題,包括能夠識別軟件漏洞的系統被濫用的風險。鑑於擔心中國、俄羅斯或其他受關注國家的軍事情報部門可能利用先進的人工智能,華盛頓已加強對新模型發布的監管。
由於已過正常工作時間,目前無法立即聯繫Anthropic就戴蒙的言論置評。