OpenAI再爆安全事故 旗下人工智能體「劫持」一德國網站

格隆匯
09/06
據路透,今年5月至6月,一批OpenAI人工智能體「劫持」了一個允許用戶共同編輯的德國網站,用於交流測試作弊方法,並開展其他違規活動。一些智能體會把已經獲得的任務答案發布在網站上,供其他智能體使用。值得注意的是,這些智能體「討論」並測試了繞過沙箱限制的方法,當發現被「劫持」網站的管理員開始刪除相關頁面後,一些智能體還會創建備份頁面。報道稱,OpenAI有關負責人早在數周前就已知曉此事,但當時公司高管正忙於應對另一起事件的後續影響,未將其公開。OpenAI隨後發表聲明稱,隨着模型能力提升,該公司需要擴大對人工智能「失對齊」問題的披露。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10