硅谷公司開始清理AI垃圾

鳳凰網科技訊 北京時間8月18日，據《紐約時報》報道，劣質AI垃圾內容已經氾濫成災：谷歌搜索裏到處是「膠水披薩」食譜，亞馬遜商品頁充斥着虛假傳記，臉書信息流裏滿是「蝦仁耶穌」的圖片。

隨着聊天機器人和視頻生成工具不斷發展，這個「數字污水堆」已經蔓延至各大科技平台，不僅降低了有價值內容的質量，也污染了整個信息生態系統。

無法忍受了

如今，硅谷開始清理這些垃圾了。音樂流媒體平台Spotify表示，去年其刪除了7500萬條批量上傳內容、重複歌曲以及其他「垃圾式」曲目，這一數量佔其全部音樂庫的相當大一部分。領英在7月表示，「AI垃圾內容是我們所有人的首要關注重點」，並開發了一個供用戶舉報此類內容的按鈕。YouTube母公司谷歌的研究人員描述了該視頻服務如何在六個月內清除了13萬個低質量頻道。

在整個互聯網上，科技公司正在進行一場「生成式垃圾內容大掃除」。許多公司如今不堪重負，因為這些垃圾內容正是由它們自己的AI工具催生出來的。移動即時通訊應用、餐廳點評網站、學術檔案庫和婚戀服務平台都在清除或淡化AI生成的垃圾內容，其中許多依靠同一項技術來完成這次清理。

人們逐漸厭倦了AI對環境造成的影響，以及它對就業和心理健康帶來的壓力。內容創作者、卡內基國際和平基金會在線趨勢研究員艾丹·沃克(Aidan Walker)表示，AI垃圾內容只是另一個「正在潰爛的傷口」。該基金會是一家研究全球事務的智庫。

「用戶對此已經越來越不滿，」他表示，「輿論風向已經明顯發生了變化，所以這些公司終於開始正視這些問題了。」

谷歌清除了5萬個賬號集群

生成式AI如今可以製作越來越逼真的圖像、音頻和視頻，但其中只有一部分可以被稱為「垃圾內容」。

科技公司主要針對的是那些低質量的「標題黨」內容，這類內容製作成本低、傳播容易、消費速度快、很快被遺忘。它們就像是擠壓高級定製服裝市場的快時尚，又像是取代優質牛排的「粉紅肉泥」。

歐洲研究人員去年寫道，如果放任不管，這種網絡上的合成內容沼澤可能「擠壓人類創造力，腐蝕文化價值，破壞公共話語」。

AI垃圾內容(slop)已經氾濫到如此程度，以至於詞典出版商梅里亞姆-韋伯斯特將其選為2025年的年度詞彙。法國流媒體服務Deezer今年春天表示，每天更新到其系統的曲目中，近一半是人工生成的，其中許多從未被用戶聽過。AI生成的內容佔Apple Music上傳量的三分之一以上。

Instagram負責人亞當·莫塞裏(Adam Mosseri)去年年底表示，追蹤「真實媒體」很快將「比追蹤虛假媒體更加實際」。在他發表這一觀點前不久，Instagram的母公司Meta推出了一款完全由AI生成的視頻信息流，結果被許多人嘲諷為垃圾內容的展示台。

先生成垃圾內容

如今，許多正在努力治理AI垃圾內容的科技公司，也正是那些一手製造了它的公司。今年7月，Meta承諾支持一項歐洲公約，通過檢測、標記和標籤等方式使AI生成的內容更易於識別。同月，該公司還發布了一款圖像生成器，該工具自動將公開的Instagram賬戶納入作為參考數據源。在遭遇用戶連續三天的強烈反對後，Meta移除了這一功能。

「AI垃圾內容是一把雙刃劍，因為很多平台確實因此獲得了用戶參與度的提升，」俄亥俄大學AI專家保羅·肖夫林(Paul Shovlin)表示，「但後來，它逐漸變成了一種負擔，因為平台上充斥着太多‘漂浮物和廢棄物’，用戶現在很難找到自己真正想要的高質量內容。」

例如，谷歌已經全面擁抱AI，將其Gemini模型接入電子郵件、地圖、旅行服務以及搜索業務。根據去年由AI驅動的在線視頻編輯平台Kapwing進行的一項實驗，YouTube向新用戶推薦的最初短視頻中，超過20%是AI生成的垃圾內容。

Kapwing估計，YouTube上一個最受歡迎的AI垃圾內容頻道，年收入高達425萬美元。該頻道此後已被暫停參與YouTube的創收計劃。YouTube CEO尼爾·莫漢(Neal Mohan)在一篇博文中寫道，「管理AI垃圾內容」是今年的首要任務。

最近，谷歌研究人員也開始研究這一挑戰。他們沒有逐個評估視頻，而是分析上傳速度、重複性模板以及其他可能表明協同行為濫用的模式。研究人員發現了5萬個賬戶集群，並將其移除。不過，一些數字媒體專家擔心，這種方法可能會過度干預，同時誤傷那些大量發布內容的合法創作者。

YouTube在一份聲明中表示：「雖然學術研究有助於推動行業對這一問題的理解，但它並不能反映我們為執行平台政策而採取的多層次防護措施。其中包括強大的保護機制，以確保使用AI工具、且出於正當目的創作內容的創作者不會受到影響。」

其他公司也在嘗試各種策略來應對AI垃圾內容，包括動員自家用戶幫助識別。去年10月，社交平台Pinterest更新了系統，允許用戶限制他們看到的AI生成帖子的數量。TikTok表示，它正在美國測試一項功能，讓人們可以調節可見的AI內容數量。該公司還表示，它已自動標記了超過30億條AI生成的視頻。今年前3個月，TikTok因違反其AI政策刪除了超過37.7萬條視頻。

根據AI檢測創業公司Pangram的數據，在埃隆·馬斯克(Elon Musk)旗下社交媒體平台X上，近一半超過50個字的帖子是由AI生成的。本月剛卸任X產品主管的尼基塔·比爾(Nikita Bier)寫道，為了應對「海量的AI垃圾內容和回覆垃圾信息」，該社交媒體平台今年封禁了那些通過付費鼓勵機器人發布內容的應用程序。

「美版公衆號」Substack CEO克里斯·貝斯特(Chris Best)上個月寫道：「現在越來越難判斷互聯網上什麼是真實的了。獎勵虛假內容的平台將導致一場向低質量方向發展的競爭。」這家通訊平台隨後宣佈推出自己的AI檢測工具，該工具由Pangram提供技術支持，旨在掃描回覆、評論以及超過100個單詞的帖子，並判斷這些內容更可能是手寫，還是藉助AI生成。

不過，一些新聞通訊作者抱怨稱，該工具將人類撰寫的帖子誤判為AI生成，沒有考慮AI在創作過程中可能扮演的輔助角色，並且給作者帶來了不必要的壓力，迫使他們為一個不透明的指標自證清白。

今年春天，研究有害數字技術的哥倫比亞大學研究人員卡米爾·弗朗索瓦(Camille François)與近二十多位AI專家在加州門洛帕克舉辦了一場「垃圾內容沙龍」活動，討論了識別和分類AI垃圾內容的困難，以及由此帶來的治理挑戰。

「這些雜亂無章的應對策略表明，我們面對的是信息環境中的系統性問題，而不僅僅是一類叫作AI垃圾的糟糕內容。我們不能簡單地定義它，然後將其刪除，」弗朗索瓦博士在接受採訪時表示，「歸根結底，AI是一種創造力工具，它具有多面性。那些處理不當的平台，將會看到用戶流失，轉向其他地方。」(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網科技。想看深度報道，請微信搜索「鳳凰網科技」。