（來源：河北新聞網）

近期，中央網信辦組織開展「清朗·整治AI應用亂象」專項行動第二階段工作，聚焦利用AI製作發布虛假信息、傳播暴力低俗內容、假冒仿冒他人、侵害未成年人權益等突出問題，部署各地網信部門深入推進重點整治任務，督促網站平台集中清理AI生成各類違法不良信息，依法查處違規賬號和移動應用程序，有效遏制AI生成合成信息內容亂象，推動AI應用服務健康有序發展。截至目前，累計清理違法違規信息561萬餘條，查處賬號4.9萬餘個，處置違規網站、應用程序等2400餘個。

專項行動期間，一批違法違規賬號和應用受到處理。為進一步加強警示教育，現將部分典型案例通報如下：

• 利用AI「魔改」經典、生成「數字泔水」

微博賬號「天**小」、抖音賬號「歪**國」、快手賬號「小*菌」、微信賬號「鹹*i」等，濫用AI技術「魔改」《三國演義》《西遊記》等經典名著，顛覆重要人物人設，虛構低質獵奇劇情博取流量。相關賬號已被依法依約處置。

• AI製作發布虛假不實信息

快手賬號「雲**視」、小紅書賬號「有*頭」、抖音賬號「7**員」、微信賬號「長**帆」等，利用AI生成合成虛假災害現場、救援畫面，編造不實社會熱點信息，發布封建迷信內容，打造AI數字人進行虛假宣傳帶貨，誤導老年人，製造恐慌情緒。相關賬號已被依法依約處置。

• AI假冒仿冒他人

抖音賬號「特**力」、快手賬號「石*」、小紅書賬號「潮**件」、微信賬號「M**勒」等，利用AI「換臉」「換聲」等技術，假冒仿冒公衆人物形象，生成合成低俗舞蹈、擁抱接吻等圖片視頻，藉機營銷牟利。相關賬號已被依法依約處置。

• 製作發布暴力低俗等信息

嗶哩嗶哩賬號「帶**着」、抖音賬號「波**C」、快手賬號「蝦**詭」、微信賬號「星**7」等，批量發布AI生成合成的含有恐怖詭異、暴力低俗等畫面內容。相關賬號已被依法依約處置。

• AI侵害未成年人權益

小紅書賬號「小**娃」、微信賬號「豆*a」、抖音賬號「半**歷」、快手賬號「若**雪」等，發布AI生成合成未成年人懷孕、打架等與其年齡特點不符的內容，批量製作傳播「毒動畫」、兒童「虐向」「邪典」視頻，傷害、惡搞未成年人形象，影響未成年人身心健康。相關賬號已被依法依約處置。

• 利用AI「託管」從事網絡水軍活動

微信賬號「濤**客」、微博賬號「A**師」、抖音賬號「風*」等，為AI「託管」軟件引流，模擬真人運營賬號、評論互動，生成大量低質同質文案。相關賬號已被依法依約處置。

• AI產品服務和應用程序違規

「N**t」「穿**元」「甜*圈」「芋**o」等網站平台多個智能體封面、簡介和生成對話中含有淫穢色情及其他危害未成年人身心健康的信息，嚴重破壞網絡生態。對拒不改正的，依法予以查處，按程序採取警告、罰款、下架或關閉等措施。

下一步，網信部門將在總結專項行動治理成效的基礎上，進一步把握人工智能發展趨勢和規律，密切關注AI生成合成內容新情況新風險，及時採取有效措施防範AI技術濫用惡用，持續為人工智能創新發展營造良好環境。