新華社北京9月2日電 記者2日獲悉，近期，中央網信辦組織開展“清朗·整治AI應用亂象”專項行動第二階段工作，聚焦利用AI制作發布虛假信息、傳播暴力低俗內容、假冒仿冒他人、侵害未成年人權益等突出問題，部署各地網信部門深入推進重點整治任務，督促網站平臺集中清理AI生成各類違法不良信息。截至目前，累計清理違法違規信息561萬余條，查處賬號4.9萬余個，處置違規網站、應用程序等2400余個。
中央網信辦通報了部分典型案例，涉及的情形包括利用AI“魔改”經典、生成“數字泔水”，AI制作發布虛假不實信息，AI假冒仿冒他人，制作發布暴力低俗等信息，AI侵害未成年人權益，利用AI“托管”從事網絡水軍活動，AI產品服務和應用程序違規等。
據悉，下一步，網信部門將在總結專項行動治理成效的基礎上，進一步把握人工智能發展趨勢和規律，密切關注AI生成合成內容新情況新風險，及時采取有效措施防范AI技術濫用惡用，持續為人工智能創新發展營造良好環境。（完）