造謠生事、不法牟利 中整治AI亂象 9月起生成內容須標識

AI迅猛發展為人類帶來便利，但也因缺乏嚴謹規範亂象頻傳。中國網路近日盛傳「頂流男星在澳門輸了10億（人民幣，下同，約1.38億美元）」消息，藝人周杰倫、黃曉明為此先後澄清闢謠，也有人利用AI寫情色小說牟利，經查都是有人利用AI生成謠言。AI「造謠」擾亂社會秩序之際，國家網信辦等四個部門近日聯合發布新規，9月1日起，AI生成合成內容必須添加標識，防範混淆誤認。

一則「頂流男星在澳門輸了10億」消息近日在網上被瘋傳，引發大量網民議論還登上熱搜，公安部昨通報，此案是36歲徐姓男子為製造流量牟取非法利益，3月10日利用某軟件AI功能，生成「頂流明星被曝境外豪賭輸光10億身價（身家）引發輿論海嘯」謠言並發布網上，嚴重擾亂公共秩序，已對其作出行政拘留八天處罰。

對於AI造謠行拘八天，不少網民認為處罰太輕了；也有網民稱此消息「都知道假的，但是好多人還是選擇轉發，因為不負責」，包括官媒人民網評論也認為轉發者和未過濾謠言的相關社群平台也應擔責，官方並應要求相關網路平台對AI生成內容加大審核機制。

AI不只被用來造謠，還是不法分子為賺取平台流量補貼的牟利工具。據湖北省黃石市大冶市人民檢察院近日收到一起案件法院判決書，2022年11月至2023年3月期間，柯某某以牟利為目的，使用翻牆軟體在境外網站借助AI工具批量生成淫穢小說發布並售賣，總計售賣760篇(次)，共計獲利2萬2873.95元，近日被以製作、販賣、傳播淫穢物品牟利罪判處有期徒刑10個月，併處罰金5000元，同時追繳全部違法所得。

對於民眾要求規範AI的呼聲，官方也出手立法整治。由國家網信辦、工信部、公安部、國家廣播電視總局聯手制定的「人工智能生成合成內容標識辦法」昨公布，自今年9月起施行。

據文匯報報導，「辦法」明確人工智能生成合成內容服務提供者對文本、圖片、音頻、視頻、虛擬場景等內容，添加文字、角標、語音、節奏等顯式標識的方法，防範混淆誤認。互聯網應用程式服務提供者提供AI生成合成服務的，應用程式分發平台應核驗其生成合成內容標識相關材料。

辦法並規定，任何組織和個人不得惡意刪除、篡改、偽造、隱匿規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

國家網信辦負責人表示，海量信息得以快速生成合成並在網路平台傳播，在促進經濟社會發展的同時，也產生了生成合成技術濫用、虛假信息傳播擴散加劇等問題，為此制定「辦法」進一步規範AI生成合成內容標識活動。