快訊

高雄箱型車突衝上人行道 來台觀光日籍婦挨撞畫面曝光

造謠生事、不法牟利 中整治AI亂象 9月起生成內容須標識

中國發布「人工智能生成合成內容標識辦法」規範AI生成內容標識。圖為民眾在展會上參觀百度AI藝術和創意輔助平台「文心一格」操作。(新華社)
中國發布「人工智能生成合成內容標識辦法」規範AI生成內容標識。圖為民眾在展會上參觀百度AI藝術和創意輔助平台「文心一格」操作。(新華社)

AI迅猛發展為人類帶來便利,但也因缺乏嚴謹規範亂象頻傳。中國網路近日盛傳「頂流男星在澳門輸了10億(人民幣,下同,約1.38億美元)」消息,藝人周杰倫、黃曉明為此先後澄清闢謠,也有人利用AI寫情色小說牟利,經查都是有人利用AI生成謠言。AI「造謠」擾亂社會秩序之際,國家網信辦等四個部門近日聯合發布新規,9月1日起,AI生成合成內容必須添加標識,防範混淆誤認。

一則「頂流男星在澳門輸了10億」消息近日在網上被瘋傳,引發大量網民議論還登上熱搜,公安部昨通報,此案是36歲徐姓男子為製造流量牟取非法利益,3月10日利用某軟件AI功能,生成「頂流明星被曝境外豪賭輸光10億身價(身家)引發輿論海嘯」謠言並發布網上,嚴重擾亂公共秩序,已對其作出行政拘留八天處罰。

對於AI造謠行拘八天,不少網民認為處罰太輕了;也有網民稱此消息「都知道假的,但是好多人還是選擇轉發,因為不負責」,包括官媒人民網評論也認為轉發者和未過濾謠言的相關社群平台也應擔責,官方並應要求相關網路平台對AI生成內容加大審核機制。

AI不只被用來造謠,還是不法分子為賺取平台流量補貼的牟利工具。據湖北省黃石市大冶市人民檢察院近日收到一起案件法院判決書,2022年11月至2023年3月期間,柯某某以牟利為目的,使用翻牆軟體在境外網站借助AI工具批量生成淫穢小說發布並售賣,總計售賣760篇(次),共計獲利2萬2873.95元,近日被以製作、販賣、傳播淫穢物品牟利罪判處有期徒刑10個月,併處罰金5000元,同時追繳全部違法所得。

對於民眾要求規範AI的呼聲,官方也出手立法整治。由國家網信辦、工信部、公安部、國家廣播電視總局聯手制定的「人工智能生成合成內容標識辦法」昨公布,自今年9月起施行。

據文匯報報導,「辦法」明確人工智能生成合成內容服務提供者對文本、圖片、音頻、視頻、虛擬場景等內容,添加文字、角標、語音、節奏等顯式標識的方法,防範混淆誤認。互聯網應用程式服務提供者提供AI生成合成服務的,應用程式分發平台應核驗其生成合成內容標識相關材料。

辦法並規定,任何組織和個人不得惡意刪除、篡改、偽造、隱匿規定的生成合成內容標識,不得為他人實施上述惡意行為提供工具或者服務,不得通過不正當標識手段損害他人合法權益。

國家網信辦負責人表示,海量信息得以快速生成合成並在網路平台傳播,在促進經濟社會發展的同時,也產生了生成合成技術濫用、虛假信息傳播擴散加劇等問題,為此制定「辦法」進一步規範AI生成合成內容標識活動。

相關新聞

返陸失聯一年陸籍教授回日 曾被指因間諜罪嫌疑被拘留

日本神戶學院大學陸籍教授胡士雲2023年8月曾為進行研究活動返陸,卻在10月失去音訊,一度被指可能因間諜罪嫌疑被大陸有關...

國安高層會議17條因應策略 陸官媒:條條都是通向毀滅的道路

賴清德總統13日提出17項國安策略、大陸接續在14日召開「反分裂國家法實施二十周年座談會」,大陸官媒《環球時報》今日發文...

指DeepSeek受大陸政府補貼控制 OpenAI籲美政府禁用

美國AI研究實驗室OpenAI近日在一項新的政策提案中,將大陸AI公司DeepSeek描述為「受國家補貼」和「受國家控制...

造謠生事、不法牟利 中整治AI亂象 9月起生成內容須標識

AI迅猛發展為人類帶來便利,但也因缺乏嚴謹規範亂象頻傳。中國網路近日盛傳「頂流男星在澳門輸了10億(人民幣,下同,約1....

在陸經營水土不服 蔦屋書店一年內連關三間

蔦屋華北首店天津仁恆伊勢丹店將於3月底正式關閉,是最近一年時間內,繼西安蔦屋書店和蔦屋上海MOHO店後,第三家在大陸閉店...

認「日中難免會出現問題」日駐陸大使:需交流找解方

日本駐陸大使金杉憲治近日接受陸媒專訪時表示,日中作為鄰國「不可避免地會出現一些問題」,並呼籲正因為存在問題,更需要雙方的...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。