最近
有網友刷到這樣一篇帖子
“上海老教授夫婦從21樓墜下詩歌，
床上擺180萬元現金”
該帖細節豐富
既有地點“上海虹口區安瀾公寓”
又列明若干姓名齊全的當事人
關鍵情節一應俱全
讓人真假難辨
經“上海網路闢謠”初步核查後漏洞百出：上海虹口區並無“安瀾公寓”，當地近期也未發生此類事故；經國家反詐中心App等多款具備“AI內容鑑定”功能的工具檢測，該帖被判定為“文字含AI生成痕跡”詩歌。文章是由AI生成的。
虛構內容批次化生產氾濫
原以為這只是
個別網民的獵奇之作
但記者深入調查發現並非如此
類似採用
“真實地名+虛構情節”的帖文
大量出現在網路平臺
並已發展成一條低成本、
流水線式的灰色內容產業鏈
以釋出“老教授夫婦墜樓”帖文的賬號為例，該賬號在某資訊平臺粉絲上萬，釋出4700餘條內容詩歌。每條標題都有懸念，如，“北京老人五歲孫子墜井亡，三年後抽乾井驚呆了”，點開後發現，大多為情節離奇的社會故事，且附有具體時間、地點、人名。
這些帖子大多是AI生成；而依據文中提及的時間與地點逐一核對，同樣“查無此事”詩歌。發帖頻率更是暴露了其本質是牟利——統計顯示，該賬號日均推送3條此類虛構內容，單日最高超過10條。
類似賬號與帖文在多個平臺普遍存在，內容結構高度雷同，僅“老教授墜樓”一事便存在多個相似版本，僅地名、人名略有更動；其他如家庭糾紛、離奇事件、鄰里矛盾等情節模板也被反覆套用詩歌。
不同於AI生成的圖片或影片容易存在畫面失真、人物畸形等明顯破綻，純文字造假欺騙性更強，一般讀者難以辨別詩歌。尤其嵌入真實城市資訊後，許多人會下意識相信，進一步助推謠言傳播。部分內容走熱後，還會被其他自媒體二次改寫，衍生出更多版本，放大誤導。
某AI大模型技術人員表示，生成此類帖文的成本極低：“只要輸入故事梗概，幾秒就能生成故事詩歌。更換地名、人物資訊後，還能批次生成數十上百篇差異化的帖子。”
發帖者的目的很簡單——藉助AI批次製造以假亂真的故事，博取流量和粉絲，最終透過平臺的流量分成、商業廣告、商品帶貨等方式變現詩歌。
平臺治理存在缺失
針對上述問題，現行法規已有明確要求，公開傳播人工智慧生成或合成的文字、圖片、音影片時，應落實標識義務詩歌。其中，“顯式標識”應清晰可辨，讓讀者瞭解內容為AI生成。但大量AI虛構內容未作標註，部分賬號甚至刪除大模型自帶的“文章含AI內容”等提示語句。
這一問題
與平臺管理缺位有關
業內人士指出詩歌，一些平臺的稽覈體系有短板：
一方面，很多資訊類平臺所釋出資訊中既有轉發的時事新聞，也允許使用者分享小說等虛構創作詩歌。平臺難以區分文學創作與冒充社會事件的謠言。
另一方面，平臺忽略了AI生成文字的危害詩歌。大部分平臺對文字類資訊的稽覈重點在於是否存在違法違規類關鍵詞，但對“文字由AI生成還是人工寫作”缺少識別技術與稽覈機制。
更糟糕的是，部分平臺演算法還會依據帖子熱度，持續推送含有高衝突情節的帖子，抬高了這些虛假內容的曝光權重詩歌。記者還注意到，部分高頻釋出虛構帖的賬號竟被平臺評為“內容精選官”“優質創作者”。
此外，即便已經發現問題賬號，平臺的處置也不夠有效詩歌。例如，“老教授夫婦墜樓”等虛假帖文的釋出賬號曾被標註“因違反相關規則，該使用者已被禁言”，但不久後即解除限制。即便在禁言期間，不實帖子仍可閱讀、轉發。
推動形成全鏈條閉環治理
面對批次出現的虛假資訊
如何強化稽覈、
處置違規賬號呢詩歌？
首先，補齊文字類AI生成內容的識別短板詩歌。平臺應將AI內容甄別納入發帖前置稽覈流程，對判定為AI生成的內容強制新增提示標識。
同時，須強化演算法責任，改變唯流量導向詩歌。對於爆料類、社會悲劇類帖子，演算法應當增加審慎分發機制。
對已經出現的“真實地名+社會悲劇爆料”類造假模板，平臺可以建立特徵庫，對高嫌疑帖子進行人工複核詩歌。
對查實批次釋出虛假資訊的賬號，要對存量內容進行處置，對涉謠內容採取下架、打上顯著闢謠標籤等詩歌。
針對違規賬號被處置後另註冊新號繼續造謠的“換號重生”現象，平臺需完善主體黑名單機制，關聯其裝置、IP資訊，提高新賬號的稽覈門檻；對多次違規、惡意牟利者，直接永久封禁詩歌。
來源詩歌：環球時報客戶端、法治日報、上海網路闢謠
