央視曝光AI造黃產(chǎn)業(yè)鏈，被點(diǎn)名公司發(fā)文致歉：將進(jìn)一步完善管理與審核流程
來源： 紫牛新聞
2026-04-14 21:00:00
央視曝光AI造黃產(chǎn)業(yè)鏈，被點(diǎn)名公司發(fā)文致歉：將進(jìn)一步完善管理與審核流程
14日，被央視曝光涉黃的AI軟件哩布哩布發(fā)布《關(guān)于加強(qiáng)內(nèi)容安全管理的說明》，承認(rèn)在個別復(fù)雜提示詞組合及規(guī)避表達(dá)的邊界場景下，平臺存在生成不符合規(guī)范內(nèi)容的情況。哩布哩布AI表示，相關(guān)問題已第一時間完成技術(shù)修復(fù)，并對風(fēng)險路徑進(jìn)行全面封堵。
據(jù)此前央視新聞報道，調(diào)查發(fā)現(xiàn)多個AI應(yīng)用存在涉黃生成漏洞，如果直接向平臺輸入露骨色情詞匯，平臺通常會進(jìn)行攔截，但只要改用隱晦說法，便能輕松繞過審核，生成違規(guī)色情內(nèi)容。其中哩布哩布AI被點(diǎn)名，從網(wǎng)上購買隱晦提示詞后，很容易就能在該平臺生成違規(guī)視頻，全程不會被平臺攔截，平臺也沒有發(fā)出警示。部分商家在社交平臺公開售賣“AI擦邊視頻制作教程”，宣稱可手把手教用戶利用AI軟件，通過隱晦提示詞生成色情內(nèi)容，甚至鼓吹“日入5位數(shù)”，誘導(dǎo)更多人參與，形成“售賣提示詞—AI生成內(nèi)容—非法牟利”的灰色產(chǎn)業(yè)鏈。AI平臺雖然沒有直接提供違規(guī)內(nèi)容，但監(jiān)管、審核的缺位導(dǎo)致違規(guī)視頻仍然能夠輕易產(chǎn)出并傳播。
“哩布哩布AI”的運(yùn)營主體是北京奇點(diǎn)星宇科技有限公司，企查查顯示2025年該企業(yè)曾兩次收到稅務(wù)機(jī)關(guān)通知，被要求及時辦理納稅申報、報送納稅資料，并整改相關(guān)稅務(wù)違法行為。該應(yīng)用官網(wǎng)宣傳稱自身是AI文生圖賽道融資第一，是中國最大的AI圖像生成平臺。2025年10月，該公司宣布完成1.3億美元B輪融資，由紅杉中國、CMC資本及一戰(zhàn)略投資方聯(lián)合領(lǐng)投，老股東順為資本、源碼資本、明勢創(chuàng)投、渶策資本均超額增持，據(jù)稱是當(dāng)時國內(nèi)資本市場AI應(yīng)用賽道規(guī)模最大的一筆融資。
根據(jù)2023年8月起施行的《生成式人工智能服務(wù)管理暫行辦法》和2025年11月正式實(shí)施的《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求》均要求提供和使用生成式人工智能服務(wù)，不得生成暴力、淫穢色情等內(nèi)容，還要對明顯誘導(dǎo)生成違法不良信息的問題拒絕回答。并且值得注意的是，約束AI生成侵權(quán)、濫用的繩索正在進(jìn)一步拉近，今年7月15日《人工智能擬人化互動服務(wù)管理暫行辦法》將施行，其中也提到“提供擬人化互動服務(wù)時，不得傳播淫穢、色情、暴力等內(nèi)容”，還對未成年人和老年人使用擬人化互動服務(wù)作出了相關(guān)規(guī)定。
揚(yáng)子晚報|紫牛新聞記者沈昭
視頻|周嘉楠
校對 胡妍璐