近期，網(wǎng)絡(luò)空間中AI生成虛假信息的問題引發(fā)廣泛關(guān)注。部分賬號(hào)利用技術(shù)手段制造不實(shí)內(nèi)容，通過AI換臉、聲音克隆等方式假冒公眾人物發(fā)布言論，或編造災(zāi)害事故等虛假圖片視頻，以此吸引流量甚至謀取利益。此類行為嚴(yán)重?cái)_亂公共秩序，破壞網(wǎng)絡(luò)生態(tài)健康。

針對(duì)這一亂象，中央網(wǎng)信辦已展開專項(xiàng)整治行動(dòng)。據(jù)通報(bào)，近期依法處置違規(guī)賬號(hào)13421個(gè)，清理違法違規(guī)信息54.3萬余條。監(jiān)管部門明確表示，將持續(xù)強(qiáng)化對(duì)未標(biāo)注AI生成標(biāo)識(shí)的虛假內(nèi)容的打擊力度，形成常態(tài)化高壓監(jiān)管態(tài)勢，堅(jiān)決維護(hù)網(wǎng)絡(luò)空間的清朗環(huán)境。

伴隨技術(shù)普及，人工智能產(chǎn)業(yè)呈現(xiàn)爆發(fā)式增長。據(jù)專業(yè)機(jī)構(gòu)統(tǒng)計(jì)，截至目前全國現(xiàn)存人工智能相關(guān)企業(yè)超500萬家。僅2025年新增注冊(cè)企業(yè)就達(dá)120.2萬余家，近五年企業(yè)注冊(cè)數(shù)量持續(xù)攀升，今年創(chuàng)下歷史新高。從地域分布看，廣東省以77.2萬余家企業(yè)領(lǐng)跑全國，占比達(dá)15.45%，北京、江蘇、山東、浙江四省市緊隨其后，形成產(chǎn)業(yè)集聚效應(yīng)。

業(yè)內(nèi)人士指出，AI技術(shù)發(fā)展需與規(guī)范管理同步推進(jìn)。一方面要鼓勵(lì)技術(shù)創(chuàng)新應(yīng)用，另一方面必須完善標(biāo)識(shí)制度，強(qiáng)化平臺(tái)審核責(zé)任。當(dāng)前監(jiān)管部門正通過技術(shù)手段與人工巡查相結(jié)合的方式，構(gòu)建全鏈條治理體系，從源頭遏制虛假信息傳播。