近期，一些不法分子利用AI技術編造謠言，嚴重擾亂社會秩序。他們通過AI軟件生成虛假新聞和圖片，短時間內能生成大量文章，一天最多可達7000篇，以此賺取平臺流量補貼。這些謠言往往模仿新聞風格，包含驚險細節(jié)，更具迷惑性。

公安機關對此類違法行為進行了嚴厲打擊。江西一家MCN機構因發(fā)布多條AI生成的謠言信息被查處，實際控制人王某某被行政拘留5日，機構停業(yè)整改。在重慶，個人康某某也因編造民房爆炸謠言被依法行政拘留，并收繳違法所得。

專家指出，平臺應履行相應監(jiān)管責任，合理強化違法成本。平臺在刺激創(chuàng)作的同時，應盡到消除虛假信息傳播的責任，對散布謠言者采取懲罰機制。法律也應匹配違法人員的違法成本，以遏制此類行為的蔓延。網(wǎng)絡并非法外之地，對于發(fā)布不實言論、擾亂社會秩序的行為，公安機關將堅決依法處理。

天眼查專業(yè)版數(shù)據(jù)顯示，截至目前我國現(xiàn)存在業(yè)、存續(xù)狀態(tài)的人工智能相關企業(yè)超424.3萬家。其中，2025年截至目前新增注冊相關企業(yè)約28.6萬余家，從企業(yè)注冊數(shù)量趨勢來看，近五年間，人工智能相關企業(yè)的注冊數(shù)量呈現(xiàn)出逐年增長的態(tài)勢，并在2024年達到頂峰。

從區(qū)域分布來看，廣東省以超過63.6萬余家的人工智能相關企業(yè)數(shù)量位居首位，占全國企業(yè)總數(shù)的15%；排在其后的是江蘇省、北京市、山東省和浙江省，相關企業(yè)數(shù)量分別是超過33.6萬余家、33.1萬余家、29.2萬余家和25.2萬余家。

此外，通過天眼查天眼風險和深度風險來看，涉及司法案件的人工智能相關企業(yè)約占總數(shù)的2.22%。