每經(jīng)評論員 王嘉琦

5 月 24 日，科大訊飛（SZ002230，股價56.57元，市值1314.2億元）股價午后意外跳水，一度跌超 9%。原因是市場上流傳了兩篇由生成式 AI 虛構(gòu)的“小作文”，分別涉及科大訊飛非法獲取用戶數(shù)據(jù)和被美國列入實體清單的風(fēng)險。這兩篇“小作文”雖然都被科大訊飛方面否認(rèn)，但仍然對公司的聲譽和股價造成了不良影響。

這一事件再次暴露了 AI 假新聞的危害，以及對其進行有效監(jiān)管的迫切性。生成式 AI 是一種利用大數(shù)據(jù)和深度學(xué)習(xí)技術(shù)，根據(jù)用戶指令自動生成文本、圖像、音頻等內(nèi)容的人工智能。它有著廣泛的應(yīng)用場景，比如新聞寫作、文案生成、對話系統(tǒng)等。但同時，它也可能被惡意利用，批量生產(chǎn)虛假或有害的信息，誤導(dǎo)公眾輿論，干擾社會秩序，甚至威脅國家安全。

因此，我們需要對 AI 假新聞進行有效監(jiān)管，從源頭、過程和結(jié)果三個層面加強控制。從源頭來說，我們需要規(guī)范生成式 AI 的開發(fā)和使用，確保其符合法律法規(guī)和倫理道德，不侵犯他人的合法權(quán)益。從過程來說，我們需要建立健全的信息審核和溯源機制，及時發(fā)現(xiàn)和刪除虛假或有害的內(nèi)容，追究相關(guān)責(zé)任主體的法律責(zé)任。從結(jié)果來說，我們需要提高公眾的媒介素養(yǎng)和辨別能力，讓他們能夠識別和抵制 AI 假新聞，維護自己的知情權(quán)和選擇權(quán)。

科大訊飛閃崩事件給我們敲響了警鐘，AI 假新聞不容忽視。我們應(yīng)該充分利用 AI 的優(yōu)勢，同時防范其風(fēng)險，建立一個健康有序的信息生態(tài)環(huán)境。