“每20個(gè)‘80后’中就有1人已經(jīng)去世”“廣州法院對(duì)一起某品牌汽車(chē)L3級(jí)自動(dòng)駕駛追尾事故作出判決”“四川涼山發(fā)生山體滑坡災(zāi)害”……近期，多條消息進(jìn)入公眾視野，事后被證明是使用AI編造的謠言，再度引發(fā)各界對(duì)于這類問(wèn)題的關(guān)注和憂慮。
AI技術(shù)的迅猛發(fā)展，讓近年來(lái)卓有成效的網(wǎng)絡(luò)謠言治理面臨新的挑戰(zhàn)。
一方面，AI謠言成本更低、速度更快、傳播更廣�，F(xiàn)實(shí)表明，AI通過(guò)海量數(shù)據(jù)學(xué)習(xí)和對(duì)用戶行為、興趣的分析，更容易發(fā)現(xiàn)其中的模式和規(guī)律，反過(guò)來(lái)也更能“一本正經(jīng)地胡說(shuō)八道”，何況還有文字、圖片、視頻等多種形式。去年4月，在公安部公布的10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例中，就有4起涉及使用AI造謠。最近，據(jù)南都大數(shù)據(jù)研究院不完全統(tǒng)計(jì)，2024年搜索熱度較高的50個(gè)國(guó)內(nèi)AI風(fēng)險(xiǎn)相關(guān)輿情案例中，超1/5與AI造謠有關(guān)。
另一方面，相較于傳統(tǒng)的謠言，AI謠言的迷惑性、欺騙性和傷害性也更強(qiáng)。研究表明，近年來(lái)經(jīng)濟(jì)領(lǐng)域成為AI謠言多發(fā)高發(fā)重點(diǎn)領(lǐng)域，經(jīng)濟(jì)與企業(yè)類謠言占比攀升，嚴(yán)重侵害企業(yè)合法權(quán)益，破壞營(yíng)商環(huán)境。其中，有的隨意編造“股市小作文”，導(dǎo)致股市波動(dòng)，擾亂資本市場(chǎng)生態(tài)；有的惡意中傷企業(yè)，嚴(yán)重失實(shí)的內(nèi)容經(jīng)廣泛傳播，影響企業(yè)品牌聲譽(yù)；有的批量生成不實(shí)文章進(jìn)行吸粉引流、非法牟利……與此形成鮮明對(duì)比的是，事后維權(quán)、調(diào)查往往面臨著取證難、舉證難等現(xiàn)實(shí)問(wèn)題，讓企業(yè)和相關(guān)部門(mén)有心無(wú)力。
網(wǎng)絡(luò)不是法外之地，AI也不是“造謠工具”，全鏈條的有效治理迫在眉睫。從建立多層次法律法規(guī)體系，到開(kāi)展一系列專項(xiàng)行動(dòng)，我國(guó)針對(duì)濫用甚至違法使用人工智能亂象“亮劍”。比如最高法等聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見(jiàn)》中規(guī)定，對(duì)“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的情形，依法從重處罰�！渡墒饺斯ぶ悄芊⻊�(wù)管理暫行辦法》明確提出，生成式人工智能服務(wù)提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門(mén)報(bào)告�？傮w來(lái)看，由于AI謠言涉及主體多、背后產(chǎn)業(yè)鏈條長(zhǎng)，從企業(yè)平臺(tái)、監(jiān)管部門(mén)、技術(shù)提供者、用戶等多方面發(fā)力，方能最大程度擠壓AI謠言的生存空間。
當(dāng)然，如何在挑戰(zhàn)中尋得機(jī)遇，讓AI技術(shù)“加持”謠言治理同樣值得重視�？紤]到AI在謠言識(shí)別追蹤、自動(dòng)辟謠等方面的實(shí)力和潛力，不少專家建議關(guān)注重點(diǎn)放在源頭治理上來(lái)。鼓勵(lì)人工智能在辟謠領(lǐng)域的創(chuàng)新應(yīng)用，不斷探索優(yōu)化應(yīng)用場(chǎng)景，“以魔法打敗魔法”是一條可行之路。
我們期待向上向善的AI，不僅意味著生成積極健康的優(yōu)質(zhì)內(nèi)容，也可以打開(kāi)向虛假信息說(shuō)“不”的新方式。（陸夷） |
