從搜索引擎到AI大模型，我們獲取信息的入口正在發(fā)生變化。近期媒體曝光，不法機(jī)構(gòu)利用GEO(生成式引擎優(yōu)化)技術(shù)批量生產(chǎn)虛假信息，對(duì)大模型“投毒”，讓其錯(cuò)把“電子垃圾”當(dāng)成“干貨”輸出給用戶(hù)。專(zhuān)家提醒，這導(dǎo)致AI語(yǔ)料庫(kù)面臨“近親繁殖”風(fēng)險(xiǎn)，大量平庸、重復(fù)的內(nèi)容被模型吸收，加劇其“邏輯退化”與“幻覺(jué)”。

　　對(duì)抗“投毒”，技術(shù)防線正在構(gòu)筑。研發(fā)人員正訓(xùn)練大模型“自我甄別”真?zhèn)蔚哪芰Γ诵氖墙⑿旁丛u(píng)分體系與第三方交叉校驗(yàn)機(jī)制。同時(shí)，用戶(hù)也需保持警惕，對(duì)AI提供的消費(fèi)建議應(yīng)自行交叉驗(yàn)證。 凈化AI空間需企業(yè)、監(jiān)管與平臺(tái)全鏈路聯(lián)動(dòng)：企業(yè)需建立語(yǔ)料庫(kù)動(dòng)態(tài)防火墻，識(shí)別并清洗AI生成的劣質(zhì)數(shù)據(jù)；監(jiān)管方需推動(dòng)數(shù)據(jù)確權(quán)與安全評(píng)估；平臺(tái)則需強(qiáng)化AI內(nèi)容的水印標(biāo)識(shí)。(記者 盧曉娜 北京報(bào)道）

責(zé)任編輯：【羅攀】