近日，中央網(wǎng)信辦印發(fā)通知，在全國(guó)范圍內(nèi)部署開(kāi)展為期4個(gè)月的“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)，分兩個(gè)階段集中整治AI服務(wù)違規(guī)和AI信息內(nèi)容傳播等14類突出問(wèn)題。

這一“亮劍”之舉，既是對(duì)技術(shù)野蠻生長(zhǎng)的必要糾偏，更是為整個(gè)行業(yè)健康有序前行校準(zhǔn)航向、劃清“安全邊界”。

近年來(lái)，人工智能技術(shù)以前所未有的速度融入社會(huì)生產(chǎn)生活，在極大促進(jìn)數(shù)字經(jīng)濟(jì)繁榮和文化傳播的同時(shí)，也出現(xiàn)了一些令人擔(dān)憂的“走偏跑岔”現(xiàn)象。從“AI盜臉”“AI換聲”假冒公眾人物實(shí)施詐騙，到利用深度偽造技術(shù)制造虛假新聞、擾亂社會(huì)輿論環(huán)境；從AI“投毒”篡改高價(jià)值語(yǔ)料數(shù)據(jù)，再到濫用AI“魔改”經(jīng)典、生成邏輯混亂價(jià)值空洞的“數(shù)字泔水”，種種亂象不僅嚴(yán)重侵害公民隱私權(quán)及個(gè)人信息安全，更對(duì)社會(huì)倫理底線和青少年健康成長(zhǎng)造成了多重沖擊。AI一旦被濫用如同一匹脫韁的技術(shù)猛獸，失去管束必然反噬整個(gè)社會(huì)的安全網(wǎng)絡(luò)。

中央網(wǎng)信辦“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)，既是一場(chǎng)直面AI技術(shù)濫用的“排雷戰(zhàn)”，也是一項(xiàng)為新興領(lǐng)域產(chǎn)業(yè)發(fā)展清除路障、激濁揚(yáng)清的系統(tǒng)工程。結(jié)束亂象非一日之功，筑牢安全監(jiān)管的堤壩也需持續(xù)發(fā)力。下一步推進(jìn)“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)，需要多方著手。

要進(jìn)一步完善法規(guī)政策，實(shí)現(xiàn)“有法可依、執(zhí)法必嚴(yán)”。在專項(xiàng)行動(dòng)推進(jìn)中，各地網(wǎng)信部門應(yīng)抓緊制定配套實(shí)施細(xì)則與指引標(biāo)準(zhǔn)，重點(diǎn)針對(duì)AI虛構(gòu)操縱股市、醫(yī)療輿情等專業(yè)垂直場(chǎng)景風(fēng)險(xiǎn)，出臺(tái)更加精細(xì)化的管理指南。要嚴(yán)查標(biāo)桿性違法違規(guī)案件，堅(jiān)持“以案促改”，對(duì)違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)依法進(jìn)行頂格處罰，并定期集中曝光典型案例，形成強(qiáng)有力的震懾效應(yīng)。

要壓實(shí)平臺(tái)企業(yè)的主體責(zé)任，督促其切實(shí)盡到“看門人”的審核義務(wù)。督促更多平臺(tái)建立健全AI大模型及算法的備案公示與審計(jì)溯源流程，增強(qiáng)企業(yè)在模型訓(xùn)練階段的語(yǔ)料安全和數(shù)據(jù)合規(guī)意識(shí)。必須規(guī)范開(kāi)源社區(qū)的身份認(rèn)證和安全管理責(zé)任，第一時(shí)間下架含有嚴(yán)重偽造、色情擦邊等違規(guī)內(nèi)容的數(shù)據(jù)集與模型，絕不縱容AI“去標(biāo)識(shí)”等違規(guī)工具服務(wù)在電商及各大平臺(tái)的暗中流通。

要借助科技治理手段賦能監(jiān)管，進(jìn)一步補(bǔ)足專業(yè)領(lǐng)域的技術(shù)短板。為防止違規(guī)AI應(yīng)用在專項(xiàng)整治后又有“變異回潮”之勢(shì)，各級(jí)網(wǎng)信部門應(yīng)加快試點(diǎn)部署AI生成內(nèi)容鑒別引擎、數(shù)據(jù)投毒異動(dòng)監(jiān)測(cè)系統(tǒng)等“以技防技”的先進(jìn)工具，對(duì)深度偽造內(nèi)容進(jìn)行平臺(tái)式跨域前置“標(biāo)識(shí)提醒”和實(shí)時(shí)攔截提示。目前，針對(duì)GPT式大語(yǔ)言模型的安全測(cè)評(píng)及準(zhǔn)入門檻等標(biāo)準(zhǔn)尚待統(tǒng)一，建議支持國(guó)家級(jí)AI安全沙箱試點(diǎn)機(jī)構(gòu)的建設(shè)，不斷強(qiáng)化對(duì)新發(fā)技術(shù)風(fēng)險(xiǎn)的前瞻性辨識(shí)和極限測(cè)試能力。

技術(shù)創(chuàng)新是機(jī)遇，而法治與安全是讓人們得以安心擁抱機(jī)遇的堅(jiān)實(shí)底線。未來(lái)只有始終同心同向，不斷完善監(jiān)管法規(guī)與技術(shù)平臺(tái)治理能力，才能確保我國(guó)人工智能在安全、可控、負(fù)責(zé)、向善的康莊大路上健步如飛，讓科技之光真正惠及每一位國(guó)民。（文：周雄，圖片由周雄借助AI生成）