近日,中央網(wǎng)信辦通報(bào)的“清朗”專項(xiàng)行動(dòng)典型案例中,多起利用AI換臉技術(shù)實(shí)施網(wǎng)絡(luò)詐騙的案件引發(fā)輿論熱議。當(dāng)技術(shù)突破與治理滯后的“時(shí)間差”被不法分子利用,這場虛實(shí)交織的信任危機(jī)正倒逼社會治理加速迭代。
技術(shù)雙刃劍折射治理滯后性。國家反詐中心2023年度報(bào)告顯示,利用深度合成技術(shù)的電信詐騙案件較上年增長193%,單筆最高涉案金額達(dá)430萬元。與之形成對比的是,某第三方機(jī)構(gòu)調(diào)研顯示,78.6%的中小企業(yè)仍在使用靜態(tài)密碼作為唯一驗(yàn)證手段。技術(shù)迭代的“摩爾定律”與風(fēng)險(xiǎn)防御的“龜速更新”,暴露出技術(shù)創(chuàng)新與社會治理的“時(shí)空錯(cuò)位”。
這種現(xiàn)象在商業(yè)領(lǐng)域尤為突出:部分直播平臺為追求流量縱容AI換臉特效濫用,某些電商商家公然出售深度偽造軟件教程。這些亂象揭示出,當(dāng)技術(shù)倫理讓位于商業(yè)利益時(shí),技術(shù)創(chuàng)新就會異化為社會風(fēng)險(xiǎn)的放大器。
四川實(shí)踐提供破局新思路。成都高新區(qū)日前上線的“AI安全靶場”提供了有益探索。該平臺通過模擬200余種深度偽造攻擊場景,已為本地金融機(jī)構(gòu)訓(xùn)練出識別準(zhǔn)確率達(dá)98.7%的風(fēng)險(xiǎn)預(yù)警模型。綿陽某科技企業(yè)研發(fā)的“生物特征動(dòng)態(tài)核驗(yàn)系統(tǒng)”,要求視頻通話時(shí)同步驗(yàn)證微表情肌電信號,成功阻斷多起仿冒詐騙。
這些創(chuàng)新實(shí)踐印證著:構(gòu)建可信數(shù)字生態(tài)需要“技術(shù)盾牌”與“制度鎧甲”的雙重加持。正如省人工智能研究院專家所言:“防范AI詐騙不是簡單的技術(shù)攻防戰(zhàn),而是涉及法律規(guī)范、行業(yè)標(biāo)準(zhǔn)、公眾教育的系統(tǒng)工程?!?/p>
構(gòu)建全鏈條治理生態(tài)體系。江蘇省近日出臺的《人工智能倫理審查指引》開創(chuàng)性提出“三前置”原則:倫理評估前置技術(shù)研發(fā)、風(fēng)險(xiǎn)測試前置產(chǎn)品上市、普法教育前置場景應(yīng)用。深圳推出的“深度合成服務(wù)標(biāo)識系統(tǒng)”,要求所有AI生成內(nèi)容必須加載可溯源數(shù)字水印。這些制度創(chuàng)新為技術(shù)倫理建設(shè)提供了實(shí)踐樣本。
在四川,電子科技大學(xué)聯(lián)合省公安廳搭建的“AI反詐聯(lián)合實(shí)驗(yàn)室”已形成產(chǎn)學(xué)研閉環(huán):通過海量詐騙樣本訓(xùn)練出的檢測模型,識別效率較傳統(tǒng)手段提升17倍;同步開發(fā)的“銀發(fā)守護(hù)”小程序,用方言短視頻幫助老年人識別AI詐騙套路,覆蓋用戶超百萬。
站在數(shù)字文明的分水嶺,我們需要的不是因噎廢食的技術(shù)恐懼,而是張弛有度的治理智慧。當(dāng)上海市人工智能倫理委員會開始試行“技術(shù)創(chuàng)新倫理預(yù)審”制度,當(dāng)成都高新區(qū)設(shè)立全國首個(gè)AI安全靶場,這些探索都在詮釋一個(gè)真理:技術(shù)進(jìn)步的速度永遠(yuǎn)不應(yīng)該超過社會駕馭它的能力。唯有讓倫理之燈始終照亮創(chuàng)新前路,才能避免技術(shù)紅利異化為社會風(fēng)險(xiǎn),在虛實(shí)交融的數(shù)字世界守護(hù)人性的溫度。(王浩然)
編輯:馮方湲
責(zé)任編輯:金艷
編審:喻佳
0