奧運(yùn)冠軍全紅嬋家人聲音被AI合成冒用帶貨事件，撕開了AI技術(shù)應(yīng)用的陰暗面。在某電商平臺(tái)上，標(biāo)注“全紅嬋”“嬋妹”的賬號(hào)用高度仿真的AI合成聲音推銷產(chǎn)品，甚至偽造“家庭困境”博取同情。

被AI合成假冒偽裝的不止全紅嬋家人，此前，明星劉曉慶、古天樂、張馨予等，都有聲音、視頻被AI合成用于代言、帶貨。這些事件背后，都是不法分子在利用AI技術(shù)偽造公眾人物的形象和聲音，或者生造出來某個(gè)人物形象，蓄意欺騙消費(fèi)者，以謀取非法收益。

這種赤裸裸的“數(shù)字身份盜竊”，已非簡單的商業(yè)侵權(quán)，而是對(duì)人格權(quán)的技術(shù)性肢解——當(dāng)聲紋、語氣、家庭關(guān)系等生物特征與情感連接都能被算法復(fù)制，我們每個(gè)人都可能成為下一個(gè)受害者。

現(xiàn)行《民法典》雖規(guī)定聲音權(quán)保護(hù)參照肖像權(quán)，但AI聲音合成尚缺具體認(rèn)定標(biāo)準(zhǔn)，涉事平臺(tái)依據(jù)《電子商務(wù)法》下架商品的行為，暴露出“事后滅火”式監(jiān)管的無力與無奈。斯坦?！?024AI指數(shù)報(bào)告》顯示，全球83%的AI倫理規(guī)范未對(duì)聲音克隆設(shè)限，面對(duì)飛速發(fā)展的前沿技術(shù)，道德與法律方面的健全迫在眉睫。

全紅嬋事件揭示的深層危機(jī)是：當(dāng)AI模糊了真實(shí)與虛擬的界限，人類正在失去對(duì)自身獨(dú)特性的掌控權(quán)。哲學(xué)家韓炳哲預(yù)言的“數(shù)字僵尸”時(shí)代似乎正在逼近——我們的聲音、形象、社會(huì)關(guān)系都可能脫離肉體獨(dú)立存在，成為被資本操縱的數(shù)字傀儡。

守住人性的最后防線，不僅需要法律重拳與技術(shù)修復(fù)，更需要重建“科技敬畏感”。正如中國科學(xué)院院士何積豐所言：“AI發(fā)展的紅燈不是剎車，而是為了更安全的超車?！痹谒惴駳g的時(shí)代，我們必須為技術(shù)裝上倫理的導(dǎo)航系統(tǒng)，否則下一個(gè)被AI“附體”的，可能就是屏幕前的你我。

編輯：馮方湲

責(zé)任編輯：金艷

編審：吳山冠