2025年6月，北京市海淀區(qū)市場監(jiān)管局查處了某公司利用AI技術(shù)冒用央視知名主持人名義和形象的虛假廣告案。這也是北京市場監(jiān)管部門運用《中華人民共和國廣告法》對濫用AI技術(shù)冒用知名人物形象發(fā)布虛假廣告問題首度“亮劍”。
這起案件所揭示的技術(shù)濫用現(xiàn)象，正在成為數(shù)字經(jīng)濟時代的新型社會公害。當算法生成的虛擬形象以每秒30幀的流暢度模仿真人微表情，當聲紋克隆技術(shù)可以完美復刻特定人物的音色特征，我們不得不面對一個殘酷的現(xiàn)實：在深度偽造技術(shù)面前，“眼見為實，耳聽為虛”這些傳統(tǒng)認知準則正在失效。涉案企業(yè)正是利用了公眾對權(quán)威媒體人的天然信任，將這種信任異化為商業(yè)欺詐的工具。他們精心設(shè)計的騙局具有典型的數(shù)字時代特征：先用AI生成足以亂真的主持人形象構(gòu)建信任基礎(chǔ)，再通過精心編排的話術(shù)將普通食品包裝成具有醫(yī)療功效的神藥，最終在算法推薦的流量加持下完成收割。這種欺詐模式不僅突破了商業(yè)倫理的底線，更對社會信任體系造成了結(jié)構(gòu)性破壞。
從法律維度審視，這起案件的查處過程具有里程碑意義。執(zhí)法部門在缺乏專門針對深度偽造技術(shù)立法的情況下，創(chuàng)造性地運用《廣告法》中不得含有虛假或者引人誤解的內(nèi)容的規(guī)定，成功實現(xiàn)了對新型違法行為的精準打擊。這種司法實踐為我們提供了重要啟示：面對技術(shù)迭代帶來的法律滯后問題，既可以通過擴大解釋現(xiàn)有法律條款來填補空白，也需要加快制定專門性法規(guī)。值得注意的是，涉案產(chǎn)品深海多烯魚油的實際執(zhí)行標準僅為糖果類普通食品，卻宣稱具有治療頭暈頭痛、改善記憶等醫(yī)療功效，這種虛假宣傳行為本質(zhì)上是對消費者知情權(quán)的系統(tǒng)性侵犯。執(zhí)法部門在調(diào)查中還發(fā)現(xiàn)，該企業(yè)不僅偽造了名人形象，更構(gòu)建了完整的虛假證據(jù)鏈，包括偽造的檢測報告和用戶評價，這種全鏈條造假模式對監(jiān)管技術(shù)提出了更高要求。
案件的查處過程暴露出當前監(jiān)管體系面臨的深層矛盾。當執(zhí)法人員進入涉事企業(yè)直播間調(diào)查時，發(fā)現(xiàn)其宣傳展板赫然標注適合頭暈頭痛、手麻腳麻、記憶下降人群等明顯屬于醫(yī)療用語的表述，這種明目張膽的違法行為與平臺審核機制的集體失位形成鮮明對比。一個擁有88萬粉絲的直播間能夠長期進行虛假宣傳，反映出平臺方在內(nèi)容審核上存在三重漏洞：對AI生成內(nèi)容的識別技術(shù)嚴重滯后、對醫(yī)療相關(guān)宣傳語的敏感度不足、對高流量直播間的監(jiān)管存在選擇性忽視。這種平臺責任的真空狀態(tài)，使得技術(shù)濫用行為獲得了野蠻生長的空間。更令人擔憂的是，類似騙局正在形成標準化操作流程：從名人形象數(shù)據(jù)庫采集、語音克隆模型訓練到話術(shù)模板庫建設(shè)，已經(jīng)出現(xiàn)專業(yè)化分工的黑色產(chǎn)業(yè)鏈。這種產(chǎn)業(yè)化趨勢使得單個違法行為的查處難以遏制整體性風險，急需建立跨平臺的聯(lián)合監(jiān)管機制。
從社會治理的角度看，這起案件正在改變多方主體的行為模式。消費者舉報在此案中起到關(guān)鍵作用，這種主動維權(quán)意識的覺醒，標志著公眾開始從被動受害者轉(zhuǎn)變?yōu)閿?shù)字治理的參與主體。這種轉(zhuǎn)變具有深遠意義，當每個消費者都成為監(jiān)督網(wǎng)絡的節(jié)點，就能形成對違法行為的全民圍剿。但同時也要看到，普通民眾在識別深度偽造內(nèi)容時仍面臨巨大困難，這就需要媒體和監(jiān)管部門加強數(shù)字素養(yǎng)教育，教會公眾識別AI合成內(nèi)容的蛛絲馬跡——比如不自然的微表情變化、不符合人體工學的肢體動作，或是超出常理的宣傳承諾。對于技術(shù)開發(fā)者而言，這起案件敲響了倫理警鐘。在追求算法精度的同時，必須建立技術(shù)向善的自我約束機制。平臺方則需重新審視流量至上的商業(yè)模式，將社會責任納入核心考核指標，通過建立AI內(nèi)容溯源系統(tǒng)、完善先審后發(fā)機制等方式，切斷虛假信息的傳播鏈條。
這起AI仿冒名人帶貨案的發(fā)生與處理，恰似數(shù)字經(jīng)濟成長過程中的一次壓力測試，暴露出技術(shù)創(chuàng)新與法律規(guī)范之間的動態(tài)張力。當虛擬形象可以毫秒級復刻真人特征，當合成語音能夠完美模仿特定聲線，我們不得不重新思考真實性的定義邊界。案件的標本價值不僅在于其司法突破，更在于它揭示了數(shù)字治理的底層邏輯：技術(shù)可以重塑商業(yè)形態(tài)，但誠信始終是市場的基石；算法能夠優(yōu)化傳播效率，但真實才是內(nèi)容的本質(zhì)。在AI技術(shù)指數(shù)級發(fā)展的當下，這起案件提醒我們，構(gòu)建良性的數(shù)字生態(tài)需要建立三重保障：法律之網(wǎng)要織密技術(shù)漏洞，倫理之尺要丈量創(chuàng)新邊界，共治之力要凝聚社會共識。唯有當技術(shù)創(chuàng)新、法律規(guī)制和商業(yè)倫理形成互為支撐的三角結(jié)構(gòu)，數(shù)字經(jīng)濟的發(fā)展才能真正實現(xiàn)行穩(wěn)致遠。
本版專欄文章僅代表作者個人觀點
