本報訊（記者萬(wàn)曉東）為應對AI合成技術(shù)濫用風(fēng)險，規范電商直播行業(yè)秩序，近日，北京市消費者協(xié)會(huì )推動(dòng)京東、美團、拼多多、唯品會(huì )、抖音、快手、小紅書(shū)、微信直播8家電商平臺簽訂《促進(jìn)AI技術(shù)規范應用承諾書(shū)》（以下簡(jiǎn)稱(chēng)《承諾書(shū)》），從技術(shù)標識、內容審核、責任追溯等環(huán)節建立企業(yè)自律規范，提出六大具體舉措，劃定AI技術(shù)應用合規紅線(xiàn)。

　　近年來(lái)，AI數字人直播、虛擬場(chǎng)景帶貨等新技術(shù)應用快速普及，在提升消費體驗的同時(shí)，部分商家的違規操作也引發(fā)消費者廣泛擔憂(yōu)。北京市消協(xié)歷時(shí)3個(gè)月開(kāi)展專(zhuān)項調查，通過(guò)問(wèn)卷調研、體驗式調查、專(zhuān)家研討等方式，鎖定當前AI合成技術(shù)應用中侵害消費者權益的三大突出問(wèn)題。

　　一是消費者知情權保障不足，“真假難辨”困擾普遍存在。調查數據顯示，近九成的受訪(fǎng)者呼吁“AI生成內容需顯著(zhù)標識”，超七成受訪(fǎng)者接受虛擬背景但強調須有顯著(zhù)提示；超六成認為AI數字人“缺乏真情實(shí)感”，近三成受訪(fǎng)者擔憂(yōu)其“可能誤導消費決策”。

　　二是合成技術(shù)濫用滋生消費風(fēng)險，虛假營(yíng)銷(xiāo)問(wèn)題凸顯。針對電商平臺的AI數字人、AI場(chǎng)景直播帶貨行為，北京市消協(xié)通過(guò)模擬消費者在直播間購物與線(xiàn)下比對實(shí)物的方式，對10個(gè)AI數字人直播帶貨樣本開(kāi)展體驗調查，發(fā)現5個(gè)樣本未在直播界面標注“AI生成”“擬真場(chǎng)景”等提示信息，5個(gè)樣本沒(méi)有對體驗人員的問(wèn)題進(jìn)行及時(shí)回應或互動(dòng)，6個(gè)樣本存在未提示私下交易風(fēng)險等問(wèn)題。此外，部分網(wǎng)絡(luò )直播存在利用公眾信任謀取不當利益的情況，近期網(wǎng)信部門(mén)也處置了一批利用AI換臉技術(shù)仿冒公眾人物開(kāi)展直播營(yíng)銷(xiāo)的網(wǎng)絡(luò )賬號。

　　三是平臺審核機制存在短板，風(fēng)險防控能力待提升。經(jīng)與專(zhuān)家研討調研發(fā)現，當前部分電商平臺尚未建立健全AI內容審核專(zhuān)項制度，對商家使用AI數字人、虛擬場(chǎng)景等技術(shù)缺乏有效管理規則和精準識別技術(shù)，導致消費者在購物過(guò)程中難以快速辨別信息真偽，增加了消費決策風(fēng)險。

　　針對上述問(wèn)題，北京市消協(xié)推動(dòng)8家電商平臺簽訂《承諾書(shū)》，以“標識透明、審核嚴格、責任可溯”為核心，提出六大具體措施，為AI技術(shù)在電商領(lǐng)域的合規應用劃定紅線(xiàn)。

　　一是堅守法律底線(xiàn)，明確合規邊界。嚴格遵守《消費者權益保護法》《電子商務(wù)法》《人工智能生成合成內容標識辦法》等法律法規，要求平臺及商家在應用AI生成合成技術(shù)時(shí)，必須以保障消費者合法權益為前提。

　　二是強化標識要求，保障消費者知情權。要求商家和內容創(chuàng )作者在利用AI技術(shù)生成合成數字人主播、虛擬場(chǎng)景時(shí)，在顯著(zhù)位置清晰標注“AI生成”或“擬真場(chǎng)景”等提示內容；鼓勵使用平臺提供的統一AI內容標識功能主動(dòng)聲明，嚴禁利用AI合成換臉技術(shù)仿冒名人明星帶貨。

　　三是技術(shù)監測與人工復核結合，阻斷違規傳播。在內容審核與傳播環(huán)節，采取措施對商家或內容創(chuàng )作者的直播內容、直播場(chǎng)景進(jìn)行監測，一旦發(fā)現沒(méi)有標識的疑似AI數字人或AI虛擬場(chǎng)景問(wèn)題，將及時(shí)采取適當方式在發(fā)布內容周邊添加顯著(zhù)的提示標識，經(jīng)平臺研判，確系存在違規行為的，將進(jìn)一步采取屏蔽鏈接等措施。

　　四是提供工具支持，引導商家主動(dòng)合規。為商家及內容創(chuàng )作者提供便捷的AI標識工具和清晰的操作指引，引導其主動(dòng)規范使用AI標識。

　　五是嚴打標識造假，維護制度公信力。堅決抵制惡意刪除、篡改、偽造或隱匿AI內容標識的行為，對違規賬號及內容依法依規嚴肅處理，維護AI相關(guān)制度的嚴肅性。

　　六是強化培訓賦能，提升行業(yè)認知度。將AI內容標識要求納入平臺治理體系，對商家或內容創(chuàng )作者加強合規培訓，提升平臺內AI技術(shù)合規水平。

　　北京市消協(xié)副秘書(shū)長(cháng)吳海璐表示，下一步，北京市消協(xié)將持續跟蹤網(wǎng)絡(luò )AI技術(shù)應用動(dòng)態(tài)，組織志愿者體驗直播間購物、追蹤反饋實(shí)際感受，督促企業(yè)嚴格落實(shí)承諾內容。同時(shí)，通過(guò)線(xiàn)上線(xiàn)下多渠道開(kāi)展消費教育活動(dòng)，向廣大消費者普及AI技術(shù)常識，提升消費者辨別虛假內容的能力，增強防范意識。通過(guò)多方協(xié)作、多維施策，構建技術(shù)合規、平臺履責、消費安心的網(wǎng)絡(luò )消費環(huán)境。