原標(biāo)題：應(yīng)對(duì)AI合成技術(shù)濫用風(fēng)險(xiǎn)，規(guī)范電商直播行業(yè)秩序
8家平臺(tái)簽承諾書(shū) 劃定應(yīng)用“合規(guī)紅線”
記者今天從北京市消費(fèi)者協(xié)會(huì)獲悉，為應(yīng)對(duì)AI合成技術(shù)濫用風(fēng)險(xiǎn)，規(guī)范電商直播行業(yè)秩序，北京消協(xié)聯(lián)合京東、美團(tuán)、拼多多、唯品會(huì)、抖音、快手、小紅書(shū)、微信直播等8家電商平臺(tái)簽訂全國(guó)首份《促進(jìn)AI技術(shù)規(guī)范應(yīng)用承諾書(shū)》，建立企業(yè)自律規(guī)范，劃定AI技術(shù)應(yīng)用“合規(guī)紅線”。
近年來(lái)，AI數(shù)字人直播、虛擬場(chǎng)景帶貨等新技術(shù)應(yīng)用普及，在提升消費(fèi)體驗(yàn)同時(shí)，部分商家的違規(guī)操作也引發(fā)消費(fèi)者擔(dān)憂。北京消協(xié)歷時(shí)3個(gè)月專(zhuān)項(xiàng)調(diào)查，鎖定當(dāng)前AI合成技術(shù)應(yīng)用中存在的突出問(wèn)題：
消費(fèi)者知情權(quán)保障不足，“真假難辨”困擾普遍存在。據(jù)3162份有效回收問(wèn)卷調(diào)查數(shù)據(jù)顯示，近九成的受訪者呼吁“AI生成內(nèi)容需顯著標(biāo)識(shí)”，超七成接受虛擬背景但強(qiáng)調(diào)需有顯著提示；超六成認(rèn)為AI數(shù)字人“缺乏真情實(shí)感”，近三成擔(dān)憂其“可能誤導(dǎo)消費(fèi)決策”。
合成技術(shù)濫用滋生消費(fèi)風(fēng)險(xiǎn)，“虛假營(yíng)銷(xiāo)”問(wèn)題凸顯。針對(duì)電商平臺(tái)的AI數(shù)字人、AI場(chǎng)景直播帶貨行為，北京消協(xié)對(duì)10個(gè)AI數(shù)字人直播帶貨樣本開(kāi)展體驗(yàn)調(diào)查發(fā)現(xiàn)：5個(gè)樣本在直播界面標(biāo)注“AI生成”“擬真場(chǎng)景”等提示信息，5個(gè)樣本未對(duì)體驗(yàn)人員的問(wèn)題進(jìn)行及時(shí)回應(yīng)或互動(dòng)；6個(gè)樣本存在未提示私下交易風(fēng)險(xiǎn)等問(wèn)題。
此外，平臺(tái)審核機(jī)制也存在短板，風(fēng)險(xiǎn)防控能力有待提升。調(diào)研發(fā)現(xiàn)，當(dāng)前部分電商平臺(tái)尚未建立健全AI內(nèi)容審核專(zhuān)項(xiàng)制度，對(duì)商家使用AI數(shù)字人、虛擬場(chǎng)景等技術(shù)缺乏有效管理規(guī)則和精準(zhǔn)識(shí)別技術(shù)。
針對(duì)上述問(wèn)題，承諾書(shū)以“標(biāo)識(shí)透明、審核嚴(yán)格、責(zé)任可溯”為核心，提出堅(jiān)守法律底線，明確合規(guī)邊界；強(qiáng)化標(biāo)識(shí)要求，保障知情權(quán)利等具體舉措。要求商家和內(nèi)容創(chuàng)作者在利用AI技術(shù)生成合成數(shù)字人主播、虛擬場(chǎng)景時(shí)，在顯著位置清晰標(biāo)注“AI生成”或“擬真場(chǎng)景”等提示內(nèi)容；鼓勵(lì)使用平臺(tái)提供的統(tǒng)一AI內(nèi)容標(biāo)識(shí)功能主動(dòng)聲明，嚴(yán)禁利用AI合成換臉技術(shù)仿冒名人明星帶貨。
同時(shí)，將技術(shù)監(jiān)測(cè)與人工復(fù)核結(jié)合，阻斷違規(guī)傳播。在內(nèi)容審核與傳播環(huán)節(jié)對(duì)直播內(nèi)容、直播場(chǎng)景進(jìn)行監(jiān)測(cè)，一旦發(fā)現(xiàn)沒(méi)有標(biāo)識(shí)的疑似AI數(shù)字人或AI虛擬場(chǎng)景問(wèn)題，將及時(shí)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)。經(jīng)平臺(tái)研判，確系存在違規(guī)行為的，將進(jìn)一步采取屏蔽鏈接等措施。
家平臺(tái)也承諾，堅(jiān)決抵制惡意刪除、篡改、偽造或隱匿AI內(nèi)容標(biāo)識(shí)的行為，對(duì)違規(guī)賬號(hào)及內(nèi)容依法依規(guī)嚴(yán)肅處理，維護(hù)AI制度的嚴(yán)肅性。（記者 楊召奎）
編輯：郭成
