抖音整治AI不當(dāng)內(nèi)容，重點(diǎn)處置利用AI技術(shù)換臉、盜聲

近日，抖音正式發(fā)布“AI生成不當(dāng)內(nèi)容及侵犯他人權(quán)益”的專項(xiàng)治理公告。公告對(duì)外披露了階段性治理成效，截至目前已累計(jì)下架AI侵權(quán)視頻超53.8萬條，處罰違規(guī)賬號(hào)4000余個(gè)，同時(shí)明確了重點(diǎn)整治場(chǎng)景與長(zhǎng)效管控舉措。平臺(tái)將重點(diǎn)處置利用AI技術(shù)換臉、盜聲，利用AI生成內(nèi)容仿冒、蹭熱他人等典型違規(guī)行為。抖音相關(guān)負(fù)責(zé)人也表示，平臺(tái)會(huì)持續(xù)投入提升相關(guān)治理能力，但需要承認(rèn)，當(dāng)前行業(yè)仍普遍面臨AI生成內(nèi)容判斷難、AI聲音識(shí)別能力不足等難題。

當(dāng)前，AI生成技術(shù)的快速應(yīng)用帶來了一系列網(wǎng)絡(luò)治理新挑戰(zhàn)，部分賬號(hào)借AI技術(shù)實(shí)施換臉、盜聲、仿冒蹭熱、侵權(quán)帶貨等違規(guī)行為，不僅嚴(yán)重侵害他人肖像權(quán)、聲音權(quán)等人格權(quán)益與知識(shí)產(chǎn)權(quán)，更擾亂正常網(wǎng)絡(luò)傳播秩序，引發(fā)社會(huì)各界廣泛關(guān)注。對(duì)此，抖音持續(xù)升級(jí)防控體系，強(qiáng)化技術(shù)識(shí)別與人工核查能力，2026年以來持續(xù)開展多輪專項(xiàng)治理，精準(zhǔn)打擊各類AI違規(guī)侵權(quán)行為。

公告披露的治理數(shù)據(jù)顯示，2026年以來，平臺(tái)已累計(jì)下架AI侵權(quán)視頻超53.8萬條，依規(guī)處罰違規(guī)賬號(hào)4000余個(gè)。其中，針對(duì)AI仿冒蹭熱行為，平臺(tái)已下架相關(guān)視頻超36萬條；針對(duì)AI肖像、AI聲音類侵權(quán)內(nèi)容，累計(jì)處置8.5萬條；對(duì)利用“AI霸總”形象誤導(dǎo)、誘導(dǎo)中老年人互動(dòng)的不當(dāng)內(nèi)容，已清理相關(guān)內(nèi)容3萬余條、處置違規(guī)賬號(hào)1300余個(gè)，對(duì)情節(jié)嚴(yán)重的賬號(hào)依法采取禁止投稿、封禁權(quán)限等梯度處罰，形成有效約束。

圍繞社會(huì)高度關(guān)注的AI違規(guī)侵權(quán)場(chǎng)景，抖音明確了兩大重點(diǎn)整治方向，結(jié)合典型案例明確治理邊界。其一，在AI換臉、盜聲及侵權(quán)帶貨領(lǐng)域，部分違規(guī)賬號(hào)未經(jīng)授權(quán)，利用AI換臉技術(shù)將公眾人物、普通用戶肖像合成至低俗、惡搞場(chǎng)景，惡意丑化他人形象；部分商家通過AI克隆知名藝人聲音、合成其肖像，制作虛假商品推薦視頻，用于直播帶貨引流，誤導(dǎo)消費(fèi)者，此類違規(guī)內(nèi)容均被平臺(tái)依法清理，涉事賬號(hào)從嚴(yán)處罰。其二，對(duì)通過AI技術(shù)“魔改”經(jīng)典，進(jìn)而傳播血腥暴力、色情低俗等違規(guī)內(nèi)容的行為從嚴(yán)處置。對(duì)涉嫌違法的行為，平臺(tái)也將及時(shí)上報(bào)有關(guān)部門，配合開展執(zhí)法工作。

 

圖：用戶可進(jìn)入涉嫌侵權(quán)的賬號(hào)主頁直接發(fā)起侵權(quán)舉報(bào)

為便捷用戶維權(quán)快速通道，抖音構(gòu)建起多維度、全場(chǎng)景的舉報(bào)體系，涵蓋App內(nèi)的AI警示語舉報(bào)、長(zhǎng)按視頻一鍵舉報(bào)、賬號(hào)主頁舉報(bào)，以及PC端批量舉報(bào)、專屬郵箱反饋等渠道。其中，PC端批量舉報(bào)支持單次提交2000條侵權(quán)鏈接，覆蓋肖像權(quán)、知識(shí)產(chǎn)權(quán)等八大高頻維權(quán)場(chǎng)景，有效提升用戶維權(quán)效率。

針對(duì)AI生成內(nèi)容識(shí)別難、授權(quán)信息核驗(yàn)難等行業(yè)共性難題，抖音表示將持續(xù)加大技術(shù)投入，完善AI侵權(quán)案例樣本庫，升級(jí)大模型識(shí)別與精準(zhǔn)處置能力。后續(xù)，平臺(tái)還將上線非權(quán)利人監(jiān)督舉報(bào)入口，構(gòu)建“平臺(tái)管控+用戶監(jiān)督”的社區(qū)共治格局，全力補(bǔ)齊治理短板。

抖音呼吁全體用戶自覺堅(jiān)守文明創(chuàng)作底線，理性運(yùn)用AI技術(shù)，堅(jiān)決抵制AI不當(dāng)內(nèi)容與侵權(quán)行為，發(fā)現(xiàn)違規(guī)內(nèi)容及時(shí)通過官方渠道舉報(bào)。平臺(tái)將持續(xù)深化專項(xiàng)治理，壓實(shí)平臺(tái)責(zé)任，以嚴(yán)管嚴(yán)控態(tài)勢(shì)推動(dòng)AI技術(shù)規(guī)范使用，推動(dòng)AI技術(shù)在規(guī)范中健康發(fā)展，與社會(huì)各界攜手共建清朗、誠信、安全的網(wǎng)絡(luò)空間。

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))