

智
造


近日,由國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、國(guó)家廣播電視總局共同發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》將于2025年9月1日起正式施行,引發(fā)社會(huì)關(guān)注,深晚記者為此采訪了市民代表和業(yè)內(nèi)人士。《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》將于2025年9月1日起正式施行。
在AIGC技術(shù)狂飆突進(jìn)的背景下,其發(fā)展現(xiàn)狀也呈現(xiàn)出“冰火兩重天”的矛盾面:一方面,生成式AI已滲透文本、圖像、視頻等全領(lǐng)域。
2024年12月,HRTechChina與新秀數(shù)據(jù)聯(lián)合發(fā)布的《2024年10月全球AIGC投融資報(bào)告》顯示,截至2024年10月底,全球AIGC行業(yè)融資總額已達(dá)到3434億元,投資事件共939起。中國(guó)AIGC行業(yè)融資額占全球的十分之一,但投資事件數(shù)量接近四成。此外,技術(shù)應(yīng)用也從電商客服、內(nèi)容創(chuàng)作延伸至醫(yī)療診斷、智慧城市。
另一方面,虛假信息泛濫、版權(quán)糾紛頻發(fā)等問(wèn)題隨之凸顯,僅2024年就曝出多起AI換臉詐騙案件,某明星“澳門賭博輸10億”假新聞更引發(fā)全網(wǎng)討論。
將于9月1日施行的《標(biāo)識(shí)辦法》,正是對(duì)上述矛盾的系統(tǒng)性回應(yīng)?!稑?biāo)識(shí)辦法》創(chuàng)新性引入雙重標(biāo)識(shí)體系,系統(tǒng)性規(guī)范了AI生成內(nèi)容的傳播邊界:顯式標(biāo)識(shí)要求通過(guò)文字、圖形等方式直觀提示,隱式標(biāo)識(shí)則需在文件數(shù)據(jù)中嵌入溯源信息。這種“看得見(jiàn)的警示+看不見(jiàn)的防線”設(shè)計(jì),既考慮普通用戶的知情權(quán),也為內(nèi)容溯源保留技術(shù)抓手。
“這是AI生成行業(yè)的‘紅綠燈’設(shè)置?!稑?biāo)識(shí)辦法》既是對(duì)技術(shù)發(fā)展的必要約束,也為行業(yè)健康發(fā)展提供了清晰指引?!本〇|集團(tuán)相關(guān)業(yè)務(wù)負(fù)責(zé)人告訴深晚記者。他指出,對(duì)于標(biāo)識(shí)問(wèn)題,京東早已在數(shù)字人直播中廣泛應(yīng)用:在應(yīng)用端,直播畫面中會(huì)有明確的標(biāo)識(shí)提示用戶這是數(shù)字人主播;在制作端,京東在采集人像和聲音均簽署了嚴(yán)格授權(quán)協(xié)議,再進(jìn)行商業(yè)化應(yīng)用。
另一位不愿透露姓名的深圳創(chuàng)業(yè)者則認(rèn)為,《標(biāo)識(shí)辦法》將倒逼AI企業(yè)優(yōu)化技術(shù)架構(gòu):“以我們團(tuán)隊(duì)開(kāi)發(fā)的AI繪圖工具為例,過(guò)去通過(guò)隱式標(biāo)識(shí)實(shí)現(xiàn)版權(quán)保護(hù)的成本較高,現(xiàn)在政策明確數(shù)字水印等技術(shù)方案的合規(guī)性,可加速技術(shù)落地”。
《標(biāo)識(shí)辦法》的實(shí)施效果不僅關(guān)乎企業(yè)技術(shù)路線的調(diào)整,更直接牽動(dòng)著億萬(wàn)用戶的信息安全與消費(fèi)選擇。
市民劉女士是一位“種草”達(dá)人,她對(duì)深晚記者表示,如果以后所有AI生成的內(nèi)容都強(qiáng)制加標(biāo)識(shí),至少能提醒大家多留個(gè)心眼,極大減少被騙的概率:“現(xiàn)在刷短視頻、看文章,經(jīng)常分不清是真人做的還是AI生成的。以后要是強(qiáng)制標(biāo)注,市民選購(gòu)化妝品至少能避開(kāi)虛假‘安利’。”
作為一名設(shè)計(jì)師,市民薛先生則關(guān)注到AI生成內(nèi)容在商業(yè)推廣和個(gè)人創(chuàng)作中的差異。他指出,一些創(chuàng)意類內(nèi)容,如AI繪畫或鬼畜視頻,強(qiáng)行打標(biāo)可能會(huì)破壞作品氛圍。他建議采用分級(jí)管理的方式,商業(yè)推廣類內(nèi)容必須顯式標(biāo)識(shí),而個(gè)人創(chuàng)作類內(nèi)容則可以允許選擇性標(biāo)注。
在接受深晚記者采訪時(shí),深圳職業(yè)技術(shù)大學(xué)人工智能學(xué)院專業(yè)主任易海博表示,《標(biāo)識(shí)辦法》明確了合成內(nèi)容的源頭,一旦發(fā)現(xiàn)虛假、非法等內(nèi)容,可追溯至生成合成者。易海博看到《標(biāo)識(shí)辦法》為行業(yè)發(fā)展帶來(lái)的更多可能:“AIGC標(biāo)識(shí)檢測(cè)將成為新業(yè)務(wù),且業(yè)務(wù)量巨大,可能發(fā)展成新的職業(yè)工種,如人工智能標(biāo)識(shí)檢測(cè)員;此外,不排除會(huì)出現(xiàn)AIGC標(biāo)識(shí)檢測(cè)工具軟件,形態(tài)可能是云服務(wù),隨著檢測(cè)服務(wù)的普及,價(jià)格將越來(lái)越低廉?!?span>深圳市智能制造產(chǎn)業(yè)促進(jìn)會(huì)常務(wù)會(huì)長(zhǎng)喻波指出,在政策執(zhí)行過(guò)程中,要破解“技術(shù)-監(jiān)管-倫理”三角難題。“為避免誤傷合規(guī)企業(yè),可參考?xì)W盟《數(shù)字服務(wù)法案》,建立‘人工復(fù)核+算法糾錯(cuò)’雙軌機(jī)制;同時(shí),要建立動(dòng)態(tài)評(píng)估機(jī)制,根據(jù)技術(shù)發(fā)展和實(shí)際執(zhí)行情況,及時(shí)對(duì)政策進(jìn)行調(diào)整和完善,確保其始終貼合行業(yè)發(fā)展需求?!彼麑?duì)深晚記者表示。喻波建議,深圳可試點(diǎn)“一網(wǎng)統(tǒng)管”平臺(tái),實(shí)現(xiàn)數(shù)據(jù)跨部門共享,避免出現(xiàn)監(jiān)管空白或重疊,形成高效協(xié)同的監(jiān)管合力,保證政策執(zhí)行不走樣。
來(lái)源于:深圳晚報(bào) ? 2025年03月16日 ? 版次:A02
采寫 | 深圳晚報(bào)記者?王新根
編輯|張?jiān)w?/span>
審讀|伊諾
關(guān)于深圳市智能制造產(chǎn)業(yè)促進(jìn)會(huì)

智能制造

智
點(diǎn)擊下附“協(xié)會(huì)簡(jiǎn)介”鏈接
可更詳細(xì)了解“深圳市智能制造產(chǎn)業(yè)促進(jìn)會(huì)”