熱點(diǎn)事件發(fā)生后，有人利用AI生成的假“照片”引流吸睛；網(wǎng)絡(luò)直播間里，有人利用AI生成的假“名人”瘋狂帶貨；現(xiàn)實社會中，有人利用“AI換臉”實施詐騙……
不時曝出的此類案例，讓不少人“破防”，更引發(fā)人們對AI濫用的擔(dān)憂。近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等多個部門聯(lián)合制定的《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行。辦法聚焦人工智能生成合成內(nèi)容標(biāo)識的關(guān)鍵點(diǎn)，從服務(wù)提供、內(nèi)容制作、產(chǎn)品傳播等各個環(huán)節(jié)，對AI參與內(nèi)容生產(chǎn)提出具體要求。
辦法的頒布實施，將對規(guī)范AI參與內(nèi)容生產(chǎn)、防范AI被濫用立規(guī)矩、畫方圓。
近年來，生成式人工智能取得長足發(fā)展，廣泛應(yīng)用于人們?nèi)粘Ｉ畹脑S多場景。新技術(shù)的運(yùn)用，為經(jīng)濟(jì)社會發(fā)展注入強(qiáng)勁動能，也帶來一系列濫用的新問題。
此前，“廣州限制外賣配送”“河南信陽市中心體育館驚險崩塌”……諸如此類“有圖有視有真相”的重磅“消息”，曾在網(wǎng)上廣泛傳播，引起大量網(wǎng)民關(guān)注。警方隨后調(diào)查發(fā)現(xiàn)，這些聳人聽聞的“消息”，是不法分子使用AI制作的網(wǎng)絡(luò)謠言。
“名人效應(yīng)”也是不法分子利用AI造假的重要動機(jī)。比如，一些不法商家盯上多位奧運(yùn)冠軍，通過AI“盜聲”等方式，虛構(gòu)奧運(yùn)冠軍為自己帶貨。
人工智能就像一柄雙刃劍，利用得好，能夠為工作、學(xué)習(xí)增添助力；AI被濫用，就會損害個人權(quán)益、搞亂網(wǎng)絡(luò)環(huán)境、帶偏社會風(fēng)氣。
利用AI生成的內(nèi)容常常生動逼真，又沒有相關(guān)的標(biāo)識說明，一些不法分子甚至專門針對網(wǎng)民“量身打造”行騙內(nèi)容，普通民眾很難辨別真假。
相關(guān)部門推出的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確提出，“任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經(jīng)濟(jì)和社會秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動。”這為利用AI進(jìn)行內(nèi)容生產(chǎn)劃定了底線和紅線。
該規(guī)定第十七條提出，深度合成服務(wù)提供者提供服務(wù)，“可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識，向公眾提示深度合成情況”，從而給AI生成合成內(nèi)容需要標(biāo)注提出了法治化要求。
這次實施的《人工智能生成合成內(nèi)容標(biāo)識辦法》，是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的配套制度要求。辦法第四條明確規(guī)定，服務(wù)提供者提供的生成合成服務(wù)，屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條相關(guān)情形的，“應(yīng)當(dāng)”按照相應(yīng)要求對合成內(nèi)容添加顯著的提示標(biāo)識。
辦法從AI生產(chǎn)內(nèi)容的制作源頭開始全鏈條發(fā)力，對AI生成內(nèi)容服務(wù)的提供者、使用者、發(fā)布者、平臺等多角色開展約束，全方位完善制度體系，為防止AI濫用樹起了制度圍欄。
徒善不足以為政，徒法不能以自行。
從今年3月印發(fā)到9月正式施行，《人工智能生成合成內(nèi)容標(biāo)識辦法》給相關(guān)單位留出了相對充分的準(zhǔn)備時間。全面開展宣傳普及，讓辦法貫徹實施下去，為防范AI濫用發(fā)揮出應(yīng)有效用，需要全社會合力推進(jìn)。
生成合成內(nèi)容服務(wù)提供者，要為落實標(biāo)注要求提供堅實的技術(shù)支持，讓使用者開展標(biāo)注可用、好用、易用。
相關(guān)企業(yè)和個人需要仔細(xì)掂量自己利用AI生產(chǎn)的內(nèi)容，是否會損害國家形象、侵害社會公共利益、擾亂經(jīng)濟(jì)和社會秩序、侵犯他人合法權(quán)益，做到知法、守法。對于違法行為，應(yīng)當(dāng)嚴(yán)厲查處，以儆效尤。
傳播平臺同樣要承擔(dān)起把關(guān)責(zé)任，既要“技防”也要“人防”，多管齊下，嚴(yán)防應(yīng)該標(biāo)注卻沒有標(biāo)注的AI生產(chǎn)內(nèi)容違規(guī)發(fā)布。
治理AI濫用難題，還需要健全處置機(jī)制，強(qiáng)化執(zhí)法協(xié)同，用好群眾力量，提升違規(guī)問題的發(fā)現(xiàn)能力和懲處效率。
為技術(shù)使用立好規(guī)矩，使用者、傳播者各司其職守好內(nèi)容真實的底線，AI這項未來可能越來越深入、越來越廣泛影響我們?nèi)粘Ｉ畹膹?qiáng)大技術(shù)，才能趨利避害，不斷催生新場景、新業(yè)態(tài)，賦能千行百業(yè)，服務(wù)千家萬戶。
來源：新華社
編輯：張永超 李新花 劉曉哲
一審：賈春毅
二審：孫瑞永
三審：管延會
