《南方都市報(bào)》2023年7月21日A10版見報(bào)。

日前，中央網(wǎng)信辦開展為期2個(gè)月的“清朗·2023年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)，整治重點(diǎn)聚焦包括“AI換臉”“AI繪圖”等在內(nèi)的新技術(shù)新應(yīng)用風(fēng)險(xiǎn)問題。南都記者調(diào)查發(fā)現(xiàn)，隨著AI技術(shù)的普及，其帶來的隱患在網(wǎng)絡(luò)中廣泛存在。其中，AI繪圖不僅輕松生成涉及未成年人的低俗色情圖片視頻，AI換臉生成說話視頻僅需幾十元，這些新技術(shù)的產(chǎn)生正在給未成年人帶來看不見的隱患和風(fēng)險(xiǎn)。

賣方：有“AI繪圖”涉未成年軟色情　　

2019年，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布的《兒童個(gè)人網(wǎng)絡(luò)信息保護(hù)規(guī)定》于同年10月1日?qǐng)?zhí)行，里面對(duì)兒童個(gè)人網(wǎng)絡(luò)信息保護(hù)做了詳細(xì)規(guī)定。其中，兒童個(gè)人信息影響最為惡劣的，是持有、傳播兒童色情信息。

南都記者注意到，近期有網(wǎng)友反映在國(guó)內(nèi)的一些視頻網(wǎng)站上已出現(xiàn)了涉嫌兒童色情的AI繪圖內(nèi)容，聲稱一些博主訓(xùn)練AI，將女童的臉放在各種有挑逗意味的動(dòng)作上，讓幼童向鏡頭掀裙子、穿“下衣失蹤裝”，并附有圖文。微博上，一篇強(qiáng)烈抨擊AI繪圖生成“二次元女童懷孕照”的熱帖，獲得了網(wǎng)友上萬點(diǎn)贊。

南都記者進(jìn)一步調(diào)查發(fā)現(xiàn)，一些視頻網(wǎng)站正為此類AI生成的未成年軟色情圖片、視頻提供傳播渠道。在搜索實(shí)測(cè)中，記者輕松就能搜索出很多衣著暴露、姿勢(shì)帶有性暗示的AI生成女性圖片。如果關(guān)鍵詞再詳細(xì)一點(diǎn)，也不乏未成年女孩的軟色情生成圖片。有發(fā)布視頻的人更在評(píng)論區(qū)留下圖片鏈接，以換取觀眾的點(diǎn)贊和關(guān)注；也有人留下QQ號(hào)和聯(lián)系方式用來“接單”，聲稱如有具體需求，可在繪圖模型中設(shè)置詳細(xì)描述詞生成。

暗訪中記者還發(fā)現(xiàn)，在電商平臺(tái)上，可搜索出大量利用打著“AI繪圖”“AI換臉”等旗號(hào)生成美女視頻的店家。“傻瓜式操作，小白輕松上手，海量關(guān)鍵詞描述免費(fèi)使用”，一店家打著上述廣告語(yǔ)，表示只需要輸入一系列關(guān)鍵詞就可智能生成自己想要的圖片。

嘗試購(gòu)買后，客服會(huì)發(fā)送來云鏈接和提取碼，其售賣內(nèi)容包含SD模型包、繪畫速成、變現(xiàn)方式及安裝說明。在對(duì)方發(fā)來的圖片素材和描述詞匯中，不少涉及低俗色情內(nèi)容，且輕松便能生成未成年少女的軟色情圖。此外，評(píng)論處還曬出了不少由AI生成的學(xué)生圖片，這些少女看上去臉龐幼稚、姿勢(shì)帶有未成年軟色情的擦邊之嫌?！　?/p>

買方：未成年也能購(gòu)買“AI脫衣”產(chǎn)品　

今年3月，一則“女子地鐵照被AI一鍵脫衣”的消息沖上微博熱搜。照片上的女子是一名博主，在社交平臺(tái)發(fā)布了一組在地鐵上拍攝的穿搭照片，卻被人用AI軟件“一鍵脫衣”，故意在網(wǎng)上散播。對(duì)此，該博主表示會(huì)采取相應(yīng)的維權(quán)措施，并希望能夠引起人們對(duì)于隱私權(quán)和個(gè)人形象保護(hù)的關(guān)注。

其實(shí)，“AI脫衣”的危害甚至禍及未成年人。記者通過商家了解到，部分AI繪圖軟件同樣支持一鍵脫衣。一名賣家聲稱自己“資源眾多”，不僅售賣繪圖軟件，還有海量圖片素材，在網(wǎng)頁(yè)詳細(xì)地將圖集分為“二次元”“國(guó)風(fēng)”“動(dòng)漫”“機(jī)甲”等多個(gè)種類，在對(duì)方介紹的圖片素材中，出現(xiàn)了“女孩”“少女”等多個(gè)字眼。還有商家表示專門售賣“AI繪畫校服寫真”的圖片素材，形象為穿著校服的女學(xué)生，卻衣著暴露、表情挑逗。

這些提供“AI脫衣”相關(guān)技術(shù)或服務(wù)的商家，有的會(huì)通過隱藏的地址逃避監(jiān)管，輸入驗(yàn)證碼后方可查看；還有的需要先關(guān)注某公眾號(hào)，再發(fā)送暗號(hào)兩字獲取驗(yàn)證碼；或者是通過客服咨詢，在對(duì)話中對(duì)方提供網(wǎng)頁(yè)鏈接，通過鏈接下載最新版的APP。記者實(shí)測(cè)發(fā)現(xiàn)，對(duì)于這些軟件下載，未成年人無需進(jìn)行身份識(shí)別，輸入關(guān)鍵詞找到渠道便可輕易操作。

除了生成低俗色情圖片視頻外，這些新技術(shù)也容易在其他渠道上帶來風(fēng)險(xiǎn)和隱患。

記者在短視頻平臺(tái)進(jìn)行檢索，會(huì)彈出大量相關(guān)的短視頻廣告，下附AI換臉軟件的鏈接。在一款叫“AI隨拍”的軟件鏈接后，各式各樣的明星、素人短視頻浮現(xiàn)在主頁(yè)上。只需觀看25秒的廣告，就可以用這款A(yù)PP免費(fèi)制作一個(gè)十多秒的視頻。通常，這些短視頻下方都附有下載鏈接，廣告流量可觀，很多視頻評(píng)論過千，轉(zhuǎn)發(fā)量過萬。

除此之外，記者在電商平臺(tái)上搜索發(fā)現(xiàn)多個(gè)商家頁(yè)面，支持面容轉(zhuǎn)換一步到位，月銷量數(shù)百乃至上千。有客服向記者表示，其售賣的是一款軟件，無論是圖片或是視頻都支持一鍵換臉，售賣價(jià)格僅幾十元。

專家：壓實(shí)平臺(tái)主體責(zé)任 探索集體訴訟制度

對(duì)此，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)法工委副秘書長(zhǎng)胡鋼認(rèn)為，人工智能，特別是以ChatGPT為代表的生成式人工智能，已經(jīng)引發(fā)新一輪顛覆性技術(shù)革命，并給全人類帶來巨大機(jī)遇和強(qiáng)勁挑戰(zhàn)。而近年來，我國(guó)先后發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等，就是對(duì)人工智能法律體系的細(xì)化完善。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春則認(rèn)為，傳統(tǒng)對(duì)于軟色情等不良信息治理更多基于傳播端的控制，比如禁止傳播或者限制傳播，有專門的內(nèi)容生產(chǎn)者，用戶只需要獲取再進(jìn)一步的傳播。“而現(xiàn)在的難題恰恰在于AI技術(shù)能使內(nèi)容生產(chǎn)變得非常簡(jiǎn)單，不需要專業(yè)的人士和機(jī)構(gòu)，每個(gè)人都能成為生成者，那么以前對(duì)于傳播環(huán)節(jié)的控制就有點(diǎn)失靈了。”

劉曉春表示，現(xiàn)在要做的，除了沿用傳統(tǒng)對(duì)不良信息傳播端口的控制，還要轉(zhuǎn)變?yōu)閷?duì)技術(shù)工具本身、包括對(duì)技術(shù)工具開發(fā)過程的干預(yù)和控制。“比如在一些高風(fēng)險(xiǎn)場(chǎng)景下，要求這些AI工具提供標(biāo)識(shí)，在生成的圖片視頻中標(biāo)明合成及非真實(shí)的，或在AI工具中插入隱性標(biāo)識(shí)，能夠追溯特定的工具和使用用戶。”而治理的重點(diǎn)，要針對(duì)一些關(guān)鍵環(huán)節(jié)去介入，比如能獲取這些不良信息的電商平臺(tái)、APP應(yīng)用市場(chǎng)、包括直播間等，對(duì)其進(jìn)行嚴(yán)格的控制及作出相應(yīng)的處罰，壓實(shí)平臺(tái)責(zé)任主體。

而此次中央網(wǎng)信辦專項(xiàng)行動(dòng)聚焦的七大重點(diǎn)之一，即劍指新技術(shù)新應(yīng)用風(fēng)險(xiǎn)問題，包括利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術(shù)生成涉未成年人低俗色情圖片視頻等。“說明問題已經(jīng)凸顯出來，引起了有關(guān)部門的重視，并把它作為重點(diǎn)打擊的對(duì)象。”劉曉春說，希望有關(guān)部門能有一些更創(chuàng)新的治理舉措，并針對(duì)性地采取舉措，“相信總體還是可控的。”

關(guān)于國(guó)內(nèi)人工智能治理與維權(quán)，胡鋼表示，要深化消保組織和檢察機(jī)關(guān)消費(fèi)公益訴訟機(jī)制，探索建立消費(fèi)者集體訴訟制度，進(jìn)一步完善行政監(jiān)管、民事公益訴訟、民事私益訴訟、綜合調(diào)處銜接協(xié)調(diào)機(jī)制，構(gòu)建及時(shí)、高效、一體化、網(wǎng)絡(luò)化的消費(fèi)糾紛解決機(jī)制。