“前段時(shí)間，有人發(fā)私信說看到了我的照片，還問我‘接不接私人’。我仔細(xì)找了找，發(fā)現(xiàn)這個(gè)所謂的照片是AI合成的。”提起自己被“造黃謠”的經(jīng)歷，博主小K（化名）仍然心有余悸。

近年來，AI技術(shù)逐漸走入更多人的生活，但也被一些動(dòng)了歪心思的人看到商機(jī)。新京報(bào)貝殼財(cái)經(jīng)記者調(diào)查發(fā)現(xiàn)，目前，黑灰產(chǎn)平臺(tái)上存在不少售賣網(wǎng)紅、女星的“AI脫衣”照片群組。黑灰產(chǎn)從業(yè)者口中，5元可以“去衣”，20元實(shí)現(xiàn)“視頻換臉”。這條產(chǎn)業(yè)鏈上，還有從業(yè)者通過吸睛照片引流，再以“會(huì)員群”服務(wù)牟利。此外，B站、小紅書等平臺(tái)還有視頻作者以“AI脫衣教程”等標(biāo)題吸睛。

對(duì)此，北京市中聞律師事務(wù)所合伙人趙虎表示，售賣AI脫衣或者AI換臉的圖片會(huì)違反《治安管理處罰法》的規(guī)定，行為人將面臨拘留或者罰款的行政處罰，還有可能被追究刑事責(zé)任。若不售賣圖片而只是傳播，情節(jié)嚴(yán)重的，仍然將構(gòu)成傳播淫穢物品罪，會(huì)被依法追究相應(yīng)的刑事責(zé)任。教授技術(shù)，則涉嫌幫助犯或者教唆犯。此外，行為人實(shí)施的AI去除衣物和AI換臉的行為還涉及侵犯公民個(gè)人信息。

“使用AI進(jìn)行深度偽造與傳統(tǒng)的技術(shù)偽造并沒有本質(zhì)區(qū)別，但效率要比傳統(tǒng)偽造方式高得多，技術(shù)門檻又低得多，使得普通人也能輕松實(shí)現(xiàn)，深度偽造的‘作品’會(huì)進(jìn)一步充斥互聯(lián)網(wǎng)。”奇安信集團(tuán)行業(yè)安全研究中心主任裴智勇對(duì)新京報(bào)貝殼財(cái)經(jīng)記者表示，應(yīng)當(dāng)積極探索和推廣照片與視頻的防偽技術(shù)。

多平臺(tái)網(wǎng)紅遭遇“脫衣”引流：5元定制照片 

經(jīng)過一番簡(jiǎn)單調(diào)查，小K最終找到了自己照片流出的源頭：有人用自己的“AI脫衣”照片在國外社交平臺(tái)、色情網(wǎng)站引流，并兜售AI編輯圖片服務(wù)。

小K的遭遇并非個(gè)例。早在去年3月，一位小紅書博主在地鐵拍攝的照片被人為“AI脫衣”，并在微信群傳播。這位博主的評(píng)論區(qū)中，不少女性吐槽類似經(jīng)歷，感同身受之外難掩心中陰影。

貝殼財(cái)經(jīng)記者按線索搜索發(fā)現(xiàn)了一個(gè)從事“AI脫衣”的賣家。對(duì)方表示，提供任意照片，再花5元就可以提供“去衣”服務(wù)，照片不能實(shí)現(xiàn)效果再聯(lián)系換圖。另外，20元還可以接“視頻換臉”。

這位賣家稱，“最近‘去衣’的單子太多，顧不上做換臉”。

新京報(bào)貝殼財(cái)經(jīng)記者與“AI脫衣”賣家的聊天記錄截圖。

“AI脫衣”技術(shù)被濫用在色情方面，最早可追溯到2020年海外發(fā)布的一款軟件，由于存在爭(zhēng)議，很快被開發(fā)商下架。盡管如此，這一技術(shù)依然被某些不法分子用來斂財(cái)。

今年6月，北京警方偵破一起案件，曾在互聯(lián)網(wǎng)公司任職的某技術(shù)員宣稱 “電腦AI去衣，白菜價(jià)”“身邊人、網(wǎng)紅、明星皆可”，并以此賺起了外快，每張照片僅售1.5元。其通過網(wǎng)絡(luò)向351人販賣過相關(guān)圖片，數(shù)量將近7000張。最終，其被北京市海淀區(qū)檢察院以傳播淫穢物品牟利罪提起公訴。

貝殼財(cái)經(jīng)記者調(diào)查發(fā)現(xiàn)，當(dāng)前，“AI脫衣”已經(jīng)形成了一條產(chǎn)業(yè)鏈，包括售賣經(jīng)過AI深度偽造的圖片，有償對(duì)正常照片進(jìn)行AI“P圖”，以及教授“技術(shù)”實(shí)現(xiàn)脫衣。

此外，黑灰產(chǎn)已經(jīng)盯上女網(wǎng)紅、女明星等知名人物，“AI脫衣”便成了流量密碼。

貝殼財(cái)經(jīng)記者在一黑灰產(chǎn)平臺(tái)上名為“網(wǎng)紅XX們的去衣交流群組”看到，該群成員達(dá)到近1.5萬，其中，抖音、B站、微博、小紅書上一些知名女性網(wǎng)紅大多都有已被脫衣的圖片。

貝殼財(cái)經(jīng)記者注意到，這一群組起初僅對(duì)一些網(wǎng)紅美女圖片進(jìn)行“AI脫衣”，后來逐漸擴(kuò)大到演藝圈和體育圈。此類“交流群”的牟利方式也比較簡(jiǎn)單，黑灰產(chǎn)從業(yè)者先是在群組中拋出部分照片，以吸引成員購買“會(huì)員群”服務(wù)，會(huì)員費(fèi)約為70元。

B站和小紅書仍有“AI脫衣教程” 律師：教授技術(shù)或構(gòu)成幫助犯 

記者發(fā)現(xiàn)，AI生圖大模型技術(shù)成熟后，相應(yīng)的“一鍵脫衣”能力就被網(wǎng)友從國外某知名開源AI生圖大模型中“開發(fā)”了出來，并逐漸泛濫。雖然隨著各國監(jiān)管規(guī)則的完善，該大模型已經(jīng)修訂了“脫衣”等指令。不過，貝殼財(cái)經(jīng)記者在B站和小紅書搜索發(fā)現(xiàn)，仍然存在一些“AI脫衣教程”視頻，雖然有些實(shí)為AI“換衣”，但也意味著此類技術(shù)仍在被泛濫。

記者以“AI脫衣”等相關(guān)關(guān)鍵詞在某視頻網(wǎng)站搜索得到的結(jié)果。

對(duì)此，不少國內(nèi)網(wǎng)紅頗為無奈。去年5月，一粉絲數(shù)量超過50萬的網(wǎng)紅女博主發(fā)文吐槽，“好多人都經(jīng)歷過圖片被盜放到外網(wǎng)上，拿去引流‘賣片’，以及把照片和其他色情圖片放在一起的低級(jí)造謠手段，明眼人一看就知道是假的，我平時(shí)不在意這些，只是當(dāng)私信突然變多發(fā)現(xiàn)‘節(jié)奏’起來時(shí)，才不得不辟謠?！?/p>

趙虎告訴貝殼財(cái)經(jīng)記者，售賣AI脫衣或換臉的圖片違反《治安管理處罰法》的規(guī)定，收費(fèi)幫忙“定制”AI脫衣圖片，可能構(gòu)成制作、販賣淫穢物品牟利罪。若不售賣圖片而只是傳播，情節(jié)嚴(yán)重的，仍然構(gòu)成傳播淫穢物品罪。而教授技術(shù)，可能構(gòu)成幫助犯或者教唆犯。

“收費(fèi)幫忙‘定制’AI脫衣圖片可能構(gòu)成制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪?！壁w虎稱，AI去除衣物和AI換臉的行為還涉及侵犯公民個(gè)人信息。這些信息一旦泄露或被濫用，將對(duì)個(gè)人隱私和安全造成嚴(yán)重威脅。

“必須明確的是，使用AI工具進(jìn)行偽造，效率要比傳統(tǒng)偽造方式高得多，技術(shù)門檻卻又低得多。俗話說得好，造謠一張嘴，辟謠跑斷腿?！迸嶂怯赂嬖V貝殼財(cái)經(jīng)記者，當(dāng)前，通過專業(yè)技術(shù)手段或?qū)＜诣b定可以識(shí)別AI深偽視頻和圖片，但成本也很高，“隨著技術(shù)不斷進(jìn)步，AI生成或合成的視頻最終無法被鑒定真?zhèn)问潜厝坏??！?/p>

在他看來，雖然想要阻止人們使用AI生成偽造視頻或圖片不現(xiàn)實(shí)，但這并不意味著對(duì)偽造視頻或圖片毫無辦法。“國內(nèi)對(duì)于網(wǎng)絡(luò)色情視頻和圖片都有非常成熟的治理方法，即便不能用技術(shù)鑒別一張圖片的真?zhèn)危梢詮钠脚_(tái)一側(cè)阻止色情內(nèi)容的傳播，定位色情內(nèi)容的傳播源頭并實(shí)施打擊?！?/p>

裴智勇稱，互聯(lián)網(wǎng)平臺(tái)不能片面追求流量，而是應(yīng)當(dāng)在相應(yīng)法律的指導(dǎo)下，積極參與網(wǎng)絡(luò)治理，有效限制相關(guān)信息的傳播范圍，對(duì)于未經(jīng)證實(shí)的重大信息，應(yīng)當(dāng)打上“未經(jīng)證實(shí)”的標(biāo)簽，以適度減少普通群眾被誤導(dǎo)的風(fēng)險(xiǎn)。

裴智勇認(rèn)為，應(yīng)當(dāng)積極探索和推廣照片與視頻的防偽技術(shù)，“比如使用某品牌、某型號(hào)、某序列號(hào)的特定手機(jī)拍攝照片，照片文件上就會(huì)帶有一串肉眼看不見、但機(jī)器可識(shí)別的加密驗(yàn)證碼。有人對(duì)這張照片進(jìn)行修改，不論是AI修改，還是人工手動(dòng)修改，驗(yàn)證系統(tǒng)都能識(shí)別出其不是原圖，此方法并非什么新技術(shù)，而是成熟密碼技術(shù)。需要的只是推廣和深度普及。”

北京芯盾時(shí)代科技有限公司創(chuàng)始人、CTO孫悅在接受貝殼財(cái)經(jīng)記者采訪時(shí)表示，深度偽造技術(shù)泛濫，聲音、人臉等生物特征失去了原有的高可信認(rèn)證屬性。如果想要通過技術(shù)預(yù)防其產(chǎn)生的危害，建議各大系統(tǒng)平臺(tái)加強(qiáng)應(yīng)用系統(tǒng)的身份認(rèn)證，需進(jìn)行強(qiáng)有力的認(rèn)證措施抵御身份偽造風(fēng)險(xiǎn)，可通過多因素身份認(rèn)證、終端風(fēng)險(xiǎn)感知、大數(shù)據(jù)分析等產(chǎn)品技術(shù)，結(jié)合用戶行為建模、知識(shí)圖譜因果推斷等手段，有效抵御深度偽造帶來的身份風(fēng)險(xiǎn)。

“未來，對(duì)于AI的健康發(fā)展來說，為應(yīng)對(duì)深度偽造技術(shù)帶來的風(fēng)險(xiǎn)，首先，政府和行業(yè)監(jiān)管單位等應(yīng)積極完善相關(guān)法律法規(guī)。其次，加大研發(fā)深度偽造檢測(cè)、數(shù)字水印等技術(shù)的研發(fā)投入；再者，有關(guān)部門以及新聞媒體等也應(yīng)加大反詐宣傳力度，提高人民群眾的安全意識(shí)，多方努力，共同保護(hù)人民群眾人身和財(cái)產(chǎn)的安全。”孫悅告訴貝殼財(cái)經(jīng)記者。

記者聯(lián)系郵箱：luoyidan@xjbnews.com

新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹 編輯 王進(jìn)雨 校對(duì) 楊利