AI在帶來便利性的同時，其深度偽造也為當事人帶來了困擾。近期，雷軍、靳東紛紛對此建言。
據(jù)人民日報消息，3月5日，在政協(xié)小組討論上，全國政協(xié)委員靳東回應了AI換臉導致的詐騙問題。他說：“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質(zhì)非常惡劣。希望能建立更好的規(guī)則?！?/p>
不僅僅是演員，一些企業(yè)家也經(jīng)常被深度偽造。從去年國慶節(jié)開始，短視頻平臺涌現(xiàn)大量“雷軍”發(fā)言視頻。AI生成的“雷軍”雷言雷語、荒誕不經(jīng)，相關(guān)話題給雷軍和小米造成了很大困擾和傷害。
對此，雷軍在今年兩會期間建議，加快單行法立法進程，在安全與發(fā)展并重的基礎(chǔ)上提升立法位階。強化行業(yè)自律共治，壓實平臺企業(yè)等各方的責任和義務。加大普法宣傳的廣度力度，增強民眾的警惕性和鑒別力。
對于深度偽造事件頻發(fā)，某短視頻平臺相關(guān)負責人表示，我們平臺提倡創(chuàng)作者在發(fā)布相關(guān)內(nèi)容時使用“作者聲明”功能，對AI生成內(nèi)容進行標注，不得發(fā)布含有侵犯他人合法權(quán)益及其他法律法規(guī)、平臺規(guī)則禁止的內(nèi)容，用戶如發(fā)現(xiàn)相關(guān)違法違規(guī)內(nèi)容可通過舉報入口的相應舉報類型進行舉報。
另一短視頻平臺相關(guān)負責人表示，本平臺會借助AIGC識別模型等相應技術(shù)，主動檢測內(nèi)容是否為AI生成，并結(jié)合人工識別進行判斷，對判定為疑似AI生成的內(nèi)容，平臺會主動予以標注“疑似使用了AI生成技術(shù)，請謹慎甄別”。本平臺禁止利用生成式人工智能技術(shù)創(chuàng)作發(fā)布違背科學常識、弄虛作假、造謠傳謠的內(nèi)容。一經(jīng)發(fā)現(xiàn)，平臺將嚴格處罰。
代表、委員談“AI換臉擬聲”治理，受害者雷軍提了這些建議
全國人大代表、小米集團創(chuàng)始人、董事長兼CEO雷軍：“AI換臉擬聲”不當濫用成為違法侵權(quán)行為的重災區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個人信息以及詐騙等犯罪行為，不利于構(gòu)建“以人為本、智能向善”的人工智能發(fā)展生態(tài)。
建議加快單行法立法進程，在安全與發(fā)展并重的基礎(chǔ)上提升立法位階。強化行業(yè)自律共治，壓實平臺企業(yè)等各方的責任和義務。加大普法宣傳的廣度力度，增強民眾的警惕性和鑒別力。
全國人大代表、TCL創(chuàng)始人、董事長李東生：隨著生成式人工智能技術(shù)的發(fā)展，深度偽造技術(shù)也快速發(fā)展。對于防止AI深度偽造欺詐，建議：一是加快人工智能深度合成內(nèi)容標識管理規(guī)章制度的出臺。二是明確對人工智能深度合成服務商未履行標識義務的懲罰制度，完善未按要求進行標識的行為界定、分類細則，以及相應的處罰標準。三是加強深度合成內(nèi)容標識技術(shù)標準和發(fā)布的管理，保證標識的有效性，對相關(guān)內(nèi)容平臺出臺要求，用戶在發(fā)布深度合成的視頻、音頻等內(nèi)容時，有義務對其進行標識。四是加強國際合作，形成對人工智能深度合成內(nèi)容的有效監(jiān)管。
如何用人類智慧駕馭人工智能？專家：要建章立制、技術(shù)反制應對AI風險
瑞萊智慧聯(lián)合創(chuàng)始人蕭子豪：近些年來，假靳東、假雷軍等AI換臉、擬聲事件層出不窮，AI偽造內(nèi)容越來越逼真且多元。這是AI技術(shù)發(fā)展帶來的“副作用”。所有技術(shù)都存在兩面性，都有“雙刃劍”效應。如何用人類智慧駕馭人工智能，趨利避害地使用技術(shù)，是AI時代的重要課題。
數(shù)據(jù)治理與成果轉(zhuǎn)化法律專家楊逢柱：通過AI合成名人音頻和視頻進行虛假宣傳和詐騙的事件頻頻發(fā)生，原因主要有以下幾方面：第一，AI訓練模型的數(shù)據(jù)“被污染”，即數(shù)據(jù)摻雜虛假信息，經(jīng)過循環(huán)傳播后又被AI吸收，將其默認為真實信息；第二，技術(shù)局限性，在海量數(shù)據(jù)形成統(tǒng)計模型時容易丟失細節(jié)信息，或通過微調(diào)AI參數(shù)生成錯誤結(jié)果，如篡改圖像欺騙人臉識別系統(tǒng)，或通過對抗訓練生成逼真內(nèi)容，如偽造名人代言視頻； 第三，AI造假成本低而追責難度高，自媒體和商業(yè)競爭者為吸引流量，利用AI生成虛假信息加劇了信息污染，加上公眾盲目信任AI生成的內(nèi)容，進一步加劇了虛假信息的擴散。
瑞萊智慧聯(lián)合創(chuàng)始人蕭子豪：監(jiān)管層面，應基于已發(fā)布的法律法規(guī)要求，制定生成合成類內(nèi)容標識相關(guān)標準，為管理要求落地提供細化規(guī)則和實踐指導。同時，強化平臺主體責任。督促服務提供者落實主體責任，確保生成合成類內(nèi)容質(zhì)量，做好內(nèi)容標識管理。此外，還要加強宣傳教育。提高公眾對生成合成類內(nèi)容的認知和辨識能力，鼓勵公眾對生成合成類內(nèi)容違規(guī)、標識違規(guī)等行為進行投訴舉報，形成全社會齊抓共管的良好氛圍。
技術(shù)層面，也應聚焦技術(shù)反制能力建設(shè)，加強構(gòu)建偽造內(nèi)容檢測技術(shù)系統(tǒng)，這是掌握主動的關(guān)鍵。
數(shù)據(jù)治理與成果轉(zhuǎn)化法律專家楊逢柱：對AI深度偽造治理，從監(jiān)管方面，國家需盡快制定和完善對AI造假和虛假信息傳播的法律法規(guī)，加大對科技企業(yè)和媒體平臺的監(jiān)管力度，明確造假者、平臺方和傳播者各方責任邊界和處罰措施；從技術(shù)層面，開發(fā)先進的圖像、音頻和視頻等分析工具，用于檢測和識別造假信息，并對AI生成的信息采取加貼標識或嵌入水印等措施，提高內(nèi)容的可信度和識別度；從行業(yè)/平臺方面，強化數(shù)據(jù)管理和產(chǎn)品安全測試，內(nèi)容發(fā)布平臺要加強審核機制，驗證信息的真實性，對虛假信息及時采取限制措施，避免循環(huán)傳播。
數(shù)美科技AI研究院院長齊路：AI深度偽造包含AI修圖、AI換臉、AI生成，要規(guī)范這塊，一方面在備案、提供服務等階段要落實《生成式人工智能服務安全基本要求》等標準，通過機審結(jié)合人審及時發(fā)現(xiàn)風險并快速處理，減少傳播。另一方面要加強黑產(chǎn)行為識別，大力度打擊黑產(chǎn)工具傳播，從源頭上減少AI深度偽造的出現(xiàn)。
網(wǎng)絡(luò)安全研究專家彭根：對于深度偽造，政府層面已經(jīng)有相應的要求和標準正在制定，例如要求在AI生成的內(nèi)容上，不管是視頻、音頻，還是文字，都要添加相應的標識或者水印。其中視頻和音頻方面可能會出得更快一點，這樣就能夠解決一些偽造的問題。
平臺企業(yè)談如何用AI技術(shù)治理AI深度偽造
騰訊云天御風控技術(shù)專家：假明星現(xiàn)象是AI深度偽造技術(shù)濫用的典型案例。這對普通用戶（尤其是對新技術(shù)判斷能力較為有限的老年群體）來說，難以防范，因此必須依靠技術(shù)、平臺以及法律法規(guī)共同發(fā)力，來遏制AI技術(shù)濫用于深度偽造。例如，加快頂層立法，建立AI風險的分級分類管理制度；要求AI生成內(nèi)容必須添加可明確識別的水印或標識；細化平臺、用戶、內(nèi)容提供方的責任和義務；政府和企業(yè)界為新的對抗技術(shù)提供應用土壤；推動AI生成內(nèi)容技術(shù)標準，助力監(jiān)管。
某平臺相關(guān)負責人：AI生成內(nèi)容的識別和治理是全行業(yè)面臨的挑戰(zhàn)。
目前，AI生成內(nèi)容越來越逼真，而不同AI工具生成的內(nèi)容跨平臺傳播，也為識別帶來了難度。
2023年和2024年，平臺先后發(fā)布相關(guān)倡議和公告，明確平臺不鼓勵利用AI生成虛擬人物進行低質(zhì)創(chuàng)作。
目前，我們平臺會對疑似AI生成內(nèi)容對外顯示“AI標識”。
此外，我們正不斷提升識別能力。平臺會借助AIGC識別模型等相應技術(shù)，主動檢測內(nèi)容是否為AI生成，并結(jié)合人工識別進行判斷，對判定為疑似AI生成的內(nèi)容，平臺會主動予以標注“疑似使用了AI生成技術(shù)，請謹慎甄別”。
平臺也會及時受理用戶關(guān)于AI生成內(nèi)容問題的舉報，禁止利用生成式人工智能技術(shù)創(chuàng)作發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等。
同時，平臺禁止利用生成式人工智能技術(shù)創(chuàng)作發(fā)布違背科學常識、弄虛作假、造謠傳謠的內(nèi)容。一經(jīng)發(fā)現(xiàn)，平臺將嚴格處罰。
B站：對AI深度偽造，B站在此重申此前關(guān)于“AI換臉”平臺治理規(guī)則。
2019年9月5日B站曾發(fā)布公告稱，“AI換臉”技術(shù)仍具有一定風險與爭議性，為維護社區(qū)良好創(chuàng)作生態(tài)，即日起，對于此類內(nèi)容將不予推薦，同時禁止排行榜和熱門位置的展示。
2021年，B站又發(fā)布說明稱，始終保持對“AI換臉”相關(guān)內(nèi)容的關(guān)注和管控，社區(qū)將遵守相關(guān)法律法規(guī)要求，對該類稿件標識進行升級。升級后，該類內(nèi)容上方會出現(xiàn) “該視頻疑似使用智能合成技術(shù)，請謹慎識別”的顯著標識，以便用戶甄別，防止產(chǎn)生誤解，侵害他人權(quán)益。
新京報貝殼財經(jīng)記者 羅亦丹 陳維城 韋英姿
編輯 岳彩周
校對 楊許麗 付春愔
