近日,，因“AI換臉”導(dǎo)致的詐騙案件引發(fā)關(guān)注,。伴隨著AI大模型的發(fā)展，“換臉技術(shù)”的應(yīng)用范圍越來越廣,，技術(shù)的突破還使得換臉后的人物表情,、動作細(xì)節(jié)更為逼真，一旦被不法分子利用,，可能帶來嚴(yán)重危害,。

總臺記者經(jīng)調(diào)查發(fā)現(xiàn)，網(wǎng)上“AI換臉”軟件的獲取非常容易,。利用此類軟件的法律邊界在哪里?如何做好事前監(jiān)管,？

網(wǎng)上出現(xiàn)“AI換臉”付費軟件

套餐價格從499元至2888元不等

在網(wǎng)上，演示換臉軟件使用方法及效果的教程比比皆是,，其中不少“AI換臉”軟件需要高價付費使用,。

記者根據(jù)搜索結(jié)果聯(lián)系到一名開發(fā)者，他向記者提供一段使用其軟件實現(xiàn)換臉的示范視頻——雙視窗頁面左側(cè)是換臉之前的原始視頻,，右側(cè)則是換臉之后的視頻,，肉眼來看，換臉之后的“數(shù)字人”口型,、表情,、微小的動作幾乎毫無破綻。

△賣家展示的素人換臉效果(S為原視頻,，D為更換之后)

在其銷售的網(wǎng)站上,，該軟件開發(fā)者還展示了如何將兩位知名女星的眼睛和嘴巴“拼接”到一起,，生成全新“數(shù)字人”的視頻,。

△賣家展示的局部五官更換

這一付費軟件提供從初級(LV1)到超級(LV4)再到全套(LV5)的不同版本。以初級套餐來說,，499元提供軟件界面,、視頻指導(dǎo)、換臉模型等,，如果花2888元,，則可得到全套(LV5)等級的視頻換臉模型。

△網(wǎng)絡(luò)上提供多種不同等級的換臉軟件產(chǎn)品

“想換什么臉都可以”

AI大模型可集成多種功能打造“數(shù)字人”

記者發(fā)現(xiàn),，該網(wǎng)站底部沒有任何文字顯示其已經(jīng)過備案,。賣家也十分謹(jǐn)慎,，全程僅用文字交流。他表示,，與初級(LV1)至超級(LV4)套餐相比,，全套(LV5)版本迭代更多，能力更強,，也可以理解為換臉效果更為逼真,，同時，不僅可以實現(xiàn)視頻換臉,，還支持直播換臉,。記者進一步詢問能否根據(jù)自己的需求換臉時，軟件開發(fā)者表示：“想換什么樣的臉拿素材訓(xùn)練就可以,。”

△軟件開發(fā)者與記者的聊天截圖

一位從事AI開發(fā)的技術(shù)人員表示,，這意味著可能會有更多難以控制的風(fēng)險。“集成文生圖,、文生文,，文生音頻、文生視頻,、換臉,，這樣的功能結(jié)合起來，就可以打造出一個完全嶄新的‘數(shù)字人’或者叫‘AI人’,，監(jiān)管成本和難度高了好幾個數(shù)量級,。”

△賣家展示的用戶反饋

專家：有效的標(biāo)識監(jiān)管體系

能提前厘清“AI換臉”帶來的模糊邊界

北京嘉維律師事務(wù)所律師、IT法律專家趙占領(lǐng)表示,，從事后打擊的角度講,，刑法中有關(guān)于詐騙罪的規(guī)定;民法典明確，公民享有肖像權(quán),、姓名權(quán),、名譽權(quán)等相應(yīng)的民事權(quán)利。也就是說,，如發(fā)生使用他人肖像進行詐騙的相關(guān)案例,，不法分子能夠在事后被法律約束與制裁。但在人工智能技術(shù)飛速發(fā)展的當(dāng)下,，還應(yīng)探討如何能夠做到有效的事前防范,。

例如，在《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中要求,，深度合成服務(wù)可能導(dǎo)致公眾混淆或者誤認(rèn)的,，深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標(biāo)識。

《生成式人工智能服務(wù)管理辦法(征求意見稿)》要求,，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前,，應(yīng)當(dāng)按照有關(guān)規(guī)定向國家網(wǎng)信部門申報安全評估;要尊重他人合法利益;產(chǎn)品提供者應(yīng)當(dāng)對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)等,。

浙江大學(xué)國際聯(lián)合商學(xué)院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任盤和林認(rèn)為,，從目前來說，如果能夠有效落實標(biāo)識的要求,，形成有效的監(jiān)管體系,，可以在很大程度上提前厘清“AI換臉”所帶來的模糊邊界。

盤和林：當(dāng)前“AI換臉”的標(biāo)識監(jiān)管體系還沒有形成,，要針對不標(biāo)注的內(nèi)容,，通過技術(shù)的手段來辨別，并且對不標(biāo)注的個人或者是單位組織要有具體的處罰措施,、標(biāo)準(zhǔn)以及制度,。

北京嘉維律師事務(wù)所律師、IT法律專家趙占領(lǐng)認(rèn)為,，從長遠來看,，監(jiān)管與處罰措施還需要隨著技術(shù)發(fā)展不斷“迭代”，才能形成立體有效的治理方案,。

（原標(biāo)題：“AI換臉”軟件公開網(wǎng)售,，幾百至上千元不等！法律邊界在哪,？）

【責(zé)任編輯：劉妍妍】

【內(nèi)容審核：黎曉帆】