去年,，抖音發(fā)布《關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》,，明確平臺不鼓勵利用AI生成虛擬人物進行低質(zhì)創(chuàng)作,，將嚴格處罰違規(guī)使用AI生成虛擬人物發(fā)布違背科學常識,、弄虛作假、造謠傳謠的內(nèi)容,。

近期平臺發(fā)現(xiàn),，站內(nèi)仍有不當使用AI技術(shù)生成虛擬人物發(fā)布內(nèi)容的賬號，平臺進行了嚴厲處置,。

其中典型行為包括：

1,、生成境外虛假人設，消費愛國心理,、博取關(guān)注,。用虛假外國人的形象，以想嫁給中國,、想到中國生活,、評價社會事件等言論博取眼球。

2,、生成俊男美女虛假形象,，騙取互動，交友導流,。直接稱用戶為“你”“娘”“媽媽”“老公”等，發(fā)布情感誘導,、唱情歌,、為你謀福利等表達虛假情感的內(nèi)容，將用戶導流至私人聊天工具，甚至進行詐騙,。

3,、生成精英人士虛假人設，發(fā)布心靈雞湯,、財商,、偽國學、厚黑學,、偽成功學等不良內(nèi)容,，低質(zhì)吸粉，甚至引流到站外以賣課,、入群等方式獲利,。

針對違規(guī)使用AI生成虛擬人物的行為，平臺會對違規(guī)視頻下架,，對違規(guī)賬號進行取消其投稿和營利權(quán)限,、抹除賬號粉絲、封禁賬號等處置,，并利用模型,、技術(shù)識別能力等手段，進行長期系統(tǒng)的識別發(fā)現(xiàn)和處置,。同時,，平臺已掌握部分黑產(chǎn)團伙不當使用AI生成虛擬人物用于犯罪的線索，將報警打擊,。

人工智能技術(shù)的快速發(fā)展,，豐富了互聯(lián)網(wǎng)內(nèi)容生態(tài)，但也帶來技術(shù)濫用的挑戰(zhàn),。平臺重申,，創(chuàng)作者、主播,、用戶,、商家、廣告主等平臺生態(tài)參與者,，在抖音應用生成式人工智能技術(shù)時,，須遵循以下規(guī)范：

1、發(fā)布者應對人工智能生成內(nèi)容進行顯著標識,，幫助其他用戶區(qū)分虛擬與現(xiàn)實,，特別是易混淆場景。

2,、發(fā)布者需對人工智能生成內(nèi)容產(chǎn)生的相應后果負責,，無論內(nèi)容是如何生成的,。

3、虛擬人需在平臺進行注冊,，虛擬人技術(shù)使用者需實名認證,。

4、禁止利用生成式人工智能技術(shù)創(chuàng)作,、發(fā)布侵權(quán)內(nèi)容,，包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等,。一經(jīng)發(fā)現(xiàn),，平臺將嚴格處罰。

5,、禁止利用生成式人工智能技術(shù)創(chuàng)作,、發(fā)布違背科學常識、弄虛作假,、造謠傳謠的內(nèi)容,。一經(jīng)發(fā)現(xiàn)，平臺將嚴格處罰,。

治理違規(guī)內(nèi)容是抖音的長期工作,，平臺號召廣大用戶共同監(jiān)督，如發(fā)現(xiàn)不當使用人工智能生成內(nèi)容的情況,，可以在站內(nèi)舉報或發(fā)送詳情至舉報郵箱：[email protected],，平臺將在第一時間核實處理。

抖音安全中心

2024年3月27日

（原標題：抖音最新公告：治理AI生成虛擬人物）

【責任編輯：馮   超】

【內(nèi)容審核：莊華敏】