聲明：本文來自于微信公眾號 直播觀察（ID：zhibogc），作者：直播行業(yè)權(quán)威媒體，授權(quán)站長之家轉(zhuǎn)載發(fā)布。

最近，隨著ChatGPT的大熱，另一個詞也頻繁出現(xiàn)在大眾視野——AIGC。AIGC是一種使用人工智能技術(shù)生成內(nèi)容的方法，它被視為繼UGC和PGC之后的新興內(nèi)容生產(chǎn)方式。

然而任何技術(shù)的出現(xiàn)都是一把雙刃劍，在人工智能技術(shù)使內(nèi)容生產(chǎn)更加方便時，AIGC生成內(nèi)容以假亂真、數(shù)據(jù)泄露以及侵權(quán)的風險被進一步放大。數(shù)字應(yīng)用場景的多元化，也給監(jiān)管體系帶來更為復(fù)雜的法律挑戰(zhàn)。

(資料圖片)

繼4月初，國家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》，對生成式人工智能做出諸多要求后，作為內(nèi)容平臺方的抖音在5月9日，也對虛擬人直播、AI 輔助生成內(nèi)容、流量是否支持 AI 內(nèi)容等做出了約束。

1

抖音為虛擬人直播立規(guī)矩

據(jù)了解，抖音這次的發(fā)出的規(guī)范和倡議面向創(chuàng)作者、主播、用戶、商家、廣告主等平臺生態(tài)參與者，在抖音應(yīng)用生成式人工智能技術(shù)時，應(yīng)對人工智能生成內(nèi)容進行顯著標識并負責。

首先抖音對人工智能生成內(nèi)容作了解釋，是指利用生成式人工智能技術(shù)，自動生成的視頻、圖像、文本等內(nèi)容。本規(guī)范重點針對人工智能生成的視頻、圖片，和衍生的虛擬人直播。

抖音要求，在抖音應(yīng)用生成式人工智能技術(shù)時，發(fā)布者應(yīng)對人工智能生成內(nèi)容進行顯著標識，幫助其他用戶區(qū)分虛擬與現(xiàn)實，特別是易混淆場景。同時，發(fā)布者需對人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負責，無論內(nèi)容是如何生成的。

針對被視為行業(yè)未來的虛擬人、虛擬主播，抖音要求虛擬人需在平臺進行注冊，虛擬人技術(shù)使用者需實名認證，使用已注冊的虛擬人形象進行直播時，必須由真人驅(qū)動進行實時互動，不允許完全由人工智能驅(qū)動進行互動。

為配合倡議，當天，抖音還發(fā)布了人工智能生成內(nèi)容標識的水印與元數(shù)據(jù)規(guī)范。據(jù)悉，標識元數(shù)據(jù)規(guī)范即通過規(guī)范人工智能生成內(nèi)容的元數(shù)據(jù)格式，在相關(guān)圖片和視頻元數(shù)據(jù)中寫入信息，達到行業(yè)通用識別的效果。

此外，抖音禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等。同時，禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布違背科學常識、弄虛作假、造謠傳謠的內(nèi)容。

“各生成式人工智能技術(shù)的提供者，均應(yīng)對生成內(nèi)容進行顯著標識，以便公眾判斷。同時使用統(tǒng)一的人工智能生成內(nèi)容數(shù)據(jù)標準或元數(shù)據(jù)標準，便于其他內(nèi)容平臺進行識別?！背h提到。

2

虛擬人直播亂象早已出現(xiàn)

事實上，早在ChatCPT和AIGC成為熱點前，直播、短視頻的從業(yè)者們已經(jīng)在探索AI的路上一騎絕塵，特別是虛擬數(shù)字人的應(yīng)用場景目前已經(jīng)從游戲、影視、娛樂業(yè)，逐漸向傳媒、直播、電商、醫(yī)療等多個領(lǐng)域擴展，而虛擬主播便是虛擬數(shù)字人向直播、泛娛樂和電商領(lǐng)域滲透的產(chǎn)物。

在泛娛樂領(lǐng)域的虛擬主播最早出現(xiàn)在2016年，“絆愛”在YouTube上發(fā)布了第一支視頻內(nèi)容，短短一年時間，粉絲數(shù)量突破100萬，引領(lǐng)了虛擬主播的熱潮。隨后，因為二次元文化的流行，虛擬主播在國內(nèi)的視頻和社交網(wǎng)站上發(fā)布日常VLOG、游戲直播、音樂舞蹈等視頻內(nèi)容，開始受到獲得流量和關(guān)注。

而在直播電商領(lǐng)域，虛擬主播被用來填補真人主播沒有辦法出鏡的空白時間。因為技術(shù)的快速進步讓虛擬數(shù)字人的成本大幅降低。商家只要向供應(yīng)商花數(shù)萬元購買虛擬主播定制軟件及后期的運維服務(wù)，便可以讓直播間實現(xiàn)24小時不斷播。于是，虛擬主播的商業(yè)價值受到了多家平臺、商家、MCN的關(guān)注。

然而，虛擬主播和真人直播一樣，在飛速發(fā)展時出現(xiàn)了一些亂象。

泛娛樂直播方面，為了獲得更多的流量和收益，一些虛擬主播在直播中出現(xiàn)了打擦邊球、惡意營銷、散布虛假信息、誘導未成年人打賞等行為。2022年5月，某虛擬主播在其直播的視頻平臺上宣稱自己被拐賣，后被警方查明拐賣經(jīng)歷為虛構(gòu)，其目的是博取流量。

電商方面，一些商家在運用虛擬主播時也出現(xiàn)了虛假夸大宣傳、誘導非理性消費甚至推銷假冒偽劣商品的行為。另外，還有一些虛擬數(shù)字人的運營公司急于搶占直播帶貨的商業(yè)賽道，但對選品質(zhì)量的把關(guān)卻遠不如真人主播團隊嚴格。

此外，針對虛擬主播的肖像權(quán)侵權(quán)、版權(quán)侵權(quán)、以及不正當競爭等也層出不窮。

3

AI生成內(nèi)容監(jiān)管正當時

在生成式人工智能被定義為行業(yè)未來時，監(jiān)管也必不可少。

2022年6月，國家廣播電視總局、文化和旅游部聯(lián)合印發(fā)《網(wǎng)絡(luò)主播行為規(guī)范》，為網(wǎng)絡(luò)主播劃定行為紅線，并明確利用人工智能技術(shù)合成的虛擬主播及內(nèi)容也須參照該行為規(guī)范。隨后，諸多平臺在2022年下半年針對虛擬主播加強了監(jiān)管，并封禁、懲罰了一批有違規(guī)行為的虛擬主播賬號。

今年開年以來，國家互聯(lián)網(wǎng)信息辦公室相繼發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理辦法（征求意見稿）》。要求深度合成服務(wù)提供者提供服務(wù)中，可能導致公眾混淆或者誤認的，應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，且該標識應(yīng)不影響用戶使用。更進一步對利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人的責任進行了規(guī)定。

平臺方面，聚集了大量虛擬主播賬號的B站曾發(fā)布《虛擬主播專項治理公告》，對于虛擬主播低俗色情類和其他違反公序良俗類的惡意行為及言論進行專項治理。在B站自己的統(tǒng)計中，此次行動被封禁的賬號有137個。

抖音這次推出規(guī)范，可以說是表明了自己在AI等人工智能被應(yīng)用于內(nèi)容生產(chǎn)上的態(tài)度，能有效的促進行業(yè)規(guī)范化、健康化發(fā)展，更能提高平臺創(chuàng)作者的整體素質(zhì)和競爭力。

（舉報）