以ChatGPT為引領(lǐng)，AI大模型成為了全球科技公司的“練兵場”。技術(shù)迭代的速度超乎想象，但還來不及驚嘆，由此衍生的各類亂象已先行一步。

(資料圖)

近期，先是多地警方提醒新型“AI詐騙”案件受到關(guān)注，隨后，AI換“明星臉”直播帶貨引發(fā)侵權(quán)爭議，而AI生成的虛假小作文致科大訊飛股價(jià)“閃崩”，也顛覆了對(duì)AI虛假信息商業(yè)影響力的預(yù)判。

可以預(yù)見，AI技術(shù)的發(fā)展和應(yīng)用會(huì)持續(xù)帶來爭議與治理難題。深度偽造、虛假信息、不良信息、抄襲侵權(quán)、傳播倫理等問題集中涌現(xiàn)，對(duì)包括內(nèi)容治理在內(nèi)的網(wǎng)絡(luò)空間秩序治理構(gòu)成挑戰(zhàn)，對(duì)于治理工具、方式和手段也提出了更新更高的要求。

回看網(wǎng)絡(luò)內(nèi)容生態(tài)治理領(lǐng)域，對(duì)AI的監(jiān)管和治理走到了哪一步？平臺(tái)又有哪些經(jīng)驗(yàn)值得借鑒？

發(fā)布深度合成管理規(guī)定

首次明確主體義務(wù)

對(duì)AI生成內(nèi)容的風(fēng)險(xiǎn)論斷并非一朝一夕。2017年，Deepfake（深度偽造）技術(shù)面世，各色AI換臉色情視頻及生成虛假信息開始涌現(xiàn)。2019年，一款名為“ZAO”的App曾因用戶協(xié)議涉嫌過度收集用戶信息及隱私安全引發(fā)巨大爭議。

關(guān)于深度偽造技術(shù)帶來的風(fēng)險(xiǎn)，今年一月起生效的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》首次從法規(guī)層面作出了回應(yīng)，明確了服務(wù)提供者、使用者、技術(shù)支持者等相關(guān)主體的義務(wù)。

細(xì)研規(guī)定發(fā)現(xiàn)，對(duì)深度合成的監(jiān)管大致明確了幾個(gè)方向，杜絕違法信息和虛假信息傳播、數(shù)據(jù)安全與個(gè)人信息保護(hù)、以及避免用戶的混淆或誤認(rèn)。

譬如，要求深度合成服務(wù)提供者和技術(shù)支持者對(duì)使用者有必要的提示義務(wù)，即告知同意被編輯的個(gè)人；要求采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)，尤其是在文本生成、語音生成、人臉生成，沉浸式擬真等場景中。

中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春認(rèn)為，這一規(guī)定有兩個(gè)治理舉措十分值得關(guān)注，一是將內(nèi)容治理義務(wù)拓展到為生產(chǎn)者和傳播者提供技術(shù)支持的主體，要求真正對(duì)技術(shù)擁有掌控能力的相關(guān)主體切實(shí)承擔(dān)起治理義務(wù)，從源頭采取措施；二是在現(xiàn)有內(nèi)容治理手段基礎(chǔ)上，明確規(guī)定了通過添加技術(shù)“標(biāo)識(shí)”的方式，幫助用戶有效識(shí)別人工智能生成內(nèi)容，并根據(jù)風(fēng)險(xiǎn)程度分級(jí)分類在內(nèi)容治理中加以落實(shí)。

生成式人工智能服務(wù)管理辦法征求意見

明確內(nèi)容規(guī)制范圍

伴隨ChatGPT等應(yīng)用的火熱，今年4月，國家網(wǎng)信辦又發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（下稱《意見稿》），在監(jiān)管同時(shí)，為鼓勵(lì)A(yù)IGC健康發(fā)展傳遞了積極信號(hào)。

《意見稿》共21條，明確生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)，并對(duì)利用生成式人工智能產(chǎn)品或服務(wù)做出具體規(guī)制。

如在內(nèi)容規(guī)制層面，特別提到虛假信息、歧視、不公平競爭、侵犯他人權(quán)益等行為。此外，該《意見稿》還對(duì)服務(wù)提供者在防范引導(dǎo)層面提出更高要求，包括具體標(biāo)注規(guī)則、對(duì)用戶過度沉迷的防范、以優(yōu)化訓(xùn)練數(shù)據(jù)影響用戶選擇、指導(dǎo)用戶科學(xué)認(rèn)識(shí)和理性使用等。

中國人民大學(xué)交叉科學(xué)研究院、高瓴人工智能學(xué)院李銘軒博士長期關(guān)注生成式人工智能算法規(guī)制，其認(rèn)為，《意見稿》不但重視人工智能風(fēng)險(xiǎn)的防范治理，而且也強(qiáng)調(diào)人工智能技術(shù)的創(chuàng)新發(fā)展。例如在第三條特別提到“國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源”。

實(shí)踐與難點(diǎn)：

內(nèi)容標(biāo)識(shí)已有技術(shù)標(biāo)準(zhǔn)

模型訓(xùn)練規(guī)避造假難度大

不過，研究者認(rèn)為，現(xiàn)有技術(shù)條件下，上述法規(guī)中的相關(guān)要求能否落地，實(shí)踐路徑如何，仍值得探討。例如，相關(guān)要求都涉及到內(nèi)容標(biāo)識(shí)的問題，不過，是否所有的AIGC內(nèi)容都能夠進(jìn)行標(biāo)識(shí)？如何對(duì)AIGC內(nèi)容進(jìn)行標(biāo)識(shí)？這需要更加細(xì)化和完善的規(guī)定，也需要平臺(tái)去探索最佳的實(shí)踐路徑。

今年5月，抖音發(fā)布了《AI生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》，為行業(yè)提供人工智能內(nèi)容標(biāo)識(shí)等技術(shù)能力和標(biāo)準(zhǔn)，為監(jiān)管措施落地提供了行業(yè)實(shí)踐的樣本。

在劉曉春看來，從這一行業(yè)實(shí)踐可以看出，對(duì)于人工智能生成內(nèi)容的監(jiān)管和治理，通過添加水印標(biāo)簽幫助用戶直觀分辨內(nèi)容屬性和來源，相對(duì)于其他治理手段，是成本較低而效果明顯的技術(shù)方式，而且只要設(shè)計(jì)得當(dāng)，標(biāo)識(shí)添加可以兼顧用戶體驗(yàn)和內(nèi)容美觀，并不會(huì)影響創(chuàng)意和內(nèi)容呈現(xiàn)。

就其他治理手段而言，例如，可以要求算法和人工智能服務(wù)提供者通過優(yōu)化數(shù)據(jù)和模型訓(xùn)練來影響輸出內(nèi)容或者規(guī)避造假，這也是一種治理方式，但是這種方式實(shí)現(xiàn)成本高昂，難度很大，效果也難言理想。

李銘軒告訴南都記者，綜合一些人工智能領(lǐng)域?qū)＜业囊庖?，諸如“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息”“對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容應(yīng)在3個(gè)月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成”等要求，在現(xiàn)有條件下可能難以實(shí)際執(zhí)行。

“從內(nèi)容傳播和行業(yè)發(fā)展的角度，人工智能生成內(nèi)容和深度合成內(nèi)容的精準(zhǔn)有效治理，除了內(nèi)容傳播平臺(tái)的積極作為之外，還需要行業(yè)內(nèi)各個(gè)環(huán)節(jié)各方主體的全面參與?！眲源罕硎尽?/p>

全球進(jìn)展：

首部人工智能法案或?qū)⒊雠_(tái)

今年以來，全球也在加速探索對(duì)AI的監(jiān)管，目前來看，各國對(duì)于人工智能的態(tài)度不一。

4月30日在日本舉行的七國集團(tuán)（G7）數(shù)字與技術(shù)部長會(huì)議上，參會(huì)者同意“基于風(fēng)險(xiǎn)”推出一項(xiàng)針對(duì)人工智能的監(jiān)管法案，根據(jù)聯(lián)合聲明，G7重申監(jiān)管也應(yīng)該為人工智能（簡稱AI）技術(shù)“保持一個(gè)開放有利的環(huán)境”。

歐洲則更早支持對(duì)人工智能監(jiān)管。歐盟人工智能監(jiān)管法案的制定工作已經(jīng)持續(xù)數(shù)年，5月11日，歐洲議會(huì)兩個(gè)委員會(huì)通過《人工智能法案》提案的談判授權(quán)草案，據(jù)悉，這一草案將于6月中旬提交歐洲議會(huì)全會(huì)表決，歐洲議會(huì)聲明稱，一旦獲得批準(zhǔn)，這將成為全世界首部有關(guān)人工智能的法規(guī)。

美國方面，5月4日，白宮宣布撥款1.4億美元用于研究制定指導(dǎo)AI監(jiān)管方針。美國議會(huì)近年來先后提出《2018年惡意偽造禁令法案》《2019年深度偽造報(bào)告法案》《識(shí)別生成對(duì)抗網(wǎng)絡(luò)法案》，都提出要求在人工智能生成的虛假內(nèi)容中應(yīng)當(dāng)包含嵌入的數(shù)字水印、清楚標(biāo)識(shí)更改的音頻或視頻內(nèi)容。

“從目前來看，無論是技術(shù)發(fā)展和商業(yè)應(yīng)用，還處在發(fā)展的初期，應(yīng)持更加包容審慎的態(tài)度，給予企業(yè)以更多的信任和發(fā)展空間。”李銘軒表示，對(duì)規(guī)制者而言，應(yīng)當(dāng)密切關(guān)注和充分了解AIGC技術(shù)和商業(yè)應(yīng)用的現(xiàn)狀，在確定治理原則和劃定規(guī)則紅線的基礎(chǔ)上，規(guī)制者目前不宜出臺(tái)過于剛性、細(xì)化的人工智能立法，應(yīng)更多地鼓勵(lì)企業(yè)去自主探索平衡商業(yè)利益和風(fēng)險(xiǎn)合規(guī)的商業(yè)模式。而針對(duì)現(xiàn)有的較為重要和急迫的問題，可通過出臺(tái)行政規(guī)章，探索有針對(duì)性的規(guī)制模式。

出品：南都大數(shù)據(jù)研究院

網(wǎng)絡(luò)內(nèi)容生態(tài)治理研究中心

采寫：南都記者 張雨亭

標(biāo)簽：