全球科技巨頭在AI大模型領(lǐng)域不斷推出新品之際，中國(guó)監(jiān)管部門的步伐正迎頭趕上。

4月11日，國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》（下稱《管理辦法》），并向社會(huì)公開征求意見，截止期為5月10日。

如果《管理辦法》獲得通過，中國(guó)將正式開啟對(duì)AIGC（人工智能生成式內(nèi)容）的專門監(jiān)管。

根據(jù)國(guó)家網(wǎng)信辦發(fā)布的通知，制定《管理辦法》的目的是促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用。整體共分21條，涵蓋內(nèi)容監(jiān)管、算法監(jiān)管、數(shù)據(jù)監(jiān)管等維度，其中內(nèi)容安全條款占據(jù)篇幅最多。

有知情人士向財(cái)經(jīng)E法透露，《管理辦法》自2022年下半年即開始醞釀，但ChatGPT在今年的火爆“出圈”加速了制定進(jìn)程。

這與全球主要法域的步伐一致。當(dāng)?shù)貢r(shí)間4月11日，美國(guó)商務(wù)部就ChatGPT等AI大模型監(jiān)管措施公開征求意見，其中涉及存在潛在風(fēng)險(xiǎn)的新AI模型在發(fā)布前是否要走認(rèn)證核準(zhǔn)程序。根據(jù)財(cái)經(jīng)E法此前文章（意大利封禁加拿大調(diào)查，ChatGPT會(huì)面臨新“禁令”嗎？），一些歐洲國(guó)家正采取針對(duì)ChatGPT的風(fēng)險(xiǎn)防控措施，歐盟成員也在提議磋商《人工智能法案》有關(guān)生成式人工智能的條款。

那么，《管理辦法》的推出體現(xiàn)了哪些意圖，釋放了哪些信號(hào)，又會(huì)給產(chǎn)業(yè)界帶來哪些影響？

包含諸多“微迭代”內(nèi)容

隨著中國(guó)市場(chǎng)上生成式人工智能玩家相繼入局，監(jiān)管時(shí)機(jī)也逐步成熟。

《管理辦法》第2條顯示了適用范圍和基本定義：適用于“研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民共和國(guó)境內(nèi)公眾提供服務(wù)的”；“生成式人工智能”，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)

正如財(cái)經(jīng)E法此前文章（科技巨頭搶占ChatGPT風(fēng)口, 數(shù)據(jù)安全挑戰(zhàn)不可掉以輕心），今年1月，伴隨微軟宣布對(duì)研發(fā)了ChatGPT的OpenAI公司進(jìn)行的一筆大額投資，ChatGPT爆火出圈，席卷全球。隨后，由于ChatGPT上線兩個(gè)月即達(dá)到上億用戶的規(guī)模，谷歌也迅速跟隨發(fā)布類似ChatGPT的聊天機(jī)器人項(xiàng)目，帶動(dòng)了全球資本市場(chǎng)對(duì)這一領(lǐng)域的持續(xù)追捧。與此同時(shí)，ChatGPT已經(jīng)開始沖擊全球教育業(yè)，并可能帶來法律、安全、倫理風(fēng)險(xiǎn)，甚至滋生犯罪。

進(jìn)入4月，中國(guó)互聯(lián)網(wǎng)公司開始密集推出各自的AI大模型。目前已上線內(nèi)測(cè)的產(chǎn)品除了百度的“文心一言”，還有阿里云的“通義千問”、?商湯科技的“日日新”等。

北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括指出，AIGC等新技術(shù)、新應(yīng)用快速發(fā)展，在全社會(huì)引起了高度的、廣泛的關(guān)注和突出的風(fēng)險(xiǎn)關(guān)切。他認(rèn)為，《管理辦法》是全球第一款“GPT法”。中國(guó)監(jiān)管部門的介入是現(xiàn)實(shí)的，《管理辦法》開始征求意見，本身就是一個(gè)重大的信號(hào)，體現(xiàn)了提前研判、提前介入、提前監(jiān)管的思路。有助于企業(yè)及早構(gòu)建合規(guī)解決方案，提前布局必要的合規(guī)機(jī)制和工具，有效減少風(fēng)險(xiǎn)；同時(shí)也為國(guó)外參與者進(jìn)入中國(guó)市場(chǎng)的合規(guī)運(yùn)營(yíng)提供了明確規(guī)范，有助于各方更好地理解中國(guó)的監(jiān)管要求和核心價(jià)值訴求，及時(shí)調(diào)整和適配自身的產(chǎn)品和服務(wù)。

吳沈括分析說，現(xiàn)階段AIGC的中外監(jiān)管思路的明顯區(qū)別是，歐美各國(guó)側(cè)重從數(shù)據(jù)安全、數(shù)據(jù)保護(hù)、數(shù)據(jù)治理的角度來介入和推動(dòng)監(jiān)管落地；中國(guó)則是一種綜合治理的思路，強(qiáng)調(diào)權(quán)益保護(hù)、數(shù)據(jù)治理、內(nèi)容治理等多個(gè)維度。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣認(rèn)為，在ChatGPT熱潮帶動(dòng)下，未來的兩三年，中國(guó)相關(guān)技術(shù)將會(huì)產(chǎn)生大突破，也會(huì)出現(xiàn)成熟的商業(yè)化應(yīng)用落地。同時(shí)，生成式人工智能也會(huì)對(duì)互聯(lián)網(wǎng)內(nèi)容治理會(huì)帶來較大沖擊。

張欣注意到，《管理辦法》體現(xiàn)了技術(shù)治理上“小而靈”的立法范式。張欣解釋說，由于技術(shù)發(fā)展非?？?，不一定要等所有基礎(chǔ)條件成熟之后再立法，可以在制度設(shè)計(jì)上及時(shí)進(jìn)行有針對(duì)性的、垂直領(lǐng)域的立法，從而實(shí)現(xiàn)新興科技創(chuàng)新與治理的雙輪驅(qū)動(dòng)，避免治理的滯后性。

競(jìng)天公誠(chéng)律師事務(wù)所合伙人袁立志也認(rèn)為，《管理辦法》有不少“微迭代”的內(nèi)容。

袁立志舉例說，《管理辦法》規(guī)定了AIGC服務(wù)提供者承擔(dān)內(nèi)容生產(chǎn)者責(zé)任；服務(wù)提供者承擔(dān)數(shù)據(jù)處理者責(zé)任——應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)；限制數(shù)據(jù)使用要求——不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像；AIGC服務(wù)提供者承擔(dān)應(yīng)急處置義務(wù)——對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的違法違規(guī)生成內(nèi)容，除采取內(nèi)容過濾等措施外，還應(yīng)在3個(gè)月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成。

部分條款受關(guān)注

雖然監(jiān)管只涉及到“微迭代”，《管理辦法》的部分條款仍引發(fā)關(guān)注。

《管理辦法》第4條第4項(xiàng)確立了內(nèi)容真實(shí)性要求：利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。

“這項(xiàng)與AIGC固有屬性可能存在一定沖突?！痹⒅菊J(rèn)為，防止虛假信息的重點(diǎn)不應(yīng)在技術(shù)前端直接管死，而應(yīng)著眼于應(yīng)用層面，避免生成的虛假信息公開傳播誤導(dǎo)輿論。

另外，內(nèi)容責(zé)任設(shè)置上，《管理辦法》僅針對(duì)生成式人工智能服務(wù)提供者，但未涉及產(chǎn)品的使用者，袁立志認(rèn)為，這意味著合規(guī)責(zé)任主要由平臺(tái)承擔(dān)。

《管理辦法》雖重在監(jiān)管，但第三條顯著凸顯鼓勵(lì)A(yù)IGC行業(yè)發(fā)展的態(tài)度：國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。

上海大邦律師事務(wù)所高級(jí)合伙人游云庭認(rèn)為，AIGC產(chǎn)業(yè)涉及國(guó)家競(jìng)爭(zhēng)力，出臺(tái)監(jiān)管辦法，是為了應(yīng)對(duì)可能產(chǎn)生的問題，給產(chǎn)業(yè)一個(gè)引導(dǎo)方向，不代表要把這個(gè)產(chǎn)業(yè)管死。

為何內(nèi)容監(jiān)管條款占據(jù)篇幅最多？

袁立志表示，著重強(qiáng)調(diào)內(nèi)容安全，有兩方面因素：?一方面，AIGC本身是一款重內(nèi)容的技術(shù)，無論中外，內(nèi)容合規(guī)都是AIGC 監(jiān)管的重點(diǎn)。另一方面，還與中國(guó)一向重視網(wǎng)絡(luò)內(nèi)容安全相關(guān)。

財(cái)經(jīng)E法注意到，《管理辦法》不少條款都可以在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)保護(hù)法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)中找到出處。

比如，《管理辦法》第9條明確了用戶實(shí)名制要求，上位法為《網(wǎng)絡(luò)安全法》第24條；第16條要求服務(wù)提供者對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)，依據(jù)是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第16至18條。

此外，《管理辦法》還寫入多個(gè)算法公平條款?！豆芾磙k法》第4條規(guī)定，在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)等歧視；第21條再次明確，AIGC服務(wù)提供者不得根據(jù)用戶的種族、國(guó)別、性別等進(jìn)行帶有歧視性的內(nèi)容生成。

張欣表示，以往，中國(guó)在算法及人工智能相關(guān)立法中對(duì)于“算法公平”的強(qiáng)調(diào)偏弱。2022年3月1日起施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，在征求意見稿階段曾經(jīng)包含以下表述：“不得設(shè)置歧視性或者偏見性用戶標(biāo)簽?！钡罱K版本刪除了這一表述。

此前，已有金融領(lǐng)域行業(yè)協(xié)會(huì)發(fā)布針對(duì)ChatGPT等工具的倡議行動(dòng)。

4月10日，中國(guó)支付清算協(xié)會(huì)明確指出，“ChatGPT這類智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風(fēng)險(xiǎn)?！辈l(fā)出“謹(jǐn)慎使用ChatGPT等工具”的倡議，該倡議強(qiáng)調(diào)支付行業(yè)從業(yè)人員要提高思想認(rèn)識(shí)，依法依規(guī)使用ChatGPT等智能化工具，正確認(rèn)識(shí)相關(guān)工具的機(jī)遇和風(fēng)險(xiǎn)，全面評(píng)估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險(xiǎn)；倡議支付行業(yè)從業(yè)人員在使用ChatGPT等工具時(shí)，要嚴(yán)格遵守國(guó)家及行業(yè)相關(guān)法律法規(guī)要求，不上傳國(guó)家及金融行業(yè)涉密文件及數(shù)據(jù)、不上傳非公開的資料及數(shù)據(jù)、客戶資料、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等內(nèi)容；倡議各會(huì)員單位要進(jìn)一步健全信息安全內(nèi)控管理制度，開展有針對(duì)性的數(shù)據(jù)風(fēng)險(xiǎn)防控工作，加強(qiáng)宣傳和引導(dǎo)，提升員工的風(fēng)險(xiǎn)防范和數(shù)據(jù)保護(hù)意識(shí)，切實(shí)維護(hù)國(guó)家金融及支付行業(yè)安全。