簡(jiǎn)介南財(cái)智庫發(fā)布的2023年《生成式人工智能發(fā)展與監(jiān)管白皮書》聚焦中國AI治理的獨(dú)立思考面向AI從業(yè)者、法律合規(guī)人員及關(guān)注數(shù)字治理的研究者。報(bào)告從“發(fā)展、風(fēng)險(xiǎn)、借鑒、實(shí)踐”四個(gè)維度展開先說明生成式AI的概念、算力基礎(chǔ)、大模型與典型應(yīng)用市場(chǎng)再重點(diǎn)剖析知識(shí)產(chǎn)權(quán)侵權(quán)、算法黑箱與歧視、數(shù)據(jù)安全、個(gè)人信息保護(hù)及倫理道德等風(fēng)險(xiǎn)同時(shí)系統(tǒng)比較美國、歐盟關(guān)于人工智能的立法概況與生成式AI風(fēng)險(xiǎn)治理框架最后結(jié)合中國《生成式人工智能服務(wù)管理暫行辦法》解讀本土治理路徑與商業(yè)化運(yùn)用中的合規(guī)難點(diǎn)。資源為1個(gè)PDF文件大小約4.22MB目錄完整、章節(jié)清晰便于按需查閱特定議題。已有153人瀏覽學(xué)習(xí)適合希望快速把握全球AI監(jiān)管動(dòng)態(tài)、理解中國治理邏輯并預(yù)判合規(guī)趨勢(shì)的讀者。1. AI監(jiān)管轉(zhuǎn)向的一刻中國如何回應(yīng)生成式人工智能的“靈魂拷問”2023年7月13日國家網(wǎng)信辦聯(lián)合七部門正式發(fā)布《生成式人工智能服務(wù)管理暫行辦法》宣告生成式AI在中國有了第一部專門規(guī)章。與此前四月那份引發(fā)行業(yè)緊張情緒的征求意見稿相比正式版做了明顯調(diào)整——促發(fā)展的分量加重風(fēng)險(xiǎn)管控的表述更強(qiáng)調(diào)導(dǎo)向而非清單。幾乎同時(shí)南財(cái)智庫推出《2023生成式人工智能發(fā)展與監(jiān)管白皮書》它不是簡(jiǎn)單復(fù)述政策條文而是把算力、大模型、應(yīng)用市場(chǎng)、四類風(fēng)險(xiǎn)和歐美監(jiān)管路徑放到同一個(gè)分析框架里拆解。對(duì)從業(yè)者來說這份白皮書最大的價(jià)值在于回答一個(gè)核心問題當(dāng)全球都在為生成式AI劃邊界時(shí)中國選擇了一條什么樣的治理路徑而這條路又將如何影響每個(gè)身處其中的人。2. 白皮書全景算力、大模型與風(fēng)險(xiǎn)底線四個(gè)剖面看懂產(chǎn)業(yè)位置白皮書的第一部分沒有急著講監(jiān)管而是先鋪陳產(chǎn)業(yè)基本面。這個(gè)順序本身就有意味——只有先弄清生成式AI站在什么位置、靠什么驅(qū)動(dòng)、面臨什么風(fēng)險(xiǎn)才有可能理解后續(xù)的監(jiān)管設(shè)計(jì)。四個(gè)剖面分別為算力、大模型、應(yīng)用市場(chǎng)與風(fēng)險(xiǎn)清單恰好覆蓋了技術(shù)棧從底層到應(yīng)用層的完整鏈路。2.1 算力軍備競(jìng)賽從算法轉(zhuǎn)向底層硬件白皮書給出一組值得反復(fù)琢磨的數(shù)字訓(xùn)練一次13億參數(shù)的ChatGPT模型需要約27.5PFlop/s-day算力而單月運(yùn)營同一個(gè)模型需要的算力高達(dá)4874.4PFlop/s-day。訓(xùn)練和運(yùn)營之間的差距接近兩個(gè)數(shù)量級(jí)這解釋了為什么所有大模型廠商都在瘋狂囤卡——模型訓(xùn)練只是開始持續(xù)運(yùn)營的算力消耗才是真正的無底洞。從成本結(jié)構(gòu)看GPU是大模型成本中最大的單一板塊。白皮書引述的分析顯示國內(nèi)生成式對(duì)話AI產(chǎn)品若加速推廣訓(xùn)練與推理階段或產(chǎn)生相當(dāng)于1.1萬臺(tái)至3.8萬臺(tái)高端AI服務(wù)器的算力需求按主流AI加速卡價(jià)值量占比約70%估算對(duì)應(yīng)126億元到434億元的增量市場(chǎng)。另一組數(shù)據(jù)同樣值得注意大約每隔4個(gè)月AI計(jì)算需求就會(huì)翻倍而GPU性能提升的速度已經(jīng)追不上大模型訓(xùn)練和推理需求的增長。提示算力供給的緊張不是短期現(xiàn)象。當(dāng)硬件迭代跟不上模型需求行業(yè)的選擇要么是堆更多芯片要么是優(yōu)化訓(xùn)練效率而后者恰恰是軟件工程和算法層面的空間所在。從行業(yè)角度看算力層的競(jìng)爭(zhēng)已經(jīng)從“算法之爭(zhēng)”演變?yōu)椤盎A(chǔ)設(shè)施之爭(zhēng)”。數(shù)據(jù)中心帶寬、存儲(chǔ)、冷卻系統(tǒng)、運(yùn)維能力被一并拉進(jìn)戰(zhàn)局。對(duì)中小團(tuán)隊(duì)而言這組數(shù)字無異于一盆冷水——自研大模型的成本門檻已經(jīng)高到需要重新審視選擇的程度。2.2 大模型79個(gè)國產(chǎn)模型的百模大戰(zhàn)白皮書給出的另一個(gè)關(guān)鍵坐標(biāo)是模型層的競(jìng)爭(zhēng)格局。截至2023年5月28日中國10億參數(shù)規(guī)模以上的大模型已發(fā)布79個(gè)美國和中國合計(jì)占全球已發(fā)布大模型總量的80%以上。“百模大戰(zhàn)”不是修辭而是當(dāng)時(shí)的現(xiàn)實(shí)。值得深挖的是這些模型的分布結(jié)構(gòu)。一邊是資金雄厚的平臺(tái)型公司押注通用大模型試圖以API調(diào)用的方式賦能千行百業(yè)另一邊是瞄準(zhǔn)垂直場(chǎng)景的選手選擇在教育、醫(yī)療、金融等領(lǐng)域建立行業(yè)模型。白皮書對(duì)垂直大模型的分析比較務(wù)實(shí)它在資金和算力門檻上更低部署和升級(jí)更靈活但前提是有足夠的行業(yè)語料做深度訓(xùn)練并且要和企業(yè)內(nèi)部知識(shí)庫實(shí)時(shí)配合。這里有一個(gè)容易被忽略的判斷模型層的算法差異正在收窄真正拉開差距的反而是訓(xùn)練數(shù)據(jù)。白皮書直接點(diǎn)出“大模型時(shí)代得數(shù)據(jù)者得天下”——當(dāng)各家在算法架構(gòu)上趨同數(shù)據(jù)質(zhì)量就成了決定模型性能上限的稀缺資源。這為后文討論公共數(shù)據(jù)平臺(tái)建設(shè)埋下了伏筆。2.3 應(yīng)用市場(chǎng)兩種變現(xiàn)路徑的溫差大模型最終要落到應(yīng)用才能產(chǎn)生價(jià)值。白皮書把當(dāng)前的應(yīng)用市場(chǎng)劃分為兩類第一類是提升生產(chǎn)工作效率的通用工具典型場(chǎng)景包括辦公軟件、內(nèi)容創(chuàng)作、智能客服核心邏輯是降低創(chuàng)作門檻、提高內(nèi)容供給速度第二類是可能改變行業(yè)格局的場(chǎng)景應(yīng)用比如教育、醫(yī)療分診、個(gè)性化生成這類應(yīng)用依賴有場(chǎng)景的C端和有數(shù)據(jù)的B端被視為增量產(chǎn)業(yè)的起點(diǎn)。兩份數(shù)據(jù)放在一起看能看出溫差。海外一項(xiàng)針對(duì)美國1003家小型企業(yè)的調(diào)查顯示ChatGPT的應(yīng)用率達(dá)到70%38%的受訪者嘗試過生成式AI營銷、內(nèi)容創(chuàng)作、商業(yè)建議是最主要的三個(gè)用例75%的受訪者表示滿意。而白皮書對(duì)國內(nèi)應(yīng)用市場(chǎng)的判斷則冷靜得多——國內(nèi)大模型遠(yuǎn)未達(dá)到可商用化程度落地主要以價(jià)值增強(qiáng)和效率提升為主商業(yè)模式層面的探索仍在早期。這種溫差說明一個(gè)事實(shí)技術(shù)能力與商業(yè)變現(xiàn)之間隔著場(chǎng)景理解、工程化能力和組織配套。模型本身再強(qiáng)如果切不進(jìn)具體業(yè)務(wù)流就無法產(chǎn)生可持續(xù)的收入。白皮書強(qiáng)調(diào)“只有緊貼業(yè)務(wù)的AI戰(zhàn)略設(shè)計(jì)、完善的配套架構(gòu)、充足的AI人才及健全的內(nèi)部培養(yǎng)機(jī)制才能最大化實(shí)現(xiàn)經(jīng)濟(jì)收益”放在當(dāng)時(shí)的行業(yè)語境下是對(duì)“模型崇拜”的一次糾偏。2.4 風(fēng)險(xiǎn)底線四條不可逾越的紅線產(chǎn)業(yè)越熱風(fēng)險(xiǎn)越不能被忽視。白皮書花了整個(gè)第二部分梳理風(fēng)險(xiǎn)將其歸納為四類知識(shí)產(chǎn)權(quán)侵權(quán)、算法風(fēng)險(xiǎn)、數(shù)據(jù)安全與個(gè)人信息保護(hù)、倫理道德。這份清單后來幾乎可以看作《辦法》相關(guān)條款的注解。知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)被放在第一位不是偶然。輸入端大模型需要海量語料訓(xùn)練獲取語料過程中可能未經(jīng)權(quán)利人許可復(fù)制、改變或傳播作品輸出端生成內(nèi)容若與已有作品構(gòu)成實(shí)質(zhì)性近似同樣構(gòu)成侵權(quán)。白皮書特別提醒一個(gè)容易被忽略的細(xì)節(jié)把生成式AI模型用于商業(yè)用途本身就可能超出著作權(quán)法中“合理使用”的邊界。算法風(fēng)險(xiǎn)的四個(gè)子類值得從業(yè)者逐條對(duì)照——黑箱風(fēng)險(xiǎn)指向“不可解釋”歧視風(fēng)險(xiǎn)指向“偏見與不公”決策風(fēng)險(xiǎn)指向“錯(cuò)誤結(jié)果”信息失真風(fēng)險(xiǎn)指向“算法幻覺”。白皮書用“黑匣子”一詞形容大模型的決策機(jī)制并指出一個(gè)具體困境當(dāng)模型頻繁生成與特定人群利益相關(guān)的內(nèi)容企業(yè)往往難以判斷問題出在算法本身還是訓(xùn)練數(shù)據(jù)本身。數(shù)據(jù)安全與個(gè)人信息保護(hù)是另一塊重災(zāi)區(qū)。模型訓(xùn)練階段爬取公開數(shù)據(jù)可能夾帶個(gè)人信息應(yīng)用階段人與AI的交互式對(duì)話又讓“事前告知-取得同意”的傳統(tǒng)合規(guī)路徑變得幾乎無法操作。白皮書給出了一個(gè)精準(zhǔn)的比喻——大模型的交互更像“客服熱線”而非填表很難在事前羅列出所有可能收集個(gè)人信息的場(chǎng)景。3. 監(jiān)管轉(zhuǎn)向從征求意見稿到正式辦法一次“踩油門”式的調(diào)整如果說第二部分的產(chǎn)業(yè)梳理是在擺事實(shí)那么第三部分關(guān)于政策取向的分析就是全篇的題眼。白皮書的核心判斷可以概括為一句話正式出臺(tái)的《辦法》與征求意見稿相比最大的變化是把“發(fā)展”放到了“治理”的前面。這并非監(jiān)管放松而是治理思路的一次主動(dòng)調(diào)整。3.1 變化細(xì)讀當(dāng)“促發(fā)展”的分量壓過“防風(fēng)險(xiǎn)”對(duì)比兩份文件的差異能清晰看到監(jiān)管態(tài)度的轉(zhuǎn)向。征求意見稿發(fā)布時(shí)行業(yè)普遍解讀為“踩剎車”——當(dāng)時(shí)的多項(xiàng)表述傾向于風(fēng)險(xiǎn)防控讓不少做大模型的公司一度焦慮。但正式版本落地后業(yè)內(nèi)發(fā)現(xiàn)促發(fā)展的內(nèi)容大幅增加了。具體差異體現(xiàn)在幾個(gè)層面。第一《辦法》單設(shè)了“技術(shù)發(fā)展與治理”章節(jié)在體例上把“發(fā)展”提到了與“治理”并列甚至更靠前的位置。第二多條規(guī)定從“限制”改為“鼓勵(lì)”例如鼓勵(lì)生成式AI在各行業(yè)各領(lǐng)域的創(chuàng)新應(yīng)用、鼓勵(lì)基礎(chǔ)技術(shù)自主創(chuàng)新、鼓勵(lì)參與國際規(guī)則制定。第三網(wǎng)信辦在答記者問時(shí)明確《辦法》堅(jiān)持目標(biāo)導(dǎo)向和問題導(dǎo)向促進(jìn)技術(shù)發(fā)展的具體措施被寫進(jìn)了正式文本。一個(gè)容易誤讀的細(xì)節(jié)是《辦法》對(duì)“技術(shù)研發(fā)”場(chǎng)景做了明確豁免行業(yè)組織、企業(yè)、教育科研機(jī)構(gòu)、公共文化機(jī)構(gòu)等研發(fā)和應(yīng)用生成式AI技術(shù)只要未向境內(nèi)公眾提供生成式AI服務(wù)就不適用于《辦法》。這意味著小范圍測(cè)試、企業(yè)內(nèi)使用、不具備公共屬性的研發(fā)行為,都不再需要圍繞這辦法做合規(guī)動(dòng)作。注意豁免研發(fā)不等于豁免全部法律義務(wù)。生成式AI開發(fā)過程中涉及的個(gè)人信息保護(hù)、數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)等仍受其他現(xiàn)行法律約束。這一點(diǎn)帶給研發(fā)團(tuán)隊(duì)的“自由”是相對(duì)的。3.2 豁免條款研發(fā)與商業(yè)服務(wù)的邊界劃分白皮書對(duì)豁免邏輯的解讀值得細(xì)細(xì)品味。它的本質(zhì)是區(qū)分階段——生成式AI從研發(fā)到上市可以劃分為“未公開服務(wù)”和“向境內(nèi)公眾提供服務(wù)”兩個(gè)階段只有后者才觸發(fā)《辦法》的適用。前者的典型情形包括面向特定客戶交付的私有化部署、企業(yè)內(nèi)部測(cè)試、科研機(jī)構(gòu)的實(shí)驗(yàn)性使用。這條邊界劃分對(duì)產(chǎn)業(yè)的影響是結(jié)構(gòu)性的。它讓“研究”和“商用”不再被一鍋端式管理降低了創(chuàng)新初期的制度成本。但同時(shí)邊界兩側(cè)的企業(yè)也面臨不同的義務(wù)配置不在適用范圍內(nèi)的研發(fā)主體需要自行把握數(shù)據(jù)來源合法性和個(gè)人信息保護(hù)一旦跨過“向公眾提供服務(wù)”的紅線就要開始履行備案、安全評(píng)估、內(nèi)容標(biāo)識(shí)等義務(wù)。從行業(yè)角度看這種劃分還隱含了一層信號(hào)——監(jiān)管層有意保護(hù)的基礎(chǔ)研究和技術(shù)積累階段恰恰是當(dāng)時(shí)國產(chǎn)大模型最需要安心攻關(guān)的環(huán)節(jié)。用制度確定性換取研發(fā)空間是這份《辦法》不容易被看見的用心。3.3 促發(fā)展組合拳場(chǎng)景、數(shù)據(jù)與基礎(chǔ)技術(shù)除了邊界劃分《辦法》里還藏著三套促發(fā)展的具體措施白皮書將它們一一拆開。第一套圍繞應(yīng)用場(chǎng)景。鼓勵(lì)生成式AI在各行業(yè)各領(lǐng)域的創(chuàng)新應(yīng)用生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容探索優(yōu)化應(yīng)用場(chǎng)景構(gòu)建應(yīng)用生態(tài)體系。各地已經(jīng)跟進(jìn)推出配套政策比如北京提出圍繞經(jīng)濟(jì)社會(huì)發(fā)展、科學(xué)研究發(fā)現(xiàn)、重大民生需求形成一批應(yīng)用場(chǎng)景上海則聚焦智能制造、教育教學(xué)、科技金融等垂直領(lǐng)域打造標(biāo)桿。第二套圍繞基礎(chǔ)技術(shù)自主創(chuàng)新。鼓勵(lì)算法、框架、芯片及配套軟件平臺(tái)的自主研發(fā)同時(shí)強(qiáng)調(diào)平等互利地開展國際交流與合作參與國際規(guī)則制定。白皮書指出這在一定程度上表明AI的全球競(jìng)爭(zhēng)已經(jīng)從技術(shù)領(lǐng)域擴(kuò)展到治理領(lǐng)域商業(yè)的密切交集讓各國日益成為共同體。第三套圍繞公共訓(xùn)練數(shù)據(jù)資源平臺(tái)。推動(dòng)生成式AI基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)促進(jìn)算力資源協(xié)同共享提升算力資源利用效能。公共數(shù)據(jù)有序開放被視為擴(kuò)展高質(zhì)量訓(xùn)練數(shù)據(jù)的關(guān)鍵抓手——北京、深圳等地已在推動(dòng)高質(zhì)量中文語料數(shù)據(jù)集建設(shè)包括搭建公共數(shù)據(jù)開放運(yùn)營平臺(tái)、建立多模態(tài)公共數(shù)據(jù)集。3.4 中外對(duì)照美歐中三套治理框架的底層差異要理解中國路徑的獨(dú)特性必須把它放在全球監(jiān)管版圖里看。白皮書花了整整一個(gè)章節(jié)梳理美國和歐盟的立法與治理框架三者對(duì)照下來差異相當(dāng)鮮明。美國的監(jiān)管思路偏向分散與行業(yè)自律。聯(lián)邦層面尚未出臺(tái)統(tǒng)一的AI專門立法監(jiān)管動(dòng)作以行政命令、行業(yè)指南和特定領(lǐng)域的規(guī)則為主。歐盟則走在另一條路上——《人工智能法案》以風(fēng)險(xiǎn)分級(jí)為核心把AI應(yīng)用分為不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和極低風(fēng)險(xiǎn)四級(jí)高風(fēng)險(xiǎn)應(yīng)用需要履行更嚴(yán)格的合規(guī)義務(wù)基礎(chǔ)模型還要承擔(dān)額外透明義務(wù)。中國采取的是專門規(guī)章先行、側(cè)重點(diǎn)明確的路徑《辦法》聚焦生成式AI服務(wù)以“發(fā)展與安全并重”為基調(diào)既不搞歐盟式的大一統(tǒng)風(fēng)險(xiǎn)分級(jí)也不像美國那樣依賴行業(yè)自律。三套框架的底層邏輯差異反映的是三地不同的產(chǎn)業(yè)位置和治理哲學(xué)。歐盟更多扮演規(guī)則制定者角色美國試圖在創(chuàng)新與監(jiān)管之間維持動(dòng)態(tài)平衡中國則明確把“發(fā)展”列為第一視角。對(duì)跨國企業(yè)而言這意味著合規(guī)不再是單一標(biāo)準(zhǔn)問題而是需要同時(shí)應(yīng)對(duì)多套框架的“多軌制”能力。4. 影響誰模型廠商、應(yīng)用企業(yè)與公共數(shù)據(jù)的新規(guī)則監(jiān)管文件落地之后最直接的問題是誰會(huì)受到實(shí)質(zhì)影響?！掇k法》和白皮書所描繪的治理框架對(duì)不同主體施加的壓力和釋放的空間并不相同。從模型廠商到應(yīng)用企業(yè)從開發(fā)者到公共數(shù)據(jù)管理部門每一方都需要重新校準(zhǔn)自己的位置。4.1 大模型廠商安全評(píng)估與備案成為入場(chǎng)券對(duì)面向公眾提供服務(wù)的模型廠商來說新規(guī)帶來的直接變化是合規(guī)門檻的顯性化。提供具有輿論屬性或社會(huì)動(dòng)員能力的生成式AI服務(wù)需要按規(guī)定開展安全評(píng)估并履行備案手續(xù)。這在實(shí)務(wù)中意味著三件事第一上線前必須具備內(nèi)容安全自測(cè)能力包括對(duì)生成文本、圖片、音頻、視頻進(jìn)行分類分級(jí)管控的能力第二建立用戶投訴舉報(bào)處理機(jī)制對(duì)生成內(nèi)容進(jìn)行標(biāo)識(shí)第三對(duì)訓(xùn)練數(shù)據(jù)來源做合法性審查留存可追溯的記錄。這些要求拔高了大模型商用化的起點(diǎn)。對(duì)頭部廠商而言合規(guī)部門從“可有可無”變成“必須要有”對(duì)中小模型團(tuán)隊(duì)而言安全評(píng)估和備案的成本可能成為實(shí)質(zhì)性的生存門檻。但從另一個(gè)角度看《辦法》也給了市場(chǎng)確定性——之前企業(yè)普遍擔(dān)心“隨時(shí)可能被叫?！爆F(xiàn)在規(guī)則明確反而可以安心推進(jìn)產(chǎn)品化。白皮書建議開發(fā)者搭建“生成式AI合規(guī)風(fēng)險(xiǎn)事件庫”及時(shí)跟蹤合規(guī)風(fēng)險(xiǎn)導(dǎo)向。這個(gè)建議的實(shí)操價(jià)值很高——風(fēng)險(xiǎn)事件庫本質(zhì)上是一個(gè)動(dòng)態(tài)更新的合規(guī)知識(shí)庫把監(jiān)管案例、用戶投訴、算法審計(jì)發(fā)現(xiàn)的問題沉淀下來供后續(xù)產(chǎn)品迭代參考。從血淚經(jīng)驗(yàn)看很多團(tuán)隊(duì)是在出了安全事故后才倒查問題如果提前建庫至少能縮短響應(yīng)時(shí)間。4.2 應(yīng)用企業(yè)AI引入辦公后的商業(yè)秘密難題應(yīng)用層企業(yè)面對(duì)的風(fēng)險(xiǎn)更隱蔽。白皮書點(diǎn)名了一個(gè)被普遍低估的場(chǎng)景員工把大模型接入辦公流程后商業(yè)秘密正在通過對(duì)話窗口泄露。員工在生成代碼、撰寫方案、處理客戶資料時(shí)可能無意間把公司的核心數(shù)據(jù)送進(jìn)模型而這些數(shù)據(jù)一旦被納入訓(xùn)練語料就可能以不可控的方式出現(xiàn)在未來的生成結(jié)果里。白皮書記錄過一個(gè)典型案例某頭部互聯(lián)網(wǎng)公司聲稱在生成式AI模型的輸出內(nèi)容中發(fā)現(xiàn)了與其商業(yè)機(jī)密非常相似的文本推測(cè)是內(nèi)部員工使用模型生成代碼時(shí)輸入了公司機(jī)密數(shù)據(jù)。這起事件揭示了一個(gè)近乎無解的困境——效率工具越順手泄密風(fēng)險(xiǎn)越大而企業(yè)往往只能在事后追責(zé)。應(yīng)對(duì)這個(gè)風(fēng)險(xiǎn)單靠法務(wù)部門下發(fā)禁令是不夠的。從實(shí)操層面看需要技術(shù)手段和制度手段配合技術(shù)上對(duì)交互內(nèi)容做敏感信息過濾私有化部署或數(shù)據(jù)脫敏后接入辦公系統(tǒng)制度上制定員工AI使用規(guī)范明確哪些層級(jí)的數(shù)據(jù)可以進(jìn)入模型。白皮書把這個(gè)問題定義為法律合規(guī)部門的職責(zé)范圍但任何在一線處理過這類問題的人都會(huì)認(rèn)同真正有效的防線必須前置到產(chǎn)品設(shè)計(jì)和IT治理環(huán)節(jié)。4.3 開發(fā)者與開源社區(qū)責(zé)任邊界的重新劃分開發(fā)者是容易被忽略的影響群體。按照《辦法》的適用范圍未向境內(nèi)公眾提供生成式AI服務(wù)的研發(fā)行為不適用該辦法但這里有一個(gè)微妙的灰色地帶開發(fā)者發(fā)布開源模型供他人下載后自行部署使用是否屬于“向公眾提供服務(wù)”從白皮書的分析看這個(gè)問題的答案并不簡(jiǎn)單。開源模型的發(fā)布者沒有直接向公眾提供服務(wù)但模型的下游使用方可能構(gòu)成服務(wù)提供者責(zé)任鏈條會(huì)沿著“開發(fā)者—部署方—服務(wù)方”傳遞。開發(fā)者雖然在《辦法》框架下可能獲得豁免但仍需關(guān)注訓(xùn)練數(shù)據(jù)的合法性——如果訓(xùn)練語料中使用了侵權(quán)內(nèi)容開發(fā)者本人就可能面對(duì)著作權(quán)或數(shù)據(jù)合規(guī)的追訴。一個(gè)更現(xiàn)實(shí)的問題是開源社區(qū)長期以來的“自由使用”文化正在面臨法律風(fēng)險(xiǎn)的重估。白皮書提醒訓(xùn)練語料越匱乏生成內(nèi)容的侵權(quán)風(fēng)險(xiǎn)越高使用時(shí)如果提示詞極為限縮精準(zhǔn)也可能增大生成內(nèi)容侵犯他人知識(shí)產(chǎn)權(quán)的可能。這些細(xì)節(jié)對(duì)每個(gè)習(xí)慣拿開源模型做二次開發(fā)的團(tuán)隊(duì)來說都是需要重新審視的原則問題。4.4 公共數(shù)據(jù)平臺(tái)高質(zhì)量語料成為新基建白皮書花了不少篇幅討論公共數(shù)據(jù)開放這可能是最容易被忽略但長期影響最大的議題。高質(zhì)量訓(xùn)練數(shù)據(jù)稀缺是國產(chǎn)大模型面臨的一個(gè)共性瓶頸而公共數(shù)據(jù)恰好是最有潛力補(bǔ)足這塊短板的資源池。北京、深圳等地的政策文件已經(jīng)釋放出明確信號(hào)——?jiǎng)討B(tài)更新公共數(shù)據(jù)開放計(jì)劃加快構(gòu)建高質(zhì)量AI訓(xùn)練數(shù)據(jù)集搭建全市公共數(shù)據(jù)開放運(yùn)營平臺(tái)建立多模態(tài)公共數(shù)據(jù)集打造高質(zhì)量中文語料數(shù)據(jù)。這些動(dòng)作指向同一個(gè)目標(biāo)把公共數(shù)據(jù)從“沉睡的資產(chǎn)”變成“模型的燃料”。但公共數(shù)據(jù)開放并非坦途。白皮書提到開放的數(shù)據(jù)范圍和質(zhì)量不夠是當(dāng)前的主要阻力。公共數(shù)據(jù)涉及分類分級(jí)的管理問題需要區(qū)分無條件開放、有條件開放和禁止開放。從行業(yè)視角看公共數(shù)據(jù)平臺(tái)的建設(shè)進(jìn)度將直接影響未來兩年國產(chǎn)大模型的中文語料質(zhì)量和多樣性進(jìn)而影響模型在中文場(chǎng)景下的表現(xiàn)上限。這盤棋的落子不會(huì)立竿見影但會(huì)在更長的周期里顯現(xiàn)價(jià)值。5. 常見誤讀關(guān)于《辦法》與白皮書的四個(gè)認(rèn)知偏差政策文件落地后行業(yè)內(nèi)總會(huì)出現(xiàn)一輪解讀熱潮其中不乏方向性偏差。《辦法》和白皮書發(fā)布已有一段時(shí)間但圍繞它們的幾個(gè)誤讀仍在流傳。挑四個(gè)最典型的拆一拆。5.1 誤讀一“放寬監(jiān)管”等于“放松監(jiān)管”一種流傳較廣的說法是正式《辦法》比征求意見稿寬松說明監(jiān)管層放軟了態(tài)度。這個(gè)判斷只看到了一半。更準(zhǔn)確的表述是監(jiān)管層把“發(fā)展”提到了與“安全”同等甚至更靠前的位置但底線并未后退半步。對(duì)比兩份文件可以看到刪除的多是操作性過強(qiáng)的限制條款留下的則是原則性的安全要求。安全評(píng)估、備案、內(nèi)容標(biāo)識(shí)、訓(xùn)練數(shù)據(jù)合法性審查這些核心義務(wù)仍然齊全。與其說是“放寬”不如說是“重新配平”——在不必要的管制上做減法在必要的底線上維持剛性。怎么看這個(gè)調(diào)整的實(shí)質(zhì)從行業(yè)角度看這是監(jiān)管策略從“前置審批式管理”轉(zhuǎn)向“底線監(jiān)管事后追責(zé)”對(duì)企業(yè)的自我規(guī)制能力提出了更高要求。那些以為“正式版出來就可以松口氣”的團(tuán)隊(duì)大概率會(huì)在安全評(píng)估環(huán)節(jié)重新體會(huì)到什么叫“監(jiān)管在場(chǎng)”。5.2 誤讀二豁免研發(fā)等于法外之地《辦法》明確研發(fā)階段不適用一些開發(fā)者誤以為“搞研發(fā)就可以不管法律了”。這個(gè)誤讀的代價(jià)可能很高?；砻獾氖恰掇k法》這一部規(guī)章的適用但生成式AI研發(fā)過程中涉及的《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》《著作權(quán)法》《反不正當(dāng)競(jìng)爭(zhēng)法》仍然有效。只要訓(xùn)練數(shù)據(jù)里用了真實(shí)個(gè)人信息、爬取了他人享有著作權(quán)的作品、或者觸犯了競(jìng)爭(zhēng)法上關(guān)于數(shù)據(jù)爬取的限制性條款法律責(zé)任就不會(huì)因?yàn)椤把邪l(fā)豁免”而消失。白皮書里那條線索值得反復(fù)體會(huì)訓(xùn)練語料越匱乏生成內(nèi)容的侵權(quán)風(fēng)險(xiǎn)越高——換句話說越是依賴“扒數(shù)據(jù)”做訓(xùn)練的團(tuán)隊(duì)法律風(fēng)險(xiǎn)反而越集中。普通法理常識(shí)就能說明問題專門法的豁免不能覆蓋一般法的義務(wù)。研發(fā)階段確實(shí)獲得了《辦法》框架下的自由度但這只是從“專門規(guī)制”回到“通用法律適用”絕不是進(jìn)入法律盲區(qū)。正確姿勢(shì)是把豁免視為“暫緩合規(guī)”而非“無需合規(guī)”。5.3 誤讀三數(shù)據(jù)合規(guī)只是法務(wù)部門的事有段時(shí)間圈內(nèi)流行一句話AI的事讓法務(wù)去頭疼。這句話放在生成式AI的語境下是有害的。數(shù)據(jù)合規(guī)已經(jīng)從前置審查型工作變成貫穿數(shù)據(jù)采集、清洗、標(biāo)注、訓(xùn)練、部署、運(yùn)營全鏈路的工程問題。舉例來說模型訓(xùn)練前要對(duì)語料做個(gè)人信息篩查這項(xiàng)工作需要技術(shù)工具和流程設(shè)計(jì)不是法務(wù)讀一遍法規(guī)就能落地。白皮書提到的“在交互模式下個(gè)人信息披露更接近被動(dòng)公開”這個(gè)判斷直接改變了產(chǎn)品設(shè)計(jì)思路——對(duì)話式產(chǎn)品收集個(gè)人信息的告知同意方式必須從產(chǎn)品體驗(yàn)層面重新設(shè)計(jì)。實(shí)務(wù)中比較靠譜的做法是把數(shù)據(jù)合規(guī)拆成兩個(gè)層面法務(wù)負(fù)責(zé)規(guī)則解讀技術(shù)與產(chǎn)品負(fù)責(zé)落地實(shí)現(xiàn)。缺失任何一環(huán)合規(guī)都只是一紙空文。那些等數(shù)據(jù)出事后再找法務(wù)“救火”的團(tuán)隊(duì)多半已經(jīng)付出了難以挽回的代價(jià)。5.4 誤讀四生成內(nèi)容的版權(quán)歸屬已經(jīng)明確關(guān)于AI生成內(nèi)容有沒有版權(quán)、版權(quán)歸誰行業(yè)內(nèi)討論很多但結(jié)論遠(yuǎn)未統(tǒng)一。白皮書對(duì)這個(gè)問題保持了審慎的態(tài)度——它指出需要分步判斷第一步看生成內(nèi)容能否構(gòu)成著作權(quán)法意義上的“作品”第二步看是否存在與原作品的實(shí)質(zhì)性近似。而從以往判例看法院曾認(rèn)定“作品的創(chuàng)作主體應(yīng)限定為自然人”這意味著當(dāng)前法律環(huán)境下純AI生成內(nèi)容是否受保護(hù)存在重大不確定性。有些從業(yè)者看到一些零散的判決或解讀就以為“版權(quán)問題已經(jīng)解決了”這是典型的以偏概全。實(shí)際上不同法域、不同案件類型的判斷差異很大。商業(yè)使用AI生成內(nèi)容時(shí)更安全的做法是做來源審查和相似度比對(duì)而不是默認(rèn)“生成即歸我”。白皮書描繪的場(chǎng)景值得反復(fù)揣摩用戶使用提示詞極為限縮精準(zhǔn)時(shí)生成內(nèi)容侵犯他人知識(shí)產(chǎn)權(quán)的風(fēng)險(xiǎn)會(huì)增大——越是“定制化”的生成越可能踩到已有權(quán)利的界線。6. 趨勢(shì)判斷AI治理進(jìn)入落地競(jìng)賽數(shù)據(jù)與合規(guī)成為新門檻回看這份白皮書和《辦法》的發(fā)布時(shí)間節(jié)點(diǎn)能更清楚地看到它們的位置——那是全球“生成式AI監(jiān)管潮”涌起的關(guān)鍵窗口。歐盟《人工智能法案》進(jìn)入最終談判美國在緊鑼密鼓考慮具有法律約束力的規(guī)則中國率先交出一份答卷。將近一年過去這份答卷的走向已經(jīng)逐漸清晰。趨勢(shì)之一是治理從“立規(guī)”轉(zhuǎn)向“落地”。規(guī)則條文有了接下來的關(guān)鍵是誰來執(zhí)行、怎么執(zhí)行。安全評(píng)估機(jī)制的運(yùn)轉(zhuǎn)效率、備案流程的透明度、地方與中央監(jiān)管尺度的一致性都會(huì)成為行業(yè)實(shí)際感受“監(jiān)管溫度”的指標(biāo)。從行業(yè)角度看2024年之后真正的看點(diǎn)不再是出臺(tái)多少文件而是政策執(zhí)行如何與產(chǎn)業(yè)節(jié)奏合拍。趨勢(shì)之二是數(shù)據(jù)成為治理與產(chǎn)業(yè)競(jìng)爭(zhēng)的交匯點(diǎn)。公共數(shù)據(jù)平臺(tái)建設(shè)、高質(zhì)量語料供給、訓(xùn)練數(shù)據(jù)合法性審查既是合規(guī)要求也是競(jìng)爭(zhēng)壁壘。誰能更高效地獲得合法合規(guī)的高質(zhì)量數(shù)據(jù)誰就能在模型能力的下一輪比拼中占住身位。數(shù)據(jù)合規(guī)能力正在從“成本項(xiàng)”變成“競(jìng)爭(zhēng)力”。趨勢(shì)之三是企業(yè)合規(guī)從“應(yīng)付檢查”走向“內(nèi)生能力”。一個(gè)可供借鑒的方向是白皮書提到的合規(guī)風(fēng)險(xiǎn)事件庫——把分散的法規(guī)要求、案例判罰、內(nèi)部審計(jì)結(jié)果沉淀為結(jié)構(gòu)化知識(shí)再嵌入產(chǎn)品研發(fā)流程。這不是法務(wù)一個(gè)部門能完成的需要技術(shù)、產(chǎn)品、法務(wù)共同參與。說句實(shí)在話我最初讀這份白皮書時(shí)是被它的克制打動(dòng)的。它沒有鼓吹“AI萬能論”也沒有渲染“技術(shù)失控論”而是把產(chǎn)業(yè)、風(fēng)險(xiǎn)、政策放在一個(gè)桌面上攤開來講。做技術(shù)的人容易只盯著模型效果做業(yè)務(wù)的人容易只盯著商業(yè)變現(xiàn)而監(jiān)管和倫理問題總被當(dāng)成“別人的事”。但這份白皮書給出的視角是治理不是事后補(bǔ)救而是產(chǎn)品設(shè)計(jì)的一部分。從那以后我每接觸一個(gè)生成式AI項(xiàng)目都強(qiáng)制自己先走一遍“風(fēng)險(xiǎn)清單”——數(shù)據(jù)來源是否合法、生成內(nèi)容是否可控、用戶交互是否合規(guī)、出了事能否追溯。這幾步走完心里基本有底。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取