本報(bào)記者 孫美娟
為積極回應(yīng)人工智能健康發(fā)展的需求,促進(jìn)技術(shù)創(chuàng)新與社會(huì)進(jìn)步的和諧統(tǒng)一,保障公民權(quán)利和社會(huì)公共利益,維護(hù)國(guó)家安全和社會(huì)穩(wěn)定,2023年初以來,中國(guó)社會(huì)科學(xué)院國(guó)情調(diào)研重大項(xiàng)目“我國(guó)人工智能倫理審查和監(jiān)管制度建設(shè)狀況調(diào)研”課題組主持人、中國(guó)社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任周輝先后組織中國(guó)社會(huì)科學(xué)院、清華大學(xué)、中國(guó)人民大學(xué)、上海交通大學(xué)、武漢大學(xué)、同濟(jì)大學(xué)、中國(guó)信息通信研究院等科研院校和廣州互聯(lián)網(wǎng)法院等機(jī)構(gòu)的多方專家,在持續(xù)、長(zhǎng)期追蹤研究人工智能發(fā)展、監(jiān)管的基礎(chǔ)上,組織成立示范法起草組,歷經(jīng)多次調(diào)研、討論,持續(xù)產(chǎn)出了《人工智能示范法1.0》《人工智能示范法2.0》《人工智能示范法3.0》(以下簡(jiǎn)稱《示范法1.0》《示范法2.0》《示范法3.0》)等科研成果。3月29日,記者圍繞其研究成果對(duì)我國(guó)人工智能領(lǐng)域立法的影響等話題,對(duì)周輝進(jìn)行了專訪。
國(guó)內(nèi)首個(gè)綜合性人工智能立法建議文本
《中國(guó)社會(huì)科學(xué)報(bào)》:《示范法1.0》是國(guó)內(nèi)首個(gè)系統(tǒng)性的人工智能立法專家建議文本。該成果自發(fā)布之日起便引發(fā)國(guó)內(nèi)外廣泛關(guān)注,美國(guó)斯坦福大學(xué)等知名高校組織將其譯為英文并進(jìn)行深入研究探討。您認(rèn)為,《示范法1.0》能獲得如此高的關(guān)注度的根本原因是什么?
周輝:《示范法1.0》獲得高度關(guān)注的原因主要有三點(diǎn)。一是對(duì)國(guó)內(nèi)系統(tǒng)性人工智能立法框架的建立有里程碑意義。作為國(guó)內(nèi)首個(gè)綜合性、統(tǒng)轄性的人工智能立法專家建議文本,它填補(bǔ)了相關(guān)領(lǐng)域的研究空白,首次完整構(gòu)建了涵蓋基本原則、發(fā)展舉措、風(fēng)險(xiǎn)管理制度、主體責(zé)任分配、治理機(jī)制設(shè)計(jì)、法律責(zé)任等內(nèi)容的立法框架,為全球治理提供了可參考的“中國(guó)方案”。
二是有立足產(chǎn)業(yè)發(fā)展與中國(guó)實(shí)踐的治理機(jī)制創(chuàng)新。示范法創(chuàng)造性地轉(zhuǎn)化了包容審慎原則,平衡了發(fā)展與安全,圍繞算力基礎(chǔ)設(shè)施、算法和基礎(chǔ)模型創(chuàng)新、數(shù)據(jù)要素供給以及商業(yè)應(yīng)用創(chuàng)新等關(guān)鍵環(huán)節(jié),進(jìn)行了相關(guān)制度設(shè)計(jì)。同時(shí)通過“負(fù)面清單管理”、合規(guī)豁免和創(chuàng)新監(jiān)管等措施,在嚴(yán)守安全底線的前提下為技術(shù)創(chuàng)新預(yù)留了容錯(cuò)空間。這種治理機(jī)制的設(shè)計(jì)充分立足于我國(guó)產(chǎn)業(yè)實(shí)踐,為人工智能產(chǎn)業(yè)的健康發(fā)展提供了制度保障。
三是在主動(dòng)參與全球治理方面有戰(zhàn)略性突破。團(tuán)隊(duì)以《人工智能示范法》為抓手,不僅加強(qiáng)了國(guó)內(nèi)學(xué)術(shù)界、產(chǎn)業(yè)界和政府部門之間的溝通與合作,還輸出了英語(yǔ)、法語(yǔ)、西班牙語(yǔ)等多種語(yǔ)言版本,為我國(guó)參與人工智能治理的國(guó)際規(guī)則建設(shè)討論與競(jìng)爭(zhēng)人工智能治理的國(guó)際話語(yǔ)權(quán)提供理論支持。
《中國(guó)社會(huì)科學(xué)報(bào)》:《示范法1.0》提出了“以人為本、智能向善”的核心原則,強(qiáng)調(diào)安全可控與創(chuàng)新發(fā)展并重。為什么要著重強(qiáng)調(diào)這一核心原則?
周輝:2024年6月12日,習(xí)近平主席在向聯(lián)合國(guó)貿(mào)易和發(fā)展會(huì)議成立60周年慶祝活動(dòng)開幕式發(fā)表視頻致辭時(shí)提出,堅(jiān)持以人為本、智能向善,在聯(lián)合國(guó)框架內(nèi)加強(qiáng)人工智能規(guī)則治理。“以人為本、智能向善”的核心原則,本質(zhì)是為人工智能發(fā)展確立價(jià)值根基與行動(dòng)邊界。我們之所以如此強(qiáng)調(diào)這一點(diǎn),是因?yàn)閳?jiān)信人工智能的工具屬性不容動(dòng)搖,必須始終以增進(jìn)人類福祉為最終目標(biāo),在任何情況下都不應(yīng)超越或取代對(duì)人類福祉的重視。將這一原則寫入示范法,就是要為技術(shù)創(chuàng)新劃定價(jià)值坐標(biāo)系,并在示范法的體系內(nèi),將抽象倫理原則轉(zhuǎn)化為可實(shí)施的治理措施。
《中國(guó)社會(huì)科學(xué)報(bào)》:據(jù)了解,您和您的團(tuán)隊(duì)成員是在2023年8月發(fā)布的《示范法1.0》,之后不到1年的時(shí)間發(fā)布了《示范法2.0》,現(xiàn)在又發(fā)布了《示范法3.0》。為什么要在這么短的時(shí)間周期不斷更新版本?
周輝:《人工智能示范法》在短時(shí)間內(nèi)經(jīng)歷了數(shù)次迭代升級(jí),這既是對(duì)技術(shù)進(jìn)步的響應(yīng),也是對(duì)實(shí)踐反饋的吸納。作為技術(shù)前沿的人工智能領(lǐng)域,其技術(shù)革新和產(chǎn)業(yè)發(fā)展速度迅猛。在1.0版本推出之初,生成式AI和多模態(tài)模型等技術(shù)尚未廣泛應(yīng)用于社會(huì),但隨后Sora、DeepSeek以及垂類模型等技術(shù)的突破已經(jīng)深刻影響我們的現(xiàn)實(shí)世界,不斷催生新的應(yīng)用場(chǎng)景并滋生新的潛在風(fēng)險(xiǎn)。同時(shí),歷次版本的發(fā)布也激發(fā)了廣泛的討論和交流,我們不斷聽取并吸收來自各方的意見和建議。作為一部面向前沿技術(shù)、數(shù)字經(jīng)濟(jì)和未來發(fā)展的關(guān)鍵立法,《人工智能示范法》提供了階段性的成果和制度建議,也必然會(huì)把握人工智能發(fā)展規(guī)律和治理趨勢(shì),通過1.0、2.0、3.0及至N.0的迭代,不斷適應(yīng)人工智能發(fā)展與安全態(tài)勢(shì),更好地推動(dòng)凝聚依法發(fā)展和治理人工智能的共識(shí)。
打造AI治理新范式
《中國(guó)社會(huì)科學(xué)報(bào)》:您認(rèn)為,最新發(fā)布的《示范法3.0》有哪些亮點(diǎn)?
周輝:《示范法3.0》呈現(xiàn)四大創(chuàng)新突破。其一,全流程倫理治理體系構(gòu)建。《示范法3.0》以倫理原則為基礎(chǔ),以倫理審查機(jī)制為抓手,要求研發(fā)、提供、使用全鏈條嵌入倫理審查。總則新增倫理原則條款,明確要求倫理要求貫穿技術(shù)全生命周期。特別規(guī)定政務(wù)、公務(wù)領(lǐng)域必須建立倫理審查機(jī)制,并擴(kuò)大義務(wù)主體范圍,要求符合條件的企業(yè)及機(jī)構(gòu)設(shè)立內(nèi)部倫理委員會(huì)或引入第三方審查,促進(jìn)科技研發(fā)與倫理規(guī)范的良性互動(dòng)。
其二,創(chuàng)新激勵(lì)政策工具箱升級(jí)。通過稅收抵免、中小企業(yè)專項(xiàng)扶持等激勵(lì)政策降低創(chuàng)新成本,并且建立人工智能政策適配性評(píng)估制度,確保新政策與行業(yè)發(fā)展需求匹配。此外,同步強(qiáng)化研發(fā)激勵(lì)機(jī)制,明確對(duì)核心領(lǐng)域技術(shù)攻關(guān)給予專項(xiàng)支持,對(duì)突出貢獻(xiàn)者實(shí)施表彰獎(jiǎng)勵(lì),形成“普惠政策+精準(zhǔn)激勵(lì)”的支持網(wǎng)絡(luò)。
其三,風(fēng)險(xiǎn)防控體系迭代升級(jí)。針對(duì)算法偏見、端側(cè)人工智能數(shù)據(jù)濫用、虛假信息傳播等新型風(fēng)險(xiǎn),構(gòu)建技術(shù)治理與制度約束的雙重防線。例如,通過動(dòng)態(tài)授權(quán)機(jī)制限制跨應(yīng)用權(quán)限調(diào)用,建立可信數(shù)據(jù)標(biāo)簽體系提升數(shù)據(jù)可信度,強(qiáng)化算法審計(jì)與安全評(píng)估要求,形成覆蓋數(shù)據(jù)采集、模型訓(xùn)練、應(yīng)用部署的閉環(huán)風(fēng)險(xiǎn)管理。
其四,創(chuàng)新責(zé)任分配機(jī)制。新增開源基礎(chǔ)模型訓(xùn)練合理使用規(guī)則,在允許著作權(quán)人聲明例外的前提下免費(fèi)使用合法作品訓(xùn)練模型,并建立協(xié)商補(bǔ)償機(jī)制。針對(duì)生成式人工智能完善“安全港”制度,明確服務(wù)提供者在建立投訴機(jī)制、履行內(nèi)容標(biāo)識(shí)等條件下可免除知識(shí)產(chǎn)權(quán)賠償責(zé)任,同步規(guī)定使用者過錯(cuò)責(zé)任及提供者連帶責(zé)任,實(shí)現(xiàn)創(chuàng)新包容與權(quán)益保障的精準(zhǔn)平衡。
《中國(guó)社會(huì)科學(xué)報(bào)》:為促進(jìn)開源人工智能模型發(fā)展,《示范法3.0》進(jìn)行了專門的條款修訂,相關(guān)修訂是基于怎樣的考慮?
周輝:本次《示范法3.0》在修訂過程中特別關(guān)注了開源人工智能模型的發(fā)展需求,并為此進(jìn)行了專門的條款修訂。相關(guān)修訂主要基于兩方面的考慮:一方面,開源人工智能作為推動(dòng)技術(shù)創(chuàng)新和產(chǎn)業(yè)生態(tài)繁榮的重要力量,亟須在法律層面得到明確支持和規(guī)范引導(dǎo);另一方面,開源模型的快速發(fā)展也帶來了諸如對(duì)開源模型的定義模糊、訓(xùn)練數(shù)據(jù)存在版權(quán)爭(zhēng)議等現(xiàn)實(shí)問題,需要通過制度設(shè)計(jì)加以解決。具體修訂內(nèi)容主要體現(xiàn)在定義與標(biāo)準(zhǔn)的明確化、產(chǎn)業(yè)生態(tài)的培育與支持、版權(quán)爭(zhēng)議的合理解決三個(gè)方面。
《中國(guó)社會(huì)科學(xué)報(bào)》:隨著人工智能技術(shù)的不斷發(fā)展和應(yīng)用場(chǎng)景的日益廣泛,《人工智能示范法》未來還可能在哪些方面進(jìn)一步完善和迭代?
周輝:作為人工智能治理的階段化成果,《人工智能示范法》仍會(huì)不斷提升在對(duì)技術(shù)的全面認(rèn)知、制度與應(yīng)用領(lǐng)域適配性兩方面的水平,這既是應(yīng)對(duì)技術(shù)不確定性的必然選擇,也是構(gòu)建創(chuàng)新友好型法治環(huán)境的必由之路。《人工智能示范法》未來會(huì)在技術(shù)治理規(guī)范體系的動(dòng)態(tài)調(diào)適、持續(xù)優(yōu)化創(chuàng)新激勵(lì)的制度供給、持續(xù)探索和豐富垂直領(lǐng)域的立法建議三方面持續(xù)完善。在持續(xù)探索和豐富垂直領(lǐng)域的立法建議方面,我們認(rèn)為,人工智能治理既需要共性規(guī)則的普適約束,又依賴特殊規(guī)則的情景適配。在縱向維度,將繼續(xù)以示范法的一般原則與規(guī)則為指導(dǎo),針對(duì)重點(diǎn)領(lǐng)域制定和完善專項(xiàng)實(shí)施細(xì)則;在橫向維度,再通過收集各專項(xiàng)領(lǐng)域?qū)嵺`中的治理經(jīng)驗(yàn),總結(jié)共性的問題、理念與方法等,反哺完善示范法的一般性制度。