新質(zhì)生產(chǎn)力視野下的人工智能立法研究
西南政法大學(xué)教授，重慶市人大法制委員會(huì)主任委員 付子堂
習(xí)近平總書記創(chuàng)造性地提出發(fā)展新質(zhì)生產(chǎn)力，為高質(zhì)量發(fā)展注入全新動(dòng)力。其中，人工智能作為促進(jìn)新質(zhì)生產(chǎn)力發(fā)展的重要引擎，在深刻影響生產(chǎn)力和生產(chǎn)關(guān)系的同時(shí)，也給現(xiàn)有法律關(guān)系、法律體系帶來了多重層面的風(fēng)險(xiǎn)與挑戰(zhàn)。如何解構(gòu)人工智能的新質(zhì)生產(chǎn)力屬性，從新質(zhì)生產(chǎn)力的視角剖析人工智能所面臨的法治挑戰(zhàn)，并通過立法因地制宜地推動(dòng)人工智能發(fā)揮新質(zhì)生產(chǎn)力作用，成為一項(xiàng)需要深入研究的重要課題。
一、新質(zhì)生產(chǎn)力視野下加強(qiáng)人工智能立法研究的重要性和必要性
2023年9月，習(xí)近平總書記在黑龍江考察期間首次提出“新質(zhì)生產(chǎn)力”這一重要概念，指出“整合科技創(chuàng)新資源，引領(lǐng)發(fā)展戰(zhàn)略性新興產(chǎn)業(yè)和未來產(chǎn)業(yè)，加快形成新質(zhì)生產(chǎn)力”。這是在繼承創(chuàng)新馬克思主義生產(chǎn)力理論基礎(chǔ)上，結(jié)合新時(shí)代中國特色社會(huì)主義實(shí)際提出的原創(chuàng)性概念，由技術(shù)革命性突破、生產(chǎn)要素創(chuàng)新性配置、產(chǎn)業(yè)深度轉(zhuǎn)型升級(jí)而催生，以勞動(dòng)者、勞動(dòng)資料、勞動(dòng)對(duì)象及其優(yōu)化組合的躍升為基本內(nèi)涵，以全要素生產(chǎn)率大幅提升為核心標(biāo)志，特點(diǎn)是創(chuàng)新，關(guān)鍵在質(zhì)優(yōu)，本質(zhì)是先進(jìn)生產(chǎn)力。2024年1月31日，習(xí)近平總書記在二十屆中央政治局第十一次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，“新質(zhì)生產(chǎn)力是創(chuàng)新起主導(dǎo)作用，擺脫傳統(tǒng)經(jīng)濟(jì)增長方式、生產(chǎn)力發(fā)展路徑，具有高科技、高效能、高質(zhì)量特征，符合新發(fā)展理念的先進(jìn)生產(chǎn)力質(zhì)態(tài)”；“要以科技創(chuàng)新推動(dòng)產(chǎn)業(yè)創(chuàng)新，特別是以顛覆性技術(shù)和前沿技術(shù)催生新產(chǎn)業(yè)、新模式、新動(dòng)能，發(fā)展新質(zhì)生產(chǎn)力”。黨的二十屆三中全會(huì)通過的《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國式現(xiàn)代化的決定》要求，健全因地制宜發(fā)展新質(zhì)生產(chǎn)力體制機(jī)制；完善推動(dòng)新一代信息技術(shù)、人工智能等戰(zhàn)略性產(chǎn)業(yè)發(fā)展政策和治理體系；推動(dòng)制造業(yè)高端化、智能化、綠色化發(fā)展；加快構(gòu)建促進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展體制機(jī)制；建立人工智能安全監(jiān)管制度；完善生成式人工智能發(fā)展和管理機(jī)制。
2025年3月5日，習(xí)近平總書記在參加他所在的十四屆全國人大三次會(huì)議江蘇代表團(tuán)審議時(shí)指出，科技創(chuàng)新和產(chǎn)業(yè)創(chuàng)新，是發(fā)展新質(zhì)生產(chǎn)力的基本路徑。近年來，隨著科技創(chuàng)新的持續(xù)推進(jìn)，互聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)、人工智能、區(qū)塊鏈、元宇宙等現(xiàn)代新興信息技術(shù)迅速發(fā)展，已成為新質(zhì)生產(chǎn)力的代表，正催生著新一輪科技革命和產(chǎn)業(yè)變革，由此推動(dòng)科技法治與科技法學(xué)的新發(fā)展。其中，人工智能作為數(shù)字科技領(lǐng)域中最具代表性的核心技術(shù)，是促進(jìn)新質(zhì)生產(chǎn)力發(fā)展的重要引擎。同時(shí)，隨著人工智能產(chǎn)業(yè)對(duì)生產(chǎn)力和生產(chǎn)關(guān)系的深刻影響和深度改造，也加劇了技術(shù)發(fā)展與現(xiàn)有法律關(guān)系、法律體系之間的矛盾。早在2017年，國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》就指出，“人工智能是影響面廣的顛覆性技術(shù)，可能帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會(huì)倫理、侵犯?jìng)€(gè)人隱私、挑戰(zhàn)國際關(guān)系準(zhǔn)則等問題，將對(duì)政府管理、經(jīng)濟(jì)安全和社會(huì)穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響”，并提出“初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系”。當(dāng)前，人工智能技術(shù)處于快速發(fā)展期，治理體系正在加速構(gòu)建完善。作為新質(zhì)生產(chǎn)力的人工智能既帶來了法治風(fēng)險(xiǎn)，也帶來了法律制度和規(guī)則更新迭代的契機(jī)。
二、人工智能作為新質(zhì)生產(chǎn)力帶來的法律挑戰(zhàn)
2021年，聯(lián)合國教科文組織大會(huì)將人工智能定義為：整合模型和算法的信息處理技術(shù)，這些模型和算法能夠生成學(xué)習(xí)和執(zhí)行認(rèn)知任務(wù)的能力，從而在物質(zhì)環(huán)境和虛擬環(huán)境中實(shí)現(xiàn)預(yù)測(cè)和決策等結(jié)果。美國斯坦福大學(xué)教授約翰•麥卡錫將其定義為：人工智能是制造智能機(jī)器，特別是智能計(jì)算機(jī)程序的科學(xué)和工程。人工智能作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，具有自主智能屬性、通用賦能屬性、要素撬動(dòng)屬性，高度契合新質(zhì)生產(chǎn)力內(nèi)涵。人工智能重塑了既有的生產(chǎn)方式與生產(chǎn)關(guān)系，技術(shù)發(fā)展的速度超出了社會(huì)預(yù)期，由此產(chǎn)生了安全、倫理、規(guī)則等多重層面的法律問題，傳統(tǒng)法律制度和法治體系逐漸顯現(xiàn)出諸多不適應(yīng)，社會(huì)治理體系也亟需完善。加強(qiáng)人工智能立法，首先要對(duì)人工智能的獨(dú)特屬性形成清晰明確的認(rèn)識(shí)，制定合理有效的法律法規(guī)來規(guī)范引導(dǎo)人工智能的科學(xué)有序發(fā)展，進(jìn)而推動(dòng)新質(zhì)生產(chǎn)力發(fā)展。
（一）安全問題
當(dāng)今人工智能的發(fā)展以海量的數(shù)據(jù)資源為支撐，不僅涉及數(shù)據(jù)潛在價(jià)值的發(fā)掘，還包括通過技術(shù)創(chuàng)新和智能算法的應(yīng)用來實(shí)現(xiàn)數(shù)據(jù)的價(jià)值創(chuàng)造，并最終將這些價(jià)值轉(zhuǎn)化為經(jīng)濟(jì)增長和社會(huì)發(fā)展動(dòng)力。人工智能催生出新產(chǎn)業(yè)新業(yè)態(tài)，推動(dòng)生產(chǎn)力向更高級(jí)、更先進(jìn)的質(zhì)態(tài)演進(jìn)。但在處理數(shù)據(jù)資源過程中，也帶來了諸如數(shù)據(jù)泄露、深度偽造、事故責(zé)任等一系列不容忽視的安全問題，給國家安全、社會(huì)秩序和網(wǎng)絡(luò)空間安全帶來嚴(yán)峻挑戰(zhàn)。
一方面，輸入的數(shù)據(jù)存在一定隱患。數(shù)據(jù)本身可能潛藏問題或有被篡改的風(fēng)險(xiǎn)，一定程度上源于數(shù)據(jù)收集過程中存在偏差、不準(zhǔn)確或不完整，或者數(shù)據(jù)標(biāo)注時(shí)有錯(cuò)誤或不一致性。這可能導(dǎo)致原始數(shù)據(jù)質(zhì)量下降，影響輸入數(shù)據(jù)的可靠性，致使人工智能分析應(yīng)用數(shù)據(jù)的結(jié)果不準(zhǔn)確，引起原始數(shù)據(jù)與衍生數(shù)據(jù)的歸屬權(quán)、控制權(quán)和使用權(quán)的界定難題。另一方面，通過深度學(xué)習(xí)和大數(shù)據(jù)處理來構(gòu)建人工智能模型時(shí)，由于數(shù)字技術(shù)缺陷、人為操作失誤或黑客惡意攻擊等原因，數(shù)據(jù)造假、算法竊取、軟件漏洞等安全隱患易發(fā)頻發(fā)。此外，人工智能還可能危及人身安全。例如，以分析患者的醫(yī)療數(shù)據(jù)來提供個(gè)性化治療方案的醫(yī)療機(jī)器人、以處理道路交通數(shù)據(jù)來提供出行服務(wù)的自動(dòng)駕駛汽車等智能設(shè)施，當(dāng)其算法運(yùn)行程序出現(xiàn)漏洞或安全系統(tǒng)遭到惡意破壞時(shí)，容易引發(fā)重大安全事故。因此，保障作為新質(zhì)生產(chǎn)力的人工智能在安全有序的環(huán)境下發(fā)展，是貫徹新發(fā)展理念的必然要求，更是維護(hù)國家安全、網(wǎng)絡(luò)與數(shù)據(jù)安全的應(yīng)有之義。
（二）倫理問題
隨著新型生產(chǎn)關(guān)系的構(gòu)建，人工智能帶來的倫理問題正逐漸沖擊已有人類主導(dǎo)的法律秩序、社會(huì)秩序，人機(jī)之間的界限逐漸模糊，由此帶來與個(gè)人、社會(huì)、環(huán)境等多方面相關(guān)的倫理風(fēng)險(xiǎn)，應(yīng)制定科學(xué)合理的法律法規(guī)，實(shí)現(xiàn)人工智能穩(wěn)定應(yīng)用，保障新質(zhì)生產(chǎn)力發(fā)展。
首先，個(gè)人層面的人工智能倫理問題。人工智能在實(shí)踐中會(huì)采集、模仿人類的聲音聲紋、面部表情、肢體動(dòng)作、知識(shí)作品等，并借助光學(xué)技術(shù)、聲音控制、人臉識(shí)別、深度思維等技術(shù)，提升技術(shù)服務(wù)水平，完成自身研發(fā)升級(jí)。但在這一過程中，若未經(jīng)他人允許而進(jìn)行采集模仿或利用他人肖像、隱私等人格權(quán)客體，即存在一定的安全風(fēng)險(xiǎn)和權(quán)利爭(zhēng)議。此外，基于人工智能可不受他人干擾而獨(dú)立自主行為的屬性特征，其廣泛應(yīng)用會(huì)在一定程度上限制人類的自主權(quán)，需要立法者慎重考慮是否承認(rèn)其法律主體地位。其次，社會(huì)層面的人工智能倫理問題。人工智能借助算法實(shí)際操作運(yùn)行時(shí)，既有可能自主調(diào)整各項(xiàng)參數(shù)和規(guī)則，也有可能利用算法歧視、算法合謀等方式侵害用戶權(quán)益，致使“算法黑箱”的形成，由于不易察覺或舉證且缺乏程序透明度，難以保證公民的知情權(quán)和監(jiān)督權(quán)，挑戰(zhàn)社會(huì)公平正義。此外，由于勞動(dòng)者使用人工智能的能力各不相同，人工智能的廣泛發(fā)展可能會(huì)導(dǎo)致“數(shù)字鴻溝”，引發(fā)結(jié)構(gòu)性失業(yè)，激化社會(huì)矛盾，影響社會(huì)穩(wěn)定。最后，環(huán)境層面的人工智能倫理問題。2021年11月24日，聯(lián)合國教科文組織第41屆大會(huì)通過了《人工智能倫理問題建議書》，強(qiáng)調(diào)“在人工智能系統(tǒng)的整個(gè)生命周期內(nèi)，會(huì)員國和工商企業(yè)應(yīng)評(píng)估對(duì)環(huán)境產(chǎn)生的直接和間接影響”。人工智能的發(fā)展應(yīng)用依賴大量的硬件設(shè)備，以高能耗為運(yùn)行特征。因此，人工智能系統(tǒng)在其生命周期內(nèi)，通常會(huì)消耗巨大的自然資源，如不加規(guī)制便會(huì)造成嚴(yán)重的環(huán)境污染，不利于可持續(xù)發(fā)展。
（三）規(guī)則問題
2024年3月21日，聯(lián)合國大會(huì)通過首個(gè)關(guān)于人工智能的全球決議《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機(jī)遇，促進(jìn)可持續(xù)發(fā)展》，已認(rèn)識(shí)到人工智能規(guī)制不足所帶來的風(fēng)險(xiǎn)。決議指出，“人工智能系統(tǒng)，其生命周期包括前期設(shè)計(jì)、開發(fā)、評(píng)價(jià)、測(cè)試、部署、使用、銷售、采購、運(yùn)行和淘汰等階段”“不當(dāng)或惡意地設(shè)計(jì)、開發(fā)、部署和使用人工智能系統(tǒng)——例如在沒有適當(dāng)保障措施或不符合國際法的情況下——構(gòu)成風(fēng)險(xiǎn)”。
一方面，在設(shè)計(jì)開發(fā)環(huán)節(jié)，人工智能的算法、數(shù)據(jù)、算力三要素存在規(guī)制不足問題。算法作為人工智能的核心技術(shù)，具有自主學(xué)習(xí)、輔助決策、配置社會(huì)資源等作用，憑借機(jī)器優(yōu)勢(shì)、架構(gòu)優(yōu)勢(shì)和嵌入優(yōu)勢(shì)演化為新型的準(zhǔn)權(quán)力，如果缺乏規(guī)制會(huì)出現(xiàn)新的權(quán)力濫用。例如因算法的高度復(fù)雜技術(shù)特征導(dǎo)致權(quán)力不透明的“算法黑箱”，又如利益驅(qū)使下算法通過數(shù)據(jù)分析導(dǎo)致對(duì)特定群體的“算法歧視”等。而算法的基礎(chǔ)是大數(shù)據(jù)，是人工智能的主要社會(huì)資源和新型生產(chǎn)要素，在數(shù)據(jù)確權(quán)、數(shù)據(jù)安全、數(shù)據(jù)流通規(guī)則等方面需要完善。另外，服務(wù)于算法和數(shù)據(jù)的硬件、軟件基礎(chǔ)算力，依賴于能源、資源、人力等市場(chǎng)要素的配置，算力作為數(shù)字時(shí)代的新型生產(chǎn)力對(duì)推進(jìn)“東數(shù)西算”戰(zhàn)略的落實(shí)至關(guān)重要，其發(fā)展需要規(guī)則予以保障。另一方面，在部署應(yīng)用環(huán)節(jié)，人工智能的通用賦能屬性，使其對(duì)人類社會(huì)產(chǎn)生廣泛而深遠(yuǎn)的影響。自動(dòng)駕駛汽車、智能診療系統(tǒng)、人形機(jī)器人、生成式人工智能等具體應(yīng)用不斷出現(xiàn)，產(chǎn)生了全新的權(quán)利義務(wù)關(guān)系。其中，自動(dòng)駕駛車輛存在道路交通事故的歸責(zé)對(duì)象爭(zhēng)議問題，智能診療系統(tǒng)存在自主性、透明性、安全性不足以及醫(yī)療事故歸責(zé)問題。隨著人工智能機(jī)器人的出現(xiàn)，“機(jī)器犯罪”對(duì)刑法規(guī)制體系帶來沖擊，傳統(tǒng)的刑法構(gòu)成要件難以辨析責(zé)任承擔(dān)，以及如何區(qū)分研發(fā)者、使用者與人工智能致害結(jié)果的因果關(guān)系問題。另外，目前人工智能已經(jīng)進(jìn)入執(zhí)法、司法領(lǐng)域，給法律程序、訴訟參與人制度、訴訟權(quán)利義務(wù)關(guān)系帶來了許多不容忽視的問題。
三、強(qiáng)化人工智能發(fā)揮新質(zhì)生產(chǎn)力作用的立法保障
人工智能是新一輪科技革命和產(chǎn)業(yè)革命的核心引擎，是推動(dòng)新質(zhì)生產(chǎn)力快速發(fā)展的重要驅(qū)動(dòng)力，但亟待通過制定法律法規(guī)來規(guī)范和引導(dǎo)人工智能技術(shù)的進(jìn)步，以“善治”促“善智”。2025年3月11日，第十四屆全國人民代表大會(huì)第三次會(huì)議審議批準(zhǔn)了《全國人民代表大會(huì)常務(wù)委員會(huì)工作報(bào)告》，在今后一年的任務(wù)中明確提出，圍繞人工智能、數(shù)字經(jīng)濟(jì)、大數(shù)據(jù)、自動(dòng)駕駛等新興領(lǐng)域加強(qiáng)立法研究。我國人工智能制度設(shè)計(jì)和立法實(shí)踐，一方面要具備前瞻性和先進(jìn)性視角，在推動(dòng)出臺(tái)具有中國特色的人工智能法的同時(shí)，靈活修改完善相關(guān)法律規(guī)則，發(fā)展具有中國特色的人工智能治理體系，在人工智能的國際治理競(jìng)爭(zhēng)與合作中發(fā)出中國聲音、提出中國方案；另一方面要具有國際視野，統(tǒng)籌推進(jìn)國內(nèi)法治和涉外法治，促進(jìn)人工智能立法與國際接軌，加強(qiáng)人工智能領(lǐng)域的國際交流與合作，推動(dòng)構(gòu)建開放包容的全球人工智能治理體系。
（一）當(dāng)前國際人工智能立法規(guī)制情況
加強(qiáng)人工智能治理已成為當(dāng)今世界各國面臨的共同課題。前述聯(lián)合國大會(huì)決議、聯(lián)合國教科文組織的建議就是人工智能規(guī)制倡議性文件。2023年10月，美國發(fā)布的《關(guān)于安全、可靠、可信地開發(fā)和使用人工智能的行政命令》，為人工智能安全和保障建立了新標(biāo)準(zhǔn)。歐盟理事會(huì)于2024年5月正式批準(zhǔn)全球第一部人工智能法案，以人工智能技術(shù)風(fēng)險(xiǎn)分級(jí)管理為核心，為人工智能治理提供了高標(biāo)準(zhǔn)規(guī)則框架。歐盟人工智能法強(qiáng)調(diào)立法的留白，重點(diǎn)關(guān)注高風(fēng)險(xiǎn)人工智能，注重?cái)?shù)據(jù)合規(guī)、個(gè)人數(shù)據(jù)保護(hù)等。美國的行政命令僅要求能力超過GPT-4的超大能力大模型強(qiáng)制披露必要信息。英國《支持創(chuàng)新的人工智能監(jiān)管方式》白皮書指出，由于通用大模型涉及領(lǐng)域的廣泛性，難以將其納入任一監(jiān)管機(jī)構(gòu)的職權(quán)范圍，應(yīng)加強(qiáng)中央層面的監(jiān)管協(xié)調(diào)。新加坡將建設(shè)全球人工智能解決方案中心、參與全球人工智能技術(shù)規(guī)則制定、形成多方共贏的合作模式，作為人工智能發(fā)展戰(zhàn)略的三個(gè)核心方向?？傮w看，多數(shù)國家對(duì)人工智能立法比較慎重，呈現(xiàn)出保守傾向。由于人工智能技術(shù)發(fā)展已經(jīng)成為政治、經(jīng)濟(jì)和技術(shù)“三位一體”的復(fù)合型問題，各國需要協(xié)作面對(duì)。但美國高度警惕我國的技術(shù)追趕，出臺(tái)了大量針對(duì)中國人工智能領(lǐng)域的封鎖、制裁和懲罰性舉措。鑒于此，我國人工智能立法應(yīng)當(dāng)積極應(yīng)對(duì)風(fēng)險(xiǎn)挑戰(zhàn)，承擔(dān)大國責(zé)任，展現(xiàn)大國擔(dān)當(dāng)，探索全球人工智能法治的思路和方案，引領(lǐng)全球人工智能產(chǎn)業(yè)走普惠、有益、安全的發(fā)展道路。
（二）國內(nèi)視角下人工智能立法展望
第一，當(dāng)前國內(nèi)立法概況。我國人工智能的發(fā)展走在世界前列，也在不斷探索對(duì)人工智能的立法規(guī)制。2023年10月18日，習(xí)近平主席在第三屆“一帶一路”國際合作高峰論壇開幕式上宣布中方提出《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案，主要包括堅(jiān)持以人為本、智能向善，堅(jiān)持相互尊重、平等互利，建立風(fēng)險(xiǎn)等級(jí)測(cè)試評(píng)估體系等。近年來，我國相繼出臺(tái)了網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等法律，為人工智能的發(fā)展提供了基本法律框架。2025年3月7日，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，將于2025年9月1日起施行。我國人工智能立法，應(yīng)當(dāng)從中國本土實(shí)踐特色出發(fā)，秉持人本理念，堅(jiān)持發(fā)展與安全并重的系統(tǒng)思維，既注重人工智能帶來的創(chuàng)新和進(jìn)步，也重視可能帶來的風(fēng)險(xiǎn)和挑戰(zhàn)；既總結(jié)既往網(wǎng)絡(luò)立法經(jīng)驗(yàn)，又合理借鑒國外法律和國際規(guī)則中的制度資源，適應(yīng)國際合作與競(jìng)爭(zhēng)。通過科學(xué)、全面的立法，構(gòu)建具有中國特色的人工智能法治體系。
我國人工智能立法可以在“集中立法+要素立法+場(chǎng)景立法（1+3+X）”的模式下有序推進(jìn)。一方面，應(yīng)當(dāng)出臺(tái)一部具有中國特色的人工智能法，為依法加強(qiáng)人工智能治理提供基礎(chǔ)規(guī)則，保障新質(zhì)生產(chǎn)力下新型勞動(dòng)關(guān)系與要素在安全的基礎(chǔ)上不斷發(fā)展。在此過程中，需要充分認(rèn)識(shí)人工智能法“公私交融”的特征，避免陷入私法規(guī)范或公法規(guī)制的單一路徑。同時(shí)，還要看到人工智能不僅具有技術(shù)性還具有社會(huì)性，人工智能的綜合立法應(yīng)包含人工智能的權(quán)利法、責(zé)任法、市場(chǎng)法、監(jiān)管法和促進(jìn)法，構(gòu)建自上而下與自下而上的雙向治理范式。另一方面，人工智能的集中立法固然能從整體上明確原則、提供指導(dǎo)、提煉共識(shí)、挖掘共性、劃定紅線，但不應(yīng)寄希望于畢其功于一役。一是人工智能產(chǎn)業(yè)的應(yīng)用廣泛，不同應(yīng)用場(chǎng)景的人工智能風(fēng)險(xiǎn)類型與發(fā)展挑戰(zhàn)各不相同，集中式的立法無法面面俱到。二是算法、算力、數(shù)據(jù)的共同作用是新一輪人工智能熱潮的根本原因。在人工智能集中立法的同時(shí)，還需要結(jié)合人工智能的要素與場(chǎng)景進(jìn)行分散式的補(bǔ)充立法，才能適應(yīng)人工智能作為新質(zhì)生產(chǎn)力更新迭代迅速、技術(shù)不確定、風(fēng)險(xiǎn)難預(yù)見等特征。要在人工智能法的基礎(chǔ)上，結(jié)合網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等已有智能要素立法，完善數(shù)據(jù)財(cái)產(chǎn)法、算法問責(zé)法、算力安全法等智能要素法的制定；同時(shí)，推動(dòng)自動(dòng)駕駛汽車、醫(yī)療人工智能、人形機(jī)器人等應(yīng)用場(chǎng)景的專門立法，破解不同人工智能應(yīng)用形式面臨的法律挑戰(zhàn)，最大程度激活新質(zhì)生產(chǎn)力的潛能。
第二，人工智能立法理念。人工智能技術(shù)的深入研發(fā)與應(yīng)用，不僅涉及國家利益和社會(huì)公共利益，還涉及私人利益。對(duì)人工智能進(jìn)行法律規(guī)制，是一項(xiàng)牽一發(fā)而動(dòng)全身的系統(tǒng)工程。人工智能立法應(yīng)以增進(jìn)人類共同福祉為目標(biāo)，以保障社會(huì)安全、尊重人類權(quán)益為前提，以規(guī)范人工智能在法律、倫理和人道主義層面的價(jià)值取向?yàn)樽谥迹瑘?jiān)持平等互利，促進(jìn)智能向善。
立法目標(biāo)。人工智能法的制定，應(yīng)“以增加社會(huì)公共福祉為目標(biāo)”，既保障安全又強(qiáng)調(diào)發(fā)展，在參考既往科技領(lǐng)域立法的基礎(chǔ)上，結(jié)合人工智能實(shí)踐中的問題，前瞻性地涵蓋適用范圍、法律原則、法律義務(wù)、法律責(zé)任等方面內(nèi)容，保障人工智能發(fā)揮新質(zhì)生產(chǎn)力作用。
法律價(jià)值原則。堅(jiān)持以人為本、智能向善，應(yīng)將道德、倫理、公平、自由等價(jià)值因素納入人工智能法的制定考量中，闡明人工智能法治實(shí)踐應(yīng)當(dāng)遵循的基本原則，包括人本原則、安全原則、發(fā)展原則、公平原則、透明原則等，確保人工智能始終朝著有利于人類文明進(jìn)步的方向發(fā)展。
法律適用范圍。立法應(yīng)涵蓋人工智能設(shè)計(jì)研發(fā)、提供、使用等生命周期各環(huán)節(jié)，實(shí)現(xiàn)對(duì)人工智能法律風(fēng)險(xiǎn)的全生命周期治理。在人工智能實(shí)踐過程中，科學(xué)劃定應(yīng)當(dāng)重點(diǎn)監(jiān)管的高風(fēng)險(xiǎn)領(lǐng)域，其他低風(fēng)險(xiǎn)領(lǐng)域可以采取適當(dāng)?shù)姆潘烧?，確保監(jiān)管的精準(zhǔn)性和有效性，進(jìn)一步激發(fā)市場(chǎng)活力和創(chuàng)新動(dòng)力。
權(quán)利義務(wù)設(shè)置?；谌斯ぶ悄墚a(chǎn)業(yè)鏈中主體的多樣性與復(fù)雜性，可按照不同活動(dòng)特點(diǎn)區(qū)分人工智能的研發(fā)者、提供者、使用者，合理分配權(quán)利義務(wù)，包括但不限于保障人工智能安全性、公平性和可解釋性，進(jìn)行科技倫理審查和安全審查等，確保所承擔(dān)的義務(wù)與潛在風(fēng)險(xiǎn)相匹配，堅(jiān)決維護(hù)安全底線，保障人工智能技術(shù)健康發(fā)展。
第三，人工智能立法具體規(guī)則。堅(jiān)持分級(jí)治理理念。人工智能更新迭代快、發(fā)展?jié)摿Υ?，?shí)行風(fēng)險(xiǎn)分類分級(jí)的動(dòng)態(tài)監(jiān)督管理，能夠保障人工智能的安全性和合規(guī)性。同時(shí)，還可以提高人工智能治理的適配性與精確度，避免“一刀切”帶來的安全與發(fā)展的失衡，激勵(lì)人工智能產(chǎn)業(yè)創(chuàng)新，促進(jìn)其健康、合規(guī)、可持續(xù)發(fā)展。應(yīng)當(dāng)全面考慮各類人工智能對(duì)新質(zhì)生產(chǎn)力發(fā)展的重要程度，高度關(guān)注其發(fā)展過程中可能帶來的潛在風(fēng)險(xiǎn)，審查其對(duì)國家安全、社會(huì)利益或者個(gè)人合法權(quán)益可能造成的危害，定期評(píng)估、調(diào)整現(xiàn)有的風(fēng)險(xiǎn)分級(jí)標(biāo)準(zhǔn)，針對(duì)性地制定監(jiān)管措施。同時(shí)，對(duì)于具有高風(fēng)險(xiǎn)的人工智能，應(yīng)當(dāng)構(gòu)建人工智能“守門人”規(guī)則，確保風(fēng)險(xiǎn)管理職責(zé)到位。
完善人工智能責(zé)任規(guī)則。目前，人工智能已在多個(gè)應(yīng)用領(lǐng)域引發(fā)事故、造成損害侵權(quán)等，產(chǎn)生了責(zé)任分配問題，比如自動(dòng)駕駛汽車失控導(dǎo)致交通事故、生成式人工智能著作權(quán)侵權(quán)等，亟需完善相關(guān)責(zé)任規(guī)則。一是適度的罰款制度。對(duì)于嚴(yán)重違法開展人工智能研發(fā)、提供、使用活動(dòng)的，應(yīng)當(dāng)綜合考慮行為人的規(guī)模、主觀過錯(cuò)、行為后果、獲利情況等進(jìn)行罰款，以便起到威懾作用。二是合理的侵權(quán)責(zé)任規(guī)則。針對(duì)人工智能風(fēng)險(xiǎn)事故、損害侵權(quán)等情況，應(yīng)當(dāng)以主客觀因素、因果關(guān)系為基礎(chǔ)，分配不同法律主體的責(zé)任。既要完善人工智能產(chǎn)品責(zé)任，以便應(yīng)對(duì)研發(fā)生產(chǎn)端的風(fēng)險(xiǎn)致害問題，解決生產(chǎn)者、銷售者一方的責(zé)任，又要完善應(yīng)用端的提供者、使用者一方的責(zé)任規(guī)則。三是適當(dāng)?shù)拿庳?zé)規(guī)則。為推動(dòng)人工智能產(chǎn)業(yè)的發(fā)展與應(yīng)用，鼓勵(lì)企業(yè)采取合規(guī)措施預(yù)防風(fēng)險(xiǎn)，確保人工智能的良性發(fā)展。同時(shí)，對(duì)于免費(fèi)開源人工智能進(jìn)行適當(dāng)?shù)呢?zé)任豁免，以便鼓勵(lì)知識(shí)共享與技術(shù)創(chuàng)新。此外，對(duì)于以生成式人工智能為代表的人工智能服務(wù)，應(yīng)當(dāng)更新“避風(fēng)港”規(guī)則，合理界定提供者與使用者之間的責(zé)任。
構(gòu)建新型產(chǎn)權(quán)規(guī)則。一方面，通過法律的形式明確數(shù)據(jù)產(chǎn)權(quán)規(guī)則，構(gòu)建新質(zhì)生產(chǎn)力作為新型勞動(dòng)對(duì)象的人工智能要素分配規(guī)則，合理確定數(shù)據(jù)在獲取、處理、流通過程中的權(quán)利歸屬，完善和細(xì)化數(shù)據(jù)產(chǎn)權(quán)的結(jié)構(gòu)性分置規(guī)則。另一方面，對(duì)于算法等新型勞動(dòng)資料，可以探索以專利權(quán)、新型知識(shí)產(chǎn)權(quán)等規(guī)則為代表的確權(quán)和權(quán)利保護(hù)路徑。此外，對(duì)于生成式人工智能生成內(nèi)容的權(quán)利確認(rèn)和歸屬，則需要更新現(xiàn)行著作權(quán)法中的獨(dú)創(chuàng)性認(rèn)定標(biāo)準(zhǔn)、“思想表達(dá)二分法”和合理使用、風(fēng)險(xiǎn)負(fù)擔(dān)以及責(zé)任承擔(dān)等規(guī)則，積極推動(dòng)知識(shí)產(chǎn)權(quán)制度的理論創(chuàng)新、功能發(fā)展和機(jī)制優(yōu)化，構(gòu)建新質(zhì)生產(chǎn)力下人工智能新型生產(chǎn)關(guān)系中的產(chǎn)權(quán)規(guī)則，重新定義專利、外觀設(shè)計(jì)、文學(xué)和藝術(shù)作品等固有的知識(shí)產(chǎn)權(quán)概念。
構(gòu)建風(fēng)險(xiǎn)防控機(jī)制。鑒于人工智能技術(shù)及其廣泛應(yīng)用會(huì)帶來“算法黑箱”、隱私泄露、“大數(shù)據(jù)殺熟”等風(fēng)險(xiǎn)隱患，主管部門應(yīng)當(dāng)加強(qiáng)與企業(yè)、組織、科研機(jī)構(gòu)以及公眾之間的合作和溝通，收集分析人工智能安全信息，按照危害程度、影響范圍等因素對(duì)安全事件予以準(zhǔn)確分類分級(jí)，制定合理且切實(shí)可行的處理方案，構(gòu)建風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警和信息通報(bào)制度。同時(shí)，還應(yīng)引導(dǎo)企業(yè)和行業(yè)組織進(jìn)行自我監(jiān)管，要求科研機(jī)構(gòu)協(xié)助監(jiān)督和識(shí)別潛在風(fēng)險(xiǎn)，幫助公眾提升人工智能風(fēng)險(xiǎn)防范意識(shí)，確保對(duì)既有風(fēng)險(xiǎn)和潛在風(fēng)險(xiǎn)的及時(shí)處置和有效防范。
建立統(tǒng)籌協(xié)調(diào)治理機(jī)制。實(shí)現(xiàn)人工智能有效治理，應(yīng)以統(tǒng)籌發(fā)展與安全為目標(biāo)，以統(tǒng)籌倫理、立法、標(biāo)準(zhǔn)等治理板塊為核心，以統(tǒng)籌既有治理經(jīng)驗(yàn)及資源與人工智能發(fā)展實(shí)際問題為切入點(diǎn)，建立并完善國家層面的人工智能統(tǒng)籌治理機(jī)制，定期開展人工智能技術(shù)監(jiān)測(cè)、評(píng)估、審計(jì)工作，調(diào)查收集人工智能發(fā)展和治理情況，統(tǒng)籌設(shè)置國家層面的人工智能管理機(jī)構(gòu)，以提供強(qiáng)有力的組織與制度保障。
（本文系中國法學(xué)會(huì)2024年度習(xí)近平法治思想研究專項(xiàng)委托課題“加強(qiáng)因地制宜發(fā)展新質(zhì)生產(chǎn)力的法治保障”〔CLS（2024）WT–11〕的部分研究成果）
【來源：《習(xí)近平法治思想研究與實(shí)踐》專刊2025年第2期（《民主與法制》周刊2025年第11期） 本文轉(zhuǎn)自中國法學(xué)微信公眾號(hào)】
京公網(wǎng)安備 11010102003980號(hào)