當(dāng)前，全球人工智能技術(shù)發(fā)展已進(jìn)入快車(chē)道，新一輪科技革命正在重塑經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)。2025年政府工作報(bào)告首次將“人工智能﹢”單獨(dú)列為政策章節(jié)，明確提出要持續(xù)推進(jìn)“人工智能﹢”行動(dòng)，將數(shù)字技術(shù)與制造優(yōu)勢(shì)、市場(chǎng)優(yōu)勢(shì)更好結(jié)合起來(lái)，支持大模型廣泛應(yīng)用。據(jù)數(shù)據(jù)公司IDC預(yù)測(cè)，到2028年中國(guó)人工智能總投資規(guī)模將突破1000億美元，5年復(fù)合增長(zhǎng)率為35.2%。然而，技術(shù)快速發(fā)展的同時(shí)，AI詐騙、AI侵權(quán)等新型違法犯罪行為層出不窮，給數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)保護(hù)和社會(huì)倫理帶來(lái)嚴(yán)峻挑戰(zhàn)。近日，在2025中關(guān)村論壇“科技與法治論壇”現(xiàn)場(chǎng)，與會(huì)嘉賓就如何通過(guò)立法為人工智能“保駕護(hù)航”進(jìn)行深入探討。

人工智能安全風(fēng)險(xiǎn)逐漸顯露

“過(guò)去常說(shuō)‘有圖有真相’，如今哪怕有視頻也可能是精心設(shè)計(jì)的騙局?！闭搲?，清華大學(xué)智能法治研究院院長(zhǎng)、清華大學(xué)法學(xué)院教授申衛(wèi)星分享了一個(gè)案例：某企業(yè)財(cái)務(wù)人員收到一封轉(zhuǎn)賬郵件，憑借日常反詐意識(shí)準(zhǔn)確識(shí)別出這是釣魚(yú)郵件。然而，不一會(huì)，又收到一段“公司CFO召開(kāi)高管會(huì)議”的視頻，視頻中CFO神態(tài)自若，并明確指示其進(jìn)行轉(zhuǎn)賬操作。隨后，財(cái)務(wù)分15次給5個(gè)賬戶轉(zhuǎn)了兩億港幣，全程未察覺(jué)視頻系偽造。

這并非個(gè)案。公安部數(shù)據(jù)顯示，近兩年來(lái)，全國(guó)共發(fā)生“AI換臉”類(lèi)詐騙案近百起。奇安信集團(tuán)副總裁段繼平透露：“除了金融詐騙，AI技術(shù)還被用于制造虛假新聞、侵犯知識(shí)產(chǎn)權(quán)等違法行為。從AI換臉詐騙到偽造身份盜取賬戶，犯罪手段已形成完整產(chǎn)業(yè)鏈，甚至出現(xiàn)定制化AI犯罪服務(wù)?！?/p>

傳統(tǒng)法律遭遇“數(shù)字鴻溝”

面對(duì)AI技術(shù)帶來(lái)的新型法律問(wèn)題，現(xiàn)有法律體系顯得有些滯后。全國(guó)人大常委會(huì)委員、全國(guó)人大憲法和法律委員會(huì)副主任委員、清華大學(xué)法學(xué)院院長(zhǎng)周光權(quán)坦言，“由于人工智能技術(shù)迅猛發(fā)展，現(xiàn)有法律制度體系難以囊括或銜接人工智能技術(shù)引發(fā)的各類(lèi)問(wèn)題，出現(xiàn)了一定程度滯后?！?/p>

中國(guó)人民大學(xué)法學(xué)院教授、未來(lái)法治研究院副院長(zhǎng)丁曉東也表示，人工智能發(fā)展高度依賴(lài)訓(xùn)練數(shù)據(jù)，但許多現(xiàn)有的個(gè)人信息保護(hù)、著作權(quán)和數(shù)據(jù)互聯(lián)制度誕生于傳統(tǒng)工業(yè)時(shí)代，在人工智能時(shí)代已顯脫節(jié)，難以適應(yīng)大規(guī)模數(shù)據(jù)匯聚和規(guī)模效應(yīng)的需求。

盡管監(jiān)管部門(mén)已采取行動(dòng)，如國(guó)家互聯(lián)網(wǎng)信息辦公室出臺(tái)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，明確規(guī)定自9月1日起，AI生成內(nèi)容必須添加“AI”標(biāo)識(shí)。但專(zhuān)家們認(rèn)為，僅靠規(guī)則難以完全填補(bǔ)漏洞。

段繼平建議，大模型安全治理需要政策規(guī)范與技術(shù)手段并重，通過(guò)動(dòng)態(tài)監(jiān)管和全流程防控，確保AI應(yīng)用的健康發(fā)展，在段繼平看來(lái)，不僅要事前對(duì)大模型生成內(nèi)容進(jìn)行合規(guī)性約束，還要保證事中出現(xiàn)問(wèn)題時(shí)可以實(shí)時(shí)監(jiān)測(cè)、攔截，事后實(shí)現(xiàn)精準(zhǔn)溯源和取證，形成一套“技術(shù)對(duì)抗﹢源頭治理”的總體方案。

法治護(hù)航下的創(chuàng)新發(fā)展

在剛剛過(guò)去的全國(guó)兩會(huì)期間，人工智能安全防護(hù)、大模型數(shù)據(jù)安全、監(jiān)管立法成為政協(xié)委員們熱議的焦點(diǎn)議題。多位委員指出，我國(guó)人工智能領(lǐng)域的法律規(guī)范存在諸多空白，呼吁加快立法進(jìn)程。

實(shí)際上，從國(guó)際層面來(lái)看，許多國(guó)家已經(jīng)認(rèn)識(shí)到人工智能立法的重要性并付諸行動(dòng)。2022年美國(guó)發(fā)布《人工智能權(quán)利法案藍(lán)圖》，為技術(shù)發(fā)展劃定倫理邊界，2024年歐盟通過(guò)《人工智能法案》，建立起分級(jí)監(jiān)管框架。

“目前我國(guó)在大數(shù)據(jù)和人工智能立法領(lǐng)域呈現(xiàn)‘頂層規(guī)劃＋地方試點(diǎn)＋行業(yè)協(xié)同’的特點(diǎn)。”北京市人民檢察院第四分院檢察長(zhǎng)劉惠表示，未來(lái)需要進(jìn)一步填補(bǔ)法律空白，強(qiáng)化技術(shù)安全和倫理規(guī)范，推動(dòng)數(shù)智技術(shù)和法治的深度融合。

全國(guó)政協(xié)委員、中華全國(guó)律師協(xié)會(huì)監(jiān)事長(zhǎng)呂紅兵建議加快制定一部有關(guān)生成式人工智能的行政法規(guī)。在他看來(lái)，制定一部既要解決當(dāng)下問(wèn)題，又能充分考慮長(zhǎng)遠(yuǎn)的人工智能法難度極大，可以選擇生成式人工智能這一社會(huì)最關(guān)心最直接最現(xiàn)實(shí)的“切口”，重點(diǎn)加快出臺(tái)有關(guān)生成式人工智能全方位規(guī)范的立法。

全國(guó)政協(xié)委員、金杜律師事務(wù)所高級(jí)合伙人張毅提出，立法應(yīng)當(dāng)堅(jiān)持以人民為中心，保障人的主體地位和權(quán)益，遵循“以人為本、智能向善、造福人類(lèi)”的原則。

申衛(wèi)星表示，科學(xué)合理的法律規(guī)制有利于提升應(yīng)用部門(mén)和消費(fèi)者對(duì)于人工智能產(chǎn)品的信任度。人工智能技術(shù)的可持續(xù)發(fā)展不僅是技術(shù)競(jìng)爭(zhēng)，也是法治軟實(shí)力競(jìng)爭(zhēng)，人工智能立法已經(jīng)成為各國(guó)彰顯人工智能治理國(guó)際競(jìng)爭(zhēng)力和話語(yǔ)權(quán)的重要標(biāo)志。對(duì)于立法形式，申衛(wèi)星建議：“應(yīng)以綜合立法為主，兼顧單行法的配套，考慮好與既有法律之間的關(guān)系?！?/p>

“要采取具有問(wèn)題導(dǎo)向、試錯(cuò)性質(zhì)、有彈性的立法思路，通過(guò)行業(yè)實(shí)踐等多種規(guī)制手段逐步探索形成數(shù)字經(jīng)濟(jì)發(fā)展所需要的法律制度?！北本┐髮W(xué)電子商務(wù)法研究中心主任薛軍表示。丁曉東則建議在個(gè)人信息保護(hù)方面，對(duì)目的必要性原則作擴(kuò)張解釋?zhuān)詮V泛匯聚合理利用為前提，輔助程序性保護(hù)機(jī)制和個(gè)人信息拒絕權(quán)。在數(shù)據(jù)互聯(lián)方面，構(gòu)建合理預(yù)期機(jī)制，完善爬蟲(chóng)技術(shù)責(zé)任規(guī)則等，在保護(hù)權(quán)益與促進(jìn)創(chuàng)新之間尋求平衡。

周光權(quán)表示，當(dāng)前，社會(huì)各界對(duì)人工智能相關(guān)法律的制定充滿期待，全國(guó)人大常委會(huì)也在緊鑼密鼓地開(kāi)展相關(guān)調(diào)研工作?！傲⒎ㄑ芯考纫e極，又要穩(wěn)慎，統(tǒng)籌好發(fā)展與安全的關(guān)系，確保人工智能安全發(fā)展。既要通過(guò)立法為新技術(shù)新產(chǎn)業(yè)發(fā)展提供法律保障，又要深入研究相關(guān)法律和倫理問(wèn)題，有效應(yīng)對(duì)新技術(shù)的不確定性所帶來(lái)的新挑戰(zhàn)?！保ㄓ浾?馬嘉悅）