隨著Sora文生視頻的驚人問世，人工智能的創(chuàng)新速度再度刷新了人類的認(rèn)知。在為人類生產(chǎn)力極大賦能之際，它將帶來哪些前所未有的挑戰(zhàn)？相關(guān)的法律法規(guī)如何及時跟進(jìn)？
全國政協(xié)委員、金杜律師事務(wù)所高級合伙人張毅長期關(guān)注研究人工智能發(fā)展和監(jiān)管進(jìn)程，包括網(wǎng)約車、短視頻等與用戶直接相關(guān)的一些行業(yè)。他為此提交了關(guān)于進(jìn)一步完善人工智能算法治理體系的相關(guān)提案，建議盡快推進(jìn)《人工智能法》出臺。
他在接受南方周末專訪時稱，中國互聯(lián)網(wǎng)行業(yè)發(fā)展水平和監(jiān)管水平均居世界領(lǐng)先水平，可以把互聯(lián)網(wǎng)領(lǐng)域成熟有效的監(jiān)管經(jīng)驗借鑒到人工智能領(lǐng)域，進(jìn)而構(gòu)建人工智能算法治理體系，彌補監(jiān)管體系空白。但需要建立對人工智能審慎、包容的監(jiān)管。這應(yīng)成為中國對人工智能技術(shù)立法監(jiān)管的方向。
他還向南方周末表示，每年斥巨資投入科技領(lǐng)域的金融機(jī)構(gòu)對于最前沿的人工智能大語言模型技術(shù)“既愛又怕”，既希望通過科技賦能實現(xiàn)商業(yè)模式上的迭代進(jìn)化，又擔(dān)心技術(shù)失控給金融機(jī)構(gòu)帶來新的風(fēng)險隱患。而人工智能也給金融消費者權(quán)益保護(hù)帶來全新課題。他為此建議，強化由網(wǎng)信牽頭，發(fā)展改革、數(shù)據(jù)、工信、公安等多部門共同參與的算法治理聯(lián)席會議制度，完善“橫向協(xié)同，縱向聯(lián)動”算法治理格局。
全國政協(xié)委員、金杜律師事務(wù)所高級合伙人張毅（受訪者供圖）
新質(zhì)生產(chǎn)力話題最為熱烈
南方周末：全國政協(xié)委員們在分組討論政府工作報告時，哪個話題最熱？
張毅：幾天的分組討論中，我的感受是大家對新質(zhì)生產(chǎn)力的討論最為熱烈。如何加快發(fā)展新質(zhì)生產(chǎn)力？很多委員從多角度提出了自己的意見和建議。在我看來，人工智能與實體經(jīng)濟(jì)各個行業(yè)產(chǎn)業(yè)相結(jié)合的過程，就是為各個行業(yè)產(chǎn)業(yè)科技賦能，推動各個行業(yè)產(chǎn)業(yè)加快數(shù)字化轉(zhuǎn)型步伐，重構(gòu)行業(yè)產(chǎn)業(yè)新生態(tài)，從而極大帶動社會進(jìn)步和新質(zhì)生產(chǎn)力發(fā)展。
南方周末：政府工作報告亦提出，要開展 “人工智能＋”行動，打造具有國際競爭力的數(shù)字產(chǎn)業(yè)集群。“人工智能+”何以推動新質(zhì)生產(chǎn)力發(fā)展？
張毅：生成式人工智能（大模型）正在改變幾乎所有行業(yè)的底層邏輯，極大促進(jìn)生產(chǎn)要素的重新組合配置，數(shù)據(jù)和算力的重要性大幅提升。這是從未有過的歷史性變革。這幾天，我參加分組討論及與許多政協(xié)委員溝通交流，很明顯感到，大家對人工智能推動新質(zhì)生產(chǎn)力發(fā)展的重要意義已形成廣泛共識。
盡快彌補監(jiān)管體系空白
南方周末：你長期關(guān)注人工智能發(fā)展和監(jiān)管進(jìn)程。有何研究成果？
張毅：我一直關(guān)注研究網(wǎng)約車、短視頻等與用戶直接相關(guān)的一些行業(yè)。互聯(lián)網(wǎng)平臺企業(yè)算法導(dǎo)致算法歧視、算法黑箱、信息繭房等法律甚至倫理的一系列問題。如何在促進(jìn)發(fā)展的同時，更好完善人工智能算法治理體系，監(jiān)管手段和能力如何提升，對我國相關(guān)產(chǎn)業(yè)的發(fā)展和國家治理能力現(xiàn)代化至關(guān)重要。
南方周末：你有什么建議？
張毅：我建議，盡快推進(jìn)《人工智能法》出臺，構(gòu)建人工智能算法治理體系，彌補監(jiān)管體系空白。同時，可考慮通過針對性的法規(guī)予以補充規(guī)范。針對產(chǎn)業(yè)鏈上各主體，采取權(quán)責(zé)相統(tǒng)一原則，根據(jù)不同主體對于人工智能系統(tǒng)的控制力度來加諸相應(yīng)的合規(guī)義務(wù)。將人工智能和算法技術(shù)按風(fēng)險等級進(jìn)行劃分并采取不同監(jiān)管措施，并設(shè)置事前、事中和事后全生命周期監(jiān)管措施義務(wù)。
對人工智能宜審慎包容監(jiān)管
南方周末：生成式人工智能技術(shù)對各行業(yè)產(chǎn)業(yè)帶來新的挑戰(zhàn)。國內(nèi)外對該技術(shù)的監(jiān)管現(xiàn)狀如何？
張毅：大模型具有基于海量數(shù)據(jù)進(jìn)行自學(xué)習(xí)特性，迭代快，其在垂類領(lǐng)域應(yīng)用快速多樣化，難以為現(xiàn)有監(jiān)管體系和技術(shù)/工具覆蓋，從而產(chǎn)生監(jiān)管真空或失焦的情況。面對新興事物，監(jiān)管總是“慢半拍”是正�，F(xiàn)象。
南方周末：上一個監(jiān)管“慢半拍”的似乎是互聯(lián)網(wǎng)？
張毅：對。中國的互聯(lián)網(wǎng)行業(yè)崛起初期就已經(jīng)經(jīng)歷過類似過程，起初人們擔(dān)心加強監(jiān)管會抑制創(chuàng)業(yè)創(chuàng)新，但隨著行業(yè)發(fā)展甚至有時出現(xiàn)亂象叢生時，又迫切需要監(jiān)管到位。
南方周末：你認(rèn)為，對互聯(lián)網(wǎng)行業(yè)的監(jiān)管成功么？
張毅：中國的互聯(lián)網(wǎng)行業(yè)發(fā)展水平和監(jiān)管水平均居世界領(lǐng)先水平，我認(rèn)為可以把互聯(lián)網(wǎng)領(lǐng)域成熟有效的監(jiān)管經(jīng)驗借鑒到人工智能領(lǐng)域。建立對人工智能審慎、包容的監(jiān)管，正確處理好發(fā)展與平衡問題，應(yīng)該成為中國對人工智能技術(shù)立法監(jiān)管的方向。
商業(yè)銀行對人工智能“既愛又怕”
南方周末：我們的“2023新金融發(fā)展報告”顯示，系統(tǒng)重要性銀行均持續(xù)巨額科技投入，且對前沿科技保持很高的敏銳度。很多銀行是你們服務(wù)的客戶，你如何評價中國銀行業(yè)智能化水平？
張毅：科技對銀行經(jīng)營管理的支撐作用正在持續(xù)加大。但在我看來，銀行的智能金融發(fā)展還處在早期階段，各大銀行對人工智能和大模型的應(yīng)用仍主要集中在前臺的產(chǎn)品營銷、客戶服務(wù)，中臺的運營管理、風(fēng)險控制等領(lǐng)域，但距離真正的“人工智能”仍有相當(dāng)差距。
南方周末：什么原因造成了這種差距？
張毅：金融機(jī)構(gòu)對最前沿的人工智能大語言模型技術(shù)“既愛又怕”，既希望通過科技賦能實現(xiàn)商業(yè)模式上的迭代進(jìn)化，又擔(dān)心技術(shù)失控給金融機(jī)構(gòu)帶來新的風(fēng)險隱患。例如，商業(yè)銀行正在探索通過智能圖像管理系統(tǒng)對各種票據(jù)和合同進(jìn)行真實性審核，甄別克隆票據(jù)和虛假合同，準(zhǔn)確提取數(shù)據(jù)并及時納入賬務(wù)系統(tǒng)；但又擔(dān)心未來的人工智能技術(shù)制作出足以亂真的假票據(jù)、假合同，增加相關(guān)業(yè)務(wù)的潛在風(fēng)險。
應(yīng)鼓勵金融機(jī)構(gòu)擁抱人工智能
南方周末：人工智能確實是雙刃劍。立法和強化監(jiān)管是否能避免人工智能干壞事？
張毅：任何法律和監(jiān)管都無法保證違法行為不會發(fā)生，但可對違法行為及其后果進(jìn)行有效處理和管控。金融機(jī)構(gòu)應(yīng)用人工智能技術(shù)優(yōu)化其風(fēng)控，是值得鼓勵的進(jìn)步。問題的關(guān)鍵在于如何強化和創(chuàng)新算法監(jiān)管，使得監(jiān)管機(jī)構(gòu)對此類新型違法行為的追究有法可依，依法處置。
南方周末：你有何具體建議？
張毅：我建議強化由網(wǎng)信牽頭，發(fā)展改革、數(shù)據(jù)、工信、公安等多部門共同參與的算法治理聯(lián)席會議制度，完善“橫向協(xié)同，縱向聯(lián)動”算法治理格局。借助市場力量，外聘或者借調(diào)算法及人工智能領(lǐng)域的專家共同參與監(jiān)管流程，補齊監(jiān)管技術(shù)短板。引入“監(jiān)管沙盒”制度，允許算法及人工智能企業(yè)在監(jiān)管機(jī)構(gòu)的監(jiān)督下，在相對可控的環(huán)境內(nèi)進(jìn)行試驗性的開發(fā)、測試和驗證。此外，或可考慮探索將人工智能技術(shù)應(yīng)用于人工智能監(jiān)管，以提高監(jiān)管效率。
保護(hù)用戶享有拒絕算法服務(wù)的選擇權(quán)
南方周末：人工智能也給金融消費者權(quán)益保護(hù)帶來新課題。很多人基于各種原因不會使用智能手機(jī)。一旦金融業(yè)人工智能快速普及，會不會反而增加一部分群體的不便甚至是糾紛投訴？
張毅：的確很有可能。因此，我在提案中專門提出建議，保障用戶權(quán)利。有關(guān)部門應(yīng)推進(jìn)算法服務(wù)商以個人能夠理解的方式披露算法風(fēng)險與可能產(chǎn)生的損害、算法運行步驟與決策結(jié)果間關(guān)系等運行規(guī)則，減少專業(yè)術(shù)語，便于用戶理解和決策。
同時，應(yīng)該要求算法服務(wù)商在個人用戶決定選擇拒絕使用算法服務(wù)的情況下，進(jìn)一步優(yōu)化用戶便捷關(guān)閉算法服務(wù)的選項。
金融消費者無須“自證清白”
南方周末：個人用戶在使用金融服務(wù)時，如果碰到電信詐騙、變相收費、強制消費和過度營銷等問題糾紛時，往往處于弱勢。人工智能技術(shù)能夠給人們帶來哪些幫助？
張毅：技術(shù)是中性的，但算法服務(wù)商和金融機(jī)構(gòu)在此類案件或糾紛中是否負(fù)有責(zé)任，各自承擔(dān)多少責(zé)任，實踐中尚無定論，還需各方深入探討。但在我看來，算法提供者擁有信息資源和技術(shù)優(yōu)勢，算法機(jī)制和決策過程不可解釋或難以理解等原因，被侵害對象客觀上面臨“理解難、取證難”問題，而執(zhí)法者也面臨“認(rèn)定難”問題。
南方周末：你的意思是，金融機(jī)構(gòu)也可能成為弱勢一方？
張毅：比如，金融機(jī)構(gòu)一旦發(fā)生被不法分子利用高科技手段攻擊，諸如利用人臉識別或人工智能技術(shù)冒領(lǐng)儲戶存款，損失誰來承擔(dān)？誰有舉證義務(wù)？這些問題現(xiàn)實且棘手。
南方周末：如何破解新難題？
張毅：我的建議是，拓展算法侵害行為維權(quán)路徑與責(zé)任模式，增強用戶維權(quán)力量。在算法侵權(quán)的訴訟中采取“過錯推定”歸責(zé)原則，實行“舉證責(zé)任倒置”。用戶僅承擔(dān)受到算法損害的責(zé)任，由算法服務(wù)商對算法和損害之間無因果關(guān)系，以及無過錯承擔(dān)舉證責(zé)任。探索人工智能算法領(lǐng)域的民事公益訴訟制度。
此外，不宜局限于要求具體損害結(jié)果的責(zé)任模式，可考慮綜合考量訓(xùn)練數(shù)據(jù)、科技倫理等多維度規(guī)定算法侵害行為的違法責(zé)任，增強源頭治理，形成責(zé)任閉環(huán)。
南方周末 李鶴鳴
責(zé)編 謝艷霞
