*中國(guó)社會(huì)科學(xué)院世界經(jīng)濟(jì)與政治研究所全球治理研究系列(GGP)

全球治理學(xué)科動(dòng)態(tài) 2020年第1期

2020/03/02

全球治理學(xué)科動(dòng)態(tài)

Global Governance Panel將持續(xù)追蹤全球治理學(xué)科動(dòng)態(tài)

定期收集整理全球治理研究領(lǐng)域權(quán)威成果推送分享

      專題序言| 包括人工智能在內(nèi)的科技革命和產(chǎn)業(yè)變革不僅會(huì)對(duì)一國(guó)國(guó)內(nèi)的治理體系產(chǎn)生影響，并且由于人工智能技術(shù)的研發(fā)和應(yīng)用是在全球平臺(tái)上實(shí)現(xiàn)的，故此領(lǐng)域也已成為全球治理新疆域的一部分。本期學(xué)科動(dòng)態(tài)圍繞人工智能對(duì)國(guó)家間關(guān)系的影響、人工智能發(fā)展的潛在風(fēng)險(xiǎn)與契機(jī)、保障人工智能良性發(fā)展的全球治理框架與機(jī)制等議題進(jìn)行了討論。

      本文分析了人工智能對(duì)國(guó)際秩序的影響，并指出人類命運(yùn)共同體視角和共同安全理念是各國(guó)在建立人工智能國(guó)際規(guī)范的過程中應(yīng)堅(jiān)持的出發(fā)點(diǎn)，基于此，作者提出了福祉、安全、共享、和平、法治、合作的六項(xiàng)原則。

      作者首先對(duì)國(guó)際關(guān)系研究中的人工智能進(jìn)行了限定，即已知的、基于大數(shù)據(jù)和深度學(xué)習(xí)技術(shù)，以算力、算法和數(shù)據(jù)為三大要素的人工智能技術(shù)及其應(yīng)用，接下來從國(guó)際格局和國(guó)際規(guī)范兩方面重點(diǎn)分析人工智能對(duì)國(guó)際秩序的影響：

      在國(guó)際格局方面，人工智能首先將從經(jīng)濟(jì)上影響國(guó)家間力量對(duì)比，包括加深“數(shù)字鴻溝”從而在創(chuàng)造財(cái)富的同時(shí)拉大國(guó)家間差距，沖擊發(fā)展中國(guó)家的人力資源優(yōu)勢(shì)并放大發(fā)達(dá)國(guó)家的技術(shù)和資本優(yōu)勢(shì)從而改變?nèi)虍a(chǎn)業(yè)鏈，以及通過“馬太效應(yīng)”（強(qiáng)者恒強(qiáng)、弱者愈弱）形成國(guó)際社會(huì)的“階層固化”；其次將從軍事上改變國(guó)家間力量對(duì)比，包括在自動(dòng)化、智能化戰(zhàn)爭(zhēng)條件下產(chǎn)生“極速戰(zhàn)”的新戰(zhàn)爭(zhēng)概念和無人自動(dòng)性武器集群式作戰(zhàn)的新作戰(zhàn)方式；最后，就國(guó)際格局的趨勢(shì)而言，人工智能亦增添了新的變數(shù)，不僅國(guó)家間科技競(jìng)爭(zhēng)的作用和激烈程度上升，非國(guó)家行為體的權(quán)力上升，國(guó)際格局還面臨著“北升南降”和“南升北降”兩種可能性孰高，世界未來將走向多極化還是兩極化等問題。

      在國(guó)際規(guī)范方面，第一，人工智能因?yàn)閺臎Q策者、軍隊(duì)、民意三個(gè)層面降低戰(zhàn)爭(zhēng)門檻而可能使暴力選項(xiàng)重新回歸國(guó)際關(guān)系；第二，人工智能因?yàn)樵黾恿舜驌艉朔磽袅α康目赡苄浴⑾魅趿恕跋嗷ゴ_保摧毀”的基礎(chǔ)而沖擊全球戰(zhàn)略穩(wěn)定；第三，人工智能因?yàn)楸旧泶嬖诤瞬榈募夹g(shù)困難而增加了建立相關(guān)國(guó)際軍控機(jī)制的困難；第四，人工智能給國(guó)際人道法和戰(zhàn)爭(zhēng)法有關(guān)原則的適用性提出了疑問；第五，人工智能的“數(shù)字鴻溝”和“馬太效應(yīng)”也對(duì)國(guó)際關(guān)系民主化價(jià)值造成沖擊；第六，人工智能給全球治理提出了新課題，即在管理數(shù)據(jù)資源的跨境流動(dòng)時(shí)，應(yīng)該采取怎樣的規(guī)則與制度安排。

      本文從國(guó)際秩序切入分析人工智能如何影響國(guó)際關(guān)系，并采用將國(guó)際秩序劃分為格局和規(guī)范的理論視角，為理解人工智能影響下的國(guó)際關(guān)系提供了清晰且完整的框架，也為理解人類歷史進(jìn)程中科技革命對(duì)國(guó)際關(guān)系的影響補(bǔ)充了最新案例。在文章最后，作者從人類命運(yùn)共同體視角出發(fā)，提出人工智能六點(diǎn)原則，為將來政界和學(xué)界圍繞人工智能治理規(guī)則的討論和制定創(chuàng)造了基礎(chǔ)。

      本文從人工智能全球治理中的各類行為主體出發(fā)，梳理了治理活動(dòng)的現(xiàn)狀，并在此基礎(chǔ)上分析治理該議題的動(dòng)力和阻力，最后，借鑒其他復(fù)雜的軍民兩用科技的治理經(jīng)驗(yàn)，為人工智能全球治理的未來發(fā)展提出建議。

      本文首先對(duì)人工智能全球治理的相關(guān)概念進(jìn)行了界定。治理目標(biāo)在于最大化科技價(jià)值并最小化科技風(fēng)險(xiǎn)，后者主要指失業(yè)、軍事化、責(zé)任缺失、后果不可控等倫理關(guān)切。治理手段包括（1）推進(jìn)規(guī)范和價(jià)值；（2）研究技術(shù)發(fā)展可能產(chǎn)生的影響；（3）創(chuàng)建技術(shù)發(fā)展中問題的解決辦法；（4）建立管理機(jī)構(gòu)和法規(guī)等。

      在對(duì)各個(gè)利益攸關(guān)方的治理概覽中，私人部門——也就是企業(yè)——越來越多地公開其使用人工智能技術(shù)的框架與原則。因?yàn)槠髽I(yè)目前在人工智能的發(fā)展中扮演著前沿角色，這樣的現(xiàn)象是可喜的；也有越來越多國(guó)家的政府部門以國(guó)家戰(zhàn)略或倡議的形式著手應(yīng)對(duì)人工智能發(fā)展中的倫理關(guān)切，并呈現(xiàn)出不同的路徑，如歐盟提出了人工智能治理的“三根支柱”——包括迎接社會(huì)經(jīng)濟(jì)變革和確保歐盟具有與人工智能發(fā)展和應(yīng)用相適應(yīng)的倫理和法律框架；英國(guó)尋求領(lǐng)導(dǎo)該領(lǐng)域的規(guī)范構(gòu)建；德國(guó)注重發(fā)掘人工智能科技在制造業(yè)中的應(yīng)用潛力；非政府組織包括企業(yè)聯(lián)盟、研究機(jī)構(gòu)以及囊括了各類不同主體的其他機(jī)構(gòu)，如較早投入人工智能研究的電氣及電子工程師學(xué)會(huì)（IEEE），就對(duì)很多國(guó)家政府的人工智能發(fā)展方案產(chǎn)生了影響；在聯(lián)合國(guó)系統(tǒng)內(nèi)部，多個(gè)機(jī)構(gòu)（聯(lián)合國(guó)大學(xué)政策研究中心、聯(lián)合國(guó)裁軍事務(wù)辦公室、國(guó)際電信聯(lián)盟、國(guó)際勞工組織等）分別開展了人工智能相關(guān)的工作內(nèi)容，利用各自專業(yè)領(lǐng)域的知識(shí)和經(jīng)驗(yàn)支持該議題的有效治理。

      目前，政府與企業(yè)之間對(duì)待治理的態(tài)度差異、各國(guó)政府對(duì)施加管理可能導(dǎo)致本國(guó)人工智能發(fā)展落后的擔(dān)心、人工智能本身具有的管理困難等因素構(gòu)成了治理的阻力。另一方面，人工智能的誤用很可能造成災(zāi)難性后果，面對(duì)可能的風(fēng)險(xiǎn)，主動(dòng)應(yīng)對(duì)要遠(yuǎn)好于被動(dòng)反應(yīng)，而且有效的治理能夠塑造科技發(fā)展的健康激勵(lì)，幫助實(shí)現(xiàn)長(zhǎng)期發(fā)展，歐盟2016年通過的一般數(shù)據(jù)保護(hù)法案（GDPR）在實(shí)踐過程中就支持了這一觀點(diǎn)。作者對(duì)未來提出四點(diǎn)建議：（1）從人工智能的特定問題著手而非尋求一個(gè)面面俱到的框架；（2）建立人工智能實(shí)踐的核查工具；（3）建立人工智能治理的有效激勵(lì)；（4）借鑒此前軍民兩用科技的治理機(jī)制。

      本文的梳理和探討建立在細(xì)致充足的資料基礎(chǔ)上，為我們展示了人工智能治理的全球圖景。雖然目前的治理更準(zhǔn)確地說是“全球范圍內(nèi)的治理”而非真正意義上的“全球治理”，但治理活動(dòng)對(duì)科技發(fā)展的影響正愈見清晰，治理的共識(shí)和凝聚力也正在形成。

      本篇訪談探討了人工智能治理中的風(fēng)險(xiǎn)與挑戰(zhàn)，以及政府和私營(yíng)部門在建立全面的人工智能治理框架中將扮演的角色。受訪者認(rèn)為，人工智能因其能幫助人類自動(dòng)化、改進(jìn)、提高預(yù)測(cè)和決策能力，使其可能成為深刻改變?nèi)祟惤?jīng)濟(jì)、社會(huì)與軍事的技術(shù)。在人工智能治理過程中，需要兼顧人工智能技術(shù)前景及其帶來的影響，從而探索出治理的合作可能性、價(jià)值與制度機(jī)制。

      本文談到人工智能帶來的風(fēng)險(xiǎn)涉及系統(tǒng)性風(fēng)險(xiǎn)、知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)和戰(zhàn)略風(fēng)險(xiǎn)。關(guān)于系統(tǒng)性風(fēng)險(xiǎn)，作者認(rèn)為，當(dāng)一個(gè)系統(tǒng)在相關(guān)領(lǐng)域獲得與人類相當(dāng)甚至超越人類的能力時(shí)，會(huì)出現(xiàn)明顯的風(fēng)險(xiǎn)。即使僅是接近人類的表現(xiàn)，也可以使人工智能在一系列任務(wù)中代替人類，僅此一項(xiàng)就可能導(dǎo)致大規(guī)模的勞動(dòng)力失業(yè)、從根本上加劇不平等；個(gè)人隱私受到侵蝕；核不穩(wěn)定風(fēng)險(xiǎn)增加；全球經(jīng)濟(jì)重組和集中，并破壞軍事攻防平衡，從而增加軍事沖突的風(fēng)險(xiǎn)。

      關(guān)于知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)，作者表示，就包括人工智能在內(nèi)的電子技術(shù)而言，其面臨的盜版和非法傳播風(fēng)險(xiǎn)大。軍方在限制技術(shù)擴(kuò)散上有更豐富的經(jīng)驗(yàn)，但一般私營(yíng)部門的發(fā)展可能會(huì)增加這種風(fēng)險(xiǎn)。但更高級(jí)的人工智能技術(shù)的擴(kuò)散難度會(huì)增加，因?yàn)槠湫枰嗟挠?jì)算機(jī)硬件或大型結(jié)構(gòu)化數(shù)據(jù)集來進(jìn)行訓(xùn)練和實(shí)施。

      關(guān)于戰(zhàn)略風(fēng)險(xiǎn)，作者認(rèn)為，先進(jìn)的人工智能可以提高各方的利益攸關(guān)度。如果不同的國(guó)家相信它們可以分享人工智能創(chuàng)造的巨額財(cái)富，它們可能會(huì)被激勵(lì)進(jìn)行更多的合作。但如果它們不這么做，先進(jìn)人工智能則會(huì)被視為一種戰(zhàn)略資產(chǎn)，這可能會(huì)推動(dòng)不穩(wěn)定的軍備競(jìng)賽或民族主義。隨著一些利潤(rùn)極高的人工智能公司占領(lǐng)市場(chǎng)，新的依賴形式可能就此產(chǎn)生，因?yàn)樵S多國(guó)家將被迫與中國(guó)或美國(guó)這類提供大部分人工智能服務(wù)的國(guó)家談判。

      在構(gòu)建人工智能治理框架方面，作者指出了多邊組織、政府和企業(yè)參與的重要性。談及多邊組織與談判對(duì)人工智能治理的重要性時(shí)，作者表示，多邊組織可以通過提供聯(lián)合論壇來制定、協(xié)調(diào)和傳播參與者之間的合作規(guī)范，從而在人工智能治理中發(fā)揮關(guān)鍵作用。同時(shí)，非嚴(yán)格多邊的其它倡議也能以對(duì)話形式參與討論人工智能的治理與倫理，而參與者涉及不同國(guó)家、多個(gè)行業(yè)的營(yíng)利和非營(yíng)利性機(jī)構(gòu)。此外，企業(yè)需要參與到人工智能治理中來，而且在形成人工智能治理框架的基礎(chǔ)方面，企業(yè)可能比政府處于更有利的地位。政府因其自身效率問題，很難及時(shí)跟進(jìn)人工智能技術(shù)的發(fā)展。同時(shí)，作者認(rèn)為，國(guó)家不再是治理能力的唯一來源，尤其是在人工智能等領(lǐng)域。相反，私營(yíng)部門在這些領(lǐng)域發(fā)揮著越來越大的作用。這里的關(guān)鍵是在公私利益之間取得平衡，并使企業(yè)發(fā)展動(dòng)力與追求人類共同利益相一致。

      本文的主要貢獻(xiàn)在于較全面的討論了人工智能發(fā)展帶來的各類風(fēng)險(xiǎn)，以及初步提出了人工智能治理框架構(gòu)建的方向和參與者。為進(jìn)一步研究人工智能治理提供了一定的研究思路。

      本文探討了在人工智能進(jìn)一步發(fā)展并影響社會(huì)生活和公共決策的情況下， 應(yīng)以何種框架規(guī)范人工智能治理，使之與人權(quán)保護(hù)不相違背。作者主張，現(xiàn)有的國(guó)際人權(quán)框架——包括國(guó)際人權(quán)公約系列文件和《聯(lián)合國(guó)工商企業(yè)與人權(quán)指導(dǎo)原則》——有足夠的合法性與適用性為人工智能治理提供現(xiàn)成框架基礎(chǔ)。在這一框架下，人類尊嚴(yán)和問責(zé)制等基本原則將受到尊重。

      作者指出，要理解現(xiàn)有人權(quán)框架將如何應(yīng)對(duì)人工智能對(duì)人類帶來的影響，首先需要關(guān)注人工智能的四個(gè)潛在危害與相關(guān)社會(huì)關(guān)切。一是隨著人工智能的發(fā)展，機(jī)器是否會(huì)控制社會(huì)。二是如何衡量人工智能的各種應(yīng)用是否合乎倫理；這應(yīng)該由誰(shuí)、基于什么基礎(chǔ)做出相關(guān)的判斷。三是如何看待人工智能帶來的無意的負(fù)面影響。四是如何看待人工智能對(duì)人的主體性和能動(dòng)性的考驗(yàn)。

      為回應(yīng)上述公眾關(guān)切，許多利益相關(guān)方開始討論相應(yīng)的新倫理框架以削弱人工智能的潛在風(fēng)險(xiǎn)，確保其有益應(yīng)用。但這些新框架并不能包含人工智能對(duì)人類帶來的全部風(fēng)險(xiǎn)或治理挑戰(zhàn)，也無法在全球利益相關(guān)方中形成廣泛的共識(shí)。在此情況下，作者主張以現(xiàn)有國(guó)際人權(quán)框架作為未來人工智能治理的框架基礎(chǔ)，其原因有四。其一，人權(quán)框架以人的尊嚴(yán)為出發(fā)點(diǎn)，主張人作為治理和社會(huì)的中心。這是確保人工智能將以支持人類和人類社會(huì)的方式發(fā)展，而不是以可能傷害人類的方式發(fā)展的關(guān)鍵第一步。其二，這一框架下的國(guó)際人權(quán)法律體系通過其廣泛的實(shí)質(zhì)性和程序性權(quán)利，直接反映了社會(huì)對(duì)人工智能最緊迫的關(guān)切。如《世界人權(quán)宣言》中的相關(guān)條款已作出了關(guān)于非歧視、生命權(quán)、侵權(quán)補(bǔ)救、接受與傳遞信息等一些列全面的規(guī)范，而這些規(guī)范可以引申用于人工智能治理領(lǐng)域。其三，人權(quán)框架確立了政府和私營(yíng)部門在保護(hù)和尊重人權(quán)以及糾正侵犯人權(quán)行為方面的作用和責(zé)任。這為人工智能治理以及為評(píng)估人工智能做出的決策對(duì)人類和社會(huì)的影響提供了一個(gè)相當(dāng)全面的框架。其四，現(xiàn)有的框架雖然在世界范圍內(nèi)被截然不同地解釋與實(shí)施，但其仍有一定程度上的政治認(rèn)同和國(guó)際法下的地位。人權(quán)框架建立在幾十年來的全球共識(shí)之上，是全球各利益相關(guān)方談判的結(jié)果。因此，這一框架在世界范圍內(nèi)具有一定的適用性與合法性。

      本文的主要貢獻(xiàn)在于正式提出以現(xiàn)有的國(guó)際人權(quán)框架作為人工智能治理的框架基礎(chǔ)。這一框架基礎(chǔ)可以更為全面地應(yīng)對(duì)人工智能的發(fā)展對(duì)人類與社會(huì)的影響與挑戰(zhàn)，同時(shí)其適用性與合法性可以更好地推動(dòng)世界范圍內(nèi)的利益相關(guān)方接受人工智能治理框架，從而更好地確保人工智能服務(wù)于人類利益。

      本文指出人工智能將從正反兩個(gè)方面深刻影響中美關(guān)系的發(fā)展：一方面，中美之間圍繞人工智能的競(jìng)爭(zhēng)有可能會(huì)加劇雙方的戰(zhàn)略互疑、削弱雙方的戰(zhàn)略穩(wěn)定、改變雙方的權(quán)力動(dòng)態(tài)；另一方面，人工智能的快速發(fā)展也蘊(yùn)含巨大潛力,為中美兩國(guó)開創(chuàng)新的合作空間。

      首先，人工智能將成為中美戰(zhàn)略競(jìng)爭(zhēng)的新高地。第一，或?qū)⒁l(fā)兩國(guó)圍繞人工智能的軍備競(jìng)賽。美國(guó)國(guó)防部建立了聯(lián)合中心推進(jìn)人工智能的軍事應(yīng)用，中國(guó)也在《新一代人工智能發(fā)展規(guī)劃》中強(qiáng)調(diào)人工智能的軍民轉(zhuǎn)化。相比于傳統(tǒng)軍事科技，人工智能更為模糊的兩用屬性意味著即使達(dá)成軍控協(xié)議，其核查也存在極大困難，因此未來管控軍備競(jìng)賽面對(duì)挑戰(zhàn)；第二，改變兩國(guó)的權(quán)力動(dòng)態(tài)。革命性科技往往推動(dòng)國(guó)際格局與秩序的變遷，在此輪競(jìng)爭(zhēng)中，美國(guó)自然是要占據(jù)科技發(fā)展的主導(dǎo)位置，中國(guó)則將其視作追趕良機(jī)。目前，兩國(guó)已經(jīng)各自掌握有優(yōu)勢(shì)領(lǐng)域，并正在形成膠著態(tài)勢(shì)。

      其次，人工智能將成為中美沖突的新來源。第一，侵蝕兩國(guó)戰(zhàn)略互信。除安全困境和文化差異外，人工智能等高科技領(lǐng)域?qū)⒊蔀閮蓢?guó)戰(zhàn)略互疑的新來源。美國(guó)精英層內(nèi)部普遍將中國(guó)視作意圖挑戰(zhàn)美國(guó)國(guó)際領(lǐng)導(dǎo)地位的修正國(guó)家，并主張加嚴(yán)對(duì)中國(guó)企業(yè)的審查；第二，削弱兩國(guó)的戰(zhàn)略穩(wěn)定。這包括降低了二次打擊的可信性、創(chuàng)造了低成本新式武器的選項(xiàng)、增加了“先發(fā)制人”策略的吸引力，從而改變了傳統(tǒng)的大國(guó)戰(zhàn)略威懾和攻守平衡，以及通過降低傷亡預(yù)期減輕國(guó)內(nèi)民眾對(duì)戰(zhàn)爭(zhēng)的抵制情緒、再加上由技術(shù)缺陷引致的互相認(rèn)知失誤，從而使戰(zhàn)爭(zhēng)更易爆發(fā)和升級(jí)。

最后，人工智能將成為中美合作的新領(lǐng)域。第一，人工智能技術(shù)本身要求國(guó)際合作具有開放性；第二，人工智能技術(shù)將為跨國(guó)科技企業(yè)創(chuàng)造更多權(quán)力，后者將更有力地影響國(guó)內(nèi)進(jìn)程和國(guó)際關(guān)系，拓寬加深中美經(jīng)貿(mào)聯(lián)系與相互依存；第三，面對(duì)人工智能發(fā)展過程中伴隨的問題，中美需要合作應(yīng)對(duì)、推進(jìn)治理。

      本文系統(tǒng)分析了人工智能對(duì)中美關(guān)系正在或?qū)⒁l(fā)生的影響，也從雙邊和多邊提出了兩國(guó)在人工智能相關(guān)議題避免沖突、加強(qiáng)合作的政策建議。為探知和理解人工智能時(shí)代的中美關(guān)系與全球治理提供了方向。