發(fā)布時(shí)間：2021-04-29所屬分類：科技論文瀏覽：1次
摘 要： 摘要:人工智能技術(shù)的快速發(fā)展與廣泛應(yīng)用產(chǎn)生了深刻的社會(huì)影響，為了更好地約束與規(guī)范人工智能的發(fā)展與應(yīng)用，社會(huì)各界相繼提出各種各樣的人工智能倫理原則與倫理指南。總體來看，各種倫理原則的內(nèi)容大致趨同，但也有一些被普遍忽略的內(nèi)容，而且不同機(jī)構(gòu)對同樣
摘要:人工智能技術(shù)的快速發(fā)展與廣泛應(yīng)用產(chǎn)生了深刻的社會(huì)影響，為了更好地約束與規(guī)范人工智能的發(fā)展與應(yīng)用，社會(huì)各界相繼提出各種各樣的人工智能倫理原則與倫理指南。總體來看，各種倫理原則的內(nèi)容大致趨同，但也有一些被普遍忽略的內(nèi)容，而且不同機(jī)構(gòu)對同樣一種倫理原則的闡釋存在明顯差異。雖然有的學(xué)者認(rèn)為人工智能倫理原則是無用的，但從倫理原則的應(yīng)用現(xiàn)狀來看，人工智能倫理原則是能夠發(fā)揮積極作用的，是實(shí)現(xiàn)人工智能倫理治理的一種重要工具。包括倫理學(xué)家、科學(xué)家、學(xué)術(shù)組織、企業(yè)與政府管理部門在內(nèi)的各類主體需要采取必要的強(qiáng)化措施，切實(shí)保障倫理原則的貫徹與實(shí)施。
關(guān)鍵詞:人工智能;倫理原則;倫理漂藍(lán);具體行動(dòng)
隨著人工智能技術(shù)的快速發(fā)展及廣泛應(yīng)用，如何合理地應(yīng)用人工智能，使其為人類造福而不是帶來傷害與威脅，成為學(xué)術(shù)界與公眾普遍關(guān)注的熱門話題。法學(xué)家普遍重視對人工智能的法律監(jiān)管，有學(xué)者認(rèn)為，應(yīng)該制定《人工智能發(fā)展法》(AIDevelopmentAct)，建立專門的監(jiān)管機(jī)構(gòu)，保證人工智能的安全性與可控性。〔1〕其實(shí)，法學(xué)家提出的一些問題與解決進(jìn)路，已經(jīng)在人工智能倫理治理研究中得到高度重視。比如，近些年來許多機(jī)構(gòu)提出了形形色色的倫理原則、倫理指南與倫理準(zhǔn)則，試圖從宏觀上對人工智能進(jìn)行治理。人工智能倫理治理就是應(yīng)用倫理工具與理論，對人工智能倫理與社會(huì)風(fēng)險(xiǎn)進(jìn)行治理，與法學(xué)領(lǐng)域中的軟法治理本質(zhì)上是一致的，相對于法律法規(guī)的鋼性規(guī)制而言，通過倫理原則等軟法實(shí)現(xiàn)對人工智能的靈活與敏捷治理，是當(dāng)前及今后相當(dāng)長的時(shí)間內(nèi)人工智能治理的基本途徑。本文首先對已有的人工智能倫理原則進(jìn)行簡要介紹與特征分析，然后論證倫理原則發(fā)揮積極作用的可能性，最后針對不同行為主體提出實(shí)現(xiàn)從倫理原則到行動(dòng)的可能途徑，以期推進(jìn)人工智能倫理原則的實(shí)效性研究。
一、人工智能倫理原則及其特征分析
1.若干代表性倫理原則
自2016年以來，包括國際組織、各國政府、企業(yè)與學(xué)術(shù)團(tuán)體等在內(nèi)的各類主體發(fā)布了大量倫理原則與倫理指南，根本目的就是為了推進(jìn)、規(guī)范與約束人工智能技術(shù)的研發(fā)與應(yīng)用。
第一，國際組織提出的倫理原則。2017年12月，全球工會(huì)聯(lián)合會(huì)(UNIGlobalUnion)提出《合倫理的人工智能十大原則》，包括“透明性、配備倫理黑匣子、為人類與地球服務(wù)、采用人類控制進(jìn)路、無性別歧視與無偏見、利益共享，以及禁止軍備競賽”等等。2018年6月在加拿大召開的G7峰會(huì)上，七國集團(tuán)領(lǐng)導(dǎo)人通過了一項(xiàng)《人工智能未來的共同愿景》文件，提及“以人為本、增加信任、保障安全、保護(hù)隱私”等若干倫理原則。2019年4月，歐盟人工智能高級專家組發(fā)布《可信任的人工智能倫理指南》，強(qiáng)調(diào)人工智能應(yīng)該是合法的、合倫理的與穩(wěn)健的，并針對合倫理的人工智能提出了“尊重人類自主、防止傷害、公正與可解釋性”四大倫理原則。
第二，各國政府層面提出的倫理原則。2016年10月，美國總統(tǒng)行政辦公室、國家科技委員會(huì)等發(fā)布《為人工智能的未來做準(zhǔn)備》，強(qiáng)調(diào)了公正、安全與責(zé)任等原則，提出科研人員要確保人工智能是開放、透明、可理解與可治理的。2018年4月，英國上議院發(fā)布《英國人工智能》報(bào)告，提出“為了公共利益發(fā)展AI、可理解性與公正原則、保護(hù)隱私權(quán)與數(shù)據(jù)權(quán)、利益共享，以及不傷害不破壞不欺騙”五大原則框架。2019年6月，中國國家新一代人工智能治理委員會(huì)發(fā)布《新一代人工智能治理原則:發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能發(fā)展應(yīng)遵循“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作與敏捷治理”八條原則。
第三，各類企業(yè)提出的倫理原則。2018年4月，德國電信公司提出了《人工智能指南》，其中包括“責(zé)任、關(guān)愛、顧客優(yōu)先、透明、安全、控制、合作、共享”等倫理原則。2018年6月，谷歌CEO皮查伊(SundarPichai)發(fā)布了谷歌人工智能七條原則，包括“有益于社會(huì)、避免產(chǎn)生或加劇偏見、為了安全而建造與測試、對人類負(fù)責(zé)、融入隱私設(shè)計(jì)原則、堅(jiān)持科學(xué)卓越的高標(biāo)準(zhǔn)、使這些原則應(yīng)用于實(shí)踐”。2018年9月，騰訊公司董事會(huì)主席兼首席執(zhí)行官馬化騰在世界人工智能大會(huì)上提出“四可原則”:可知、可控、可用和可靠。
第四，各類學(xué)術(shù)組織與研究機(jī)構(gòu)提出的倫理原則。2017年1月召開的阿西洛馬人工智能會(huì)議從“科研問題、倫理和價(jià)值、更長期的問題”三個(gè)方面提出了23項(xiàng)原則，會(huì)議呼吁全世界在發(fā)展人工智能的同時(shí)嚴(yán)格遵守這些原則，共同保障人類未來的利益與安全。其中“倫理和價(jià)值”部分提及“安全性、透明性、責(zé)任、人類價(jià)值觀、隱私、利益分享、人類控制”等倫理原則。2017年12月，美國電氣和電子工程師協(xié)會(huì)(IEEE)發(fā)布了《合倫理的設(shè)計(jì)》報(bào)告，提出人工智能設(shè)計(jì)、開發(fā)和應(yīng)用需要遵循的倫理原則，包括“人權(quán)、福祉、責(zé)任、透明、慎用”等。
2.已有倫理原則的特征分析
第一，從倫理原則內(nèi)容的角度來看，大部分倫理原則與指南的內(nèi)容趨同。我們很容易看到，上述提及的倫理原則中有相當(dāng)多的內(nèi)容是類似的，更全面細(xì)致的研究亦表明了這一點(diǎn)。喬賓(AnnaJobin)等人收集對比了84份包含了倫理指南與倫理原則的文件，將相關(guān)倫理原則按出現(xiàn)頻率的高低排序，分別是“透明、公正、不傷害、責(zé)任、隱私、有益、自由與自主、信任、可持續(xù)、尊嚴(yán)”等。〔2〕倫理原則趨同的表現(xiàn)可能主要源于人工智能倫理問題的共性，但也很可能源于制定主體并未深入思考人工智能的倫理原則究竟應(yīng)該包含哪些內(nèi)容，同時(shí)也反映出一些普遍被忽略的重要內(nèi)容。比如，大多數(shù)倫理原則對環(huán)境與生態(tài)問題關(guān)注不夠;很少從女性的角度思考人工智能倫理問題，在已有的倫理原則中，幾乎看不到女性通常比較關(guān)注的關(guān)愛、護(hù)理、照料、幫助等內(nèi)容。
第二，從倫理原則具體內(nèi)涵的角度看，對于同樣的倫理原則，不同制定主體所闡釋的內(nèi)涵卻存在一定的差異。比如，就倫理原則中普遍關(guān)注的人工智能的透明性而言，不同機(jī)構(gòu)對透明性的關(guān)注重點(diǎn)并不一致。有的主要強(qiáng)調(diào)人工智能系統(tǒng)決策過程與機(jī)制的可知性與可理解性，認(rèn)為透明的人工智能系統(tǒng)是可以發(fā)現(xiàn)它是如何、為何做出一個(gè)決策的;有的強(qiáng)調(diào)人工智能決策與影響后果的可解釋性，阿西洛馬人工智能原則就是從故障透明性與司法透明性兩個(gè)層面理解透明性問題;還有的強(qiáng)調(diào)人工智能與相關(guān)技術(shù)、資源應(yīng)用情況的公開性，德國電信公司對“透明”原則的界定即是強(qiáng)調(diào)這個(gè)方面。
第三，從制定主體的角度看，以發(fā)達(dá)國家及其企業(yè)為主，而發(fā)展中國家很少。喬賓等人分析了84份包含倫理指南與倫理原則文件的地域分布情況，結(jié)果顯示:美國最多，有21份，占25%，其次是英國13份，占15.5%，再次是日本4份，德國、法國和芬蘭均為3份，加拿大、冰島、挪威、印度、新加坡、韓國等均為1份。〔2〕不過，喬賓等人只收集了英語、德語、法語、意大利語與希臘語文獻(xiàn)，可能主要由于語言的原因，許多發(fā)展中國家發(fā)布的文件與報(bào)告并未收入。這種情況顯示出許多發(fā)展中國家要么根本就沒有發(fā)布相關(guān)文件，要么并不重視用英語發(fā)布相關(guān)文件，需要引起發(fā)展中國家的高度重視。
第四，從倫理原則實(shí)施保障的角度看，許多機(jī)構(gòu)僅僅是提出了一些倫理原則與指南，但對于如何保障倫理原則的實(shí)施，如何將這些倫理原則落到實(shí)處，卻沒有提出相應(yīng)的保障措施。關(guān)注人工智能治理問題的法學(xué)家通常批評倫理原則在解決人工智能倫理與社會(huì)問題方面存在缺陷與不足。卡羅(RyanCalo)認(rèn)為，即使我們能夠達(dá)成道德共識(shí)，但倫理學(xué)缺乏一套強(qiáng)有力的執(zhí)行機(jī)制。目前，少數(shù)公司主導(dǎo)著新興的人工智能產(chǎn)業(yè)，他們熱衷于提出倫理標(biāo)準(zhǔn)，而不是約束性的規(guī)則。其原因顯而易見，如果他們改變或無視倫理標(biāo)準(zhǔn)，也不會(huì)受到實(shí)質(zhì)性的懲罰。〔3〕與法律法規(guī)即“硬法”相比，包括倫理原則、行為準(zhǔn)則等在內(nèi)的軟法的確缺乏直接的強(qiáng)制性，但是，我們可以通過多種途徑對軟法進(jìn)行間接強(qiáng)制來克服這一缺陷，具體途徑將在本文第三部分詳細(xì)論述。
二、倫理原則:有用，還是無用?
1.倫理原則無用與倫理漂藍(lán)
很多學(xué)術(shù)團(tuán)體非常重視制定并發(fā)布倫理原則與職業(yè)規(guī)范，用以指導(dǎo)與約束專業(yè)人士的職業(yè)行為。1972年，計(jì)算機(jī)協(xié)會(huì)(AssociationforComputingMachinery，ACM)發(fā)布了倫理準(zhǔn)則，用以規(guī)范專業(yè)人員的軟件開發(fā)行為。2018年，ACM發(fā)布了新版《計(jì)算機(jī)協(xié)會(huì)道德與職業(yè)行為準(zhǔn)則》，聲稱該準(zhǔn)則的目的是用作計(jì)算專業(yè)人員進(jìn)行道德決策的基礎(chǔ)。為研究這些倫理準(zhǔn)則究竟能夠?qū)I(yè)人員產(chǎn)生何種程度的影響，麥克納馬拉(AndrewMcNamara)等人邀請了63名軟件工程的學(xué)生和105名職業(yè)軟件工程師對11個(gè)與軟件相關(guān)的倫理決策進(jìn)行實(shí)驗(yàn)。他們將受試對象分為兩組，一組將ACM的倫理準(zhǔn)則展示給受試者，另一組則看不到倫理準(zhǔn)則。實(shí)驗(yàn)結(jié)果表明，兩組受試者對同樣的倫理問題給出的倫理抉擇較為一致，無論是學(xué)生還是專業(yè)人員，是否看到倫理準(zhǔn)則，對他們的倫理抉擇沒有統(tǒng)計(jì)學(xué)意義上的顯著差異。因此，麥克納馬拉等人認(rèn)為，沒有證據(jù)表明ACM的倫理準(zhǔn)則會(huì)影響倫理抉擇。〔4〕
相關(guān)期刊推薦：《自然辯證法研究》創(chuàng)刊于一九八六年，月刊。本刊為專業(yè)學(xué)術(shù)性期刊。研究自然哲學(xué)、科學(xué)哲學(xué)、技術(shù)哲學(xué)、科學(xué)方法論等理論問題，探討當(dāng)代科學(xué)、技術(shù)、經(jīng)濟(jì)與社會(huì)的相互關(guān)系、注重對最新國內(nèi)外科學(xué)技術(shù)成果的哲學(xué)探索和對自然辯證法學(xué)科的基礎(chǔ)理論的研究。讀者對象為哲學(xué)、理論、管理、科技工作者和自然辯證法教師以及關(guān)注本領(lǐng)域的研究人員。
隨著環(huán)境保護(hù)運(yùn)動(dòng)的興起與人們環(huán)保意識(shí)的增強(qiáng)，許多企業(yè)采用虛假或夸大的廣告、宣傳等形式，誤導(dǎo)人們相信它們在環(huán)境保護(hù)方面的各種表現(xiàn)與努力，這種現(xiàn)象在環(huán)境倫理學(xué)中被稱為“倫理漂綠(ethicsgreenwashing)”。參照“倫理漂綠”概念，弗洛里迪(LucianoFloridi)把數(shù)字技術(shù)中的類似現(xiàn)象稱之為“倫理漂藍(lán)(ethicsbluewashing)”。也就是說，有的人工智能企業(yè)通過市場宣傳、廣告以及其他公共關(guān)系活動(dòng)，包括設(shè)置咨詢團(tuán)隊(duì)等方式，使得人們相信他們的行為、產(chǎn)品與服務(wù)等是合乎倫理的，但實(shí)際情況并非如此。通過倫理漂藍(lán)的手段，可以轉(zhuǎn)移公眾的注意力、掩蓋其不良行徑、節(jié)約成本以及獲得某些競爭優(yōu)勢等等。〔5〕倫理原則真的不能發(fā)揮實(shí)質(zhì)性的作用嗎?難道倫理原則只能用作部分人工智能企業(yè)與學(xué)術(shù)團(tuán)體的漂亮口號，借此緩解與平息公眾對人工智能的憂慮與質(zhì)疑?
2.倫理原則在生命科學(xué)與醫(yī)學(xué)等領(lǐng)域的積極影響
倫理原則制定與應(yīng)用歷史最悠久、影響最大、接受度最高的領(lǐng)域可能是醫(yī)學(xué)倫理與生命倫理。美國醫(yī)學(xué)協(xié)會(huì)(AmericanMedicalAssociation)早在1847年就創(chuàng)立了醫(yī)學(xué)倫理準(zhǔn)則，之后不斷更新與擴(kuò)充。在醫(yī)學(xué)領(lǐng)域中，特別是在新興領(lǐng)域與快速發(fā)展的領(lǐng)域當(dāng)中，由于沒有現(xiàn)成的法律法規(guī)可供使用，因此包括倫理準(zhǔn)則、倫理指南與政策等“軟法”得到廣泛應(yīng)用。而且，職業(yè)共同體的軟法還有助于法庭判定某些職業(yè)責(zé)任，在某些特殊情況下，如果缺乏相應(yīng)的法律條文的話，軟法將是案件判決的決定性因素。〔6〕生命倫理學(xué)中對倫理原則的推崇甚至表現(xiàn)為原則主義(principlism)，這種觀點(diǎn)認(rèn)為，在倫理對話中，可能存在被所有參與者贊同的基本原則，生命倫理學(xué)最重要的任務(wù)就是根據(jù)具體的生命倫理學(xué)問題來解釋應(yīng)用這些倫理原則的結(jié)果，決定它們的權(quán)重或相對的影響力。〔7〕33
不過，米特爾施泰特(BrentMittelstadt)認(rèn)為，雖然人工智能倫理原則與醫(yī)學(xué)倫理原則很相似，但人工智能與醫(yī)學(xué)的差異使得人工智能領(lǐng)域的倫理原則不太可能像醫(yī)學(xué)領(lǐng)域那樣成功。人工智能與醫(yī)學(xué)相比存在四方面的不足。第一，缺乏共同目標(biāo):人工智能的研發(fā)目標(biāo)與公共利益并不一致。第二，職業(yè)規(guī)范不完善:作為一名良善的人工智能研發(fā)者的具體內(nèi)涵并不清楚。第三，沒有一套有效的將原則轉(zhuǎn)譯為實(shí)踐的方法。第四，缺乏穩(wěn)健的法律與職業(yè)責(zé)任機(jī)制:當(dāng)研發(fā)者的行為違背倫理原則時(shí)，幾乎沒有處罰機(jī)制與糾偏機(jī)制。〔8〕
3.若干人工智能倫理原則的認(rèn)同與影響
雖然米特爾施泰特的批評有一定合理之處，但我們應(yīng)該看到，隨著人工智能科學(xué)共同體與哲學(xué)家、社會(huì)公眾的共同努力，人工智能領(lǐng)域與醫(yī)學(xué)相比的不足與差距正在逐漸縮小，或者得到一定程度的克服與改善。另外，前述提及的麥克納馬拉等人研究的預(yù)設(shè)前提并不合理，他們的研究實(shí)際上假定實(shí)驗(yàn)者看到了倫理原則就會(huì)立即對其思想與行為產(chǎn)生影響。事實(shí)上，任何人從知道倫理原則，到在實(shí)際的技術(shù)研發(fā)行為中得到正確理解與合理應(yīng)用，需要一個(gè)較長的反思與實(shí)踐過程。——論文作者：吳紅，杜嚴(yán)勇
