人工智能概念在猝不及防的AlphaGo事件中家喻戶曉，手機(jī)助手Siri已經(jīng)能夠進(jìn)行語(yǔ)音交流，完成很多工作。無(wú)人駕駛汽車已經(jīng)在全球各地實(shí)地測(cè)試。隨著人工智能成為愈加無(wú)法逃避的現(xiàn)實(shí)，它將促使我們改變生存世界的假設(shè)，顛覆我們對(duì)生活秩序的認(rèn)知。無(wú)人駕駛汽車、機(jī)器人保姆、機(jī)器人管家、人工智能外科手術(shù)醫(yī)生……越來(lái)越多的人工智能機(jī)器人走進(jìn)我們的生活，法律、政策與倫理如何規(guī)范？
霍金說(shuō)：由于生物學(xué)意義上的限制，人類無(wú)法趕上技術(shù)的發(fā)展速度。人類無(wú)法與機(jī)器競(jìng)爭(zhēng)，并會(huì)被取代。全人工智能的發(fā)展可能導(dǎo)致人類的終結(jié)。機(jī)器人的崛起，法律將如何應(yīng)對(duì)？在《機(jī)器人是人嗎？》一書(shū)中，美國(guó)律師約翰弗蘭克韋弗探討了這個(gè)引人入勝的新故事的法律層面，從無(wú)人駕駛汽車發(fā)生事故時(shí)的具體法律問(wèn)題，到正在向法律本身提出挑戰(zhàn)的基本問(wèn)題。
人工智能時(shí)代降臨，法律將如何應(yīng)對(duì)？
未來(lái)已來(lái)，且看機(jī)器人如何顛覆我們對(duì)生活秩序的認(rèn)知
機(jī)器人崛起，法律猝不及防
從無(wú)人駕駛汽車到智能醫(yī)生，他們正在向法律發(fā)起挑戰(zhàn)……
主編序
彭誠(chéng)信
一
無(wú)論生物學(xué)意義上的自然人類(以下簡(jiǎn)稱人類)是否做好準(zhǔn)備，人工智能時(shí)代正逐步走來(lái)，而這恰恰是由人類自身所引起。
初級(jí)的人工智能或許能為人類帶來(lái)便捷，在我國(guó)，或許還能帶來(lái)規(guī)則意識(shí)，甚至法治理念的真正普及。這是因?yàn)椋斯ぶ悄艿谋举|(zhì)就是算法，任何算法必然建立在對(duì)某項(xiàng)事物認(rèn)識(shí)的共性與常識(shí)之上。也正是在此意義上，人工智能能為人類服務(wù)，能代替自然人為人類服務(wù)。 初級(jí)的人工智能，如果還沒(méi)有深度學(xué)習(xí)能力，或者深度學(xué)習(xí)能力尚不充分，它就難以進(jìn)行諸如自然人價(jià)值判斷與情感判斷的活動(dòng)，比如包含愛(ài)的交流與體驗(yàn)，難以對(duì)疑難案件作出理性裁判，對(duì)案件的漏洞填補(bǔ)與價(jià)值補(bǔ)充等。在此意義上，人工智能產(chǎn)品還主要表現(xiàn)為人工智能物，僅在有限的意義上具有自然人的屬性。但即便是初級(jí)的人工智能，在我國(guó)也具有非常重要的意義，主要表現(xiàn)為規(guī)則意識(shí)與誠(chéng)信觀念的建立。人工智能最核心的大腦就是算法，算法本身便是規(guī)則。初級(jí)人工智能對(duì)人類的服務(wù)就是規(guī)則服務(wù)；而人類要接受人工智能的服務(wù)，就必須接受算法設(shè)定的各種規(guī)則。人工智能，尤其是結(jié)合網(wǎng)絡(luò)運(yùn)用的人工智能，會(huì)促使與提升自然人的規(guī)則意識(shí)，因?yàn)闊o(wú)論自然人在線下是否遵守規(guī)則，也無(wú)論規(guī)則在線下如何難以推行與實(shí)現(xiàn)，只要自然人接受線上服務(wù)，就必須遵守線上規(guī)則；無(wú)論自然人在線下如何不守信，他在線上也必須誠(chéng)實(shí)，否則他就進(jìn)入不了虛擬世界，便也無(wú)從獲得特定人工智能的服務(wù)。在初級(jí)的人工智能時(shí)代，人類仍是核心，是世界的主宰，畢竟自然人仍是規(guī)則的制定者，是人工智能的服務(wù)對(duì)象。
而到了高級(jí)人工智能時(shí)代，即，當(dāng)人工智能能夠進(jìn)入深度學(xué)習(xí)與感情交流，可以進(jìn)行團(tuán)體合作與共同行動(dòng)時(shí)，換句話說(shuō)，當(dāng)人工智能可以改變甚至完全脫離自然人為其設(shè)計(jì)好的初始算法而創(chuàng)制新的算法時(shí)，那時(shí)的人工智能物便實(shí)實(shí)在在地變成了人工智能人。人工智能人如何改變自然社會(huì)，甚至如何引導(dǎo)與影響整個(gè)自然社會(huì)走向，已非自然人所能完全掌控與想象，恐怕也為人工智能人本身所不知。尤其是，當(dāng)人工智能人可以在虛擬世界制定規(guī)則(創(chuàng)制新的算法)，而這種規(guī)則又必然會(huì)影響到自然世界時(shí)，那時(shí)自然世界的主宰到底是人工智能人，還是自然人，或許現(xiàn)在的我們(人類)已經(jīng)難以給出確定答案。那時(shí)的人類在自然世界或虛擬世界中處于何種主體地位，現(xiàn)在的我們也不得而知。當(dāng)人工智能人有了情感交流能力并具有生物生成功能后，在自然人與自然人、人工智能人與人工智能人以及自然人與人工智能人之間的多元關(guān)系中，誰(shuí)來(lái)制定規(guī)則，為誰(shuí)制定規(guī)則，誰(shuí)是自然世界或者虛擬世界的主宰或規(guī)則主體，以及各種形態(tài)主體之間具體的生活樣態(tài)如何等問(wèn)題，可能都遠(yuǎn)遠(yuǎn)超出了我們當(dāng)下的想象，或許那時(shí)的社會(huì)狀態(tài)本身就不可想象！
正是為了認(rèn)真面對(duì)這些問(wèn)題，警惕與體味這些問(wèn)題，以便未來(lái)更好地深入研究或應(yīng)對(duì)這些問(wèn)題，上海人民出版社曹培雷副總編輯、法律與社會(huì)讀物編輯中心蘇貽鳴總監(jiān)、秦堃編輯等及本人一起探討決定編譯人工智能叢書(shū)，幫助我國(guó)讀者了解既有的人工智能研究，并以此為切入口對(duì)人工智能進(jìn)行深度了解與學(xué)習(xí)。我們篩選并翻譯了國(guó)外有關(guān)人工智能研究的較有影響力的三部經(jīng)典著作，推介給中國(guó)讀者。這三部著作便是意大利學(xué)者烏戈帕加羅所著的《誰(shuí)為機(jī)器人的行為負(fù)責(zé)？》、美國(guó)律師約翰弗蘭克韋弗所著的《機(jī)器人是人嗎？》以及美國(guó)學(xué)者瑞恩卡洛、邁克爾弗魯姆金和加拿大學(xué)者伊恩克爾編輯的文集《人工智能與法律的對(duì)話》。
二
《誰(shuí)為機(jī)器人的行為負(fù)責(zé)？》一書(shū)，由張卉林、王黎黎和筆者共同翻譯。該書(shū)通篇都在試圖回答一個(gè)問(wèn)題：誰(shuí)來(lái)承擔(dān)責(zé)任(Who Pays)。作者建構(gòu)了一種分析法律責(zé)任模型。他在刑法、合同法和侵權(quán)法的框架下討論了27種假設(shè)情況，例如刑法中的機(jī)器人士兵、合同法中的外科手術(shù)機(jī)器人以及侵權(quán)法中的人工智能雇員等，目的是分析在不同的情況下設(shè)計(jì)者、生產(chǎn)者、使用者和機(jī)器人之間應(yīng)當(dāng)如何分配責(zé)任。作者還討論了機(jī)器人對(duì)現(xiàn)代法學(xué)體系中的若干重要內(nèi)容帶來(lái)的挑戰(zhàn)，比如刑法中的正義戰(zhàn)爭(zhēng)理論、合同法中的代理資格以及侵權(quán)法中的責(zé)任承擔(dān)。上述問(wèn)題的討論建立在作者對(duì)法律責(zé)任和義務(wù)的概念的分析基礎(chǔ)上，討論法律基礎(chǔ)是否會(huì)受到機(jī)器人技術(shù)的影響。最后，作者討論了作為元技術(shù)的法律，即如何通過(guò)法律實(shí)現(xiàn)對(duì)技術(shù)發(fā)展的控制。
《機(jī)器人是人嗎？》一書(shū)由劉海安、徐鐵英和向秦翻譯。該書(shū)認(rèn)為，人工智能可以達(dá)到如同與真人一樣進(jìn)行語(yǔ)音交流的程度，并自主學(xué)習(xí)知識(shí)和判斷問(wèn)題。作者討論了人工智能的知識(shí)產(chǎn)權(quán)享有和責(zé)任承擔(dān)問(wèn)題。作者認(rèn)為，面對(duì)人工智能承擔(dān)法律責(zé)任，可以通過(guò)人工智能保險(xiǎn)或儲(chǔ)備基金支付賠償費(fèi)用。如何規(guī)范人工智能？作者以美國(guó)各州對(duì)自動(dòng)駕駛汽車的相關(guān)立法為例，對(duì)未來(lái)人工智能統(tǒng)一立法作出合理預(yù)測(cè)：(1)當(dāng)產(chǎn)品制造商、開(kāi)發(fā)商和人類都沒(méi)有過(guò)錯(cuò)時(shí)，不同體系的機(jī)構(gòu)將會(huì)為涉及人工智能的事故受損者建立賠償或補(bǔ)償基金；(2)至少在初期，很多形式的人工智能產(chǎn)品的使用將被要求獲得執(zhí)照許可背書(shū)；(3)在初期，往往需要對(duì)人工智能進(jìn)行人為監(jiān)督，但是最終，只有那些主要用于改善人類表現(xiàn)的人工智能才需要人為監(jiān)督；(4)盡管最初的立法將會(huì)經(jīng)常把人類作為操作者(行為人)，即使這種標(biāo)簽不適用于人工智能的類型，但最終立法會(huì)在以確定操作者責(zé)任為目的時(shí)變得更加細(xì)分；(5)立法將始終區(qū)分用于測(cè)試目的的人工智能和向消費(fèi)者提供的人工智能；(6)立法將始終要求這樣一個(gè)機(jī)制，允許人類脫離人工智能但很容易重新控制人工智能；(7)立法將始終要求在自動(dòng)化技術(shù)失敗時(shí)，人工智能產(chǎn)品能向周圍的人發(fā)出警告；(9)對(duì)采集個(gè)人信息的擔(dān)憂將會(huì)迫使法律要求披露人工智能運(yùn)作時(shí)所收集的信息。
《人工智能與法律的對(duì)話》由陳吉棟、董惠敏和杭穎穎翻譯。本書(shū)共分討論起點(diǎn)、責(zé)任、社會(huì)和道德意義、執(zhí)法和機(jī)器人戰(zhàn)爭(zhēng)5個(gè)部分，共14篇論文。其中，大部分是首次在We Robot這一跨學(xué)科會(huì)議上發(fā)布的最新論文。這些論文探討了機(jī)器人的日益復(fù)雜化以及它們?cè)诟鱾�(gè)領(lǐng)域的廣泛部署，重新思考了它所帶來(lái)的各種哲學(xué)和公共政策問(wèn)題、與現(xiàn)有法律制度不兼容之處，以及因此可能引發(fā)的政策和法律上的變化。整本書(shū)為我們生動(dòng)地展現(xiàn)了一場(chǎng)內(nèi)容廣泛、啟發(fā)深遠(yuǎn)的對(duì)話，如本書(shū)第二部分有關(guān)機(jī)器人行為責(zé)任的講述：F.帕特里克哈伯德教授《精密機(jī)器人所致人身?yè)p害的風(fēng)險(xiǎn)分配》一文對(duì)普通法應(yīng)對(duì)技術(shù)變革的能力提供了一種樂(lè)觀的評(píng)估：普通法系統(tǒng)包含了內(nèi)部機(jī)制，能夠?yàn)閼?yīng)對(duì)機(jī)器人化的世界作出必要的相對(duì)較小的變化；而柯蒂斯E.A.卡諾法官在《運(yùn)用傳統(tǒng)侵權(quán)法理論迎接機(jī)器人智能》一文中則提出了截然相反的觀點(diǎn)：傳統(tǒng)的過(guò)失和嚴(yán)格責(zé)任理論不足以應(yīng)對(duì)真正自主性機(jī)器人的挑戰(zhàn)。
需要說(shuō)明的一點(diǎn)是，我們從2017年9月確定翻譯書(shū)目，10月組建翻譯團(tuán)隊(duì)，到12月后陸續(xù)落實(shí)版權(quán)并著手翻譯，翻譯時(shí)間可謂十分緊張。叢書(shū)譯者多為高校或者研究機(jī)構(gòu)的青年科研教學(xué)人員，需要克服繁重的教學(xué)和科研壓力；加之，所譯著作內(nèi)容涉及法律、計(jì)算機(jī)和倫理等多元且交叉的學(xué)科知識(shí)，遠(yuǎn)遠(yuǎn)超出了多數(shù)譯者所在的法學(xué)學(xué)科領(lǐng)域，翻譯不當(dāng)甚至錯(cuò)誤恐在所難免，在此我們衷心懇請(qǐng)并接受各位讀者、專家批評(píng)指正。
三
2017年7月中華人民共和國(guó)國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，強(qiáng)調(diào)建立保障人工智能健康發(fā)展的法律法規(guī)，妥善應(yīng)對(duì)人工智能可能帶來(lái)的挑戰(zhàn)，形成適應(yīng)人工智能發(fā)展的制度安排。《規(guī)劃》為此要求開(kāi)展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用等法律問(wèn)題研究，建立追溯和問(wèn)責(zé)制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等。但正如弗魯姆金(Froomkin)指出的，也可能是本譯叢三本書(shū)的作者們皆認(rèn)可的：(1)對(duì)于機(jī)器人和監(jiān)管問(wèn)題，現(xiàn)在還為時(shí)尚早；(2)技術(shù)問(wèn)題遠(yuǎn)比律師想象的復(fù)雜，法律、倫理和哲學(xué)問(wèn)題比工程師想象的更有爭(zhēng)議(有時(shí)也更復(fù)雜)；(3)我們要徹底解決這些問(wèn)題的唯一辦法就是擴(kuò)大和深化我們跨學(xué)科的努力。讓世界為機(jī)器人做好準(zhǔn)備的同時(shí)，使機(jī)器人也為世界做好準(zhǔn)備，這必須是一個(gè)團(tuán)隊(duì)項(xiàng)目否則它可能會(huì)變得很糟糕。由此揭示出，對(duì)于人工智能的探討與研究，即便是對(duì)于人工智能的規(guī)范性研究，并非法學(xué)一個(gè)學(xué)科所能勝任。人工智能本身就是一個(gè)具有綜合性、復(fù)雜性、前沿性的知識(shí)、智識(shí)與科學(xué)，它需要幾乎所有的理工與人文社會(huì)科學(xué)學(xué)科進(jìn)行交叉性研究，也需要研究者、實(shí)體技術(shù)者與產(chǎn)業(yè)者等各個(gè)領(lǐng)域的人配合與對(duì)話。法律人在人工智能的研究、開(kāi)發(fā)、規(guī)則制定等各個(gè)環(huán)節(jié)中是不可缺少的一環(huán)，但也僅僅是一個(gè)環(huán)節(jié)，他只有加入人工智能的整體研究與發(fā)展中去，才會(huì)發(fā)揮更大的價(jià)值。我們期待這套譯叢的出版有助于人工智能在法學(xué)及其他領(lǐng)域展開(kāi)深入討論，為跨學(xué)科的對(duì)話甚至團(tuán)隊(duì)合作提供一定程度的助益。
無(wú)論未來(lái)人工智能時(shí)代的社會(huì)生活樣態(tài)如何，無(wú)論人工智能時(shí)代的社會(huì)主體如何多元，多元的主體依然會(huì)形成他們自己的存在哲學(xué)，也許依然需要他們自己的情感系統(tǒng)。無(wú)論未來(lái)的人工智能時(shí)代多么不可預(yù)測(cè)，問(wèn)題的關(guān)鍵還是在于人類的自我與社會(huì)認(rèn)知。就像蘋(píng)果公司首席執(zhí)行官蒂姆庫(kù)克(Tim Cook)在麻省理工學(xué)院(MIT)2017屆畢業(yè)典禮演講中指出的，我并不擔(dān)心人工智能能夠像人一樣思考，我更關(guān)心的是人們像計(jì)算機(jī)一樣思考，沒(méi)有價(jià)值觀，沒(méi)有同情心，沒(méi)有對(duì)結(jié)果的敬畏之心。這就是為什么我們需要你們這樣的畢業(yè)生，來(lái)幫助我們控制技術(shù)。是的，我們或許不知未來(lái)的人工智能是否會(huì)產(chǎn)生包含同情與敬畏的情感，但我們能夠確信的是，即便在人工智能時(shí)代，我們最需要的依然是人類飽含同情與敬畏的愛(ài)！未來(lái)的人工智能時(shí)代無(wú)論是初級(jí)樣態(tài)還是高級(jí)學(xué)習(xí)樣態(tài)，能夠讓多元的主體存在并和諧相處的，能夠把多元主體維系在一起的或許唯有愛(ài)。這個(gè)從古至今在自然世界難以找到確定含義的概念，在虛擬與現(xiàn)實(shí)共處的世界中更是難以獲得其固定內(nèi)涵，但我們唯一知道并可以確信的是，如果沒(méi)有愛(ài)，那么未來(lái)的人工智能時(shí)代就真的進(jìn)入了一個(gè)混沌而混亂的世界！
上海交通大學(xué)凱原法學(xué)院2018年7月10日
約翰弗蘭克維弗，美國(guó)律師，人工智能法律領(lǐng)域?qū)＜摇⒑０玻?982年生，漢族，山西平遙人。2000年考入吉林大學(xué)法學(xué)院，2004年獲得法學(xué)學(xué)士學(xué)位、2007年獲得民商法碩士學(xué)位、2010年獲得民商法博士學(xué)位。現(xiàn)為中國(guó)民航大學(xué)航空法律與政策研究中心研究員，中國(guó)民航大學(xué)法學(xué)院教師。主要研究方向是民商法、航空法。
主編序
中文版序
第一部分 機(jī)器人會(huì)傷害人類嗎？
第一章 人工智能已經(jīng)到來(lái)
一、 機(jī)器人三大定律與人工智能的人格
二、 Siri蘋(píng)果公司拉開(kāi)了人工智能革命的序幕
三、 Siri的聲音誰(shuí)擁有該知識(shí)產(chǎn)權(quán)？
四、 誰(shuí)應(yīng)當(dāng)享有Siri創(chuàng)作的媒體內(nèi)容和類似著作權(quán)？
五、 Siri讓我干的Siri產(chǎn)生錯(cuò)誤的責(zé)任
六、 Siri之后會(huì)發(fā)生什么
第二章 如何起訴機(jī)器人：人工智能與法律責(zé)任
一、 法律責(zé)任理論
二、 人工智能何時(shí)承擔(dān)法律責(zé)任？
三、 人工智能如何承擔(dān)法律責(zé)任？
四、 機(jī)器人醫(yī)生的責(zé)任
五、 涉及機(jī)器人醫(yī)生的案例
六、 保護(hù)事故受害者及人工智能開(kāi)發(fā)者的法律修訂
第二部分 機(jī)器人一定要服從人類的命令嗎？
第三章 統(tǒng)一人工智能法典和人工智能管理規(guī)定
一、 規(guī)制新科技
二、 無(wú)人駕駛執(zhí)照：自動(dòng)汽車規(guī)范
三、 自動(dòng)駕駛汽車是人工智能立法的未來(lái)？
第四章 機(jī)器看護(hù)人：當(dāng)由機(jī)器人照料孩子(或者成人)
一、 誰(shuí)擁有監(jiān)護(hù)權(quán)？
二、 人工智能看護(hù)者、機(jī)器助手和機(jī)器保姆
三、 當(dāng)機(jī)器人看護(hù)你的幼兒，照顧你的祖母時(shí)會(huì)發(fā)生
什么？
四、 關(guān)于機(jī)器人保姆和人工智能看護(hù)者的余思
第五章 機(jī)器人在我的后院
一、 地方法令它們能做什么？
二、 工業(yè)機(jī)器人和人工智能工業(yè)工人
三、 人工智能產(chǎn)業(yè)機(jī)器人的引進(jìn)(及其他形式的人工智能)
如何影響地方條例
四、 怎樣修改條例以納入人工智能
五、 行政委員會(huì)之前的人工智能
第六章 人工智能與第四修正案
一、 第四修正案簡(jiǎn)史
二、 警方對(duì)機(jī)器人和人工智能的運(yùn)用
三、 第四修正案之下的人工智能無(wú)人偵察機(jī)
四、 人工智能與隱私
第七章 即將到來(lái)的聯(lián)合國(guó)人工智能公約
一、 國(guó)際法，或法律上不可強(qiáng)制執(zhí)行時(shí)會(huì)發(fā)生什么
二、 軍用無(wú)人機(jī)
三、 國(guó)際法下的人工智能
四、 人工智能的國(guó)際標(biāo)準(zhǔn)
第三部分 機(jī)器人會(huì)保護(hù)自己?jiǎn)幔?/p>
第八章 一臺(tái)機(jī)器人擁有什么？
一、 知識(shí)產(chǎn)權(quán)簡(jiǎn)史
二、進(jìn)行創(chuàng)作的人工智能
三、人工智能創(chuàng)作的知識(shí)產(chǎn)權(quán)屬于誰(shuí)？
四、直面人工智能
五、人力完成的作品 vs.像擰開(kāi)水龍頭后涌出的作品
第九章 人工智能可以對(duì)我們有利嗎？
一、 最壞的情況
二、 最好的情況
三、 公共政策的改變
四、 我們應(yīng)該如何修訂法律來(lái)應(yīng)對(duì)人工智能的出現(xiàn)
五、 無(wú)需有大師的學(xué)徒，或領(lǐng)主的奴隸
索引
譯后記
新書(shū)資訊