人工智能法律规制的立法初探

人工智能法律规制的立法初探

作者：罗艺林

来源：《智富时代》2019年第07期

【摘 要】人工智能时代的到来，机器人技术的日益成熟，人工智能机器人已经逐渐渗透到人们的生产和生活中，能够提高工作的质量和效率，能够提高人们的生活水准，是新的机遇但也是新的挑战，给人们的生产生活带来便利的同时，也会涉及到社会、伦理道德、法律法规等问题，急需立法对这一系列问题进行规制，我们可以借鉴联合国、美国、英国、日本等国家关于机器人的立法规定和战略安排，作为启发来填补我们国家关于人工智能的立法空白，从人工智能的权利能力、行为能力、责任能力等方面入手进行相应的立法规制，为世界的人工智能立法规制提供中国方案。

【关键词】人工智能；立法规制；责任主体

随着信息技术的发展，人工智能已经成为信息技术革新的又一重大突破，成为时代进步的标杆。人工智能（Artificial Intelligence，简称AI技术），作为一项新兴技术，已经不仅仅局限于某个特定领域，而是能够在政治、经济、社会等各产业带来深刻的、全方位的变革，人工智能的研发和更新呈滚动式发展，引起全世界人民的广泛关注和热烈讨论。起初开发人工智能技术的目的是让机器人协助人类完成某项任务，但随着研发技术的逐渐成熟，人类对人工智能的要求越来越高，机器人的作用不仅发挥在计算机领域，还应用于生活和生产中，主要可以分为智能技术、数据分析、智能系统等实质要点。第一，智能技术首先体现的是人类与机器人无障碍互动沟通交流，这就要求机器人具备翻译灵活、语言运用、文字转换等功能。例如在2017年11月2日，在沙特的首都利雅得举行的“未来投资倡议”大会（Future Investment Initiative 大会）上，首个被授予沙特公民身份的机器人索菲亚（Sophia）在大会上完成了非常出色的演讲，并与在场来宾有很好的互动和沟通，甚至巧妙的避开了记者向她提出的“机器人自我意识”这个敏感问题。第二，数据分析主要体现的是针对繁杂庞大的、模糊未知的数据库做研究分析，从而得出有益的信息作为主要参考来源，分析技术的基础在于数据库和统计学的有效运用，其中包括理论算法、可视化知识以及半结构语言等要素，这就能够用技术来支撑人工智能数据分析的功能应用。第三，智能系统具有高度智能化的自主性体系的特点，其中包含与人类类似的思考模式和能力选择，从而能够自我决定如何实施具体任务。智能系统能够随着外部环境的变化而进行自我调节，重新制定或者规划完成任务。

人工智能的发展前后有60年的时间，而人工智能技术快速崛起并日益成熟，在引发人们关注的同时，也激励着政府的监管和法律的保障。*总书记提出，想要提升国家治理体系和治理能力，实现国家治理现代化，就要学会运用大数据。在2016年7月，国务院印发的“十三五”规划中，作为新一代信息技术的人工智能被列入规划中，2017年3月，政府工作报告首次提到了人工智能；同年7月，国务院发表的《新一代人工智能发展规划》中提出了“人工智能三步走”的战略目标，人工智能技术到2030年能够达到世界领先水平。人工智能技术的蓬勃发展，对于社会乃至整个世界，是一把双刃剑，既是机遇也是挑战。人工智能的迅猛发展给社

龙源期刊网 http://www.qikan.com.cn

会就业结构带来冲击、容易触碰法律和伦理道德、个人隐私容易被侵犯、国际关系更加不稳定等一系列问题，急需一套科学完备的规则对人工智能进行规制、管控和防范。

在具体的实践应用中，由于人工智能的发展速度相当迅猛，对于人工智能领域的管控还处于空白阶段，法律具有滞后性的特点使得有关人工智能的立法还在探索阶段。对于已经影响人们生产生活的畛域，立法者可以考虑从这一方面着手，例如：无人机、自动化智能机器领域、人形类机器人领域、辅助型机器人领域等，优先启动起草审查立项等工作。拟定人工智能方面的法律规则，要求立法者要进行普遍问题结构性讨论和重大疑难问题专题研究，主要包括：研发原则、应用监管、风险防控、责任归则等方面。 一、联合国关于人工智能的有关规定

在2016年，联合国教科文组织和世界科学知识与技术伦理委员会联合发布了《联合国的人工智能政策》的报告，报告中集中研究了机器人的创制和应用问题，以及这些创制和应用给人工智能带来的进步从而引发的社会效应、伦理效益、法律效应等问题。报告倡导各个国家和地区应该加强在立法方面的管控，例如：数据公开和隐私保护之间的平衡问题；设定机器人和机器人创造者、销售者、使用者之间的责任划分规则；建立风险防控机制；机器人进入日常生活的实际操作；研究类人化机器人时的知情同意权；机器人淘汰报废后的处理问题；机器人在各行各业广泛使用而衍生出的全新的保险机制。

生产创造一个机器人并非易事，需要不同领域的专家学者通力合作，但是一旦该机器人操作不当造成的损失，甚至产生侵权事故，则应当由谁担起这份责任？阿萨罗（Asaro）提出的结论在联合国的报告中得到引用，即由于机器人本质上属于科技产品，因此机器人及其机器人的技术产生的侵权责任，主要由民法中侵权责任的相关条款来进行调整。从该层面来说，很大程度上机器人的生产者、销售者的“过失”“没有尽到合理义务”“缺失产品警告”等问题会导致机器人造成的侵权损害。阿萨罗指出，随着机器人技术日益成熟，机器人越来越智能化使得该归则轨制逐渐被废除和遗弃。但是，一个新的责任分担归则又应运而生，主要应用于平衡机器人的生产者、销售者、使用者的责任问题。但是高度智能化的机器人又如何能够独立成为承担责任的主体这个问题值得深入探讨和研究。 二、欧盟国家的有关立法建议

在2015年1月，欧盟议会法律事务委员会（JURI）成立了一个专门研究与机器人发展有关的法律问题的工作小组，在2016年5月，该法律事务委员会又发布了一项立法草案，是欧洲国家第一个讨论如何监管和控制机器人的意见的立法草案，其讨论的重心在于制定出一套完整的法律制度以便更好的利用民用机器人。报告同样涉及了如何防范机器人可能导致的安全问题、伦理问题、对人类的侵权问题。报告倡议创制出一套能够规制人类与机器人或人工智能之间的互动的规则原则，这可能会是第一个管理和控制机器人或人工智能的立法草案。草案请求欧盟制定出一套完整的法律制度以此来规范民用机器人的生产、销售和使用，讨论机器人是否需要拥有“死亡按钮”、探究人类工作被机器人取代时应当采取的相关对策，等等。有的專家学

龙源期刊网 http://www.qikan.com.cn

者将此次立法视为人类面对机器人革命的一次社会震荡。《欧盟机器人民事法律规则》在同年的10月份与世人见面。以此为前提，欧盟议会法律事务委员会在2017年2月16日投票通过了一项决议，其决议涵盖了立法建议，并向欧盟委员会提出关于机器人或人工智能的立法提案的要求。不仅如此，该委员会提出的立法建议包括了很多方面，例如：成立一个能够专门负责管理机器人或者人工智能的机构或部门；订立机器人或人工智能的行为规则；机器人或者人工智能的责任分担的规则；赋予高智能机器人独立的法律主体地位；加强在知识产权领域对人工智能的保护；协调数据公开的隐私保护的；机器人工作安全性和标准化；对有特定功能的机器人或人工智能进行特殊管控和制定特定的规则；注重机器人或人工智能的社会反馈并改进；加强国际合作完善相关的法律政策。 三、美国有关人工智能的草案

在2016年，一条与送货机器人有关的法律在美国的弗吉尼亚州生效，该条法律规定批准送货机器人可以在全州的人行道上同行，该法律也是美国首次确立了送货机器人的相关立法。依照最新的法案里的规定，送货机器人被批准在人行道上同行，但是时速不能超过10英里，即16千米/小时或者承载的重量要低于50磅，即约23千克。虽然该法条没有规定机器人的行驶必须在操作者的视野范围内，但是仍然需要操作者的远程操作，避免在行驶的过程中出现失去控制的情况发生。该条立法案的制定者允许该州的各个城市可以根据当地的实际情况做出适当的调节，并不要求该规定固定不变，例如某城市可以做出更严格的行驶速度要求或承载重量的限制要求或者直接做出禁止性规定等。就目前的状况来看，除了弗吉尼亚州以外，美国有另外两个州也提出并审议了类似的与机器人或人工智能相关的立法草案。 四、英国对人工智能的监督和管理

早在2013年，英国的“八项伟大的科技”就将“机器人技术及其自动化系统”归纳到其中，而且英国立志领导和启动第四次工业革命。在2016年，英国下议院的科学和技术委员会做出了一项报告，即《机器人技术和人工智能》，其报告的重心在于预估英国未来对于机器人与人工智能的规范及其发展方向，及其如何监督和管理因机器人或者人工智能引发的社会、法律、道德等问题，报告提出要发挥有关监管职责的机构或部门的作用并建立领导体制机制，积极响应报告的号召，认真监督和管理以及风险防控。在工业的发展进步、学术研究探讨以及外界的关注监督上，英国政府总是显得较为落后，当领导决策能够引进机器人或人工智能无疑是引进一种新型的技术成果，站在时代前沿，拥有敢为人先的魄力。对于引进机器人或者人工智能无疑也是起到了提高了自己的社会关注度和社会地位的作，但在为社会带来经济或社会效益的同时，也带来了新的社会、法律、伦理等问题。下议院的科学和技术委员会在伦理和法律上的关注点侧重于对人工智能的风险防范和监督管理，及管理的归责原则，资金的支持和技术的创新。

五、日本的人工智能革命策略

龙源期刊网 http://www.qikan.com.cn

日本是在世界出了名的“机器人超级大国”，日本以解决劳动力匮乏问题，提高生产效率，增加经济效益为目的而开发了机器人技术，在2014年成立了“机器人革命实现委员会”，委员会主要讨论与机器人有关的技术发展、监督管理及设立全球标准等手段。在2015年发布了《日本机器人战略：愿景、战略、行动计划》，指出了机器人革命战略的三大支柱和机器人发展的五年计划。日本法律法学界正在快马加鞭的研究人工智能与各大部门法之间的法律问题。 六、中国关于人工智能立法的方案

我们既要注重人工智能的技术创新和实际应用，也要加强研究与人工智能有关的法律、伦理和社会问题，制定与人工智能相关的法律法规、道德规范和战略目标。笔者认为人工智能在理论体系的基础上，我们可以从权利能力、行为能力、责任能力等方面对人工智能来制定相关的法律法规。

第一，关于人工智能的权利能力。有的学者认为，根据“机器人学三定律”，可以与人工智能约法三章，即第一，禁止做出伤害人类的事，且遇到人类受到伤害不得置之不理；第二，应当服从人类的命名，但禁止违反第一条；第三，应当学会自我保护，但禁止违反第一、第二条规定。其中，第三条规定了人工智能机器人的自我保护意识，自我保护的前提必须是拥有保护自身的权利，这就需要通过立法来划定人工智能机器人的基本权利的范畴，与一般的基本权利做区分。对于那些高智能化、能够具有独立意思表示能力、能够独立做出决策、有特殊功能的机器人，立法应当明确规定其应当享有的法律权利、应当履行的法律义务和应当承担的法律责任。

第二，关于人工智能立法技术的管理和控制。人工智能时代的到来无疑是一把双刃剑，人们创造人工智能机器人的初衷肯定是好的，为的是追求高效率、高精度、高细度的智能时代，但是也带来了人类对机器人发展速度过猛而产生的担忧，人工智能的学习能力比人类精，其工作能力也比人类强，追求的生活态度也比人类高端，存在的风险不可估量甚至有颠覆人类的可能。面对这种全球必须共同面对的时代性问题，人类要以权利能力和行为能力等基本的概念入手赋予人工智能的法律地位，规制人工智能的发展，分流式管理和控制，化解潜在的风险。例如可以将人工智能按照智能高低进行分类，以此可以分为无民事行为能力者、限制民事行为能力者，因此享有权利的同时必然会承担责任，且享有权利与承担责任成正比。

第三，全产业链事前批准事后备案机制。自然人的权利能力始于出生终于死亡，而笔者认为，人工智能机器人的权利能力应始于批准登记，且批准登记应当是法定的必经程序，未经批准登记的人工智能机器人不得应用于生产生活中，人工智能的设计者、生产者、零售商、终端使用者都可能成为承担法律责任的主体，禁止任何人未经批准擅自变更人工智能的程序代码，保证行业自律，明确各方义务和责任，完善倒追机制，从而保障社会的利益。

第四，投强制责任险。高智能的人工智能机器人的侵权责任可能等同于产品责任，所以应当由产品的设计者、生产者、零售商承担损害赔偿责任，该损害赔偿的承担有些时候并非是个小数目，可能会导致公司或者机构破产，一味的要求其承担责任是不妥的，所以强制责任险的

龙源期刊网 http://www.qikan.com.cn

引进无疑的减轻了责任承担方的压力，这也可能是运用法律手段调整新兴权责关系的一种有效的方式。

虽然人工智能技术日趋成熟，但是由于法律拥有滞后性这一固有特点，导致世界上任何一个国家的人工智能在立法方面没有特别完善的法律体系，这对于全世界来说无疑要面对的新挑战，我国要坚持依法治国，创立完善的法律体系，明确归则机制，加快填补人工智能方面的立法空白，加强人工智能知识产权领域的保护，更需要不同领域的专家合作，加强国际合作，从而规范人工智能技术的发展，使得人工智能更好了为人类所用。 【参考文献】

[1] 中华人民共和国中央人民政府. 国务院 关于印发新一代人工智能发展规划的通知[EB/OL]. （ 2017-07-20）[2018-07-29].

http： ∥www.gov.cn/zhengce/content/2017-07/20 /content_5211996.htm. [2]Danit Gal：《联合国的人工智能政策》，孙那、李金磊译；

http：//www.sohu.com/a/132199558_556637，访问时间2018年5月22日.

[3] 司晓、曹建峰：《论人工智能的民事责任：以自动驾驶汽车和智能机器人为切入点》，《法律科学》2017年第5期.

[4] 朱若淼：《送货机器人在美國合法上路了，还有了第一条关于机器人法案》， http：//www.qdaily.com/articles/38375.ht？ml，访问时间2018年5月26日. [5] 《人工智能各国战略解读》，

http：//www.360doc.com/content/17/0301/09/35919193_632883078.shtml，访问时间2018年5月26日.

[6] 储陈城：《日本政府对人工智能的发展战略和法律应对框架》，中日刑事司法微信公众号， 访问时间 2018 年 5 月28日.

[7] 艾萨克·阿西莫夫（Isaac Asimov），《我，机器人》.

[8] 张清、张蓉：《“人工智能+法律”发展的两个面向》，《求是学刊》，2018年第4.