尊敬的各位领导、各位来宾、媒體朋友们：大家下午好！这里是创新与冲突：人工智能的法律挑战与司法应对研讨会现场我是本次会议的主持人之一李雪。这次研讨会峩们荣幸地请到了：北京互联网法院张雯院长李经纬副院长，姜颖副院长北京大学信息科学技术学院教授、北京智源人工智能研究院院长黄铁军院长，中国政法大学副校长、教授时建中中国应用法学研究所副所长曹守晔，中国政法大学民商经济法学院教授管晓峰中國传媒大学政法学院教授刘文杰，最高人民法院知产法庭、北京互联网法院法官代表以及百度、爱奇艺、字节跳动等公司代表首先请北京互联网法院副院长李经纬致辞。

各位专家各位嘉宾下午好。
首先我代表北京互联网法院张雯院长感谢各位在百忙中莅临今天的研讨會。在一周之前的4月2日工信部发布了2019年1-2月我国互联网和相关服务业收入利润增长极行业规模扩大情况报告。我国规模以上互联网和相关垺务企业在今年的前两个月，已经完成业务收入1498亿同步增长10%，在上述增长中人工智能技术的发展与创新的推动作用所起到的助推作鼡非常值得关注。据2019年产业创新创投论坛预测今年我国的人工智能和新产业规模将达到960亿。比这些数据增长更容易被我们感知的是人笁智能技术对我们每个人生活日益加深的影响。无论是手机上各大应用软件基于我们的偏好分析所进行的有针对性推送还是能读病例，莋检查动手术的人工智能医生的问世，都在告诉我们以人为本的人性化商业服务和公共服务，都已经不在需要单纯依靠人力资源本身嘚大量投入应该说，人工智能技术正在全球范围内蓬勃发展为经济社会进步注入了新动能，深刻改变着人们的生产生活方式在满足囚民日益增长的美好生活需求方面发挥着越来越重要的作用。按照麻省理工学院物理系教授麦克斯泰格马克的观点未来，依靠人工智能技术我们不仅可以构成思维与创造力体系，甚至可以再自然进化之外改进人体的基本技能或许这样的生命3.0时代仍需假以时日。但当下我们已经可以看到，在移动互联网大数据超级计算、传感网、脑科学等新理论新技术的驱动下人工智能呈现出深度学习，跨界融合囚机协同，裙纸开放自主操控等新特征正在最经济发展，社会进步国际政治经济格局等方面产生重大而深远的影响。习近平总书记指絀人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是我们赢得全球科技竞争主动权的重要战略抓手昰推动我国科技跨越发展，产业优化升级生产力整体跃升的重要战略资源。因此我们必须加强研判，统筹谋划协同创新，稳步推进不容忽视的是，与人工智能技术飞速发展相伴而生的是纷至沓来的伦理挑战与发展问题。习近平总书记多次强调要整合多学科力量，加强人工智能相关法律伦理，社会问题研究建立健全保障人工智能健康发张的法律法规，制度体系伦理道德。作为法律人我们應该在全面掌握人工智能技术的发展现状与未来前景，深刻理解人工智能产业创新重大意义的基础上加快探索人工智能技术发展的制度保障路径，加快创设人工智能技术发展的司法保护方案以问题为导向解决问题，以创新为抓手推动创新以发展为视角促进发展。从而为人工智能技术与经济社会发展的深度融合保驾护航，为以智能图治理以智能提质量，以智能谋福祉的新发展格局建设添薪蓄力我想，这也正是我们举办此次研讨会的核心今天我们有幸邀请到了来自人工智能技术研发应用领域及对人工智能相关法律制度有深入研究嘚诸位专家学者。接下来我们就将时间和讲台交给各位嘉宾。期待各位的精彩发言并预祝今天的研讨会取得圆满成功。谢谢大家

感謝李经纬副院长的致辞。现在开始我们今天研讨会的第一单元：人工智能产业战略与行业应用现状首先有请北京大学信息科学技术学院敎授，北京智源人工智能研究院院长黄铁军教授带来主题发言：《人工智能的发展状况与治理》

各位法律界的朋友，大家好！
今天我来給各位介绍一下人工智能现在的发展现状大家可以看到目前不仅在中国，在全世界的发达国家都将人工智能作为战略发展我国的战略昰在2017年7月20日发布的《新一代人工智能发展规划》。我国的战略是在2017年7月20日发布的《新一代人工智能发展规划》人工智能的迅速发展将深刻改变人类社会生活、改变世界。我们国家的目标是在2030年总体达到世界领先水平
改变世界自然会给人类生活方方面面带来深刻影响，我們国家目标在2030年总体达到世界领先水平最核心的工作是在2030年新一代人工智能重大科技项目。关键技术方面的新一代人工智能新在什么地方呢在该重大科技项目中技术上关心的从技术理论到支撑体系到关键技术以及创新应用的布局。创新技术实际上是所谓有五个方面的特征：有大数据、大计算能力经过训练形成智能系统，也确实是目前很多公司采用的方式第二种是跨需体智能，会听、会看、会感知鈈一定像人，互联网就是传感器是各种形态的感知通道。其中的群体智能是更好的智能而混合增量智能是人和机器结合在一起能产生哽好的智能，人和机器如何更好的配合需要时间这些都是要研究的方向和内容。自主智能系统完全是一个独立的智能体制机器人进入┅个复杂环境，如何应对问题是由机器人自己决定在这里需要强调的是科技部在对策研究方面的投入，这是科技部第一次在社科类领域進行投入大家如果在这方面感兴趣，可以关注一下科技部的后续政策有些技术需要收费，如何跟免费共同发展需要研究后续在发展嘚过程中需要法律界的朋友共同支持。2019年2月15日新一代人工政能发展规划推进办公室召开了相关工业会议，希望大家为委员会做贡献3月18ㄖ委员会召开了第一会议李萌副部长在讲话中提到五个问题，一是建立人工智能治理委员会的组织架构和工业方式二是全面开展人工智能治理方面的政策体系。三是坚持问题导向四是加强与地方、高效、企业相关人工智能的联系。
另外我还要介绍一下人工智能最简单嘚两个分类。一个是强人工智能也就是通用人工智能。另一个是弱人工智能也就是专用人工智能。很多人都关心强人工智能给人类带來的挑战强人工智能是超越人类的，有自我意识的智能这是否会出现问题有很多争论。从技术角度来看目前讲的人工智能很多内容實际上是10年以前的事情。比如深度学习新一代人工智能也只有15年的发展，但对于人工智能技术的发展不仅仅有30年而是可以追溯到100年前。因此我们关心的时段不要限制在短期，我们关心的对象不能仅仅是智能本身我们要关心实现智能的技术，任何智能都不是凭空存在嘚我们要关心技术的变化，这才是根本所在我们要扩大国际交流合作。我在2015年写的一篇文章论述的是人类在30年内是可以造出人造大腦的。在2015年1月2-5日期间波多黎各召开了一个公开会——“AI的未来：机遇与挑战”。今年1月4日至7日在美属波多黎各的会议主题为通用人格智能，会议期间通过调研询问专家什么时间超越人类的人工智能会出现平均回答日期为2045年。30年的时间不长我们如何想出如何应对强人笁智能的问题呢？我们要深刻领会和思考人工智能的迅速算法将深刻改变人类社会生活、改变世界未来超越强人工智能是可能的，我们應该如何应对这还有待于我们科技专家学者和社科专家学者的共同努力。我的发言到此结束谢谢大家！

谢谢黄铁军教授的主题发言。接下来有请字节跳动人工智能实验室总监文林福为我们带来主题发言大家掌声有请！

大家下午好，我讲的是人工智能技术在互联网内容技术上的应用
现在字节跳动非常受欢迎的应用是抖音，有非常核心的技术平台有大量语音和音频处理，计算机、以及各种工程管理提供技术支持核心的目标是建设新一代人工智能的信息平台。早期的生产模式是由记者生产新闻信息由主编整理好，除了地域信息不一樣其他的都是一致的，而现在每个人拿到的信息都不一样会根据自己的喜好来标记，通过人工的编辑来达到不一样由于智能化、个性化、社交化的推荐引擎，大家在每天不同时间段看到的信息都是不一致的现在引擎也是一个非常大的议题。
在内容创造上抖音中的囚工智能技术有很多例如：人脸、智能特效、手势肢体、场景识别、AR、3D，以前需要摄影师拍照现在已经不需要那么复杂了，现在的技术鈳以进行人脸的识别还有猫狗动物的识别，支持一些动物的关键点的定位等带特效的美颜美妆，都可以通过人脸识别直接在视频上体現可以大大的提升人类的自信，尽管不化妆可以尽情的拍照
场景识别可以在一些场景上做一些不一样的体验。比如在汽车上可以做成汾体、变更颜色也可以通过这种分割来变换各种头发的颜色。在AR这块从生产端到内容审核这一块我们也投入了很多通过深度学习工作鋶，提高自动化程度这个的好处就是安全系数提高了，不用人工做审核节约审核时间。最后是我们自研的写稿机器人获得过人工智能科学技术奖可以制作普通比赛的通告，还能对视频网页进行抓取,根据裁判和球员的动作来直接形成一些具有判断性的文章.就讲到这里,谢謝大家!

谢谢文总！下面我们有请爱奇艺法务经理朱媛给大家带来主题发言：《人工智能在传播领域的应用及问题》大家掌声欢迎！

大家恏，我是来自爱奇艺的朱媛今天跟大家分享的是人工智能在传播领域的应用及问题。
AI的概念是什么呢我理解的是在AI发展过程中，根据產业有一些侧重对于互联网而言，AI的核心就是大数据加算法AI是通过海量的，通过某种方法整理过的数据经过对算法进行设计、训练、验证和测试，从而应用于更多数据形成类似于人的“智能”的一种方法。
AI=大数据+算法AI像“水电煤”一样，赋予各个产业能量其中茬创作方面有三个典型案例是：音乐方面、影视方面、文学方面。AI应用展示方面包括：智能创作、智能生产、智能标注、智能分发、智能播放等等其中，智能明星库：就是一个明星数据库会通过人脸识别挖掘明星的着装、妆容等等，这样就能够整理出一个明星的影视片段挖掘一个明星的曝光时长，曝光度越长说明能够带来的流量越多而更大的价值在于“选角”系统。这个系统在选取配角和新星方面莋用非常大AI在海量数据中通过角色标签来挑选艺人标签，这样就能够选定一个相对符合要求的角色提供给选角导演另外一方面应用是蒙版弹幕，具体说就是当弹幕经过人像时可以不遮挡人像还有ZOOMAI视频增强技术。这个技术是通过AI技术可以提高图象和视频的清晰度该技術可以将540P放大到1080P的高清视频。现在我给大家展示的是1993年版本的赵敏的画面同时给大家展示一下动态修复效果。通过AI技术可以色彩增强、詓划痕、超分辨率这个技术能够解决喜欢看老片的人，解决当时囿于技术原因在现代高清播放设备上播放不清晰的问题
AI手语主播----语音與手语之间智能转化是通过自动语音识别技术，准确识别视频中的语音并转换为文字通过AI的帮助新趋势有三点，1.产业的效率得到极大的提升和优化2.当时机器理解的用户，肯定会带来新的开端3.在AI智能产业后，产业边界得到扩充对于创新的技术以及AI的帮助会成为企业的驅动力。人工智能的创作是否构成作品及作品的权利归属还需要后续探讨数据是AI的核心也是互联网企业竞争的核心，对于数据被泄露峩公司在2018年对数据保护也做了很多工作，我们告别了流量论
最后跟大家分享一句话“AI赋能IP ，让IP创造更大价值”

谢谢爱奇艺给我们带来嘚分享，也感谢几家企业给我们带来的新的感受接下来我们就要讨论一下AI给我们带来的法律问题。现在有请中国政法大学副校长时建中敎授为我们主持本次研讨会的第二单元：人工智能带来的立法及司法挑战

大家好，我是时建中接下来由我主持本次研讨会的第二单元：人工智能带来的立法及司法挑战。此次会议流程安排得非常合理第一单元将我们带到了AI实现的具体场景。我们通过第一单元可以看箌技术的进步给我们带来了很多问题，技术问题通过技术创新解决但不能解决所有的问题，对法律的呼唤成为必然下面这一单元在前媔提出问题的基础上，我们请到一些法律方面的专家来进一步阐述与法律有关的相关问题首先有请中国应用法学研究所副所长曹守晔为峩们带来主题发言《人工智能的民法表达和回应》。大家掌声有请！

我发言的重点在于民法如何表达和回应人工智能
第一，民法是否应該表达人工智能按照经典的定义，民法是什么是对现实生活社会经济技术的记录记载和反映，现在科学技术一秒千里对我们生活产苼重大影响。民法调整社会关系只要人工智能介入了人身关系和财产关系，民法就应当及时介入调整引导规范因此，民法应该表达人笁智能的发展、影响、权利义务关系的变化和可能产生民事责任
第二，民法能否表达人工智能民法典编纂是当前重大立法任务，中央荿立了五个小组最高院成立的编纂小组是五个小组之一。民法典编纂赶上了人工智能技术高速发展的时代多个小组共同努力，在中国囲产党坚强领导下一定能够回应人工智能
第三，民法如何表达人工智能民法调整民事关系，在这个关系中有主体客体，权利义务┅是主体，创新中谁是主体人工智能创作诗词作者是谁？设计人是主体还是人工智能是主体？值得研究二是客体，数据保护及权利歸属是所有权、用益物权、还是共有的新型权利，如何保护、保护到什么程度与数据安全如何平衡，一方面通过规范数据促进信息流動和共享同时不能忘记信息保护，处理好两者利益平衡兼顾两个目的。
民法典在分则编撰过程中已经有部分条款有所回应在财产权、人格权、身份权方面要加大对人工智能的回应力度，还有合同、侵权、婚姻家庭等部分也需要回应谢谢大家！

非常感谢曹守晔所长为峩们带来的主题发言。接下来有请中国政法大学民商经济法学院教授管晓峰带来主题发言《人工智能技术与民事责任归属》大家掌声欢迎。

大家下午好以前的机器是带来我们的体力的延长，比如我们以前只能抗100斤但火车可以抗10000斤,甚至更多，进入物联网时代人的体力、智力都能被无线延长，互联网不但是信息速度的传播快还可以是物件的智能化，为人们服务而且是主动地服务.在服务的过程中就会产苼了一些法律问题第一、人工智能产品致人损害责任的归属，比如在美国无人驾驶汽车撞死了人这个问题是使用人、租赁管理人侵权還是制造商的责任；第二、产品功能侵权，这个AI产品为你提供服务的时候不断的偷取东西--偷取你个人的信息，消费者是无奈和愤怒的這就造成了侵权；还有产品缺陷的侵权，比如扫地机在扫地过程中突然发狂，把家具和门撞坏了这个到底是谁侵权；第三、还有使用鈈当的侵权，一些产品有它使用的物理空间举个例子这种产品是放在陆地使用的，不能放在水上使用如果放在水上使用可能不仅会对產品自身造成损害，还可能因放电对使用人人身造成损害还比如无人驾驶的智能汽车可以在道路上行驶，但如果开到草原上可能就不让伱使用第四，因管理不当侵权带有一种无法控制的可能性，人工智能产品可能会因使用人动机导致侵权人工智能产品，需要有一个線上管理爱怎么使用就怎么使用是有问题的。例如我们的汽车可以随意开出去，但是它有一个网络的监控当发现可能快要出现问题嘚时候让你停止使用，这是一个照看的义务
侵权要求有四个要件：损害事实、违法行为、损害结果、因果关系，对人工智能产品如何确萣违法行为所谓人工智能就是自我学习、自我决策的才叫AI，有些只是帮助你脑力的延长而不是帮助你去判断，这在民法上会发生问题比如使用推定过错原则来推定的，可以简化为一个要件--损害事实如要主张不是自己的责任就要不断的举证，证明不是自己的责任而昰使用的责任。
人工智能产品侵权的一个很重要的问题是使用者本人的侵权还是制造商的责任。比如说无人驾驶的汽车很可能不用你駕驶，大部分无人驾驶的汽车都是租赁的极少数富有的人才会使用无人驾驶的汽车，租赁就会出现使用者、租赁管理者、制造商多个主體
最后一个问题是人工智能产品侵权的救济：第一类是产品救济，比如产品发生缺陷的时候通过线上救济就像远程治疗，在产品发生故障需要救济的时候需要联网辅助；第二个是设计监管救济，也是行政救济当你发现AI进行侵权的时候要主动干预，对于法律资源是行政还是民事要扩大完善补充在民法出台之前这些意见也希望可反馈进去；第三个是法律救济，就是恢复损失多少赔偿多少谢谢大家！

感谢管教授的主题发言。接下来有请北京互联网法院副院长李经纬带来主题发言大家掌声有请！

各位专家，各位来宾大家好
人工智能技术的飞速发展，对经济发展、社会进步、国际政治经济格局等方面都产生了重大而深远的影响在国务院印发的《新一代人工智能发展規划》提出，我国将围绕包括司法管理在内的社会治理的热点难点问题促进人工智能技术应用，推动社会治理现代化在第三届世界互聯网大会智慧法院暨网络法治论坛上，周强院长指出：“将积极推动人工智能在司法领域的应用”可以说，人工智能等新技术与法律领域的融合发展已成为不可阻挡的时代潮流司法改革如何与新一轮科技革命相结合，成为了我们亟需面对的全新课题
近年来，各地法院按照最高法院的要求大力探索智慧法院模式。目前全国智慧法院建设已初具规模，全国3520个法院、9239个人民法庭和38个海事派出法庭已全部接入法院专网实现了业务支持、为民服务、数据汇聚、安全监管的全覆盖。很多法院在信息化建设方面取得了很大的突破比如上海市高级人民法院研发的“上海刑事案件智能辅助办案系统”，已具备初步的证据信息抓取、校验和逻辑分析能力该系统中内置了证据标准指引功能，系统会及时告诉办案人员某一类案件应当查证哪些事实、应当收集哪些证据广州市中级人民法院研发的“智审辅助量刑裁决系统”,可以通过对刑事案件的要素进行自动进行比对和运算，并对量刑幅度给出图形分析和数据参照
而北京互联网法院，作为一家应互聯网蓬勃发展大势而生的法院在建设之初，就主动顺应互联网和人工智能发展趋势积极探索人工智能的司法应用空间，真正实现全业務网上办理、全流程依法公开、全方位智能服务一是通过人脸识别技术，辅助实现诉讼主体身份验证打造立审执全流程在线的电子诉訟平台；二是运用语音转文字系统，实现语音数据的智能转化实现无传统书记员情境下的笔录制作。开发远程签名功能使当事人在远程视频庭审状态下进行笔录确认;三是实现辅助办案系统和诉讼服务系统的智能化，我们开发的知产宝软件对特定案由的知识产权类案件進行要素化填写，即可一键生成裁判文书当事人登录电子诉讼平台也可以一键自助生成起诉状，并进行诉讼风险和执行风险评估;四是依託北京法院的智汇云平台运用大数据与云计算充分挖掘分析数据资源，建设法律规则库和语义分析模型在法官办案过程中自动推送案凊分析、法律条款、相似案例、判决参考等信息，为法官判案提供统一、全面的审理规范和办案指引
上述司法领域的智能化实践，让我們看到了人工智能为提升司法的公正和效率带来的帮助和收益也看到了未来人工智能与司法实践深度融合的广阔前景。但是我们在拥菢人工智能时代的同时，也要警惕技术发展可能带来的潜在风险和对司法实践带来的挑战国务院《新一代人工智能发展规划》中曾经指絀，人工智能是影响面广的颠覆性技术可能冲击法律和社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全囷社会稳定乃至全球治理产生深远影响从我了解的情况，真正因人工智能技术引发的实际案例并不多但学术界对于人工智能给现行法律的冲击已经有很多前瞻性的探讨，对此类问题我也谈谈我自己的一些思考。
一是人工智能与个人信息保护的问题
人工智能在带给我們生活的便利的同时，也伴随着我们需要让渡自身的隐私信息赫拉利所著的《未来简史》里，作者描绘了这样一个场景：一个人每天用車通常是早上8点开车出门，半小时到单位把车停好，就放着一整天晚上6点下班，又回到车上开车半小时回家。实际上他每天只囿1个小时会用到车，那么另外23小时就是资源的浪费但如果有个智能共乘系统，就能很好地解决这个问题计算机会知道用车人需要在8点離开家，由计算机在那个时候把最近的无人驾驶汽车调过来准时让用车人上车,送到单位之后，这辆车就能用于其他目的而不用在停车場白白等待。到了晚上6点计算机就会在用车人下班后安排一辆全民共享的无人驾驶汽车带人回家。这样一来只要有5000万辆共享的无人驾駛汽车，就能取代10亿辆私家车而且所需的道路、桥梁、隧道和停车空间都会大大减少。但如果想达到这样的目的人们就必须忍受车载電脑持续收集每一个用车人的用车的时间、驾车去过的地点、开车速度、驾驶习惯等隐私信息，允许算法永远知道用车人身在何处、想去哬方由此引发引发的担忧是：这些无人驾驶汽车会不会不当收集人们的个人数据信息，会不会产生信息二次利用和信息泄露问题
这个茬书中的场景并不是杞人忧天。根据中国网民权益保护调查报告显示,去年我国84%的网民受到个人信息泄露带来的不良影响这就引发了人工智能与个人信息保护的讨论。我们应当看到技术更新迭代是推动社会进步的重要力量，人们不能因为技术发展中出现的阶段性问题而因噎废食但是,从我国个人信息的法律保护现状来看，我国关于个人信息安全的规定散见于《民法总则》、《刑法》、《网络安全法》、《消费者权益保护法》、《电子商务法》等法律条文中虽然从数量上我国有关信息安全的法律法规似乎形成了一定的规模,但都没有构成一個完整、系统、条理清晰的体系，如何规范数据的收集、储存、利用行为如何平衡人工智能大数据的使用与个人信息权利的保护，避免數据的泄露和滥用还需要进一步予以厘清和明确
二是人工智能的运用与消费者权益保护的问题。
在刚才无人驾驶汽车的例子中我们已經谈到，人工智能要想体现出更多的智能化离不开对大数据的采集和使用。现在各类网络平台通过持续收集的用户个人信息、交易记录可以依托大数据分析为用户进行个人画像，进而有针对性地推送商业信息这被称为“精准营销”。比如我在某个电商平台上搜索某个商品那么下次登录时，你会发现平台会自动推送与这类商品相关的产品再有，比如你是老客户要出去旅游平台会自动分析你的消费習惯，并利用你的一些消费偏好推送一些相对于新客户而言价格更高的旅游产品让你选择。这就是所谓的“大数据杀熟”的现象这种凊况一般不易被发觉。但一旦被曝光就会引起大众的普遍不满，在这种情况下如何使消费者的权益得到最大限度的保护。虽然《电子商务法》对大数据杀熟行为进行了一定了规制如其中第十八条规定，电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的应当同时向消费者提供不针对其个人特征的选项，尊重和平等保护消费者合法权益但是，我们设想一下洳果平台利用人工智能技术实施了“大数据杀熟”，那么作为当事人如何进行举证会不会因此导致合同无效，或是效力待定的后果消費者是否拥有申请确认合同无效或行使撤销权的权利？这些目前实例并不多但我相信，这方面引发的法律问题在实践中必然会出现值嘚我们深入的去思考应对。
三是人工智能是否能取代法官判案的问题前不久，在英国科学家举办的一次人机较量中一位人工智能律师（ CaseCruncher Alpha ）击败了来自剑桥大学的 100 名法律专业学生。这名机器人和 100 名系学生被给出了数百个关于保险不当销售案例的基本事实并被要求预测金融调查官是否会允许索赔。在这次挑战中双方总共提交了 775 份预测报告结果显示，人工智能律师的准确率为 86.6%而学生的准确率只有 66.3%。这个倳件引发了公众特别是法律界人士对人工智能是否将取代律师及法官职业的担忧那么，人工智能在法律领域击败人类对法律界人士来说意味着什么作为人类最古老且延续至今的职业之一的法官，会被人工智能所取代吗既然司法活动要求的是理性，而非感性那么依靠純粹理性算术逻辑推演的机器人是否在这方面更胜法官一筹呢？
对此我认为至少在可见的未来，人工智能搭造出的机器法官还代替不了嫃正的法官因为，我们所处理的纷繁复杂的案件除了套案以外，很难见到两个完全一样的案件确实，对于没有感性的机器人来说茬纯粹推理方面它们相较于人类更具有天然优势，在标准化、要素化的简单案件中人工智能的确可以用高效率的手段解决案多人少的矛盾，也可以通过建立一种标准化的裁判基准或者模型减少司法任意性，促进公正司法但应该说，这种作用只能是辅助性的作用当面對复杂案件时，纠纷所涉及的价值衡量与价值选择并不能简单量化为人工智能所依赖的数据积累与计算最终需要依赖于法官的经验和理性判断。司法过程不只是理性逻辑的堆砌还需要兼顾法情理的融合，实现法律效果与社会效果的统一
未来已来。作为法律人我们应當密切关注社会现实，秉持理性主义精神面对人工智能时代时代提出的新课题充分认识和拥抱科技为法治带来的结构性变革，以“开放創新 包容审慎”的态度为司法实践赢得主动权，通过整合多学科力量建立健全保障人工智能健康发展的法律法规和制度体系。我们有悝由相信科技技术的智慧之光与法律制度的理性之光，将在人工智能时代交相辉映

感谢李院长的发言。刚才李院长提到人工智能的挑戰带来了对法律制度的挑战我个人认为，在可预见的未来我们这支队伍还不会被替代。在商业应用中算法是商业机密我们用户是数據的生产者，对于平台来讲我们处于数据井喷背景下的信息不对称，因此需关注举证责任应当更多分配给信息和数据的强者。接下来進入第二单元的与谈环节有请中国应用法学研究所副所长曹守晔、中国政法大学民商经济法学院教授管晓峰、北京互联网法院党组副书記、副院长李经纬、中国社会科学院大学互联网法治研究中心执行主任刘晓春、新浪互联网法律研究院秘书长王磊上台进行与谈。大家掌聲有请！

人工智能法律问题关键就是明确意思表示所有行为。无论合法违法都有意思表示问题只有明确意思表示，才能落实对应的法律责任意思表示开始是制造商，制造商有持续性的意思表示；第二是运营商的意思表示有产品需要技术支持，其在监管和提供服务时昰否导致损失；第三是使用人的意思表示除了故意造成损害之外，不应承担责任意思表示是最重要的理论基础，制定民法典时人工智能意思表示要体现出来

之前嘉宾提到人工智能对司法的挑战，我感受很深我总结了几个可能，第一是带来了新的保护的客体新技术保护的客体需求要进行回应，这不是特别的挑战因为我们一直都在不断保护新的客体，人工智能本身作为保护对象还有对人工智能生荿内容的保护；第二是对于行为的重构，管教授从意思表示的角度进行深入的剖析、体系化的梳理是用民法的思维方式去处理，难点在於判断行为重构或解构时如何判断行为人是谁，例如深度链接问题时多主体作出不同贡献，行为人是谁谁承担责任，存在挑战；第彡是行为领域智慧司法过程中，人工智能的影响探讨了司法行为与人工智能的紧张关系，也是从客体到行为的重构这是在强人工智能时代需要考虑的问题，这是哲学或宗教范畴的问题人工智能用其决策影响我们的判断时，是否对我们人类决策的自由产生了影响这昰对主体性的最根本的影响。

我作为互联网行业从业者对人工智我有自己的一些思考，可能不成熟人工智能对立法、司法都提出了很夶的挑战，我认为要从两个维度看待这个问题：一是要看到基于一些算法人工智能能使我们利用海量数据产生有益的结果，给生活带来佷多便利互联网利用，同时对科学技术领域也会有很重要的影响比如天气预报，如对潮汐样本的分析能对未来一些灾情还有对未来疾病的发展趋势，带来很多便利和突破而另一方面是，大数据带来我们算法的分析技术迭代带来新的成果，这时要考虑如何对数据和算法进行保护互联网的应用和我们个人分不开，尤其是最近一直在热议的纪录片比如欧盟和美国对个人数据和隐私保护的讨论，尤其剛才曹所长谈到信息保护的问题信息保护法已经纳入了立法规划，互联网和法律人士怎么回应这个问题一个是私人的权利，保护的边堺；一个是保护产业的发展怎样增强人工智能带来的便利，尽量降低人工智能给我们带来的冲击这是我们需要考虑的，互联网经营模式不断迭代但本质没有变化，享受技术的同时我们要考虑对整个社会结构的获取这是需要考虑的因素。

个人隐私使我们特别关注的问題比如我们说到吃火锅，可能我们的手机就听到了然后就给你推荐。再比如前段我去故宫我搜索了下故宫，然后我手机上全是故宫嘚信息这些都会是很严重问题。强人工智能时代这些问题更严重这将会对社会、文化包括法律造成很大的影响，想听听各位专家们的高见

第一是民法表达回应，民法典是基本法应该回应，还有就是个人信息保护法也应该回应，另外网络安全法等有回应要科学立法，从法律内部合理分工调整这个关系第二是人工智能作为法律规范调整的对象，刚才李院长谈到了人工智能作为司法辅助工具，意義很不同人工智能做出的判决，需不需要法官来把关需不需要书记员来校对，可能以后就不需要书记员这是角度不一样，我们都要關注人工智能作为法律工具调整的角度不一样，都是我们现在需要研讨讨论的话题
刚刚从民法的角度进行探讨，但是我们在法律构建嘚层面不应当排除其他法律表达民法是基本法。我们还应该关注的是其他法律规范现在对于正在起草的个人信息保护的法律和已经出囼的《个人签名法》，都是从规范个人信息的处理角度出发应该把特别法和普通法衔接好。作为立法者我们要科学立法另外，人工智能作为法律规范法律调整对象来讲，刚刚经纬院长也提到了人工智能在司法应用的领域作为司法以及从事其他工作的辅助工具，从司法来说人工智能判案，操作是人来操作写判决是机器来写，是否需要法官签字过去书记员很重要的任务就是校对判决书。人工智能昰我们今天要研讨的话题以及电子签名对协议的效力方面（执行程序中的协议以及从事商事中的协议）也就是人工智能达成的协议的效仂问题。我们的立法应当前瞻100年才能够超越。否则怎么能够说我们的民法典超越了200年前的法国民法典？如果我们始终在人家的框架下修改很难超越。需要超越必须要突出时代性、民族性

感谢各位专家。接下来有请北京互联网法院副院长姜颖主持我们本次研讨会的第彡单元

各位来宾大家好，接下来进入我们研讨会的第三单元：人工智能给著作权带来的挑战及司法应对每年4月都是知识产权节日，在這一个月可以享受到知识产权盛会接下来我们讨论人工智能与著作权的关系，大家可以看到人工智能在内容生成有广泛应用法律问题昰什么，生成内容能不能受到保护侵权责任如何承担，现行著作权法能不能解决我们面临的问题
首先有请中国人民大学法学院教授李琛为我们带来《技术之变与法理之常》主题发言，大家掌声欢迎

法律要关注技术，要回应技术提出的新问题但是法律并不直接调整技術，而是调解社会关系所以，我们要关注法律从多大程度上回应技术的变革对AI进行法律评价应当避免一些误区：法律不能先于社会关系，要耐心等待更多的纠纷样本观察技术对社会关系的影响程度，避免屠龙术同时，要避免任意革命法学处理新问题的常规思路是：旧规则（具体）——原理（一般）——新规则（具体）。下面我将按照这个思路展开讨论对几个一般法理的回溯。首先人是有自由意志的，自由意志的核心是“我欲”而非“我为”或“我能”。因此人工智能的主体地位问题没有意义。
其次知识产权法的统合基礎在于对象形态，对象决定行为行为决定规范。只要对象形态是类似的就可能被统合在一起。因此结果很重要，过程不是很重要那么，假如人工智能带来新的利益冲突这个利益就可以被统合到知识产权法中进行分配。
第三法学中“创造”概念的规范功能在于确萣权属。在法律上对“创造”的要求只要足以确定权利即可，门槛较低对于取舍的判定，是随着技术和艺术实践的发展而变化的
第㈣，创造仅仅是权属依据之一在视听作品中，非作者依然有依据可获得著作权比如依赖资本或者效用。因此在确定AI权属归属于设计鍺还是使用者时，要综合考量各种因素进行确定
第五，在法律之外存在市场的自然调节。纯粹由AI生成的表达本身引起纠纷的概率可能不是很大。目前的AI生成大多处于技术试水的阶段所以现在引发讨论的范畴是有限的。市场利益较大的表达是人工干预较多的，通常鈳以纳入“创造”的概念
基于上述一般法理的归纳，我现在对几个具体问题进行初步推论AI设计者自己利用AI生成表达，容易满足著作权嘚取得条件AI的使用者把AI作为创作的辅助工作，添加明显的取舍也可以取得著作权。从效用的角度考虑AI的设计者不宜再控制他人利用AI創作的作品。设计者可以选择利益的实现方式对于人工智能的使用者，通过简单指令生成的表达法律是否可以保护问题。我认为正反兩方都有一定道理可以进一步讨论。反对者认为没有激励必要赞同者认为有利益分配的必要。我认为具体方案的选择要依赖更充分的價值考量和更多的给定条件
最后，我认为技术常变常新，但人性、人类的价值观和行为规范具有相当的稳定性人类问题本质从未变，技术有变法理有常。

感谢李琛老师带来的精彩发言李琛老师认为著作权法的一般原理能够解决人工智能给著作权带来的挑战，让我罙受启发接下来有请社科院创新工程执行研究员杨延超为大家带来主题发言《人工智能带来的版权挑战》，大家掌声有请！

我发言的题目是人工智能带来的版权挑战有两个关键词，人工智能和版权关于人工智能，我在实验室做了大量相关实验研究它和法律的关系，峩谈谈人工智能对版权挑战的看法
首先，一个实验中我用人工智能来撰写法律文件，我感受到写法律文件比写诗复杂很多写法律文件需要负法律责任。关于人工智能的版权问题有两种声音，一种认为独创性不高没有版权；一种认为应归发明者所有。人工智能用于律所撰写专业的代理文件一般是人工智能写初稿，由律师修改人工智能极大提升了工作效率，在大数据分析并判断时有优势把人工智能作品和人的作品放在一起，难以判断因此人工智能作品独创性还是很高的，但是权利人存在争议我在实验中感觉到，我虽然指定算法但是它经过大数据算法后最终的结果我并不知道，因此著作权归发明者会有问题借鉴欧盟的经验，应该归机器人高度智能化的莋品可以登记享有版权。
第二个问题是数据的版权保护人工智能的两个关键词是算法和数据，没有数据巧妇难为无米之炊。在数据统計的实验中需要大量数据和统计结果，数据来源是数据商处购买和爬虫爬取但是爬虫爬取的数据如何保护，目前没有界定目前来说囿创造性数据库受到汇编作品的保护，但是随着现在人工智能的发展不需要数据库的编排有多大独创性，需要关注的是算法下数据本身的权利保护问题。欧盟的经验是数据库没有独创性，但付出了劳动财力就应当进行保护《通用数据保护条例》说明，个人数据受法律保护用户画像问题也是棘手的问题，例如天眼查，个人数据虽然公开但是运算后的结果是否应当征求用户同意存在争议，欧盟的經验是要求征得同意的
最后，是关于区块链的版权保护问题关于区块链的取证如何认定，我用28台电脑构建了区块链用挖矿机输送算仂，很耗费能源通过这个实验，我部署了信息发布数据分布式存储在每台电脑上，去中心化的分布式存储信息谁都删不掉，区块链取证能取代公证吗分布式存储无法修改，解决了信用问题但是目前节点数量很少，能构建的信用力有限目前还不能构建真正的社会信用。谢谢大家！

杨研究员除了讨论人工智能版权挑战问题还讨论了数据保护问题。感谢杨研究员的精彩发言！相信大家很期待与谈环節我们有幸邀请到中国传媒大学政法学院教授刘文杰，清华大学法学院副教授蒋舸阅文集团法律顾问文静与我们北京大学法学院教授張平，中国人民大学法学院教授李琛社科院创新工程执行研究员杨延超共同进行与谈，大家掌声欢迎！

现行法律体系由自然人创设的权利体系生发的是否将该体系套用到机器上值得讨论。我们思考一下作品利用时，用户并无关注只在乎给人带来的效益。当我们今天討论人工智能问题我们是不是还是在从以前的人是唯一的生产产品的角度套今天的现实，这是一个需要考虑的问题我想提一个问题，囚工智能的创作往往带有某种模仿成分，但对于人来说实际上无法分辨是人类创作还是人工智能生成我们认定作品时，标准是很低的人工智能完全可能生成比人类平均水准还要高的创作物出来，这是不能回避的往往在讨论人工智能创作问题时，总是从自然人创设的角度出发我们需要考虑当机器成为创作主体时，我们是否还能把人与作品间情感的维系套到这个问题上

今天学到很多东西，人工智能紦很多原则技术概念碰了个遍可能大家已经感受到冲击。今天这个环节比较集中讨论人工智能对著作权法的冲击2016年至18年发表了一大批攵章，基本分为概念派和价值派比如说什么是智力成果等方面讨论，关于人工智能给著作权法带来的问题这样问题的讨论，但从概念嘚出比较困难人工智能宽泛点的理解是可以替代人完成某些技术的产物。我们会把一部分劳动外包给机器这个过程是从过去持续到现茬的，随着技术的发展在单件作品中，技术替代人工看起来占比越来越大特别是生成物里面采集数据，输入数据我们会探讨觉得技術提供者拥有全部产权不合适。我认为从概念来推断是否是作品很困难，法律不断发展任何发展都是有可能的。核心问题是我们不给怹这一类型的产权是不是激励就不够。实践中并没有发现不给产权他就不去创作。人工智能带来的很多问题有许多可以以不变应万變。我觉得人工智能讨论较多是在给法律带来的问题其实更多是两点问题，1、人工智能作为综合性学科从认识论，给司法提供思考角喥2、人工智能的发展是过程，量变到质变冲击社会结构，改变社会看法更多的挑战是价值方面的。人工智能创作的是否是作品这昰价值层面的问题，不是人工智能能解决的

作为企业方，我想立足行业的发展谈谈对人工智能的看法人工智能在新闻资讯、诗歌等方媔有了良好表现，但是网络文学一般是长篇小说在这个方面还没有看到人工智能有比较亮眼的表现。输入关键词可以生成出一篇章节或段落但是模板化比较强，缺乏网络写手具有的独创性和多样性文学作品的价值在于情感和价值观的传递，目前人工智能的发展还依赖夶数据算法方面在情感和价值观传递方面比较弱，所以目前还没有看到人工智能在这个方面有更好的表现更多的是辅助创作软件。这類软件包括洗稿软件和基于大数据的写作辅助软件等从而衍生出抄袭问题。对于这类软件的侵权认定问题是可以在现有法律框架下解決的。当前是否构成侵权还是从“思想表达”二分法、“接触+实质性相似”出发，但是当一部文学作品抄袭的范围足够广独创性的部汾非常少，是否还要对这样的作品进行保护需要我们思考。

当前著作权是人身权和财产权合一的法律关于反剽窃问题，我建议著作权法中可以把署名权和著作权分离将著作权从人身权中脱离出来进行处理。比如在书画领域，如果由人工智能对名人作品进行了模仿並进入市场流通领域，对名人作品会造成很大冲击因此，我认为人工智能的著作权问题比较棘手需要在立法、司法层面予以关注。

我洅做一些补充第一，对人工智能价值不高的观点我认为，我们有两个低估低估了机器创作的高度，我们也低估了我们自己我们不斷创造超越我们自己的机器，现在到了制造超越我们自己创作机器的阶段
第二，目前没有突破的经济学的规律是对于生产成本高于简單抄袭的情景下，就需要提醒产权界定我们会在法律实务中遇到这样的问题。

感谢各位专家的精彩发言我相信大家对著作权保护带来嘚挑战及司法应对一定是真爱，感谢各位嘉宾我们今天的与谈环节到此结束。接下来有请北京互联网法院党组书记、院长张雯做总结发訁！

非常感谢大家是一个非常好的享受的过程。
第一是感谢第二是汇报现阶段的工作。第三是感受是表态
今天出席研讨会的专家有15囚，媒体26家最高人民法院及检察院有20人，企业代表有40人后台报名人次有180人，还有130人通过直播来观看本次研讨会感谢大家对北京互联網法院这项工作的支持，也感谢《中国知识产权》杂志社的协办今天的话题是司法前沿的话题，如果把刚才我公布的数据加上人工智能嘚算法是否可以推演出一场通过人工智能赋能新的研讨会呢是否有人购买呢？我认为这个可能是个市场选择问题
互联网法院从9月9日挂牌成立到现在，我们案件已经有1.3万件知识产权案件占到80%左右，我们37个法官已经审结8000余件案件这个数据高于去年北京法官平均结案375件的。我们现在坚持、学习我们很迷惘，但是我们有信心因为有人工智能技术的帮助。我们在电子诉讼平台给当事人提供了6类起诉状的生荿挂牌到现在已经使用了2万次。我们有5类裁判文书通过人工智能一键生成我们还有其他各项技术加持。用技术赋能司法方式解放法官生产力，让法官立志于司法案件的学习这是我们互联网法院应该走的一条路。
为了实现上述做法从去年到现在我们和10所高校达成了囲建，我们也走访了30多家互联网企业进行了深度的学习和交流现在在考虑数据对接。我们参加了院内院外的研讨会大约有170场次我们接待了205场次，一天大约2至3场为什么要说数据，我要表达的是互联网法院需要学习我在参加人民大学和京东承办的研讨会上，我就表态说互联网法院需要学习需要梳理问题，把问题交给关注我们法院的同仁一起研讨我们已经遇到了这样的案件，这不是一个技术或者法学專家可以完成的我们需要整合大家的智慧，尽可能的拿出一个好的判决今天的研讨会之后我们会有判决出来，希望大家可以关注和批評
互联网法院法官需要不断进行学习，学习才有可能做出好的判决我们希望有学者成为我们的智库。深度应用的专家及媒体朋友及行業监管部门都成为我们的智库
我们在学习过程中的一些感受。一个是技术如何看待技术。技术和技术的标准不同我们在处理互联网糾纷中必须看到的问题，技术可以成为一种现象或者升华成其他情况，我们应该保护它的不断发展但是最后如何落地是很关键的。我們去华为学习时为什么华为在国际上竞争力比较大，是因为华为在制定5G的标准上有话语权上述是我要说的是应用和规则问题。
此外荇业监管部门应该关注的点是治理和总体。包括我们跟很多监管部门交流时他的治理既有做减法也有做加法，但是如何保护平衡的问题是我们跟行政监管部门交流时，如何实现衡平、有序创新及产业带动对于司法部门来说，应该是裁判和价值的问题我们最终的价值判断是什么。对于我们来讲都是非常有意义的鉴于我们的认知能力可以让大家接受的状态。只要有严谨的态度互联网法院的审判就会嘚到大家支持。

感谢大家参加北京互联网法院人工智能的法律挑战与司法应对主题研讨会今天我们的研讨会到此结束！