韩国首次提出人工智能立法线路图,为人工智能时代做好准备

来源:信通院互联网法律研究中心, 2021-01-22

2020年12月24日,韩国科学和信息通信技术部和国家事务协调办公室共同发布了人工智能立法路线图,包括了11个领域的30项立法任务,旨在奠定人工智能时代的法律基础。

文 | 杨婕 信通院互联网法律研究中心研究员

2019年,韩国曾提出国家人工智能战略,意图推动韩国从“IT强国”发展为“AI强国”,计划在2030年将韩国在人工智能领域的竞争力提升至世界前列。韩国认识到,在大力推动人工智能发展的同时,需要尽快推动现有立法的变革。为此,韩国科学信息通信技术部成立了立法研究小组,组织法学、人文、社会科学和哲学等多领域的人员,共同草拟此立法线路图。本文对韩国人工智能立法线路图的要点进行了分析整理,并提出了人工智能时代的立法思考。

01

人工智能发展的出发点——振兴数字经济

立法路线图指出,数据是人工智能的基础,是国家和社会创新的重要资源。韩国“数据三法”修订后,仍需要出台其他的立法来促进数据产业的发展,以振兴数字经济。具体立法计划如下:

1. 出台《数据产生、流通和使用基本法》,明确数据产生、流通以及使用等不同环节的行为规范;

2. 出台《工业数字化转型促进法》《中小企业智能制造创新法》等促进性立法,以推动各行业对于数据的使用;

3. 修订《个人信息保护法》,引入个人对自动化决策要求解释和提出异议的权利;

4. 修订《版权法》,以实现海量数据分析。

02

确保算法透明性和公平性

算法决策对政治、社会、经济和文化具有重大影响,因此有必要确保算法的透明性和公平性,以建立应用人工智能技术的信任基础。

下一步,韩国计划引入特定系统来自动评估和管理信用打分、产品推荐、产品定价以及人员招聘等领域算法可能产生的偏差和错误。

03

人工智能主体地位问题

韩国认为,如果人工智能可以发挥出类似于人类的部分智力能力或者可以在一定程度上做出自主判断,则必须讨论人工智能在作出民事或者刑事行为和生成创造性作品时,是否可以被认定为权利主体。

下一步,韩国将审查现有知识产权立法对于人工智能创作的开发者和投资者的保护力度,以及修订《民法》和《刑法》,推动与人工智能相关法律体系的改革。

04

建立人工智能问责机制

随着人工智能系统普遍性,复杂性和规模的扩大,当人工智能系统伤害人类时,由谁负责?如何理解并解决这些危害?问责机制旨在确保人工智能和自主系统是可以被问责的。

下一步,韩国将完善合同法和侵权法上的规定,以解决人工智能产品或服务造成伤害的责任认定问题。

05

推动人工智能伦理

此前,包括OECD、G20、IEEE在内的国际组织,以及美国、欧盟、中国、新加坡等国家和地区也纷纷提出人工智能伦理要求,对人工智能技术本身以及其应用进行规制,表现出各主体对人工智能技术发展的担忧。2020年12月22日,韩国科学与信息通信技术部发布了《国家人工智能伦理标准》,通过制定人工智能伦理规范,打造安全的人工智能使用环境,为韩国未来人工智能发展和负责任使用提出了方向和指引。下一步,韩国还计划加强学校教育在人工智能伦理方面的投入,提高学生对人工智能伦理的关注度和认知度。

06

 医疗领域

近年来,人工智能技术与医疗健康领域的融合不断加深。人工智能技术也逐渐成为影响医疗行业发展,提升医疗服务水平的重要因素。此前,韩国已发布了全球首个人工智能医疗设备许可标准。

以此作为经验,韩国将推动建立人工智能医疗设备的国际标准。此外,同时通过重新评估人工智能医疗技术的有效性来完善医疗保险机制。

07

 金融领域

金融是现代经济的核心,金融服务行业也一直是技术创新的积极实践者和受益者。人工智能目前正广泛应用到金融业中,形成了智能风控、智能投资、智能交易、智能投顾等应用场景,具体的服务包括金融产品研发、客户管理、投资建议、信用评级、客户咨询的聊天机器人、资产管理的机器人顾问,以及风险管理的异常交易检测系统(FDS)等形式。

下一步,韩国将运行 “电子签名评估和识别系统”,辅助判断私人证书的可靠性,并通过制定指南等文件明确金融机构之间对于异常金融交易的信息共享机制,以确保金融安全。

08

 政务领域

人工智能技术手段在电子政务公共服务领域的应用范围日益广泛,人工智能技术有助于提高政府对行业性、系统性、区域性风险因素的甄别、感知能力以及在风险发生时的分析、预测、预警能力,并可以推动征服决策更科学高效。

下一步,韩国将修订《行政规制基本法》,为使用人工智能等自动化行政措施提供法律依据,规定个人权利遭受政府决策侵害时的救济程序,确保人工智能决策的透明度。

09

 劳动就业

智能的算法、机器对传统人工的替代在解放人力劳动者的同时,直接带来了对就业的冲击。随着人工智能等技术对就业的加速冲击,技能开发、劳动关系、社会保障、监管服务等面临新挑战。亟需适应新时代要求,通过积极有效的政策引导和体制机制改革创新。韩国认为,从事重复性、机械性等工作的劳动者更容易被人工智能替代工作,预计2017年—2037年人工智能将替代韩国700万个工作岗位。

下一步,韩国计划制修订《就业保险法实施令》《平台员工保护法》,以应对数字化时代的挑战,扩大就业保险的适用范围,为平台员工提供更多的保护方案。

10

数字包容

如果不采取政策干预,人工智能技术的持续发展很可能加剧掌握数字技能和不具备相应技能的人之间的不平等。国家需要予以综合全面的应对,确定保障包容和公平的数字技能培训的基本原则,为弱势群体提供能力发展培训,为面临失业风险的成年人提供培训机会。

下一步,韩国计划制订《数字包容法》,弥合不同主体间的数字鸿沟,确保公民共享人工智能发展红利。

11

 交通领域

2019年,韩国发布《未来汽车产业国家发展规划》,明确提出2030年成为未来型汽车世界强国的目标。为了实现这一目标,韩国提出一系列政策和战略,其中包括到2024年完善自动驾驶制度及相关基础设施建设,并且形成以民间投资为基础的开放型未来汽车产业生态圈。今年,韩国国土交通部已发布自动驾驶车辆安全运行准则。该准则主要包括伦理准则、网络安全准则、生产与安全准则三大部分。上述准则并不属于强制性规定,而是旨在在自动驾驶汽车正式投入市场之前,确保其系统运算法则的伦理性,并防范黑客攻击。

对于本路线图中的30项子任务(见下表),韩国将制定具体计划来明确每个领域的立法进程,并尽快启动立法工作。同时,韩国还将成立“人工智能立法工作组”,不断修订和完善立法路线图,以推动人工智能产业的健康发展。

立法思考

当前阶段仍为“弱人工智能”,即人类主体能够以某种方式对人工智能产品、服务进行干预,避免其因为设计缺陷、使用不当,对社会和个人带来负面影响。因此,现阶段的法律问题更多体现在传统法律适用,而不是创设新的人工智能法律制度,如《自动化决策法》《人工智能法》等。反而应突出技术治理发挥的作用,聚焦于影响人工智能决策结果的要素规制,最大程度地控制和减少人工智能带来的公共危险和对私人权利的侵犯。

本阶段应重点关注人工智能应用数据对个人权益、国家安全和企业利益带来的影响,以及人工智能在重点行业领域的应用。一方面,应借助“数据治理”实现对于算法和应用的治理,加快个人信息保护、数据安全、数据跨境流动、数据共享交换等制度建设,平衡数据安全与数据价值之间的关系,充分挖掘数据潜在的价值,同时尽可能降低数据利用的成本和控制可能产生的风险。鉴于数据多元主体的现状,需要构建“多方参与、分层监管、合理担责”的治理体系,协调政府、企业和用户在数据使用中的关系。同时还应将宏观数据治理规则精确提现到具体的应用场景,充分发挥数据的作用,挖掘数据价值。另一方面,明确的行业规范是人工智能得以创新发展的前提。交通、医疗、金融、新闻等领域与个人生命健康、财产安全、社会稳定密切相关,可以借由行业协会或产业联盟对市场进行规范,以出台行业标准规范的方式提升产品和服务的稳定度与质量,同时辅以保险、承诺等手段弥补可能对个人或社会带来的损失。

发表评论

邮箱地址不会被公开。 必填项已用*标注