鉴于生成式人工智能技术飞速发展，主要国家开始积极对人工智能技术发展布局，如欧盟提出著名的《人工智能法草案》（AI ACT）、美国提出《人工智能风险管理框架》（AI RMF 1.0），白宫也正在研议生成式人工智能对于政府及企业可能带来的冲击与影响。为了避免使用人工智能的结果产生更多错误、歧视与偏见，针对人工智能的研发与应用立法制定规范，确有其必要性。

图一、台湾地区资策会科技法律研究所举办「2023科技法制变革论坛」。

台湾地区资策会科技法律研究所近日举办「2023科技法制变革论坛─AI生成时代所带动的ChatGPT法制与产业新趋势」，从国际上主要国家对人工智能的治理趋势，讨论人工智能技术对当下法律的冲击。台湾地区资策会科法所所长萧宏宜认为，因人工智能自动生成内容（Artificial Intelligence Generated Content，简称AIGC）工具的广泛应用，生成式AI以数据、算力、算法共同协作出内容，但若用户提出恶意指令、错误信息或不实话术，由人输入的内容将会触发系统上的漏洞。AI模型的学习能力也可能让生成内容产生隐私、侵权与歧视的风险，在政府未予以管控的状况下，造成犯罪机会的增加。如何因应生成内容于个人资料保护、著作权、商业秘密等不同议题所产生的挑战，成为国内外日益关切的议题。

图二、台湾地区资策会科法所所长萧宏宜

人工智能可能有什么风险？

台湾地区资策会科技法律研究所副所长顾振豪指出，人工智能可能为社会带来的各种冲击，首当其冲的是失业问题。根据研究分析，预测在2030年前全球大约2000万个工作将消失，这些工作岗位将由自动化系统承担；而且这些失业工人如果想到其他低技术行业另谋出路，也会发现这些职位也早已被机器占领，未来唯有稀少性的劳动力，才得以继续维持高薪资。AI对社会的另一项冲击是歧视与偏见，在新冠疫情之下，许多企业开始采用远程AI面试，希望透过数据分析，更加客观地评估应征者。但现今的AI大多采用监督式学习（supervised learning），会依照提供给它的训练数据推断出规律，再把规律套用在未知的数据上，结果有可能复制甚至更放大人类社会中长久以来的偏见及不平等。

图三、台湾地区资策会科技法律研究所副所长顾振豪

从开发、设计及制造端来看，人工智能透过算法复制或放大歧视与偏见（Bias），还有可能侵犯到个人资料隐私；算法的黑箱主要会产生数据摄取的漏洞，若算法本身出现错误也难以得知。从人工智能应用端而言，由于交通环境的复杂性，要将所有安全条件都考虑进去并进行测试有其困难度、人工智能应用在医疗设备的准确度将对人类的身体健康产生直接影响、将机器学习纳入军事系统有可能创造新的信息安全漏洞和网络攻击手段。

此外，贫富差距扩大也是人工智能值得担心的议题之一，顾振豪解释，下一波的自动化将大大增加社会中的不平等，并使贫富差距剧烈扩大，AI资源掌握在富者或财团手中，使富人利用AI取得更多财富，穷人不仅面临失业危机，也会造成新兴国家成长停滞、加速劳动力过剩问题。人工智能的发展可能使社会不平等更加恶化，人类接受的信息更易受到算法的控制，让财富集中在少数得以掌握人工智能者身上。

因为人工智能仰赖各种来源的数据，同时还得考虑算法的多元复杂，数据治理对人工智能发展至关重要，必须针对这些数据进行一定程度的监督机制与管理，避免人工智能的结果呈现出更多错误、歧视、偏见。为了解决偏见问题，纽约市在2021年12月通过针对自动化就业决策工具的立法，原则上禁止雇主直接使用自动化的就业决策工具进行雇用判断；而欧盟《人工智能法》草案将用以决定是否雇用员工之AI系统列为高风险，在进入市场之前须先遵守严格义务。

主要国家治理趋势观察

顾振豪指出，观察主要国家对于人工智能的治理，可发现三大趋势。第一种是促进可信任的AI，包括OECD、GPAI等国际组织都提出人工智能发展伦理原则，强调要重视对社会可能带来的影响与冲击，必须预先准备，因此各国都在积极提倡加上AI的可信任度。第二是技术与产业先行，聚焦于共识与技术标准的形成，当务之急是国际间合作，共同推动产业发展，强化AI人才培育、基础建设与研发投资。第三种趋势是避免扼杀创新的监管，因为人工智能技术发展快速，传统监理模式难以跟上创新速度，为了避免扼杀创新，必须设计新型态的AI监管模式或治理措施，目前仍先以促进自律为主要的监管方式。

检视欧盟人工智能规范的推进历程，正在从自律走向他律、鼓励与监管并进。为了推行人工智能的伦理准则，欧盟在2020年发布《人工智能白皮书》，针对欧洲未来人工智能规范框架。顾振豪指出，欧盟《人工智能白皮书》建议的政策框架有两大重点，首先是 打造一个「卓越生态系（ecosystem of excellence）」，从研究出发，促进创新，提高使用人工智能的动机，最后达到人工智能的普及应用；其次是打造「信任生态系（ecosystem of trust）」，根据人工智能高级专家委员会提出的可信赖的人工智能的要件，透过以「人为本」的作法来达成。

图四、欧盟人工智能规范历程

图片来源：2023/5/29，台湾地区资策会科技法律研究所《2023科技法制变革论坛》，顾振豪简报数据

2021年4月，欧盟针对人工智能法律框架提出《人工智能法》草案，目标是确保投放至欧盟市场的人工智能系统是安全的，且尊重基本权与欧盟现行法律规范，除了必须强化欧盟现行法律的有效执行与治理，还要进一步适用于人工智能的权利与安全要求，建立合法、安全和可信赖的人工智能系统，预计2024年正式施行。

人工智能应如何规管？

随着人工智能发展带来的影响与挑战增多，国际间开始热烈讨论是否应针对人工智能研发与应用立法。顾振豪认为，整体而言，法律对于人工智能的规范仍有其必要性。这一波生成式AI的发展，如同Internet在上个世纪所带来的巨大冲击，因此可从网络的发展脉络再次审视人工智能，并参考对当初对于网络规管的架构与模式。

观察人工智能规范架构的国际趋势，各国多以政策文件宣示人工智能的伦理原则，目前仅有欧洲跟加拿大针对人工智能技术订定监管方向的专法草案，当AI应用至各产业主题时，需符合各领域相关的法令规定。而美国、日本、英国、澳洲等其他主要国家，目前对于如何监管人工智能仍高度不确定，因为担心采传统的监管模式会扼杀创新且无法跟上技术发展，现阶段仍暂偏向先以推动产业发展与自律为主，并透过国际合作订定出一套国际标准。

数据源：

1. 2023/5/29，台湾地区资策会科技法律研究所《2023科技法制变革论坛》。

好消息～北美智权报有微信公众号了！ 《北美智权报》内容涵盖世界各国的知识产权新闻、重要的侵权诉讼案例分析、法规解析，以及产业与技术新知等等。 立即关注北美智权微信公众号→ NAIP_IPServices ～欢迎读者分享与转发～