北大教授张平：AI治理要以人为本，应探索更多元的治理工具
12月19日，第七届啄木鸟数据治理论坛在京召开。此次论坛由南方都市报数字经济治理研究中心联合中国政法大学数据法治研究院举办，主题为“数据为本，AI向善”。过去一年，AI产品井喷式爆发，使得人工智能几乎成为年度热词。AI所带来的信息安全挑战、取代人力的担忧，对其是否享有与人类类似权利的体认也成为舆论热议的话题。
张平教授发表主题演讲。
北京大学法学院教授、中国科学技术法学会常务副会长兼秘书长张平长期关注全球范围内的AI监管趋势和安全议题，此次会议上她以人工智能治理发表专题演讲。张平认为，人工智能在造福人类的同时也蕴含危机，伦理道德、隐私泄露、信息垄断、国家安全等风险与日俱增，若缺少对人工智能的规范和引导，滥用人工智能技术将带来难以承受的后果。
她也强调，今年7月，七部门出台的《生成式人工智能服务管理暂行办法》要求数据来源及处理过程中合法合规，但该条规定要求较为严苛，在现实实践中绝大多数企业可能遇到困境，建议监管部门探索更多元的监管工具，促进人工智能的健康发展。
全球AI治理强调以人为本、伦理先行，中国AI治理进程加快
张平介绍，从全球范围来看，美国、欧盟都相应制定了AI的治理框架，中国以《网络安全法》《数据安全法》《个人信息保护法》《民法典》构建基础的AI治理框架。今年以来也加快政策制定和立法步伐，如国务院明确将人工智能法纳入2023年立法工作计划，7月出台《生成式人工智能服务管理暂行办法》，近期以来《科技伦理审查办法（试行）》《全球人工智能治理倡议》等文件相继发布，上述系列文件对AI的治理聚焦以人为本的治理原则，同时要求伦理先行，以科技伦理审查确保AI技术不被滥用，尤其是《生成式人工智能服务管理暂行办法》对生成式人工智能提出更细致的要求，包括明确数据处理要合法合规。
她认为，中国对AI的主要治理理念也是国际社会的普遍共识。今年11月1日，全球首届人工智能安全峰会上，包括中国在内的28个国家以及欧盟共同发布《布莱奇利宣言》，明确要求治理两类关键风险即AI的滥用和失控，宣言指出，现阶段人工治理工作的重点包括以人为本，关注人权诸如生命权、隐私权、数据权，同时强调保护网络安全和预防生物技术风险等。
张平在会上还介绍和比较了美国、欧盟和中国当前对AI的治理原则，她认为，美国的监管目前更趋向事后监管，是先发展后立法，并要求以监管在此领域保持绝对领先，是一种进攻思维。欧盟则是对抗思维，对AI的态度是先监管再发展，尤其强调对人权的保护，“《人工智能法案》明确对AI风险分级分类监管，一旦涉及危害人类要立即停止。”中国则更像防守思维，边发展边监管，尤其强调安全，“比如以个人信息为例，美国聚焦隐私保护，中国则兼顾隐私之外的数据安全。”
生成式AI数据合规落地难，建议探索多种监管工具
值得关注的是，今年7月，国家网信办、国家发改委、教育部、公安部等7部门联合发布《生成式人工智能服务管理暂行办法》，其中第七条引发广泛关注。即生成式人工智能服务提供者应依法开展预训练，优化训练等训练数据处理活动，强调要使用具有合法性来源的数据和基础模型，不得侵害他人依法享有的知识产权，涉及个人信息的应当取得个人同意或符合法律、行政法规规定的其他情形，采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。
张平教授演讲。
AI的数据处理合法性被纳入暂行规定，张平认为，这是一条相对严苛的条款，按照这一规定，绝大多数企业难以合规。比如来自公有领域的数据，尽管本身不存在著作权问题，但可能涉及署名权、修改权等人身权问题。再比如，使用爬虫技术获取数据是目前最常用的数据收集手段，但该内容受到网络爬虫协议条款的约束，一般商业产品开发使用还会受到限制。针对数据难以合规的困境，张平认为，立法仍然有商榷的空间，“如果要求数据合规和知识产权来源合法，万一做不到，我们怎么去监管？”
张平建议，基于目前官方对AI治理持有包容审慎的态度，需要再探索多样的监管工具解决数据合法性来源的问题。“比如AI服务商可以通过爬虫技术获得公共领域或者白名单数据。比如让AI服务商通过引用说明的方式表明来源，规避权属纠纷。再比如鼓励推动更多科学作品开放授权，推动生成式AI输出数据的开放许可。应当充分考虑发展，若AI更利于社会发展，那么它稍有一些瑕疵，通过民法里的填平原则，可以给相关权利人一些补偿，不能由于不合法，就要发禁令。如何通过立法和政策制定解决未来AI治理的困惑和难题，是我们要直面的问题。”张平说。
出品：南方都市报数字经济治理研究中心
采写：南都记者蒋小天 吕虹 发自北京