热点:或推动人工智能前瞻性立法进程网络法治频道

本篇文章1519字，读完约4分钟

会话者

中国媒体大学网络法与知识产权研究中心主任王四新

北京师范大学法学院网络与知识社会法治研究中心主任刘德良

中国媒体大学政法学院法律系副主任郑宁

法制日报全媒体记者赵丽

记者: ai深换脸技术的风险很多，而网络安全法的专家认为，必须高度警惕该技术恶意被采用的风险，尽快开展法律风险判断。

王四新:我们有必要安全地判断它。 这个安全判断也有法律依据。 网络安全法、网络通信制定的规范文件有相应的要求。 安全判断必须明确在实际运用中可能存在那些风险。。 比较这些风险，我们可以采取那些措施。 只有这些问题都执行了，才能正常运作。

记者:今年6月13日，美国众议院情报委员会召开了人工智能深度伪造听证会，公开了深度伪造技术对国家、社会、个体的风险和防范与应对。 随着ai技术的深入应用，许多业界人士建议必须高度警惕这种技术被恶意采用的风险。 但是，伪造得很深的副本不能用棍子打死。 许多伪造的合成媒体副本是存在的合法性，只有影响国家安全、公共安全和民主政治的虚假消息才需要加强监督管理和管制。 涉及刑事犯罪和通常网络侵权的深伪造适用不同的限制。

王四新:为了建立非常完善的内部制度，或者建立比较好的体制和机制，对于这些快速发展过程中产生的问题，有一点特殊的趋势。 另外，建立比较有效的反馈机制。

郑宁:关于深造，要具体分解具体问题。 如果不影响国家安全、公共安全、市民个人权利，比如电影的特效，就不需要太多干预，有影响就要监督。 具体的法律责任要看违法的严重性，评价承担民事责任、行政责任、刑事责任中的哪一个。

记者:根据专家的建议，立法部门必须追随国际人工智能技术的最新进展，结合国内的专业研究力量，判断这项新技术可能带来的法律风险和对国家安全等构成的威胁，加快新技术这样的前瞻性立法研究

郑宁:根据网络安全法第17条的规定，国家推进网络安全社会化服务体系制度建设，鼓励相关公司、机构开展网络安全认证、检查和风险判断等安全服务。 对于新技术，应该展开安全判断，判断社会组织和公司可以自己展开，政府部门应该监督检查。

王四新:网络安全法是一项非常系统巨大的系统工程，需要公司全面履行主体责任，真正处理实践中发生的这些问题。

刘德良:与这样的立法相比，未来可能需要跨越一点坎。 首先改变观念，从关注个人新闻泄露转向滥用方向。 我认为障碍是观念性的问题，现在的主流看法不是防止滥用，而是强调泄露。

观念改变后，组织专家协商建议，情况多而杂，主体也不同，侵犯的权益可能也不同。 系统地规范什么是滥用，滥用这些类型，如何从民法、行政法、刑法中有效地防止滥用。 没有立法，司法也就没有意义。

记者:你认为防止泄露，绝对不能保密吗？ 未来相关行业的立法要点应该如何防止这些新闻和数据的滥用？

刘德良:相关法律法规的建立必须完全具有可操作性，不利于大数据和人工智能产业的迅速发展。 大数据，人工智能产业本身需要收集数据，但现在我们的个人新闻已经存在于n个商家和机构，即使泄露也不知道从哪里泄露了。 重要的不是泄露，而是不能滥用。

立法上必须让办理身份证的机构或平台(银行、支付平台、电信企业、保险企业等)负责。 如果您的个人新闻被盗用和滥用，有两种设想。 一是除非说明过失推定这些机构、平台，履行了验证核对义务，否则这个义务的标准随着技术、时代的变迁而不断变化，司法必须根据这个标准判定取证，明确是否履行义务才能免责 二是要承担更严格、无误的责任。

如果法律有这样的规定，我们希望强制这些机构、平台认真检查核对，开发更新后的技术手段，使其能够在不伪造身份的情况下有效使用。 如果不这样立法，掌握个人新闻的机构和平台将风险转嫁给伪君子，让个人承担风险。

标题：热点:或推动人工智能前瞻性立法进程网络法治频道    地址：http://www.shuiyihui.cn/gy/2021/0322/42592.html