热点:人工智能运用须符合正当有益大体上网络法治频道
本篇文章2567字，读完约6分钟
□法制日报全媒体记者韩丹东
广泛诟病的客户协议、合成视频中存在的安全问题……zao从爆炸到被疑问困扰，只需要24小时365天。 从脸部合成技术诞生之日起，人们就一直担心利用技术作恶。
这次对zao的担心，在每个人的心里都隐藏着如果人工智能越来越不可能的话，人类该怎么办的疑问。 在新的产业转型中，人类的隐私和其他权益到底是如何保护的？
从一键操作到深裸体
科学技术伦理经常受到冲击
曾经刷屏的类似应用不仅仅是zao，还有脸萌、脚印、每天的p图……和zao一样，这些应用大多与图像相关，经常需要顾客进入个人照片，但如此大的争论。
我们知道能合成视频是zao爆发公众讨论的关键。 到目前为止，图像app的播放都是基于静态照片的，zao第一次把视频换脸技术带入了普通大众的手机。
中国科学院神经科学博士刘耀文向《法制日报》记者介绍，人工智能的相关应用在近几年迅速增加，其中面部识别是应用范围比较广的技术之一。 现在，在金融、安防、工作评定等行业中，脸部识别被大量利用。 例如，如果客户借给互联网金融企业，平台必须首先“验证你是你”。 因为和钱有直接关系，所以拦截伪造的面部攻击很重要。
因此，这次截图的合成视频触及了很多人的心理基础:视频也能伪造时，有什么能确保真相？
其实，换脸技术本身并不新鲜。 年上映的《星球大战外传:侠盗1号》在1977年的《星球大战4》中恢复了总督塔金的角色，扮演者彼得·库欣于22年前去世，特效团队为此寻找与彼得酷似的演员捕捉表情，用计算机动画技术捕捉塔金 但是，出品者卢克斯电影业和迪斯尼说，在制作《星球大战外传》时，他得到了彼得的家人和财产权继承人的同意。
吹掉脸的是融合了ai技术的一系列“假视频”。
年12月，一位名为“深伪造”的顾客在美国一个论坛上发表了许多色情视频。 他让电脑软件学习好莱坞女演员的图像资料，把女演员的脸移植到色情电影女主角的脸上，引起了大量的讨论和谴责，结果被账号封住了。
但是，ai换了脸没有消失。 顾客的“深伪造”后来直接把项目代码开源，越来越多的模仿者来了，为了纪念他，用他的名字叫“ai换脸”技术。
据媒体报道，今年6月13日，美国众议院情报委员会召开了人工智能深度伪造听证会，公开了深度伪造技术对国家、社会、个体的风险和防范与应对。 美国海外政策研究所的研究员克林特·瓦茨认为，深造技术对美国年度选举有潜在威胁，如果放任伪造视频的扩散，将对美国民主选举产生不利影响，伤害选民的积极性。
听证会结束后不久，deepnude (深裸体)这个app再次把ai技术应用中的法律伦理问题推到台前:给你一张照片，等30秒就能拿到裸体照片。 由于风险超出了可控范围，研发小组在产品上线几天后，匆匆放下了这个产品。
美国斯坦福大学计算机科学教授、“百度脑”前负责人吴恩达也公开表示“deepnude是ai技术的最坏应用之一”，称ai技术的超能力应该被用于推动世界快速发展的项目。
业内人士表示，ai换脸技术之所以成熟，没有被宣传是因为还有很多法律伦理问题没有被讨论。
各方合作共同管理
健全法律防止失范
上个月，中央银行科技司长李伟警告说，ai面部识别技术可能带来的新风险。 “付款的时候，一洗脸就没钱了，很害怕。 银行卡可以放在口袋里。 脸平时在外面，所以识别非常简单。 现在有在3公里外就能识别你的脸的技术。 ”。 这句话表明了ai应用给公共安全带来的隐忧。
这次，换脸软件zao更彻底地暴露了人工智能时代的隐私问题，也有坦率的评论。 当人类制造的技术更强大，什么都做不到的时候，人们会考虑如何维持人类自己的领土和独特之处。 现在人工智能的迅速发展呈加速之势，这种情况超过了很多人最乐观的估计。
“我同意打开潘多拉盒子的看法。 zao这样的换脸软件，在海外几年前出现，之后被禁止了。 这其实是机器学习算法，运行系统等各个方面的要求都很高。 像换脸应用程序一样出现的是将技术平民化，降低招聘阈值，使普通人可以采用，但有可能发生严重的侵权行为。 ”。 刘耀文说。
因此，在受访问行业相关人员看来，关于ai应用场景安全的讨论不仅限于民事侵害。
在技术至上派的人看来，如果人工智能技术能够持续进步并广泛应用，特别是如果人类能够真正推理和处理问题，制造出有知觉、有自我意识的强人工智能机器，将会给人类社会带来巨大的利益。
从现实上看，人工智能技术的迅速发展确实给人类带来了实际的回报。 但是，获得这些利益并不花费成本，zao的争论只是人工智能技术b方面的一小部分，面对这种强大未知的力量，围绕人工智能伦理的讨论不断。
“更积极的讨论要在ai技术伦理的基础上，规范其研发和应用行为，健全法律法规，健全必要的监督管理，实行前置管理，防止失范。 》采访中，中国媒体大学政法学院法律系副主任郑宁说，例如，ai应用技术必须符合正当有益的大体，应用至少需要满足安全保护、隐私保护等条件，形成健全明确的规则 关于ai的替换，如果有前置规则的制约，可能在禁止适用的名单上。 由此可知，对于ai技术的迅速发展，法规、规则的研究也应该齐心协力，不断束缚制度的笼子。
“现在zao表示的问题、可能发生类似软件的潜在危险和不安也是人们必然面临的课题。 人工智能为社会提供产品和便利，而且如何监督是最现实和最严峻的问题。 ”郑宁说，我们处于风险社会，任何新技术都是双刃剑，给人们带来便利，也带来一定的风险。 这是因为有必要加强政府的监督管理、公司自律、领域自治等，实现各方面的合作管理。 “需要注意的是，ai技术的监管难点在于监管技术落后，监管法律不足，ai与研发有关。
但是，也有专家认为，对各种ai软件，如果预测到社会有重大威胁，就应该全面禁止。 另一种做法是，现在还没有问题就可以释放，但决不放纵，有问题后再处理。
“两种方法难度比较大，第一个困难是如何平衡监管诉求与新技术、新应用快速发展的诉求。 ”王四新说，监管太严格，一定会伤害这项新技术、新应用，公司的价格负担也会增加。 如果不监督，发生无法预测的情况，政府可能会被动，对个人造成的伤害也无法挽回。
对此，郑宁认为必须对新技术保持一定的宽容度，即使出现问题也不能打棍子。 “不是市场经济的方法，有些问题需要市场和社会处理，必要时相关部门需要再次介入”。
标题：热点:人工智能运用须符合正当有益大体上网络法治频道 地址：http://www.shuiyihui.cn/gy/2021/0322/42591.html
