找回密码
 立即注册

QQ登录

只需一步,快速开始

技术在狂奔道德在漫步 AI"一键脱衣"惹争议

原作者: 陆鹏鹏 |原发: 蓝鲸财经

放大 缩小

技术在狂奔,道德在漫步。


Deep Nude 这款应用的出现再度刷新了人类的道德底线,AI的发展速度远超人们的想象,缺少了道德的限制,技术终沦为作恶的工具。


AI"一键脱衣"惹争议,关停后仍有流通


简单的说 Deep Nude 是一款一键脱衣软件。


用户只需在该程序上添加一张照片,借助AI神经网络技术,App可以自动"脱掉"女性身上的衣服。


据了解,该应用基于加州大学伯克利分校研究人员发布的一个开源算法 pix2pix,并使用 10000 张女性裸体照片做了训练。用户提供的原始照片裸露皮肤面积越大,伪照便做得越准确真实。


App不仅推出了含水印的免费版及50美元付费版(无水印,但有大大个Fake字标记) ,还提供了DeepNude网页版、PC电脑桌面下载版予Windows及Linux的计算机用家使用。


该软件一出便如病毒一般在国外迅速扩散,被用户疯抢,但在媒体关注和大众的声讨下,终于发布5天后遭关停。


按照开发商的说法,他们没想到会引起这样的轰动。它是为娱乐目的而创建的,而最终却成为了毒素。他们报告称没有期望会获得这么多的流量,大大低估了需求。


制作者在声明中表示:"尽管采取了安全措施(水印),但如果有50万人使用它,人们滥用它的概率还是太高了。我们不想以这种方式赚钱。"


虽然制作者已经主动下线了这一款产品,但记者发现,该软件的PC电脑版在网络上大量流出,目前仍有QQ群、贴吧、网站等众多渠道可以获取这一软件的下载链接。


以技术之名行恶,DeepNude不是第一个


自Deep Nude 上线以来便备受争议,众多网友对这一软件表示了强烈的抵制。有观点认为,在这款软件中,女性无疑是最大的受害者,尽管该软件是生成了假照片,但还是侵犯了个人的隐私权。


相关律师对蓝鲸记者表示,淫秽物品有害广大人民特别是青少年的身心健康,若有用户利用该软件生成照片进行传播的,根据根据<<中华人民共和国刑法>>第三百六十四条第一款、第四款,传播淫秽的书刊、影片、音像、图片或者其他淫秽物品,情节严重的,处二年以下有期徒刑、拘役或者管制。向不满十八周岁的未成年人传播淫秽物品的,从重处罚。


面对舆论的质疑,开发者称:"我不是一个偷窥者,我是一个技术爱好者,用 DeepNude 能做的事情,其实在按照 Photoshop 教程学习几小时后,用 PS 也能做到。如果有人有不良意图,DeepNude 改变不了多少。技术已经发展到这一步了,如果我不这样做,别人也会在一年内做出来。"


最后开发者表示,这个世界还没准备好Deep Nude的出现。


事实上 Deep Nude 并非首款利用AI作恶的工具,今年5月,一名为"将记忆深埋"的网友在微博宣布,他完成了在半年前开始准备的一个项目:将色情网站上的公开视频和图片打标签后做匹配,以实现所谓"以图搜片",查询者可以通过上传女性照片、视频和数据库做匹配,判断该女性是否疑似从事过色情行业。


该项目产品被广大网友称为"原谅宝"。


彼时就有法律从业者提出,未经当事人同意就抓取其社交媒体照片进行比对,不符合网络安全法的要求。面对争议,"将记忆深埋"公开道歉并删除了相关言论,同时宣布关闭项目、删除已经抓取到的数据库。


对此有媒体表示,"原谅宝"是技术噱头下的道德作恶。一旦有更多人效仿,更容易形成一种集体性的道德恶行。如此网络暴力下,很难避免有无辜者成为人肉搜索的受害者,哪怕是行为确有差错者,也被这种滥用的私权侵犯到其合法权益,从而酿成悲剧。


技术在狂奔,道德在漫步


从上述言论可以看出,开发者强调自己是个"技术爱好者"而不是偷窥者,出于对AI人工智能的好奇心才设计了这样一款软件。其本人也始终坚持"技术无罪论"的观点。


随着科技的发展,技术无罪论一直是人们热议的话题。由此来看,在上述国外的案例中,是否真的存在"技术中立、技术无罪"?


有业内人士表示,根据美国法律中的"引诱法则",当有证据表明服务或软件的提供者意图并鼓励用户将其服务或软件用于侵权用途时,提供该服务或软件的行为本身,就足以构成侵权行为。


以技术无罪论为自己的正名的案例不止发生在国外。


2016年初,快播公司涉嫌传播淫秽物品牟利案在网上引起了很大的反响。彼时,该案件的网络视频直播在网上引起轩然大波。


在快播案庭审中,辩护人主张"技术中立论",不能因为有人用菜刀杀了人,就说菜刀公司有罪。王欣的一系列经典语录也成为网友热议的话题,那么技术中立是否可以成为司法免责的理由?


在一审判决中法院认为,快播公司在提供技术服务时,其明知自己的技术服务被他人利用传播淫秽视频和成为大量淫秽视频的加速传播工具,自己有义务、有能力阻止而不阻止时,快播公司就不可能再获得技术中立的责任豁免。


快播公司出于牟利目的,不履行安全管理义务,继续放任他人利用快播网络大量传播淫秽视频,在技术使用过程中明显存在恶意,应当承担相应的法律责任。


近年来,人工智能迎来飞速发展,以技术之名作恶的案例时有发生,Deep Nude 仅仅是其中之一,当技术遇上色情产业,两者的产物便如病毒一般无限蔓延,在这个技术在狂奔的时代,道德却被远远的甩在了身后。至此,不禁想起今年5月马化腾在朋友圈的那句转发语"科技向善"。


(编辑:于思洋


版权所有

本网站所收集的部分公开资料来源于互联网,转载的目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。文中图片除非有标注外,均来源于网络。如若发现有侵犯您知识产权的作品,请与我们取得联系,我们会及时修改或删除。邮箱:qygcbs@163.com


返回顶部