图片来源:摄图网
我的颜值究竟能打几分?最近,一款发在网络论坛上的“颜值检测”原创软件火了。该软件声称可以对带有脸部元素的照片判断肤质、自动评分。为了得到AI的专业评测,不少“小仙女”将自己的面部照片上传到软件。
然而,软件进行打分的同时,也偷偷带走了“小仙女”们手机相册里的各类照片。同时,还留下了无尽的隐患……
谁偷了“小仙女”的“脸”
陈彬是一名“95后”,在上海某公司做游戏开发。2020年6月至9月,陈彬制作了一款可以窃取安装者手机照片的软件。当手机用户下载安装该软件并打开使用时,软件就会自动获取手机相册的照片,然后上传到陈彬搭建的服务器后台。
陈彬将该软件发布在某暗网论坛售卖,截至2021年2月9日,在该论坛共获利网站虚拟币30美元。
为了“炫技”,陈彬将该软件伪装成“颜值检测”软件,发布在某论坛供网友免费下载安装,以此窃取安装者手机相册照片1700余张。其中,含有人脸信息、姓名、身份证号码、联系方式、家庭住址等100余条公民信息。
2020年9月,陈彬用虚拟币在暗网论坛购买“社工库资料”并转存于网盘。2021年2月,陈彬为炫耀自已的能力,明知“社工库资料”含有户籍信息、车主信息等,仍将网盘链接分享到“业主交流”QQ群(150名成员)。经去除无效数据、合并去重后,该“社工库资料”包含公民个人信息共计8100余万条。
2021年3月9日,上海市公安局奉贤分局将陈彬抓获。经侦查,因“社工库资料”内容庞大且存储于境外网盘,下载程序繁琐,未查到有人下载。
8100万余条公民信息遭泄露
2021年3月26日,上海市公安局奉贤分局对陈彬提请批准逮捕。“经审查认为,陈彬非法获取并提供8100余万条公民个人信息,情节特别严重,且陈彬利用‘颜值检测’软件窃取‘人脸信息’等事实需继续侦查,本案存在毁灭证据的可能,遂于4月2日决定批准逮捕。”上海市奉贤区检察院第一检察部检察官陈磊凤告诉《方圆》记者。
同年5月28日,奉贤分局将该案移送审查起诉。奉贤区检察院审查认为,陈彬非法获取并提供公民个人信息,情节特别严重,已涉嫌侵犯公民个人信息罪。鉴于陈彬主观上没有出售牟利的目的,客观上未造成信息传播、扩散,且系初犯,自愿认罪认罚。8月10日,奉贤区检察院依法以侵犯公民个人信息罪对被告人陈彬提起公诉。
同时,陈彬违有关规定,非法收集、购买、提供公民个人信息的行为,侵犯了不特定多数人的个人隐私及个人信息安全,损害了公共信息安全这一社会公共利益,奉贤区检察院依法对陈彬提起刑事附带民事公益诉讼。
2021年8月23日,陈彬侵犯公民个人信息案庭审现场。(图片来源:受访者供图)
2021年8月23日,奉贤区法院依法公开审理此案。
庭审中,陈彬辩护人提出,一是本案未对涉案8100余万条信息的真实性核实确认,数量认定依据不足。二是被告人到案后如实供述自己利用黑客软件窃取照片的事实,还主动交代公安机关未掌握的在暗网非法购买公民个人信息并分享至QQ群的事实,对于该事实应当认定为自首。
对此,陈磊凤表示,一是司法鉴定机构去除无效信息,合并去重进行鉴定,鉴定出有效个人信息8100余万条,信息数量客观、真实,符合司法解释规定的对批量公民个人信息具体数量的认定规则。
且公安机关抽样验证,随机抽取部分个人信息进行核实,能够确认涉案个人信息的真实性。
二是公安机关抓获陈彬前已掌握其在暗网非法购买公民个人信息并分享到QQ群的事实,与其利用黑客软件窃取照片的行为属同种罪行,依法不能认定为自首。
“颜值检测”软件并没有真实检测功能
“这软件真的具有颜值检测功能吗?”法庭上,面对公诉人的提问,陈彬明确回答:“没有。它的真实功能,是把软件安装者的照片上传到我的服务器里。”
在法庭调查中,陈彬也交代了设计这款软件的意图:“在暗网论坛上,我并不讳言这是一款盗图黑客软件。我将收集来的照片在论坛上卖出,换取暗网虚拟币,然后购买我想要的公民个人信息。”
陈磊凤表示,陈彬从暗网购买的公民个人信息,包括QQ注册信息、京东用户信息、借贷信息、车主信息等类别,均储存在其位于境外的网盘中,这些信息资料的电子文档容量超过30GB。
为了炫耀自己有能力拿到别人的信息,他将这些信息资料免费分享到QQ群中。经鉴定,这些信息资料包含公民个人信息1.5亿余条,经去除无效数据并进行合并去重后共计8100万余条。
法庭经审理,依法支持了检察院指控陈彬犯侵犯公民个人信息罪的指控和量刑建议,对陈彬作出有期徒刑三年,缓刑三年,并处罚金1万元的判罚。另外,法庭还审理了奉贤区检察院对陈彬提起的刑事附带民事公益诉讼。
“8100万条个人信息数量巨大,且在其中随机抽取并倒查的10名信息所有人,均能证实自己被窃取的信息是完全真实的。而即便这些信息包有加密处理,但也总有人会打开它,如此造成的社会危害是现实而紧迫的。”奉贤区检察院公益检察室三级检察官卫倩雯向《方圆》记者介绍。
本案中,陈彬利用非法软件窃取使用者手机照片,以及非法购买公民个人信息8100万余条并提供在QQ群中的行为,已违反我国民法典及网络安全法相关规定,侵犯了不特定多数人个人隐私及个人信息安全,进而损害了公共信息安全这一社会公共利益。
该院请求法院判令陈彬在国家级新闻媒体上对其侵犯公民个人信息的行为公开赔礼道歉、永久下架并删除“颜值检测”软件及相关代码并删除网盘上存储的照片、永久删除存储的相关公民个人信息并注销侵权所用QQ号。
法庭也支持了该公益诉讼。
谨慎下载使用“趣味软件”
2021年9月28日,检察官和检察技术人员现场见证并监督执行。(图片来源:受访者供图)
“我仗着自己懂一点技术,就做这种(侵犯公民个人信息)违法乱纪之事,很后悔。希望广大网友爱护好自己的个人信息,辨别网上的有害软件。”这是陈彬身处法庭被告席上最后的“黑客”独白。
在华东政法大学教授李翔看来,本案被告人通过“颜值检测”软件非法获取人脸等个人信息,其行为已构成侵犯公民个人信息罪,且达到情节特别严重标准,公诉人指控正确,量刑适当。
同时,该行为所侵犯的信息安全具有公共利益性质,检察机关依法提起附带民事公益诉讼,维护公共权益。随着信息社会发展,人脸识别应尊重公民个人意愿,而不能强制采集。公民也应当进一步提高保护意识,加强对个人信息泄露的风险防范。
今年11月是个人信息保护法实施一周年,最高检今日发布一批侵犯公民个人信息犯罪典型案例,该案就是其中之一。
“人脸信息是具有不可更改性和唯一性的生物识别信息。人脸识别技术给生活带来便利的同时,也容易被犯罪分子窃取利用或者制作合成,破解人脸识别验证程序,侵害隐私、名誉和财产。”陈磊凤提醒,要谨慎下载使用“颜值检测”等“趣味软件”,防范个人信息泄露造成合法权益受损。
(文中涉案人员为化名。)
本文为《方圆》杂志原创稿件,转载时请在醒目位置标明作者,并注明来源:方圆(ID:fangyuanmagazine)。
Ai绘画技术近年来得到了广泛的应用和发展,其中之一就是通过Ai绘画创造出超高颜值的小姐姐。这些虚拟形象在网络上备受关注,其颜值趋近于完美,吸引了无数粉丝的追捧。下面,就让我为大家介绍一下这些Ai绘画超高颜值小姐姐的原因和特点。
首先,Ai绘画技术通过对大量真实照片的学习和分析,能够准确地提取出人脸的特征和形态,并且能够精确地再现出真实的面部细节。这使得Ai绘画的虚拟形象在外貌上几乎与真人无异,而且可以随意调整其容貌,使其更加符合人们的审美观念。
其次,Ai绘画技术在绘制小姐姐形象时,还可以运用风格迁移算法。这种算法能够将一种风格的画作应用到其他画作之上,使之具有不同的艺术样式,从而创建出独一无二的绘画。对于小姐姐形象,这种运用风格迁移算法的技术,可以使其呈现出更加多样化、独特的风格,使其更加引人注目。
此外,Ai绘画技术还有一个重要的特点就是可以按需生成新的小姐姐形象。只需给Ai绘画算法提供一些简单的指导,比如给定一个描述,就可以生成出符合这些要求的小姐姐形象。这为用户提供了一个个性化、定制化的需求,满足了不同人群对于颜值和形象的不同追求。
然而,值得注意的是,这些Ai绘画超高颜值小姐姐虽然颜值高,但是它们只存在于虚拟世界中。它们并不是真实的人物,只是通过算法生成的虚拟形象。虽然在视觉上非常逼真,但并无生命性格和思想。因此,在欣赏这些小姐姐形象时,我们要保持理性,并区分虚拟与现实。
总的来说,Ai绘画超高颜值小姐姐以其近乎完美的面貌、多样化的风格和个性化定制的特点,吸引了大量粉丝的关注和喜爱。它们不仅展现了Ai技术在绘画领域的巨大潜力,也满足了人们对于美的不同需求。无论是作为艺术品还是作为虚拟形象,Ai绘画小姐姐都在不断地刷新着我们对于颜值的认知。虽然它们只存在于虚拟世界,但它们引发的讨论和思考,却是现实世界中不可忽视的一部分。
近日,《人民法院报》刊出上海一中院刑事庭潘自强撰写的《当网络违法犯罪搭上“技术快车”》一文,现将全文内容刊发如下,以供参考。
潘自强
刑事审判庭
二级法官助理
法学硕士
随着人工智能生成内容(AI-Generated Content)和深度伪造(Deepfake)技术的日益成熟,虚假音、视频的伪造效果越来越逼真,技术使用也越来越便捷,诸如广州地铁“一键脱衣”事件、内蒙古包头“AI换脸”案件等事件屡见报道。
上海市第一中级人民法院(以下简称上海一中院)梳理了上海法院近两年审结的涉新技术滥用违法犯罪案件,分析此类案件呈现出的新情况、新问题,研判风险,引导技术向善。
彭某长相甜美,热爱古装,与独立摄影师程某合作拍摄、创作短视频摄影作品,入驻在抖音平台后发布的古风汉服短视频作品,备受粉丝的喜爱和关注,二人逐渐在圈内圈外形成较高的知名度和人气度。成为网络红人的彭某,不断接到展会、商演的机会,程某的商拍、寄拍也邀约不断,彭某本人及二人的作品具有较大的商业价值。
王某看到网红流量带来的巨大福利,遂注册成立了一家信息科技公司,开发、运营一款“秀颜”手机换脸软件,将程某拍摄制作的包含彭某以及其他网红肖像的短视频作品上传为模板,供用户“换脸”使用,用户付费成为会员后仅需上传自己的头像照片,即可通过AI技术与视频中的网红进行面部匹配、替换,然后导出高度近似的高清无水印视频作品,或用于自娱自乐或用于恶搞他人。
彭某、程某获悉后,将王某及其经营的信息科技公司告上法庭。
上海市金山区人民法院
经审理后认为
任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。彭某具有一定的网络热度,其在抖音平台发布的视频资料中的肖像权应受到法律保护,王某未经彭某授权同意,以营利为目的使用含有彭某肖像的视频,已经侵害其肖像权。程某是涉案作品著作权人,王某未经许可,通过网络擅自使用和传播程某享有著作权的作品,且未支付报酬,侵犯程某对涉案作品享有的著作权,应承担停止侵权、赔礼道歉、赔偿损失等民事责任。
该法院遂判令王某在其运营的“秀颜”软件首页显著位置,对使用彭某肖像一事赔礼道歉,连续保留七日;王某赔偿彭某经济损失5600元。判令信息科技公司立即停止侵权,删除涉案短视频;信息科技公司在其运营的“秀颜”软件首页显著位置发表声明,向程某公开赔礼道歉,30日内不得删除或撤销;信息科技公司赔偿程某经济损失2000元。
张某与荆某共同经营一家强盛汽修店,除日常车辆维修、保养,还代为拖车、事故理赔等,生意红火时店里曾停满待修车辆。一次偶然的机会,张某发现其维修的大部分发生单车小事故的车主,并不会选择向保险公司理赔,而是自掏腰包支付维修费用。张某遂利用事故理赔的便利,将放弃理赔的车辆开到定损点定损,私吞车主的理赔款。
尝到甜头的张某便与荆某合谋,将单车小事故伪造成双车事故,向保险公司骗取更高额的理赔款。二人一拍即合,半年内,伙同员工孙某等人(另案处理),利用图像合成技术,先后20余次将他人送修的单车事故车辆伪造成系与自己所有的车辆发生双车事故,用此“移花接木”手法向中国人寿、中国平安、太平洋保险等多家保险公司骗取保险理赔款共计16万余元。
后保险公司在联运调查平台上发现张某、荆某投保的车辆存在大数据异常,经稽查部门调查发现,张某、荆某等人冒用多人身份证,伪造事故现场照片、人车合影,存在骗保可能,遂向公安机关报案。
上海市宝山区人民法院
经审理后认为
张某、荆某单独或伙同他人,以非法占有为目的,故意伪造事故现场、办理保险手续骗取保险金,数额较大,其行为均已构成保险罪。该法院综合考虑二人的地位、作用、认罪认罚态度、部分退赃等情节,对张某判处有期徒刑八个月,并处罚金五千元;对荆某判处有期徒刑六个月,并处罚金五千元;责令张某、荆某继续退赔违法所得。
吕某是一名在校大学生,冲浪时意外发现一款免费“颜值检测”软件,该软件声称只要上传一张正面照即可通过AI自动分析你的颜值,对皮肤状态、肤色、五官等进行分析并给出一定的分数。出于好奇,吕某当即下载了该软件,并授权软件使用时可访问手机相册,很快该软件给吕某的颜值进行智能评分,吕某又将该软件分享给身边的好友使用。
殊不知,颜值检测是假,盗取信息是真。原来所谓的“颜值检测”软件是李某制作的一款具有非法窃取安装者相册照片功能的手机“黑客软件”,该软件以“颜值检测”为噱头,可以更加高效、便捷地采集使用者的人脸信息以及相册里的其他个人信息,压根不具备评分功能。李某到案后,公安机关在其服务器和网盘里查获含人脸信息、自然人姓名、身份证号码、家庭住址等公民个人信息8100多万条。上海市奉贤区人民检察院在提起公诉的同时,还提起附带民事公益诉讼。
上海市奉贤区人民法院
经审理后认为
“人脸信息”属于刑法规定的公民个人信息,利用“颜值检测”黑客软件窃取使用者“人脸信息”等公民个人信息的行为,属于刑法中“窃取或者以其他方法非法获取公民个人信息”的行为,依法应予惩处;李某非法获取并向他人提供公民个人信息的侵权行为,侵害了众多公民个人信息安全,损害社会公共利益,还应承担相应的民事责任。
该法院遂以侵犯公民个人信息罪判处李某有期徒刑三年,缓刑三年,并处罚金一万元;扣押在案的犯罪工具予以没收;李某在国家级新闻媒体上对其侵犯个人信息的行为公开赔礼道歉,永久删除“颜值检测”软件及相关代码,并删除服务器和网盘里的涉案照片。
(以上人名及公司名均为化名)
数字化智能时代已经来临,技术创新红利与技术滥用风险并存。搭上技术快车的网络违法犯罪将驶向何方?
”
一是在纠纷类型上,人工智能技术滥用将引发更多侵权纠纷、商业欺诈。在互联网上换脸恶搞存在明显的法律风险,如果没有明确的授权或同意,将他人的脸部特征用于生成换脸视频或照片,可能构成对他人肖像权、名誉权的侵犯。不少主播在电商平台换脸直播带货,不仅侵犯他人肖像权,同时还可能被认定为虚假宣传,构成欺诈。
二是在应用场景上,深度伪造技术滥用将延伸至司法干扰、虚假新闻等领域。深度伪造技术门槛越来越低,不法分子利用该技术合成电子化证据材料,将加大司法机关对证据的审查难度;不法分子利用该技术合成虚假图文及音视频信息,造谣传谣、侮辱诽谤屡见不鲜,视觉失真造成新闻失实的影响将更深远,打击网络谣言的难度也将大大增加。
三是在次生犯罪上,AI将催生侵犯公民个人生物识别信息的黑灰产业。AI能够得逞,除了新兴技术的支持,往往还需要足够多的公民个人生物识别信息作为基础素材,而随着强制要求采集人脸信息的场景不断出现,人脸、声音等生物识别信息泄露的风险也不断增加,极易滋生非法采集、售卖公民生物识别信息的灰色产业。
四是在社会治理上,一定程度威胁到信息安全和社会秩序。当前,人脸识别技术被广泛应用于刷脸支付、门禁管理、快递物流、住宿登记等金融、安防、交通领域,“人工智能+深度伪造”技术的滥用很可能导致人脸识别技术失效或者被欺骗。
防范化解技术滥用风险,应当坚持系统思维,需要在技术、法律和社会三个层面进行综合施策。
在技术层面,需要进一步研究基于深度合成技术生成内容的鉴伪技术,创造更加安全可靠的技术解决方案。在法律层面,需要加快系统性立法和行业性规范制定,尽快构建起技术开发者、网络服务提供者、用户三个层面的监管体系。在社会层面,需要通过科普教育增强公众的防范意识和能力,司法机关亦可通过典型案件的审理及宣传,树立裁判规则和正确的价值导向。
来源丨上海市第一中级人民法院
责任编辑丨张巧雨
声明丨转载请注明来自“上海高院”