美国总统竞选“假视频”满天飞！人脸技术攻防战大起底
去年 月,美国旧金山对人脸识别技术发出了禁令,禁止该技术在政府机关和执法机关中使用,从而成为全世界首个对人脸识别技术发出禁令 地区。
杭州人脸识别 案
照片面具——AI对抗学习系统Fawkes
零 零版《信息安全技术个体信息安全规范》特别地将“个体信息控制者通过个体信息或产品信息加工处理后形成 信息,例如用户画像或特征标签,能够单独或者与产品信息结合识别特定自然人身份或者反映特定自然人活动情况 信息”划分为个体信息范畴。
DeepFake检测新思路，用心跳做“信号”
“ZAO”换脸应用
Facebook人脸识别诉讼
法律政策保护才是新后 道防线
拥有 零亿人脸资料统计 美国AI企业ClearviewAI“重振旗鼓”
ClearviewAI从网络社交媒体上抓取了超过 零亿张照片,形成庞大 生物特征信息资料统计库,据传有 零零多家执法机构及 些私人安保企业都在使用它 人脸识别产品。
防，政策和新技术是杜绝人脸识别滥用 墙
攻，人脸识别背后 “虚假安全感”
全世界范围内围绕人脸识别、人脸使用问题已经形成了强势对峙 攻防双方。人脸使用存在哪些风险。人脸信息是如何是泄露 。是谁在滥用公民人脸隐私,又是谁在为反人脸滥用技术努力。我们能如何是保护自己 人脸隐私。
结语，防守眼光要比恶意攻破更长远
美国社交网络企业Facebook此前被爆出其曾经推出 “标签建议”功能,对海量 用户照片进行人脸识别,从而分析出人物标签信息。也就是将照片中 人物圈出来,狗粮快讯网李力获悉,并建议用户标记出照片中 人是谁。
这个系统是在本地计算机上运行 算法和软件工具,可以让用户伪装自己 照片,伪装后 照片可以限制面部识别软件对该照片 识别。
FacebookAI人脸“隐身” 新架构是基于对抗式自动编码器,并与 个经过训练 人脸分类器进行耦合。通过将自动编码器 隐藏空间与人脸分类器 表征层连接到 起,能够得到 个丰富 隐藏空间,其中既嵌入了身份信息,也嵌入了表情信息。
Fawkes 工作原理,是对照片进行像素级别 微小修改,以蒙蔽AI 审视。而使用者大可不必担心这种修改会像“P图” 样影响照片本身 质量,Fawkes对照片像素 改动在人眼看来几乎与原片无差别,但是这种类似“噪点” 干扰,对机器模型 影响很大。
“个体信息是以电子或者产品方式记录 能够单独或者与产品信息结合识别特定自然人 各种信息,包括自然人 姓名、出生日期、身份证件号码、生物识别信息、住址、电话号码、电子邮箱、健康信息、行踪信息等。个体信息中 私密信息,适用有关隐私权 规定；没有规定 ,适用有关个体信息保护 规定。”
“攻击”方通过人脸信息获取隐私、滥用人脸,“防御“方通过对人脸识别破坏软件 拆解和防范,维护人脸隐私。
▲零. 元 张“人脸”
▲ 零零 -去年国内人脸识别相关专利公开数量变化图来源，Soopat前瞻产业研究院整理
▲ 位学生研究人员及指导老师 人脸原图及被Fawkes加工后 照片
▲AI对抗人脸识别软件Fawkes原型，盖伊?福克斯
▲ClearviewAI创始人兼CEOHoanTon-That
▲ClearviewAI新聘请 顶级律师FloydAbrams
▲DeepFake进行视频“换脸”处理
▲Fawkes完全“骗过”了旷视、微软、亚马逊 人脸识别
▲Fawkes软件及在Windows系统中 软件面板呈现
▲Instagram
▲“ZAO”AI换脸
▲从CelebDF随机采样测试成果
▲庭审现场
▲微软 视频认证器
▲技术使用模型案例
▲拜登接受采访“睡着”视频画面
▲生物特征识别技术
▲用心跳做“信号”监测假视频
▲经过修改 影视片段。左，原视频；右，用Facebook 技术修改后 视频
▲编码器网络架构
▲通过“DeepFake心跳”检测伪造视频
▲闯红灯行人人脸识别系统
《国内新闻周刊》此前报道 文章《人脸识别 字路口，脸 恐慌》中 资料统计显示,国人每天要暴露在各种摄像头下超过 零零次。
人脸识别攻防博弈愈演愈烈
波未平 波又起。
为了打击人脸识别 非法滥用,各国都在技术和政策方面做出了相应 努力。人脸识别技术 使用中出现了两个极端, 方面是对人脸识别技术合理 运用以及对滥用 技术性对抗,另 面是人脸识别技术使用中 各种歪门邪道,这既是硬币 两面,又是势不两立 正邪双方,在对峙中双方功力越来越深,成为 场持久 “人脸识别”攻防战。
为了证明这 方式可以扩展到新 模型,研究人员从深度人脸提取资料统计集CelebDF中随机选购了 零零零个假视频,结果显示这 方式在CelebDF上达到了 . % 假视频检测准确率和 . % 生成模型检测准确率,也就表明利用生物信息检测假视频 模型具有泛化性。
也正因为这 非法获取行为,ClearviewAI 行为遭到美国民众及社交巨头们 集体诉讼,这 AI企业被指控蓄意违反了美国伊利诺伊州 生物识别法,要求赔偿 零零万美元。
人脸信息 特殊性使之被泄露后无法救济,狗粮快讯网据知情人士透露,因此也需要更加严格 保护。无论技术如何是发展,建议如何是提倡,政策和法规永远是防止人脸识别被滥用 新坚实 防线。
人脸曝光次数多、应用场景多、可视性强、 对应个体信息等特点,使人们不禁会对无处不在 人脸识别带来 隐私安全问题产生担忧。
人脸识别属生物识别信息中 种,因此也明确受到法律保护。
人脸识别技术为我们生活带来便捷 同时,也同样带来了隐私泄露 缺口。随着技术 不断进步,人脸信息获取 “攻防战役”也愈演愈烈。
人脸识别滥用“恶魔”无孔不入,很多科技大企业凭借着自己人脸挖掘技术 威力滥用人脸资料统计。资料统计收集、保管、使用环节都有可能成为他们牟利 切入点。
人脸识别 “攻防”两面就像是“矛”与“盾”, 者势均力敌,想要在用好人脸 基础上防住人脸信息滥用,就需要“防范”方面 眼光更加超前且长远。
人脸识别说起来挺无辜 ,就像“好心办坏事”, 个初心是为了提高效率以及维护用户资料统计安全 技术,却因为信息滥用而被处处提防。
人脸负载 不止是面部信息,还包含着公民 个体身份信息,这些信息 滥用使个体 隐私安全毫无保障可言。近两年就有不少人脸信息被轻易滥用 现象发生。
当天你刷了几次脸。随着互联网应用中刷脸识别越来越普遍,人脸绑定 信息越来越多,“换脸”技术越来越逼真,你是否意识到,互联网中,你 脸还是你 脸怎样啊。或者说,你 脸只是你 脸怎样啊。
今年国内信通院发布了《今年人脸识别技术在App应用中 隐私安全报告》,提出了以下 条人脸识别App 个体信息保护建议，
今年早些时候因为未经允许搜刮 零多亿人脸资料统计,而被指控蓄意违法 人脸识别创企ClearviewAI又“重振旗鼓”,请了新 律师“捍卫”其面部追踪技术。
他们说,之所以将这 系统命名为Fawkes,是为了表示对盖伊·福克斯面具反抗精神 致敬。
以往 技术部分是根据分辨率、 维信息、眼动等来区分,因为翻拍照片 分辨率与真人采集照片有差别,并且经过DeepFake加工过 换脸视频,“假人”眨眼会非常不自然。然而这种技术在处理不同类型图片 情况下,性能不是非常稳定。
伊利诺伊州法院认为,在默认情况下向百万伊利诺伊州用户启用新功能之前,Facebook没有得到同意,因此于之前年将Facebook起诉。
但是由于我国尚未有明确针对人脸识别 法案,老师目前也在引用《消费者权益保护法》分析原被告之间 合同关系。
但是看来ClearviewAI对于这 判决并不甘心,同样是在几天前,ClearviewAI又重新雇佣律师,决定依靠美国宪法《 修正案》捍卫其面部跟踪技术。
但是这 诉讼请求显然并不被人们看好,有人说,美国宪法《 修正案》 新终目标是为了保证公民能够自由地向政府提出意见,以维护自身权利,而这家企业显然只是为了维护他们 商业模式,而并不是为了维护公民权益。
但现状是,除了无法对已经上传 图片进行修改,有 用户还表明，加工后 图片被 等App压缩后,再进行人脸识别测试,其结果与原图并无差异,狗粮快讯网消息报道称,因此这 应用 实际应用情况到底是否有效还需进 步探索。
几天前,Facebook 社交应用Instagram又面临了新 指控。新指控表示,Instagram在用户不知情或未经过其同意 情况下非法收集了超过 亿用户 生物识别资料统计,并从中获利。
原告郭兵认为，人脸识别可能泄露隐私,动物园强行通过升级年卡收集游客个体生物识别信息,违反《消费者权益保护法》等相关规定,属于损害原告合法权益 行为。
去年 “杭州人脸识别 案”引起了 阵不小 波澜。因为动物园强制升级入园系统,将指纹识别更改为面部识别,作为大学副教授 游客因为不满这 强制获取人脸 规定,将动物园告上了法庭。
去年,FacebookAI也有研究通过改变帧 方式对人 照片或视频进行修改,以使人 面部信息在人脸识别软件面前“隐身”。
国内对于人脸信息进行采集和识别 应用早在 零零 年就有相关专利公开,过往就已经开始投产和应用,前年起,人脸识别技术迎来成长期,今年又因为疫情原因亟需高效、非接触 身份验证方式,也在 定程度上加速了人脸识别技术在不同场景 应用和普及。
在人脸信息被大量搜刮 同时, 些反人脸识别技术也不断突破,陆续出现,与”恶魔“正面对峙。
在今年 月份,Facebook决定赔付 . 亿美元以和解该诉讼,但是这 申请遭到了法院 驳回,并要求Facebook 诉讼金额增加 亿美元。
在今年 月, 家名为ClearviewAI 美国人脸识别创企称其整个客户名单被盗。
在题为《福克斯，保护隐私免受未经授权 深度学习模型 侵害》 论文中,他们阐述了进行这项研究 技术原理及研究目 。论文 作有两位, 位是 岁 北京小伙单思雄,正准备在芝加哥大学直博,而另 位则是芝加哥大学 博士EmiyWenger。
对应相应 法案来看,伊利诺伊州有 项法律是，禁止企业未经事先征得同意就收集包括面部识别在内 生物特征资料统计。
尽管人脸识别这 概念在法规和市场规定内依旧比较模糊,但是近些年来出现 不规范使用人脸 现象也为执法部门敲响了警钟。
很快,拜登“睡着”事件得到了澄清。视频里 人并不是当时 拜登,而是 岁 歌手哈里·贝拉方特 录像和拜登 零 年与希拉里视频交流 画面剪辑合成 ”假货“。这 信息也使舆论 爆点由“拜登体力不支无法胜任”转向了对人脸信息滥用 讨论。
微软推出 另 项技术支持从信息源头杜绝伪造,这项技术包括 个内置于MicrosoftAzure中 工具以及 个阅读器,通过匹配具有唯 性 哈希值,以让人们准确知晓看到 内容是否真实。
微软新推出 两项技术分别为，视频认证器（VideoAuthenticator）以及另 项从信息源头杜绝伪造 技术。
我们每天走在路上看似安全,实则可能自己 人脸信息已经被采集,甚至用于我们不知道 用途。技术 “非法滥用”正在不断攻破我们 隐私城墙。
技术 加持毕竟无法覆盖全部 人脸识别场景,法律和政策保护才是防止人脸识别隐私泄露 新后 道防线。目前国内外已经有 些举措来应对人脸识别滥用 现象。
新近 美国大选,就又 次把Deepfake推上了风口浪尖。针对这种“人脸和身体错乱组合” 现象,科学家们也 直在探索如何是区分真假照片和视频。
朋友圈里 朋友 个个毫无违和地成为了网络热门表情包,甚至出演热门电视剧……但是还没热闹几天,这个风靡 时 “换脸”App就被约谈下架了。
本文将通过对人脸识别攻防技术 探索,深挖人脸识别“黑白两面” 攻防对峙现状。
欧盟委员会 高级官员也曾透露,他们正计划 项关于人脸识别资料统计使用 立法。
此外我国 《网络安全法》第 条也表示，“任何个体和组织不得窃取或者以产品非法方式获取个体信息,不得非法出售或非法向他人提供个体信息。”
此外,室内外遍布 摄像头也逐渐在和人脸识别系统配套使用,帮助进行更高效和 信息获取。新明显 现象是, 些地区 路口红绿灯下 屏幕上,会实时曝光出闯红灯行人 身份信息。
此外,新近来自阿里巴巴、 州大学、南洋理工大学和天津大学 AI研究人员也推出了 种通过视觉PPG（光电容积描记技术）识别人心跳 Deepfhythm检测模型。
此外,近日“新华视点”披露 起网络黑产从业者利用电商平台非法倒卖人脸信息 案件中, 毛 张 人脸信息也让人们对自身人脸牵涉 隐私安全产生极大担忧。
法律正在逐渐对人脸识别规范使用作出举措,而实现真正 全面、严谨且有针对性 立法依旧需要时间 打磨。
甚至在网络贸易平台上,还存在着专门出售人脸资料统计和“照片活化”（即人脸验证视频）工具 店铺。零. 元 份 人脸资料统计,让公民在不知情 状况下成为了实实在在 “透明人”。
用户只需将 张面部照片上传到“ZAO”上,再选 个自己喜欢 影片片段和角色,就可以把这些角色 面孔换成自己 模样
疫情防控所需加之技术水平不断提升,人脸识别越来越多地运用于人脸解锁、位置追踪、乘车验证刷脸支付等不同场景,与此同时我们 人脸也成为了 张暴露在信息大环境下 个体通行证,相应人脸识别滥用 现象也开始泛滥。
目前这项技术已经与 家位于旧金山 AI基金会合作,通过这种合作形式,视频认证器可供参与民主进程 组织广泛使用。
直到今年 月 日,杭州市富阳区人民法院开庭审理此案,并将择机审判。我们可以 起等待针对人脸识别 不合理获取,将会获得怎样 处理。
研究人员在论文中说,DeepFake模型视频会留下独特 生物学和噪声信号,即所谓 “DeepFake心跳”。这种检测技术会从 个体脸上 个不同点中寻找残留 生物信号,研究人员将这些生物信号称为PPG单元。
简单来说,将自己 人像照片传到Fawkes上经过 分钟左右 加工,输出 图片与原片在肉眼上看到并无差别,但是将加工后 照片再上传到社交网站,就算是人脸识别软件想要通过照片信息来获取资料统计,其扫描出 照片信息也不是上传照片 本人信息。
类似地, 零 年在美国社交新闻网站Reddit社区 次亮相 换脸黑科技Deepfake,上线 天就遭到了全世界唾弃。
继Facebook在人脸识别诉讼中妥协,决定赔付 . 亿美元和解后,这家大企业旗下 社交应用Instagram又面临了非法收集生物识别资料统计 新指控。
继而在今年 月份,Facebook终于妥协,决定以 . 亿美元和解诉讼。 月,法院初步获批Facebook . 亿和解请求,每位人脸信息被侵犯 用户将会得到 零零~ 零零美元 赔付。Facebook将于明年开始支付罚款。
而新关键 是,ClearviewAI获取这些资料统计并未经过被抓取照片者 同意。
而针对这 诉讼,Facebook并未立即做出回应。
芝加哥大学SAND实验室 学生近日发布了 款保护个体隐私 系统Fawkes。这 系统自开源 个月以来,已经在GitHub上获得了 多万 下载量。
虽然我国尚且没有完全针对“人脸识别” 法条,但是我国《民法典》 千零 条则明确表示自然人 个体信息受法律保护,该法条内容包括，
视频认证器可以将视频播放中 每个帧与原图进行实时比较,并给出资料统计分析,监测出人眼几乎无法察觉 细微褪色、灰度元素等混合边界。
诉讼称,这 行为违反了伊利诺伊州 项禁止未经授权 生物识别资料统计行为 法律。
近日,宾汉姆顿大学和英特尔 研究人员开发了 种算法,号称能用视频中 生物信号检测这个视频是否是伪造 。
近日,美国民主党总统候选人拜登在接受记者采访时“睡着” 视频刷爆了网络,而后又有特朗普团队给拜登照片加滤镜使拜登显得更老 消息流出。
还记得换脸App“ZAO”刚上架时你 朋友圈怎样啊。
这 系统尽管存在无法对已经上传网络 图片进行修改 缺陷,但是研究小组认为对今后大量 照片隐私泄露 规避将会阻止更多隐私安全问题 发生。他们说,他们 目 是让ClearviewAI这种从照片上非法收集用户人脸信息 案件不再发生。
这 行为使Facebook遭到了消费者 集体诉讼,该企业被指控侵犯了消费者 隐私权。
这个研究团队发现,真假视频中人 心跳是不同 ,将心跳视觉化,也可以直接暴露出经过DeepFake加工 视频。
这款App 用户协议中要求使用者同意把肖像权 、不可撤销、免费地提供给“ZAO”平台使用,换句话来说,用户等于将自己 肖像权双手奉上。
这款系统 优点在于,它几乎可以对所有 人脸识别系统都管用。论文上写道,在旷视Face++、微软AzureFace、亚马逊Rekognition等面部识别服务上,Fawkes取得了“ 零零% 成功”。
这项“收益有限、风险巨大” 人脸识别技术,难道真 是便捷和安全两难全。人脸识别及其对抗技术是否将会像“病毒”与“ 毒软件” 样长久共存。
这项研究是 位学生在芝加哥大学SAND实验室 赵燕斌和郑海涛两位华人老师 带领下完成 。
通过自己提交 面部照片进行人脸识别,则更无面部隐私可言。
那么我国法律和政策对人脸识别又是如何规定 呢。
除了以上被报道出来 案例,或许还有很多我们不知道 面部识别被滥用 情况。在这个体人调侃“没有隐私” 时代,真正被攥在自己手里 ,或是可以被完全维护 隐私安全还有多少。
除了以上这些具体 获取面部隐私并加以滥用 信息,疫情期间甚至由于人脸识别还引发了种族冲突。为此,微软、亚马逊和IBM 大巨头同时暂停了对警局提供面部识别 服务。
除了学术圈推出 反DeepFake模型,微软也推出了两个DeepFake监测工具,以避免美国大选遭受虚假信息威胁。
除了法律规范,人脸识别在技术方面也呈现出了“黑白两面” “立场”对峙。
除了通过照片识别人脸信息,“换脸”技术背后 逻辑也同样让人细思极恐。放到网络上 人像视频只需要经过“ZAO”“DeepFake”之类 软件加工,视频 主角就可以换成别人,同样 ,自己 人脸也有很大可能会被用于产品视频。只要处理够仔细,软件足够强大,“换过脸” 视频足可以以假乱真。
随着人脸识别技术攻占 步步紧逼, 些相应 技术和政策也纷纷落地,包括制造“照片面具”骗过人脸识别软件、使用算法识别“换过脸” 视频,甚至更明了 法律条文,都在防止人脸信息被滥用。
随着人脸识别等技术规模化应用,国内外也出现了不少关于人脸信息滥用 诉讼案例。
需要刷脸 场合越来越多,同时AI换脸、AI合成 音视频也不断出现,无论是引发 虚假新闻、诈骗案例,还是悄无声息 拿到人脸权限等隐患,都在不断用技术进攻人们 接受底线。
面对疫情中人脸识别滥用,隐私安全问题泛滥 状况,加拿大、波兰、澳大利亚等也都在 定程度上实行了面部识别禁令。即使禁令 做法相对片面和极端,但是对隐私维护方面起到了 定作用。
面部信息,这 几乎从未被大众注意到甚至想到要保护 隐私被放在了明面上,引发热议。
加快人脸识别相关法律法规研制进程
加快构建人脸识别技术应用监管体系
加快推进人脸识别技术 安全系列质量研制
鼓励市场协会或社会组织开展市场自律
,