首页 | 新闻中心 | 民生面对面 | 民e通 | 慈溪文化 | 慈溪概览 | 慈溪政务 | 文明慈溪 | 分类信息 | 最多跑一次 | 携手黔行 |
责任编辑:范田圆 胡兴家
报料热线:63012345
cxnews@yeah.net
首页 | 慈溪新闻 | 民e通 | 桥城独家 | 镇街部门 | 外媒聚焦 | 专题 | 桥城评论 | 微播报 | | 财经要闻 | 社会生活 | 桥城视频
数字电子报:
慈溪日报 | 宁波日报 | 宁波晚报 | 东南商报 | 现代金报 | 都市快报
您当前的位置 : 慈溪新闻网 > 新闻中心 > 社会生活

如何分辨真假?记者体验换“AI换脸”“秒变”小丑
2024-03-12 09:58   稿源:中国宁波网-宁波晚报

记者体验“AI换脸”。记者 苗雪未 通讯员 李栋/摄

  “AI换脸”火了!最近,中国香港警方破获一起诈骗案——某公司职员在参加一场“多人视频会议”后被骗走2亿港元。在这场会议中,只有受害者是“真人”,其他“参会同事”都是诈骗分子用“AI换脸”冒充的。网友们纷纷感慨:“这下,眼见也不一定为实了”。

  “AI换脸”的门槛高不高,涉及哪些“黑科技”?它可能会导致哪些法律风险,受害者又该如何维权?除了“换脸”,AI还有哪些妙用?3月11日,记者来到宁波头部IT企业——国研软件股份有限公司(以下简称国研软件),探秘“AI换脸”背后的技术原理。

  记者“秒变”小丑

  “AI换脸”有多神奇?国研软件行业应用研发部高级工程师孙一帆向记者演示这项应用。只见摄像头“捕捉”记者的面部神态后,把记者的脸“秒变”为小丑的脸。由记者“换脸”而成的小丑,还会跟随记者的表情“开口大笑”。它也能把记者“换脸”成孙一帆本人,出现两位“孙一帆”同框的画面。

  “这款‘AI换脸’应用来自Github代码开源平台,通过深度学习算法,精准识别视频中的人脸图像,并提取出眼睛、鼻子、嘴巴等关键特征,再将其与素材库里的图像进行匹配、替换、融合。只需上传你的一张照片,就能快速换脸,但效果不够逼真。要想提升效果,至少需输入4000-6000张照片。”孙一帆介绍。

  这样看来,通过“AI换脸”进行视频会议诈骗,要么是“吃准”了视频会议的参与者无需频繁变换表情,只需一张照片“换脸”就能“糊弄”过去;要么就是骗子已“潜伏”多日,收集大量当事人同事的面部照片,以做到以假乱真。可见,保护个人信息安全迫在眉睫。

  那么,我们该如何分辨“AI换脸”和真人?网传的“捏鼻子”等方法靠谱吗?

  孙一帆告诉记者,这种做法可以参考,但并不绝对奏效。“目前的AI算法,都是基于完整的面部照片,‘捏鼻子’意味着面部有遮挡,如果AI训练时遮挡的数据不够,就可能‘露马脚’。但如果训练的数据充分,或采用更健全的算法,也可能破解这一痛点。这种情况下,最好询问对方彼此都知道的问题,以确认身份。”孙一帆说。

  至于网友们关心的“是否会被‘AI换脸’拿来做刷脸支付?”孙一帆认为,目前还无需担心,因为现有的“刷脸支付”“刷脸门禁”,并不支持“AI换脸”所需的虚拟摄像头采集功能。但保护人脸数据等个人信息安全,仍需技术开发方、APP运营方、监管方等相关机构建立更严格的标准和规范。

央视报道“AI换脸”应用。视频截图

  “AI换脸”有哪些法律风险?

  如今,“AI换脸”的应用层出不穷,有人用它“复活”已去世的亲人,以寄托思念;有人将它用于电商直播,以“提升主播颜值”;更有人拿明星照片“换脸”剪辑视频……然而,企业或个人在使用“AI换脸”时,稍有不慎就可能在违法的边缘“试探”。

  浙江素豪律师事务所律师孙央指出,“AI换脸”可能涉及的法律风险有以下几种——

  一是,著作权侵权风险。企业可能在已有的视频或图片中,将人脸进行替换。而其使用的视频或图片等素材,他人可能享有著作权,如果未经著作权人同意擅自使用这些素材,将侵犯著作权。

  二是,肖像权侵权风险。《民法典》第1019条规定,未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。如果没有经过他人同意,将他人的人脸用来制作短视频或其他作品,可能会侵犯肖像权。

  此前,杭州物联网法院曾审理过一起因“AI换脸”APP利用深度合成算法侵犯他人肖像权的案件。原告楼某某是一位古风汉服模特,发现被告运营的“AI换脸”APP,使用了其拍摄的古风造型视频模板,供其他用户“换脸”生成新视频。最后,法院判决被告向楼某某赔礼道歉,并赔偿损失5000元。

  三是,名誉权侵权风险。《民法典》第1024条规定,民事主体享有名誉权,任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。如果在AI换脸视频中,将他人人脸替换的行为构成对他人名誉的贬损,可能构成对名誉权的侵犯。

  同时,针对人脸信息被“盗用”至“AI换脸”应用等问题,《中华人民共和国个人信息保护法》为侵害人脸识别信息的行为,规定了罚款、吊销营业执照、损害赔偿等行政、民事乃至刑事责任,以增强对违规使用人脸识别技术、侵害人脸识别信息的行为的威慑力。

  如果发现“AI换脸”侵犯了自己的权益,该如何维权?

  孙央律师建议,受害人首先要保留证据,通过截图、证据保全等方式保存侵权视频或图片;如果是在某个平台上发现被侵权,可以向平台运营者投诉,要求删除侵权视频或图片;最后,可以向人民法院提起诉讼,维护自己的合法权益。

  如何让AI“为我所用”?

  技术的进步绝非“洪水猛兽”。要想让AI作为一种生产力工具,既需要完善的监管体系,也有赖于千行百业的从业者,加强合理使用AI的能力。

  以国研软件为例,该公司将AI技术用于农贸市场的数字化改造,研发出能自动“识别”蔬果的智慧溯源秤,从而追溯每一件菜品的“前世今生”,助力宁波保障“菜篮子”安全。为提升工作效率,该公司IT技术人员还用上了一款“小研机器人”,既能辅助写代码,又能方便新员工快速入职。

  “我们的‘小研机器人’对接阿里的‘通义千问’大语言模型,能运用Python、Java等多种语言帮忙生成代码,解放IT人士的生产力;我们还将企业的规章制度导入系统,如出差流程、报销流程等,方便大家一键查询,省去人力沟通成本。”国研软件政务应用研发部高级工程师毛校军告诉记者。

  在宁波,“AI+行业”的案例层出不穷。比如,浙江九为健康联合华为打造九为盘古中医药大模型,借AI提升中医药研发效率;宁波薄言信息打造“垂直行业版ChatGPT”,为得力等本土企业提供“智慧升级版AI电商客服”;多家外贸企业运用AI跨语言和外商交流,增加接订单的效率。

  毛校军表示,灵活使用AI的能力,或将成为未来人才的核心竞争力。

   责任编辑戎畏畏 
  [打印该文] [关闭窗口]
24小时最新新闻
和谐共生|筑绿中国
习声回响|良田良种良机良法 绘就当代春...
和谐共生|我们的生活与“碳”有什么关系?
和谐共生|万物生长 共赴山川
和谐共生|长江、黄河流域是生态文明建设...
《习近平关于人才工作论述摘编》出版发行
和谐共生 | 以自然之道 养万物之生
和谐共生|长江运河交汇处,地球“最美...
和谐共生丨跟着总书记感悟传统文化中的...
瞭望·治国理政纪事|舰指深蓝 向海图强
【和谐共生】习言道|生态本身就是经济
卫星视角看中国 | 跟随总书记足迹看长三...
新华社权威速览 | 推动落实全球安全倡议...
学习语 | 营造崇廉拒腐的良好风尚
时习之丨推进核心技术自主创新 习近平引...
学习卡 | 新成立的信息支援部队是一支什...
时习之丨坚持筑牢国家网络安全屏障 习近...
【复苏的母亲河】万里长江新画卷 一江碧...
总书记的人民情怀丨“要树立大食物观”
盛世修文|一脉相承的生态追求
事关网络安全,总书记为何说“要有本清...
中国人民解放军信息支援部队成立大会在...
习近平同加蓬过渡总统恩圭马就中加建交5...
《习近平关于金融工作论述摘编》出版座...
习言道|信息支援部队是全新打造的战略...
一瞬间丨从“破窗”到“破圈”
浙江2024年一季报出炉 从6.1%里看经济发...
浙江省启动专项行动助力中小微企业迈向...
盛世修文丨让文物活起来
时习之丨让互联网更好造福人民 习近平引...
关于我们 | 联系我们 | 法律声明 | 不良信息举报  
主管:中共慈溪市委宣传部 承办:慈溪市融媒体中心 新闻总站:中国宁波网
浙ICP备06028381号-1 Copyright(C) 2005-2024 www.CXnews.cn All Rights Reserved.