1. 创业头条
  2. 前沿领域
  3. 人工智能
  4. 正文

AI换脸足可“以假乱真”?若被滥用后果难料

 2019-05-17 17:33  来源:A5专栏  我来投稿 撤稿纠错

  阿里云优惠券 先领券再下单

文/东方亦落

最近,“AI换脸”风靡互联网。起因是今年3月在B站的一段视频中,94版《射雕英雄传》里黄蓉的扮演者朱茵的脸被用AI技术换成了杨幂的脸,并且换脸之后毫无违和感,而杨幂的“演技”看上去也大有提升。先进的“黑科技”加上“射雕”、“杨幂”这些自带话题的属性,使得该事件迅速成为网络热点,B站视频点击量超出20万,微博话题点击量过亿。

所谓“AI换脸”,即基于人工智能的人体图像合成技术。想要实现这一功能,先要进行数据采集,捕捉不同的面部姿态、光照角度的人脸图片,再对这些数据进行处理,如标准化、分割算法等等。按理说制作起来需要几个小时到数十个小时不等,但现在已经出现了可以辅助AI换脸的插件。

现在有专门深耕这一功能的软件,不管是容貌和性别都可以转换,而且这种技术还有更多的作用。 比如今年春节期间的影片《疯狂的外星人》中外星人之所以神态逼真,其实是通过AI对演员进行“动作捕捉”完成的。而美国电影《阿丽塔》也是通过AI换脸让主角动感十足。甚至在《速度与激情7》中,用AI换脸技术还原了因车祸去世的主演保罗·沃克的脸,让影片多了温情的色彩。

而随着AI换脸技术的普及,这种技术已经不仅局限于某个行业中,现在普通网民也可以随意使用。于是网上出现了许多用明星的脸安到自己脸上的主播,还有某些软件上用户将自己性别调换的照片,以及目前流行的视频中AI换脸等等。

从发展的角度来说,AI换脸的普及也是技术进步的表现之一,是值得人们欣喜的。然而事实上,此项技术缺乏监管,也因此出现了一些不规范的现象。

AI换脸有一个名称叫做DeepFake,这本是一位将《神奇女侠》的主角的脸换到另一张脸上的用户的名字,但后来这位女演员*该用户,然而由于缺少相关的法律条文而未能成功,而这位名叫DeepFake的用户反而因为此举迅速走红,还成了AI换脸技术的“代言人”。

任何的技术都本无好坏之分,但这样看上去,AI换脸技术似乎带了一些“原罪”。 此后换脸之风愈演愈烈,而在这个过程中,使用这类技术的人也在侵权的边缘试探。许多人将明星的脸换到某些*频中并上传到相关网站,导致一众明星“躺枪”,这已经严重侵犯了他人的肖像权和名誉权。

AI换脸产生的负面影响并不局限于娱乐圈或普通人的生活中。去年5月,特朗普宣布中止全球气候变化协议,可别有用心之人用AI换脸技术做了一个假视频,引起了许多人的公愤。

实际上目前的AI换脸技术还有诸多不成熟之处,只要用心鉴别很快就能发现真假,但即使是这个水平的换脸术都已经引发了不小的问题,假使将来AI技术更加成熟,恐怕会带来更多的影响,其引发的后果甚至可能是灾难性的。

所以为了避免这种情况在将来出现,人类需要未雨绸缪,使用AI换脸要有节制。相关平台需要负起应负的责任。而监管部门也需要根据现实尽快出台相关的制度和法规,避免AI换脸技术过度滥用而引发难以收拾的后果。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关文章

  • 汇聚中国AI顶尖力量 云天励飞参与华为AI大模型联合创新

    2023年7月6日,第六届世界人工智能大会(WAIC2023)在上海开幕,“人工智能大模型”是本届大会的备受瞩目的话题,据悉,在昇腾AI大模型的创新研发中,华为联手26家行业领军企业,组建了一支协同创新的“AI明星队”,云天励飞作为中国人工智能企业的杰出代表,和互联网大厂、运营商、科研院所等优秀团队

    标签:
    ai技术
  • 用友大易:迈入AI招聘2.0时代,让人力资源回归本质

    这几个月来,以ChatGPT为代表的生成式AI展现出的能力令世界惊叹。自从2016年AlphaGo战胜李世石掀起了一波AI浪潮后,AI仿佛已经沉寂了很久,ChatGPT的横空出世就如同一束耀眼的光芒,让AI这个名词重回C位。过去在AI1.0时代,主要通过训练模型来实现图像识别、声音识别、语言处理等特

    标签:
    ai技术
  • 新发布的PaaS2.0,能否助力涂鸦智能再起飞?

    文:互联网江湖作者:志刚2023年的IoT需要一个新故事。6月29日,涂鸦智能在开发者大会上,发布了企业级战略PaaS2.0,希望通过一个平台+四大开发服务,建立起IoT生态。对于这场发布会,市场的态度是积极的。美东时间6月29日收盘,涂鸦智能美股股价上涨5.6%,来到1.87美元/股。近日股价稳定

    标签:
    ai技术
  • 大模型难掩AI制药的悲伤:越过山丘,无人等候

    美团曾经的二号人物王慧文对标OpenAI的创业项目光年之外,以20亿卖给美团,再度引发市场对大模型的热议。

    标签:
    ai技术
  • 拾起王慧文的AI梦,美团冲向“光年之外”?

    2020年底,王慧文在朋友圈写下这句话时,外界本以为这位伴随中国互联网发展而持续创业20年的人物即将告别创业舞台。但是,一个曾经多次创业,正值壮年的互联网老将心中的创业热情是难以熄灭的。

    标签:
    ai技术
  • 2025年10个顶级GPU云平台:Serverless+RL开启AI普惠时代

    近期,“AI新云”(NeoCloud)概念在科技圈和投资圈引发热潮。今年3月,被业内称作“英伟达亲儿子”的AI基础设施企业CoreWeave上市。这家依托英伟达GPU资源冲击新云市场的初创公司,上市不到3个月市值飙升359%,达881亿美元。CoreWeave的“身价暴涨”吸引了无数视线。对此,不少

    标签:
    ai智能
  • 阿里巴巴梭哈AI

    2024年往前数三年,我们称之为阿里巴巴失去的三年。

  • 华为盘古大模型5.5发布:深度思考模型将上线

    一场人工智能领域的革新风暴正从华为开发者大会现场席卷全球产业界。2025年6月20日,在东莞举行的华为开发者大会HDC2025上,华为常务董事、华为云计算CEO张平安揭开了盘古大模型5.5的神秘面纱。这一全新版本在自然语言处理、计算机视觉、多模态、预测和科学计算五大基础模型上实现全面突破,标志着中国

  • OpenAI 推出开源客户服务代理框架 支持商业或实验用途

    一行代码未写,企业已获完整客服系统——这将是AI代理普及的新起点。“今天标志着AI代理技术从实验室走向产业的转折点。”OpenAI产品负责人OlivierGodement在项目发布声明中如此评价。就在今日,这家AI巨头通过HuggingFace平台开源了一套完整的客户服务代理框架,采用宽松的MIT许

    标签:
    ai技术
  • 夸克App上线“夸克老师”:AI实现个性化辅导,精准攻克学习难题

    6月17日,阿里巴巴旗下智能信息平台夸克App正式推出全新学习产品“夸克老师”——一款集讲题、批作业、出题、找试卷于一体的AI家教。该功能依托通义千问大模型,通过指令微调、强化学习等前沿技术,首次实现“因材施教”的个性化辅导,标志着AI在教育领域的应用迈入新阶段。技术突破:AI模拟真人教学,推理能力

    标签:
    夸克
  • 字节旗下AI工具豆包电脑版与网页版上线“AI播客”功能,用户可一键生成双人对话播客

    2025年6月17日,字节跳动旗下智能助手豆包正式在电脑版及网页端全量上线“AI播客”功能,用户只需上传PDF文档或网页链接,即可一键生成由两位AI主播演绎的对话式播客节目。这一创新功能凭借高度拟人化的语音效果和秒级转化效率,迅速引发内容创作者、学生群体及职场人士的关注。技术突破:真人级语音交互,秒

    标签:
    豆包ai
  • DeepSeek越强,Kimi越慌?

    AI的生死竞赛

    标签:
    deepseek
  • 全球AI巨头正在赌:谁搞定MCP,谁就是未来老大

    我不是危言耸听,现在全球的AI巨头都在做MCP,毫不夸张的说:谁能把MCP做起来,谁就拥有AI生态控制权,谁就是AI圈的老大。你们有没有发现,MCP在2025年初开始特别火爆,互联网技术大厂都在强推MCP。(1)阿里云百炼搞了个MCP平台,提供50+预置MCP服务。不过大都只面向阿里系产品。(2)腾

    标签:
    ai智能
  • 对话李军:人工智能是“第五范式革命”

    2025国际人工智能程序设计精英挑战赛(IAEPC)在香港中文大学成功举办。作为主办方之一,欧美同学基金会理事长李军接受了大赛主持人艾诚采访。在采访中,李军认为IAEPC不仅是一场“冠军中的冠军”对决,更是一次全球AI人才的线下交流盛会。大赛“史无前例”的吸引了全球青年科技精英汇聚香港,更加推动和普

编辑推荐