当前位置:首页 > AI科普

「深度伪造是咋回事:换脸视频背后那点技术活」

xinhack12小时前AI科普6

「深度伪造是咋回事:换脸视频背后那点技术活」 AI科普

先给结论:它本质是"双胞胎生成"

深度伪造说白了,是一类"以假乱真"的 AI 生成技术。最常见的玩法,是拿甲的一堆照片当"脸源",拿乙的视频当"身体和表情源",训练一个模型,把甲的脸严丝合缝换到乙身上,连眨眼、转头都跟着动。出来的东西,肉眼有时候都分不出真假。

米岸AI 先撂一句底线:这篇只拆深度伪造的原理,不教制作。门道讲明白,比藏着掖着更扛忽悠,你也就不容易被假东西蒙了,知道它咋来的才防得住。

深度伪造背后这套核心技术

深度伪造背后这套核心技术叫生成对抗网络(GAN),这套路有意思:一个负责"造假"的生成器,一个负责"找茬"的判别器,俩天天互相较劲。造假的比怎么骗过找茬的,找茬的练怎么揪出破绽,来回拉锯,假脸就越做越真。

后来还有更狠的:用"换脸模型"直接学两张脸之间的映射,再配合让嘴型跟着声音动的技术,连说话口型都对得上。这活儿,早年搞图像的小伙子们可不敢想,现在手机上都能跑。

它真能正经用

别一听"伪造"就觉得全是坏事。电影里让已故演员"复活"补拍镜头、把台词本地化配音、做无障碍的手语主播、帮人试戴眼镜口红——这些正经活儿,底层都是类似技术。技术是中性的,看搁谁手里、干啥用。

要我说,跟当年 PS 刚出来一个道理:工具本身不背锅,拿它坑人的才该挨板子。会用的拿它省成本,歪用的拿它坑人,差在两字:心思。

坑也都明摆着

风险也实在:有人拿它做假新闻、冒充熟人要钱、编造假录音毁人清白。更麻烦的是,假的满天飞,真的反而没人信了——这叫"谎言跑赢真相"。还有声纹、人脸这些生物特征被滥用,后患不小,想删都删不干净。

所以这两年"AI 水印""内容溯源"才被拎到台前:给生成内容打记号,让假的能追到根上。平台、监管一起上,才压得住这股歪风,光靠用户自己辨太难。

普通人咋防着点

几招实在的:看到离谱视频先别急着转,尤其涉及钱、涉及名人表态的;留意光影有没有违和、眨眼自不自然、背景边沿糊不糊;真要紧的事,走官方渠道核实,别光信一条视频。

米岸AI 觉得,最好的防具不是技术,是"我先愣一下"的习惯——越是煽乎的内容,越值得多想一秒。真假的边界,往往就在你点转发前那一停。

常见问题

问:深度伪造和普通的视频剪辑是一回事吗?

答:不是。剪辑是挪已有的真画面;深度伪造是用 AI 凭空"造"出原本没发生过的脸和声音,真假难辨程度高得多。

问:有没有法子认出假视频?

答:有,但肉眼越来越难。现在更靠平台的水印、溯源标记和专业检测模型来识别,普通人主要靠"多方核实、别急着信"。

问:把自己的照片发网上安全吗?

答:存在被拿去当"脸源"的风险。不露脸的敏感场景少发原图,公共平台注意隐私设置,能少不少麻烦。

问:米岸AI 说的水印是啥?

答:就是在 AI 生成内容里嵌入肉眼难见、机器能读的信号,标明"这玩意儿是 AI 做的",方便溯源和辨别。

本文由米岸AI整理。

相关文章

训练、微调、推理:大模型从学会到上岗的三步

训练、微调、推理:大模型从学会到上岗的三步

很多人把"训练 AI"想成一件事,其实大模型要经历预训练、微调和推理三个阶段,各有各的花费和目的。本文用"上学—培训—上岗"的比方,理清这条从数据到服务的完整链路。…

涌现能力是什么?小模型不会、大模型突然会

涌现能力是什么?小模型不会、大模型突然会

有些能力很奇怪:模型小的时候完全没有,参数涨到一定规模,突然就会了——像攒够了人数才会涌现的“人浪”。这种“量变到质变”叫涌现能力(Emergence)。这篇文章用“凑人数”和“水温烧开”两个比喻,讲…

AI 是怎么看懂一张照片的?一文看懂卷积神经网络

AI 是怎么看懂一张照片的?一文看懂卷积神经网络

你上传一张猫的照片,AI 立刻认出是猫;拍一张街景,软件分出车道和行人。可计算机最初只看到一堆像素点。卷积神经网络(CNN)就是让 AI 学会“看”的关键结构,它像用放大镜在图上滑动、提取边缘和纹理,…

Transformer 是什么?现代大模型的共同骨架

Transformer 是什么?现代大模型的共同骨架

今天几乎所有厉害的大语言模型——从聊天机器人到翻译器——背后都站着同一个架构:Transformer。它不像老式模型那样一个字一个字硬啃,而是让一句话里所有词同时“互相看一眼”,谁和谁相关一眼锁定。这…

反向传播是什么?神经网络的错误怎么一层层传回去

反向传播是什么?神经网络的错误怎么一层层传回去

模型做错题,错的不只是最后一层。反向传播就是把「总错误」沿着网络一层层往回分,算出每个权重该为这次失误负多少责。本文用传话出错追责和工厂返工的比喻,讲清这个让深度学习得以训练的核心算法,以及它为什么能…

聚类是什么?AI 怎么把相似的东西自动「归成一堆」

聚类是什么?AI 怎么把相似的东西自动「归成一堆」

前面聊的很多模型都要先有标签才能学,聚类却反着来:不给任何答案,只丢一堆杂乱数据,让 AI 自己把相似的分到一组。本文用聚会自动分桌和整理衣柜的比喻,讲清 K-Means 怎么运作、簇数怎么定,以及它…

联邦学习是什么?手机怎么在不交出数据的情况下一起训练 AI

联邦学习是什么?手机怎么在不交出数据的情况下一起训练 AI

把数据集中到一处训练 AI,最怕隐私和合规这关——没人愿意把聊天记录、病历乖乖上交。联邦学习换了思路:模型下发到各台设备,数据不出本地,只把「学到的改动」传回来汇总。本文用集体写书和老师批作业的隐喻,…

零样本学习是什么?没教过的题,AI 也能猜个八九不离十

零样本学习是什么?没教过的题,AI 也能猜个八九不离十

传统模型只会做练过的题,换个没见过的类别就傻眼。零样本学习偏要让模型答没复习过的题——靠的是把类别、文字描述这些语义信息带进来,让没见过和见过在意义层面接上头。本文用查字典和跨语种猜词的比喻,讲清它和…