1. 从一条新闻说起：AI 视频通话是怎么变成诈骗工具的

The Verge 前段时间报道了一起挺典型的案例：有人做了个假冒 Dora 的 AI 交友应用，用 AI 视频通话把用户骗得团团转。这个事在圈子里讨论度不低，因为它踩中了两个当下最热的点—— AI 和 视频通话 。表面上看是个诈骗新闻，但往深了挖，它其实暴露了 AI 应用开发里一整套技术链路被滥用的可能性，也顺带给做正经 AI 产品的人提了个醒：你手里的技术，换个场景就是别人的作案工具。

我自己做 AI 应用开发有些年头了，从早期的规则引擎到现在的多模态大模型，踩过的坑不算少。看到这个新闻的第一反应不是"骗子真坏"，而是"这套东西技术上到底怎么实现的，成本有多低，普通人怎么识别"。因为只有把技术链路拆清楚，你才知道防御该往哪个方向使劲。这篇就围绕这个案例，把 AI 视频通话诈骗的底层逻辑、技术实现路径、识别方法和防御思路完整讲一遍。不管你是做 AI 产品的、搞安全的，还是单纯想搞清楚"视频里那个人到底是不是真人"的普通用户，都能从里面拿到能直接用的东西。

需要先说明一点：下面涉及的技术原理和实现思路，目的是帮助开发者和用户理解风险、建立防御，不是教你去做坏事。任何把 AI 技术用于欺诈的行为都是违法的，这个底线不用多讲。

2. AI 视频通话诈骗的技术链路拆解

2.1 为什么是"视频通话"这个场景

文字聊天诈骗早就烂大街了，用户警惕性也上来了。但视频通话不一样，它给人的心理暗示是"我亲眼看到了真人"，信任建立的速度比文字快一个数量级。骗子选这个场景，本质上是利用了人类对视觉信息的天然信任。

从技术角度看，视频通话诈骗的门槛在过去两年被大幅拉低了。以前要实时换脸或者生成逼真的人脸视频，需要专业的影视级设备和团队，成本高到只有大机构玩得起。现在不一样了，消费级显卡加上开源模型，一个人一台机器就能跑起来。这个成本曲线的下降，是这类诈骗突然增多的根本原因。

再叠加一个因素：交友场景本身就有"情感投入"的属性。用户在交友应用上本来就带着建立关系的预期，防备心比在陌生链接面前低得多。骗子把 AI 视频通话嵌进这个场景，等于在用户最放松的时候下手。

2.2 假冒应用的三层结构

拆开看，这类假冒 Dora 的应用通常分三层。

第一层是 外壳 。它需要一个看起来正常的交友应用界面，有注册、匹配、聊天这些基础功能。这一层技术含量最低，套个模板改改就能上线，甚至可以直接拿开源的交友应用代码改。

第二层是 AI 对话引擎 。用户发消息，对面要能"像人一样"回复。这一层现在基本是大模型的天下，接个 API 或者本地部署一个开源模型就能跑。关键在于提示词的设计——要让 AI 扮演一个特定人设，有稳定的性格、背景故事、说话习惯，还得能记住之前聊过的内容。

第三层是 AI 视频通话 。这是最核心也最唬人的一层。用户发起视频，对面要出现一个"真人"在动、在说话、有表情。这一层的技术实现方式有好几种，成本和技术难度差别很大，下面单独讲。

这三层叠起来，就构成了一个完整的诈骗闭环：外壳建立信任，对话引擎维持关系，视频通话完成"验真"，让用户彻底相信对面是真人。

2.3 实时视频生成的技术路线对比

AI 视频通话的实现，核心要解决"实时"和"逼真"两个矛盾的需求。目前主流的技术路线有这么几条，我按成本和效果做个对比。

技术路线	实现方式	实时性	逼真度	硬件门槛	常见用途
预录视频拼接	提前录好大量视频片段，按对话触发播放	高	中	极低	低端诈骗、机器人客服
实时换脸	摄像头捕捉真人，实时替换面部	高	高	中	视频会议诈骗、冒充熟人
数字人驱动	3D 模型 + 语音驱动口型和表情	中	中高	中高	虚拟主播、AI 客服
生成式视频	扩散模型逐帧生成	低	极高	极高	影视制作、短视频
语音+静态图驱动	单张照片 + 音频驱动面部	中	中	中	照片复活、轻量数字人

从诈骗场景的实际选择看， 预录视频拼接 和 实时换脸 是性价比最高的两条路。预录视频拼接成本极低，但破绽明显——对话不自然，动作重复。实时换脸需要背后有个真人在操作，但效果最好，用户几乎看不出来。数字人驱动是中间路线，成本和技术难度都适中，最近两年开源方案越来越多，门槛在快速下降。

The Verge 报道里提到的案例，从描述看更接近数字人驱动或者预录视频拼接的路子，因为报道提到"AI 视频通话"而不是"真人换脸"。但具体是哪种，报道没细说，这里只能基于常见实践推断。

3. 核心环节实操：AI 视频通话是怎么跑起来的

3.1 对话引擎的搭建要点

先讲对话引擎，因为它是整个系统的大脑。一个能骗过用户的 AI 对话引擎，光接个大模型 API 是不够的，得做几件事。

人设固化 。你得让 AI 始终扮演同一个人。这靠系统提示词来实现，把人物的姓名、年龄、职业、性格、说话习惯、背景故事全部写进去。提示词写得好不好，直接决定对话像不像人。我见过一些做得糙的，提示词就一句话"你是一个友好的女孩"，结果 AI 回复起来前言不搭后语，人设崩得飞快。

记忆管理 。用户聊了几天，AI 得记得住之前说过什么。大模型的上下文窗口有限，聊久了就装不下。常见做法是把历史对话做摘要，或者用向量数据库存关键信息，每次对话时检索相关记忆注入上下文。这块做得好不好，是区分"能聊"和"聊得像真人"的关键。

回复节奏控制 。真人打字有快有慢，会停顿，会打错字再改。AI 如果秒回，反而显得假。所以成熟的系统会加随机延迟，模拟打字时间，甚至故意偶尔"打错字"。这些细节看着小，但对欺骗效果影响很大。

多模态输出 。文字之外，还得能发语音、发图片。语音可以用 TTS 合成，图片可以用文生图模型生成。这些现在都有成熟的开源方案，成本不高。

3.2 视频通话的实时驱动实现

视频通话这一层，我以数字人驱动路线为例讲实现思路，因为它是目前开源方案最多、门槛相对可控的一条路。

整个链路分四步： 语音输入 → 语音识别 → 口型与表情生成 → 视频渲染输出 。

第一步，用户的语音通过 WebRTC 传到服务端。WebRTC 是实时音视频通信的标准方案，浏览器原生支持，延迟能压到几百毫秒。

第二步，语音识别把音频转成文字，送给对话引擎生成回复文本。这一步用开源的语音识别模型就行，中文识别准确率现在都很高了。

第三步，回复文本转成语音（TTS），同时驱动数字人的口型和表情。这里的关键是 音素对齐 ——要让数字人的嘴型跟语音的每个音素对上。常见做法是从音频里提取音素序列，映射到对应的口型姿态，再插值平滑。

第四步，渲染输出。3D 数字人用图形引擎渲染，2D 的可以用生成模型逐帧合成。渲染完的视频流通过 WebRTC 推回给用户。

整个链路的延迟，做得好的能压到 1 秒以内，做得糙的可能要 3 到 5 秒。延迟越大，越容易露馅，因为真人对话的响应几乎是即时的。

3.3 参数选择与性能权衡

实际部署时，有几个参数直接决定体验和成本，我列一下常见的权衡点。

分辨率 。视频通话不需要 4K，720p 甚至 480p 就够用，还能大幅降低渲染和传输成本。诈骗场景里，低分辨率反而有好处——画面糊一点，破绽不容易被看出来。

帧率 。真人视频一般 30fps，数字人做到 25fps 以上就比较流畅了。低于 20fps 会有明显卡顿感。帧率越高，渲染压力越大，需要权衡。

口型精度 。这是最影响逼真度的参数。精度高，嘴型自然，但计算量大；精度低，嘴型僵硬，一眼假。常见做法是只对关键音素做精细对齐，其他帧用插值。

表情丰富度 。真人说话时眉毛、眼睛、头部都在动。数字人如果只有嘴动，会显得很诡异。加一些随机的微表情和头部微动，能显著提升真实感。这块可以用预设的动作库随机触发。

延迟预算 。整个链路的延迟要控制在 1 秒以内，超过 2 秒用户就会觉得"对面反应好慢"。延迟预算要分配给语音识别、对话生成、TTS、渲染各个环节，哪个环节拖后腿都要优化。

3.4 一个容易被忽略的细节：网络与设备指纹

诈骗应用为了不被追踪，通常会在网络和设备层面做手脚。这块我不展开讲具体方法，但作为防御方需要知道：这类应用往往服务器在境外，域名注册时间短，应用商店里评价异常，下载量和使用量对不上。这些特征在识别时很有用。

4. 识别与防御：怎么判断视频对面是不是 AI

4.1 用户侧的识别技巧

普通用户没有技术手段，但有一些经验性的判断方法，实测下来挺管用。

要求做特定动作 。让对面用手遮住脸的一部分，或者快速转头，或者把手指放在脸前晃动。实时换脸和数字人驱动在这些场景下容易出破绽——边缘会有模糊、闪烁，或者手指和脸的遮挡关系不对。

观察眨眼和微表情 。真人眨眼频率不固定，而且眨眼时眼周肌肉会动。很多 AI 数字人的眨眼是定时触发的，频率过于规律，或者眨眼时只有眼皮动、眼周不动。

注意音画同步 。仔细看嘴型和声音对不对得上。AI 生成的口型在快速说话或者发某些音时容易对不上。另外，注意呼吸声、吞咽声这些细节，真人说话有这些，AI 往往没有。

制造意外 。突然说一句无关的话，或者问一个需要即时反应的问题。AI 的回复往往有延迟，或者答非所问。真人的反应是自然的。

要求视频里出现特定物品 。比如让对面拿一张写着今天日期的纸。预录视频拼接的诈骗在这一步会卡住，因为它没法生成没录过的画面。

反向搜索 。把对方的照片拿去搜，看是不是网图或者 AI 生成的图。AI 生成的图有一些特征，比如手指数量不对、背景纹理重复、光影不自然。

4.2 开发者侧的防御思路

如果你是做正经 AI 产品的，这个案例给你的启示是： 你的技术可能被滥用，得提前想好防御 。

内容溯源 。给 AI 生成的内容加水印或者元数据标记，让平台能识别出这是 AI 生成的。这块有行业标准在推，比如 C2PA。虽然不能完全防住恶意使用，但能提高门槛。

活体检测 。如果你的产品涉及身份验证，活体检测是必须的。让用户做随机动作，用多帧分析判断是不是真人。这块技术已经比较成熟，金融行业用得很多。

行为分析 。从用户行为模式里找异常。比如新注册账号立刻大量发起视频通话、对话内容高度模板化、回复速度异常稳定，这些都是信号。

举报和审核机制 。给用户提供便捷的举报入口，对举报内容做人工审核。这块成本高，但对平台生态很重要。

4.3 平台侧的技术对抗

平台层面的对抗，核心是 检测 AI 生成内容 。这块目前是个猫鼠游戏，检测技术在进步，生成技术也在进步。

常见的检测思路有几种。一是 频域分析 ，AI 生成的视频在频域上往往有特定的痕迹，比如 GAN 生成的图像有周期性的伪影。二是 生理信号检测 ，真人视频里有心跳引起的微小颜色变化，AI 生成的往往没有。三是 时序一致性分析 ，AI 生成的视频帧与帧之间的一致性可能有问题。

这些方法都不是百分百可靠，而且生成技术在快速迭代，检测方法很快会过时。所以平台侧更多是 多层防御 ：技术检测 + 行为分析 + 用户举报 + 人工审核，组合起来用。

5. 常见问题与排查技巧实录

5.1 用户最常问的几个问题

问：视频里看到的人会动会说话，怎么可能是假的？

答：现在的 AI 技术已经能做到实时驱动数字人，口型、表情、头部动作都能对上。你看到的"会动会说话"，背后可能是一个模型在实时生成。判断真假不能只看"会不会动"，要看细节——遮挡关系、微表情、音画同步、对意外情况的反应。

问：对方能跟我实时对话，反应还挺快，这也是 AI？

答：对话快不代表是真人。大模型的响应速度现在很快，加上流式输出，用户感觉不到延迟。而且诈骗系统可以预设大量常见问题的回复，进一步降低延迟。判断的关键不是快慢，而是回复的内容是否自然、是否有真人特有的不完美。

问：我要求对方做特定动作，对方做了，是不是就安全了？

答：不一定。高级的实时换脸系统能处理简单的动作要求。但如果要求足够复杂和随机，比如"用手遮住左脸，然后快速眨三下眼，再说一句我指定的绕口令"，AI 系统很难完美应对。关键是要求要随机、要复杂、要涉及精细的面部遮挡。

问：怎么判断一个交友应用是不是假冒的？

答：看几个点。应用商店的开发者信息是否完整、是否有官网、域名注册时间、用户评价是否真实、下载量和使用量是否匹配。假冒应用往往这些信息都很粗糙。另外，正规应用不会一上来就引导你视频通话，也不会要求你转账或者提供敏感信息。

5.2 排查速查表

现象	可能原因	排查方法
视频画面模糊、卡顿	低分辨率渲染或网络差	要求提高画质，观察是否改善
口型对不上声音	音素对齐精度低	让对方说绕口令，观察口型
眨眼频率异常规律	定时触发的数字人	长时间观察眨眼间隔
遮挡关系错误	换脸或合成破绽	让手指在脸前晃动
对意外问题反应迟钝	AI 生成延迟	突然问无关问题
背景纹理重复	AI 生成图像特征	观察背景细节
无法完成随机动作	预录视频或能力不足	要求做复杂随机动作
拒绝视频或找借口	无法生成视频	坚持要求，观察反应

5.3 几个实操避坑心得

别只看一次视频就下结论 。AI 视频通话的破绽往往在长时间观察后才暴露。多聊几次，多观察，破绽会慢慢出来。

注意对方的"完美" 。真人都有不完美的地方——说话会卡壳、表情会不自然、背景会有杂物。如果对方一切都太完美、太流畅，反而要警惕。

别被情感冲昏头 。诈骗的核心是利用情感。一旦对方开始引导你转账、投资、提供敏感信息，不管视频看起来多真，都要停下来。这是最后一道防线，也是最有效的一道。

技术手段是辅助，常识是根本 。再好的识别技术也有被绕过的可能，但常识判断很难被绕过。一个刚认识几天的人，为什么要跟你视频？为什么要你转账？想清楚这些，比任何技术检测都管用。

6. 这类技术被滥用后，正经 AI 产品该怎么做

6.1 技术中立不等于责任中立

做 AI 产品的人经常说"技术中立"，这话对也不对。技术本身确实中立，但技术的使用场景和后果不是中立的。你做了一个能实时驱动数字人的工具，用在虚拟主播上是好事，用在诈骗上就是坏事。作为开发者，你得对自己的技术可能被怎么用有预判。

我的做法是，在设计和开发阶段就把 滥用场景 列出来，然后针对性地加限制。比如数字人驱动工具，可以限制生成内容的用途声明，可以加水印，可以对高频使用做风控。这些措施不能百分百防住恶意使用，但能提高门槛，也能在出事后证明你尽到了责任。

6.2 产品设计里的防御性考量

具体到产品设计，有几个点值得注意。

身份验证的强度 。如果你的产品涉及用户身份，验证强度要跟风险匹配。低风险场景可以用简单的验证，高风险场景必须上活体检测和多因素验证。

内容生成的透明度 。AI 生成的内容应该让用户知道是 AI 生成的。这不是技术问题，是产品伦理问题。在界面上明确标注，在元数据里加标记，都是基本操作。

异常行为的监控 。建立用户行为基线，对偏离基线的行为做告警。比如一个新账号短时间内大量发起视频通话，或者对话内容高度模板化，这些都应该触发审核。

用户教育 。在产品里嵌入安全教育内容，告诉用户怎么识别 AI 诈骗。这看着是额外成本，但长期看能提升用户信任，对产品是好事。

6.3 行业协作的必要性

单个公司做防御，效果有限。诈骗是跨平台的，防御也得跨平台。行业里需要有一些共享机制，比如 诈骗特征库 、 黑名单共享 、 检测技术开源 。这块目前有一些尝试，但还远远不够。

另外， 标准制定 也很重要。AI 生成内容的标记标准、活体检测的技术标准、平台审核的流程标准，这些都需要行业一起推。标准出来了，大家才有共同的参照，防御才能形成合力。

7. 最后分享几个我自己的判断习惯

做这行久了，养成了几个判断习惯，分享出来可能对你有用。

第一， 对"太顺利"的关系保持警惕 。不管是交友还是商务，如果对方一切都顺着你、一切都完美、进展快得不正常，我会本能地多留个心眼。真人关系是有摩擦的，太顺反而可疑。

第二， 重要决定前做一次"离线验证" 。视频里看到的不算数，我会通过另一个渠道验证对方身份。比如打个电话、见个面、通过共同朋友确认。视频可以被伪造，但多渠道交叉验证很难被同时伪造。

第三， 技术手段永远只是辅助 。我见过太多人迷信技术检测，结果被更高级的技术骗了。真正管用的是常识和警惕心。技术可以帮你发现破绽，但最终做判断的是你自己。

第四， 遇到可疑情况，先停下来 。诈骗的核心是制造紧迫感，让你来不及思考。不管对方说得多急，先停下来，冷静几分钟，往往就能看出问题。这个习惯救过我几次，也救过我身边的朋友几次。

AI 技术还在快速演进，视频通话诈骗的手法也会不断升级。今天管用的识别方法，明天可能就失效了。但底层逻辑不变——诈骗利用的是人的信任和情感，防御的核心是保持清醒和警惕。技术会变，这个道理不会变。