1岁会讲话、2岁抱着鱼喊奶奶?AI正在批量制造“假视频”_世界华人报 
今天是:
简体中文 繁體中文 English

1岁会讲话、2岁抱着鱼喊奶奶?AI正在批量制造“假视频”

来源:新京报  供稿 更新时间:2025-03-07 21:34:57 点击数:

当每个人手中都握着几款AI时,你才能真切感受到科技是把双刃剑的真实困境。

微信图片_20250307213822.jpg

在AI带来空前便利的背面,AI生成的文字幻觉更让人心生警惕。

微信图片_20250307213915.png

AI制造的假视频以一种令人更难察觉的方式悄悄扩散。


图片
正在召开的2025年全国两会上,多名代表提案整治AI换脸换声乱象的问题。
微信图片_202503072139151.png
那么,社交媒体上究竟有哪些内容是AI生成视频重灾区?

━━━━━
AI正在批量制造“假视频”

在互联网图文时代,真假的边界相对清晰明确。
很多知名PS图片下都有“一眼假,PS的吧”的质疑声。
彼时,视频就自带天然可信度。
“视频不能P所以是真的”成为一句暴露年龄的网络调侃。
时至今日,AI生成视频的留言板中鲜见立场犀利的质疑声。
因为AI视频越来越真假难辨了。
技术进步的同时, 网上涌现出一类全新内容:

赛博“AI大孙子”,1岁会讲话、2岁抱着鱼喊奶奶。

图片
老人拿着手机笑得合不拢嘴。

AI萌宠视频,猫咪、宠物狗对这镜头跳舞,让年轻人踏进新的AI视频新茧房。

1岁会讲话、2岁抱着鱼喊奶奶?AI正在批量制造“假视频”(图6)

有些视频一看就很假,比如奥特曼给孩子庆生的祝福。

1岁会讲话、2岁抱着鱼喊奶奶?AI正在批量制造“假视频”(图7)

有些则非常逼真,在各大微信群流传甚广的哈尔滨二次元冰雕。
640.gif
另一个高发区集中在,地球最美景色的旅行博主、萌宠成精的宠物赛道。
以至于,今天我们看到任何视频,都会伴随一种新疑问“这是AI做的吗?”

━━━━━
被AI换脸,被AI偷猫

最近,多位代表提案整治AI换脸换声乱象。
           
其实除明星、公众人物外,普通人甚至宠物肖像都正在成为AI换脸的对象。
AI视频泛滥同时很多人发现,自己的照片正在被AI换脸 。
小红书用户@妙龄老头子告诉新京报记者:
“去年9月我发现自己的照片被平台其他用户AI换脸盗用,但即使知道也很难举证,投诉手续很繁琐,直接和客服投诉没有回应。即便我按要求提交了原图,也没办法把侵权者笔记下架,维权和索赔非常困难。”

微信图片_202503072139152.png

▲图/受访者提供,AI图片没戴眼镜依旧保持了扶镜片姿势

另一位宠物博主@汉堡大人在网上发布了自家的猫被AI换脸的过程。
微信图片_20250307213916.png
赛博时代,批量生成的AI视频正在成为一种新的情感代餐。
年轻人看起来一股AI味儿的视频,对老年人则格外奏效:
“AI乖孙”正在伪造孙子视频攻陷老人。
有数据显示,春节后的一周“AI孙子”的微信搜索量现象级暴增。
微信图片_202503072139161.png
AI生成赛博大孙子,五官几乎白得反光,糊成一团的动态背景,再加上罐头笑声和AI配音的祝福语......
在“叫奶奶” 流派之外,还有“懂事小孩”流派。
小朋友光脚一秒就能做出四菜一汤,端着饭菜表示要亲自送到家门口的视频。

1岁会讲话、2岁抱着鱼喊奶奶?AI正在批量制造“假视频”(图12)

爷爷奶奶们戴着老花镜在评论区留言:小宝宝真可爱、心疼小宝。
微信图片_20250307213917.png
l对于年轻用户来说,“AI萌宠”视频则成了一种新的电子榨菜。

云养宠博主中出现“电子哈基米”,AI技术使萌宠动物批量成精。

这两种类型的视频中有共同点。

两种视频内容都导向同一种需求:“情绪价值”。
角色是孙子孙女或者小动物,自带可爱加成。
视频太过符合逻辑,会说宽慰人的话。
如果说AI视频内容唯一的问题可能就是“过于符合常理”。
2025年《国民视觉健康报告》显示,60岁以上老年人日均手机使用时长达4.2小时,较五年前增长300%。
这背后是银发族的孤独感,而这些AI视频就瞄准了老人总是希望孩子回家,喜欢那种带孙子的情感需求。
而“AI孙子”的视频则被用来转发给孩子催婚。
面对家长用AI视频催婚,年轻人有新的对策:“再催我就用AI视频回击。”


微信图片_20250307213917.jpg


年轻人这边,生活节奏飞快,大多人都困在:有钱、有时间、有陪伴的不可能三角里。
而AI生成的打工人形象猫猫狗狗,自然就成了填补碎片时间的新型“电子榨菜。”
究其原因,AI换脸换声离不开AI技术发展技术平民化。
制作这种内容,AI生成镜头脚本,用AI脚本生成AI视频几乎成为门槛最低的一种视频制作。
甚至逐渐形成一种全新的“起号”新赛道。
尽管,现在平台会加上特别提示“疑似包含AI创作信息”。
微信图片_202503072139171.png
但很多长辈依旧很难理解什么是AI视频。
越看越会被推荐,从而踏入一种新的茧房。

━━━━━
当眼见不再为实

几年前,AI文生图曾因画不好手指被人诟病。
如今技术飞快迭代,已经让AI视频无限接近以假乱真。
人类和AI像是在进行一场漫长的围棋对弈。
一边希望AI产出更接近真实的视频,另一边希望这些内容真实可靠、经得住推敲。


微信图片_202503072139171.jpg

▲图/小红书用户@Comas Design



在技术迭代的同时,人类新的挑战在于学会虚假内容辨别:
尽管很多网友分享了自己对于视频内容,“动态微表情”“多音字读法”“语气处理”的分辨经验。
新时代更需要做具备媒介素养的人,遇到任何信息,都要保持怀疑的态度并去验证。
TIPS:
有很多人问:“会不会有一天,网络上充满了混杂的消息,想要搜索东西要先筛选编造的东西。”
微信图片_202503072139172.png
这不是杞人忧天,而是身边正在发生的事情。


【责任编辑:金水】