在过去三个月里,类似这样表现美国领导人用中文演唱流行歌曲的“深伪”视频,在中国社媒平台上逐渐走红,部分视频还被转发到了TikTok、Instagram和X等中国以外的社媒上。
随着美国大选不断临近,华盛顿的国家安全官员和分析人士都多次警告过北京可能通过人工智能技术制作和传播针对候选人和美国民主体制的虚假信息。最近几年,中国一直实施在线影响力行动“垃圾伪装”(Spamouplage),用大量“垃圾伪装”账户来推出暗中赞扬中国、批评美国和西方的虚假内容。
当然,从这些唱歌视频下的留言来看,几乎没有社媒用户相信美国领导人唱中文歌的视频是真实的。
观察人士告诉美国之音,鉴于华盛顿被视为是北京的竞争者,用这样的方式调侃美国领导人,可能会让中国观众感到一种“文化自信”;但这也同时体现出中国国内严格的审查,导致网民们无法用类似的方式调侃他们自己的领导人。
同时这也是中国长期推销影响力的网络行动的一部分,在社交媒体上冒充美国公民并散播虚假信息,企图在11月总统大选来临之前诋毁美国政治人物,加剧美国的政治分裂和制造混乱。
更多相关美国领导人的“深伪”视频5月开始在网上传播
美国领导人对唱中文歌的“深伪”视频大约从今年5月起开始在中国网上传开。这些视频起初几乎总是将拜登(Joe Biden)和他的前任川普作为主角。
一些视频特意让这两位政治对手合唱以友情为主题的歌曲。
拜登今年7月宣布退出大选后,在一段新视频里,拜登和川普对唱起了台湾歌手周华健的著名歌曲《朋友》,相互表达留恋:拜登唱:“其实不想走,其实我想留,留下来陪你每个春夏秋冬。” 川普接道:“你要相信我,再不用多久,我要你和我今生一起度过。”
还有一段川普和拜登演唱的粤语歌曲《最佳损友》在抖音上获得了超过44万次点赞和接近4万条留言。
一位用户在视频下调侃:“泪目,他俩关系一定很好吧。”
这段视频的创作者“小强同学”制作了超过200部类似视频。其中一部甚至获得了伊朗大使馆账号的转发。
一些这样的视频也被分享到了中国网络“防火墙”以外的社媒平台上。
在另一个视频里,拜登和特朗普共同演唱起了香港歌手张明敏的著名爱国歌曲《我的中国心》。视频里拜登的背后是一张包含了台湾的中国地图和两面五星红旗。
一位抖音用户留言:“就凭这首歌,你俩不用递交入党申请书了,直接破格入编。”
“文化驯服”美国领导人与中国人的“文化自信”?
为颇具影响力的独立网络媒体 ChinaTalk 做人工智能产业方面研究的亚莉克莎·潘(Alexa Pan)告诉美国之音,这些美国领导人唱歌的视频之所以在中国互联网上受到欢迎,部分原因在于它们让中国网民觉得“从文化上驯服了强有力的美国人”。
“对于中国国内的观众来说,(这些视频)成功地将美国的公众人物带入了中国的文化环境,” 她解释道,“他们或许将此看为是‘文化自信’的一个体现。”
她说,鉴于华盛顿被视为是北京的竞争者,用这样的方式调侃美国的领导人,可能在政治上也可以让中国观众接受。
澳大利亚评论人士、前中国外交工作人员杨涵说,这同时体现出中国国内严格的审查导致网民们无法用类似的方式调侃他们自己的领导人。
他说:“中国网民不能调侃中国领导人,微信微博上连习近平三个字都是敏感词,网络翻译工具遇到习的名字就不能工作,所以只能拿美国领导人搞笑啦。”
他说这让他想起了一个美国前总统罗纳德·里根(Ronald Reagan)曾经说过的笑话:“美国人和苏联人攀比谁的国家更自由。美国人说我可以在白宫门口大骂里根是饭桶。苏联人说那算什么,我也可以在克里姆林宫门口大骂里根是饭桶。”
中共借“深伪”技术输出意识形态和传播虚假信息
自从 AI 2022年底开始在全球范围内大热以来,由人工智能驱动的“深度伪造”(Deepfake)技术得到了中国开发者和创作者的青睐。这一技术可以让包括公众人物、政治领袖、娱乐明星等在内的任何人讲出或唱出他们要讲的话和唱的歌。
中国的互联网上不缺乏这样的人工智能视频制作教程。在视频分享平台哔哩哔哩上就有不少这样的教学短片。腾讯开发的对口型软件 MuseTalk 就是最受创作者欢迎的人工智能模型之一。此外,教用户使用西安交通大学开发的模型 SadTalker 的教程也不难找到。
ChinaTalk 的潘说,这些美国领导人唱歌的视频虽然有趣,但制作粗糙,“视频里明显的缺陷,(例如身体的部分有时和背景融为一体)意味着视频质量达不到行业里的顶尖水平。”
她认为,几乎任何人都可以通过在中国境内可以使用的“文字转视频”模型生成这样的视频。
在中国,滥用“深伪”技术的例子已经出现。今年以来,多位西方女性的形象被盗窃,用来在中国社媒上推销货物和推进中共官方的叙事。
今年20岁的乌克兰女孩奥尔加·洛伊克(Olga Loiek)就读于美国宾夕法尼亚大学的认知科学专业(cognitive science)。她在YouTube上开设了自己的频道,主打心理健康和生活方式类的内容,目前已积累了一万多的订阅人数。
但今年初在中国社交媒体上,一群和她长得一模一样的“女子”们却自称是在中国生活多年的俄罗斯人。她们用带着外国口音的普通话赞美中国和中俄关系,并表示非常想嫁给中国男人。她们的名字也各不相同,有的叫娜塔莎,有的叫格蕾丝,有的叫安娜……
中国新年前后,类似这样盗用外国女性形象传播亲俄亲中内容的短视频在中国互联网上广泛流传。这些利用人工智能合成的视频看起来颇为逼真,让不少网民信以为真。大多数盗用外国女生形象的账号似乎都以销售俄罗斯产品为目的,常邀请观看的网民们访问他们的网店。
美国之音发现,部分盗用伊洛克形象的视频带有美国人工智能公司HeyGen的标志。HeyGen是一家2020年成立于中国深圳的科技公司,受到中国投资巨头的青睐。HeyGen如今的总部位于洛杉矶。
人工智能或帮助北京强化虚假信息攻势
自从2022年 Open AI 发布了聊天机器人ChatGPT 以来,全世界掀起了一阵人工智能热潮。
中国的百度、腾讯等科技巨头纷纷投入了人工智能工具的研发当中。其中,人工智能生成逼真的虚拟人物成为了多个公司热衷的研发内容。这种虚拟人物在中国被广泛叫做“数字人”。
去年4月,腾讯推出了“数字人”服务,用户花费千元人民币即可获得自己的“数字人”形象。由从微软独立出来的中国人工智能公司小冰所研发的“数字人”更是获得了许多直播带货博主的青睐。使用“数字人”做直播意味着卖家不再需要顾虑人工劳动力成本和工作时长。
但同时,过去两年来北京利用人工智能的发展增强自己的虚假信息行动,引起了西方情报界和一些智库的担忧。
去年2月,社交媒体研究机构Graphika发现了一场中共策划进行的网络行动,通过人工智能生成的虚拟人物宣传亲中反美叙事。
美国国务院去年9月发布的一份报告称,对全球数据的获取以及人工智能的发展,使得中国政府能“如外科手术般地精准针对外国受众”,从而影响经济和安全政策。
去年12月,澳大利亚智库「澳大利亚战略政策研究所」的研究报告称,YouTube上存在庞大的频道网络利用人工智能宣传亲中反美的言论。
在一篇发表于《时代》杂志网站上的文章中,美国智库兰德公司的研究员莫小龙(Nathan Beauchamp-Mustafaga)和威廉·马瑟利诺(William Marcellino)也对此敲响了警钟。
“由于人工智能科技,中国对社交媒体扭曲的影响力不仅将出现数量上的增长,其投入也将变得更低,而且更有可能产出更好、更能令人相信的内容”, 文章写道。
莫小龙表示,尽管中国科技企业目前所拥有的人工智能技术还落后于美国的Open AI 等公司,但中国追赶上美国的步伐只是时间问题。
(文章参考了美国之音的报导)