Olga Loiek是一名乌克兰网红,金发碧眼,面容精致,她的视频,多以芭比娃娃气质的造型做封面,内容形式相对单调——对着镜头,分享自己的生命感悟。
作为一个名不见经传的油管小网红,Olga的粉丝量少得可怜,仅一万多。不过,她在中文互联网有一个分身,在中国生活了8年,说着一口流利的中文,粉丝比本体多,有20多万。
在这里,她不叫Olga Loiek,而是叫“娜塔莎”,是俄罗斯人,热爱中国美食和文化,想嫁个中国男人,顺带卖点俄罗斯产品。
今年1月底,Olga Loiek才了解到平行宇宙中的娜塔莎,她对另一个“自己”很吃惊,很难描述正在发生的事情。
“有人克隆了我”,她愤怒地表示。
事实上,中文互联网上,还有一大群“俄罗斯美女”,用着Olga Loiek的脸和声音,她们都自称在中国生活多年,希望嫁给中国男人,接着便会向网友介绍各种俄罗斯特色产品。
Olga Loiek不是唯一的受害者,来自瑞典的网红拉纳布莱克利,也在中国拥有分身。事实上,只要一点素材,通过唾手可得的 AI合成软件,各式各样充满异国风情的美女,便会批量产生。
正所谓,开局一张脸,人设全靠编。这股AI热潮里,钱赚得最起劲的,只有诈骗的和卖课的。随着AI技术下沉与AI生成信息的泛滥,它似乎越来越多地影响到了人们的日常冲浪。除了无关痛痒的AI垃圾信息,你可能也会越来越频繁地刷到一些声称要嫁给中国人的“异国美女”,其背后可能只是一堆虚假的数据,而她们所瞄准的,往往是你的钱包。
01
俄罗斯美女来袭
不知道从什么时候开始,国内各大平台上冒出了一群特别爱中国的“洋网红”。他们说着不太流利的中文,表达着对中国的喜爱,赞扬中国美食、产业和文化。
这也让一些别有用心的人,窥见了这套财富密码。
名为“娜塔莎进口食品”的账号,塑造了一个不存在的俄罗斯女子“娜塔莎”,在中国生活了8年,热爱中国文化,扬言要嫁中国男人,其粉丝量有21万。相比之下,“娜塔莎”的本体,也就是文章开头那位Olga Loiek,本人的粉丝量仅1万多。
@娜塔莎进口食品的账号吸引众多粉丝,目前已搜不到该用户
AI博主的门槛其实并不高,只要找到一点点素材,比如Olga Loiek的视频和照片,再借助网上唾手可得的软件,人人都可上手的教程,进行简单的训练,即可快速生成。
尽管发出来的视频看起来比较模糊,人物滤镜很重,但很多对AI技术不了解的网友依然会信以为真。在评论区,粉丝们积极回应,对娜塔莎发出了赞美,在评论区留下“你很漂亮”“我很想见到你”“请回复我消息”等留言。
这样的娜塔莎,还不止一个。有的叫格蕾丝,有的叫安娜,无一例外,她们的橱窗,都卖着各种俄罗斯商品。
在Olga曝光后,这些账号消失了不少,但“俄罗斯AI美女”这门生意,依然火爆。南风窗记者在某些电商平台上检索发现,不少商家和个人,都打着“AI俄罗斯美女”的旗号,以低至5、6元的价格,推出数字人定制业务,包含形象生成、声音克隆和训练等。
事实上,俄罗斯AI美女,早在两年前就爆火过。
其中名气最大,莫过于“俄罗斯娜娜”,娜娜一头金发,一副高鼻梁深眼窝的面孔,操着一口蹩脚的“俄式中文”,每个视频都在夸赞中国,一度在某短视频平台上拥有近200万粉丝,而橱窗里的牛筋肠、巧克力、威化饼等,销量非常可观。
@俄罗斯娜娜
当年的AI技术还没那么进步,娜娜的五官轮廓,有着明显的接合痕迹,因此遭到了人们的质疑,最终这个假冒伪劣的“洋网红”被揭穿,很快遭到了平台的封禁。
不到一年,娜娜摇身一变,成为湖北歌手那艺娜,以一首神曲《爱如火》走红网络。当然这都是后话。
02
围猎中老年人
不仅俄罗斯美女是门流量好生意,俄罗斯大兵也不例外。去年6月,一位河南男子靠AI把自己包装成了俄罗斯大兵“保尔·柯察铁”。他起的这个名字就很魔幻,与《钢铁是怎样炼成的》主角保尔·柯察金的名字仅一字之差,人家是“金”,他就是“铁”。
借助粗劣的AI特效,他顶着一个锃光瓦亮的脑袋,加上浓密的络腮胡,看上去还挺像那么回事。而他走红的整个过程就更离谱了,“柯察铁”假装在前线战斗,用带着一股子河南口音的“俄罗斯普通话”,不断在短视频平台向网友汇报战况。
虽然他的言论极其荒谬甚至前后矛盾,但依然成功吸引了几十万粉丝的关注。粉丝们对他深信不疑,在评论区慷慨激昂,并真金白银地支持他,光是橱窗里的奶粉就卖出了38万元。
随着柯察铁粉丝越来越多,质疑的声音终于越来越大,比如他的IP一直显示在河南,某个视频中所谓的战场,被人发现其实是河南洛阳的发电厂冷却塔。最终,他的账号被封禁。
还有一类AI账号同样风靡,难辨真假的“数字洋人”,在镜头前分享一些心灵鸡汤和老年生活方式。等到粉丝数量足够多以后,它们就会开始带货,比如贩卖健康焦虑的AI洋人,就会开始销售一些保健品。
被网友质疑为AI的博主,目前已被平台封禁账号
如今,一大批类似的AI账号掩盖在汹涌流量之下。这不禁让人想到此前网络上频繁出现的“假靳东”,当时骗到了不少中老年女性,既欺骗爱情,又欺骗财富。
现在的AI博主,收割对象依然是中老年人,盗脸Olga的不少AI账号,甚至不屑于隐藏AI平台HeyGen的logo,因为这些俄罗斯美女的幕后之人知道,目标群体对这些新技术没有足够的判断力,甚至,年轻人一眼就分辨出的特效,在他们眼里与真人无异。
03
年轻人不能幸免
看到这里,许多年轻人自认为不会被骗。
但现实很残酷,面向年轻人的AI颜值博主、种草博主,也已经开始批量出现了,这也是一门极其可观的生意。
自媒体发展的现实就是“僧多粥少”。许多人还在苦苦思索自己的个人优势,网红孵化机构还在编造剧本,AI人已经按着大众喜欢的样子去盗图换“脸”以及“创造人设”了。
AI女博主人设可以是宝妈,是名媛,也可以是女学生,男博主则是精英、运动员、男学生。他们伪装成正常账号,每日模仿真人更新,让人很难一眼看出真假。
比如博主泽茜,分享个人自拍为主,用一张照片配上音乐,如此单调的视频风格,却因高颜值收获了40多万粉丝,最受欢迎的一条视频斩获180万多赞。
一条高赞评论是:好不容易心动了,你却告诉我他是AI。
目前,该帐号并未将自己标注为AI,但平台给出了提示,疑似AI合成,注意甄别。
短视频平台上的AI男博主@泽茜.
一些平台上已经出现了专门辨别AI账号的科普内容,但即便是官方提示了“该内容可能由AI生成”,底下评论还是会有许多人询问相关的商品,比如穿搭、首饰。
这类账号最终的指向依然是种草带货,不仅卖衣服,还能卖化妆品、保健品。不用真人出镜,投入成本低,再多复制一些类似的账号,可以说是赚得盆满钵满。
还有一些在技术上制作更加粗糙的AI种草博主也在闷声赚大钱。比如新榜披露的AI博主“春香”的粉丝数不到10万,但已经累计售卖超11万件商品。百万粉 “小姨妹”在今年二月近30天预估带货5万-7.5万元左右。
“小姨妹”视频截图
“在AI换脸之前,其实也有人用P图软件和剪辑软件来换脸,盗脸是个老问题,只是当前AI技术让盗脸门槛更低,效果更好。”浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林对南风窗记者表示,这是技术进步后必须面对的问题。
其影响当然很大,比如侵犯肖像权,误导人脸识别侵害个人财产,或是诋毁造谣。盘和林认为,我们不能完全解决换脸造假的问题,但可以从技术层面加以改善。
比如可以要求相关软件在生成AI的时候进行标识,结合实名制,知道这个视频是谁生成、发布的,并给观众以警示。
今年2月,小红书发布了针对AI创作内容的平台主张,禁止任何以他人照片或视频进行换脸的行为。如果是AI技术创作的内容,应当主动声明,并且禁止虚构使用体验或效果进行商业变现的行为。
小红书发布的针对AI创作内容的平台主张
简单来说,不能侵犯他人肖像权,也不能让用户混淆虚拟与现实,更不能靠“编造谎言”来变现。
抖音也曾表示AI主播在形象和内容上均不能侵犯他人知识产权及其他合法权益,虚拟人主播需要进行实名注册,同时需要标明“虚拟人直播”,以真实身份接受受众的审视。
一个好的人设,无疑具有更大的商业价值,而AI技术,显然降低了这一环节造假的门槛。
04
急功近利的味道
盗脸,既然是门生意,必然有上游。
马云也说过,AI电商时代刚刚开始,对谁都是机会,也是挑战。在这样的氛围下,人人都想蹭上这趟车,哪怕是用一些不体面的方式。
“虚拟偶像”早已经不是稀奇事,技术成本一度高昂,商业化的压力也很大。但现在AI技术已经逐步走进大家的日常生活,“造网红”的“流水线工厂”也在知识付费领域层出不穷。
虚拟偶像A-SOUL
生意可谓一门接着一门。“普通人能靠AI月入过万吗?”“百万博主都在偷偷用AI”,卖课的“AI导师”也批量出现。
他们将自己包装成技术大牛,先是肯定这项技术划时代的意义,跟不上的人类,必然被淘汰,借助这种逻辑,为普通人制造焦虑,然后再指出一条路——来买我的课吧。
当记者咨询一位卖AI课程的“导师”,AI号究竟如何变现时,对方直接发过来一句“50元”,就是如此直接。
当然了,很多“AI导师”的课程质量并不高。前段时间,自称清华博士的网红“李一舟”被推至风口浪尖,他通过售卖AI课收入高达5000万的信息刷屏,被不少人质疑类似的课程其实是在“割韭菜”。
多位买过他课程的网友都表示课程内容其实很“水”,网上都能找到很多免费的教程。并且买了他的课以后,很多环节还有诱导继续付费的暗示,套路很多。“凭本事赚钱”的李一舟,AI课程已经全网下架了。
李一舟的部分课程简介
这些AI培训和课程,就是利用了人们对未来未知的恐慌,以及不切实际和急功近利的心态。
现如今,研究和拆解AI俄罗斯美女带货的人也很多。还有公司会专门盗用真人搜集素材做出模型,定制口播视频,让普通人“造假”一键生成。然后,他们会告诉你,如何在文案上为消费者提供“情绪价值”,以及如何选品。
可怕的是,如果每个人都能用上这些AI模版和技术,生产出相似的“网红”和内容,那又是多么枯燥无味的一个世界。真正的问题不是出在AI上,而是以技术之名行无耻商业行为的人身上。
正如盘和林所说,解决AI“造假”问题的根本,在于管住人,而不是限制技术发展。
在AI共创的时代,工具能帮人降低效率,但好的内容依然应当是有价值的,让人有探索欲的,无论它是不是AI。
想当初,网红之所以能够吸引大家的注意,恰恰是因为野蛮生长的他们足够真实、足够生动。
当年因自然和真实“出圈”的丁真
网红产业一跃成为了互联网显学,随着更多新技术的加持,让那些想入局的人不必贩卖自己的形象和生活,就可以随意创造,或者说从头到尾地“瞎编”。最终,只是为了赚到别人口袋里的钱。
可悲的是,在网络上冲浪的我们,不只是消费者。
一些真人搞笑视频博主下面经常有网友留言,“这么多年不带货,不打广告,纯折磨”。看似责备实则宠溺的语气,也道出了部分人的心声——人与人之间,即便是在网络世界里,也需要一些超越消费关系的联结。