湮灭之城

永远不老的乐观主义者：Kevin Kelly（1952—）

十多年前，自由摄影记者出身的美国畅销书作家凯文·凯利（KK）推出了他的新书《失控》，一时间在科创圈风靡一时。像“蜂群思维”、“去中心化”、“新生物文明”等概念不胫而走，人们趋之若鹜。

如今世界走到了今天，KK当年的乐观预言又当如何？

恐怕除了书名之外，难见其它。

比如KK说：生物系统内有一只奇妙的、“看不见的手”，会通过海量连接涌现出更文明的秩序来。可如今我们所看到的，却是秩序的反面——混乱，尤其是“后新冠”时代的生物系统。

又比如KK说：当我们的技术能够适应、学习和进化之后，我们就拥有了一个崭新的生物文明。可是在当今以AI技术为代表的人机交互作用越来越深入地影响到人类本身时，有谁能确保人类的演进就一定是“进化”？当AI深度学习所依仗的历史与现实素材充满了谎言、谬误与似是而非时，文明分明会成为一种彻头彻尾的退化？

虽然KK认为：“进化”的代价可能就是失控！但他却依然乐观地将失控比作“放牧”：虽不是完全说了算，但也不是全然失控。在他眼里，那只是创造者“不得不”与他的创造物一起共享控制权而已。

不得不？这话听起来就让人不舒服。

当人们自愿将权利“让渡”给AI机器时，当被造物试图从“创造者”手中获取控制权时，也就意味着人类从此进入了与魔鬼共舞的节奏。

人们自以为有办法掌控一切，但结果却可能像是在森林里玩火的无知的孩子，一不留神就点燃了整个森林！

去年年底前一个隆冬的早晨，正在国外读书的乌克兰美女奥尔加（Olga Loiek）一觉醒来便看到了一条神秘的Instagram消息，消息是用英文写成的询问：你会说普通话吗？

几周前，她也收到过类似的消息，这些消息有些是来自她在YouTube 频道上的粉丝（当时她拥有大约15000名订阅者），消息中有不少都是为她流利的中文水平点赞的。

这让奥尔加十分诧异，她在慕尼黑的公寓里向媒体记者表示：她压根儿就不会说中文！而且也仅仅是去年11月底才刚刚开通频道，迄今发布的视频不超过10个。

今年21岁的奥尔加在美国宾夕法尼亚大学读认知神经科学，目前在德国实习。起初她并未在意，以为是恶作剧。但到了2024年1月底，她收到了这样一条消息，这次不是称赞，而是警告：有人可能正在冒充你！

这条消息的后面附有小红书上的一段视频链接。视频中的女子面露笑容，热情洋溢地用娴熟的中文盛赞中俄关系，时而抱怨对莫斯科的制裁，时而在商店页面上销售俄罗斯产品，而视频中那女子的形象，分明就是奥尔加！

这对于身为乌克兰人、至今家人仍生活在乌克兰的奥尔加来说实在是太过离谱。奥尔加愤怒了：“我觉得受到了侵犯，因为这些话我这辈子都不会说！”

奥尔加随即向小红书举报了冒用账号，后者对账号进行了删除。但不久她更加惊讶地发现，小红书上竟出现了大约 35个使用她面孔并声称自己是俄罗斯人的账号！而且到目前为止已有超过 4900 个视频是使用她的脸制作的！

事实上，作为一种AI技术，深度伪造（Deepfake，简称“深伪”）在2016年便已出现。其特点就是利用基于图形学的3D模型重建追踪技术以及最新的AI深度学习技术，将已有的图像、视频以及声音等资源，叠加至目标图像、视频与音频之上，达到伪造的效果，并将其作为最终结果加以呈现。

利用这些技术，语音可以伪造，人脸可以伪造（换脸），甚至动态表情等也都可以伪造！

最初，“深伪”技术的逼真度有限，并且主要用在电影拍摄中为了避免重拍而进行的角色替换，像换脸等。但近年来，随着OpenAI的突破性进展，该技术正在被越来越多的人一而再、再而三地滥用，那些充斥在网络上的大量虚假信息蒙骗了许许多多心地善良的人。

特别是，当造假者有幸能够获得“一党”“一国”当权者欣然默许甚至主动引领教唆的“加持”之下，他们挟最新的AI技术成果之风将会如虎添翼，会让更大、更普遍的欺骗登峰造极！

按说，在一个开放式的网络与社交媒体环境中，当某人的“深伪”出现时，人们很容易通过原始人的比对和交叉验证信息来揭穿造假，令谎言难以大行当道。然而，对于“厉害国”中所拥有的十多亿互联网用户而言，国际上流行的YouTube、Instagram等平台与大陆内使用的微信、小红书与抖音等很难有交集，这种社交媒体生态的相互隔绝，让人们几乎无法进行相互比较和交叉验证。这在客观上为谎言的制造者实施欺骗创造了极佳的条件。

在像微信通道、小红书等国内著名社交媒体上，你会不时地发现：某享誉全球的国际顶级交响乐团在著名指挥的挥棒下，正在像模像样地演奏着一首歌颂党、歌唱社会主义的红色乐曲；某位完全不懂英文、但长期占据主流媒体头版的最高领导人，可以站在国际讲坛上用纯正流利的英语侃侃而谈；还有的，就像奥尔加那样，用娴熟的中文吹捧俄罗斯人庆祝农历新年；还有号称已经移居中国8年之久的俄罗斯女性April Annie，大谈中国的美好与强大；更有不知是来自何方的“神圣”的名叫Sophia Elena、Katyusha等外国美女，热情洋溢地赞扬中俄伙伴关系，谈论俄罗斯女性想要嫁给中国男人的梦想……她们语调平缓，讲话中听不到的轻微的呼吸声，没有背景噪音，一切的一切都“完美的”让人难以置信。

而这所有的东西，都是假的！都是人为炮制出来的！

对于那些由AI生成的虚假视频，让作为乌克兰人的奥尔加倍感愤怒

其实，这些在“厉害国”根本不算什么？比这更无耻的造假与欺骗比比皆是。更颠覆你认知的是：除了拥有庞大的地下经济专门从事伪造、盗用个人数据和制作“深伪”品之外，政府官方如今已经撕下了所有伪装，他们可以公开地、理直气壮地说假话，耍流氓。造假内容之震撼、行为之拙劣、手段之低下，可谓是“前无古人、后无来者”。他们早已不管广大的受众者是否相信，反正我就是这么说，你能把我怎么样？

这同时还包括在国际舞台上的无耻表演，有人调侃：你撒谎的时候，我都替你紧张，我怕你骗不了人，也怕陪演的人难以继续。

年纪大了，就喜欢看人演戏。精彩的地方，还可以给你鼓鼓掌，拆穿你？多没意思呀！

可调侃归调侃，当全社会普遍的造假成为常态时，当整个国家、政府的信用荡然无存时，失控终将发生。因为面对洪水般的“骗子”，恐怕就连造假的“始作俑者”也会失去对局面的控制。

这其中，AI有意无意间，毫无疑问将成为造假者的强大利器。

近一年来，人们越来越感受到，与AI的爆发式发展相比，无论是企业，还是国家以及世界，对这项技术的监管手段贫乏，进展缓慢。面对未来AI对人类构成的危险和威胁，以及如何缓解这些威胁并控制其泛滥，人们显然尚未获得足够的了解、达成应有的共识。

尤其是对于那些毫无底线的坏人，他们总会存有恶意模仿他人的动机，也因此，失控难以避免！

伊利亚在X平台上的头像已经改成了这个样子，分明像是现代罗宾汉

2024年6月19日，OpenAI的原首席科学家伊利亚在X平台上终于宣告：

我们的新公司——安全超级智能（SSI）公司正式登场，这是世界上第一个SSI实验室。它只有一个目标、一个产品，那就是：安全超级智能。

构建安全超级智能，是我们这个时代最重要的技术问题。我们将组建一支短小精悍的技术团队，用颠覆性的突破来实现这一目标。

请加入我们！

这标志着围绕AI技术与产品的前景，两大阵营的对峙将日趋清晰。一批有理想、有情怀、有底线、有责任感的企业家与科学家正在站出来行动。

我们相信，会有越来越多的志同道合者加入其中。

但是，仅有这些是不够的。

对于那些造假的源头该如何加以拟制和打击呢？

如果说人类将“不得不”站出来付诸行动，以挽救这个快速坠落的世界，那么政府呢？社会呢？每一个个体呢？该怎样去面对一个正在“失控”的现在和未来？

这值得深思。