对谎言制造者,AI令他们如虎添翼 |
送交者: 2024年06月29日01:39:17 于 [世界时事论坛] 发送悄悄话 |
|
湮灭之城 永远不老的乐观主义者:Kevin Kelly(1952—)
十多年前,自由摄影记者出身的美国畅销书作家凯文·凯利(KK)推出了他的新书《失控》,一时间在科创圈风靡一时。像“蜂群思维”、“去中心化”、“新生物文明”等概念不胫而走,人们趋之若鹜。 如今世界走到了今天,KK当年的乐观预言又当如何? 恐怕除了书名之外,难见其它。 比如KK说:生物系统内有一只奇妙的、“看不见的手”,会通过海量连接涌现出更文明的秩序来。可如今我们所看到的,却是秩序的反面——混乱,尤其是“后新冠”时代的生物系统。 又比如KK说:当我们的技术能够适应、学习和进化之后,我们就拥有了一个崭新的生物文明。可是在当今以AI技术为代表的人机交互作用越来越深入地影响到人类本身时,有谁能确保人类的演进就一定是“进化”?当AI深度学习所依仗的历史与现实素材充满了谎言、谬误与似是而非时,文明分明会成为一种彻头彻尾的退化? 虽然KK认为:“进化”的代价可能就是失控!但他却依然乐观地将失控比作“放牧”:虽不是完全说了算,但也不是全然失控。在他眼里,那只是创造者“不得不”与他的创造物一起共享控制权而已。 不得不?这话听起来就让人不舒服。 当人们自愿将权利“让渡”给AI机器时,当被造物试图从“创造者”手中获取控制权时,也就意味着人类从此进入了与魔鬼共舞的节奏。 人们自以为有办法掌控一切,但结果却可能像是在森林里玩火的无知的孩子,一不留神就点燃了整个森林! 去年年底前一个隆冬的早晨,正在国外读书的乌克兰美女奥尔加(Olga Loiek)一觉醒来便看到了一条神秘的Instagram消息,消息是用英文写成的询问:你会说普通话吗? 几周前,她也收到过类似的消息,这些消息有些是来自她在YouTube 频道上的粉丝(当时她拥有大约15000名订阅者),消息中有不少都是为她流利的中文水平点赞的。 这让奥尔加十分诧异,她在慕尼黑的公寓里向媒体记者表示:她压根儿就不会说中文!而且也仅仅是去年11月底才刚刚开通频道,迄今发布的视频不超过10个。 今年21岁的奥尔加在美国宾夕法尼亚大学读认知神经科学,目前在德国实习。起初她并未在意,以为是恶作剧。但到了2024年1月底,她收到了这样一条消息,这次不是称赞,而是警告:有人可能正在冒充你! 这条消息的后面附有小红书上的一段视频链接。视频中的女子面露笑容,热情洋溢地用娴熟的中文盛赞中俄关系,时而抱怨对莫斯科的制裁,时而在商店页面上销售俄罗斯产品,而视频中那女子的形象,分明就是奥尔加! 这对于身为乌克兰人、至今家人仍生活在乌克兰的奥尔加来说实在是太过离谱。奥尔加愤怒了:“我觉得受到了侵犯,因为这些话我这辈子都不会说!” 奥尔加随即向小红书举报了冒用账号,后者对账号进行了删除。但不久她更加惊讶地发现,小红书上竟出现了大约 35个使用她面孔并声称自己是俄罗斯人的账号!而且到目前为止已有超过 4900 个视频是使用她的脸制作的! 事实上,作为一种AI技术,深度伪造(Deepfake,简称“深伪”)在2016年便已出现。其特点就是利用基于图形学的3D模型重建追踪技术以及最新的AI深度学习技术,将已有的图像、视频以及声音等资源,叠加至目标图像、视频与音频之上,达到伪造的效果,并将其作为最终结果加以呈现。 利用这些技术,语音可以伪造,人脸可以伪造(换脸),甚至动态表情等也都可以伪造! 最初,“深伪”技术的逼真度有限,并且主要用在电影拍摄中为了避免重拍而进行的角色替换,像换脸等。但近年来,随着OpenAI的突破性进展,该技术正在被越来越多的人一而再、再而三地滥用,那些充斥在网络上的大量虚假信息蒙骗了许许多多心地善良的人。 特别是,当造假者有幸能够获得“一党”“一国”当权者欣然默许甚至主动引领教唆的“加持”之下,他们挟最新的AI技术成果之风将会如虎添翼,会让更大、更普遍的欺骗登峰造极! 按说,在一个开放式的网络与社交媒体环境中,当某人的“深伪”出现时,人们很容易通过原始人的比对和交叉验证信息来揭穿造假,令谎言难以大行当道。然而,对于“厉害国”中所拥有的十多亿互联网用户而言,国际上流行的YouTube、Instagram等平台与大陆内使用的微信、小红书与抖音等很难有交集,这种社交媒体生态的相互隔绝,让人们几乎无法进行相互比较和交叉验证。这在客观上为谎言的制造者实施欺骗创造了极佳的条件。 在像微信通道、小红书等国内著名社交媒体上,你会不时地发现:某享誉全球的国际顶级交响乐团在著名指挥的挥棒下,正在像模像样地演奏着一首歌颂党、歌唱社会主义的红色乐曲;某位完全不懂英文、但长期占据主流媒体头版的最高领导人,可以站在国际讲坛上用纯正流利的英语侃侃而谈;还有的,就像奥尔加那样,用娴熟的中文吹捧俄罗斯人庆祝农历新年;还有号称已经移居中国8年之久的俄罗斯女性April Annie,大谈中国的美好与强大;更有不知是来自何方的“神圣”的名叫Sophia Elena、Katyusha等外国美女,热情洋溢地赞扬中俄伙伴关系,谈论俄罗斯女性想要嫁给中国男人的梦想……她们语调平缓,讲话中听不到的轻微的呼吸声,没有背景噪音,一切的一切都“完美的”让人难以置信。 而这所有的东西,都是假的!都是人为炮制出来的! 对于那些由AI生成的虚假视频,让作为乌克兰人的奥尔加倍感愤怒 其实,这些在“厉害国”根本不算什么?比这更无耻的造假与欺骗比比皆是。更颠覆你认知的是:除了拥有庞大的地下经济专门从事伪造、盗用个人数据和制作“深伪”品之外,政府官方如今已经撕下了所有伪装,他们可以公开地、理直气壮地说假话,耍流氓。造假内容之震撼、行为之拙劣、手段之低下,可谓是“前无古人、后无来者”。他们早已不管广大的受众者是否相信,反正我就是这么说,你能把我怎么样? 这同时还包括在国际舞台上的无耻表演,有人调侃:你撒谎的时候,我都替你紧张,我怕你骗不了人,也怕陪演的人难以继续。 年纪大了,就喜欢看人演戏。精彩的地方,还可以给你鼓鼓掌,拆穿你?多没意思呀! 可调侃归调侃,当全社会普遍的造假成为常态时,当整个国家、政府的信用荡然无存时,失控终将发生。因为面对洪水般的“骗子”,恐怕就连造假的“始作俑者”也会失去对局面的控制。 这其中,AI有意无意间,毫无疑问将成为造假者的强大利器。 近一年来,人们越来越感受到,与AI的爆发式发展相比,无论是企业,还是国家以及世界,对这项技术的监管手段贫乏,进展缓慢。面对未来AI对人类构成的危险和威胁,以及如何缓解这些威胁并控制其泛滥,人们显然尚未获得足够的了解、达成应有的共识。 尤其是对于那些毫无底线的坏人,他们总会存有恶意模仿他人的动机,也因此,失控难以避免! 伊利亚在X平台上的头像已经改成了这个样子,分明像是现代罗宾汉
2024年6月19日,OpenAI的原首席科学家伊利亚在X平台上终于宣告: 我们的新公司——安全超级智能(SSI)公司正式登场,这是世界上第一个SSI实验室。它只有一个目标、一个产品,那就是:安全超级智能。 构建安全超级智能,是我们这个时代最重要的技术问题。我们将组建一支短小精悍的技术团队,用颠覆性的突破来实现这一目标。 请加入我们! 这标志着围绕AI技术与产品的前景,两大阵营的对峙将日趋清晰。一批有理想、有情怀、有底线、有责任感的企业家与科学家正在站出来行动。 我们相信,会有越来越多的志同道合者加入其中。 但是,仅有这些是不够的。 对于那些造假的源头该如何加以拟制和打击呢? 如果说人类将“不得不”站出来付诸行动,以挽救这个快速坠落的世界,那么政府呢?社会呢?每一个个体呢?该怎样去面对一个正在“失控”的现在和未来? 这值得深思。 |
|
|
|
![]() |
![]() |
实用资讯 | |
|
|
一周点击热帖 | 更多>> |
|
|
一周回复热帖 |
|
历史上的今天:回复热帖 |
2023: | 辣眼睛啊!温州一对中学生情侣,在小区 | |
2023: | 普京岌岌可危 中国很担心 | |
2022: | “燃放烟花爆竹除疫” 的理论机制 | |
2022: | 可能引爆三战:最具爆炸性的危机在立陶 | |
2021: | 奇人奇事之报复邢其毅之子 | |
2021: | 听道、悟道,最终是为了行道 | |
2020: | 仅用初中知识就以确定三峡不会溃坝吗? | |
2020: | 特盗集团反动民族主义压迫的悲剧 | |
2019: | 中国社会各阶级的分析 | |
2019: | 中国社会各阶级的分析 | |
|