[欢迎点击此处、或发送邮件至cn.letters@nytimes.com订阅《纽约时报》中文简报。]
Facebook周五表示,该平台移除了与大纪元媒体集团(Epoch Media Group)有关的数百个帐号。该集团是与法轮功有关的保守派媒体《大纪元时报》(The Epoch Times)的母公司。
这些帐号(包括专页、群组和Instagram流)借助人工智能生成伪造的个人资料照片,给研究人员带来了新的挑战。计算机科学家一直以来担心,人工智能可能被用于发起大规模的虚假信息活动。现在他们表示,这一技术已在Facebook平台被加以利用,这种现象令人担忧。
610个Facebook帐号、89个Facebook专页、156个群组和72个Instagram帐号发布了有关美国的内容,包括特朗普总统弹劾案、保守派意识形态、政治候选人、贸易和宗教等政治新闻和议题。

订阅“简报”和“每日精选”新闻电邮

“这是一个庞大的、肆无忌惮的虚假网络,拥有不同层级的虚假帐号和自动操作,系统地发布了具有两个意识形态重点的内容:支持唐纳德·特朗普、反对中国政府,”大西洋理事会旗下的数字取证研究实验室(Atlantic Council’s Digital Forensic Research Lab)主任格雷厄姆·布鲁克(Graham Brookie)表示。
该实验室和另一家研究虚假信息的公司格拉菲卡(Graphika)发布了一份联合报告,分析了Facebook移除这些帐号的情况。
大纪元媒体集团在发给《纽约时报》的电子邮件中否认它与Facebook所针对的网络有关,并表示Facebook在发布结论之前未与该公司联系。
Facebook称,该网络背后的人使用人工智能来生成个人资料图片。他们依靠一种被称为生成对抗网络(GAN)的人工智能。这些网络可以通过一种被称为机器学习的过程自学,以创建逼真的面部图像,即使它们不属于某个真实的人。
Facebook表示,这些帐号通过混合使用虚假和真实的美国帐号,来管理平台上的专页和群组,从而掩盖他们的活动。Facebook说,这些不真实的活动围绕着一家名为“美丽生活”(The Beauty of Life,简称The BL)的媒体展开。11月,事实检查机构Snopes曾表示,The BL“在Facebook上建立了一个虚假帝国”。
Facebook安全政策负责人纳撒尼尔·格莱谢尔(Nathaniel Gleicher)表示,Facebook从7月开始对The BL进行调查,并在今年秋天该网络变得更加积极地发布信息时加快了努力。他说,Facebook正在继续调查与The BL相关的“其他连接和网络”。
Facebook表示,该网络在Facebook和Instagram的广告支出不到950万美元。周五,Facebook表示,The BL将被该社交网络封禁。
《大纪元时报》和The BL否认彼此有所关联,但Facebook表示,已经发现该网络与大纪元媒体集团以及在越南代表其工作的个人之间,存在协作进行发布不真实内容的行为。
大纪元媒体集团在电子邮件中表示,The BL由该公司一名前雇员创立,并雇用了部分前大纪元雇员。该公司表示:“但是,我们某些前员工在The BL工作并不能证明这两个组织之间存在任何联系。”
一位Facebook女发言人表示,直到上周五早间,The BL的高管仍是大纪元媒体集团专页上的活跃管理员。
8月,在NBC报道称《大纪元时报》掩盖了它与宣传特朗普总统和阴谋论内容的Facebook广告之间的联系后,Facebook封禁了《大纪元时报》广告