Facebook移除利用AI创建虚假头像的虚假账号

据外媒报道,Facebook于当地时间周五表示,它移除了数百个误导用户的虚假账号、页面和群组,其中包括一些使用人工智能(AI)生成虚假个人资料图片的账号。研究这些账号的研究人员表示,这是他们首次看到AI生成的图像被如此大规模使用,这引发了人们对社交网络将如何在2020年美国总统大选之前解决这一问题的担忧。

另外,Facebook还注销了旗下照片分享服务Instagram上的一些虚假账号。据悉,这家公司查封了来自美国和越南的610个Facebook账号、89个页面、156个群组以及72个Instagram账号。大约有5500万个账号至少关注了其中一个页面,其中大多数关注者来自美国以外。 该公司表示,他们删除了这些账号,称其参与了外国和政府干预活动或不真实行为,这意味着,无论是谁在运营这些账号,都在误导他人。 针对美国公民以及越南、西班牙和说中文的受众,许多虚假账号都是由一家名为the BL(全称The Beauty of Life)的美国媒体机构推广内容运营。事实核查组织Snopes指出,the BL跟一家美国媒体集团有关,后者拥有《The Epoch Times》并推送支持特朗普的内容。Facebook称,这些虚假账号通常会发布有关美国政治新闻以及弹劾、保守派意识形态、政治候选人、选举、贸易、家庭价值观和宗教自由等问题的网络迷因和其他内容。 社交媒体分析公司Graphika和大西洋理事会(Atlantic Council)的数字取证实验室(Digital Forensics Lab)经过对这些虚假账号网络的分析发现,很多英语内容都是在支持特朗普或攻击这位总统的竞争对手。 这些账号利用假头像并假装美国人加入“美国需要特朗普总统”和“特朗普是美国总统”等组织。通过使用AI,这些虚假账号的头像也都是伪造的。 研究人员注意到头像中一些细微的细节可以表明这些头像是假的。例如,在一些照片中可以发现照片里的人佩戴的眼镜和耳环是不对称的、某人脖子可能会有轻微的扭曲,或照片的背景看起来有点异常。 在另一些情况下,虚假账号使用的头像则都是在网上找到的股票图片或帅哥美女照片。 另一个虚假账号网络来源于格鲁吉亚。对此,Facebook删除了39个Facebook账号、344个页面、13个群组和22个Instagram账号,这些账号的粉丝和会员总数超45万人。该网络假装成媒体、政党和活动人士,发布有关新闻、政治问题和政治批评的帖子。

打开APP阅读更多精彩内容