虐童猖獗的互联网,“不作为”的科技公司

【猎云网(微信号:)】11月13日报道 (编译:原子核) 一对姐妹一直生活在恐惧之中,害怕被别人认出。其中一个长着刘海,穿着连帽卫衣。另一个把她的头发染成黑色。两人都尽力避免让自己现在的样子和儿时的样子一样。 十年前,她们的父亲做了一件难以想象的事:他在互联网上发布了她们暴露的照片和视频,当时她们只有7岁和11岁。很多照片和视频都捕捉到了这些暴力画面,包括他和另一名男子对这名7岁对孩子下药并强奸。 他们现在在监狱里关押着,但数字时代的残酷后果是,他们的罪行正在寻找新的观众。这对姐妹是第一代儿童性虐待的受害者,她们的痛苦似乎永远保存在互联网上。 仅在今年,在130多起涉及手机、电脑和云存储账户的儿童性侵犯调查中,都发现了这对姐妹的照片和视频。 她们说,被性虐待的数字化痕迹——通常存储在Google Drive、Dropbox和Microsoft OneDrive——无情地纠缠着姐妹俩,还有,她们仍然对在图片中被“捕食者”们认出来而感到恐惧。 “这一直在我的脑海里——知道那些照片在那里,”大姐E.(为了保护她的隐私,她只透露了名字的第一个字母)说。“因为互联网的运作方式,这种情况不会消失。” 像他们这样的可怕经历正在互联网上重新传播,因为搜索引擎、社交网络和云存储充满了犯罪分子们可以利用的机会。 这个问题的范围才刚刚开始被人们理解,因为科技行业近年来在识别网上儿童性虐待材料方面更加努力,去年标记出创纪录的4500万张照片和视频。 但《纽约时报》的一项调查发现,这一行业一直未能采取积极措施将其关闭。科技公司的方法不一致,主要都是单方面的举措,而且是秘密实施的,往往让恋童癖者和其他贩卖材料的罪犯占据上风。 这些公司拥有一些技术工具,通过将新检测到的图像与材料的数据库进行匹配,来阻止这些虐待图像再次循环到网络中。然而,科技行业并没有充分利用好这些工具。 亚马逊,其云存储服务每秒处理数百万的上传和下载,甚至没有搜索这些图像。根据联邦当局的说法,苹果不扫描其云存储,并对其即时通讯应用程序进行加密,使得检测几乎不可能。Dropbox,谷歌和微软的消费产品会扫描非法图片,但只有当有人分享他们时会扫描,而他们上传时不会被扫描。 而Snapchat和雅虎等其他公司则在搜索这些照片,但没有搜索视频,尽管非法视频多年来一直呈爆炸式增长。(当被问及Dropbox的视频扫描问题时,Dropbox的一位女发言人在7月份表示,这不是“首要任务”。周四,该公司表示,它已于上月开始扫描一些视频。) 世界上最大的社交网络Facebook对其平台进行了彻底扫描,占去年科技公司标记的图片的90%以上,但Facebook并没有使用所有可用的数据库来检测这些材料。Facebook宣布,图像的主要来源Facebook Messenger最终将被加密,极大地限制了检测的进行。 曾在Facebook和雅虎担任信息安全主管的Alex Stamos说,“每家公司都在将自己的隐私与安全之间做平衡,他们不想在公开场合这么做。这些决定实际上对儿童的安全产生了巨大的影响。” 科技公司更有可能在其平台上审查照片、视频和其他文件,以进行面部识别、恶意软件检测和版权执法等行为。但一些企业表示,寻找虐待内容是不同的,因为它可能会引起重大的隐私问题。 科技公司不愿被人看到浏览一些人的照片和视频,而自动扫描中标记的图像几乎总是会在后面被人审查。 “一方面,保护个人信息至关重要,”司法部副司法部长Sujit Raman说。“另一方面,互联网上有太多的东西是非常有害的。” 检测非法图像的主要方法是由微软和Hany Farid于2009年发明的,Hany Farid现在是加州大学伯克利分校的教授。这款名为PhotoDNA的软件可以使用计算机识别照片,甚至是识别修改过的照片,并将它们与已知非法图像的数据库进行比较。如果没有PhotoDNA这样的系统,去年检测到的照片和视频几乎都不会被捕获。 但这种技术是有限的,因为不存在一个已知非法材料的单独统一权威列表,所以还是会允许无数图像通过缝隙溜走。最常用的数据库由联邦政府指定的信息交换所保存,该交换所汇编美国科技公司报告图像的数字指纹。世界各地的其他组织都保持着自己的数据库。 然而,即使有一个单独统一的列表,它也不能解决新创建的图像在互联网上泛滥的问题,也不能解决直播虐待行为的激增问题。 对于像E.和她妹妹这样的受害者来说,不断重复传播的照片和视频所带来的创伤可能是毁灭性的影响。她们的母亲说,两姐妹都因有自杀念头而住院。 “我为抚养孩子的努力以及每一个希望和梦想——全消失了,”她说。“当你处理这个问题时,你不会担心她们在高考中获得了什么。你只想确保她们能挺过高中,或者熬过这一天。“ 而且,因为众所周知,网络罪犯会寻找受虐待的儿童,甚至到成年,姐妹们也不会公开谈论针对她们的罪行。他们与《泰晤士报》的情感对话是他们第一次公开谈论虐待行为。 “你说话的权利被剥夺了,”E.说。“因为这些图像,我不能像我自己那样说话。就像无名氏一样。” “搜索”之祸 德克萨斯州的计算机技术人员Joshua Gonzalez今年被捕,他的电脑上有400多张儿童性虐待的图片,其中包括E.和她的妹妹。 法庭文件显示,Joshua Gonzalez告诉当局,他使用微软的搜索引擎Bing找到了一些非法照片和视频。 微软长期以来一直站在打击滥用图像的前沿,甚至在十年前创造了PhotoDNA检测工具。但许多罪犯已经将Bing作为自己可靠的犯罪工具。 外媒在1月份委托的一份报告发现,在Bing上使用“色情儿童”等搜索词搜索就会显示一些很清晰的图片。作为对这份报告的回应,微软表示将禁止使用该术语或类似搜索词。 《泰晤士报》创建了一个计算机程序,可以搜索Bing和其他搜索引擎。自动脚本反复发现微软自己的PhotoDNA服务标记为已知非法内容的图片——总共也就数十张。当一个已知的虐待儿童网站被输入搜索框时,Bing甚至推荐了其他搜索词。 《泰晤士报》没有浏览这些图片,但这些照片被报告给了国家失踪和受剥削儿童中心和加拿大儿童保护中心,这两个机构致力于打击网络儿童性虐待行为。 加拿大中心说,其中一张图片显示,一个赤裸的女孩仰卧着,“以一种极端的方式”张开双腿。这个女孩大约13岁,被该中心的分析人士认出。分析人员认出定期审查数千张明确的图像,以帮助识别和营救被剥削的儿童,并从互联网上删除视频。分析人员表示,当局已经将这名女孩从危险中救了出来。 《纽约时报》在DuckDuckGo和雅虎上进行的类似搜索(使用Bing搜索结果)也返回了已知的性虐待图片。在停止电脑程序之前,时报总共在三个搜索引擎上找到了75张性虐待材料的图片。 DuckDuckGo和雅虎都表示,他们依靠微软的工具过滤了非法内容。 在审查了《纽约时报》的调查结果后,微软表示,它发现了扫描过程中的一个缺陷,并正在重新检查其搜索结果。但随后的程序运行发现了更多的照片。 微软的一位发言人将这个问题描述为一个“移动的目标”。 “自从《纽约时报》提请我们注意这件事以来,我们发现并修复了我们的算法中的一些问题,以检测非法图像,”发言人说。 Hemanshu Nigam曾在2000年至2006年担任微软儿童安全主管,他称调查结果是“重大失误”,并补充说“看起来他们没有使用自己的工具。”Nigam说,这表明微软似乎不知道自己的平台可能被犯罪分子操纵。 根据法庭记录和对执法人员的采访,虐待儿童的人很清楚Bing的脆弱性。早在几年前,恋童癖者就利用Bing查找非法图片,还部署了该网站的“反向图像搜索”功能,这个功能根据一张样本照片检索图片。 《泰晤士报》在谷歌搜索引擎上运行的同一个电脑程序,并没有返回性虐待内容。但加拿大中心提供的另一份文件显示,谷歌上也发现了儿童性虐待的图片,该公司有时拒绝删除这些图片。 一张照片拍摄了两个孩子的腹部,据信这两个孩子不到12岁,被迫彼此进行如此暴露的行为。这是已知的一系列照片中的一部分,这些照片表示孩子们被性虐待。 文件显示,加拿大中心在去年8月要求谷歌删除这张图片,但谷歌表示,它们没有达到删除的门槛。分析师们坚持了9个月,直到谷歌让步删除了图片。 2018年9月发现的另一张图片展示了一名妇女触摸一名2岁裸体女孩的生殖器。谷歌拒绝删除这张照片,并在发给加拿大分析师的一封电子邮件中表示,虽然这相当于恋童癖,但“在美国并不违法。” 当《纽约时报》后来向谷歌询问这张图片和加拿大人确认的其他图片时,一位发言人承认,这些图片应该被删除,这些照片后来也被删除了。这位发言人还表示,该公司不认为任何形式的恋童癖都是合法的,而且提出不同意见是错误的。 图片被删除一周后,加拿大中心向谷歌报告了另外两张图片。其中一个是一个年轻女孩,大约7岁,脸上覆盖着精液。另一张是一个女孩,8岁到11岁,双腿张开,露出生殖器。谷歌告诉加拿大中心,两张图片都没有达到“报告门槛”,但后来同意删除它们。 “这让我们感到困惑,”该中心的执行主任Lianna McDonald说。 罪犯无处不在 问题并不仅限于搜索引擎。 根据对数百起刑事起诉的审查,恋童癖者经常利用多种技术和平台,在聊天应用上会面,在云存储上分享图片。 “人们需要了解的第一件事是,任何允许你分享照片和视频的系统都绝对充斥着儿童性虐待,” Stamos说。他曾在Facebook和雅虎担任安全主管,现在是斯坦福大学的教授。 犯罪的案例显示,犯罪分子经常在在线论坛和聊天组中讨论如何利用平台中的漏洞。他们小心翼翼地跟踪那些发现他们意象的人的起诉,并从中学习。甚至他们还有在线手册,详细说明了如何生成图像并且避免被发现。 一个从4岁开始被父亲强奸并进行了四年多的女孩的数字化踪迹,可悲地代表了这种模式。 性犯罪者经常在Bing和其他地方的网站上分享女孩虐待的照片和视频。当检测到这些图像时,FBI会通知女孩的家人或他们的律师。她的家人说,在过去的四年中,他们收到了全国350多个案件的通知。 在一个向当局报告的案件中,一名女孩的照片浮出水面,这起案件是一名女子在Facebook上与一名密歇根男子聊天时拍摄的。 这名男子建议这名女性和她的孩子以裸体主义者的身份生活,同时也向她提出乱伦是正常的。他提出他和他13岁的女儿一起搬来和这位女性一起住,他说,他在前一天晚上口交强奸了她。 这名男子名叫Snehal Yogeshkumar Shah,他也一直在Messenger上与其他施虐者交流,这些施虐者建议他下载Kik即时通讯应用,并创建一个Dropbox账户来存储他的非法材料。警方在他的Dropbox账户和他的iPhone上发现了400多张非法照片和视频,其中包括一些西海岸女孩。他们还在Kik上发现了他和两名青少年之间的聊天内容,其中包含清晰的图像。他现在在监狱里。 在对圣安东尼奥的陆军专家Anthony Quesinberry的调查中,也出现了女孩的照片。Anthony Quesinberry已关闭在社交网络应用Yak Yak上分享虐待的内容。他告诉调查人员,他多年来一直沉迷于这些图像,并通过搜索引擎、Tumblr、Dropbox、Kik和直播视频平台Omegle获得了这些图像。他被判入狱16年以上。 女孩的母亲说她可以在几年后看到创伤的影响。有时,她的女儿会莫名其妙地生气。更多时候,她可能看起来超然,好像没有什么事困扰她。她的母亲说,“在发育方面,她现在必须了解一些事情”,她同意接受律师的采访,并且只有在她的姓名和地点不公开的情况下才能接受采访。 当女孩年满18岁时,她将成为有关材料报告的合法接收者。到那时,她的母亲和继父希望,她将能够更好地处理这一新闻。他们还希望,到那时,科技公司将设法从互联网上删除这些图片。 这个女孩,现在是一个生活在西海岸十几岁的女孩,不知道她被虐待的视频在互联网上。她的母亲和继父希望能一直这样。 “我很想告诉她这些视频就在网上,”她的母亲说,“但他们不再存在于网上了。” 图片是永恒的 其他家长则接受了这些图片可能永远存在于网络的可能性。 在一个生活着好几个受害者的寄养家庭中,一个十几岁的女孩最近正服用着抗抑郁药物。她一直认为她的虐待是自己的过错,所以需要用药物来缓解这种感觉。另一个女孩在被虐待八年后找到了开始约会的勇气。但是,当她忧心忡忡的哥哥最近上网测试这些照片是否仍然在网上时,联邦调查局的特工访问了他们的家。无论意图如何,查看儿童性虐待材料都是违法的。 为了保护孩子们的隐私,这位不愿透露姓名的养母说:“我再也不会自欺欺人地认为自己做得很好了。我只是一天天活下去。” 她的两个养女被拍到被父亲侵犯,而其他人遭到虐待,但没有被拍下来或者录下来。她说,随着时间的推移,这种差异可能会非常深远。 她说:“她们都很生气,为什么那些照片是永远的?” 为了不让孩子们在社交媒体上发帖,冒着被人认出的风险,她告诉孩子们,她们的虐待形象是在网上直播的。“我不认为这些照片会被彻底消灭,”她说。 到目前为止,科技行业已经证明她是正确的。 PhotoDNA在微软已经开发10年了,然而业界在扫描和删除已知非法照片方面的努力仍然参差不齐,而且一直处于保密状态。 根据相关采访、公司内部电子邮件以及对数千份法庭记录的审查,业界对视频内容的反应更是令人失望。识别非法视频内容没有通用的标准,许多主要平台——包括美国在线、Snapchat和雅虎——甚至都不扫描。美国在线和雅虎没有就其视频政策发表评论的请求进行回应。Snap发言人表示,该公司正与行业合作伙伴合作,制定解决方案。 上个月出售之前,Kik的一位发言人表示,该公司也在努力解决这个问题;上周五,新东家表示,目前正在扫描视频。 “总的来说,科技公司正在尽可能少地维护公众对其组织的尊重,” Chad M.S. Stee说,他在乔治梅森大学教授计算机取证学,并协助联邦调查人员处理与性虐待有关的案件。“但基于现有的技术,他们并没有做尽可能多的工作。” 微软、Twitter、Tumblr和其他公司的前员工表示,科技公司多年来一直知道,儿童遭受性虐待的视频在他们的平台上共享。Twitter的一名前员工称,非法视频出现的速度比它们在Vine上被删除的速度还要快。Vine是一家视频服务公司,自Twitter关闭以来,这些视频的出现速度都快于Vine。 解决视频内容这一紧迫问题遇到了公司自己制造的障碍。例如,谷歌开发了视频检测技术,并将其提供给其他公司,Facebook也有一个系统。但这两种技术无法共享信息,因为每种技术产生的视频特征都不兼容。 科技联盟运营的一个项目的机密电子邮件和其他文件显示,2017年,科技行业批准了一项共享视频指纹的程序,以便所有公司更容易检测到非法材料。科技联盟是一个关注儿童安全问题的组织,其中包含了大多数大公司。 一份文件指出了该项目的理由:“视频已经变得像照片一样容易创建,然而你行业还没有采用标准的解决方案/流程。” 但这个计划毫无进展。 整个行业缺乏行动,这使得无数的视频仍然留在互联网上。在该中心的160万个视频特征中,只有不到3%的视频特征是用于视频的。 照片和视频的处理方式都给了犯罪分子很大的回旋余地。据执法官员、前员工以及这些公司的公开声明称,所有最大的云存储平台——包括亚马逊网络服务、Dropbox、谷歌驱动器和微软的OneDrive和Azure——都没有在上传文件时扫描关于性虐待的材料。 虽然在以后可能会扫描文件,但当用户共享它们时,例如,一些罪犯通过共享他们的帐户登录而不是文件本身时,就可以避免检测。 佛罗里达州男子Gregory Householder告诉调查人员,他使用在线平台已有八年了,并定期与其他犯罪者共享Dropbox账户的登录信息。Householder说,他知道自己在犯罪,但不相信自己会被抓住。 亚马逊的一位发言人表示,“客户数据的隐私对于赢得客户的信任至关重要”,并指出该公司有一项禁止非法内容的政策。亚马逊不会扫描任何性虐待的图片。微软Azure还表示,它没有扫描这些材料,理由是类似的原因。 包括Dropbox和谷歌在内的其他公司也提出了隐私问题。Dropbox的一位女发言人表示,扫描的行为引发了隐私权倡导者的担忧。 一些公司,如Dropbox和谷歌,在被问及他们的检测和删除做法时,提到了安全问题。苹果公司的一位发言人拒绝透露它是如何扫描其平台的,称这些信息可能会帮助犯罪分子。 几位数字法医专家和执法官员表示,这些公司在援引安全保护方面是不诚实的。曾在Facebook和雅虎担任安全主管的Stamos说,这两家公司只是“不想说他们已经向犯罪分子开放了业务”罢了。 “如果他们说,‘这是一个安全问题’,他们就是说他们不会这么做,” Stamos说。 不确定的未来 宾夕法尼亚州的一起令人发指的案件警告称,通过直播平台,新的、难以发现的性虐待内容正在海啸性地传播。 来自世界各地的十几个人登录了商业会议软件Zoom。他们一边聊天,一边观看与工作无关的直播视频:一名男子性侵一名6岁男孩。 根据法庭文件,观众要求该男子对男孩做出各种非人的要求。男孩最终没有逃过魔爪,收到了暴力侵害,而观众们欢呼着进而做出更加出格的动作。 这些男子还播放了预先录制的儿童——包括婴儿——被强奸、殴打和小便的片段。 在审判期间,一名调查人员说,犯罪者通常知道直播流更难检测,并且不会留下任何记录。 “这就是他们去Zoom的原因,”该案的联邦检察官Austin Berry在结案陈词中说。“这是儿童色情作品的Netflix。”在其他案件中,起诉涉及苹果的FaceTime、Facebook、Omegle、Skype、YouNow等网站的直播。 没有一家大型科技公司能够通过自动图像分析检测到直播,更不用说制止了,尽管Zoom的一名技术高管表示,自宾夕法尼亚案以来,该公司使用其他方法并取得了显著改善。 据采访,虽然Facebook、谷歌和微软表示,他们正在开发技术,将在其平台上发现新的照片和视频,但可能需要数年时间才能达到基于视频特征对已知图像进行检测的精确度。 宾夕法尼亚州案件中的男子之所以在2015年被捕,只是因为多伦多警方的侦探Janelle Blackadar在进行卧底调查时发现了这个广播。这位侦探使用屏幕捕捉技术录制了这段视频,并在几个小时内向国土安全调查部门的特别探员Austin Berrier发出了警报。 第二天,这名6岁的男孩获救,来自多个州的14名男子被判入狱。 今年1月,袭击者William Byers Augusta,20岁,被判处长达90年的有期徒刑。 该案的宾夕法尼亚州检察官在法庭上说,Augusta“鼓励全世界的人去收听”,称这些罪犯是怪物。

【猎云网(微信号:)】11月13日报道 (编译:原子核)

一对姐妹一直生活在恐惧之中,害怕被别人认出。其中一个长着刘海,穿着连帽卫衣。另一个把她的头发染成黑色。两人都尽力避免让自己现在的样子和儿时的样子一样。

十年前,她们的父亲做了一件难以想象的事:他在互联网上发布了她们暴露的照片和视频,当时她们只有7岁和11岁。很多照片和视频都捕捉到了这些暴力画面,包括他和另一名男子对这名7岁对孩子下药并强奸。

他们现在在监狱里关押着,但数字时代的残酷后果是,他们的罪行正在寻找新的观众。这对姐妹是第一代儿童性虐待的受害者,她们的痛苦似乎永远保存在互联网上。

仅在今年,在130多起涉及手机、电脑和云存储账户的儿童性侵犯调查中,都发现了这对姐妹的照片和视频。

她们说,被性虐待的数字化痕迹——通常存储在Google Drive、Dropbox和Microsoft OneDrive——无情地纠缠着姐妹俩,还有,她们仍然对在图片中被“捕食者”们认出来而感到恐惧。

“这一直在我的脑海里——知道那些照片在那里,”大姐E.(为了保护她的隐私,她只透露了名字的第一个字母)说。“因为互联网的运作方式,这种情况不会消失。”

像他们这样的可怕经历正在互联网上重新传播,因为搜索引擎、社交网络和云存储充满了犯罪分子们可以利用的机会。

这个问题的范围才刚刚开始被人们理解,因为科技行业近年来在识别网上儿童性虐待材料方面更加努力,去年标记出创纪录的4500万张照片和视频。

但《纽约时报》的一项调查发现,这一行业一直未能采取积极措施将其关闭。科技公司的方法不一致,主要都是单方面的举措,而且是秘密实施的,往往让恋童癖者和其他贩卖材料的罪犯占据上风。

这些公司拥有一些技术工具,通过将新检测到的图像与材料的数据库进行匹配,来阻止这些虐待图像再次循环到网络中。然而,科技行业并没有充分利用好这些工具。

亚马逊,其云存储服务每秒处理数百万的上传和下载,甚至没有搜索这些图像。根据联邦当局的说法,苹果不扫描其云存储,并对其即时通讯应用程序进行加密,使得检测几乎不可能。Dropbox,谷歌和微软的消费产品会扫描非法图片,但只有当有人分享他们时会扫描,而他们上传时不会被扫描。

而Snapchat和雅虎等其他公司则在搜索这些照片,但没有搜索视频,尽管非法视频多年来一直呈爆炸式增长。(当被问及Dropbox的视频扫描问题时,Dropbox的一位女发言人在7月份表示,这不是“首要任务”。周四,该公司表示,它已于上月开始扫描一些视频。)

世界上最大的社交网络Facebook对其平台进行了彻底扫描,占去年科技公司标记的图片的90%以上,但Facebook并没有使用所有可用的数据库来检测这些材料。Facebook宣布,图像的主要来源Facebook Messenger最终将被加密,极大地限制了检测的进行。

曾在Facebook和雅虎担任信息安全主管的Alex Stamos说,“每家公司都在将自己的隐私与安全之间做平衡,他们不想在公开场合这么做。这些决定实际上对儿童的安全产生了巨大的影响。”

科技公司更有可能在其平台上审查照片、视频和其他文件,以进行面部识别、恶意软件检测和版权执法等行为。但一些企业表示,寻找虐待内容是不同的,因为它可能会引起重大的隐私问题。

科技公司不愿被人看到浏览一些人的照片和视频,而自动扫描中标记的图像几乎总是会在后面被人审查。

“一方面,保护个人信息至关重要,”司法部副司法部长Sujit Raman说。“另一方面,互联网上有太多的东西是非常有害的。”

检测非法图像的主要方法是由微软和Hany Farid于2009年发明的,Hany Farid现在是加州大学伯克利分校的教授。这款名为PhotoDNA的软件可以使用计算机识别照片,甚至是识别修改过的照片,并将它们与已知非法图像的数据库进行比较。如果没有PhotoDNA这样的系统,去年检测到的照片和视频几乎都不会被捕获。

但这种技术是有限的,因为不存在一个已知非法材料的单独统一权威列表,所以还是会允许无数图像通过缝隙溜走。最常用的数据库由联邦政府指定的信息交换所保存,该交换所汇编美国科技公司报告图像的数字指纹。世界各地的其他组织都保持着自己的数据库。

然而,即使有一个单独统一的列表,它也不能解决新创建的图像在互联网上泛滥的问题,也不能解决直播虐待行为的激增问题。

对于像E.和她妹妹这样的受害者来说,不断重复传播的照片和视频所带来的创伤可能是毁灭性的影响。她们的母亲说,两姐妹都因有自杀念头而住院。

“我为抚养孩子的努力以及每一个希望和梦想——全消失了,”她说。“当你处理这个问题时,你不会担心她们在高考中获得了什么。你只想确保她们能挺过高中,或者熬过这一天。“

而且,因为众所周知,网络罪犯会寻找受虐待的儿童,甚至到成年,姐妹们也不会公开谈论针对她们的罪行。他们与《泰晤士报》的情感对话是他们第一次公开谈论虐待行为。

“你说话的权利被剥夺了,”E.说。“因为这些图像,我不能像我自己那样说话。就像无名氏一样。”

“搜索”之祸

德克萨斯州的计算机技术人员Joshua Gonzalez今年被捕,他的电脑上有400多张儿童性虐待的图片,其中包括E.和她的妹妹。

法庭文件显示,Joshua Gonzalez告诉当局,他使用微软的搜索引擎Bing找到了一些非法照片和视频。

微软长期以来一直站在打击滥用图像的前沿,甚至在十年前创造了PhotoDNA检测工具。但许多罪犯已经将Bing作为自己可靠的犯罪工具。

外媒在1月份委托的一份报告发现,在Bing上使用“色情儿童”等搜索词搜索就会显示一些很清晰的图片。作为对这份报告的回应,微软表示将禁止使用该术语或类似搜索词。

《泰晤士报》创建了一个计算机程序,可以搜索Bing和其他搜索引擎。自动脚本反复发现微软自己的PhotoDNA服务标记为已知非法内容的图片——总共也就数十张。当一个已知的虐待儿童网站被输入搜索框时,Bing甚至推荐了其他搜索词。

《泰晤士报》没有浏览这些图片,但这些照片被报告给了国家失踪和受剥削儿童中心和加拿大儿童保护中心,这两个机构致力于打击网络儿童性虐待行为。

加拿大中心说,其中一张图片显示,一个赤裸的女孩仰卧着,“以一种极端的方式”张开双腿。这个女孩大约13岁,被该中心的分析人士认出。分析人员认出定期审查数千张明确的图像,以帮助识别和营救被剥削的儿童,并从互联网上删除视频。分析人员表示,当局已经将这名女孩从危险中救了出来。

《纽约时报》在DuckDuckGo和雅虎上进行的类似搜索(使用Bing搜索结果)也返回了已知的性虐待图片。在停止电脑程序之前,时报总共在三个搜索引擎上找到了75张性虐待材料的图片。

DuckDuckGo和雅虎都表示,他们依靠微软的工具过滤了非法内容。

在审查了《纽约时报》的调查结果后,微软表示,它发现了扫描过程中的一个缺陷,并正在重新检查其搜索结果。但随后的程序运行发现了更多的照片。

微软的一位发言人将这个问题描述为一个“移动的目标”。

“自从《纽约时报》提请我们注意这件事以来,我们发现并修复了我们的算法中的一些问题,以检测非法图像,”发言人说。

Hemanshu Nigam曾在2000年至2006年担任微软儿童安全主管,他称调查结果是“重大失误”,并补充说“看起来他们没有使用自己的工具。”Nigam说,这表明微软似乎不知道自己的平台可能被犯罪分子操纵。

根据法庭记录和对执法人员的采访,虐待儿童的人很清楚Bing的脆弱性。早在几年前,恋童癖者就利用Bing查找非法图片,还部署了该网站的“反向图像搜索”功能,这个功能根据一张样本照片检索图片。

《泰晤士报》在谷歌搜索引擎上运行的同一个电脑程序,并没有返回性虐待内容。但加拿大中心提供的另一份文件显示,谷歌上也发现了儿童性虐待的图片,该公司有时拒绝删除这些图片。

一张照片拍摄了两个孩子的腹部,据信这两个孩子不到12岁,被迫彼此进行如此暴露的行为。这是已知的一系列照片中的一部分,这些照片表示孩子们被性虐待。

文件显示,加拿大中心在去年8月要求谷歌删除这张图片,但谷歌表示,它们没有达到删除的门槛。分析师们坚持了9个月,直到谷歌让步删除了图片。

2018年9月发现的另一张图片展示了一名妇女触摸一名2岁裸体女孩的生殖器。谷歌拒绝删除这张照片,并在发给加拿大分析师的一封电子邮件中表示,虽然这相当于恋童癖,但“在美国并不违法。”

当《纽约时报》后来向谷歌询问这张图片和加拿大人确认的其他图片时,一位发言人承认,这些图片应该被删除,这些照片后来也被删除了。这位发言人还表示,该公司不认为任何形式的恋童癖都是合法的,而且提出不同意见是错误的。

图片被删除一周后,加拿大中心向谷歌报告了另外两张图片。其中一个是一个年轻女孩,大约7岁,脸上覆盖着精液。另一张是一个女孩,8岁到11岁,双腿张开,露出生殖器。谷歌告诉加拿大中心,两张图片都没有达到“报告门槛”,但后来同意删除它们。

“这让我们感到困惑,”该中心的执行主任Lianna McDonald说。

罪犯无处不在

问题并不仅限于搜索引擎。

根据对数百起刑事起诉的审查,恋童癖者经常利用多种技术和平台,在聊天应用上会面,在云存储上分享图片。

“人们需要了解的第一件事是,任何允许你分享照片和视频的系统都绝对充斥着儿童性虐待,” Stamos说。他曾在Facebook和雅虎担任安全主管,现在是斯坦福大学的教授。

犯罪的案例显示,犯罪分子经常在在线论坛和聊天组中讨论如何利用平台中的漏洞。他们小心翼翼地跟踪那些发现他们意象的人的起诉,并从中学习。甚至他们还有在线手册,详细说明了如何生成图像并且避免被发现。

一个从4岁开始被父亲强奸并进行了四年多的女孩的数字化踪迹,可悲地代表了这种模式。

性犯罪者经常在Bing和其他地方的网站上分享女孩虐待的照片和视频。当检测到这些图像时,FBI会通知女孩的家人或他们的律师。她的家人说,在过去的四年中,他们收到了全国350多个案件的通知。

在一个向当局报告的案件中,一名女孩的照片浮出水面,这起案件是一名女子在Facebook上与一名密歇根男子聊天时拍摄的。

这名男子建议这名女性和她的孩子以裸体主义者的身份生活,同时也向她提出乱伦是正常的。他提出他和他13岁的女儿一起搬来和这位女性一起住,他说,他在前一天晚上口交强奸了她。

这名男子名叫Snehal Yogeshkumar Shah,他也一直在Messenger上与其他施虐者交流,这些施虐者建议他下载Kik即时通讯应用,并创建一个Dropbox账户来存储他的非法材料。警方在他的Dropbox账户和他的iPhone上发现了400多张非法照片和视频,其中包括一些西海岸女孩。他们还在Kik上发现了他和两名青少年之间的聊天内容,其中包含清晰的图像。他现在在监狱里。

在对圣安东尼奥的陆军专家Anthony Quesinberry的调查中,也出现了女孩的照片。Anthony Quesinberry已关闭在社交网络应用Yak Yak上分享虐待的内容。他告诉调查人员,他多年来一直沉迷于这些图像,并通过搜索引擎、Tumblr、Dropbox、Kik和直播视频平台Omegle获得了这些图像。他被判入狱16年以上。

女孩的母亲说她可以在几年后看到创伤的影响。有时,她的女儿会莫名其妙地生气。更多时候,她可能看起来超然,好像没有什么事困扰她。她的母亲说,“在发育方面,她现在必须了解一些事情”,她同意接受律师的采访,并且只有在她的姓名和地点不公开的情况下才能接受采访。

当女孩年满18岁时,她将成为有关材料报告的合法接收者。到那时,她的母亲和继父希望,她将能够更好地处理这一新闻。他们还希望,到那时,科技公司将设法从互联网上删除这些图片。

这个女孩,现在是一个生活在西海岸十几岁的女孩,不知道她被虐待的视频在互联网上。她的母亲和继父希望能一直这样。

“我很想告诉她这些视频就在网上,”她的母亲说,“但他们不再存在于网上了。”

图片是永恒的

其他家长则接受了这些图片可能永远存在于网络的可能性。

在一个生活着好几个受害者的寄养家庭中,一个十几岁的女孩最近正服用着抗抑郁药物。她一直认为她的虐待是自己的过错,所以需要用药物来缓解这种感觉。另一个女孩在被虐待八年后找到了开始约会的勇气。但是,当她忧心忡忡的哥哥最近上网测试这些照片是否仍然在网上时,联邦调查局的特工访问了他们的家。无论意图如何,查看儿童性虐待材料都是违法的。

为了保护孩子们的隐私,这位不愿透露姓名的养母说:“我再也不会自欺欺人地认为自己做得很好了。我只是一天天活下去。”

她的两个养女被拍到被父亲侵犯,而其他人遭到虐待,但没有被拍下来或者录下来。她说,随着时间的推移,这种差异可能会非常深远。

她说:“她们都很生气,为什么那些照片是永远的?”

为了不让孩子们在社交媒体上发帖,冒着被人认出的风险,她告诉孩子们,她们的虐待形象是在网上直播的。“我不认为这些照片会被彻底消灭,”她说。

到目前为止,科技行业已经证明她是正确的。

PhotoDNA在微软已经开发10年了,然而业界在扫描和删除已知非法照片方面的努力仍然参差不齐,而且一直处于保密状态。

根据相关采访、公司内部电子邮件以及对数千份法庭记录的审查,业界对视频内容的反应更是令人失望。识别非法视频内容没有通用的标准,许多主要平台——包括美国在线、Snapchat和雅虎——甚至都不扫描。美国在线和雅虎没有就其视频政策发表评论的请求进行回应。Snap发言人表示,该公司正与行业合作伙伴合作,制定解决方案。

上个月出售之前,Kik的一位发言人表示,该公司也在努力解决这个问题;上周五,新东家表示,目前正在扫描视频。

“总的来说,科技公司正在尽可能少地维护公众对其组织的尊重,” Chad M.S. Stee说,他在乔治梅森大学教授计算机取证学,并协助联邦调查人员处理与性虐待有关的案件。“但基于现有的技术,他们并没有做尽可能多的工作。”

微软、Twitter、Tumblr和其他公司的前员工表示,科技公司多年来一直知道,儿童遭受性虐待的视频在他们的平台上共享。Twitter的一名前员工称,非法视频出现的速度比它们在Vine上被删除的速度还要快。Vine是一家视频服务公司,自Twitter关闭以来,这些视频的出现速度都快于Vine。

解决视频内容这一紧迫问题遇到了公司自己制造的障碍。例如,谷歌开发了视频检测技术,并将其提供给其他公司,Facebook也有一个系统。但这两种技术无法共享信息,因为每种技术产生的视频特征都不兼容。

科技联盟运营的一个项目的机密电子邮件和其他文件显示,2017年,科技行业批准了一项共享视频指纹的程序,以便所有公司更容易检测到非法材料。科技联盟是一个关注儿童安全问题的组织,其中包含了大多数大公司。

一份文件指出了该项目的理由:“视频已经变得像照片一样容易创建,然而你行业还没有采用标准的解决方案/流程。”

但这个计划毫无进展。

整个行业缺乏行动,这使得无数的视频仍然留在互联网上。在该中心的160万个视频特征中,只有不到3%的视频特征是用于视频的。

照片和视频的处理方式都给了犯罪分子很大的回旋余地。据执法官员、前员工以及这些公司的公开声明称,所有最大的云存储平台——包括亚马逊网络服务、Dropbox、谷歌驱动器和微软的OneDrive和Azure——都没有在上传文件时扫描关于性虐待的材料。

虽然在以后可能会扫描文件,但当用户共享它们时,例如,一些罪犯通过共享他们的帐户登录而不是文件本身时,就可以避免检测。

佛罗里达州男子Gregory Householder告诉调查人员,他使用在线平台已有八年了,并定期与其他犯罪者共享Dropbox账户的登录信息。Householder说,他知道自己在犯罪,但不相信自己会被抓住。

亚马逊的一位发言人表示,“客户数据的隐私对于赢得客户的信任至关重要”,并指出该公司有一项禁止非法内容的政策。亚马逊不会扫描任何性虐待的图片。微软Azure还表示,它没有扫描这些材料,理由是类似的原因。

包括Dropbox和谷歌在内的其他公司也提出了隐私问题。Dropbox的一位女发言人表示,扫描的行为引发了隐私权倡导者的担忧。

一些公司,如Dropbox和谷歌,在被问及他们的检测和删除做法时,提到了安全问题。苹果公司的一位发言人拒绝透露它是如何扫描其平台的,称这些信息可能会帮助犯罪分子。

几位数字法医专家和执法官员表示,这些公司在援引安全保护方面是不诚实的。曾在Facebook和雅虎担任安全主管的Stamos说,这两家公司只是“不想说他们已经向犯罪分子开放了业务”罢了。

“如果他们说,‘这是一个安全问题’,他们就是说他们不会这么做,” Stamos说。

不确定的未来

宾夕法尼亚州的一起令人发指的案件警告称,通过直播平台,新的、难以发现的性虐待内容正在海啸性地传播。

来自世界各地的十几个人登录了商业会议软件Zoom。他们一边聊天,一边观看与工作无关的直播视频:一名男子性侵一名6岁男孩。

根据法庭文件,观众要求该男子对男孩做出各种非人的要求。男孩最终没有逃过魔爪,收到了暴力侵害,而观众们欢呼着进而做出更加出格的动作。

这些男子还播放了预先录制的儿童——包括婴儿——被强奸、殴打和小便的片段。

在审判期间,一名调查人员说,犯罪者通常知道直播流更难检测,并且不会留下任何记录。

“这就是他们去Zoom的原因,”该案的联邦检察官Austin Berry在结案陈词中说。“这是儿童色情作品的Netflix。”在其他案件中,起诉涉及苹果的FaceTime、Facebook、Omegle、Skype、YouNow等网站的直播。

没有一家大型科技公司能够通过自动图像分析检测到直播,更不用说制止了,尽管Zoom的一名技术高管表示,自宾夕法尼亚案以来,该公司使用其他方法并取得了显著改善。

据采访,虽然Facebook、谷歌和微软表示,他们正在开发技术,将在其平台上发现新的照片和视频,但可能需要数年时间才能达到基于视频特征对已知图像进行检测的精确度。

宾夕法尼亚州案件中的男子之所以在2015年被捕,只是因为多伦多警方的侦探Janelle Blackadar在进行卧底调查时发现了这个广播。这位侦探使用屏幕捕捉技术录制了这段视频,并在几个小时内向国土安全调查部门的特别探员Austin Berrier发出了警报。

第二天,这名6岁的男孩获救,来自多个州的14名男子被判入狱。

今年1月,袭击者William Byers Augusta,20岁,被判处长达90年的有期徒刑。

该案的宾夕法尼亚州检察官在法庭上说,Augusta“鼓励全世界的人去收听”,称这些罪犯是怪物。

打开APP阅读更多精彩内容