微软正试图通过向其他公司开放Xbox聊天工具来提高对虐待儿童的检测能力

微软发布了一个新工具，可以识别训练孩子在网上聊天中虐待孩子的捕食者。基于微软一直在Xbox上使用的技术，Artemis项目现在将提供给其他具有聊天功能的在线公司。在这种情况下，许多平台都在通过点击聊天窗口中的对话来对付性侵儿童的儿童掠夺者。

Artemis识别特定的单词和语音模式，并标记可疑信息供人类宿主查看。然后，主持人决定是否通过联系或其他执法官员来升级情况。如果主人发现儿童被性剥削或虐待的图像，他将通知失踪和被剥削儿童中心采取进一步行动。

“有时候我们在平台上喊——，每一个有在线聊天的平台都会滥用——，但我们应该为他们建立的机制鼓掌，”致力于防止网络儿童的非营利科技组织Thorn的CEO Julie说。“如果有人说‘哦，我们没有虐待’，我会对他们说‘好吧，你们在看吗？’\' \'

03010年12月，发现在线聊天平台是儿童掠食者的沃土。他们通过先和受害者交朋友，然后建议他们线上线下进入孩子的生活来培养受害者。大多数主要平台都在一定程度上处理虐待儿童掠食者的问题，包括微软的Xbox Live。2017年，正如《纽约时报》中所指出的，一名男子因在Xbox Live Chat上用强奸和谋杀威胁儿童而被判处15年监禁。

根据《泰晤士报》的说法，针对在线儿童的调查和处理政策可能因公司而异，许多公司对潜在的隐私侵犯持谨慎态度。2018年，Face book宣布了一个捕食者捕捉系统，该系统旨在查看是否有人快速联系了许多儿童，以及他们被阻止的频率。但是Face book也可以获得比其他平台更多的用户数据。

根据Thorn的说法，微软的工具很重要，因为任何使用聊天的公司都可以使用这些工具，并且有助于为捕食者检测和监控的外观设定行业标准，从而有助于开发未来的预防工具。Codwa说，聊天很难监控潜在的虐待儿童行为，因为对话中可能有太多细微差别。

约翰杰伊刑事司法学院心理学教授Elizabeth Jay Glitsch说，儿童掠夺者可以潜伏在在线聊天室，就像他们会在网下找到受害者一样，但他们有更直接的方式。她写了很多关于保护孩子免受网络性虐待的文章，尤其是那些通常精致的整容手术。她说：“30分钟后，他们可能会和孩子发生性关系。”很难看到孩子本人，但在互联网上，一个捕食者可以进入并测试水域，如果不起作用，转向下一个受害者。

科尔多瓦补充说，这不会阻止一个平台。她说：“他们会尝试隔离孩子，并在多个平台上跟踪他们，这样他们就可以有多个剥削点。捕食者可能会向孩子索要照片，然后逐渐提高对视频的要求，从而提高性内容的水平。”这个孩子既内疚又害怕，这也是《泰晤士报》跨平台的原因：他可以说，‘哦，你在Face book上的朋友我都认识，除非你发视频给我，否则我会把你初中的第一张照片发给你。’\'

据微软称，Artemis已经开发了14个多月。从2018年11月开始，在微软“360跨行业黑客马拉松”上，该项目由我们保护全球联盟和儿童尊严联盟两个儿童保护组织联合发起。包括Roblox、Kik、Thorn和Meet Group在内的团队与微软合作开展该项目。它由哈尼法里德领导，他开发了一种照片脱氧核糖核酸工具，用于在线检测和报告儿童性剥削的图像。

然而，关于Artemis工具在实践中如何工作的一些细节仍然不清楚，这可能取决于使用它的平台。它没有说Artemis是否会使用端到端加密来配合聊天程序，也没有说会采取什么措施来防止版主潜在的PTSD。

微软表示，索恩将负责管理该项目，并处理许可证和支持，以便参与项目的公司可以进入公司。

Cordua表示，虽然Artemis最初有一些局限性，目前只在英语中工作，但这个工具是朝着正确方向迈出的一大步。既然每个使用这个工具的公司都可以定制自己的受众(在游戏平台聊天和在社交应用上聊天明显不同)，那么就有足够的机会去适应和改进这个工具的工作模式。此外，她说，这是一个时间平台，从失败的自我调节实践到积极预防儿童抚养和虐待。

微软在博文中补充称，Artemis“绝不是万能药”，但这是发现者在线装饰孩子的第一步，被称为“严重”问题。

科尔多瓦说：“第一步是我们需要更好地确定这种情况发生在哪里。“但所有托管任何聊天或视频的公司都应该这样做，否则他们将串通起来纵容平台上的虐待儿童行为。