Facebook已经宣布了消除与恐怖主义有关内容的步骤。
这一举动来自政府对技术公司的压力越来越大，要采取恐怖主义宣传等材料。
在一系列高级人物的博客文章和BBC的采访中，Facebook表示希望对其正在做的工作更加开放。
该公司告诉英国广播公司正在使用人工智能来查找与恐怖主义相关的图像，视频和文字以及一系列假帐号。
“我们想在我们社区的人们看到它之前立即找到恐怖分子的内容，”它说。
所谓的伊斯兰国家利用技术来激进和招募人才的能力为大型技术公司提出了重大的问题。
他们被批评为运行用于传播极端主义意识形态的平台，激发人们采取暴力行为。
特别是政府和英国在近几个月来一直在推动更多的行动，而整个欧洲的谈判一直在立法或规制。
本周早些时候在巴黎，英国首相兼法国总统发起联合运动，确保互联网不能被用作恐怖分子和罪犯的安全空间。
他们说，正在研究的问题之中，如果公司未能删除某些内容，包括罚款，就会为公司创造新的法律责任。
Facebook表示，它致力于寻找和删除材料的新途径 - 现在想要做的不仅仅是谈论它。
Facebook的全球政策管理总监Monika Bickert告诉英国广播公司，“我们希望与社区关于我们要做的事情非常开放，以确保Facebook对恐怖团体是一个非常恶劣的环境。
英国安全官员所作出的一个批评是在多大程度上依赖别人报告极端主义内容，而不是主动地采取行动。
Facebook之前已经宣布增加3000名员工来审查用户标示的内容。
但它也表示，已经有超过一半的用于支持恐怖主义的帐户是它所发现的。
它说现在也正在使用新技术来改进其主动的工作。
该公司说：“我们知道我们可以更好地利用技术（特别是人工智能）来阻止恐怖分子内容在Facebook上的传播。”
它首次在谈论的新技术的一个方面是图像匹配。
如果有人试图上传恐怖照片或视频，系统会看到是否与以前已知的极端主义内容相匹配，以阻止它首先上升。
第二个领域正在试验人工智能，以了解可能倡导恐怖主义的文本。
这正在分析以前删除的文字，以赞扬或支持IS等群体，并试图制定基于文本的信号，表明这些内容可能是恐怖主义宣传。
该分析进入一个学习如何检测类似职位的算法。
机器学习应该意味着这个过程会随着时间的推移而改善。
该公司表示，它还使用算法来检测与支持恐怖主义有关的帐户或图像的“集群”。
这将涉及寻找信号，例如帐户是否是有大量帐户的朋友，这些帐户已被禁用以支持恐怖主义。
该公司还表示，它正在努力跟上创建帐户的“重复违规者”，以发布恐怖主义材料，并寻找绕过现有系统和控制的方法。
Bickert小姐告诉英国广播公司，“我们的技术将继续发展，就像我们看到恐怖威胁在不断发展的一样。”
“我们的解决方案必须非常动态。”
自动化过程中的主要挑战之一是取消与恐怖主义有关的材料但不能实际支持的风险，例如参考可能具有其文字或图像的IS宣传视频的新闻文章。
虽然任何形式的儿童性虐待是非法的，可以被取消，但与恐怖主义有关的形象 - 例如挥舞国旗的成员 - 可以用于在一个方面荣耀一种行为，或作为反极端主义的一部分活动在另一个。
比克特小姐说：“上下文是一切。
该公司表示，其算法还不如人们了解有助于区分不同类别的上下文。
Facebook说，它已经增加了专家队伍，现在有150人专门从事反恐工作，包括反恐怖主义学术专家，前检察官，前执法人员和分析师以及工程师。
比克特特女士说：“我们必须有人可以审查它。
“我喜欢把它看作是使用电脑做好电脑做好的事情，用人们做好人们做的事情。”
挑战依然存在。在创建名称后的几分钟之内，我能够找到完整版的IS宣传视频，其中包括斩首西方人质。
批评者认为，在拥有20亿用户的网站中，挑战可能是巨大的，但该公司从其网站上的内容赚取数十亿美元，并且可以投入更多的资源和更多的最佳工程师来处理这个问题。
该公司表示，它已经开始集中其“最尖端的技术”来对付这个问题，并且显然现在认为它需要被看作是行动。
上一篇：沙特阿拉伯的相同指望它们学会
责任编辑：丹丹
