La responsable de Gestión Global de Política de la red social, Monika Bickert, y el responsable de Política de Antiterrorismo, Brian Fishman, han publicado un comunicado donde han recordado que Facebook comenzó el pasado mes de junio a usar la inteligencia artificial para detectar contenido terrorista. Estas herramientas son capaces de trabajar tanto con fotografías como con vídeos y texto, y puede distinguir imágenes empleadas como herramienta de reclutamiento de aquellas usadas para ilustrar noticias.
Así, los representantes de la compañía han calificado de "prometedores" los resultados de los primeros meses de trabajo de este servicio, que consideran que se convertirá en una herramienta "más importante" dentro del "arsenal" para la protección y seguridad de Internet y Facebook. En paralelo, han afirmado, la red social continúa "expandiendo alianzas" con otras compañías tecnológicas, gobiernos y organizaciones sin ánimo de lucro.
Bickert y Fishman han afirmado que, en estos momentos, el 99% de contenido terrorista que apoya a Estado Islámico y Al Qaeda que es eliminado por Facebook es detectado antes de que algún usuario de su comunidad haya alertado de su existencia, y "en algunos casos", antes de que se publique en directo a través de su plataforma. La compañía ha explicado que esto es posible, sobre todo, gracias al uso de "sistemas automatizados", como los que relacionan fotografías y vídeos o un 'machine learning' basado en texto, y ha asegurado que el 83% de las copias publicadas son eliminadas "durante la primera hora desde que son subidas".
Facebook ha priorizado a Estado Islámico y Al Qaeda como los principales objetivos de su política antiterrorista por su "amenaza global en el mundo real y 'online'". Los representantes de la compañía han explicado que la búsqueda de un único grupo terrorista "podría no funcionar para la de otro", debido a las "diferencias estilísticas y de lenguaje" en sus propagandas, algo que han considerado "limitaciones" a la hora de automatizar la detección de contenido procedente de "organizaciones terroristas regionales". No obstante, prevén poder hacer frente a estos grupos en un futuro.