Meta se convierte en presidente el próximo mes Foro mundial de Internet sobre la lucha contra el terrorismo (GIFCT) Consejo de Operaciones. GIFCT es una organización no gubernamental que reúne a las empresas de tecnología para combatir el contenido terrorista en Internet a través de la investigación, la cooperación técnica y el intercambio de conocimientos. Meta es miembro fundador de GIFCT, que se fundó en 2017 y se ha convertido en una organización sin fines de lucro después de Desafío de Christchurch 2022que reúne a empresas miembros, gobiernos y organizaciones de la sociedad civil para combatir el contenido terrorista y extremista violento en línea.
Meta también proporciona una herramienta de software de código abierto gratuita que ha desarrollado para ayudar a las plataformas a identificar copias de imágenes o videos y tomar medidas masivas contra ellos. Esperamos que la herramienta se llame Hasher-Matcher-Actioner (HMA) – será adoptado por varias empresas para ayudarlas a detener la difusión de contenido terrorista en sus plataformas, y será especialmente útil para empresas más pequeñas que no tienen los mismos recursos que las más grandes. HMA confía en Meta software anterior de comparación de imágenes y videos de código abiertoy puede usarse para cualquier tipo de contenido que rompa las reglas.
Las empresas miembros de GIFCT suelen utilizar lo que se denomina base de datos de intercambio de hash para ayudar a proteger sus plataformas del contenido terrorista. En lugar de almacenar contenido malicioso o explotador, como videos de ataques violentos o propaganda terrorista, GIFCT almacena un hash o una huella digital única. para cada imagen y video. Cuantas más empresas participen en la base de datos de intercambio de hash, mejor y más completa se vuelve, y mejor lo hacemos todos para mantener el contenido terrorista fuera de Internet, especialmente porque las personas a menudo saltan de una plataforma a otra para compartir contenido. Pero muchas empresas no cuentan con la tecnología interna para buscar y moderar contenido infractor a gran escala, por lo que HMA es una herramienta potencialmente valiosa.
El año pasado, Meta gastó alrededor de $ 5 mil millones en todo el mundo en seguridad y más de 40,000 personas trabajan en ello. Como parte de esto, contamos con un equipo de cientos de personas dedicadas específicamente al trabajo antiterrorista, con experiencia que va desde la aplicación de la ley y la seguridad nacional hasta la inteligencia antiterrorista y la investigación académica sobre radicalización.
El compromiso de Meta de combatir el contenido terrorista es parte de un enfoque más amplio para proteger a los usuarios del contenido dañino en nuestros servicios. Somos pioneros en el desarrollo de tecnología de inteligencia artificial para eliminar contenidos de odio a gran escala. El discurso de odio ahora se ve dos veces por cada 10,000 vistas de contenido en Facebook, frente a 10-11 veces por 10,000 vistas hace menos de tres años. También bloqueamos millones de cuentas falsas todos los días para evitar que difundan información errónea y hemos eliminado más de 150 redes de cuentas maliciosas en todo el mundo desde 2017.
Hemos aprendido a lo largo de los años que si está ejecutando una operación masiva de redes sociales, debe crear reglas y procesos que se apliquen de la manera más transparente y uniforme posible. Es por eso que contamos con Normas comunitarias detalladas que definen el uso inaceptable de nuestros servicios, que se publican públicamente y se revisan constantemente. Publicamos informes cada trimestre que detallan el progreso que hemos logrado en cosas como la detección del discurso de odio y otro contenido malicioso, las redes maliciosas que estamos interrumpiendo y mostrando qué contenido se ve más en nuestros servicios.
Por supuesto, no somos perfectos y las personas imparciales no estarán de acuerdo sobre si nuestras reglas y procesos son correctos. Pero nos tomamos estos problemas en serio, tratamos de actuar de manera responsable y transparente e invertimos mucho en la seguridad de nuestra plataforma. Muchas de estas preguntas van mucho más allá del alcance de una sola empresa o institución. Nadie puede resolverlos por sí solo, por eso son tan importantes las colaboraciones intersectoriales e intergubernamentales como GIFCT y Christchurch Call.
