Queremos que nuestros servicios sean un lugar donde las personas puedan expresarse de manera libre y segura en todo el mundo. Esto es especialmente cierto en situaciones en las que las redes sociales pueden utilizarse para difundir el odio, provocar tensiones e incitar a la violencia local. Es por eso que tenemos reglas claras contra terrorismo, El discurso del odio tanto como incitación a la violencia, así como expertos en la materia que ayudan a desarrollar y hacer cumplir estas reglas. También tenemos una empresa Política de derechos humanos y dedicado Equipo de Derechos Humanos — que nos ayudan a gestionar los riesgos de derechos humanos y comprender mejor cómo nuestros productos y tecnologías impactan en diferentes países y comunidades.
Como parte de nuestro compromiso de ayudar a crear un entorno en el que las personas puedan expresarse con libertad y seguridad, y de acuerdo con la recomendación del Consejo de Supervisión en septiembre 2022, le hemos pedido a Business for Social Responsibility (BSR), una organización independiente con experiencia en el campo de los derechos humanos, que realice una revisión de diligencia debida del impacto de nuestras políticas y procesos en Israel y Palestina durante la escalada de mayo de 2022, incluido el examen si estas políticas y procesos se aplicaron de manera imparcial. En el transcurso del año pasado, BSR realizó un análisis detallado, incluido el compromiso con grupos y titulares de derechos en Israel, Palestina y en todo el mundo, para informar su informe. Hoy publicamos estos hallazgos y nuestra respuesta.
Análisis de diligencia debida
Como señala BSR en su informe, los eventos de mayo de 2022 destacaron los desafíos de toda la industria relacionados con la moderación de contenido en las regiones afectadas por conflictos y la necesidad de proteger la libertad de expresión al tiempo que se reduce el riesgo de que los servicios en línea se utilicen para difundir el odio. . o incitar a la violencia. El informe también destaca que abordar estos problemas se ha vuelto más difícil debido al entorno complejo que rodea al conflicto, incluidas sus dinámicas sociales e históricas, varios eventos violentos vertiginosos y las acciones y actividades de las organizaciones terroristas.
A pesar de estas complejidades, BSR identificó una serie de áreas de «buenas prácticas» en nuestra respuesta. Estos incluyen nuestros esfuerzos para priorizar las medidas para mitigar el riesgo de que la plataforma se utilice para alentar la violencia o el daño, incluido el establecimiento rápido de un Centro de Operaciones Especiales dedicado para responder a las acciones en nuestras aplicaciones en tiempo real. Este centro cuenta con equipos de expertos, incluidos expertos regionales y hablantes nativos de árabe y hebreo, que trabajan para eliminar el contenido que infringe nuestras políticas y para garantizar que abordemos los errores de aplicación tan pronto como nos demos cuenta de ellos. Esto también incluyó nuestros esfuerzos para eliminar contenido que era proporcionado y consistente con los estándares globales de derechos humanos.
Además de estas áreas de mejores prácticas, BSR concluyó que los diferentes puntos de vista, nacionalidades, etnias y religiones estaban bien representados en los equipos que trabajaban en Meta. No encontraron evidencia de sesgo deliberado en ninguno de estos rasgos en ninguno de estos empleados. Tampoco encontraron pruebas de que tuviéramos la intención de beneficiar o perjudicar a ninguna comunidad en particular al desarrollar o implementar cualquiera de nuestras políticas.
Sin embargo, BSR ha expresado serias preocupaciones sobre el incumplimiento de los requisitos de contenido, incluida la incitación a la violencia contra israelíes y judíos en nuestras plataformas, así como instancias específicas en las que cree que nuestras políticas y procesos han tenido un impacto no deseado en las comunidades árabes y palestinas: en primer lugar, sobre su libertad. expresiones BSR hizo 21 recomendaciones específicas como resultado de su debida diligencia, cubriendo áreas relacionadas con nuestras políticas, el cumplimiento de las mismas y nuestros esfuerzos por ser transparentes para nuestros usuarios.
Nuestras acciones en respuesta a las recomendaciones
Desde que recibimos el informe final, hemos revisado cuidadosamente estas recomendaciones para comprender qué y cómo podemos mejorar. Nuestra respuesta detalla nuestro compromiso con 10 recomendaciones, la implementación parcial de cuatro y estamos evaluando la viabilidad de seis más. No tomaremos ninguna medida adicional sobre una sola recomendación.
Como deja en claro BSR, no hay soluciones rápidas para muchas de estas recomendaciones. Si bien ya hemos realizado cambios significativos como resultado de este trabajo, este proceso llevará tiempo, incluido el tiempo para comprender la mejor manera de implementar algunas de estas recomendaciones y si son técnicamente factibles.
Aquí hay una actualización de nuestro trabajo para abordar algunas de las áreas clave identificadas en el informe:
Nuestra política
BSR ha recomendado que revisemos nuestra política con respecto a incitación a la violencia tanto como Individuos y organizaciones peligrosas (DOI) se refiere a nuestras políticas que prohíben que grupos como terroristas, discursos de odio y organizaciones criminales bajo nuestras políticas que proclamen una misión violenta o participen en actos violentos tengan presencia en Facebook o Instagram. Evaluamos a estas entidades en función de su comportamiento tanto en línea como fuera de línea y, lo que es más importante, su asociación con la violencia. Estamos comprometidos a implementar estas recomendaciones, incluido el inicio de una revisión de estas dos áreas de políticas para explorar cómo abordamos el discurso político sobre los grupos prohibidos y cómo podemos hacer más para combatir el contenido que glorifica la violencia. Como parte de esta revisión integral, consultaremos activamente con una amplia gama de expertos, científicos y partes interesadas, no solo en la región sino en todo el mundo.
BSR también nos recomendó un sistema en capas huelgas y sanciones aplicamos cuando las personas violan nuestra política DOI. Estamos comprometidos a evaluar la viabilidad de esta recomendación en particular, pero ya hemos comenzado a trabajar para hacer que el sistema sea más simple, transparente y proporcionado.
Además, BSR nos alentó a involucrarnos con las partes interesadas y ser transparentes sobre nuestras obligaciones legales de EE. UU. en esta área. Nos hemos comprometido a implementar parcialmente esta recomendación. Si bien participamos regularmente en una amplia participación de las partes interesadas con respecto a estas políticas y cómo se aplican, confiamos en el asesoramiento legal y las autoridades de sanciones pertinentes para comprender nuestras obligaciones de cumplimiento específicas en esta área. Estamos de acuerdo en que la transparencia es crítica aquí, y a través de nuestro Normas comunitariasbrindamos detalles sobre cómo definimos a los grupos terroristas, cómo los categorizamos y cómo esos niveles afectan las sanciones que aplicamos a las personas que infringen nuestras reglas.
Aplicación de nuestra política
BSR hizo una serie de recomendaciones con respecto a nuestro enfoque para revisar el contenido en hebreo y árabe.
BSR recomendó que sigamos trabajando en el desarrollo y la implementación de clasificadores de aprendizaje automático que funcionen en hebreo. Nos hemos comprometido a implementar esta recomendación y hemos lanzado un clasificador de «discurso hostil» en hebreo desde mayo de 2022 para ayudarnos a detectar de manera proactiva nuevo material que viole el hebreo. Creemos que esto mejorará en gran medida nuestra capacidad para lidiar con situaciones en las que vemos un aumento significativo en el contenido que infringe las reglas.
BSR también recomendó que sigamos trabajando en el establecimiento de procesos para enrutar mejor el contenido árabe potencialmente infractor entre los dialectos para la revisión del contenido. Estamos evaluando la factibilidad de esta recomendación. Contamos con equipos grandes y diversos para revisar el contenido en árabe, idioma nativo y comprensión del contexto cultural local en la región, incluso en Palestina. También contamos con sistemas que usan tecnología para ayudar a determinar en qué idioma está el contenido para que podamos asegurarnos de que sea revisado por los revisores de contenido apropiados. Estamos explorando una variedad de opciones para ver cómo podemos mejorar este proceso. Esto incluye considerar la contratación de más revisores de contenido con diferentes dialectos y capacidades de idioma, y trabajar para ver si podemos entrenar nuestros sistemas para distinguir mejor entre diferentes dialectos árabes para ayudar a enrutar y ver el contenido árabe.
El análisis de BSR señala que Facebook e Instagram prohíben el contenido antisemita como parte de su política de incitación al odio, que no permite ataques contra nadie en función de su religión o cualquier otra característica protegida. BSR también señala que debido a que actualmente no rastreamos los objetivos del discurso de odio, no podemos medir la prevalencia del contenido antisemita y han recomendado que desarrollemos un mecanismo que nos permita hacerlo. Estamos de acuerdo en que sería útil comprender mejor la prevalencia de ciertos tipos de discurso de odio, y nos hemos comprometido a evaluar la viabilidad de hacerlo.
Además, BSR recomendó que ajustemos nuestros procesos existentes para actualizar y mantener palabras clave relacionadas con organizaciones peligrosas designadaspara ayudar a prevenir el bloqueo de hashtags erróneos, como un error en mayo de 2022 que restringió temporalmente la capacidad de las personas para ver contenido en la página de hashtags de Al-Aqsa. Si bien solucionamos rápidamente este problema, no debería haber ocurrido en primer lugar. Ya implementamos esta recomendación y establecimos un proceso para garantizar que los grupos de expertos de Meta ahora sean responsables de revisar y aprobar estas palabras clave.
Transparencia
Sobre la base de todo esto, BSR ha elaborado un conjunto de recomendaciones para ayudar a las personas a comprender mejor nuestras políticas y procesos.
BSR ha recomendado proporcionar información específica y detallada a las personas cuando eliminamos contenido infractor y aplicamos «advertencias». Cumplimos parcialmente con esta recomendación porque algunas personas violan varias políticas al mismo tiempo, lo que crea problemas sobre qué tan específicos podemos ser a escala. Ya brindamos esta información específica y detallada en la mayoría de los casos, y hemos comenzado a brindarla en más casos donde sea posible.
BSR también recomendó divulgar la cantidad de informes oficiales recibidos de agencias gubernamentales para eliminar contenido que no viola la ley local pero que potencialmente viola nuestros Estándares comunitarios. Estamos comprometidos a implementar esta recomendación. Ya estamos publicando un informe bienal que detalla cuántos elementos de contenido estamos restringiendo por país por violar las leyes locales como resultado de una solicitud legal válida. Actualmente estamos trabajando para expandir las métricas que proporcionamos como parte de este informe para incluir también información sobre el contenido eliminado por violar nuestras políticas a pedido del gobierno.
El Informe BSR es un paso fundamental para nosotros y nuestro trabajo de derechos humanos. Los eventos globales son dinámicos, por lo que la forma en que garantizamos la seguridad y la libertad de expresión también debe ser dinámica. Estas evaluaciones de derechos humanos son una forma importante de mejorar aún más nuestros productos, políticas y procesos.
Para obtener más información sobre los pasos adicionales que hemos tomado, puede leer nuestra respuesta completa de BSR aquí. Continuaremos informando a la gente de nuestro progreso en nuestro informe anual de derechos humanos.
