El sesgo en el uso de la inteligencia artificial es un problema conocido. Twitter tampoco es inmune. Como parte de la competencia, el servicio de mensajes cortos quería averiguar qué errores aparecen en su propio algoritmo de Twitter.
La inteligencia artificial (IA) se creó para imitar el funcionamiento del cerebro humano. A través del entrenamiento, la IA puede aprender a responder preguntas como Siri o Alexa, o tomar decisiones por sí misma.
Pero esto a menudo genera problemas, por ejemplo, cuando las minorías están en desventaja por la IA utilizada o surgen sesgos específicos de género.
Twitter también ha tenido problemas con este problema. A fines de 2022, hubo críticas por el sesgo del algoritmo de recorte de imágenes en el feed. Por ejemplo, en una sección se preferían las caras blancas a las negras.
Como resultado, Twitter configuró por primera vez el recorte de fotos en su sección de noticias en mayo. Desde entonces, las imágenes en formato de retrato no se han recortado tanto.
¿Cuáles son las desventajas del algoritmo de Twitter?
Pero el servicio de mensajes cortos no solo quería solucionar problemas en su algoritmo de encuadre visible en las noticias. Los cambios también deben realizarse en segundo plano.
Para solucionar los problemas de su propio algoritmo, Twitter lanzó el primer Algorithmic Bias Bounty Challenge a fines de julio de 2022. Tales problemas son especialmente comunes para los piratas informáticos, por ejemplo, para encontrar agujeros de seguridad en los sistemas de las grandes corporaciones.
El desafío se llevó a cabo como parte de la conferencia en línea Def Con AI Village. El premio acumulado fue de $3500 para el primer lugar, $1000 para el segundo lugar y $500 para el tercer lugar.
Problema del algoritmo de Twitter
Un problema particular, según Twitter, es que «las empresas solo se dan cuenta del daño ético no intencionado después de que se vuelve de conocimiento público». El prejuicio es especialmente difícil de encontrar en la IA antes de tiempo.
Ahora, Twitter quiere capitalizar el éxito del desafío del hackeo con su desafío.
Nos inspira cómo la comunidad de investigación y piratería ha ayudado a la industria de la seguridad a desarrollar mejores prácticas para identificar y remediar vulnerabilidades para proteger al público.
Twitter quiere ayudar a crear una comunidad similar, pero que se centre en los aspectos éticos de la inteligencia artificial y el aprendizaje automático.
El algoritmo de Twitter favorece la piel delgada, joven y clara
Bogdan Kulinich, investigador de la Universidad Técnica Suiza EPFL, ganó el primer lugar en la competencia. Según los resultados, el algoritmo de encuadre de Twitter favorece a los rostros más delgados, jóvenes y claros.
Kulinich resume los resultados de la siguiente manera: «El modelo objetivo es para personas que parecen delgadas y jóvenes, o que tienen tez blanca o cálida, textura de piel suave y rasgos faciales estereotipadamente femeninos».
Este sesgo puede conducir a la exclusión de minorías y la perpetuación de estándares de belleza estereotipados en miles de imágenes.
Para llegar a sus conclusiones, el investigador comparó una fotografía de un rostro humano con una serie de versiones generadas por IA.
¡Guía gratuita de LinkedIn!
Suscríbase ahora a nuestro boletín semanal compacto de BT. Como agradecimiento, te damos nuestra guía de LinkedIn.
El algoritmo proporcionó los mejores asientos para rostros más jóvenes y delgados. También hubo preferencia por pieles más claras o más cálidas, así como imágenes más contrastantes con colores más ricos.
Ideal distorsionado de belleza en redes sociales
La obsesión por la belleza en las redes sociales es un problema conocido. Los llamados filtros de belleza, así como algoritmos como Twitter, amplifican este efecto. Por lo tanto, está bastante claro que Twitter ahora quiere contrarrestar este problema.
También interesante:
