Discord actualizó su política de protección de niños y adolescentes en su plataforma después de que surgieron informes de que los perpetradores estaban usando la aplicación para crear y distribuir material de abuso sexual infantil (CSAM) y para cuidar a los adolescentes. La plataforma ahora rechaza explícitamente el CSAM fotorrealista generado por IA. Como informó recientemente The Washington Post, el auge de la IA generativa también ha dado lugar a una explosión de imágenes realistas con imágenes sexuales de niños. La publicación vio hablar de usar Midjourney, una IA generativa para convertir texto en una imagen en Discord, para crear imágenes inapropiadas de niños.
Además de prohibir el MASI generado por IA, Discord ahora también prohíbe explícitamente cualquier otro texto o contenido multimedia que sexualice a los niños. La plataforma también bloqueó los servidores de citas para adolescentes y prometió tomar medidas contra los usuarios que se comportan de esa manera. Una investigación anterior de NBC News descubrió que los servidores de Discord se publicitaban como servidores de citas para adolescentes, y los miembros solicitaban imágenes de desnudos de menores.
Los usuarios adultos han sido demandados anteriormente por el cuidado de niños en Discord, e incluso hay bandas criminales que extorsionan a los usuarios menores de edad para que publiquen imágenes sexuales de ellos mismos. Una prohibición total de los servidores de citas para adolescentes podría ayudar a aliviar el problema. Discord también incluyó una línea en su política que establece que los adolescentes mayores que se encuentren cuidando a adolescentes más jóvenes serán «revisados y se actuará de acuerdo con [its] Conducta sexual inapropiada con niños y reglas de autocuidado.
Además de actualizar las reglas, Discord lanzó recientemente una herramienta Family Center que los padres pueden usar para controlar la actividad de chat de sus hijos. Si bien los padres no podrán ver el contenido real del mensaje de sus hijos, la herramienta de suscripción les permite ver de quién son amigos sus hijos y con quién están hablando en la plataforma. Discord espera que estas nuevas medidas y herramientas ayuden a mantener seguros a los usuarios menores de edad, junto con las medidas antiguas que incluyen el escaneo proactivo de imágenes cargadas en su plataforma usando PhotoDNA.
El Discord Family Center es una nueva herramienta a través de la cual los adolescentes pueden informar fácilmente a sus padres y tutores sobre sus actividades en Discord respetando su propia autonomía. pic.twitter.com/UFY0ybo0LR
– Discordia (@discord) 11 de julio de 2023
