Es posible que los italianos no tengan acceso a ChatGPT durante mucho más tiempo. El garante de privacidad de Italia ordenó el bloqueo de ChatGPT debido a las preocupaciones de que OpenAI viola el Reglamento General de Protección de Datos (GDPR) de la UE con sus prácticas de datos. El regulador afirma que no existe una «base legal» para la recopilación masiva de datos de OpenAI para entrenar el modelo ChatGPT. A veces, los resultados inexactos también indican que la IA generativa no está procesando los datos correctamente, dice Garant. Los funcionarios están particularmente preocupados por una vulnerabilidad relacionada con la filtración de datos confidenciales de usuarios la semana pasada.
La agencia de datos también dice que OpenAI no está haciendo lo suficiente para proteger a los niños. Si bien la compañía dice que ChatGPT es para personas mayores de 13 años, los funcionarios dicen que no hay controles de edad para evitar que los niños vean respuestas «totalmente inapropiadas».
El garante le da a OpenAI 20 días para describir cómo abordará los problemas. Si una empresa no cumple, se enfrenta a una multa de hasta 20 millones de euros (unos 21,8 millones de dólares) o un máximo del cuatro por ciento de su facturación global anual.
Hemos solicitado un comentario de OpenAI y le informaremos si recibimos una respuesta. La política de privacidad de ChatGPT de la compañía deja en claro que los instructores pueden usar datos de conversación para mejorar la IA, pero también agrega o anonimiza esos datos. Los términos de OpenAI prohíben el uso por parte de niños menores de 13 años, mientras que la política establece que la empresa no recopila «a sabiendas» información personal de estos usuarios menores de edad.
La acción de Italia se produce solo un día después de que la organización de investigación sin fines de lucro presentara una queja ante la Comisión Federal de Comercio (FTC) de EE. UU., con la esperanza de congelar los lanzamientos futuros de ChatGPT hasta que OpenAI cumpla con las pautas de transparencia, equidad y claridad de la agencia. Los líderes y expertos tecnológicos también han pedido una pausa de seis meses en el desarrollo de IA para abordar las preocupaciones éticas. Existe la preocupación de que OpenAI no tenga suficientes validaciones en sus plataformas y esto ahora podría conducir a una prohibición en todo el país.
