La IA está en el corazón de nuestro trabajo, ayudando a mejorar nuestros productos existentes y sirviendo como base para nuevas aplicaciones innovadoras. Recientemente ha llegado a un punto de inflexión, capturando la imaginación del público en general, y las personas son cada vez más conscientes de sus múltiples usos y beneficios.
A medida que evoluciona la IA, también lo hace su regulación. La Unión Europea está liderando el camino con la próxima Ley de IA, que podría convertirse potencialmente en una legislación destinada a introducir un marco regulatorio común que cubra todos los tipos de IA. A lo largo del proceso de desarrollo, es fundamental que se escuchen las voces de las empresas innovadoras de todos los tamaños, especialmente las nuevas empresas, para que podamos ayudar a garantizar que la regulación de la IA sea clara e inclusiva, y estimular la innovación y la competencia.
Cómo probamos la ley sobre inteligencia artificial en Europa
En 2022 lanzamos ciclo abierto, una iniciativa global que reúne a gobiernos, empresas de tecnología, académicos y la sociedad civil para ayudar a desarrollar políticas con visión de futuro a través de enfoques experimentales como la creación de prototipos de políticas. A través del circuito abierto Programa de Derecho de IA, más de 50 empresas europeas de inteligencia artificial, pymes y empresas emergentes han probado los requisitos clave de las próximas normas para ver si se pueden hacer más claras, factibles y eficientes. En esta prueba, las empresas europeas identificaron un conjunto de seis recomendaciones para ayudar a garantizar que la Ley de IA esté en línea con su objetivo de construir e implementar IA confiable. Esto es lo que encontraron:
- Deben definirse mejor las responsabilidades entre los participantes en la cadena de valor de la IA para reducir la incertidumbre: Los roles y responsabilidades, desde los proveedores hasta los usuarios, deben tener en cuenta las relaciones dinámicas e interconectadas entre todos los involucrados en el desarrollo, implementación y monitoreo de los sistemas de IA.
- Se necesita orientación adicional sobre la evaluación de riesgos y los requisitos de calidad de los datos: La mayoría de los participantes dijeron que realizarían una evaluación de riesgos incluso si sus sistemas de IA no fueran inherentemente de alto riesgo, pero les resultó difícil predecir cómo los usuarios o terceros podrían usar los sistemas de IA. Esto es especialmente cierto para las PYME, que se beneficiarían de una mayor orientación.
- Los requisitos de calidad de los datos deben ser realistas: Los miembros de Open Loop han considerado poco realista exigir conjuntos de datos «completos» y «sin errores» y, en cambio, recomiendan utilizar un enfoque de «mejor esfuerzo», como sugirió el Parlamento Europeo.
- Los informes deben ser claros y simples: Los participantes sintieron que no estaba claro cómo interpretar y seguir los requisitos de la documentación técnica y pidieron guías y plantillas más claras. También advirtieron contra reglas demasiado detalladas que podrían conducir a una burocracia excesiva.
- Destacar diferentes audiencias para los requisitos de transparencia y garantizar que haya suficientes trabajadores calificados para la supervisión humana de la IA: Las empresas europeas quieren que los usuarios de sus sistemas de IA estén claramente informados sobre cómo gestionarlos. Para garantizar una supervisión humana adecuada, las empresas han enfatizado que el nivel de detalle de las instrucciones y explicaciones varía mucho según el público objetivo.
- Maximizar el potencial de los sandboxes regulatorios para fomentar y reforzar la innovación: Los participantes consideraron que los sandboxes regulatorios son un mecanismo importante para estimular la innovación y fortalecer el cumplimiento. y creía que podrían hacerse más efectivos a través de la seguridad jurídica y un entorno de colaboración entre el regulador y las empresas.
Estas propuestas muestran cómo se puede mejorar la Ley de IA para beneficiar a la sociedad y lograr sus objetivos. Demuestra cómo este enfoque experimental de creación de prototipos de políticas de múltiples partes interesadas se puede aplicar a nuevas tecnologías para ayudar a desarrollar políticas efectivas basadas en evidencia.
Puedes leer el informe completo Aquí.
