Sandbox regulatorio de IA: implicaciones para los participantes

El pasado 8 de noviembre se aprobó el Real Decreto 817/2023 que establece un entorno controlado de pruebas para evaluar el cumplimiento de la propuesta de Reglamento del Parlamento Europeo y del Consejo sobre normas armonizadas en inteligencia artificial en sistemas de alto riesgo, conocido comúnmente como Sandbox regulatorio de IA.

El objetivo del Sandbox es desarrollar un informe de buenas prácticas y guías técnicas basadas en la evidencia a través de una plataforma de software que facilite una primera autoevaluación no vinculante por parte de proveedores de sistemas de IA y usuarios participantes sobre el cumplimiento de los principios de la propuesta del Reglamento de Inteligencia Artificial.

Los requisitos a implementar se basan en los requisitos del nuevo Reglamento europeo de IA, y buscan:

• Establecer un sistema de gestión de riesgos.
• Garantizar el cumplimiento de criterios de calidad en entrenamientos con datos.
• Tener documentación técnica actualizada.
• Permitir el registro automático de eventos (logs).
• Evitar generar sesgos discriminatorios.
• Informar al usuario acerca de las características y prestaciones del sistema.
• Supervisar su uso con personas físicas.
• Conseguir un nivel adecuado de precisión, solidez y ciberseguridad.

Así, en el Sandbox se estudiarán por parte de la Agencia Española de Supervisión de IA las obligaciones a cumplir y su implementación por los proveedores de sistemas de IA, teniendo a su disposición guías técnicas de ayuda actualizadas, intercambio de diálogos con el órgano competente, y asesoría personalizada.

La participación en dicho entorno es voluntaria, abierta y gratuita por parte de empresas, administraciones públicas y entidades del sector público, debiendo cumplir éstas las normativas europeas y nacionales, especialmente en materia de tratamiento de datos personales y de suministro de información a la autoridad supervisora.

Para poder generar un informe con buenas prácticas y guías técnicas, los sistemas de inteligencia artificial propuestos no pueden ser para actividades prohibidas en el sentido del nuevo Reglamento Europeo:

• militares, de defensa o seguridad nacional.
• que usen técnicas subliminales o aprovechen vulnerabilidades de un grupo de personas por su edad o discapacidad, situación social o económica específica para alterar su comportamiento pudiendo provocar perjuicios físicos o psicológicos.
• que evalúen o clasifiquen personas físicas según su conducta social, características personales o personalidad conocidas o predichas, provocando un trato perjudicial o desfavorable.
• de identificación biométrica remota «en tiempo real» en espacios públicos para aplicación de la ley, salvo en caso de concretas posibles víctimas, amenazas o sospechosos en caso de delitos con mínimo 3 años de privación de libertad.

Adicionalmente, se añade un régimen de responsabilidad para el proveedor de sistema IA y el usuario participante, en caso de que, por incumplimiento o negligencia, produzcan daños a las personas como consecuencia de la aplicación del sistema de IA.

Por último, una vez finalizada la implantación, el proveedor de sistema IA deberá realizar una autoevaluación acerca del cumplimiento de los requisitos propuestos, así como de los planes post-comercialización y realizar un informe de impacto de género para evaluar la incidencia de la implantación en la reducción de la brecha de género.

Debe tenerse en cuenta que el RD 817/2023 prevé que el Sandbox no mantenga su vigencia una vez que el Reglamento Europeo entre en efecto, esto es, a principios de 2024.

Por nuestra parte, en Lawwwing realizamos un seguimiento continuo de las actualizaciones legales más relevantes y queremos que estés informado de las evoluciones tecnológicas para contribuir a un entorno digital más saludable, ético y justo para todos.