LOS REGULATORY SANDBOX EN LA PROPUESTA INICIAL DE REGLAMENTO DE INTELIGENCIA ARTIFICIAL DEL PARLAMENTO EUROPEO
Arnau Gómez Echeverría - Entrada Nº4.
1.- Introducción
Hace no más de 3 semanas, el Parlamento Europeo (PE) alcanzó un compromiso sobre el borrador de enmiendas de la Propuesta inicial de Reglamento de Inteligencia Artificial. (Propuesta inicial de Reglamento IA, que os adjunto al final del Post)
Para los agentes económicos del mercado, la regulación propuesta por la Unión Europea, basada, fundamentalmente, en el riesgo de los distintos sistemas de IA, puede llegar a constituir una barrera o un límite a la innovación. De esta dicotomía que, principalmente, preocupa a empresas desarrolladoras de IA, (Innovación vs. Regulación basada en parámetros de riesgo), nacen los Regulatory Sandbox, de los que hablaremos y sobre los que reflexionaremos en esta cuarta Entrada del Blog. ¿Qué son? ¿Cuál es su origen? ¿Qué pueden aportar? ¿Cómo funcionan?… Son algunas de las preguntas a las que, a lo largo del Post, trataremos de dar respuesta.
2.- Los Regulatory Sandbox en la Propuesta Inicial de Reglamento de Inteligencia Artificial del PE. Art. 53.
El artículo 53 de la Propuesta del PE (en relación con los apartados 71, 72, 72a y 72b) bajo el Título (V) “Medidas para dar soporte a la Innovación”, recoge la obligación, dirigida a cada uno de los 27, de “establecer, al menos, un Sandbox Regulatorio de IA a nivel estatal, al tiempo que la regulación de IA sea aplicable en los Estados Miembro.”
Pero, ¿qué es y cómo funciona exactamente un Regulatory Sandbox? Se trata, como bien dice la Propuesta del Parlamento Europeo de IA en sus apartados 71 y ss., de un “espacio para experimentar”, y al mismo tiempo una manera de “facilitar el desarrollo y las pruebas de sistemas innovadores de Inteligencia Artificial bajo una estricta supervisión reglamentaria antes de su comercialización o puesta en servicio.” En Derecho Comparado, se trata de una práctica muy extendida, sobre todo, en los Estados Unidos. Por ejemplo: En 2018, se habilitaron determinadas carreteras en el estado de Arizona para que, bajo la supervisión y control de las autoridades, pudieran circular coches de conducción autónoma. (Compañías como Uber o Toyota se valieron de esta iniciativa del gobierno de Arizona para testear sus proyectos)
En un plano más teórico, Dragos Tudorache, eurodiputado del Grupo Renew Europe en el Parlamento Europeo, y miembro del Comisión de Libertades Civiles, Justicia y Asuntos de Interior, define los Regulatory Sandbox como grandes impulsores de la innovación tecnológica, que tienen, principalmente, 3 objetivos (¿Para qué sirven? ¿Cuál es su virtualidad?)
- Permitir y facilitar la interacción directa con la autoridad en un entorno cuya base la constituye una filosofía de ensayo-error.
- Llegar a un producto que dé confianza, tanto al desarrollador como al consumidor, con anterioridad de su puesta en el mercado.
- Garantizar el cumplimiento de las normas en materia de Inteligencia Artificial, detectando, especialmente, cuales son los riesgos que se derivan de la implantación de dichos sistemas, y evitando materializarlos.
Los objetivos sobre los que, ilustrativa y muy claramente, reflexiona Dragos Tudorache, están previstos en el apartado 72 de la Propuesta del Parlamento Europeo del Reglamento de IA, al decir que “los objetivos de los Regulatory Sandbox deben ser:
- Para las autoridades de establecimiento comprender mejor los avances técnicos, mejorar los métodos de supervisión y orientar a los desarrolladores y proveedores de sistemas de IA para lograr (efectivamente) el cumplimiento normativo del Reglamento, o en su caso, de otra legislación de la Unión y de los Estados Miembros, así como con la Carta de los Derechos Fundamentales.
- Para los proveedores y desarrolladores, permitir y facilitar el ensayo y desarrollo de soluciones innovadoras relacionados con los sistemas de IA.”
- Y, en general, fomentar “el desarrollo de soluciones innovadoras relacionadas con los sistemas de IA en la fase previa a la comercialización; aumentar la seguridad jurídica; permitir un mayor aprendizaje normativo estableciendo autoridades en un entorno controlado para desarrollar mejores orientaciones e identificar posibles mejoras futuras del marco jurídico a través del procedimiento legislativo ordinario”.
Los Regulatory Sandbox son, en definitiva, una suerte de “oasis normativos”, o si se prefiere, entornos normativamente más flexibles, en los que, bajo la supervisión de Autoridades de Control, y en una interacción y cooperación directa con ellos, se permiten prácticas de determinados Proyectos (bien de IA, bien de cualquier otra naturaleza) antes de su lanzamiento o comercialización. De esta manera, se fomenta la innovación, y las empresas y agentes del mercado pueden testear sus Proyectos, detectar debilidades de los mismos, y saber, de la mano de las Autoridades de Control, si su funcionamiento se adecúa a las disposiciones normativas vigentes en ese momento. Por decirlo de otra manera: Los Regulatory Sandbox son espacios que permiten a las empresas y agentes económicos no acudir “a ciegas” al mercado.
3. La propuesta de España. El borrador de Real-Decreto que establece un entorno controlado de pruebas en materia de Inteligencia Artificial (Sandbox)
El pasado 29 de mayo el Ministerio de Asuntos Económicos y Transformación Digital publicó un borrador de Real-Decreto, en el que se prevé un entorno controlado de pruebas (Sandbox), dirigido, fundamentalmente, a determinar como se van a aplicar, controlar, y en definitiva, utilizar, los sistemas de Inteligencia Artificial que el Reglamento IA (Propuesta del Parlamento Europeo) prevé en su articulado.
La Propuesta de Sandbox IA del Ministerio tiene como objeto “estudiar la operatividad de los requisitos establecidos en la propuesta de Reglamento europeo, así como la autoevaluación de cumplimiento y la prueba de sistemas de supervisión de los sistemas de inteligencia artificial de alto riesgo de los participantes durante su funcionamiento.” (Art. 1 del borrador Real-Decreto)
Entre otros, el borrador de Real-Decreto establece un procedimiento de acceso al espacio del entorno controlado de pruebas, abierto a los proveedores de sistemas de Inteligencia Artificial ubicados en España. (Arts. 6 y ss. RD, en los que se prevén figuras como “órgano instructor, etc.)
Además, el artículo 11 del texto establece una serie de requisitos que los sistemas de IA deberán cumplir para participar del sistema de Sandbox previsto, (en línea con lo que prevé la Propuesta de Reglamento de IA del PE) entre los que destacan especialmente, los siguientes:
- Establecimiento, implementación, documentación y mantenimiento de un sistema de gestión de riesgo que se refiera al proyecto de Inteligencia Artificial en cuestión.
- Registros automáticos de eventos. “Logs”.
- Instrucciones de uso del sistema de Inteligencia Artificial en formato electrónico, que además, deberán incluir información técnica, información sobre las características y prestaciones del sistema, etc. Todo ello de manera clara, actualizada, concisa, accesible y comprensible para los usuarios (finales) del sistema.
- Borrador RD Ministerio de Asuntos Económicos y Transformación Digital.
- Vídeo de Youtube: Dragos Tudorache & IA Act.
- Propuesta Reglamento IA PE.
Enlaces a Bibliografía:
- Borrador RD Ministerio de Asuntos Económicos y Transformación Digital: https://portal.mineco.gob.es/RecursosArticulo/mineco/ministerio/participacion_publica/audiencia/ficheros/Proyecto_RD_Sandbox_IA-1.pdf
- Vídeo de Youtube: Dragos Tudorache & IA Act: https://www.google.es/url?sa=i&rct=j&q=&esrc=s&source=web&cd=&ved=0CAIQw7AJahcKEwiYwILyq6T_AhUAAAAAHQAAAAAQAg&url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DBBmq4T_550U&psig=AOvVaw2rWm6reS_0ciepcCaNhlak&ust=1685786942988663
- Propuesta de Reglamento IA PE: https://www.europarl.europa.eu/resources/library/media/20230516RES90302/20230516RES90302.pdf
No hay comentarios:
Publicar un comentario