Los Regulatory Sandbox en la Propuesta Inicial de Reglamento de Inteligencia Artificial.

 

LOS REGULATORY SANDBOX EN LA PROPUESTA INICIAL DE REGLAMENTO DE INTELIGENCIA ARTIFICIAL DEL PARLAMENTO EUROPEO

Arnau Gómez Echeverría - Entrada Nº4.

1.- Introducción

    Hace no más de 3 semanas, el Parlamento Europeo (PE) alcanzó un compromiso sobre el borrador de enmiendas de la Propuesta inicial de Reglamento de Inteligencia Artificial. (Propuesta inicial de Reglamento IA, que os adjunto al final del Post)

    Para los agentes económicos del mercado, la regulación propuesta por la Unión Europea, basada, fundamentalmente, en el riesgo de los distintos sistemas de IA, puede llegar a constituir una barrera o un límite a la innovación. De esta dicotomía que, principalmente, preocupa a empresas desarrolladoras de IA, (Innovación vs. Regulación basada en parámetros de riesgo), nacen los Regulatory Sandbox, de los que hablaremos y sobre los que reflexionaremos en esta cuarta Entrada del Blog. ¿Qué son? ¿Cuál es su origen? ¿Qué pueden aportar? ¿Cómo funcionan?… Son algunas de las preguntas a las que, a lo largo del Post, trataremos de dar respuesta. 

2.- Los Regulatory Sandbox en la Propuesta Inicial de Reglamento de Inteligencia Artificial del PE. Art. 53.

    El artículo 53 de la Propuesta del PE (en relación con los apartados 71, 72, 72a y 72b) bajo el Título (V) “Medidas para dar soporte a la Innovación”, recoge la obligación, dirigida a cada uno de los 27, de “establecer, al menos, un Sandbox Regulatorio de IA a nivel estatal, al tiempo que la regulación de IA sea aplicable en los Estados Miembro.”

    Pero, ¿qué es y cómo funciona exactamente un Regulatory Sandbox? Se trata, como bien dice la Propuesta del Parlamento Europeo de IA en sus apartados 71 y ss., de un “espacio para experimentar”, y al mismo tiempo una manera de “facilitar el desarrollo y las pruebas de sistemas innovadores de Inteligencia Artificial bajo una estricta supervisión reglamentaria antes de su comercialización o puesta en servicio.” En Derecho Comparado, se trata de una práctica muy extendida, sobre todo, en los Estados Unidos. Por ejemplo: En 2018, se habilitaron determinadas carreteras en el estado de Arizona para que, bajo la supervisión y control de las autoridades, pudieran circular coches de conducción autónoma. (Compañías como Uber o Toyota se valieron de esta iniciativa del gobierno de Arizona para testear sus proyectos)

    En un plano más teórico, Dragos Tudorache, eurodiputado del Grupo Renew Europe en el Parlamento Europeo, y miembro del Comisión de Libertades Civiles, Justicia y Asuntos de Interior, define los Regulatory Sandbox como grandes impulsores de la innovación tecnológica, que tienen, principalmente, 3 objetivos (¿Para qué sirven? ¿Cuál es su virtualidad?) 

• Permitir y facilitar la interacción directa con la autoridad en un entorno cuya base la constituye una filosofía de ensayo-error. 

• Llegar a un producto que dé confianza, tanto al desarrollador como al consumidor, con anterioridad de su puesta en el mercado. 

• Garantizar el cumplimiento de las normas en materia de Inteligencia Artificial, detectando, especialmente, cuales son los riesgos que se derivan de la implantación de dichos sistemas, y evitando materializarlos.

Los objetivos sobre los que, ilustrativa y muy claramente, reflexiona Dragos Tudorache, están previstos en el apartado 72 de la Propuesta del Parlamento Europeo del Reglamento de IA, al decir que “los objetivos de los Regulatory Sandbox deben ser:

• Para las autoridades de establecimiento comprender mejor los avances técnicos, mejorar los métodos de supervisión y orientar a los desarrolladores y proveedores de sistemas de IA para lograr (efectivamente) el cumplimiento normativo del Reglamento, o en su caso, de otra legislación de la Unión y de los Estados Miembros, así como con la Carta de los Derechos Fundamentales. 

• Para los proveedores y desarrolladores, permitir y facilitar el ensayo y desarrollo de soluciones innovadoras relacionados con los sistemas de IA.”

• Y, en general, fomentar “el desarrollo de soluciones innovadoras relacionadas con los sistemas de IA en la fase previa a la comercialización; aumentar la seguridad jurídica; permitir un mayor aprendizaje normativo estableciendo autoridades en un entorno controlado para desarrollar mejores orientaciones e identificar posibles mejoras futuras del marco jurídico a través del procedimiento legislativo ordinario”. 

    Los Regulatory Sandbox son, en definitiva, una suerte de “oasis normativos”, o si se prefiere, entornos normativamente más flexibles, en los que, bajo la supervisión de Autoridades de Control, y en una interacción y cooperación directa con ellos, se permiten prácticas de determinados Proyectos (bien de IA, bien de cualquier otra naturaleza) antes de su lanzamiento o comercialización. De esta manera, se fomenta la innovación, y las empresas y agentes del mercado pueden testear sus Proyectos, detectar debilidades de los mismos, y saber, de la mano de las Autoridades de Control, si su funcionamiento se adecúa a las disposiciones normativas vigentes en ese momento. Por decirlo de otra manera: Los Regulatory Sandbox son espacios que permiten a las empresas y agentes económicos no acudir “a ciegas” al mercado. 

3. La propuesta de España. El borrador de Real-Decreto que establece un entorno controlado de pruebas en materia de Inteligencia Artificial (Sandbox)

    El pasado 29 de mayo el Ministerio de Asuntos Económicos y Transformación Digital publicó un borrador de Real-Decreto, en el que se prevé un entorno controlado de pruebas (Sandbox), dirigido, fundamentalmente, a determinar como se van a aplicar, controlar, y en definitiva, utilizar, los sistemas de Inteligencia Artificial que el Reglamento IA (Propuesta del Parlamento Europeo) prevé en su articulado.

    La Propuesta de Sandbox IA del Ministerio tiene como objeto “estudiar la operatividad de los requisitos establecidos en la propuesta de Reglamento europeo, así como la autoevaluación de cumplimiento y la prueba de sistemas de supervisión de los sistemas de inteligencia artificial de alto riesgo de los participantes durante su funcionamiento.” (Art. 1 del borrador Real-Decreto)

    Entre otros, el borrador de Real-Decreto establece un procedimiento de acceso al espacio del entorno controlado de pruebas, abierto a los proveedores de sistemas de Inteligencia Artificial ubicados en España. (Arts. 6 y ss. RD, en los que se prevén figuras como “órgano instructor, etc.) 

    Además, el artículo 11 del texto establece una serie de requisitos que los sistemas de IA deberán cumplir para participar del sistema de Sandbox previsto, (en línea con lo que prevé la Propuesta de Reglamento de IA del PE) entre los que destacan especialmente, los siguientes:  

• Establecimiento, implementación, documentación y mantenimiento de un sistema de gestión de riesgo que se refiera al proyecto de Inteligencia Artificial en cuestión.

• Registros automáticos de eventos. “Logs”.

• Instrucciones de uso del sistema de Inteligencia Artificial en formato electrónico, que además, deberán incluir información técnica, información sobre las características y prestaciones del sistema, etc. Todo ello de manera clara, actualizada, concisa, accesible y comprensible para los usuarios (finales) del sistema.

    Así, las inicativas en materia de Sandbox Regulatorios en los distintos Estados Miembros permitirán conectar a las autoridades competentes con las entidades desarrolladoras de inteligencia artificial para definir de forma conjunta buenas prácticas y obtener conclusiones que puedan servir de base para la implementación del futuro Reglamento europeo de Inteligencia Artificial.

Fuentes consultadas: (Links abajo)

- Borrador RD Ministerio de Asuntos Económicos y Transformación Digital. 

- Vídeo de Youtube: Dragos Tudorache & IA Act.

- Propuesta Reglamento IA PE. 

Enlaces a Bibliografía: 

- Borrador RD Ministerio de Asuntos Económicos y Transformación Digital: https://portal.mineco.gob.es/RecursosArticulo/mineco/ministerio/participacion_publica/audiencia/ficheros/Proyecto_RD_Sandbox_IA-1.pdf

- Vídeo de Youtube: Dragos Tudorache & IA Act: https://www.google.es/url?sa=i&rct=j&q=&esrc=s&source=web&cd=&ved=0CAIQw7AJahcKEwiYwILyq6T_AhUAAAAAHQAAAAAQAg&url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DBBmq4T_550U&psig=AOvVaw2rWm6reS_0ciepcCaNhlak&ust=1685786942988663 

- Propuesta de Reglamento IA PE: https://www.europarl.europa.eu/resources/library/media/20230516RES90302/20230516RES90302.pdf

La autoría en obras creadas por la Inteligencia Artificial.

    PROPIEDAD INTELECTUAL E INTELIGENCIA ARTIFICIAL

LA AUTORÍA EN OBRAS CREADAS POR LA INTELIGENCIA ARTIFICIAL

 

Arnau Gómez Echeverría. - Entrada Nº1. 

    Como no podía ser de otra manera, el fenómeno de la Inteligencia Artificial (IA) ha terminado explotando. Durante los primeros meses de 2023, se ha dado un boom mediático de esta tecnología, principalmente como consecuencia de la viralización del Software de OpenAI ChatGPT, que ha dado la vuelta al mundo.

    A pesar de este boom mediático (en mi opinión, algo tardío) la Inteligencia Artificial lleva planteando problemas de carácter jurídico desde hace ya varios años. En concreto, la cuestión que se tratará y analizará en esta primera entrada del Blog ocurrió en el año 2016, y a día de hoy, aún se discute, ya que es, cuanto menos, una cuestión interpretable: ¿A quién corresponde la autoría de una obra creada por un Software o Algoritmo de Inteligencia Artificial?

    En 2016, en el marco de un proyecto patrocinado por el banco ING y la tecnológica Microsoft, un Software programado con un Algoritmo de Inteligencia Artificial fue capaz de crear, mediante un sistema de píxeles, un retrato de Rembrandt Harmenszoon Van Rijn, el pintor más famoso e importante de la historia de Países Bajos. El algoritmo creado y programado por ING y Microsoft analizó, durante más de 18 meses, los datos de 346 obras de Rembrandt, y el resultado fue un retrato que constaba de 148 millones de píxeles, y se basaba en más de 168.000 fragmentos originales del artista neerlandés. 

    Y aquí es donde surge la pregunta: ¿A quién corresponde la autoría de una obra creada por un Software o un Algoritmo de Inteligencia Artificial? En este caso, ¿corresponde a ING y Microsoft? ¿Corresponde al Software de IA como sujeto de derecho independiente de las entidades que lo han programado? ¿Corresponde a Rembrandt, quien murió hace más de 350 años? ¿Es necesaria una reformulación del concepto de Autoría, tal y como la entiende la Ley de Propiedad Intelectual, como consecuencia del avance de tecnologías como la Inteligencia Artificial?

    De las preguntas planteadas nacen (al menos) 3 escenarios distintos: 

• Opción Jurídica A): Reconocer al Software o Algoritmo de Inteligencia Artificial como Autor de la obra creada, conforme al artículo 5 de la Ley de Propiedad Intelectual.

• Opción Jurídica B): No proteger mediante Derechos de Autor las obras creadas por un mecanismo o sistema de Inteligencia Artificial. 

• Opción Jurídica C): Hacer valer la protección “intermedia” del artículo 133 de la Ley de Propiedad Intelectual, que, en el ámbito de las Bases de Datos, otorga al fabricante de la misma un derecho sui generis, que protege, entre otros, la inversión sustancial, el tiempo empleado, y, lo que es más importante, prohíbe la extracción y/o reutilización de la totalidad o de una parte sustancial del contenido de la Base de Datos (en este caso, del Algoritmo en sí mismo)

    A pesar de que sea una cuestión interpretable, discutible y opinable, los distintos cuerpos normativos (internacionales, comunitarios y estatales, que a continuación se analizan mínimamente) se inclinan, de momento, por la Opción Jurídica B): No proteger mediante Derechos de Autor las obras creadas por un mecanismo o sistema de Inteligencia Artificial. 

1. Convenio de Berna para la protección de las Obras Literarias y Artísticas, de 9 de septiembre de 1886.

El artículo 3 del Convenio habla de “nacionalidad”, entendiéndose, por tanto, que el Convenio protege obras creadas por Personas Físicas (máxime teniendo en consideración que, en 1886, era prácticamente imposible imaginar que “algo” que no fuera una Persona Física pudiera llegar a crear una obra) 

    2.  Ley de Propiedad Intelectual.

El artículo 5 de la Ley de Propiedad Intelectual contempla como autor de una obra a una persona natural.

Además, el artículo 10 de la LPI exige el requisito de la originalidad para que una obra sea susceptible de ser protegida por vía de la Propiedad Intelectual. ¿Es realmente original una creación artística que, si bien es nueva, parte directamente de fragmentos y obras ya existentes?

Al margen de estas dos circunstancias, el hecho de aceptar que el Software o Algoritmo de IA merece la condición de autor del Rembrandt, como sujeto independiente, generaría problemas a la hora de reconocer los Derechos Morales que dimanan de la obra, ya que, ex art. 14 LPI se trata de derechos personalísimos. 

     3. Derecho Comparado. 

Como norma general, la mayoría de países de la Comunidad Internacional (Francia, Alemania, Italia, Portugal, etc.) están operando de igual manera, y de momento, no reconocen protección vía Propiedad Intelectual a obras que no sean de creación humana. 

No obstante, en Reino Unido se configura una suerte de “protección intermedia” (una especie de art. 133 LPI, que ha sido puesto de manifiesto anteriormente), vía artículo 9.3 de la Copyright Design and Patent Act, de 1988. En el ámbito de los Computer Created Works, la norma reconoce como autores a aquellos que hayan creado “arreglos necesarios” (necessary arrangements)

     4. Normativa Comunitaria. Directiva 2009/24/CE. “Directiva Software”.

El artículo 2.1 de la referenciada Directiva vincula el concepto de autor, únicamente, a personas físicas. 

  

    Concluyendo…

    No hay (por el momento) ningún texto legal, ni internacional, ni comunitario, ni estatal, que reconozca como autor de una obra original a un Software o Algoritmo de Inteligencia Artificial, lo que supone, (también de momento) una desprotección de estas obras vía Propiedad Intelectual/Derechos de Autor. 

    Además, la Propuesta de Resolución del Parlamento Europeo, de 2 de octubre de 2020, sobre derechos de Propiedad Intelectual para el desarrollo de tecnologías relativas a la Inteligencia Artificial descarta dotar de personalidad jurídica propia a las Tecnologías de IA, descartando, a su vez, la protección de las obras creadas por las mismas mediante Derechos de Autor, al no cumplirse (dice la UE) el requisito de originalidad (art. 10 LPI) que sólo es apreciable en Personas Físicas. 

    A pesar de que esta primera entrada del Blog se haya centrado en un tipo de obra muy concreto (un cuadro de Rembrandt, creado por una IA de ING y Microsoft), lo expuesto es igualmente aplicable a un poema redactado por Chat GPT, una receta elaborada por un Software de Inteligencia Artificial o un libro escrito por un Algoritmo entrenado para ello. 

    La desprotección de obras creadas por IA tiene los días contados. El constante avance de esta tecnología, las distintas posibilidades que ofrece, y sobre todo, lo accesible que en un futuro será la IA, son factores que provocarán la intervención de las instituciones, y la configuración de una protección de las creaciones inteligentes, que, en mi opinión, consistirá en una suerte de “protección intermedia” como la que ya prevé el sistema anglosajón, y que en España (y en el conjunto de la Unión Europea) podría articularse sobre herramientas ya existentes, como el artículo 133 de la Ley de Propiedad Intelectual. 

Fuente: El País.