Real Decreto 817/2023, de 8 de noviembre, que establece un entorno controlado de pruebas para el ensayo del cumplimiento de la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial

• Expandir / Contraer 韓dice sistem醫ico
• INTRODUCCION
• T蚑ULO PRELIMINAR.�Disposiciones generales
  • Art韈ulo 1燨bjeto
  • Art韈ulo 2犃mbito de aplicaci髇
  • Art韈ulo 3燚efiniciones
• T蚑ULO I.�Participaci髇 en el entorno controlado de pruebas
  • CAP蚑ULO I.�Disposiciones generales
    • Art韈ulo 4燫間imen jur韉ico
    • Art韈ulo 5燫equisitos de elegibilidad para la participaci髇 en el entorno
  • CAP蚑ULO II.�Procedimiento de admisi髇 en el entorno controlado de pruebas
    • Art韈ulo 6燙onvocatorias para el entorno controlado de pruebas
    • Art韈ulo 7燬olicitud de participaci髇 en el entorno controlado de pruebas
    • Art韈ulo 8燰aloraci髇 de las solicitudes
    • Art韈ulo 9燩ropuesta de resoluci髇
    • Art韈ulo 10燫esoluci髇
  • CAP蚑ULO III.�Desarrollo de las pruebas, validaci髇 del cumplimiento, seguimiento e incidencias
    • Art韈ulo 11燙umplimiento de requisitos durante el desarrollo de las pruebas
    • Art韈ulo 12燚esarrollo de las pruebas por los participantes
    • Art韈ulo 13燚eclaraci髇 de cumplimiento de los requisitos
    • Art韈ulo 14燬eguimiento posterior a la comercializaci髇
    • Art韈ulo 15燙omunicaci髇 de incidencias
  • CAP蚑ULO IV.�Garant韆s y responsabilidad de los participantes
    • Art韈ulo 16燩rotecci髇 de datos personales y observancia de los derechos de propiedad intelectual
    • Art韈ulo 17燫esponsabilidad de los participantes en el entorno
    • Art韈ulo 18燝arant韆s de confidencialidad
    • Art韈ulo 19燤odificaciones estructurales o en los sistemas de inteligencia artificial
  • CAP蚑ULO V.�Canales de comunicaci髇, obtenci髇 de Informaci髇, refinamiento de gu韆s y otros documentos del entorno controlado de pruebas
    • Art韈ulo 20燙anales de comunicaci髇
    • Art韈ulo 21燨btenci髇 de informaci髇 sobre el desarrollo del entorno
    • Art韈ulo 22燗ctualizaci髇, redacci髇 de gu韆s y otros documentos
  • CAP蚑ULO VI.�Finalizaci髇 del entorno controlado de pruebas
    • Art韈ulo 23燜inalizaci髇 de la participaci髇 en el entorno
    • Art韈ulo 24燫etirada voluntaria de los participantes
    • Art韈ulo 25燜inalizaci髇 anticipada de las pruebas
• T蚑ULO II.�Participaci髇 y coordinaci髇 de otras entidades
  • Art韈ulo 26燙olaboraci髇 entre autoridades
  • Art韈ulo 27燝rupo de personas asesoras expertas
  • Art韈ulo 28燩articipaci髇 de personas jur韉icas privadas, administraciones p鷅licas y entidades del sector p鷅lico institucional como usuarias de un sistema de inteligencia artificial
  • Art韈ulo 29燙olaboraci髇 de entidades observadoras
  • Art韈ulo 30燙oordinaci髇 con organismos de normalizaci髇 espa駉les, europeos e internacionales
• DISPOSICIONES ADICIONALES
  • Disposici髇 adicional primera燤edios a disposici髇 del entorno controlado de pruebas
  • Disposici髇 adicional segunda燫esultado del entorno controlado de pruebas
• DISPOSICIONES FINALES
  • Disposici髇 final primera燭韙ulo competencial
  • Disposici髇 final segunda燛ntrada en vigor y vigencia
• ANEXO I.燩ropuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial
• ANEXO II.燣istado de 醨eas de sistemas de inteligencia artificial de alto riesgo espec韋icos
• ANEXO III.燙ontenido m韓imo de la Memoria T閏nica para la solicitud de participaci髇 en el entorno
• ANEXO IV.燚eclaraci髇 responsable de cumplimiento del principio de responsabilidad proactiva en materia de protecci髇 de datos
• ANEXO V.燚ocumentaci髇 que se podr� requerir para cumplimiento de la normativa del tratamiento de datos de car醕ter personal
• ANEXO VI.燚ocumentaci髇 T閏nica a presentar a la finalizaci髇 de la implantaci髇 de los requisitos
• ANEXO VII.燣ista de legislaci髇 de la Uni髇 Europea basada en el nuevo marco legislativo

Art韈ulo 1 Objeto

1. El presente real decreto tiene por objeto establecer un entorno controlado de pruebas para ensayar el cumplimiento de ciertos requisitos por parte de algunos sistemas de inteligencia artificial que puedan suponer riesgos para la seguridad, la salud y los derechos fundamentales de las personas. Asimismo, se regula el procedimiento de selecci髇 de los sistemas y entidades que participar醤 en el entorno controlado de pruebas�.

Art韈ulo 2 羗bito de aplicaci髇

El presente real decreto es de aplicaci髇 tanto a las administraciones p鷅licas y entidades del sector p鷅lico institucional, tal y como se define en el art韈ulo 3.14, como a entidades privadas seleccionadas en el entorno controlado de pruebas de inteligencia artificial.

Art韈ulo 3 Definiciones

A efectos de lo previsto en este real decreto, ser醤 de aplicaci髇 las siguientes definiciones:

• 1. rgano competente�: Secretar韆 de Estado de Digitalizaci髇 e Inteligencia Artificial.
• 2. 獷ntorno controlado de pruebas o experiencia�: entorno o experiencia, con una duraci髇 determinada, que proporciona un contexto estructurado para el desarrollo de las actuaciones necesarias que posibiliten a proveedores y usuarios de los sistemas de inteligencia artificial de alto riesgo, sistemas de prop髎ito general y modelos fundacionales que realicen las pruebas necesarias para la implementaci髇 de los requisitos establecidos en este real decreto, bajo la supervisi髇 del 髍gano competente.
• 3. 玈istema de inteligencia artificial�: sistema dise馻do para funcionar con un cierto nivel de autonom韆 y que, bas醤dose en datos de entradas proporcionadas por m醧uinas o por personas, infiere c髆o lograr un conjunto de objetivos establecidos utilizando estrategias de aprendizaje autom醫ico o basadas en la l骻ica y el conocimiento, y genera informaci髇 de salida, como contenidos (sistemas de inteligencia artificial generativos), predicciones, recomendaciones o decisiones, que influyan en los entornos con los que interact鷄.
• 4. 玈istema de inteligencia artificial de alto riesgo�: sistema de inteligencia artificial que cumpla alguno de los siguientes supuestos:
  • a) Un sistema de inteligencia artificial que constituya un producto regulado por la legislaci髇 de armonizaci髇 de la Uni髇 especificada en el anexo VII del presente real decreto se considerar� de alto riesgo si debe someterse a una evaluaci髇 de la conformidad por un tercero con vistas a la introducci髇 en el mercado o puesta en servicio de dicho producto con arreglo a la legislaci髇 mencionada.
  • b) Un sistema de inteligencia artificial que vaya a ser utilizado como un componente que cumple una funci髇 de seguridad y cuyo fallo o defecto de funcionamiento pone en peligro la salud y la seguridad de las personas o los bienes en un producto regulado por una norma armonizada de la Uni髇 Europea, si debe someterse a una evaluaci髇 de conformidad por parte de un tercero con vistas a la introducci髇 en el mercado o puesta en servicio de dicho producto con arreglo a la legislaci髇 de armonizaci髇 aplicable. Este supuesto ser� aplicable, aunque el sistema de inteligencia artificial se comercialice o se ponga en servicio independientemente del producto.
  • c) Sistemas de inteligencia artificial mencionados en el anexo II, siempre que la respuesta del sistema sea relevante respecto a la acci髇 o decisi髇 a tomar, y pueda, por tanto, provocar un riesgo significativo para la salud, los derechos de las personas trabajadoras en el 醡bito laboral o la seguridad o los derechos fundamentales.
• 5. 玈istema de inteligencia artificial de prop髎ito general�: sistema de inteligencia artificial que, independientemente de la modalidad en la que se comercialice o se ponga en servicio, incluso como software de c骴igo abierto, est� destinado por el proveedor del sistema a realizar funciones de aplicaci髇 general, como el reconocimiento de texto, im醙enes y del habla; la generaci髇 de textos, audios, im醙enes y/o v韉eos; detecci髇 de patrones; respuesta a preguntas; traducci髇 y otras.
• 6. 玀odelo fundacional�: es un modelo de inteligencia artificial entrenado en una gran cantidad de datos no etiquetados a escala (generalmente mediante aprendizaje autosupervisado y/o con recopilaci髇 autom醫ica de contenido y datos a trav閟 de internet mediante programas inform醫icos) que da como resultado un modelo que se puede adaptar a una amplia gama de tareas posteriores.
• 7. 玃roveedor de sistemas de Inteligencia Artificial�, en adelante 玃roveedor IA�: Toda persona jur韉ica privada, entidad del sector p鷅lico en Espa馻, u organismo de otra 韓dole, que ha desarrollado o para quien se ha desarrollado un sistema de inteligencia artificial, y que lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca comercial, ya sea de forma onerosa o gratuita. El proveedor AI ser� designado de las formas indicadas a continuaci髇 seg鷑 la fase del proceso en la que se encuentre.
  • a) 玃roveedor IA solicitante�: proveedor IA que ha solicitado la admisi髇 en el entorno controlado de pruebas.
  • b) 玃roveedor IA participante�: proveedor IA que ha sido admitido en el entorno controlado de pruebas.
• 8. 玌suario�: las personas jur韉icas privadas o las administraciones p鷅licas y entidades del sector p鷅lico institucional en Espa馻 bajo cuya autoridad se utilice un sistema de inteligencia artificial. El usuario ser� designado de las formas indicadas a continuaci髇 seg鷑 la fase del proceso en la que se encuentre.
  • a) 玌suario solicitante�: usuario del sistema de inteligencia artificial que ha solicitado su admisi髇 en el entorno controlado de pruebas.
  • b) 玌suario participante�: usuario del sistema de inteligencia artificial que ha sido admitido en el entorno controlado de pruebas y que participa juntamente con el proveedor IA en dicho entorno.
• 9. 獳utoevaluaci髇 de cumplimiento�: procedimiento de verificaci髇 del cumplimiento de los requisitos, del sistema de gesti髇 de la calidad, de la documentaci髇 t閏nica y del plan de seguimiento posterior a la comercializaci髇, todos ellos detallados en este real decreto, realizados por el proveedor IA y en su caso, por el usuario, y que puede servir como referencia para la evaluaci髇 de conformidad que define la propuesta del Reglamento europeo por el que se establecen normas armonizadas en materia de inteligencia artificial. La autoevaluaci髇 de cumplimiento se circunscribe al 醡bito de este entorno, sin que suponga la equiparaci髇 a la superaci髇 de evaluaciones de conformidad exigidas en otras legislaciones espec韋icas, en particular en la propuesta del Reglamento europeo de Inteligencia Artificial.
• 10. 獵omercializaci髇�: todo suministro de un sistema de inteligencia artificial para su distribuci髇 o utilizaci髇 en el mercado de la Uni髇 Europea en el transcurso de una actividad comercial, ya se produzca el suministro de manera onerosa o gratuita.
• 11. 獻ntroducci髇 en el mercado�: la primera comercializaci髇 en el mercado de la Uni髇 Europea de un sistema de inteligencia artificial.
• 12. 玃uesta en servicio�: el suministro de un sistema de inteligencia artificial para su primer uso ya sea directamente por el usuario o para uso propio, en la Uni髇 Europea de acuerdo con su finalidad prevista.
• 13. 玃eque馻 y mediana empresa (pyme)�: se aplica la definici髇 de pyme contenida en el art韈ulo 2 del Anexo I del Reglamento (UE) 651/2014 de la Comisi髇, de 17 de junio de 2014 por el que se declaran determinadas categor韆s de ayudas compatibles con el mercado interior en aplicaci髇 de los art韈ulos 107 y 108 del Tratado.
• 14. 獳dministraciones p鷅licas y entidades del sector p鷅lico institucional�: comprende a las distintas administraciones p鷅licas y entidades del sector p鷅lico institucional seg鷑 la definici髇 contenida en el art韈ulo 2 de la Ley 40/215, de 1 octubre, de R間imen Jur韉ico del Sector P鷅lico.
• 15. 獷mpresa emergente�: se aplica la definici髇 contenida en el art韈ulo 3 de la Ley 28/2022, de 21 de diciembre de 2022, de fomento del ecosistema de las empresas emergentes.
• 16. 獻ncidente�: no cumplimiento de determinados procedimientos sin consecuencias lesivas.

Art韈ulo 4 R間imen jur韉ico

1. La evaluaci髇 y adecuaci髇 de los sistemas de inteligencia artificial en el marco del entorno controlado de pruebas para ensayar la implantaci髇 de los requisitos se regir� de conformidad con lo dispuesto en este real decreto y en las convocatorias aprobadas al amparo de 閟te, as� como en toda la normativa que por su naturaleza sea de aplicaci髇.

2. En caso de que un sistema de inteligencia artificial est� regulado por una legislaci髇 sectorial espec韋ica y no haya sido introducido en el mercado o puesto en servicio con car醕ter previo a la solicitud de su participaci髇 en el entorno controlado de pruebas, su participaci髇 en 閘 no exime del cumplimiento de que el sistema de inteligencia artificial deba superar la evaluaci髇 de conformidad de acuerdo con la legislaci髇 espec韋ica previo a que el sistema de inteligencia artificial sea puesto en el mercado. A este respecto, en el caso del tratamiento de datos personales deber� seguir lo establecido en el art韈ulo 16 del presente real decreto.

3. Los proveedores IA participantes y los usuarios participantes en el entorno controlado de pruebas no recibir醤 ning鷑 tipo de contraprestaci髇 econ髆ica o en especie.

4. El real decreto no supone la alteraci髇 de las competencias de las autoridades p鷅licas.

Art韈ulo 5 Requisitos de elegibilidad para la participaci髇 en el entorno

1. La participaci髇 en el entorno controlado de pruebas est� abierta a aquellos proveedores IA y usuarios residentes en Espa馻 o que tengan un establecimiento permanente en Espa馻, o bien, sean parte de una agrupaci髇 de entidades, donde el representante de la agrupaci髇 o apoderado 鷑ico siendo integrante de 閟ta, sea la entidad solicitante y cuyo domicilio o establecimiento principal se encuentre necesariamente en territorio espa駉l a los efectos del art韈ulo 9 del Texto Refundido de la Ley de Sociedades de Capital, aprobado por el Real Decreto Legislativo 1/2010, de 2 de julio.

2. Podr醤 acceder este entorno, en calidad de usuario participante, las personas jur韉icas privadas y administraciones p鷅licas y entidades del sector p鷅lico institucional del apartado 1 que hagan uso de un sistema de inteligencia artificial de alto riesgo, sistemas de prop髎ito general, o modelos fundacionales, conforme se definen en el art韈ulo 3, siempre que el correspondiente proveedor IA acceda conjuntamente al entorno con el usuario participante.

3. El proveedor IA solicitante presentar� su solicitud de participaci髇 con uno o varios sistemas de inteligencia artificial, conforme a las condiciones previstas en la correspondiente convocatoria y de acuerdo con el art韈ulo 7 siempre y cuando 閟tos pertenezcan a categor韆s distintas (sistemas de alto riesgo, sistemas de prop髎ito general y modelos fundacionales). La solicitud se realizar� de forma electr髇ica, seg鷑 dispone el art韈ulo 14.2 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Com鷑 de las Administraciones P鷅licas. El 髍gano competente seleccionar� un 鷑ico sistema de inteligencia artificial con el que ser� admitido a participar en el entorno controlado de pruebas.

4. El proveedor IA solicitante podr� presentar una o varias propuestas de sistema de inteligencia artificial de alto riesgo, de prop髎ito general, o modelo fundacional. Estos sistemas podr醤 ser nuevos desarrollos o sistemas ya establecidos. A la vez, dichos sistemas de inteligencia artificial deben haber alcanzado un nivel de desarrollo suficientemente avanzado como para poder comercializarse o ponerse en servicio dentro del marco temporal del entorno controlado de pruebas o a su finalizaci髇. La solicitud se rechazar� si el sistema de inteligencia artificial propuesto no est� suficientemente maduro.

5. En su caso, para aquellos sistemas de inteligencia artificial que hagan uso o tratamiento de datos personales deber醤 cumplir la normativa de protecci髇 de datos recogida en el art韈ulo 16 del presente real decreto.

6. Los sistemas de inteligencia artificial propuestos por los proveedores IA solicitantes no podr醤 estar incluidos en los siguientes supuestos:

• a) Sistemas de inteligencia artificial comercializados o puestos en servicio para actividades militares, de defensa o seguridad nacional, cualquiera que sea la entidad que desarrolle esas actividades.
• b) Sistemas de inteligencia artificial que se sirvan de t閏nicas subliminales que trasciendan la consciencia de una persona con el objetivo o el efecto de alterar efectivamente su comportamiento de un modo que provoque o pueda provocar, con probabilidad razonable, perjuicios f韘icos o psicol骻icos a esa persona o a otra.
• c) Sistemas de inteligencia artificial que aprovechen alguna de las vulnerabilidades de un grupo espec韋ico de personas debido a su edad o discapacidad o una situaci髇 social o econ髆ica espec韋ica con el objetivo o el efecto de alterar efectivamente el comportamiento de una persona de ese grupo de un modo que provoque o pueda provocar, con probabilidad razonable, perjuicios f韘icos o psicol骻icos a esa persona o a otra.
• d) Sistemas de inteligencia artificial que tengan el fin de evaluar o clasificar personas f韘icas durante un per韔do determinado de tiempo atendiendo a su conducta social o a caracter韘ticas personales o de su personalidad conocidas o predichas, de forma que la clasificaci髇 social resultante provoque una o varias de las situaciones siguientes:
  • 1.� Un trato perjudicial o desfavorable hacia determinadas personas f韘icas o colectivos en contextos sociales que no guarden relaci髇 con los contextos donde se generaron o recabaron los datos originalmente.
  • 2.� Un trato perjudicial o desfavorable hacia determinadas personas f韘icas o colectivos que sea injustificado o desproporcionado con respecto a su comportamiento social o la gravedad de este.
• e) Sistemas de identificaci髇 biom閠rica remota 玡n tiempo real� para su uso en espacios de acceso p鷅lico con fines de aplicaci髇 de la ley, salvo y en la medida en que dicho uso sea estrictamente necesario para alcanzar uno o varios de los objetivos siguientes:
  • 1.� La b鷖queda selectiva de posibles v韈timas concretas de un delito, incluido personas menores desaparecidos.
  • 2.� La prevenci髇 de una amenaza espec韋ica, importante e inminente para la vida o la seguridad f韘ica de las personas f韘icas, para infraestructuras cr韙icas, o un atentado terrorista.
  • 3.� La detenci髇, la localizaci髇, la identificaci髇 o el enjuiciamiento de la persona que ha cometido o se sospecha que ha cometido alguno de los delitos mencionados en el art韈ulo 2, apartado 2, de la Decisi髇 marco 584/2002/JAI del Consejo, para el que la normativa en vigor en el Estado miembro implicado imponga una pena o una medida de seguridad privativas de libertad cuya duraci髇 m醲ima sea al menos tres a駉s, seg鷑 determine el Derecho de dicho Estado miembro.

Art韈ulo 6 Convocatorias para el entorno controlado de pruebas

1. Las convocatorias para la participaci髇 en dicho entorno se aprobar醤 mediante resoluci髇 de la persona titular de la Secretar韆 de Estado de Digitalizaci髇 e Inteligencia Artificial. Las convocatorias se publicar醤 en el portal web del 髍gano competente. El plazo m醲imo para la presentaci髇 de las solicitudes ser� de veinte d韆s h醔iles desde el d韆 siguiente a la publicaci髇 de la convocatoria.

2. La convocatoria de participaci髇 en el entorno controlado de pruebas especificar� el n鷐ero de sistemas de inteligencia artificial seleccionados, la duraci髇 del entorno controlado de pruebas, las condiciones para la participaci髇 conforme a los requisitos del real decreto, los criterios que se tendr醤 en cuenta para la evaluaci髇 de solicitudes as� como el peso de los mismos, el plazo para la presentaci髇 de las solicitudes, los canales de comunicaci髇, as� como el modelo unificado de solicitud y la documentaci髇 necesaria para presentar la solicitud.

Art韈ulo 7 Solicitud de participaci髇 en el entorno controlado de pruebas

1. La participaci髇 en el entorno controlado de pruebas requerir� la previa presentaci髇 de solicitud de acuerdo a lo establecido en este real decreto y a la correspondiente convocatoria.

2. Solo ser醤 tenidas en cuenta las solicitudes presentas de acuerdo con el modelo que acompa馻ra a la convocatoria de participaci髇 en el entorno.

3. Las solicitudes se presentar醤 a trav閟 del registro electr髇ico accesible en la sede electr髇ica asociada del Ministerio de Asuntos Econ髆icos y Transformaci髇 Digital y deber醤 ir acompa馻das de: una memoria t閏nica que deber� contemplar el contenido previsto en el anexo III y una declaraci髇 responsable que acredite el cumplimiento de la normativa relativa a la Protecci髇 de Datos Personales seg鷑 el anexo IV.

4. Las personas jur韉icas privadas o administraciones p鷅licas y entidades del sector p鷅lico institucional en Espa馻 que sean usuarias de un sistema de inteligencia artificial de alto riesgo o sistemas de prop髎ito general o modelos fundacionales, podr醤 acordar con el proveedor IA de dicho sistema la participaci髇 conjunta en este entorno. Sin embargo, para participar, deber醤 realizar su correspondiente solicitud de participaci髇, indicando en ella al proveedor de IA con el que participar� en el entorno.

5. Transcurrido el plazo para la presentaci髇 de solicitudes, si se observa que alguna de las solicitudes no cumple con los requisitos estipulados en este real decreto y en la correspondiente convocatoria, se requerir� al interesado o interesada para que en un plazo de diez d韆s subsane la falta o acompa馿 los documentos preceptivos. Si as� no lo hiciera, se le tendr� por desistido de su petici髇 previa resoluci髇 dictada en los t閞minos previstos en el art韈ulo 21 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Com鷑 de las Administraciones P鷅licas.

Art韈ulo 8 Valoraci髇 de las solicitudes

1. El 髍gano competente para la instrucci髇 del procedimiento es la Subdirecci髇 General de Inteligencia Artificial y Tecnolog韆s Habilitadoras Digitales con el apoyo de la Oficina del Dato dependiente de la Secretar韆 de Estado de Digitalizaci髇 e Inteligencia Artificial. Les corresponder� la evaluaci髇 de las solicitudes presentadas para la participaci髇 en el entorno.

2. Se proceder� a la evaluaci髇 de las solicitudes para la participaci髇 en el entorno, evalu醤dose para cada uno de los sistemas de inteligencia artificial recibidos, lo siguiente:

• a) Grado de innovaci髇 o complejidad tecnol骻ica del producto o servicio.
• b) Grado de impacto social, empresarial o de inter閟 p鷅lico que presenta el sistema de inteligencia artificial propuesto.
• c) Grado de explicabilidad y transparencia del algoritmo incluido en el sistema de inteligencia artificial presentado.
• d) Alineamiento de la entidad y el sistema de inteligencia artificial con la Carta de Derechos Digitales del Gobierno de Espa馻.
• e) Tipolog韆 de alto riesgo del sistema de inteligencia artificial, buscando una representaci髇 variada de tipolog韆s en la selecci髇.
• f) Cuando se trate de sistemas de inteligencia artificial de prop髎ito general, se evaluar� tambi閚 su potencial de ser transformados en un sistema de inteligencia artificial de alto riesgo.
• g) Cuando se trate de modelos fundacionales de inteligencia artificial se evaluar� la capacidad de despliegue y utilizaci髇, as� como el impacto relativo o absoluto en la econom韆 y sociedad.
• h) El grado de madurez del sistema de inteligencia artificial, considerando que ha de estar lo suficientemente avanzado como para ser puesto en servicio o en el mercado en el marco temporal del entorno controlado de pruebas o a su finalizaci髇. Se buscar� una representaci髇 variada de madurez de los sistemas de inteligencia artificial.
• i) La calidad de la memoria t閏nica.
• j) El tama駉 o tipolog韆 del proveedor IA solicitante, seg鷑 n鷐ero de trabajadores o volumen de negocios anual, valor醤dose positivamente la condici髇 de empresa emergente, peque馻 o mediana empresa para garantizar una mayor diversidad de tipolog韆s de empresas participantes. Se buscar� una representaci髇 variada de tama駉 y tipolog韆 de proveedor IA en la selecci髇.
• k) Y en su caso, la evaluaci髇 de la declaraci髇 responsable que acredite el cumplimiento de la norma relativa a la Protecci髇 de Datos Personales. De igual forma se podr� solicitar documentaci髇 acreditativa adicional seg鷑 recoge el anexo V del presente real decreto.

Art韈ulo 9 Propuesta de resoluci髇

1. El 髍gano instructor, previa valoraci髇 de las solicitudes y conforme a lo estipulado en el art韈ulo anterior, efectuar� la propuesta de resoluci髇 motivada.

2. La propuesta de resoluci髇 ser� notificada a los interesados de acuerdo con lo establecido en el art韈ulo 43 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Com鷑 de las Administraciones P鷅licas.

Las notificaciones se pondr醤 a disposici髇 del interesado o interesada a trav閟 de la Direcci髇 Electr髇ica Habilitada 鷑ica (DEH�). Asimismo, se podr醤 notificar en su sede electr髇ica o sede electr髇ica asociada de forma complementaria a la puesta a disposici髇 en la Direcci髇 Electr髇ica Habilitada 趎ica.

3. Los proveedores IA solicitantes y, en su caso, usuarios solicitantes podr醤 presentar en el plazo de diez d韆s h醔iles a contar desde la notificaci髇 de la propuesta las alegaciones oportunas.

Art韈ulo 10 Resoluci髇

1. Recibidas las alegaciones o transcurrido el plazo para ello sin que se hayan formulado, el 髍gano competente dictar� resoluci髇 motivada conforme a lo previsto en el art韈ulo 21.2 Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Com鷑 de las Administraciones P鷅licas.

2. El 髍gano competente para resolver y notificar ser� la persona titular de la Secretar韆 de Estado de Digitalizaci髇 e Inteligencia Artificial, en el plazo m醲imo de sesenta d韆s h醔iles contando desde la fecha de publicaci髇 de la convocatoria.

Las notificaciones se practicar醤 por medios electr髇icos de acuerdo con lo previsto en el art韈ulo 43 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Com鷑 de las Administraciones P鷅licas. Las notificaciones se pondr醤 a disposici髇 del interesado o interesada a trav閟 de la Direcci髇 Electr髇ica Habilitada 鷑ica (DEH�). Asimismo, se podr醤 notificar en su sede electr髇ica o sede electr髇ica asociada de forma complementaria a la puesta a disposici髇 en la Direcci髇 Electr髇ica Habilitada 趎ica.

3. El vencimiento del plazo de resoluci髇 sin que se haya dictado o notificado resoluci髇 expresa habilita que los interesados entiendan desestimadas sus pretensiones por silencio administrativo de acuerdo con el art韈ulo 25.1 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Com鷑 de las Administraciones P鷅licas. La resoluci髇 pone fin a la v韆 administrativa de acuerdo con el art韈ulo 114.2 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Com鷑 de las Administraciones P鷅licas. Contra la resoluci髇 expresa podr� interponerse recurso potestativo de reposici髇 ante el mismo 髍gano que la haya dictado o bien impugnarse directamente ante la Jurisdicci髇 Contencioso-administrativa de acuerdo con lo previsto en la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Com鷑 de las Administraciones P鷅licas y en la Ley 29/1998, de 13 de julio, reguladora de la Jurisdicci髇 Contencioso administrativa.

Art韈ulo 11 Cumplimiento de requisitos durante el desarrollo de las pruebas

1. La participaci髇 en el entorno controlado de pruebas tendr� como objetivo cumplir, durante el transcurso de este, con la implementaci髇 de los siguientes requisitos en los sistemas de inteligencia artificial por parte de los proveedores IA participantes, en base a las especificaciones facilitadas por el 髍gano competente. Estos requisitos son:

• a) El establecimiento, implementaci髇, documentaci髇 y mantenimiento de un sistema de gesti髇 de riesgo relativo al sistema de inteligencia artificial en cuesti髇.
• b) En caso de sistemas de inteligencia artificial que impliquen entrenamientos con datos, se garantizar� que el desarrollo se ha realizado o se realizar� sobre conjuntos de datos de entrenamiento, validaci髇 y pruebas que cumplan los criterios de calidad especificados sobre la base de las indicaciones proporcionadas por el 髍gano competente.
• c) La documentaci髇 t閏nica del sistema de inteligencia artificial, indicada en el anexo VI del presente real decreto, se elaborar� conforme a las especificaciones que facilitar� el 髍gano competente. Esta documentaci髇 deber� actualizarse a lo largo de la duraci髇 del entorno controlado de pruebas.
• d) Los sistemas de inteligencia artificial deber醤 t閏nicamente permitir el registro autom醫ico de eventos (logs) a lo largo del ciclo de vida del sistema. Estos registros ser醤 guardados por el participante.
• e) El sistema de inteligencia artificial habr� sido o ser� dise馻do y desarrollado de manera que se asegure que su operaci髇 es suficientemente transparente para los usuarios del sistema a efectos de interpretar los resultados de este y evitando generar sesgos discriminatorios para un uso adecuado del mismo.
• f) El sistema de inteligencia artificial ir� acompa馻do de instrucciones de uso en formato electr髇ico, que incluyan informaci髇 sobre las caracter韘ticas y prestaciones del sistema que sea concisa, completa, correcta, actualizada, clara, relevante, accesible y comprensible para los usuarios del sistema.
• g) Los sistemas de inteligencia artificial habr醤 sido o ser醤 dise馻dos y desarrollados de manera que puedan ser supervisados por personas f韘icas durante los periodos en que est� en uso. Contendr� interfaces humano-m醧uina apropiadas a tal efecto. En caso de que por las caracter韘ticas del sistema de inteligencia artificial dicha supervisi髇 no pueda ocurrir en tiempo real, deber� quedar recogido en las comunicaciones relacionadas con la transparencia del sistema.
• h) Los sistemas de inteligencia artificial habr醤 sido o ser醤 dise馻dos y desarrollados de manera que consigan, teniendo en cuenta su finalidad prevista, un nivel adecuado de precisi髇, solidez y ciberseguridad. Estas dimensiones deber醤 funcionar de manera consistente a lo largo de su ciclo de vida.

2. Los requisitos que deber� abordar cada participante se acordar醤, juntamente con el 髍gano competente, al inicio del entorno controlado de pruebas mediante un plan de implementaci髇.

Art韈ulo 12 Desarrollo de las pruebas por los participantes

1. Una vez admitido, el proveedor IA participante llevar� a cabo las actuaciones que le permitan el cumplimiento de los requisitos descritos en el art韈ulo 11 del presente real decreto y seg鷑 lo acordado en el plan de implementaci髇. El 髍gano competente podr� poner a su disposici髇 gu韆s t閏nicas de ayuda y asesor韆 personalizada que faciliten al proveedor IA las tareas que debe realizar en el contexto del entorno controlado de pruebas. La forma de cooperaci髇 entre los proveedores IA participantes y usuarios participantes con el 髍gano competente se detallar� en un plan de desarrollo de dicho entorno seg鷑 se especifique en la convocatoria.

2. La adaptaci髇 de estos sistemas de inteligencia artificial al cumplimiento de los requisitos no deber韆 implicar riesgos potenciales en materia de protecci髇 de consumidores, de usuarios y de terceros que pudieran verse afectados.

3. Los proveedores IA participantes y usuarios IA participantes podr醤 apoyarse en est醤dares existentes, as� como en evaluaciones previas realizadas en el marco de estos, para acreditar ante el 髍gano competente la implementaci髇 y el cumplimiento de estos requisitos.

4. Durante el desarrollo del entorno controlado de pruebas, se establecer醤 mecanismos de di醠ogo e intercambio de informaci髇 entre los proveedores IA participantes y usuarios participantes con el 髍gano competente, sobre la base del marco de seguimiento que se facilitar� al participante al inicio de este. Los canales que se deber醤 utilizar para dicho di醠ogo se concretar醤 en la convocatoria. Este marco detallar� la informaci髇 que habr醤 de transmitir tanto los proveedores IA participantes como los usuarios participantes sobre su experiencia con la ejecuci髇 de las gu韆s y sobre las mejoras que consideren que se puedan realizar.

5. As� mismo, se realizar醤 reuniones para fomentar un aprendizaje colaborativo con todos los participantes, proveedores IA y usuarios, as� como otros organismos con competencias en las materias relacionadas, como los ministerios competentes por raz髇 de la materia o la Comisi髇 Europea, y sobre el progreso de este entorno controlado de pruebas. Estas reuniones se celebrar醤 a iniciativa del 髍gano competente con una frecuencia mensual, sin perjuicio de que estas puedan ser convocadas con otra periodicidad de mayor conveniencia para la garant韆 de 閤ito del entorno.

6. Las gu韆s t閏nicas que, en su caso, proporcione el 髍gano competente podr醤 ser actualizadas por 閟te y distribuidas tanto a los proveedores IA participantes como a los usuarios participantes, as� como a otras autoridades relevantes a efectos de consulta, a lo largo del desarrollo del entorno controlado de pruebas.

7. Una vez finalizada la implantaci髇 de los requisitos en cada uno de los sistemas de inteligencia artificial, el proveedor IA, y en su caso junto con el usuario del sistema, deber� de realizar un informe de impacto de g閚ero. Dicho informe servir� para evaluar en cada uno de los sistemas participantes como ha afectado la implantaci髇 de los requisitos en la reducci髇 de la brecha de g閚ero.

Art韈ulo 13 Declaraci髇 de cumplimiento de los requisitos

1. A la finalizaci髇 de esta primera etapa, una vez que los proveedores IA participantes y usuarios participantes han realizado las debidas actuaciones para la implementaci髇 de los requisitos recogidos en el art韈ulo 11 del presente real decreto, el proveedor IA participante deber� realizar la declaraci髇 de cumplimiento.

2. Esta declaraci髇 de cumplimiento se inicia con un proceso de autoevaluaci髇 en el que participan tanto el proveedor IA participante como, en su caso, el usuario participante, d髇de valorar醤 el cumplimiento de los requisitos para lo que seguir醤 las recomendaciones que el 髍gano competente facilite.

3. Tanto el proveedor IA participante como, en su caso, el usuario participante deber� realizar las siguientes acciones para completar la autoevaluaci髇:

• a) Comprobar� la correcta implementaci髇 de los requisitos establecidos en el art韈ulo 11 del presente real decreto en sus sistemas de inteligencia artificial y de acuerdo con el plan de implementaci髇 previamente acordado.
• b) Comprobar� que el sistema de gesti髇 de la calidad es acorde con las especificaciones que ofrezca el 髍gano competente.
• c) Verificar� que el dise駉 y desarrollo del proceso del sistema de inteligencia artificial y su seguimiento posterior a la comercializaci髇 son coherentes con lo establecido en la documentaci髇 t閏nica y con las especificaciones ofrecidas por el 髍gano competente.
• d) Verificar� que la documentaci髇 t閏nica de su sistema de inteligencia artificial incluye el contenido seg鷑 especificaciones del anexo VI del presente real decreto, y adem醩 de la documentaci髇 de comprobaci髇 del cumplimiento de los puntos anteriores.

4. Una vez que el proveedor IA participante haya finalizado la autoevaluaci髇 y verificado el cumplimiento del punto anterior presentar� en la sede electr髇ica de la Secretar韆 de Estado de Digitalizaci髇 e Inteligencia Artificial la documentaci髇 indicada.

5. El 髍gano competente examinar� los documentos asociados a la declaraci髇 de cumplimiento presentada por el proveedor IA, principalmente los que describen el sistema de gesti髇 de la calidad, la documentaci髇 t閏nica o el plan de seguimiento posterior a la comercializaci髇.

6. Si analizada la documentaci髇 presentada al 髍gano competente, 閟te considera que la evaluaci髇 de la documentaci髇 presentada es favorable, el 髍gano competente emplazar� al participante a realizar la exposici髇 de la autoevaluaci髇 de cumplimiento de los requisitos. En su presentaci髇 ante el 髍gano competente, el proveedor IA participante demostrar� la pertinencia de la autoevaluaci髇 de cumplimiento de requisitos, justificando los puntos antes descritos.

7. Por el contrario, si analizada la documentaci髇 presentada al 髍gano competente, 閟te considerara que el participante no cumple con los requisitos para superar la declaraci髇 de cumplimiento, le otorgar� un plazo de tres meses con el objeto de permitir al participante cumplir debidamente con los requisitos.

A este respecto, el 髍gano competente podr� solicitar pruebas espec韋icas para verificar la validez de las conclusiones de conformidad a lo dispuesto en el art韈ulo 21 del presente real decreto.

Transcurrido el plazo anterior, el incumplimiento de los requisitos para superar la declaraci髇 de cumplimiento implicar� la finalizaci髇 anticipada de las pruebas para esa entidad de acuerdo con el art韈ulo 25 del presente real decreto.

8. El 髍gano competente podr� colaborar a otros organismos internacionales, para actuar como asesores en el proceso de autoevaluaci髇 de requisitos.

9. A la vista de la presentaci髇 y comprobada la correcta y completa autoevaluaci髇 de cumplimiento de requisitos, se dar� por finalizado con 閤ito la declaraci髇 de cumplimiento del entorno controlado de pruebas.

10. Esta autoevaluaci髇 de cumplimiento no tiene efectos fuera del estricto 醡bito de este entorno.

Art韈ulo 14 Seguimiento posterior a la comercializaci髇

1. Posteriormente, tanto el proveedor IA participantes como, en su caso, el usuario participante juntamente con el primero, deber� implementar un sistema de seguimiento posterior a la comercializaci髇.

2. Para ello, los proveedores IA participantes documentar醤 un sistema de seguimiento tras la puesta en marcha del sistema de inteligencia artificial, que sea proporcional a los riesgos y al uso previsto del sistema de inteligencia artificial. Los datos necesarios para desarrollar el sistema de seguimiento tras la puesta en marcha se podr醤 recolectar de los usuarios del sistema o de otras fuentes relacionadas con dicho sistema durante el entorno controlado de pruebas, lo que permitir� al proveedor IA participante evaluar de forma continua el cumplimiento de los requisitos indicados en el art韈ulo 11 del presente real decreto.

3. En caso de que el sistema ya hubiese sido introducido en el mercado o puesto en servicio previo a su inclusi髇 en el entorno controlado de pruebas, la implementaci髇 de dicho sistema de seguimiento posterior podr� quedar acotado a uno o varios de los usuarios de este.

4. El sistema de seguimiento tras la puesta en marcha se basar� en un plan de monitorizaci髇 posterior a la comercializaci髇 que se incluir� en la documentaci髇 t閏nica a aportar que se contempla en el anexo VI del presente real decreto. Para su redacci髇 se seguir醤 las especificaciones que el 髍gano competente proporcione a tal efecto.

5. Las personas jur韉icas privadas o administraciones p鷅licas y entidades del sector p鷅lico institucional, cuando act鷈n como usuarios participantes, deber醤 colaborar implantando las medidas especificadas en las gu韆s que el 髍gano competente proporcione para el seguimiento tras la puesta en marcha del sistema de inteligencia artificial. En caso de incumplimiento de lo anterior el 髍gano competente podr� expulsar al usuario participante, previo requerimiento.

Art韈ulo 15 Comunicaci髇 de incidencias

Tanto los proveedores IA participantes como, en su caso, los usuarios participantes comunicar醤 al 髍gano competente, a la mayor brevedad desde que sean conocedores del mismo, cualquier incidente grave en los sistemas que pudiera constituir un incumplimiento de la legislaci髇 en vigor.

El 髍gano competente habilitar� un canal de comunicaci髇 para que comuniquen la incidencia acreditando las medidas de mitigaci髇 del riesgo detectado.

En el caso de los sistemas de inteligencia artificial que por su naturaleza est閚 sujetos a otra legislaci髇 espec韋ica, el 髍gano competente trasladar� la comunicaci髇 a las Autoridades sectoriales competentes, siendo decisi髇 de las autoridades sectoriales ejercer aquellas medidas que considere oportunas.

Art韈ulo 16 Protecci髇 de datos personales y observancia de los derechos de propiedad intelectual

1. Los proveedores IA y los usuarios participantes en el entorno controlado de pruebas deber醤 cumplir con lo previsto en el Reglamento (UE) 679/2016, del Parlamento Europeo y el Consejo, de 27 de abril de 2016, relativo a la protecci髇 de las personas f韘icas en lo que respecta al tratamiento de datos personales y a la libre circulaci髇 de estos datos (RGPD), como en la Ley Org醤ica 3/2018, de 5 de diciembre, de Protecci髇 de Datos Personales y Garant韆 de los Derechos Digitales (LOPDGDD), y, en lo que resulte de aplicaci髇, en la Ley Org醤ica 7/2021, de 26 mayo, de protecci髇 de datos personales tratados para fines de prevenci髇, detecci髇, investigaci髇 y enjuiciamiento de infracciones penales y de ejecuci髇 de sanciones penales, as� como en el resto de la normativa sectorial aplicable, debiendo quedar todos los datos personales que se traten en los sistemas privados de los proveedores IA participantes o, en su caso, de los usuarios participantes seg鷑 corresponda para comprobar los requisitos incluidos bajo dicha protecci髇. Ello sin perjuicio de que alguno de los sistemas de alto riesgo indicados en el anexo II del presente real decreto que puedan participar en el entorno controlado de pruebas deban tener un an醠isis previo de la licitud del tratamiento.

2. Los tratamientos de datos que se realizan en el marco del entorno controlado de pruebas deber醤 cumplir con la normativa se馻lada en el apartado anterior.

3. La aceptaci髇 de participaci髇 en el entorno controlado de pruebas implicar� reconocimiento del cumplimiento de la legislaci髇 en materia de protecci髇 de datos.

4. Los proveedores de IA y los usuarios participantes en el entorno controlado de pruebas deber醤 cumplir con lo previsto en la normativa de propiedad intelectual. La aceptaci髇 de la participaci髇 en el entorno controlado de pruebas implicar� el compromiso y reconocimiento del cumplimiento de la normativa en materia de propiedad intelectual.

Art韈ulo 17 Responsabilidad de los participantes en el entorno

1. Tanto el proveedor IA participante como, en su caso, el usuario participante ser� responsable de los da駉s sufridos por cualquier persona como consecuencia de la aplicaci髇 del sistema de inteligencia artificial en el contexto del entorno controlado de pruebas, siempre que dichos da駉s deriven de un incumplimiento o cuando medie culpa, negligencia o dolo por su parte.

2. Los usuarios participantes en el entorno controlado de pruebas se comprometen a cumplir con la normativa laboral vigente respecto de su personal laboral.

Art韈ulo 18 Garant韆s de confidencialidad

La garant韆 de confidencialidad se aplicar� sobre la informaci髇 que aporten tanto los proveedores IA participantes como, en su caso, los usuarios participantes sobre procedimientos propios de las empresas u otras entidades, planes comerciales, derechos de propiedad industrial e intelectual o secretos empresariales, as� como sobre los datos e informaci髇 facilitados durante el proceso de autoevaluaci髇.

La informaci髇 recabada por el 髍gano competente podr� ser utilizada, cuando se garantice que se ha anonimizado completamente y que respeta los intereses comerciales tanto de los proveedores IA participantes como usuarios participantes, para la elaboraci髇, por s� mismo o por terceros, de gu韆s de buenas pr醕ticas, gu韆s de implementaci髇 de requisitos y elaboraci髇 de documentaci髇 de conclusiones. Sin menoscabar las condiciones de confidencialidad, el 髍gano competente podr� utilizar la informaci髇 recabada durante el desarrollo del entorno controlado de pruebas para refinar las gu韆s elaboradas. Los informes relativos a los resultados de la participaci髇 en dicho entorno podr醤 tambi閚 compartirse con autoridades relevantes y organismos p鷅licos con competencias en la materia. En aquellos casos que el 髍gano competente desee utilizar, a modo de ejemplo, determinadas pr醕ticas o procedimientos de alg鷑 proveedor IA participante o de alg鷑 usuario participante concreto, se recabar� la conformidad de este.

Los 髍ganos competentes para la valoraci髇 de las solicitudes y para la resoluci髇 de la convocatoria de participaci髇 en el entorno controlado de pruebas ser醤 responsables de garantizar la confidencialidad de la informaci髇 aportada de acuerdo con lo se馻lado en este precepto.

Art韈ulo 19 Modificaciones estructurales o en los sistemas de inteligencia artificial

1. Si durante la ejecuci髇 del entorno controlado de pruebas se producen cambios sustanciales en el sistema de inteligencia artificial del proveedor IA participante en aspectos evaluados en la participaci髇 en el entorno, o respecto a la titularidad de la sociedad deber醤 comunicarse previamente a la Secretar韆 de Estado de Digitalizaci髇 e Inteligencia Artificial quien decidir� si el proveedor IA participante contin鷄 o no en el entorno y en qu� condiciones.

2. Los participantes, si as� lo consideran, podr醤 retirarse voluntariamente de la experiencia sobre la base del art韈ulo 24 del presente real decreto si no estuvieran de acuerdo con las nuevas condiciones establecidas por el 髍gano competente.

Art韈ulo 20 Canales de comunicaci髇

1. Se habilitar� un buz髇 de consultas espec韋ico en la sede electr髇ica del 髍gano competente, para que puedan presentarse todas aquellas dudas o cuestiones suscitadas durante la realizaci髇 del entorno controlado de pruebas que ser醤 contestadas en el periodo m醩 breve posible.

2. Igualmente, se habilitar� un canal para la comunicaci髇 urgente de incidencias y fallos durante el desarrollo del entorno controlado de pruebas. Este canal estar� habilitado exclusivamente como mecanismo de recepci髇 de incidentes o comunicaciones urgentes.

3. As� mismo, se habilitar� un canal para los participantes para establecer la comunicaci髇 con el 髍gano competente durante el desarrollo del entorno controlado de pruebas.

4. Los canales de comunicaci髇 mencionados se especificar醤 en la convocatoria.

5. Todas las comunicaciones que se realicen tanto entre los proveedores IA participantes como entre los usuarios participantes con el 髍gano competente, as� como la documentaci髇 escrita y cualquiera otra audiovisual deber醤 hacerse en castellano.

Art韈ulo 21 Obtenci髇 de informaci髇 sobre el desarrollo del entorno

1. Durante el transcurso del entorno controlado de pruebas, Subdirecci髇 General de Inteligencia Artificial y Tecnolog韆s Habilitadoras Digitales recabar� informaci髇 tanto de los proveedores IA participantes como de los usuarios participantes sobre la manera en que se han implementado las actuaciones pertinentes en cada sistema de inteligencia artificial; la forma en que se ha efectuado la autoevaluaci髇 de cumplimiento; la documentaci髇 t閏nica asociada a cada sistema de inteligencia artificial; y sobre los sistemas de gesti髇 de la calidad o del riesgo descritos en los anexos o gu韆s.

2. Adicionalmente, la Subdirecci髇 General de Inteligencia Artificial y Tecnolog韆s Habilitadoras Digitales podr� requerir otra informaci髇 durante el transcurso del entorno, tanto a los proveedores IA participantes como a los usuarios participantes, con el fin de reunir datos de inter閟 para la elaboraci髇 de documentaci髇 o conclusiones del entorno. El 髍gano competente podr� requerir la realizaci髇 de pruebas espec韋icas a fin de verificar la validez de las conclusiones.

3. No aportar la la informaci髇 requerida por el 髍gano competente podr� suponer la finalizaci髇 anticipada de la experiencia tanto del proveedor de IA como del usuario, en el caso de que este 鷏timo participara, de acuerdo con el art韈ulo 25 del presente real decreto, atendiendo a las consideraciones de confidencialidad expuestas en el art韈ulo 15.

Art韈ulo 22 Actualizaci髇, redacci髇 de gu韆s y otros documentos

La Secretar韆 de Estado de Digitalizaci髇 e Inteligencia Artificial podr� ofrecer gu韆s t閏nicas u otros documentos sobre aspectos que faciliten el desarrollo de sistemas de inteligencia artificial de una forma confiable, robusta y 閠ica, basadas en las experiencias del entorno controlado de pruebas, que incorporar醤 de forma efectiva y transversal la perspectiva de g閚ero y que ser醤 de libre acceso al p鷅lico, en el momento que lo decida el 髍gano competente, y que podr醤 ser actualizadas a lo largo del desarrollo de dicho entorno.

Las gu韆s t閏nicas y la documentaci髇 que elabore el 髍gano competente ser醤 confidenciales bas醤dose en el art韈ulo 18 hasta el momento en el que este considere conveniente publicarlos.

Art韈ulo 23 Finalizaci髇 de la participaci髇 en el entorno

1. Previa a la finalizaci髇, tanto de los proveedores IA participantes como de los usuarios participantes, entregar醤 un informe a la Subdirecci髇 General de Inteligencia Artificial y Tecnolog韆s Habilitadoras Digitales.

2. El contenido del informe anterior se indicar� en las gu韆s que ofrezca el 髍gano competente. Las entidades que hayan completado las fases del entorno controlado de pruebas recibir醤 un documento acreditativo de su participaci髇 en el mismo junto con un informe de valoraci髇 de los resultados obtenidos.

3. El 髍gano competente podr� abrir nuevas convocatorias en el futuro.

4. Cuando el 髍gano competente considere que el entorno controlado de pruebas ha cumplido con el objeto indicado en el presente real decreto podr� determinar la finalizaci髇 de este y emitir� un comunicado p鷅lico a tal efecto en el portal web del 髍gano competente.

Art韈ulo 24 Retirada voluntaria de los participantes

1. El proveedor IA y, en su caso, el usuario, podr醤 solicitar, mediante comunicaci髇 al 髍gano competente a trav閟 del canal especificado en el art韈ulo 20.3 del presente real decreto, la retirada voluntaria del entorno controlado de pruebas por motivos justificados.

2. Una vez instruido el procedimiento, el 髍gano competente resolver� la solicitud de salida voluntaria de forma motivada en el plazo m醲imo de quince d韆s h醔iles. Esta resoluci髇 pone fin a la v韆 administrativa y el sentido del silencio administrativo ser� positivo.

3. En el caso de que el proveedor IA participante o, en su caso, el usuario participante se retire del entorno controlado de pruebas, deber� mantener el deber de confidencialidad en los t閞minos previstos en la resoluci髇 de admisi髇.

4. Asimismo, la salida tanto de un proveedor IA participante como de un usuario participante no generar� en ning鷑 caso derecho de indemnizaci髇 ni compensaci髇 alguna por parte del 髍gano competente.

5. El 髍gano competente, si as� lo considera conveniente para el resultado del entorno, podr� cubrir la posici髇 liberada por la retirada voluntaria con la siguiente entidad que hubiera solicitado la participaci髇 de acuerdo con lo dispuesto en la convocatoria.

Art韈ulo 25 Finalizaci髇 anticipada de las pruebas

1. Podr� declararse la finalizaci髇 anticipada de las pruebas en el entorno de manera individualizada, dando por finalizada la experiencia sin 閤ito para ese proveedor IA participante o, en su caso, usuario participante, mediante resoluci髇 motivada del 髍gano competente en base a la concurrencia de alguna de las siguientes circunstancias:

• a) Se ha producido un incumplimiento del r間imen jur韉ico previsto en art韈ulo 4 del presente real decreto, en la convocatoria o en la resoluci髇 de admisi髇.
• b) Se ha cesado en el cumplimiento de alguno de los requisitos iniciales para la elegibilidad para la participaci髇 en el entorno controlado de pruebas contemplados en el art韈ulo 5 del presente real decreto.
• c) Se ha producido un incumplimiento del deber de facilitar informaci髇 requerida en el marco de seguimiento establecido por el 髍gano competente previsto en el art韈ulo 21 del presente real decreto.
• d) Se han producido incidentes graves o errores de funcionamiento en los sistemas de inteligencia artificial.
• e) Se ha identificado un riesgo no previsto en la memoria t閏nica.
• f) La entidad no aporta los recursos necesarios para implantaci髇 de los requerimientos acordados en el plan de implantaci髇.
• g) La entidad no cumple con las acciones necesarias para superar la declaraci髇 de cumplimiento de acuerdo con lo previsto en el art韈ulo 13 del presente real decreto.
• h) Cualquier otra circunstancia que se previera en la convocatoria.

2. Una vez se ha identificado alguna de las circunstancias anteriores, el 髍gano competente, previa audiencia con los participantes de acuerdo con el art韈ulo 82 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Com鷑 de las Administraciones P鷅lica, resolver� de forma motivada en el plazo m醲imo de quince d韆s h醔iles. Esta resoluci髇 pone fin a la v韆 administrativa.

3. Adicionalmente a los casos indicados, tambi閚 se declarar� la finalizaci髇 anticipada de la experiencia en el caso de que el proveedor IA no realizase las actuaciones que le permitan dar cumplimiento a los requisitos, descritos en el art韈ulo 11 del presente real decreto, en el plazo establecido en la convocatoria, dejando de formar parte del entorno controlado de pruebas previo el oportuno procedimiento.

4. En el supuesto de que el proveedor IA participante fuera obligado a abandonar la experiencia tambi閚 lo tendr韆 que hacer, en el caso de que participase, el usuario del sistema de inteligencia artificial.

5. La finalizaci髇 anticipada del entorno controlado de pruebas no dar� lugar a indemnizaci髇 alguna por parte del 髍gano competente.

6. El 髍gano competente, si as� lo considera conveniente para el resultado del entorno, podr� cubrir mediante resoluci髇 la posici髇 liberada por la finalizaci髇 anticipada de las pruebas con la siguiente entidad que hubiera solicitado la participaci髇 de acuerdo con lo dispuesto en la convocatoria.

Art韈ulo 26 Colaboraci髇 entre autoridades

Podr醤 colaborar con el 髍gano competente otras administraciones p鷅licas y entidades del sector p鷅lico institucional y organismos internacionales y otras autoridades de otros Estados miembro de la Uni髇 Europea con competencias en las materias relacionadas con los diferentes casos que se desarrollen en el marco de este entorno controlado de pruebas, a fin de lograr un adecuado funcionamiento del mismo, y facilitar醤, dentro de su 醡bito competencial y con las garant韆s adecuadas, el avance del mismo, cualquiera que sea el 醡bito territorial al que afecte.

Art韈ulo 27 Grupo de personas asesoras expertas

1. El grupo de personas asesoras expertas estar� integrado por profesionales independientes de reconocido prestigio y experiencia t閏nica en campos afines del conocimiento, con responsabilidades presentes o pasadas en el 醡bito acad閙ico y universitario, en instituciones colegiales, asociaciones de otro tipo, o en el sector empresarial. Los miembros del Grupo ser醤 nombrados por resoluci髇 de la Secretar韆 de Estado de Digitalizaci髇 e Inteligencia Artificial. Los miembros del Grupo de personas asesoras expertas no podr醤 actuar ni como proveedores IA participantes ni como usuarios participantes en el entorno controlado de pruebas.

2. Entre los miembros del grupo de personas asesoras expertas se incluir醤 uno o varios perfiles multidisciplinares con conocimientos de IA y otra materia como podr韆 ser g閚ero, protecci髇 de datos, seguridad, 閠ica, derecho u otras.

3. El grupo de personas asesoras expertas velar� por el cumplimiento del principio de igualdad de g閚ero en el desarrollo de las tareas encomendadas, y en su designaci髇 se atender� al principio de presencia equilibrada entre mujeres y hombres.

4. Este grupo de personas expertas colaborar� en el entendimiento y comprensi髇 de la forma de implementar los requisitos aplicables a los sistemas de inteligencia artificial de alto riesgo, as� como en la aportaci髇 de informaci髇 relevante para la mejora de las gu韆s t閏nicas.

5. Estas personas expertas estar醤 sujetos a las previsiones de confidencialidad descritas en el art韈ulo 18, y se comprometer醤 a ayudar tanto a los proveedores IA participantes como a los usuarios participantes en el cumplimiento de los requisitos, as� como en su autoevaluaci髇 de cumplimiento del entorno controlado de pruebas.

6. La colaboraci髇 de las personas asesoras expertas no conllevar� ning鷑 tipo de contraprestaci髇 econ髆ica o compensaci髇 de ning鷑 otro tipo.

Art韈ulo 28 Participaci髇 de personas jur韉icas privadas, administraciones p鷅licas y entidades del sector p鷅lico institucional como usuarias de un sistema de inteligencia artificial

1. Cuando una persona jur韉ica privada o entidad del sector p鷅lico sea usuaria de un sistema de alto riesgo de inteligencia artificial o sistemas de prop髎ito general o modelos fundacionales, podr� acordar con el proveedor IA de dicho sistema la participaci髇 conjunta en el entorno controlado de pruebas. La convocatoria explicitar� el mecanismo de participaci髇 a dicho entorno cuando una entidad del sector p鷅lico participe como usuario.

2. La persona jur韉ica privada o entidad del sector p鷅lico, cuando act鷈n como usuarios participantes deber醤 colaborar implantando las medidas especificadas en las gu韆s que el 髍gano competente proporcione para el seguimiento tras la puesta en marcha del sistema de inteligencia artificial y en su caso, con respecto al tratamiento de datos personales seg鷑 lo previsto en el art韈ulo 16 del presente real decreto.

3. Se invitar� a participar a dicha persona jur韉ica privada o entidad del sector p鷅lico en la declaraci髇 de cumplimiento, sobre la base del art韈ulo 19, en actividades de seguimiento tras la puesta en marcha en coordinaci髇 con el proveedor IA participante, sobre la base del art韈ulo 21, y en la aportaci髇 de conocimiento para la elaboraci髇 de gu韆s u otros documentos de conclusiones sobre el entorno controlado de pruebas.

Art韈ulo 29 Colaboraci髇 de entidades observadoras

1. El 髍gano competente podr� invitar como observadora a cualquier autoridad competente que, por su actividad de supervisi髇, control, garant韆 de cumplimiento normativo espec韋ico, u otras competencias espec韋icas, pueda ser relevante en la implantaci髇 y revisi髇 de los requisitos que se deber醤 implantar en los sistemas de inteligencia artificial en el contexto del entorno controlado de pruebas.

2. El objeto de esta colaboraci髇 es emitir opiniones o alertas cuando las acciones realizadas por el proveedor IA participante o, en su caso, por el usuario participante puedan, eventualmente, suponer un incumplimiento normativo, incumplimiento de criterios de calidad y seguridad de productos, o vulneraci髇 de principios rectores de la actuaci髇 de los agentes econ髆icos y las entidades del sector p鷅lico.

Art韈ulo 30 Coordinaci髇 con organismos de normalizaci髇 espa駉les, europeos e internacionales

El 髍gano competente establecer� cauces de colaboraci髇 con organismos de normalizaci髇 espa駉les, europeos e internacionales con el fin de contribuir a la redacci髇 de normas t閏nicas basadas en las experiencias del entorno controlado de pruebas, de tomar en consideraci髇 las recomendaciones y deliberaciones de dichos organismos para proporcionar mayor seguridad tanto a los proveedores IA participantes como a los usuarios participantes en el mismo, as� como de experimentar elementos de normalizaci髇 en el campo de la inteligencia artificial que ya hayan sido publicados o est閚 en proceso de desarrollo.

Disposici髇 adicional primera Medios a disposici髇 del entorno controlado de pruebas

El cumplimiento de este real decreto se asumir� exclusivamente con los medios con los que cuenta la Secretar韆 de Estado de Digitalizaci髇 e Inteligencia Artificial.

Disposici髇 adicional segunda Resultado del entorno controlado de pruebas

El 髍gano competente, bas醤dose en los resultados obtenidos en el entorno, publicar� en su portal web el informe con las conclusiones sobre el desarrollo, buenas pr醕ticas, y recomendaciones al mismo, as� como otros aspectos de inter閟 de la aplicaci髇 experimental de la propuesta del Reglamento de la Uni髇 Europea sobre la inteligencia artificial en el entorno. Estos podr醤 contribuir, seg鷑 proceda, a los trabajos en curso sobre normalizaci髇 y otras acciones preparatorias a escala de la Uni髇 Europea en apoyo a la aplicaci髇 la propuesta del Reglamento por el que se establecen normas armonizadas sobre inteligencia artificial.

Los ministerios con competencias en las 醨eas de sistemas de inteligencia artificial de alto riesgo espec韋ico podr醤 participar, a petici髇 del 髍gano competente, en la redacci髇 del informe sobre las conclusiones al que se refiere el p醨rafo anterior.

No obstante, podr醤 participar de las reuniones sobre el progreso del entorno controlado de pruebas a las que se refiere el apartado 5 del art韈ulo 12. El 髍gano competente, partiendo de los resultados obtenidos en el entorno controlado de pruebas, podr� desarrollar una plataforma de software que facilite una primera autoevaluaci髇 no vinculante sobre el cumplimiento de los principios de la propuesta del Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial.

Disposici髇 final primera T韙ulo competencial

Esta Ley se aprueba al amparo de lo dispuesto en el art韈ulo 149.1.13.� de la Constituci髇 Espa駉la, que atribuye al Estado la competencia exclusiva sobre las bases y coordinaci髇 de la planificaci髇 general de la actividad econ髆ica, as� como en lo establecido en el art韈ulo 149.1.15.�, que atribuye al Estado la competencia exclusiva sobre fomento y coordinaci髇 general de la investigaci髇 cient韋ica y t閏nica.

Disposici髇 final segunda Entrada en vigor y vigencia

Este real decreto entrar� en vigor al d韆 siguiente de su publicaci髇 en el 獴olet韓 Oficial del Estado�.

Este real decreto tendr� una vigencia de m醲imo treinta y seis meses desde su entrada en vigor o, en su caso, hasta que sea aplicable en el Reino de Espa馻 el Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial.