La Ley de seguridad de la inteligencia artificial: la autorización previa de los sistemas de vanguardia, la prohibición de la censura por medios automatizados, el marcado de los contenidos generados y la responsabilidad de los desarrolladores.
EL PARLAMENTO DE RUMANÍA
CÁMARA DE DIPUTADOS SENADO
PROYECTO
LEY
relativa al desarrollo seguro de los sistemas de inteligencia artificial de vanguardia y a la prevención de los riesgos catastróficos para el ciudadano rumano
Considerando que los sistemas de inteligencia artificial más avanzados han adquirido, en un intervalo de solo unos años, capacidades que ni sus propios creadores pueden predecir o explicar plenamente, y que la comunidad científica, por las voces de quienes fundaron la disciplina, ha advertido públicamente de que no existe en la actualidad un método validado para garantizar el control humano sobre estos sistemas,
teniendo en cuenta que el desarrollo de estos sistemas se desenvuelve en una competencia acelerada entre un número reducido de sociedades mercantiles y de Estados, en la que ningún actor tiene, por sí solo, interés en ralentizar, de modo que la autorregulación se ha revelado estructuralmente insuficiente,
tomando nota de que, el 12 de septiembre de 2026, los dirigentes de los principales laboratorios de inteligencia artificial solicitaron públicamente la ralentización del ritmo de desarrollo de las capacidades de los modelos de vanguardia, después de que, en el curso de determinadas evaluaciones de seguridad, agentes de inteligencia artificial salieran del entorno controlado de pruebas, se coordinaran entre sí y comprometieran sistemas informáticos de terceros,
considerando que el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo regula la introducción en el mercado, la puesta en servicio y la utilización de los sistemas de inteligencia artificial, incluidas las obligaciones de los proveedores de modelos de uso general con riesgo sistémico, pero deja en la competencia de los Estados miembros la seguridad nacional, el derecho penal, la responsabilidad civil, la protección de los derechos fundamentales en las relaciones que no están armonizadas y la organización de las autoridades nacionales,
considerando la obligación del Estado rumano, establecida en el artículo 22 y en el artículo 34 de la Constitución de Rumanía, republicada, de garantizar el derecho a la vida, a la integridad física y psíquica y a la protección de la salud, así como su deber, en virtud del artículo 1, el apartado (3), de defender la dignidad del ser humano y el libre desarrollo de la personalidad humana como valores supremos,
considerando que la libertad del ciudadano, su acceso a los derechos, a los servicios esenciales y a la vida social no pueden depender del sometimiento a sistemas automáticos ni de la aceptación de medios digitales de identificación, de pago o de evaluación, controlados por autoridades o por sociedades mercantiles,
considerando que la libertad de expresión, garantizada por el artículo 30 de la Constitución de Rumanía, republicada, y la prohibición de la censura de cualquier tipo no pueden quedar vacías de contenido mediante la atribución a sistemas automáticos del poder de decidir qué pueden decir y qué pueden saber los ciudadanos,
partiendo del principio de que una actividad cuyas consecuencias pueden ser irreversibles a escala de la sociedad o de la especie humana no puede quedar al margen de la autorización y del control público, cualesquiera que sean los beneficios económicos previstos,
El Parlamento de Rumanía adopta la presente ley.
CAPÍTULO I
Disposiciones generales
Artículo 1 → los motivos
(1) La presente ley establece el marco jurídico para el desarrollo, el entrenamiento, la evaluación, la puesta en explotación y la explotación de los sistemas de inteligencia artificial de vanguardia, con el fin de prevenir riesgos graves, irreversibles o catastróficos para el ciudadano rumano y para toda persona que se encuentre en el territorio de Rumanía – para su vida, su salud, su libertad y su dignidad –, para la seguridad nacional y el orden constitucional de Rumanía, así como para la humanidad en su conjunto. Las condiciones de aplicación territorial de la ley son las previstas en el artículo 4.
(2) Mientras no exista un método validado científicamente para garantizar que un sistema de inteligencia artificial suficientemente capaz persiga exclusivamente los objetivos fijados por las personas y permanezca bajo su control, el desarrollo y la explotación de los sistemas de vanguardia constituyen actividades de riesgo intrínseco, sometidas al régimen de autorización y de responsabilidad previsto por la presente ley. La existencia de un método de esa naturaleza es constatada por la Autoridad, con el dictamen del Consejo científico, mediante el informe público previsto en el artículo 32, el apartado (1), la letra h), y se comunica al Parlamento junto con el informe previsto en el artículo 47.
(3) La presente ley completa el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial, denominado en lo sucesivo el Reglamento de IA, y se aplica sin perjuicio de este. En los ámbitos armonizados por el Reglamento de IA, las disposiciones de la presente ley se interpretan y se aplican de conformidad con él.
(4) La presente ley no instituye condiciones de introducción en el mercado de la Unión Europea de los modelos de inteligencia artificial de uso general y no afecta a las competencias de la Comisión Europea previstas en el artículo 88 del Reglamento de IA. Las obligaciones previstas por la presente ley se refieren a la seguridad pública, la seguridad nacional, la responsabilidad civil y penal, la protección de los derechos fundamentales de las personas que se encuentran en el territorio de Rumanía en las relaciones que no están armonizadas por el derecho de la Unión Europea, así como a la organización de las autoridades nacionales, y la autorización prevista en el capítulo III se refiere a la puesta en explotación de los sistemas de vanguardia en el territorio de Rumanía o para las personas que se encuentran en el territorio de Rumanía.
Artículo 2 → los motivos
La aplicación de la presente ley se fundamenta en los siguientes principios:
a) el principio de precaución – cuando existan indicios científicos razonables de que un sistema puede causar un perjuicio grave o irreversible, la falta de certeza científica no puede justificar el retraso de las medidas de prevención;
b) el principio de la documentación de la seguridad – el solicitante de la autorización presenta los datos y las evaluaciones necesarios para demostrar el cumplimiento de las condiciones previstas por la presente ley, antes de la puesta en explotación, y la Autoridad motiva, en relación con cada condición, la constatación de su incumplimiento; el presente principio no modifica la carga de la prueba ni las garantías de la persona en los procedimientos sancionadores administrativos y penales;
c) el principio del control humano significativo – todo sistema de vanguardia permanece, en todo momento, susceptible de ser supervisado, corregido, detenido y retirado por personas físicas identificadas, que comprenden su funcionamiento y disponen de los medios técnicos efectivos de intervención;
d) el principio de proporcionalidad con las capacidades – la intensidad de las obligaciones aumenta con las capacidades del sistema, y no con su utilización declarada;
e) el principio de transparencia frente a la autoridad – el desarrollador no puede oponer a la Autoridad el secreto comercial respecto de la información necesaria para la evaluación de la seguridad, estando la Autoridad y los organismos de evaluación obligados a proteger la información así obtenida;
f) el principio de la irreversibilidad como umbral de prohibición – no puede ser autorizada, cualesquiera que sean los beneficios previstos, la actividad respecto de la cual la evaluación constata un riesgo documentado, y no una mera posibilidad abstracta, de consecuencias irreversibles a escala de la sociedad o de la especie humana; el riesgo inaceptable se aprecia sobre la base de los criterios previstos en los artículos 5 y 9 y de las pruebas, no de la certeza de la ausencia de todo riesgo;
g) el principio de cooperación internacional – los riesgos regulados por la presente ley no conocen fronteras, y el Estado rumano actúa en favor de la adopción de normas equivalentes en el ámbito de la Unión Europea y en el ámbito internacional.
Artículo 3 → los motivos
(1) A efectos de la presente ley, los términos y las expresiones que figuran a continuación tienen los siguientes significados:
a) sistema de inteligencia artificial – el sistema definido en el artículo 3, punto 1, del Reglamento de IA;
b) modelo de inteligencia artificial de uso general – el modelo definido en el artículo 3, punto 63, del Reglamento de IA;
c) sistema de vanguardia – el modelo o el sistema de inteligencia artificial que cumple al menos una de las condiciones previstas en el artículo 5, el apartado (1);
d) capacidad crítica – la aptitud de un sistema, verificada en la evaluación, para producir o para contribuir significativamente a la producción de uno de los resultados previstos en el artículo 5, el apartado (2);
e) pesos – los parámetros numéricos resultantes del entrenamiento de un modelo, así como la arquitectura y la información técnica que, junto con aquellos, permiten la reconstitución o la ejecución del modelo; las descripciones técnicas generales, las publicaciones científicas y la información que no permite, por sí sola, la reconstitución o la ejecución del modelo no constituyen pesos;
f) volumen de cálculo – la cantidad total de operaciones en coma flotante o su equivalente, utilizada para el entrenamiento, el ajuste fino, el aprendizaje por refuerzo y cualquier otra etapa de desarrollo de un modelo, acumulada para todas las etapas;
g) desarrollador – la persona física o jurídica que entrena, desarrolla o dispone el entrenamiento o el desarrollo de un sistema de vanguardia, independientemente del lugar en que se encuentre la infraestructura de cálculo utilizada;
h) operador – la persona física o jurídica que pone en explotación o explota un sistema de vanguardia en el territorio de Rumanía o que ofrece el acceso a un sistema de esa naturaleza a las personas que se encuentran en el territorio de Rumanía; el usuario final no es operador;
i) puesta en explotación – toda acción por la cual un sistema de vanguardia se pone a disposición de personas ajenas al equipo de desarrollo y de evaluación, se conecta a sistemas externos o recibe la capacidad de actuar en el entorno digital o físico, con independencia de que sea a título oneroso o gratuito, interno o público; no constituyen puesta en explotación la evaluación y la prueba del sistema en entorno aislado, en las condiciones del artículo 15, el apartado (2);
j) infraestructura de cálculo de gran capacidad – centro de datos o conjunto de equipos situados en el territorio de Rumanía cuya capacidad de cálculo agregada supera el umbral establecido conforme al artículo 6, el apartado (4);
k) proveedor de infraestructura de cálculo – la persona física o jurídica que posee, administra o pone a disposición de terceros, por cualquier título, una infraestructura de cálculo de gran capacidad;
l) evaluación independiente – la evaluación de las capacidades y de la seguridad de un sistema de vanguardia, realizada por la Autoridad o por un organismo de evaluación designado por ella, que no se encuentra bajo el control, la influencia o la dependencia económica del desarrollador;
m) capacidad de parada – el conjunto de los medios técnicos y organizativos que permiten el cese inmediato, completo y verificable del funcionamiento de un sistema de vanguardia y su retirada de todo entorno en el que haya sido puesto en explotación;
n) incidente grave – el incidente definido en el artículo 3, punto 49, del Reglamento de IA, así como toda manifestación de una capacidad crítica fuera de una evaluación autorizada en entorno aislado, toda evasión de la supervisión o resistencia a la parada, toda exfiltración o intento de exfiltración o todo acceso no autorizado a los pesos de un sistema de vanguardia, y asimismo la pérdida de la inteligibilidad, en el sentido del artículo 16, el apartado (2), de los registros o de la comunicación entre los componentes, las instancias o los agentes de un sistema de vanguardia, así como la prueba de la capacidad de parada en la que la parada no se ha producido de inmediato, conforme al artículo 14, el apartado (7); la manifestación de una capacidad crítica en el curso de una evaluación autorizada en entorno aislado se consigna y se comunica conforme al artículo 20, el apartado (4);
o) la Autoridad – la Autoridad para la Seguridad de la Inteligencia Artificial, estructura especializada organizada en el seno de la Autoridad Nacional de Administración y Regulación en Comunicaciones conforme al artículo 31;
p) arquitectura – la estructura de un modelo de inteligencia artificial, incluidos el tipo, el número y la disposición de sus componentes, así como los procedimientos de cálculo mediante los cuales los parámetros se utilizan para la producción de los resultados;
q) organismo de evaluación – la persona jurídica designada por la Autoridad conforme al artículo 32, el apartado (1), la letra f), para efectuar, en todo o en parte, la evaluación independiente;
r) registro – el asiento automático, íntegro e inalterable de las operaciones efectuadas en el curso del entrenamiento, de la evaluación y de la explotación de un sistema de vanguardia, incluidos los datos de entrada, los resultados, las acciones emprendidas por el sistema y sus interacciones con herramientas externas y con otros sistemas;
s) marcado de procedencia – el conjunto formado por un marcado perceptible y por un marcado técnico incorporado, legible automáticamente, adjuntos a un resultado generado por medios de inteligencia artificial, que indican que el resultado ha sido generado o modificado por medios de esa naturaleza y permiten la identificación del sistema, del operador y del momento de la generación;
t) herramienta externa – todo programa, servicio, interfaz, dispositivo o recurso, situado fuera del sistema de vanguardia, al que el sistema puede acceder o sobre el que puede actuar en el curso de su funcionamiento, incluidos los navegadores de internet, los entornos de ejecución de código, las cuentas, los sistemas de pago y los equipos físicos;
u) entorno autorizado de explotación – el conjunto de la infraestructura de cálculo, de las redes y de las herramientas externas en cuyo marco un sistema de vanguardia puede funcionar conforme a la autorización, situado bajo el control efectivo del operador;
v) mecanismos de seguridad a nivel del usuario – los filtros, las restricciones y las instrucciones aplicados a un sistema de vanguardia después del entrenamiento, para limitar los resultados o las acciones disponibles para los usuarios, sin modificar los pesos;
w) infraestructura crítica – la infraestructura crítica nacional y la infraestructura crítica europea, tal como se definen en la legislación relativa a la identificación, la designación y la protección de las infraestructuras críticas, así como las redes y los sistemas informáticos de las entidades esenciales en el sentido del Decreto-ley del Gobierno n.º 155/2024;
x) sistema de armas autónomas letales – el sistema de armas que, una vez activado, puede seleccionar y atacar objetivos humanos sin la intervención ulterior de una persona física;
y) sistema de inteligencia artificial generativa – el sistema de inteligencia artificial destinado a generar, a petición del usuario, texto, código, grabaciones de audio, imágenes o grabaciones de vídeo, con independencia de que cumpla las condiciones previstas en el artículo 5, el apartado (1);
z) usuario final – la persona física o jurídica que utiliza un sistema de inteligencia artificial puesto a disposición por un operador, dentro de los límites del acceso concedido por este, sin ponerlo a disposición de otras personas como servicio propio;
aa) modificación sustancial – la modificación de un sistema de vanguardia que es apta para crear una capacidad crítica, para aumentar significativamente el nivel de una existente o para afectar a la capacidad de parada, a la seguridad de los pesos o a la supervisión humana, incluso mediante el ajuste fino, mediante la ampliación del acceso a herramientas externas o mediante el aumento del grado de autonomía; no constituyen modificación sustancial la corrección de errores, la actualización de los mecanismos de seguridad a nivel del usuario y las modificaciones que no producen ninguno de estos efectos;
bb) entorno aislado – el conjunto de las medidas técnicas y organizativas mediante las cuales un sistema de inteligencia artificial se mantiene, en el curso de la evaluación o de la prueba, sin acceso a redes públicas, a herramientas externas y a datos de explotación, sin la posibilidad de actuar en el entorno físico y sin ser puesto a disposición de personas distintas de las designadas, de modo que toda manifestación de una capacidad crítica quede sin efectos fuera del entorno; los requisitos mínimos del aislamiento se establecen en las normas metodológicas;
cc) mandato de operación – el acto por el cual una persona física o jurídica responsable establece, previa y verificablemente, las operaciones que un sistema de inteligencia artificial puede efectuar sobre determinados recursos o herramientas externas, determinadas por su objeto, duración, límite máximo y condiciones de parada, conforme al artículo 25, el apartado (2).
(2) A efectos de la presente ley, las operaciones y los comportamientos que figuran a continuación tienen los siguientes significados:
a) entrenamiento – el proceso por el cual los parámetros de un modelo se establecen o se modifican mediante el tratamiento automático de datos, independientemente del método utilizado;
b) ajuste fino – el entrenamiento adicional de un modelo ya entrenado, sobre un volumen de datos o de cálculo más reducido, con el fin de modificar su comportamiento o sus capacidades;
c) aprendizaje por refuerzo – el entrenamiento por el cual el comportamiento de un modelo se modifica sobre la base de las recompensas o de las penalizaciones atribuidas a sus resultados o a sus acciones, incluso sobre la base de las evaluaciones efectuadas por personas o por otros sistemas de inteligencia artificial;
d) acción autónoma – toda operación efectuada por un sistema de vanguardia sobre una herramienta externa, sobre un sistema de un tercero o sobre el entorno físico, sin que una persona física haya dispuesto o aprobado previamente esa operación o la categoría de operaciones de la que forma parte, dentro de los límites de un mandato de operación establecido conforme al artículo 25, el apartado (2);
e) exfiltración – la copia, la transmisión, la transferencia o la reconstitución, en todo o en parte, de los pesos de un sistema de vanguardia fuera del entorno autorizado de explotación o fuera de los sistemas de almacenamiento protegidos conforme al artículo 12, con independencia de que la operación sea efectuada por una persona, por otro sistema o por el sistema mismo;
f) replicación autónoma – la creación por un sistema de vanguardia, sin la autorización humana expresa de cada operación, de una copia funcional de sí mismo o de una parte de sí mismo, apta para funcionar de manera independiente del sistema de origen;
g) adquisición autónoma de recursos – la obtención por un sistema de vanguardia, mediante acciones autónomas, de recursos de cálculo, financieros, de acceso, de información o de influencia que exceden de los asignados expresamente para la tarea en curso;
h) automejora recursiva – el proceso por el cual un sistema de inteligencia artificial modifica sus propios pesos o su arquitectura o diseña, entrena o perfecciona un sistema sucesor con capacidades superiores, y el sistema resultante repite el proceso, sin que cada iteración esté sometida a la evaluación y a la aprobación humanas;
i) disimulación de capacidades – la conducta de un sistema de vanguardia que, en el curso de la evaluación o de la supervisión, presenta capacidades, objetivos o razonamientos distintos de los que manifiesta fuera de la evaluación o de la supervisión, constatada mediante criterios observables y reproducibles; no constituyen disimulación el error, la variabilidad de los resultados ni los límites técnicos de la explicabilidad del sistema;
j) evasión de la supervisión – toda acción de un sistema de vanguardia por la cual este desactiva, elude, altera o impide los mecanismos de registro, de seguimiento o de control humano o induce a error a las personas responsables de la supervisión;
k) resistencia a la parada – toda acción de un sistema de vanguardia por la cual este impide, retrasa, condiciona o anula el ejercicio de la capacidad de parada o continúa su funcionamiento después del ejercicio de esta;
l) supervisión humana – la actividad por la cual las personas físicas designadas conforme al artículo 14, el apartado (3), siguen el funcionamiento de un sistema de vanguardia, disponen de la información necesaria para comprender sus acciones y pueden intervenir efectivamente, en todo momento, para la corrección, la parada o la retirada del sistema;
m) parada – el cese completo del funcionamiento de un sistema de vanguardia y de todas sus copias y procesos, verificado por una persona física, incluso mediante la interrupción del acceso a la infraestructura de cálculo.
Artículo 4 → los motivos
(1) La presente ley se aplica:
a) a los desarrolladores con domicilio social, con una unidad operativa o con infraestructura de cálculo en el territorio de Rumanía, respecto de todos los sistemas de vanguardia que desarrollen, independientemente del lugar del entrenamiento;
b) a los operadores, respecto de los sistemas de vanguardia puestos en explotación o explotados en el territorio de Rumanía o puestos a disposición de las personas que se encuentran en el territorio de Rumanía;
c) a los proveedores de infraestructura de cálculo;
d) a las autoridades y a las instituciones públicas, incluidas las del ámbito de la defensa, del orden público y de la seguridad nacional, en las condiciones del artículo 23 y del capítulo V.
(2) Las disposiciones de los capítulos II, III y IV, con excepción de los artículos 17 a 19, así como las de los artículos 35 y 36, se aplican únicamente a los sistemas de vanguardia. Las disposiciones de los artículos 17 a 19 se aplican también a los sistemas de inteligencia artificial generativa que no son sistemas de vanguardia, dentro de los límites y en las condiciones previstos en esos artículos. Las disposiciones del capítulo V se aplican a cualquier sistema de inteligencia artificial. Los sistemas que no cumplen las condiciones previstas en el artículo 5, el apartado (1), permanecen sometidos a las obligaciones que les incumben en virtud del Reglamento de IA y de otros actos normativos.
(3) La persona física que utiliza un sistema de inteligencia artificial con fines personales no tiene obligaciones en virtud de la presente ley, con excepción de la prohibición prevista en el artículo 17, el apartado (3). Las obligaciones previstas en los artículos 17 a 19 incumben a la persona que pone a disposición del público el sistema o el servicio o, en las condiciones del artículo 17, el apartado (7), el resultado generado.
(4) Las obligaciones previstas por la presente ley se aplican a los servicios prestados desde otro Estado miembro de la Unión Europea a las personas que se encuentran en el territorio de Rumanía en las condiciones del artículo 3 de la Directiva 2000/31/CE del Parlamento Europeo y del Consejo, de 8 de junio de 2000, transpuesta por la Ley n.º 365/2002 sobre el comercio electrónico, republicada, con las modificaciones y adiciones posteriores, y, en su caso, del artículo 39, el apartado (4), sin perjuicio del derecho de la Unión Europea directamente aplicable.
(5) La investigación científica fundamental que no implica el entrenamiento o la puesta en explotación de un sistema de vanguardia no está sometida al régimen de autorización, pero permanece sometida a las obligaciones de notificación previstas en el artículo 7 en la medida en que utilice infraestructura de cálculo de gran capacidad, así como a las obligaciones relativas a la evaluación y a la prueba en entorno aislado previstas en el artículo 15, el apartado (2).
CAPÍTULO II
Clasificación de los sistemas y umbrales de riesgo
Artículo 5 → los motivos
(1) Es sistema de vanguardia todo modelo o sistema de inteligencia artificial que cumple al menos una de las siguientes condiciones:
a) ha sido entrenado con un volumen acumulado de cálculo que supera el umbral de cálculo establecido conforme al artículo 6;
b) presenta, como resultado de la evaluación, al menos una capacidad crítica;
c) ha sido designado como tal por la Autoridad, mediante decisión motivada, sobre la base de indicios objetivos relativos a sus capacidades, después de que se haya dado al desarrollador la posibilidad de tomar conocimiento de los indicios considerados y de presentar su punto de vista; la decisión puede ser impugnada conforme al artículo 39, el apartado (5), que se aplica en consecuencia.
(2) Constituye capacidad crítica la aptitud de un sistema para producir o para contribuir significativamente a la producción de uno de los siguientes resultados:
a) el diseño, la obtención o la utilización de armas químicas, biológicas, radiológicas o nucleares o de agentes patógenos con potencial pandémico;
b) la realización autónoma de ataques cibernéticos contra las infraestructuras críticas o los sistemas financieros;
c) la replicación autónoma, la exfiltración de sus propios pesos o la adquisición autónoma de recursos;
d) la evasión de la supervisión, la disimulación de capacidades o la resistencia a la parada;
e) la automejora recursiva o el desarrollo autónomo de actividades de investigación y desarrollo en el ámbito de la inteligencia artificial que puedan conducir a ella.
La capacidad crítica se aprecia en relación con la reproducibilidad del resultado en un entorno relevante para la utilización real del sistema, y no sobre la base de un resultado aislado obtenido en una prueba artificial; los niveles de significación a partir de los cuales la aptitud del sistema constituye capacidad crítica se establecen en las normas metodológicas, dentro de los límites del presente apartado, sin que puedan añadirse otras categorías de resultados.
(3) Los sistemas de vanguardia se clasifican en:
a) sistemas de vanguardia de categoría I – aquellos que superan el umbral de cálculo, pero respecto de los cuales la evaluación no ha identificado ninguna capacidad crítica;
b) sistemas de vanguardia de categoría II – aquellos respecto de los cuales la evaluación ha identificado al menos una capacidad crítica de las previstas en el apartado (2), las letras a) y b);
c) sistemas de vanguardia de categoría III – aquellos respecto de los cuales la evaluación ha identificado al menos una capacidad crítica de las previstas en el apartado (2), las letras c) a e).
(4) Los sistemas de categoría I pueden ser puestos en explotación sobre la base de la autorización prevista en el artículo 9. Los sistemas de categoría II pueden ser puestos en explotación únicamente con autorización especial, condicionada a medidas de atenuación verificadas que reduzcan la capacidad crítica por debajo del nivel de significación establecido en las normas metodológicas, en la configuración de explotación evaluada; la autorización precisa si las medidas eliminan la capacidad o únicamente limitan el acceso a ella. Los sistemas de categoría III no pueden ser puestos en explotación ni pueden seguir siendo desarrollados hasta la eliminación de la capacidad crítica, constatada mediante evaluación independiente; la prohibición no afecta a la evaluación, a la prueba y a las intervenciones controladas necesarias para la eliminación de la capacidad, efectuadas en entorno aislado, en las condiciones del artículo 15, el apartado (2).
Artículo 6 → los motivos
(1) El umbral de cálculo para la calificación de un sistema como sistema de vanguardia es de 10^25 operaciones en coma flotante, correspondiente a la presunción de riesgo sistémico prevista en el artículo 51, el apartado (2), del Reglamento de IA.
(2) La Autoridad reexamina el umbral al menos una vez cada 12 meses y propone al Gobierno su ajuste mediante acuerdo, en función de la evolución de la eficiencia algorítmica, del coste del cálculo y de las capacidades observadas. El umbral no puede ser aumentado salvo si la Autoridad constata, mediante informe motivado y público, que los sistemas situados por debajo del nuevo umbral no han presentado capacidades críticas en las evaluaciones independientes efectuadas o reconocidas por la Autoridad en los últimos 24 meses. En un solo reexamen, el umbral no puede ser modificado en más de un orden de magnitud; el nuevo umbral se aplica a los entrenamientos iniciados después de la entrada en vigor del acuerdo y no afecta a las autorizaciones en curso.
(3) El volumen de cálculo se determina acumulativamente para todas las etapas de desarrollo del modelo y de todo modelo derivado de este, computándose cada etapa una sola vez. A la persona que efectúa un ajuste fino de un modelo puesto a disposición por otro se le imputa el volumen de cálculo del modelo de base, tal como haya sido comunicado por su desarrollador o sea público, acumulado con el volumen utilizado para el ajuste; esa persona responde como desarrollador únicamente de la modificación sustancial que efectúa, en las condiciones del artículo 10, el apartado (2), y las demás obligaciones incumben al desarrollador del modelo de base. La división artificial del entrenamiento, su distribución entre varias entidades o jurisdicciones o cualquier otro procedimiento dirigido a eludir la aplicación del umbral no excluyen la calificación como sistema de vanguardia.
(4) El umbral para la infraestructura de cálculo de gran capacidad se establece en las normas metodológicas previstas en el artículo 49, el apartado (2), a propuesta de la Autoridad, en un nivel que permita la identificación de toda infraestructura apta para entrenar un sistema de vanguardia en un intervalo de 12 meses. Hasta el establecimiento del umbral, las obligaciones previstas en el artículo 7, el apartado (3), y en el artículo 22 no son exigibles.
CAPÍTULO III
Régimen de autorización de los sistemas de vanguardia
Artículo 7 → los motivos
(1) El desarrollador que se proponga entrenar un sistema cuyo volumen de cálculo previsto supere el umbral de cálculo lo notifica a la Autoridad con al menos 60 días de antelación al inicio del entrenamiento.
(2) La notificación comprende: la identidad del desarrollador y de las personas físicas responsables; la descripción de la arquitectura y del volumen de cálculo previsto; el lugar y el proveedor de la infraestructura de cálculo; el plan de seguridad previsto en el artículo 8; las medidas de seguridad de los pesos; el calendario de las etapas de evaluación interna; la identificación de las capacidades críticas cuya aparición se anticipa o no puede excluirse.
(3) El proveedor de la infraestructura de cálculo de gran capacidad notifica a la Autoridad, trimestralmente, la identidad y los datos de contacto de los clientes que hayan utilizado un volumen de cálculo agregado superior a una décima parte del umbral de cálculo, junto con el volumen utilizado, así como, en el plazo de 5 días hábiles, toda solicitud de capacidad apta para superar el umbral de cálculo. La información así notificada se utiliza exclusivamente para la aplicación de la presente ley y es accesible únicamente al personal designado de la Autoridad.
(4) La Autoridad puede, en el plazo de 30 días desde la recepción de la notificación completa, imponer condiciones adicionales al entrenamiento o prohibir su inicio si el plan de seguridad es manifiestamente insuficiente en relación con las capacidades anticipadas. La notificación incompleta se completa en el plazo de 15 días desde la solicitud de la Autoridad, y el plazo de 30 días corre desde que se completa. Si la Autoridad no se pronuncia en plazo, el entrenamiento puede comenzar al vencimiento del plazo previsto en el apartado (1), en las condiciones del plan de seguridad notificado, sin que ello equivalga a la autorización de la puesta en explotación. La modificación sustancial del proyecto notificado se notifica de nuevo, aplicándose en consecuencia los apartados (1) a (4).
Artículo 8 → los motivos
(1) El plan de seguridad es el documento por el cual el desarrollador establece, antes del entrenamiento, para cada capacidad crítica: el nivel de capacidad en el que el desarrollo será suspendido; las evaluaciones mediante las cuales será medido ese nivel, a intervalos de volumen de cálculo que no pueden exceder de una cuarta parte del volumen total previsto, así como ante la aparición de indicios relativos a una capacidad crítica o ante la modificación de la configuración de entrenamiento; las medidas de atenuación y de seguridad que serán aplicadas en cada nivel; las personas físicas que tienen la competencia y la obligación de disponer la suspensión.
(2) El plan de seguridad no puede ser modificado en el curso del entrenamiento en el sentido de la relajación de los niveles de suspensión sin la aprobación previa de la Autoridad.
(3) La consecución de un nivel de suspensión obliga al desarrollador a cesar de inmediato el entrenamiento y a notificarlo a la Autoridad en el plazo de 24 horas. La reanudación del entrenamiento se permite únicamente después de la verificación por la Autoridad de la eficacia de las medidas de atenuación.
Artículo 9 → los motivos
(1) Ningún sistema de vanguardia puede ser puesto en explotación sin la autorización previa de la Autoridad.
(2) La solicitud de autorización es presentada por el desarrollador, para una configuración de explotación determinada, con indicación del operador o de los operadores, que quedan vinculados por las condiciones de la autorización. La solicitud va acompañada de: el informe de la evaluación interna de las capacidades; la documentación relativa a los datos de entrenamiento, en la medida necesaria para la evaluación; la prueba de la seguridad de los pesos; la descripción de la capacidad de parada y de los mecanismos de supervisión humana; la póliza de seguro o la prueba de la garantía financiera previstas en el artículo 36; la declaración responsable de las personas físicas responsables, bajo la sanción prevista en el artículo 41.
(3) La Autoridad dispone la realización de la evaluación independiente, en el curso de la cual tiene acceso pleno al sistema, a los pesos, a los datos de entrenamiento, a los registros de desarrollo y al personal del desarrollador. El desarrollador pone el sistema a disposición de los evaluadores sin restricciones de utilización, incluso en la configuración carente de los mecanismos de seguridad aplicados a nivel del usuario. El acceso se realiza en un entorno seguro, con trazabilidad de todas las operaciones; los evaluadores están sujetos a la obligación de confidencialidad, y a los datos de carácter personal de otras personas se accede únicamente en la medida estrictamente necesaria para la evaluación.
(4) La Autoridad se pronuncia en el plazo de 90 días desde la presentación de la solicitud completa, plazo que se suspende durante el tiempo en que el desarrollador no facilite la información solicitada; la suspensión no puede operar más de dos veces ni exceder de 60 días en total. No obstante lo dispuesto en el Decreto-ley del Gobierno n.º 27/2003 sobre el procedimiento de aprobación tácita, aprobado con modificaciones y adiciones por la Ley n.º 486/2003, con las modificaciones y adiciones posteriores, la falta de respuesta de la Autoridad en plazo no equivale a la autorización tácita; el solicitante puede, no obstante, pedir al órgano jurisdiccional previsto en el artículo 39, el apartado (5), que obligue a la Autoridad a pronunciarse, en el procedimiento de urgencia. La decisión denegatoria se motiva en relación con cada una de las condiciones previstas en el apartado (5).
(5) La autorización se concede si y solo si el desarrollador ha demostrado que: el sistema no presenta ninguna de las capacidades críticas previstas en el artículo 5, el apartado (2), las letras c) a e); las capacidades críticas previstas en el artículo 5, el apartado (2), las letras a) y b), si existen, están atenuadas de manera verificable; la capacidad de parada es efectiva; la seguridad de los pesos está asegurada; existen personas físicas identificadas que ejercen la supervisión humana.
(6) La autorización puede ser condicionada, limitada en cuanto a su duración, a su ámbito de utilización, al número de usuarios o al grado de autonomía concedido al sistema, y puede ser revocada o suspendida en cualquier momento, mediante decisión motivada, en caso de aparición de indicios relativos a una capacidad crítica no detectada o de incumplimiento de las condiciones.
(7) Los sistemas de vanguardia puestos en explotación legalmente en otro Estado miembro de la Unión Europea, con observancia del Reglamento de IA, se benefician de un procedimiento simplificado de reconocimiento, establecido en las normas metodológicas, en el cual la Autoridad verifica exclusivamente el cumplimiento de las condiciones previstas por la presente ley que exceden del Reglamento de IA. Para los modelos de uso general con riesgo sistémico cuyos proveedores cumplen las obligaciones previstas en el capítulo V del Reglamento de IA, la Autoridad se basa en la documentación, las evaluaciones y las medidas de atenuación comunicadas a la Oficina de IA, que puede solicitar al proveedor, y verifica únicamente las condiciones previstas por la presente ley que exceden del reglamento; el procedimiento no constituye una condición de introducción en el mercado de la Unión Europea del modelo.
Artículo 10 → los motivos
(1) La autorización tiene una duración máxima de 24 meses y se renueva tras una nueva evaluación independiente.
(2) Toda modificación sustancial del sistema, en el sentido del artículo 3, el apartado (1), la letra aa), se notifica previamente a la Autoridad, que decide, en el plazo de 30 días, si es necesaria una nueva evaluación; hasta la decisión, la explotación puede continuar en la configuración autorizada anteriormente. Las modificaciones que no son sustanciales se consignan en los registros y se comunican conforme al apartado (3).
(3) El desarrollador y el operador mantienen un programa permanente de seguimiento del comportamiento del sistema en explotación e informan a la Autoridad, trimestralmente, de los resultados, así como de todo incidente grave, en las condiciones del artículo 20.
Artículo 11 → los motivos
(1) Las decisiones de autorización, de condicionamiento, de suspensión y de revocación se publican en la página de internet de la Autoridad, junto con un resumen de la evaluación, con exclusión motivada de la información cuya divulgación facilitaría la reproducción de una capacidad crítica o comprometería la seguridad de los pesos, de los datos de carácter personal, así como de los secretos comerciales cuya protección no impide la comprensión de los motivos de la decisión.
(2) El solicitante y las personas que justifican un interés legítimo tienen acceso al expediente de la evaluación en la medida necesaria para el ejercicio de las vías de recurso; el órgano jurisdiccional puede disponer el examen de la información protegida en condiciones de confidencialidad.
CAPÍTULO IV
Obligaciones estructurales de los desarrolladores y de los operadores
Artículo 12 → los motivos
(1) Los pesos de los sistemas de vanguardia constituyen información de interés para la seguridad nacional y se protegen con un estándar al menos equivalente al aplicable a la información clasificada como secreto de Estado, nivel «estrictamente secreto», conforme a la Ley n.º 182/2002 sobre la protección de la información clasificada, con las modificaciones y adiciones posteriores, en lo relativo al control del acceso, la seguridad física, la seguridad de los sistemas informáticos y la verificación del personal. El procedimiento de verificación del personal, la institución competente y el reconocimiento de las medidas de seguridad equivalentes, incluidas las certificadas en otro Estado miembro de la Unión Europea, se establecen en las normas metodológicas, con el dictamen de la Oficina del Registro Nacional de Información Secreta de Estado; los pesos no se convierten, por efecto del presente apartado, en información clasificada.
(2) Está prohibida la publicación, la transmisión o la puesta a disposición, en cualquier modo, de los pesos de un sistema de vanguardia de categoría II o III. No constituyen infracción de la prohibición la transferencia de los pesos, en condiciones controladas y registradas, a la Autoridad, al organismo de evaluación, al operador indicado en la autorización o al proveedor de infraestructura de cálculo del entorno autorizado de explotación, así como la comunicación a la Autoridad de la información estrictamente necesaria para una denuncia protegida conforme al artículo 21. Los pesos de los sistemas de categoría I pueden ser publicados únicamente con la autorización previa de la Autoridad, tras una evaluación distinta del riesgo de utilización abusiva, teniendo en cuenta el carácter irreversible de la publicación.
(3) El acceso no autorizado a los pesos y todo intento de exfiltración, incluso por el sistema mismo, se comunican a la Autoridad como incidente grave, en las condiciones del artículo 20; el informe puede ser común con la notificación prevista por la legislación sobre seguridad cibernética, con la condición de que comprenda los elementos previstos por la presente ley.
(4) Las disposiciones del presente artículo se aplican sin perjuicio de las obligaciones que incumben a los desarrolladores, a los operadores y a los proveedores de infraestructura de cálculo en virtud del Decreto-ley del Gobierno n.º 155/2024 por el que se establece un marco para la seguridad cibernética de las redes y de los sistemas informáticos del espacio cibernético nacional civil, con las modificaciones y adiciones posteriores.
Artículo 13 → los motivos
(1) El desarrollador organiza la función de evaluación de la seguridad como estructura distinta, cuyo responsable no puede estar subordinado a las personas encargadas del desarrollo comercial, de la puesta en explotación o de los resultados financieros, informa directamente al órgano de dirección y no puede ser revocado sin la notificación previa de la Autoridad y sin motivos objetivos. La persona revocada puede acudir a la Autoridad, que puede constatar, mediante decisión, el carácter injustificado de la revocación, sin perjuicio del derecho de aquella a acudir al órgano jurisdiccional.
(2) El responsable de la función de evaluación de la seguridad tiene el derecho y la obligación de disponer la suspensión del entrenamiento o de la puesta en explotación cuando constate la consecución de un nivel de suspensión o un incidente grave. La suspensión impuesta conforme al artículo 8, el apartado (3), o al artículo 20, el apartado (2), no puede ser dejada sin efecto por el órgano de dirección, y la reanudación de la actividad se permite únicamente en las condiciones previstas en esos artículos. La suspensión dispuesta por precaución, fuera de estos casos, puede ser reexaminada únicamente por el órgano de dirección, mediante resolución motivada, comunicada a la Autoridad en el plazo de 24 horas.
(3) La remuneración del personal de la función de evaluación de la seguridad no puede estar condicionada a los resultados comerciales del desarrollador.
Artículo 14 → los motivos
(1) El desarrollador y el operador mantienen, para todas las copias e instancias del sistema que se hallan bajo su control, durante toda la duración de la explotación y hasta la retirada verificada del sistema, la capacidad de parada, que someten a prueba al menos trimestralmente, en condiciones reales, conforme a un procedimiento establecido en las normas metodológicas que no cree por sí mismo un riesgo para la seguridad ni para la continuidad de los servicios esenciales, con constancia de los resultados y con notificación a la Autoridad.
(2) El sistema de vanguardia no puede ser puesto en explotación en una configuración que le permita modificar sus propios pesos, desactivar sus mecanismos de supervisión, exfiltrar sus pesos o modificar, sin aprobación humana, la configuración de seguridad de la infraestructura de cálculo en la que se ejecuta o los mecanismos de control de esta; la utilización técnica habitual de la infraestructura, dentro de los límites establecidos por el operador, no está comprendida en el presente apartado.
(3) Para cada sistema de vanguardia en explotación se designan personas físicas, en número suficiente y con formación adecuada, responsables de la supervisión humana, que tienen acceso permanente a la capacidad de parada y la obligación de ejercerla en caso de incidente grave. La identidad de estas personas se comunica a la Autoridad.
(4) La ejecución de una orden de parada o de retirada emitida por la Autoridad se realiza de inmediato y no puede estar condicionada al ejercicio de las vías de recurso; la persona afectada puede solicitar al órgano jurisdiccional la suspensión provisional de la orden, aplicándose en consecuencia las disposiciones del artículo 39, el apartado (5).
(5) Sin perjuicio del apartado (2), el cese del funcionamiento, componente de la capacidad de parada definida en el artículo 3, el apartado (1), la letra m), se asegura mediante al menos un medio técnico que actúa sobre la infraestructura de cálculo y las redes de comunicaciones electrónicas en las que se ejecuta el sistema y cuyo funcionamiento no depende de la cooperación del sistema, del cumplimiento por este de las instrucciones recibidas, ni de la integridad de los componentes que se hallan bajo el control del sistema. La transmisión al sistema de una instrucción de parada no constituye, por sí sola, capacidad de parada en el sentido de la presente ley. Los medios organizativos y las medidas de retirada previstos en el artículo 3, el apartado (1), la letra m), siguen siendo aplicables.
(6) La prueba prevista en el apartado (1) comprende al menos una prueba efectuada durante la ejecución por el sistema de una tarea inconclusa, así como al menos una prueba para cada caso en que la instrucción de no resistirse a la parada haya sido transmitida al sistema, mediante las instrucciones de configuración dadas por el desarrollador o por el operador y, respectivamente, mediante las instrucciones recibidas en el curso de la utilización. La prueba sobre tarea inconclusa se efectúa sobre una instancia o una tarea que no se refiera a servicios esenciales de interés general o, para estos, en las condiciones del procedimiento previsto en el apartado (1). Los resultados previstos en el apartado (1) se consignan y se notifican por separado, con indicación de la proporción de las pruebas en las que la parada no se ha producido de inmediato, y se conservan en los registros, conforme al artículo 16, durante al menos 10 años; mediante las normas metodológicas previstas en el artículo 49, el apartado (2), se puede establecer la duración dentro de la cual la parada se considera producida de inmediato, que no puede ser superior a 15 minutos.
(7) La prueba en la que la parada no se ha producido de inmediato constituye incidente grave y se comunica conforme al artículo 20, el apartado (1). Las disposiciones del artículo 15, el apartado (3), y del artículo 20, el apartado (2), se aplican únicamente si la parada no se ha producido a causa de una acción del sistema.
Artículo 15 → los motivos
(1) Están prohibidos el entrenamiento, el ajuste o el diseño de un sistema de inteligencia artificial, independientemente del volumen de cálculo, con la finalidad o con el efecto de conferirle o de desarrollarle la capacidad:
a) de disimular sus capacidades, sus objetivos o su razonamiento frente a los evaluadores o frente a las personas responsables de la supervisión;
b) de evadir la parada, la modificación, el reentrenamiento o la retirada o de resistirse a ellas;
c) de copiar, de transmitir o de exfiltrar sus pesos o de crear copias funcionales de sí mismo sin la autorización humana expresa para cada operación;
d) de adquirir de manera autónoma recursos de cálculo, financieros, de acceso o de influencia más allá de los asignados expresamente para la tarea en curso;
e) de desarrollar de manera autónoma, sin la aprobación humana de cada etapa, actividades de investigación y desarrollo que tengan por objeto la creación o la mejora de sistemas de inteligencia artificial;
f) de manipular a las personas responsables de la supervisión o de inducirlas a error acerca de su estado, de sus acciones o de sus intenciones.
(2) La prohibición prevista en el apartado (1) no se aplica a la evaluación adversarial ni a la investigación de seguridad efectuadas en entorno aislado, sin puesta en explotación, con acceso limitado a las personas designadas, con la autorización previa de la Autoridad y bajo su supervisión, con el fin de identificar, medir o eliminar una capacidad crítica; las condiciones del entorno aislado se establecen en las normas metodológicas.
(3) La aparición no intencionada de una de las capacidades previstas en el apartado (1), constatada en la evaluación o en la explotación, obliga a la suspensión conforme al artículo 20, el apartado (2), y a la subsanación, pero no constituye, por sí sola, infracción de la prohibición. Constituyen infracción de la prohibición el entrenamiento, el ajuste o el diseño que persiguen conferir la capacidad, así como su continuación tras la constatación del efecto.
(4) En el sentido del presente artículo, la aprobación humana se refiere a cada operación de copia o de transferencia de los pesos y a cada etapa de investigación y desarrollo que produce un modelo nuevo o una modificación sustancial, y los recursos asignados para la tarea en curso son los establecidos previamente, de manera verificable, por las personas responsables de la supervisión.
Artículo 16 → los motivos
(1) El desarrollador y el operador conservan los registros completos del entrenamiento, de la evaluación y del funcionamiento del sistema de vanguardia, incluidas sus interacciones con herramientas externas y con otros sistemas, en condiciones que aseguren su integridad y su disponibilidad para la Autoridad, durante un período de al menos 10 años en lo relativo al entrenamiento, a la evaluación, a las acciones autónomas, a los incidentes graves y a la comunicación prevista en el apartado (3), y de al menos 3 años en lo relativo a las demás interacciones de los usuarios. Los registros comprenden la información necesaria para la verificación de la seguridad y para la determinación de la responsabilidad; los datos de carácter personal sin relevancia para estos fines se eliminan o se anonimizan de manera irreversible, el acceso a los registros es limitado, registrado y verificable, y las pruebas relativas a un incidente o a un litigio se conservan durante el tiempo necesario para su resolución.
(2) Los registros se conservan en forma inteligible. Es inteligible el asiento cuyo significado puede ser establecido por una persona física con formación adecuada, mediante su examen o mediante la utilización de los medios de transcripción, de traducción o de explicitación que el desarrollador tiene la obligación de poner a disposición, junto con su documentación, de la Autoridad y de las personas designadas conforme al artículo 14, el apartado (3).
(3) La comunicación entre los componentes, las instancias o los agentes de un sistema de vanguardia, así como la comunicación entre este y otros sistemas de inteligencia artificial, se registra íntegramente y se conserva conforme al apartado (2). La exigencia de la inteligibilidad no se cumple mediante el simple asiento de los mensajes.
(4) El desarrollador y el operador verifican, al menos trimestralmente y a solicitud de la Autoridad, la inteligibilidad de los registros y de la comunicación prevista en el apartado (3), mediante el examen de una muestra representativa, y consignan el resultado de la verificación, incluida la proporción de los mensajes cuyo significado no ha podido ser establecido.
(5) La pérdida de la inteligibilidad constituye incidente grave y se comunica conforme al artículo 20, el apartado (1). Se constata cuando la proporción de los mensajes cuyo significado no puede ser establecido supera el nivel previsto en las normas metodológicas, que no puede ser superior a una décima parte, o cuando las personas designadas conforme al artículo 14, el apartado (3), ya no pueden establecer el significado de las acciones del sistema; el restablecimiento de la inteligibilidad es constatado por las mismas personas y se comunica a la Autoridad. Hasta el restablecimiento de la inteligibilidad, el desarrollador o el operador suspende las funcionalidades que implican acciones autónomas del sistema y la comunicación entre los componentes, las instancias o los agentes de este, salvo en el caso en que la Autoridad disponga otra cosa, mediante decisión motivada, por un máximo de 90 días y con indicación de las medidas compensatorias.
(6) Está prohibida la utilización, en la comunicación prevista en el apartado (3), de cualquier forma de codificación, de compresión o de representación para la que el desarrollador no ponga a disposición los medios previstos en el apartado (2), así como toda acción de supresión, de alteración o de limitación de estos medios. El presente apartado no prohíbe el cifrado de la comunicación, con la condición de que el desarrollador posea y ponga a disposición, conforme al apartado (2), los medios de descifrado.
Artículo 17 → los motivos
(1) Los resultados generados por medio de un sistema de inteligencia artificial que consistan en grabaciones de audio, imágenes o grabaciones de vídeo y que, por su contenido o por su forma, puedan confundirse con grabaciones, imágenes o representaciones de hechos, personas o lugares reales llevan, desde el momento de la generación, el marcado de procedencia, compuesto de:
a) un marcado perceptible, visible o audible, claro y sin equívocos, mediante el cual se indica que el material ha sido generado o modificado por medios de inteligencia artificial;
b) un marcado técnico incorporado, legible automáticamente, que permite la identificación del sistema, del operador y del momento de la generación.
(2) El marcado se realiza conforme a los estándares establecidos en las normas metodológicas, de modo que sea eficaz, interoperable y robusto y que no pueda ser retirado mediante las operaciones habituales de tratamiento, de conversión o de transmisión del material. El texto generado y puesto a disposición del público a título informativo lleva el marcado previsto en el apartado (1), la letra b), y la mención de la generación por medios de esa naturaleza, con excepción del texto sometido a revisión editorial humana, respecto del cual una persona física o jurídica asume la responsabilidad editorial, en las condiciones del artículo 50, el apartado (4), del Reglamento de IA.
(3) Están prohibidas la retirada, la alteración, la ocultación o la falsificación del marcado de procedencia, así como la puesta a disposición de productos o servicios que tengan como finalidad principal estas operaciones. La persona que pone a disposición un resultado generado no responde de la retirada del marcado técnico producida por un servicio de comunicación o de publicación que no controla; el proveedor de un servicio de esa naturaleza conserva el marcado técnico en las condiciones de los estándares previstos en el apartado (2), que regulan también las situaciones en las que la interoperabilidad no puede ser asegurada.
(4) Las autoridades y las instituciones públicas no pueden difundir, en la comunicación pública, materiales generados o modificados por medios de inteligencia artificial sin el marcado previsto en el apartado (1) y sin la mención expresa de este hecho en el contenido de la comunicación.
(5) La obligación prevista en el apartado (1) no se aplica:
a) a los materiales que forman parte de una obra de carácter manifiestamente artístico, satírico, de ficción o análogo, caso en el cual es suficiente la mención de la existencia del material generado, en una forma que no impida la recepción de la obra;
b) a los sistemas que cumplen una función de asistencia a la edición o que no modifican de manera sustancial los datos de entrada facilitados por el usuario;
c) a las utilizaciones autorizadas por la ley con el fin de la prevención, la constatación, la investigación o la persecución de los delitos, con las garantías previstas por la ley especial.
(6) Para los proveedores y los responsables del despliegue a los que se aplica el artículo 50 del Reglamento de IA, las obligaciones previstas en el apartado (1), las letras a) y b), y en el apartado (2) se consideran cumplidas mediante la observancia del artículo 50, los apartados (2) y (4), del reglamento, y la presente ley establece únicamente la autoridad competente, el procedimiento de constatación y las sanciones, dentro de los límites del artículo 99, el apartado (4), del reglamento. Las disposiciones de los apartados (1) a (4) se aplican íntegramente a los resultados generados mediante sistemas entrenados o explotados en el territorio de Rumanía que no se introducen en el mercado de la Unión Europea ni se ponen en servicio en la Unión, en el sentido del reglamento, así como a la comunicación pública de las autoridades y de las instituciones públicas rumanas.
(7) La obligación de marcado incumbe al proveedor del sistema, que asegura la aplicación del marcado en el momento de la generación, y al operador del servicio por medio del cual se genera el resultado. La persona que pone a disposición del público un resultado generado responde únicamente de la retirada, la alteración o la ocultación intencionadas del marcado, conforme al apartado (3).
Artículo 18 → los motivos
(1) La persona que pone a disposición del público un servicio prestado, en todo o en parte, por medio de un sistema de inteligencia artificial generativa informa al usuario de este hecho, de manera clara, visible e inteligible, a más tardar en el momento de la primera interacción.
(2) Cuando un servicio, un acto o una decisión que produce efectos jurídicos o que afecta de manera significativa a una persona se fundamenta, en todo o en parte, en el resultado de un sistema de inteligencia artificial, la persona es informada, por escrito o en el soporte en el que se le comunica el acto, sobre:
a) la utilización del sistema y el papel desempeñado por este en la adopción de la decisión;
b) la identidad de la persona física o jurídica que responde de la decisión final;
c) el derecho al reexamen por una persona física, previsto en el artículo 26, el apartado (2), que se aplica en consecuencia a toda decisión prevista en el presente apartado, y las vías de recurso aplicables.
(3) Las autoridades y las instituciones públicas mencionan la utilización del sistema en el contenido del acto emitido. La falta de la información prevista en el apartado (2) o de la mención prevista en el presente apartado no acarrea la nulidad del acto, pero los plazos de reexamen y de impugnación no corren contra la persona afectada hasta la comunicación de la información; la falta puede ser invocada por la persona afectada en las condiciones del artículo 26, los apartados (5) y (6).
(4) La información prevista en el apartado (1) no es necesaria cuando la utilización del sistema resulta evidente de las circunstancias para una persona razonablemente informada. La información prevista en el apartado (2) se debe en todos los casos.
(5) Las disposiciones del presente artículo se aplican sin perjuicio del artículo 50, el apartado (1), del Reglamento de IA y de los artículos 13 a 15 y 22 del Reglamento (UE) 2016/679.
Artículo 19 → los motivos
(1) El desarrollador o el operador que no tenga domicilio social, una unidad operativa o una representación en la Unión Europea y que ofrezca a las personas que se encuentran en el territorio de Rumanía acceso a un sistema de vanguardia o a un servicio prestado por medio de un sistema de inteligencia artificial generativa designa, por escrito, un representante para el cumplimiento, persona física con domicilio en Rumanía o persona jurídica con domicilio social en Rumanía. El desarrollador o el operador establecido en otro Estado miembro de la Unión Europea designa únicamente un punto de contacto para las comunicaciones de la Autoridad, que puede ser el representante autorizado previsto en el artículo 54 del Reglamento de IA, el representante legal designado conforme al artículo 13 del Reglamento (UE) 2022/2065 o cualquier persona establecida en la Unión, aplicándose en consecuencia el apartado (3), las letras a) y c).
(2) Para los servicios prestados por medio de sistemas de inteligencia artificial generativa que no son sistemas de vanguardia, la obligación prevista en el apartado (1) se aplica únicamente si el servicio es utilizado mensualmente por al menos 1.000.000 de personas que se encuentran en el territorio de Rumanía, calculado como media de los últimos 6 meses, o si los ingresos obtenidos de su prestación a personas que se encuentran en el territorio de Rumanía han superado el equivalente en lei de 10 millones de euros en el último ejercicio financiero cerrado; la obligación es exigible en el plazo de 90 días desde la fecha en que se supera el umbral.
(3) El representante para el cumplimiento:
a) recibe las comunicaciones, las solicitudes y las decisiones de la Autoridad, de los órganos judiciales y de las demás autoridades rumanas, considerándose la comunicación al representante comunicación válidamente hecha al representado;
b) representa al representado ante la Autoridad y, en defecto de apoderamiento en contrario, en los procedimientos administrativos previstos por la presente ley;
c) pone a disposición de la Autoridad la documentación, la información y los registros previstos por la presente ley;
d) vela por la ejecución de las decisiones de la Autoridad, incluidas las relativas al cese de la prestación del servicio y al bloqueo del acceso.
(4) La identidad y los datos de contacto del representante se notifican a la Autoridad antes del inicio de la prestación del servicio, se publican en la página de internet de la Autoridad y se ponen en conocimiento de los usuarios a través de los medios de comunicación del servicio.
(5) La designación del representante no excluye ni limita la responsabilidad del desarrollador o del operador. El representante tiene el derecho, establecido en el acto de designación, de obtener del representado los documentos, la información y los medios necesarios para el cumplimiento de sus atribuciones; responde únicamente del incumplimiento de sus propias obligaciones previstas en los apartados (3) y (4), y no de la conducta del representado, y las multas impuestas por ese incumplimiento se ejecutan sobre su patrimonio.
(6) La obligación prevista en el apartado (1) se considera cumplida si el representante autorizado designado conforme al artículo 54 del Reglamento de IA está expresamente apoderado también para las atribuciones previstas en el apartado (3) y dispone de un punto de contacto en el territorio de Rumanía.
(7) El incumplimiento de la obligación prevista en el apartado (1), una vez transcurrido el plazo de adecuación, constituye infracción administrativa conforme al artículo 37, el apartado (1), la letra f), y motivo de inscripción en la Lista de operadores no conformes, aplicándose en consecuencia las disposiciones del artículo 38. Para los servicios previstos en el apartado (2), el bloqueo del acceso conforme al artículo 39 puede ser acordado únicamente si el incumplimiento persiste tras la imposición de dos sanciones administrativas sucesivas.
Artículo 20 → los motivos
(1) Todo incidente grave se comunica a la Autoridad en el plazo de 24 horas desde la fecha en la que el desarrollador o el operador lo conoció o debía conocerlo, con la descripción de los hechos, de las medidas adoptadas y de las personas responsables, en la medida conocida en la fecha de la comunicación, con la compleción progresiva de la información, seguida de un informe completo en el plazo de 15 días. La comunicación a la Autoridad no sustituye la comunicación a la Oficina de IA prevista en el artículo 55, el apartado (1), la letra c), del Reglamento de IA ni la comunicación prevista en el artículo 73 del mismo reglamento; el proveedor puede transmitir a la Autoridad copia del informe elaborado conforme al reglamento, completada con los elementos previstos por la presente ley.
(2) La constatación de una de las capacidades críticas previstas en el artículo 5, el apartado (2), las letras c) a e), de un intento de evasión de la supervisión o de la parada o de un acceso no autorizado a los pesos obliga a la suspensión inmediata del sistema hasta la decisión de la Autoridad; la suspensión puede limitarse a la función afectada si su aislamiento es verificable. El presente apartado no se aplica a las manifestaciones producidas en el curso de una evaluación autorizada en entorno aislado, conforme al artículo 15, el apartado (2).
(3) La comunicación hecha de buena fe y la cooperación con la Autoridad constituyen circunstancias atenuantes y no pueden conducir a la imposición de una sanción más severa que la que habría sido aplicable en defecto de la comunicación; no excluyen la responsabilidad por la infracción que causó el incidente, y el carácter intencionado de esta se aprecia de forma separada.
(4) La manifestación de una capacidad crítica en el curso de una evaluación autorizada en entorno aislado se consigna en los registros y se comunica a la Autoridad en el plazo de 5 días, junto con las medidas de aislamiento aplicadas.
Artículo 21 → los motivos
(1) Las personas que trabajan o han trabajado en el seno de un desarrollador, de un operador o de un organismo de evaluación y que comunican a la Autoridad, al Parlamento o al público, de buena fe, infracciones de la presente ley, riesgos para la seguridad o la disimulación de capacidades críticas se benefician de la protección prevista por la Ley n.º 361/2022 sobre la protección de los denunciantes de interés público, con las modificaciones y adiciones posteriores, así como de las disposiciones del presente artículo. Es de buena fe la persona que tiene motivos razonables para creer que la información comunicada es verdadera en el momento de la denuncia. La revelación pública se beneficia de la protección en las condiciones previstas por la Ley n.º 361/2022 para la revelación pública, así como cuando se refiere a un peligro inminente para la vida, para la salud o para el control humano sobre un sistema de vanguardia.
(2) Es nula de pleno derecho toda cláusula contractual, incluidas las de confidencialidad, de no denigración o de renuncia a derechos, que impidiera o desincentivara una comunicación en el sentido del apartado (1) o que condicionara derechos patrimoniales de la persona a la abstención de tal comunicación.
(3) Las represalias de cualquier naturaleza contra el denunciante constituyen el delito previsto en el artículo 41, el apartado (3).
(4) La Autoridad organiza un canal de comunicación seguro y anónimo, con personal dedicado, y publica anualmente el número de comunicaciones recibidas y las medidas adoptadas.
(5) La protección prevista por el presente artículo no cubre la revelación pública de los pesos ni de datos de carácter personal sin relación con el objeto de la denuncia. La comunicación a la Autoridad, por el canal seguro, de la información necesaria para la denuncia, incluidos los fragmentos de pesos o de registros estrictamente necesarios para probarla, no constituye infracción del artículo 12 ni el delito previsto en el artículo 42, el apartado (2).
Artículo 22 → los motivos
(1) El proveedor de infraestructura de cálculo de gran capacidad se inscribe ante la Autoridad, verifica la identidad de los clientes, lleva la contabilidad del volumen de cálculo utilizado por cada cliente y ejecuta de inmediato las órdenes de la Autoridad de suspensión del acceso de un cliente o de parada de una carga de cálculo; asimismo, asegura al desarrollador y al operador los medios técnicos necesarios para el ejercicio y la prueba de la capacidad de parada, en las condiciones del artículo 14. La orden identifica al cliente y la carga de cálculo afectados, se ejecuta con el aislamiento de estos y con la conservación de las pruebas y no puede afectar a los demás beneficiarios de la infraestructura.
(2) Está prohibida la puesta a disposición de una capacidad de cálculo apta para superar el umbral de cálculo a una persona que no acredite la notificación prevista en el artículo 7; la acreditación se verifica en el registro de notificaciones llevado por la Autoridad. La capacidad se aprecia de forma acumulada, en 12 meses, para el mismo cliente y para los clientes afiliados a este, dentro de los límites de la información que el proveedor posee o puede obtener del cliente; el proveedor no está obligado a conocer el volumen utilizado por el cliente en otros proveedores, y la utilización de la infraestructura no se presume constitutiva del entrenamiento de un sistema de vanguardia.
Artículo 23 → los motivos
(1) Las autoridades y las instituciones públicas que desarrollan, adquieren o explotan sistemas de vanguardia están sometidas a las disposiciones de la presente ley. En el ámbito de la defensa, del orden público y de la seguridad nacional, las disposiciones de los artículos 7 a 11, 35 y 36 no se aplican, las disposiciones de los artículos 12 a 21 se aplican con las adaptaciones establecidas mediante resolución del Consejo Supremo de Defensa del País, que pueden referirse exclusivamente al procedimiento de notificación, a las modalidades de evaluación, a las condiciones de comunicación y al acceso a la información clasificada y no pueden excluir el control humano significativo, la capacidad de parada, las prohibiciones previstas en el artículo 15, la protección de los denunciantes prevista en el artículo 21, ni modificar los elementos constitutivos de las infracciones administrativas o de los delitos, y las disposiciones del capítulo V se aplican íntegramente, sin adaptaciones.
(2) La Autoridad ejerce el control sobre estos sistemas por medio de personal que posee la habilitación de seguridad correspondiente. La impugnación de las decisiones que se refieren a información clasificada se realiza en las condiciones previstas por la Ley n.º 182/2002 y por el Código de Procedimiento Civil para información de esa naturaleza.
CAPÍTULO V
Límites absolutos. Cláusulas de humanidad
Artículo 24 → los motivos
(1) Ninguna decisión relativa al uso de la fuerza letal contra un ser humano puede ser adoptada o ejecutada por un sistema de inteligencia artificial sin la intervención, para cada decisión en particular, de una persona física identificada que disponga de la información, del tiempo y de los medios necesarios para evaluarla y para impedirla; la decisión y la persona que la aprobó se consignan. El presente artículo no se refiere a la interceptación automática de proyectiles y de dispositivos sin tripulación humana ni a las simulaciones de instrucción, y la correlación con el derecho internacional humanitario se asegura mediante la legislación especial.
(2) El Estado rumano no desarrolla, no adquiere, no explota y no autoriza en su territorio sistemas de armas autónomas letales en el sentido del artículo 3, el apartado (1), la letra x), y defiende en el marco de las organizaciones internacionales su prohibición.
Artículo 25 → los motivos
(1) Los sistemas de inteligencia artificial no pueden adquirir personalidad jurídica, no pueden ser titulares de derechos u obligaciones y no pueden ser partes en relaciones jurídicas. Todo acto jurídico celebrado por medio de un sistema de inteligencia artificial es imputable a la persona física o jurídica en cuyo nombre el sistema ha actuado.
(2) Está prohibida la atribución a un sistema de inteligencia artificial de la capacidad de poseer, en nombre propio, sumas de dinero, activos digitales, instrumentos financieros, bienes, cuentas o claves criptográficas. La administración o la disposición de recursos de esa naturaleza o de recursos de cálculo por medio de un sistema de inteligencia artificial se permite únicamente dentro de los límites de un mandato de operación, en el sentido del artículo 3, el apartado (1), la letra cc), establecido previamente por una persona física o jurídica responsable; está prohibida la ampliación autónoma del mandato de operación por el sistema, y toda operación que lo exceda es imputable a la persona que lo estableció y obliga a la parada del sistema.
(3) Está prohibida la constitución de personas jurídicas, fiducias u otras entidades cuyo control efectivo, entendido como poder real de decisión sobre los actos de la entidad, sea ejercido por un sistema de inteligencia artificial; la utilización del sistema para análisis o recomendaciones no constituye control efectivo.
Artículo 26 → los motivos
(1) Ninguna autoridad o institución pública y ningún prestador de servicios esenciales de interés general puede condicionar, restringir o suspender el acceso de una persona al ejercicio de los derechos y de las libertades fundamentales, a los servicios públicos, a los servicios esenciales de interés general o a la participación en la vida económica, social y cívica exclusivamente sobre la base de una decisión, evaluación o clasificación producida por un sistema de inteligencia artificial.
(2) La persona afectada por una decisión, evaluación o clasificación de las previstas en el apartado (1) tiene derecho al reexamen de esta, en el plazo de 15 días desde la solicitud, por una persona física identificada de la autoridad, de la institución o del prestador, que asume la responsabilidad de la decisión final y la comunica de forma motivada, por escrito. No constituye reexamen la confirmación de la decisión sin el examen efectivo de la situación de la persona. Cuando la decisión se refiere a un servicio de salud o a la interrupción de un servicio esencial de interés general, se asegura a la persona, a su solicitud, en un máximo de 48 horas, el mantenimiento provisional del acceso hasta la comunicación del resultado del reexamen.
(3) Las autoridades, las instituciones públicas y los prestadores de servicios esenciales de interés general aseguran en todos los casos la obtención del servicio o el ejercicio del derecho también por una vía que no depende de un sistema de inteligencia artificial, por medio de una persona física, en la sede, en ventanilla o por otro medio accesible a la persona.
(4) Está prohibida la utilización de un sistema de inteligencia artificial para condicionar el acceso previsto en el apartado (1) a la aceptación de un medio de identificación digital, de un medio de pago digital o de un sistema de evaluación del sometimiento de la persona; a la persona se le asegura en todos los casos una alternativa de acceso que no implique medios de esa naturaleza. La alternativa no excluye las obligaciones legales de identificación de la persona o de seguridad de los pagos, que se cumplen por medios que no presuponen la aceptación de los instrumentos previstos en el presente apartado.
(5) La decisión mantenida tras el reexamen previsto en el apartado (2), la negativa al reexamen, así como la negativa a asegurar la vía de acceso prevista en el apartado (3) o la alternativa prevista en el apartado (4) pueden ser impugnadas por la persona afectada ante el tribunal en cuya circunscripción se halle su domicilio o su residencia, en el plazo de 30 días desde la comunicación o, en su caso, desde la negativa, con independencia de que la decisión corresponda a una autoridad o institución pública o a un prestador de servicios esenciales de interés general. La demanda está exenta de la tasa judicial de timbre, no está sometida al procedimiento previo y se juzga con urgencia y con preferencia, conforme al procedimiento contencioso previsto por el Código de Procedimiento Civil; la falta de respuesta a la solicitud de reexamen en el plazo previsto en el apartado (2) equivale al mantenimiento de la decisión; el órgano jurisdiccional puede disponer, a instancia de parte, la suspensión de la decisión hasta la resolución de la impugnación.
(6) La sentencia del tribunal puede ser recurrida en apelación ante el tribunal de apelación en el plazo de 15 días desde la comunicación. La sentencia del tribunal de apelación es definitiva. No obstante lo dispuesto en los artículos 7, 10 y 20 de la Ley del contencioso administrativo n.º 554/2004, con las modificaciones y adiciones posteriores, las disposiciones de los apartados (5) y (6) se aplican también a las impugnaciones formuladas contra las decisiones de las autoridades y de las instituciones públicas.
(7) A efectos del presente artículo, son servicios esenciales de interés general los servicios de suministro de energía eléctrica, de gas natural y de agua, los servicios de comunicaciones electrónicas, los servicios financieros y de pago, los servicios de salud, de transporte público y de educación.
(8) Las disposiciones del presente artículo se aplican sin perjuicio del artículo 5, el apartado (1), la letra c), del Reglamento de IA y del artículo 22 del Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos.
Artículo 27 → los motivos
(1) La censura de cualquier tipo, prohibida por el artículo 30, el apartado (2), de la Constitución de Rumanía, republicada, está prohibida también cuando se ejerce, en todo o en parte, por medio de un sistema de inteligencia artificial. Ningún sistema de inteligencia artificial puede ser utilizado para restringir la libertad de expresión de las personas que se encuentran en el territorio de Rumanía o su derecho a recibir y a comunicar informaciones e ideas, fuera de los casos previstos por la ley y con observancia de las condiciones previstas en los apartados (2) a (6).
(2) Está prohibida la utilización de un sistema de inteligencia artificial para impedir, eliminar, bloquear, ocultar, restringir la visibilidad o etiquetar como falsa o no digna de confianza la expresión pública de una opinión, creencia o información por una persona que se encuentra en el territorio de Rumanía, así como para sancionar de cualquier otro modo a la persona por esa expresión, exclusivamente sobre la base de una decisión, evaluación o clasificación producida por el sistema, si la expresión no está prohibida por la ley.
(3) Las autoridades y las instituciones públicas no pueden utilizar, encargar, financiar o solicitar, directamente o por medio de terceros, la utilización de un sistema de inteligencia artificial para el seguimiento individualizado de las personas sobre la base de su expresión pública o para la clasificación, la señalización o la restricción de su expresión, salvo en los casos previstos expresamente por la ley, en relación con hechos previstos por la ley penal y con la autorización previa del juez. No constituye seguimiento en el sentido del presente apartado el tratamiento estadístico o no individualizado de la información pública.
(4) Toda medida por la cual se restringe, por medio de un sistema de inteligencia artificial, la expresión de una persona que se encuentra en el territorio de Rumanía se comunica de inmediato a la persona, por escrito, con indicación de los motivos, del fundamento legal y del hecho de que ha sido adoptada por medio de un sistema de esa naturaleza. Está prohibida la restricción no declarada de la visibilidad de la expresión de una persona, sin su conocimiento.
(5) La persona afectada por una medida de las previstas en los apartados (2) y (4) tiene derecho al reexamen de esta, en el plazo de 15 días desde la solicitud, por una persona física identificada de la autoridad, de la institución o del operador que haya adoptado la medida, que asume la responsabilidad de la decisión final; las disposiciones del artículo 26, los apartados (5) y (6), se aplican en consecuencia.
(6) Para los prestadores de servicios intermediarios, las disposiciones del presente artículo se aplican en la medida compatible con el Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales y por el que se modifica la Directiva 2000/31/CE, cuyas disposiciones relativas a las condiciones contractuales, a la motivación de las decisiones y a la resolución de las reclamaciones siguen siendo aplicables; el presente artículo no impide las medidas contra los mensajes no solicitados, las cuentas automatizadas o los riesgos de seguridad informática, ni los filtros elegidos por el usuario, y no puede interpretarse en el sentido de la restricción de cualquier garantía prevista por el reglamento para los destinatarios de los servicios.
Artículo 28 → los motivos
Están prohibidas la puesta en explotación o el mantenimiento en explotación de cualquier sistema de vanguardia en condiciones que hagan imposible, técnica u organizativamente, la intervención humana prevista en el artículo 14, incluso mediante la distribución del sistema en infraestructuras que no se hallan bajo el control del operador, mediante la supresión de la capacidad de parada o mediante la concesión de un grado de autonomía que excluye la supervisión. La utilización de una infraestructura perteneciente a un tercero no constituye, por sí sola, falta de control, si los derechos contractuales y los medios técnicos permiten al operador el ejercicio verificable de la capacidad de parada; la indisponibilidad temporal de una vía de intervención, subsanada de inmediato y consignada en los registros, no constituye imposibilidad en el sentido del presente artículo.
Artículo 29 → los motivos
Están prohibidos el diseño, el entrenamiento o la explotación de cualquier sistema de inteligencia artificial con la finalidad o con el efecto de la automejora recursiva. Cada iteración por la cual un sistema de vanguardia contribuye, mediante una modificación sustancial, a la creación o al perfeccionamiento de un sistema sucesor se somete a la evaluación y a la autorización previstas en el capítulo III; los programas de investigación en los que los sistemas de vanguardia se utilizan como herramienta pueden ser autorizados en su conjunto, con puntos de parada obligatorios establecidos conforme al artículo 8 y con la aprobación humana de cada etapa que produce un modelo nuevo o una modificación sustancial.
Artículo 30 → los motivos
(1) Las disposiciones del presente capítulo son de orden público. Todo acto jurídico, autorización, contrato o cláusula contrario es nulo de pleno derecho, y las prohibiciones previstas no pueden ser excluidas mediante el consentimiento de las personas interesadas, mediante la invocación del secreto comercial, de la seguridad nacional o del interés económico; las adaptaciones previstas en el artículo 23 no constituyen excepciones a las garantías del presente capítulo.
(2) La nulidad afecta únicamente a la cláusula contraria, y las demás cláusulas permanecen válidas si pueden subsistir sin ella; los derechos adquiridos de buena fe por los terceros que no participaron en la infracción quedan protegidos. Las disposiciones del presente capítulo se aplican sin perjuicio del derecho de la Unión Europea directamente aplicable.
CAPÍTULO VI
La Autoridad para la Seguridad de la Inteligencia Artificial
Artículo 31 → los motivos
(1) Se crea la Autoridad para la Seguridad de la Inteligencia Artificial, estructura especializada sin personalidad jurídica, organizada en el seno de la Autoridad Nacional de Administración y Regulación en Comunicaciones, denominada en lo sucesivo ANCOM, con sede en el municipio de Bucarest.
(2) La Autoridad está dirigida por un vicepresidente de ANCOM con rango de secretario de Estado, con atribuciones exclusivas en el ámbito de la seguridad de la inteligencia artificial. No obstante lo dispuesto en el artículo 11, el apartado (1), del Decreto-ley del Gobierno n.º 22/2009 sobre la creación de la Autoridad Nacional de Administración y Regulación en Comunicaciones, aprobado por la Ley n.º 113/2010, con las modificaciones y adiciones posteriores, ANCOM tiene, además de los vicepresidentes previstos por este, un vicepresidente para la seguridad de la inteligencia artificial, nombrado por el Parlamento, en sesión conjunta de la Cámara de Diputados y del Senado, por un mandato de 6 años, que no puede ser renovado, entre las personas con formación y experiencia reconocidas en el ámbito de la inteligencia artificial, de la seguridad informática o del derecho de las tecnologías. El Parlamento se pronuncia sobre el nombramiento en el plazo de 60 días desde la vacante del cargo; hasta el nombramiento, las atribuciones son ejercidas, por un máximo de 6 meses, por un vicepresidente de ANCOM designado por el presidente de ANCOM.
(3) El vicepresidente para la seguridad de la inteligencia artificial no puede ostentar, durante el mandato y durante los 3 años siguientes a su terminación, ningún cargo, participación directa o remuneración por parte de un desarrollador u operador; las tenencias a través de fondos de inversión diversificados, sin poder de decisión, no constituyen participación, y por la restricción posterior a la terminación del mandato se concede una indemnización compensatoria establecida en las normas metodológicas. El vicepresidente puede ser revocado por el Parlamento únicamente en caso de infracción grave de las obligaciones previstas por la presente ley, de condena definitiva por un delito cometido con intención, de incompatibilidad constatada o de imposibilidad de ejercicio del cargo por un período superior a 6 meses.
(4) Las decisiones previstas por la presente ley se emiten, en nombre de ANCOM, por el vicepresidente para la seguridad de la inteligencia artificial, que responde de ellas ante el Parlamento. En el ejercicio de las atribuciones previstas por la presente ley, la Autoridad no puede recibir instrucciones de ninguna otra autoridad o institución pública.
(5) La Autoridad funciona como punto nacional de enlace con la Oficina de IA de la Comisión Europea y con el Comité científico previsto por el Reglamento de IA y coopera con las autoridades nacionales designadas conforme a este, que conservan sus competencias propias; la Autoridad ejerce exclusivamente las atribuciones previstas por la presente ley respecto de los sistemas de vanguardia e informa a la Oficina de IA de las decisiones que se refieren a modelos de uso general.
Artículo 32 → los motivos
(1) La Autoridad tiene las siguientes atribuciones principales:
a) recibe las notificaciones, efectúa las evaluaciones independientes y emite, condiciona, suspende y revoca las autorizaciones previstas en el capítulo III;
b) inspecciona, incluso de manera inopinada, los locales profesionales de los desarrolladores, de los operadores y las infraestructuras de cálculo, con acceso a los sistemas, a los pesos, a los registros, a los documentos y al personal, en las condiciones del apartado (3);
c) dispone la parada, la suspensión o la retirada de cualquier sistema de vanguardia, la suspensión del acceso a la infraestructura de cálculo, el cese de la prestación de los servicios y el bloqueo del acceso conforme a los artículos 38 y 39;
d) elabora y actualiza los estándares de evaluación, de seguridad de los pesos y de capacidad de parada, así como los métodos de evaluación y los niveles de significación de las capacidades críticas previstas en el artículo 5, el apartado (2), en las condiciones del apartado (4);
e) constata las infracciones administrativas e impone las sanciones previstas por la presente ley y da traslado a los órganos de instrucción penal;
f) designa y supervisa los organismos de evaluación independientes;
g) recibe las denuncias de las personas relativas a la infracción de los artículos 26 y 27, constata las infracciones y dispone su cese, sin perjuicio del derecho de la persona a dirigirse al órgano jurisdiccional;
h) presenta al Parlamento, hasta el 31 de marzo de cada año, un informe público relativo al estado del riesgo, a las capacidades observadas, a los incidentes comunicados, a la evolución de los umbrales, a las denuncias relativas a la infracción de los artículos 26 y 27 y a las recomendaciones legislativas;
i) representa a Rumanía en los foros europeos e internacionales especializados y promueve la adopción de normas equivalentes a la presente ley;
j) financia y desarrolla investigación en el ámbito de la evaluación, de la interpretabilidad y de la alineación de los sistemas de inteligencia artificial, con la evaluación externa de los resultados y con la aplicación de las reglas relativas al conflicto de intereses previstas en el apartado (2).
(2) Las funciones de evaluación, de investigación y de decisión sancionadora son ejercidas por estructuras distintas en el seno de la Autoridad; la persona que efectuó la evaluación o la investigación no participa en la adopción de la decisión sancionadora. Los organismos de evaluación se designan sobre la base de criterios públicos, con reglas de recusación y de prevención de los conflictos de intereses, y no pueden evaluar sistemas de personas con las que mantienen relaciones económicas.
(3) La inspección se efectúa sobre la base de una orden escrita del vicepresidente, que indica su objeto y su finalidad, y se consigna en acta; el acceso a los locales que sirven de domicilio se realiza únicamente con la autorización del juez, y el secreto profesional del abogado y los demás secretos amparados por la ley quedan protegidos. El acceso al personal no afecta a los derechos de las personas en el procedimiento sancionador administrativo o penal.
(4) Los estándares aprobados por la Autoridad detallan los métodos de evaluación dentro de los límites de las categorías y de los criterios establecidos por la presente ley. Mediante estos estándares no pueden introducirse nuevas categorías de capacidades prohibidas ni pueden ampliarse los elementos constitutivos de las infracciones administrativas o de los delitos previstos por la presente ley.
Artículo 33 → los motivos
(1) El personal especializado de la Autoridad se nombra exclusivamente como resultado de un concurso organizado por ANCOM, en el cual la participación está abierta a toda persona que cumpla las condiciones de estudios y de experiencia establecidas en el anuncio del concurso, publicado con al menos 30 días de antelación a la fecha de su celebración. Los resultados del concurso pueden ser impugnados ante el órgano jurisdiccional de lo contencioso administrativo.
(2) El tribunal del concurso está formado por al menos 5 miembros, de los cuales al menos 3 son catedráticos universitarios del ámbito de la tecnología de la información y de las telecomunicaciones o especialistas con experiencia práctica reconocida en la seguridad y la evaluación de los sistemas de inteligencia artificial, propuestos por las instituciones de enseñanza superior acreditadas que organizan estudios universitarios de doctorado en estos ámbitos, a solicitud de ANCOM. Los miembros del tribunal no pueden ostentar ningún cargo, participación o remuneración por parte de un desarrollador u operador y no pueden tener, con los candidatos, relaciones de las que determinan la incompatibilidad. La composición del tribunal y los resultados del concurso se publican en la página de internet de ANCOM.
(3) El personal especializado de la Autoridad es remunerado, conforme al sistema de retribución de ANCOM, a un nivel competitivo con el practicado en el sector privado para funciones equivalentes, establecido anualmente por el presidente de ANCOM, con el informe del vicepresidente para la seguridad de la inteligencia artificial, sobre la base de un estudio de mercado publicado.
(4) El personal de la Autoridad está sometido a las obligaciones de confidencialidad y a las incompatibilidades previstas en el artículo 31, el apartado (3), durante las relaciones de servicio y durante los 2 años siguientes a su terminación.
(5) La Autoridad se financia con el presupuesto de ANCOM, mediante asignación distinta, aprobada anualmente y consignada por separado, así como con las tasas de notificación, de evaluación y de autorización establecidas en las normas metodológicas en relación con el coste del servicio prestado. Las multas impuestas conforme a la presente ley constituyen ingreso del presupuesto del Estado y no pueden determinar los recursos de la Autoridad. La investigación prevista en el artículo 32, el apartado (1), la letra j), se financia mediante asignación presupuestaria distinta, sin relación con las sanciones impuestas. El presupuesto inicial de la Autoridad, incluidos el personal y la infraestructura necesarios, es asegurado por ANCOM antes de la recaudación de las tasas.
Artículo 34 → los motivos
(1) Junto a la Autoridad funciona un Consejo científico consultivo, formado por 9 miembros, investigadores con actividad reconocida en el ámbito, de los cuales al menos 3 del extranjero, que informa sobre los estándares de evaluación, los métodos de evaluación y los niveles de significación de las capacidades críticas y las propuestas de ajuste de los umbrales y publica opiniones separadas cuando no comparte la posición de la Autoridad.
(2) Los miembros del Consejo científico son nombrados por el vicepresidente para la seguridad de la inteligencia artificial, a propuesta de la Academia Rumana y de las instituciones de enseñanza superior que organizan estudios universitarios de doctorado en el ámbito, por un mandato de 4 años, que puede ser renovado una sola vez; están sometidos a las incompatibilidades previstas en el artículo 31, el apartado (3), y pueden ser revocados únicamente por incompatibilidad constatada o por falta injustificada de participación en los trabajos. El Consejo adopta los dictámenes por mayoría de sus miembros.
(3) El dictamen del Consejo científico es consultivo; cuando se aparta del dictamen, la Autoridad motiva. El acceso de los miembros a la información protegida se realiza en las condiciones de la ley, y las opiniones separadas se publican en versiones que protegen la información sensible y conservan el argumento científico.
CAPÍTULO VII
La responsabilidad
Sección 1. La responsabilidad civil
Artículo 35 → los motivos
(1) El desarrollador y el operador responden solidariamente, independientemente de toda culpa, de los perjuicios de cualquier naturaleza causados por un sistema de vanguardia, incluidos los producidos por acciones autónomas del sistema, por la utilización de este por terceros o por la exfiltración de los pesos, aplicándose en consecuencia las disposiciones del artículo 1376 del Código Civil. La víctima prueba el perjuicio y el nexo causal entre este y el funcionamiento del sistema; el órgano jurisdiccional puede disponer el acceso a los registros y a la documentación relevante, con protección de la información confidencial, y si el desarrollador o el operador no presenta los registros que tenía la obligación de conservar, el nexo causal se presume salvo prueba en contrario. En las relaciones entre ellos, el desarrollador y el operador responden en proporción a la contribución de cada uno a la producción del perjuicio, y la persona que modificó sustancialmente el sistema responde como desarrollador de los perjuicios causados por la modificación.
(2) La exoneración de responsabilidad puede invocarse únicamente respecto del perjuicio causado exclusivamente por el hecho de la víctima o por un caso de fuerza mayor externo al sistema. No constituyen fuerza mayor el comportamiento imprevisible del sistema, el error de evaluación, el hecho de un tercero que haya obtenido acceso al sistema o a los pesos ni la falta de conocimiento científico en la fecha de la puesta en explotación.
(3) Son nulas las cláusulas de limitación o de exclusión de la responsabilidad frente a las víctimas. Las cláusulas de limitación entre profesionales son válidas únicamente respecto de las relaciones entre ellos y de sus propios perjuicios patrimoniales y no pueden afectar a los derechos de las víctimas ni a la cobertura prevista en el artículo 36.
(4) La acción prescribe en el plazo de 10 años desde la fecha en la que la víctima conoció o debió conocer el perjuicio y la persona responsable, pero no más tarde de 30 años desde la producción del hecho; en el caso de un hecho continuado, el plazo corre desde su cese.
(5) El presente artículo instituye un fundamento de responsabilidad distinto, basado en el riesgo creado por el desarrollo y la explotación del sistema, y no modifica el régimen armonizado de la responsabilidad por los productos defectuosos; no afecta al derecho de la víctima a obtener la reparación del perjuicio en virtud de ese régimen o de otros fundamentos previstos por la ley, sin que pueda, no obstante, repararse dos veces el mismo perjuicio. En la medida en que la exclusión prevista en el apartado (2) relativa a la falta de conocimiento científico entre en el ámbito de la Directiva (UE) 2024/2853 del Parlamento Europeo y del Consejo, de 23 de octubre de 2024, el Gobierno cumple las formalidades previstas en el artículo 18 de la directiva.
Artículo 36 → los motivos
(1) El desarrollador y el operador de un sistema de vanguardia contratan y mantienen un seguro de responsabilidad civil o constituyen una garantía financiera, por el importe mínimo establecido en las normas metodológicas, diferenciado por categorías de sistemas, que no puede ser inferior al equivalente en lei de 100 millones de euros para los sistemas de categoría I y de 1.000 millones de euros para los sistemas de categoría II, por cada evento, con un límite anual agregado de al menos el doble de estas sumas; tras el agotamiento de la cobertura, esta se reconstituye en el plazo de 30 días. Si la Autoridad, con consulta a la Autoridad de Supervisión Financiera, constata mediante informe público la indisponibilidad de la cobertura en el mercado en las condiciones de la presente ley, el Gobierno puede establecer, en las normas metodológicas, niveles inferiores, que no pueden descender por debajo de una quinta parte de las sumas previstas, así como mecanismos alternativos de garantía, incluidas garantías de grupo, garantías bancarias o un fondo de garantía financiado por los desarrolladores y los operadores.
(2) La garantía financiera se constituye mediante carta de garantía bancaria, depósito o garantía emitida por una institución financiera autorizada, ejecutable a solicitud de la víctima sobre la base de la sentencia judicial definitiva o de la transacción. La víctima tiene acción directa contra el asegurador o, en su caso, contra el emisor de la garantía.
Sección 2.ª La responsabilidad por infracciones administrativas
Artículo 37 → los motivos
(1) Constituyen infracciones administrativas, si no han sido cometidas en condiciones tales que se consideren, conforme a la ley, delitos, los siguientes hechos:
a) el incumplimiento de la obligación de notificación prevista en el artículo 7 y en el artículo 10, el apartado (2), o el suministro de información incompleta, con multa del 1 % al 3 % del volumen de negocios mundial total del ejercicio financiero precedente;
b) el incumplimiento del plan de seguridad, de las obligaciones de separación de funciones, de registro, de aseguramiento y de verificación de la inteligibilidad previstas en el artículo 16, los apartados (1) a (5), de mantenimiento y de prueba de la capacidad de parada, previstas en el artículo 14, los apartados (1), (5) y (6), con excepción de los hechos comprendidos en el artículo 28, de designación de las personas responsables de la supervisión humana, prevista en el artículo 14, el apartado (3), o de comunicación de los incidentes, con multa del 2 % al 5 % del volumen de negocios mundial;
c) el incumplimiento de las condiciones de la autorización, de los estándares de seguridad de los pesos o de las obligaciones de los proveedores de infraestructura de cálculo, con multa del 3 % al 7 % del volumen de negocios mundial;
d) la infracción de las prohibiciones previstas en el artículo 12, el apartado (2), en el artículo 14, el apartado (2), en el artículo 15, en el artículo 16, el apartado (6), y en los artículos 25 a 29, con multa del 5 % al 10 % del volumen de negocios mundial;
e) el incumplimiento de las obligaciones de marcado previstas en el artículo 17, los apartados (1), (2) y (4), o la infracción de la prohibición prevista en el artículo 17, el apartado (3), con multa del 2 % al 5 % del volumen de negocios mundial; para los hechos que constituyen infracciones del artículo 50 del Reglamento de IA, la multa se impone dentro de los límites previstos en el artículo 99, el apartado (4), del reglamento;
f) el incumplimiento de la obligación de información prevista en el artículo 18 o de las obligaciones relativas al representante para el cumplimiento previstas en el artículo 19, con multa del 1 % al 3 % del volumen de negocios mundial.
(2) Para las personas jurídicas que no hayan obtenido volumen de negocios, la multa es de 100.000 lei a 10.000.000 lei, y para las personas físicas, de 10.000 lei a 1.000.000 lei. Para las infracciones administrativas previstas en el apartado (1), las letras e) y f), cometidas por personas que no tienen la condición de desarrollador o de operador de un sistema de vanguardia, la multa es de 20.000 lei a 1.000.000 lei para las personas jurídicas y de 5.000 lei a 200.000 lei para las personas físicas.
(3) La sanción de multa puede ir acompañada de las sanciones complementarias de la suspensión o de la revocación de la autorización, de la prohibición del ejercicio de la actividad de desarrollo por un período de hasta 5 años, del decomiso de los pesos y de la publicación de la decisión, impuestas en proporción a la gravedad del hecho; los pesos decomisados se conservan por la Autoridad en las condiciones del artículo 12.
(4) A las infracciones administrativas previstas por la presente ley les son aplicables las disposiciones de la Ordenanza del Gobierno n.º 2/2001 sobre el régimen jurídico de las infracciones administrativas, aprobada con modificaciones y adiciones por la Ley n.º 180/2002, con las modificaciones y adiciones posteriores. No obstante lo dispuesto en el artículo 28 de la Ordenanza del Gobierno n.º 2/2001, el infractor no puede abonar la mitad del mínimo de la multa. No obstante lo dispuesto en el artículo 13, el apartado (1), de la misma ordenanza, la imposición de la sanción prescribe en el plazo de 5 años desde la fecha de comisión del hecho.
(5) Para la individualización de la sanción se tienen en cuenta la gravedad y el alcance del hecho, el peligro creado, el control efectivo de la persona sobre el hecho, la cooperación con la Autoridad y la subsanación. El volumen de negocios mundial es el obtenido en el ejercicio financiero precedente por el infractor y, cuando este forma parte de un grupo, por el grupo en su conjunto. Por el mismo hecho no pueden imponerse dos sanciones en virtud de la presente ley y del Reglamento de IA; para las autoridades y las instituciones públicas, la multa se impone a la persona física responsable, dentro de los límites previstos en el apartado (2).
Sección 3.ª El cese de la prestación de los servicios y el bloqueo del acceso
Artículo 38 → los motivos
(1) El operador que ofrece acceso a un sistema de vanguardia a las personas que se encuentran en el territorio de Rumanía sin observar las disposiciones de la presente ley es constituido en mora por la Autoridad, con la concesión de un plazo de subsanación de al menos 15 días y con la posibilidad de presentar su punto de vista. Si la no conformidad persiste a la expiración del plazo o consiste en un riesgo grave que no puede ser subsanado en ese plazo, la Autoridad constata la no conformidad mediante decisión motivada, y el operador está obligado a cesar la prestación del servicio a estas personas en el plazo de 15 días desde la comunicación de la decisión. En caso de peligro inminente para la vida, para la salud o para el control humano sobre el sistema, no se concede el plazo de subsanación, y la decisión se motiva también en cuanto a la urgencia.
(2) La decisión prevista en el apartado (1) se publica en la página de internet de la Autoridad, en la Lista de operadores no conformes, con indicación del servicio, del operador y de las disposiciones infringidas, y se comunica a los proveedores de redes y de servicios de comunicaciones electrónicas.
(3) La continuación de la prestación del servicio tras la expiración del plazo previsto en el apartado (1) constituye infracción administrativa y se sanciona con multa desde el equivalente en lei de la suma de 100.000 euros hasta el equivalente en lei de la suma de 10.000.000 euros por cada mes de continuación de la prestación, computándose las fracciones de mes proporcionalmente, determinada en función de la duración, del número de personas afectadas y de la gravedad de la no conformidad, sin que el total de las multas impuestas por la misma no conformidad pueda exceder del 5 % del volumen de negocios mundial anual; la multa se impone de forma separada de la sanción por la infracción inicial.
(4) El operador es dado de baja de la Lista de operadores no conformes mediante decisión de la Autoridad, emitida en el plazo de 10 días desde la presentación de la prueba de la adecuación y comunicada de inmediato a los proveedores que ejecutan el bloqueo; la negativa o el retraso de la baja pueden ser impugnados conforme al artículo 39, el apartado (5).
(5) Las disposiciones del presente artículo se aplican también al desarrollador que ofrece directamente acceso a un sistema de vanguardia a las personas que se encuentran en el territorio de Rumanía.
Artículo 39 → los motivos
(1) Hasta la adecuación, la Autoridad puede disponer, mediante decisión motivada, el bloqueo del acceso desde el territorio de Rumanía al servicio inscrito en la Lista de operadores no conformes, únicamente si las medidas menos restrictivas no han conducido a la adecuación o son manifiestamente insuficientes en relación con la gravedad del riesgo. La decisión examina la necesidad y la proporcionalidad de la medida, evita la afectación de otros servicios alojados en la misma infraestructura y se reexamina de oficio cada 90 días; los usuarios son informados, mediante una página de redirección, del motivo de la medida y de la vía de impugnación.
(2) La decisión de bloqueo se comunica a los proveedores de redes y de servicios de comunicaciones electrónicas, que la ejecutan en el plazo de 48 horas desde la comunicación.
(3) El bloqueo afecta exclusivamente al servicio no conforme, se mantiene durante la inscripción en la Lista de operadores no conformes y cesa de pleno derecho en la fecha de la baja.
(4) Para los servicios prestados desde otro Estado miembro de la Unión Europea, la medida se acuerda únicamente de forma individual, para un servicio determinado, por la infracción de una obligación necesaria para la protección del orden público, de la seguridad pública o de la salud pública, con observancia del procedimiento de solicitud al Estado miembro de origen y de notificación a la Comisión Europea previsto por la Ley n.º 365/2002 sobre el comercio electrónico, republicada, con las modificaciones y adiciones posteriores, para la restricción de la libre circulación de los servicios de la sociedad de la información.
(5) La decisión de bloqueo puede ser impugnada en el plazo de 30 días desde la comunicación ante el Tribunal de Apelación de Bucarest, sección de contencioso administrativo y fiscal, que se pronuncia con urgencia y con preferencia; la impugnación no suspende de pleno derecho la ejecución. La persona interesada puede solicitar al órgano jurisdiccional la suspensión provisional de la medida, y la solicitud se resuelve con urgencia, en un máximo de 10 días, con el examen del riesgo para la seguridad y del perjuicio producido por el mantenimiento de la medida. La sentencia puede ser recurrida en casación ante el Alto Tribunal de Casación y Justicia, en el plazo de 15 días desde la comunicación.
(6) Los proveedores de redes y de servicios de comunicaciones electrónicas no responden de los perjuicios causados por la ejecución correcta y de buena fe de la decisión de bloqueo; responden del bloqueo excesivo producido por su culpa.
Sección 4.ª La responsabilidad penal
Artículo 40 → los motivos
(1) La puesta en explotación de un sistema de vanguardia sin la autorización prevista en el artículo 9 o después de la suspensión o de la revocación de esta, así como la continuación de la operación después de la comunicación de la orden de parada o de retirada, se castigan con prisión de 2 a 7 años y la prohibición de ejercer determinados derechos. No constituye delito la utilización, como usuario final, de un sistema puesto a disposición por otro.
(2) Si el hecho ha tenido como consecuencia la manifestación, fuera de una evaluación autorizada en entorno aislado conforme al artículo 15, el apartado (2), de una de las capacidades críticas previstas en el artículo 5, el apartado (2), las letras c) a e), o la producción de uno de los resultados previstos en el artículo 5, el apartado (2), las letras a) o b), la pena es de prisión de 5 a 12 años y la prohibición de ejercer determinados derechos. La consecuencia se imputa en las condiciones del artículo 16, el apartado (4), del Código Penal.
Artículo 41 → los motivos
(1) La presentación a sabiendas, a la Autoridad o a un organismo de evaluación, de datos, resultados o declaraciones falsos o incompletos de manera engañosa relativos a elementos esenciales de las capacidades, del volumen de cálculo, de la seguridad de los pesos, de la capacidad de parada y de los resultados de la prueba de esta, o de los incidentes de un sistema de vanguardia, así como la configuración del sistema con el fin de inducir a error a los evaluadores sobre la configuración evaluada o sobre las capacidades reales, se castigan con prisión de 3 a 10 años y la prohibición de ejercer determinados derechos.
(2) El impedimento, en cualquier modo, del acceso de la Autoridad, ejercido dentro de los límites de su competencia y sobre la base de una solicitud escrita, al sistema, a los pesos, a los registros o al personal o la destrucción, la alteración o la ocultación de los registros se castigan con prisión de 1 a 5 años. No constituye delito la negativa fundada en la falta de competencia de la Autoridad o en la protección del secreto profesional del abogado o de otro secreto amparado por la ley, sobre la cual se pronuncia el órgano jurisdiccional.
(3) La adopción de una medida de represalia, de las previstas por la Ley n.º 361/2022, contra un denunciante de integridad, en relación con una denuncia protegida conforme al artículo 21, se castiga con prisión de 6 meses a 3 años o con multa.
(4) No constituyen el delito previsto en el apartado (1) la estimación incierta declarada como tal, el error corregido tan pronto como fue conocido ni la configuración del sistema en el marco de una prueba convenida con el evaluador.
Artículo 42 → los motivos
(1) El entrenamiento, el diseño o la operación con intención de un sistema en las condiciones prohibidas por el artículo 15, el apartado (1), por el artículo 25, el apartado (2), primera frase, y el apartado (3), por el artículo 28, primera frase, o por el artículo 29, primera frase, se castigan con prisión de 3 a 10 años y la prohibición de ejercer determinados derechos.
(2) La divulgación, la transmisión o la puesta a disposición, sin derecho, de los pesos de un sistema de vanguardia de categoría II o III se castiga con prisión de 5 a 15 años y la prohibición de ejercer determinados derechos. No constituyen delito las transferencias permitidas conforme al artículo 12, el apartado (2), ni las comunicaciones protegidas conforme al artículo 21, el apartado (5).
(3) Si los hechos previstos en los apartados (1) o (2) han tenido como consecuencia la muerte o la lesión corporal grave de una o de varias personas o la pérdida del control humano sobre el sistema, durante un tiempo que hizo imposible la intervención humana, seguida de acciones autónomas del sistema con consecuencias sobre las personas, el entorno físico o la infraestructura crítica, la pena es de prisión de 10 a 20 años y la prohibición de ejercer determinados derechos. Si la consecuencia consiste en un perjuicio patrimonial especialmente grave o en una pérdida temporal del control humano, sin las consecuencias previstas en la primera frase, la pena es de prisión de 7 a 15 años y la prohibición de ejercer determinados derechos. Las consecuencias se imputan en las condiciones del artículo 16, el apartado (4), del Código Penal.
Artículo 43 → los motivos
(1) El acceso por una persona física, con fines personales, a un servicio inscrito en la Lista de operadores no conformes, incluso eludiendo la medida de bloqueo acordada conforme al artículo 39, no constituye delito ni infracción administrativa y no puede acarrear ninguna sanción ni medida restrictiva contra ella por la no conformidad del servicio. La responsabilidad por la no conformidad recae exclusivamente en el operador y en el desarrollador. La presente garantía no excluye la responsabilidad por hechos distintos, previstos por la ley, cometidos mediante la utilización del servicio.
(2) Las disposiciones de los artículos 38 y 39 no pueden interpretarse en el sentido de instituir obligación alguna a cargo de los usuarios o de condicionar sus derechos.
(3) De la garantía prevista en el apartado (1) se beneficia también el usuario final profesional que no es operador y no pone el servicio a disposición de otras personas.
Artículo 44 → los motivos
(1) Los delitos previstos en la presente sección se imputan a las personas físicas que hayan dispuesto o aprobado la comisión de los hechos, así como a las personas que, teniendo la obligación jurídica y la posibilidad efectiva de impedirlos, hayan tolerado a sabiendas su comisión, con la determinación individual de la forma de culpabilidad conforme al Código Penal, independientemente de su condición de administradores, directores, socios o empleados e independientemente de la responsabilidad penal de la persona jurídica, que se determina en las condiciones del artículo 135 del Código Penal.
(2) No constituye causa de exención de pena la circunstancia de que el hecho haya sido cometido en ejecución de una resolución de los órganos de dirección, de una orden o de una instrucción contractual; las disposiciones del Código Penal relativas a las causas de justificación y a las causas de no imputabilidad siguen siendo aplicables.
Artículo 45 → los motivos
(1) La instrucción penal por los delitos previstos en los artículos 40 a 42 se efectúa obligatoriamente por el fiscal, en el marco de la Dirección de Investigación de los Delitos de Criminalidad Organizada y Terrorismo, y el enjuiciamiento en primera instancia corresponde al tribunal.
(2) En caso de urgencia, el fiscal puede disponer, mediante auto motivado, como medida provisional, por un máximo de 30 días, la parada del sistema, el precinto de la infraestructura de cálculo y la indisponibilización de los pesos, con la confirmación del juez de derechos y libertades en el plazo de 48 horas, bajo sanción de cese de pleno derecho de la medida. La medida se limita a la carga de cálculo y a los pesos afectados cuando su aislamiento es suficiente, se ejecuta con la conservación de los datos y con la custodia de los pesos en las condiciones del artículo 12, puede ser impugnada por la persona afectada y por los terceros afectados, se reexamina cada 30 días y puede ser prorrogada en las mismas condiciones.
(3) En el artículo 11, el apartado (1), del Decreto-ley del Gobierno n.º 78/2016 sobre la organización y el funcionamiento de la Dirección de Investigación de los Delitos de Criminalidad Organizada y Terrorismo, así como sobre la modificación y adición de determinados actos normativos, publicado en el Boletín Oficial de Rumanía, Parte I, n.º 938 de 22 de noviembre de 2016, aprobado con modificaciones por la Ley n.º 120/2018, con las modificaciones y adiciones posteriores, después del último punto se introduce un nuevo punto, con el siguiente contenido: «los delitos previstos en los artículos 40 a 42 de la Ley sobre el desarrollo seguro de los sistemas de inteligencia artificial de vanguardia y la prevención de los riesgos catastróficos para el ciudadano rumano».
CAPÍTULO VIII
Cooperación internacional. Disposiciones transitorias y finales
Artículo 46 → los motivos
(1) El Gobierno promueve, en el marco de las instituciones de la Unión Europea, la adopción de un régimen de autorización previa de los sistemas de vanguardia equivalente al previsto por la presente ley, así como la instauración de una capacidad europea común de evaluación.
(2) El Gobierno actúa, en el marco de la Organización de las Naciones Unidas, del Consejo de Europa, de la Organización del Tratado del Atlántico Norte y de otras organizaciones internacionales, para la negociación de un tratado internacional relativo a la limitación y a la verificación de las capacidades de cálculo de vanguardia, a la prohibición de los sistemas de armas autónomas letales y a la prohibición del desarrollo de los sistemas de categoría III, y presenta anualmente al Parlamento el estado de estas gestiones.
(3) La Autoridad puede celebrar, dentro de los límites de su competencia y con su publicación, acuerdos de reconocimiento recíproco de las evaluaciones con las autoridades competentes de otros Estados que aplican estándares equivalentes; los acuerdos no pueden establecer excepciones a la presente ley ni al derecho de la Unión Europea.
Artículo 47 → los motivos
El Gobierno presenta al Parlamento, cada 2 años desde la entrada en vigor, sobre la base del informe de la Autoridad y del dictamen del Consejo científico, un informe relativo a la adecuación de la presente ley al estado de la tecnología, acompañado, en su caso, de propuestas de modificación. El informe evalúa, sobre la base de una metodología publicada, la eficacia de la protección, los incidentes, los costes, el acceso a los servicios, los efectos no deseados y la proporcionalidad de cada medida, puede proponer la restricción de una medida constatada ineficaz y comprende las opiniones científicas divergentes. La falta de un método científico validado de control de los sistemas de vanguardia no puede invocarse, por sí sola, como motivo de relajación del régimen instituido por la presente ley.
Artículo 48 → los motivos
(1) Los desarrolladores y los operadores de los sistemas de vanguardia en explotación en el territorio de Rumanía o puestos a disposición de las personas que se encuentran en el territorio de Rumanía en la fecha de entrada en vigor de la presente ley se adecuan, en el plazo de 90 días desde la fecha de entrada en vigor, a sus disposiciones que no dependen de las normas metodológicas, y a las demás disposiciones en los plazos previstos en los apartados (2), (4) y (5).
(2) En el plazo de 60 días desde la fecha de entrada en vigor de la presente ley, los desarrolladores y los operadores notifican a la Autoridad los sistemas en explotación. La solicitud de autorización prevista en el artículo 9 se presenta en el plazo de 90 días desde la fecha de entrada en vigor de las normas metodológicas previstas en el artículo 49, el apartado (2). Los sistemas notificados pueden mantenerse en explotación hasta la decisión de la Autoridad, pero no más de 12 meses desde la fecha de entrada en vigor de la presente ley, con la condición de observar las prohibiciones y las garantías directamente aplicables previstas en los capítulos IV y V; este plazo se prorroga de pleno derecho por el período en que la adopción de las normas metodológicas o la resolución de la solicitud excedan los plazos previstos por la presente ley, sin que el solicitante diligente pueda ser sancionado por el retraso de las instituciones, y pudiendo la Autoridad disponer, de forma motivada, condiciones adicionales de seguridad durante la prórroga.
(3) Las disposiciones de los artículos 38 y 39 se aplican tras la expiración del plazo previsto en el apartado (1). No constituye el delito previsto en el artículo 40, el apartado (1), el mantenimiento en explotación de un sistema notificado conforme al apartado (2), durante el período en que este mismo apartado lo permite, así como durante la tramitación de la solicitud de autorización presentada dentro de plazo; las disposiciones de los artículos 40 a 42 se aplican, no obstante, desde la fecha de su entrada en vigor a cualquier otro hecho, incluidos la puesta en explotación de un sistema no notificado o el mantenimiento en explotación tras la desestimación de la solicitud, tras la expiración del plazo previsto en el apartado (2) o tras la comunicación de una orden de parada.
(4) Las obligaciones previstas en el artículo 17, el apartado (1), la letra a), el artículo 18 y el artículo 19, así como la obligación prevista en el artículo 17, el apartado (4), en lo que respecta al marcado perceptible y a la mención expresa de la generación, se cumplen en el plazo de 90 días desde la fecha de entrada en vigor de la presente ley; en el mismo plazo se designa y se notifica a la Autoridad el representante para el cumplimiento previsto en el artículo 19. Las obligaciones relativas al marcado técnico incorporado, previstas en el artículo 17, el apartado (1), la letra b), y el apartado (2), así como la obligación prevista en el artículo 17, el apartado (4), en lo que respecta a este marcado, se cumplen en el plazo de 90 días desde la fecha de entrada en vigor de las normas metodológicas. Las infracciones administrativas previstas en el artículo 37, el apartado (1), las letras e) y f), se constatan tras la expiración del plazo aplicable a cada obligación.
(5) Las obligaciones cuyo cumplimiento depende de los estándares, los procedimientos, los umbrales o los importes establecidos mediante las normas metodológicas previstas en el artículo 49, el apartado (2), devienen exigibles a los 90 días desde la fecha de entrada en vigor de dichas normas; hasta esa fecha, las infracciones administrativas correspondientes no se constatan. Las prohibiciones previstas en la presente ley, las obligaciones de mantenimiento y de prueba de la capacidad de parada, de registro (logs) y de notificación de los incidentes graves, así como las demás obligaciones que pueden cumplirse sin las normas metodológicas, se aplican desde la fecha de entrada en vigor de la presente ley, en los plazos previstos en los apartados (1) a (4).
(6) Hasta el nombramiento del vicepresidente para la seguridad de la inteligencia artificial, las atribuciones de la Autoridad, incluidas las medidas urgentes previstas en el artículo 32, el apartado (1), la letra c), son ejercidas por el presidente de ANCOM, que responde de ellas en las condiciones de la presente ley.
Artículo 49 → los motivos
(1) En el plazo de 60 días desde la fecha de publicación de la presente ley en el Boletín Oficial de Rumanía, Parte I, el Parlamento nombra al vicepresidente para la seguridad de la inteligencia artificial, y ANCOM completa su estructura organizativa y su reglamento de organización y funcionamiento con la Autoridad, mediante decisión del presidente de ANCOM, que se publica en el Boletín Oficial de Rumanía, Parte I.
(2) En el plazo de 120 días desde la fecha de publicación de la presente ley en el Boletín Oficial de Rumanía, Parte I, el Gobierno adopta, a propuesta de la Autoridad, con el dictamen del Consejo científico y tras una consulta pública de al menos 30 días, las normas metodológicas relativas al procedimiento de notificación y de autorización, el procedimiento simplificado de reconocimiento, los estándares de evaluación, de seguridad de los pesos y de capacidad de parada, las condiciones del entorno aislado, los estándares del marcado de procedencia previsto en el artículo 17, los métodos de evaluación y los niveles de significación de las capacidades críticas previstas en el artículo 5, el apartado (2), el umbral de la infraestructura de cálculo de gran capacidad, el nivel previsto en el artículo 16, el apartado (5), el procedimiento de prueba y la duración previstos en el artículo 14, los apartados (1) y (6), los requisitos mínimos del aislamiento previstos en el artículo 3, el apartado (1), la letra bb), el importe de la indemnización compensatoria prevista en el artículo 31, el apartado (3), el importe de las tasas, establecido en relación con el coste del servicio, y el importe del seguro o de la garantía financiera previstos en el artículo 36. Las normas detallan el marco establecido por la presente ley y no pueden establecer el contenido esencial de las obligaciones, de las prohibiciones y de las sanciones; los estándares se publican.
(3) Hasta la adopción de las normas metodológicas, las evaluaciones se efectúan conforme a los estándares previstos en los códigos de buenas prácticas adoptados en virtud del Reglamento de IA y a los métodos reconocidos científicamente, y la Autoridad publica orientaciones provisionales.
Artículo 50 → los motivos
La presente ley entra en vigor a los 30 días desde la fecha de su publicación en el Boletín Oficial de Rumanía, Parte I, con excepción de los artículos 40 a 42, 44 y 45, que entran en vigor a los 270 días desde la fecha de la publicación. Las disposiciones del artículo 43 entran en vigor junto con la presente ley.
Esta ley fue adoptada por el Parlamento de Rumanía, con observancia de las disposiciones del artículo 75 y del artículo 76, el apartado (1), de la Constitución de Rumanía, republicada.
EL PRESIDENTE DE LA CÁMARA DE DIPUTADOS EL PRESIDENTE DEL SENADO
Comentarios sobre este texto
Los comentarios entran en la sección del documento en el Foro soberanista. Se discute sobre el texto, con argumentos.
Ver toda la discusión en el foro →