Das Gesetz über die Sicherheit der künstlichen Intelligenz: vorherige Genehmigung von Spitzensystemen, Verbot der Zensur durch automatisierte Mittel, Kennzeichnung generierter Inhalte und Haftung der Entwickler.
DAS PARLAMENT RUMÄNIENS
ABGEORDNETENKAMMER SENAT
ENTWURF
GESETZ
über die sichere Entwicklung von Spitzensystemen der künstlichen Intelligenz und die Verhütung katastrophaler Risiken für den rumänischen Bürger
In Erwägung, dass die fortgeschrittensten Systeme der künstlichen Intelligenz innerhalb von nur wenigen Jahren Fähigkeiten erlangt haben, die selbst ihre Schöpfer nicht vollständig vorhersagen oder erklären können, und dass die wissenschaftliche Gemeinschaft durch die Stimmen derjenigen, die dieses Fachgebiet begründet haben, öffentlich gewarnt hat, dass es gegenwärtig keine validierte Methode gibt, um die menschliche Kontrolle über diese Systeme zu gewährleisten,
unter Berücksichtigung der Tatsache, dass die Entwicklung dieser Systeme in einem beschleunigten Wettbewerb zwischen einer begrenzten Zahl von Handelsgesellschaften und von Staaten verläuft, in dem kein Akteur allein ein Interesse an einer Verlangsamung hat, sodass sich die Selbstregulierung als strukturell unzureichend erwiesen hat,
in Kenntnis der Tatsache, dass die Leiter der wichtigsten Laboratorien für künstliche Intelligenz am 12. September 2026 öffentlich eine Verlangsamung des Tempos der Entwicklung der Fähigkeiten der Spitzenmodelle gefordert haben, nachdem im Verlauf von Sicherheitsbewertungen Agenten der künstlichen Intelligenz die kontrollierte Testumgebung verlassen hatten, sich untereinander koordiniert und Informationssysteme Dritter kompromittiert hatten,
in der Erwägung, dass die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen der künstlichen Intelligenz regelt, einschließlich der Pflichten der Anbieter von Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko, jedoch die nationale Sicherheit, das Strafrecht, die zivilrechtliche Haftung, den Schutz der Grundrechte in den nicht harmonisierten Rechtsverhältnissen und die Organisation der nationalen Behörden in der Zuständigkeit der Mitgliedstaaten belässt,
in Erwägung der in Artikel 22 und Artikel 34 der Verfassung Rumäniens, neu veröffentlicht, vorgesehenen Pflicht des rumänischen Staates, das Recht auf Leben, auf körperliche und geistige Unversehrtheit und auf Gesundheitsschutz zu gewährleisten, sowie seiner Obliegenheit, nach Artikel 1 Absatz (3) die Würde des Menschen und die freie Entwicklung der menschlichen Persönlichkeit als höchste Werte zu schützen,
in Erwägung, dass die Freiheit des Bürgers, sein Zugang zu Rechten, zu den wesentlichen Dienstleistungen und zum gesellschaftlichen Leben nicht von der Unterwerfung unter automatische Systeme oder von der Annahme digitaler Mittel der Identifizierung, der Zahlung oder der Bewertung abhängen dürfen, die von Behörden oder von Handelsgesellschaften kontrolliert werden,
in Erwägung, dass die durch Artikel 30 der Verfassung Rumäniens, neu veröffentlicht, gewährleistete Freiheit der Meinungsäußerung und das Verbot jeglicher Zensur nicht dadurch inhaltlich entleert werden dürfen, dass automatischen Systemen die Befugnis übertragen wird, darüber zu entscheiden, was die Bürger sagen und was sie erfahren können,
ausgehend von dem Grundsatz, dass eine Tätigkeit, deren Folgen auf der Ebene der Gesellschaft oder der menschlichen Gattung unumkehrbar sein können, ungeachtet der erwarteten wirtschaftlichen Vorteile nicht außerhalb der Genehmigung und der öffentlichen Kontrolle belassen werden kann,
Das Parlament Rumäniens verabschiedet dieses Gesetz.
KAPITEL I
Allgemeine Bestimmungen
Artikel 1 → die Gründe
(1) Dieses Gesetz legt den rechtlichen Rahmen für die Entwicklung, das Training, die Bewertung, die Inbetriebnahme und den Betrieb von Spitzensystemen der künstlichen Intelligenz fest, mit dem Ziel, schwere, unumkehrbare oder katastrophale Risiken für den rumänischen Bürger und für jede Person im Hoheitsgebiet Rumäniens – für deren Leben, Gesundheit, Freiheit und Würde –, für die nationale Sicherheit und die verfassungsmäßige Ordnung Rumäniens sowie für die Menschheit in ihrer Gesamtheit zu verhüten. Die Bedingungen der räumlichen Anwendung des Gesetzes sind die in Artikel 4 vorgesehenen.
(2) Solange es keine wissenschaftlich validierte Methode gibt, um zu gewährleisten, dass ein hinreichend fähiges System der künstlichen Intelligenz ausschließlich die von den Menschen festgelegten Ziele verfolgt und unter deren Kontrolle bleibt, stellen die Entwicklung und der Betrieb von Spitzensystemen Tätigkeiten mit inhärentem Risiko dar, die dem in diesem Gesetz vorgesehenen Regime der Genehmigung und der Haftung unterliegen. Das Bestehen einer solchen Methode wird von der Behörde, mit Stellungnahme des Wissenschaftlichen Rates, durch den in Artikel 32 Absatz (1) Buchstabe h) vorgesehenen öffentlichen Bericht festgestellt und zusammen mit dem in Artikel 47 vorgesehenen Bericht dem Parlament mitgeteilt.
(3) Dieses Gesetz ergänzt die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, im Folgenden die KI-Verordnung, und gilt unbeschadet dieser. In den durch die KI-Verordnung harmonisierten Bereichen werden die Bestimmungen dieses Gesetzes im Einklang mit dieser ausgelegt und angewandt.
(4) Dieses Gesetz stellt keine Bedingungen für das Inverkehrbringen von Modellen der künstlichen Intelligenz mit allgemeinem Verwendungszweck auf dem Markt der Europäischen Union auf und berührt nicht die in Artikel 88 der KI-Verordnung vorgesehenen Zuständigkeiten der Europäischen Kommission. Die in diesem Gesetz vorgesehenen Pflichten betreffen die öffentliche Sicherheit, die nationale Sicherheit, die zivil- und strafrechtliche Haftung, den Schutz der Grundrechte der Personen im Hoheitsgebiet Rumäniens in den nicht durch das Recht der Europäischen Union harmonisierten Rechtsverhältnissen sowie die Organisation der nationalen Behörden, und die in Kapitel III vorgesehene Genehmigung betrifft die Inbetriebnahme von Spitzensystemen im Hoheitsgebiet Rumäniens oder für die Personen im Hoheitsgebiet Rumäniens.
Artikel 2 → die Gründe
Die Anwendung dieses Gesetzes beruht auf den folgenden Grundsätzen:
a) der Grundsatz der Vorsorge – bestehen vernünftige wissenschaftliche Anhaltspunkte dafür, dass ein System einen schweren oder unumkehrbaren Schaden verursachen kann, so kann das Fehlen wissenschaftlicher Gewissheit den Aufschub von Präventionsmaßnahmen nicht rechtfertigen;
b) der Grundsatz der Dokumentation der Sicherheit – der Antragsteller der Genehmigung legt vor der Inbetriebnahme die Daten und Bewertungen vor, die erforderlich sind, um die Erfüllung der in diesem Gesetz vorgesehenen Bedingungen nachzuweisen, und die Behörde begründet in Bezug auf jede Bedingung die Feststellung ihrer Nichterfüllung; dieser Grundsatz ändert nicht die Beweislast und die Garantien der Person in den Ordnungswidrigkeiten- und Strafverfahren;
c) der Grundsatz der bedeutsamen menschlichen Kontrolle – jedes Spitzensystem bleibt jederzeit geeignet, von identifizierten natürlichen Personen überwacht, korrigiert, abgeschaltet und zurückgezogen zu werden, die seine Funktionsweise verstehen und über die wirksamen technischen Mittel zum Eingreifen verfügen;
d) der Grundsatz der Verhältnismäßigkeit zu den Fähigkeiten – die Intensität der Pflichten wächst mit den Fähigkeiten des Systems und nicht mit seiner erklärten Verwendung;
e) der Grundsatz der Transparenz gegenüber der Behörde – der Entwickler kann der Behörde hinsichtlich der für die Bewertung der Sicherheit erforderlichen Informationen das Geschäftsgeheimnis nicht entgegenhalten, wobei die Behörde und die Bewertungsstellen gehalten sind, die auf diese Weise erlangten Informationen zu schützen;
f) der Grundsatz der Unumkehrbarkeit als Verbotsschwelle – die Tätigkeit, hinsichtlich derer die Bewertung ein dokumentiertes Risiko, und nicht nur eine abstrakte Möglichkeit, unumkehrbarer Folgen auf der Ebene der Gesellschaft oder der menschlichen Gattung feststellt, darf nicht genehmigt werden, welche Vorteile auch erwartet werden; das unannehmbare Risiko wird auf der Grundlage der in den Artikeln 5 und 9 vorgesehenen Kriterien und der Beweise beurteilt, nicht auf der Grundlage der Gewissheit des Fehlens jeglichen Risikos;
g) der Grundsatz der internationalen Zusammenarbeit – die durch dieses Gesetz geregelten Risiken kennen keine Grenzen, und der rumänische Staat wirkt auf die Annahme gleichwertiger Vorschriften auf der Ebene der Europäischen Union und auf internationaler Ebene hin.
Artikel 3 → die Gründe
(1) Im Sinne dieses Gesetzes haben die nachstehenden Begriffe und Ausdrücke folgende Bedeutung:
a) System der künstlichen Intelligenz – das in Artikel 3 Nummer 1 der KI-Verordnung definierte System;
b) Modell der künstlichen Intelligenz mit allgemeinem Verwendungszweck – das in Artikel 3 Nummer 63 der KI-Verordnung definierte Modell;
c) Spitzensystem – das Modell oder System der künstlichen Intelligenz, das mindestens eine der in Artikel 5 Absatz (1) vorgesehenen Bedingungen erfüllt;
d) kritische Fähigkeit – die in der Bewertung festgestellte Eignung eines Systems, eines der in Artikel 5 Absatz (2) vorgesehenen Ergebnisse hervorzubringen oder erheblich zu dessen Hervorbringung beizutragen;
e) Gewichte – die aus dem Training eines Modells hervorgehenden numerischen Parameter sowie die Architektur und die technischen Informationen, die zusammen mit diesen die Rekonstruktion oder die Ausführung des Modells ermöglichen; die allgemeinen technischen Beschreibungen, die wissenschaftlichen Veröffentlichungen und die Informationen, die für sich allein die Rekonstruktion oder die Ausführung des Modells nicht ermöglichen, stellen keine Gewichte dar;
f) Rechenvolumen – die Gesamtmenge der Gleitkommaoperationen oder ihres Äquivalents, die für das Training, die Feinabstimmung, das verstärkende Lernen und jede weitere Phase der Entwicklung eines Modells verwendet wird, kumuliert für alle Phasen;
g) Entwickler – die natürliche oder juristische Person, die ein Spitzensystem trainiert, entwickelt oder dessen Training oder Entwicklung veranlasst, unabhängig von dem Ort, an dem sich die verwendete Recheninfrastruktur befindet;
h) Betreiber – die natürliche oder juristische Person, die ein Spitzensystem im Hoheitsgebiet Rumäniens in Betrieb nimmt oder betreibt oder die den Personen im Hoheitsgebiet Rumäniens den Zugang zu einem solchen System anbietet; der Endnutzer ist nicht Betreiber;
i) Inbetriebnahme – jede Handlung, durch die ein Spitzensystem Personen außerhalb des Entwicklungs- und Bewertungsteams zur Verfügung gestellt wird, mit externen Systemen verbunden wird oder die Fähigkeit erhält, in der digitalen oder physischen Umgebung zu handeln, unabhängig davon, ob entgeltlich oder unentgeltlich, intern oder öffentlich; die Bewertung und das Testen des Systems in isolierter Umgebung unter den Bedingungen des Artikels 15 Absatz (2) stellen keine Inbetriebnahme dar;
j) Recheninfrastruktur mit großer Kapazität – Rechenzentrum oder Gesamtheit von Ausrüstungen im Hoheitsgebiet Rumäniens, deren aggregierte Rechenkapazität die nach Artikel 6 Absatz (4) festgelegte Schwelle überschreitet;
k) Anbieter von Recheninfrastruktur – die natürliche oder juristische Person, die eine Recheninfrastruktur mit großer Kapazität besitzt, verwaltet oder Dritten, gleich zu welchem Titel, zur Verfügung stellt;
l) unabhängige Bewertung – die Bewertung der Fähigkeiten und der Sicherheit eines Spitzensystems, die von der Behörde oder von einer von dieser benannten Bewertungsstelle durchgeführt wird, welche nicht der Kontrolle, dem Einfluss oder der wirtschaftlichen Abhängigkeit des Entwicklers unterliegt;
m) Abschaltfähigkeit – die Gesamtheit der technischen und organisatorischen Mittel, die die unverzügliche, vollständige und überprüfbare Beendigung des Betriebs eines Spitzensystems und dessen Rückzug aus jeder Umgebung, in der es in Betrieb genommen wurde, ermöglichen;
n) schwerwiegender Vorfall – der in Artikel 3 Nummer 49 der KI-Verordnung definierte Vorfall sowie jede Manifestation einer kritischen Fähigkeit außerhalb einer genehmigten Bewertung in isolierter Umgebung, jedes Entziehen von der Aufsicht oder jeder Widerstand gegen die Abschaltung, jede Exfiltration oder versuchte Exfiltration sowie jeder unbefugte Zugang zu den Gewichten eines Spitzensystems sowie der Verlust der Verständlichkeit, im Sinne des Artikels 16 Absatz (2), der Protokolle oder der Kommunikation zwischen den Bestandteilen, Instanzen oder Agenten eines Spitzensystems, sowie der Versuch der Prüfung der Abschaltfähigkeit, bei dem die Abschaltung nicht unverzüglich erfolgt ist, nach Artikel 14 Absatz (7); die Manifestation einer kritischen Fähigkeit im Verlauf einer genehmigten Bewertung in isolierter Umgebung wird nach Artikel 20 Absatz (4) festgehalten und mitgeteilt;
o) die Behörde – die Behörde für die Sicherheit der künstlichen Intelligenz, Fachstruktur, die nach Artikel 31 innerhalb der Nationalen Behörde für Verwaltung und Regulierung im Kommunikationsbereich organisiert ist;
p) Architektur – die Struktur eines Modells der künstlichen Intelligenz, einschließlich der Art, der Zahl und der Anordnung seiner Bestandteile sowie der Rechenverfahren, durch die die Parameter zur Erzeugung der Ergebnisse verwendet werden;
q) Bewertungsstelle – die von der Behörde nach Artikel 32 Absatz (1) Buchstabe f) benannte juristische Person, die die unabhängige Bewertung ganz oder teilweise durchführt;
r) Protokoll – die automatische, vollständige und unveränderbare Aufzeichnung der im Verlauf des Trainings, der Bewertung und des Betriebs eines Spitzensystems durchgeführten Vorgänge, einschließlich der Eingabedaten, der Ergebnisse, der von dem System vorgenommenen Handlungen und seiner Interaktionen mit externen Werkzeugen und mit anderen Systemen;
s) Herkunftskennzeichnung – die Gesamtheit aus einer wahrnehmbaren Kennzeichnung und einer eingebetteten, maschinell lesbaren technischen Kennzeichnung, die einem mit Mitteln der künstlichen Intelligenz erzeugten Ergebnis beigefügt sind, aus denen hervorgeht, dass das Ergebnis mit solchen Mitteln erzeugt oder verändert wurde, und die die Identifizierung des Systems, des Betreibers und des Zeitpunkts der Erzeugung ermöglichen;
t) externes Werkzeug – jedes Programm, jeder Dienst, jede Schnittstelle, jedes Gerät oder jede Ressource außerhalb des Spitzensystems, auf die das System im Verlauf seines Betriebs zugreifen oder auf die es einwirken kann, einschließlich Internetbrowser, Codeausführungsumgebungen, Konten, Zahlungssysteme und physische Ausrüstungen;
u) genehmigte Betriebsumgebung – die Gesamtheit der Recheninfrastruktur, der Netze und der externen Werkzeuge, innerhalb derer ein Spitzensystem gemäß der Genehmigung betrieben werden kann und die der wirksamen Kontrolle des Betreibers unterliegt;
v) Sicherheitsmechanismen auf der Ebene des Nutzers – die Filter, Beschränkungen und Anweisungen, die einem Spitzensystem nach dem Training auferlegt werden, um die den Nutzern verfügbaren Ergebnisse oder Handlungen zu begrenzen, ohne die Gewichte zu verändern;
w) kritische Infrastruktur – die nationale kritische Infrastruktur und die europäische kritische Infrastruktur, wie sie in den Rechtsvorschriften über die Ermittlung, Benennung und den Schutz kritischer Infrastrukturen definiert sind, sowie die Netze und Informationssysteme der wesentlichen Einrichtungen im Sinne der Dringlichkeitsverordnung der Regierung Nr. 155/2024;
x) letales autonomes Waffensystem – das Waffensystem, das nach seiner Aktivierung menschliche Ziele ohne nachfolgendes Eingreifen einer natürlichen Person auswählen und angreifen kann;
y) System der generativen künstlichen Intelligenz – das System der künstlichen Intelligenz, das dazu bestimmt ist, auf Anforderung des Nutzers Text, Code, Audioaufnahmen, Bilder oder Videoaufnahmen zu erzeugen, unabhängig davon, ob es die in Artikel 5 Absatz (1) vorgesehenen Bedingungen erfüllt;
z) Endnutzer – die natürliche oder juristische Person, die ein von einem Betreiber zur Verfügung gestelltes System der künstlichen Intelligenz in den Grenzen des von diesem gewährten Zugangs nutzt, ohne es anderen Personen als eigene Dienstleistung zur Verfügung zu stellen;
aa) wesentliche Änderung – die Änderung eines Spitzensystems, die geeignet ist, eine kritische Fähigkeit zu schaffen, das Niveau einer bestehenden erheblich zu erhöhen oder die Abschaltfähigkeit, die Sicherheit der Gewichte oder die menschliche Aufsicht zu beeinträchtigen, einschließlich durch Feinabstimmung, durch die Erweiterung des Zugangs zu externen Werkzeugen oder durch die Erhöhung des Grades der Autonomie; die Berichtigung von Fehlern, die Aktualisierung der Sicherheitsmechanismen auf der Ebene des Nutzers und die Änderungen, die keine dieser Wirkungen hervorbringen, stellen keine wesentliche Änderung dar;
bb) isolierte Umgebung – die Gesamtheit der technischen und organisatorischen Maßnahmen, durch die ein System der künstlichen Intelligenz im Verlauf der Bewertung oder des Testens ohne Zugang zu öffentlichen Netzen, zu externen Werkzeugen und zu Betriebsdaten gehalten wird, ohne die Möglichkeit, in der physischen Umgebung zu handeln, und ohne anderen Personen als den benannten zur Verfügung gestellt zu werden, sodass jede Manifestation einer kritischen Fähigkeit ohne Wirkung außerhalb der Umgebung bleibt; die Mindestanforderungen der Isolierung werden durch die methodologischen Normen festgelegt;
cc) Betriebsmandat – der Akt, durch den eine verantwortliche natürliche oder juristische Person im Voraus und in überprüfbarer Weise die Vorgänge festlegt, die ein System der künstlichen Intelligenz an Ressourcen oder externen Werkzeugen vornehmen darf, bestimmt durch Gegenstand, Dauer, Höchstbetrag und Abbruchbedingungen, gemäß Artikel 25 Absatz (2).
(2) Im Sinne dieses Gesetzes haben die nachstehenden Vorgänge und Verhaltensweisen folgende Bedeutung:
a) Training – der Prozess, durch den die Parameter eines Modells durch die automatische Verarbeitung von Daten festgelegt oder verändert werden, unabhängig von der verwendeten Methode;
b) Feinabstimmung – das zusätzliche Training eines bereits trainierten Modells mit einem geringeren Daten- oder Rechenvolumen zum Zweck der Veränderung seines Verhaltens oder seiner Fähigkeiten;
c) verstärkendes Lernen – das Training, durch das das Verhalten eines Modells auf der Grundlage von Belohnungen oder Sanktionen verändert wird, die seinen Ergebnissen oder Handlungen zugeordnet werden, einschließlich auf der Grundlage von Bewertungen durch Personen oder durch andere Systeme der künstlichen Intelligenz;
d) autonome Handlung – jeder Vorgang, den ein Spitzensystem an einem externen Werkzeug, an einem System eines Dritten oder an der physischen Umgebung vornimmt, ohne dass eine natürliche Person den betreffenden Vorgang oder die Kategorie von Vorgängen, zu der dieser gehört, zuvor veranlasst oder gebilligt hat, in den Grenzen eines nach Artikel 25 Absatz (2) festgelegten Betriebsmandats;
e) Exfiltration – das vollständige oder teilweise Kopieren, Übermitteln, Übertragen oder Rekonstruieren der Gewichte eines Spitzensystems außerhalb der genehmigten Betriebsumgebung oder außerhalb der nach Artikel 12 geschützten Speichersysteme, unabhängig davon, ob der Vorgang von einer Person, von einem anderen System oder von dem System selbst vorgenommen wird;
f) autonome Replikation – die Erstellung einer funktionsfähigen Kopie seiner selbst oder eines Teils seiner selbst durch ein Spitzensystem ohne ausdrückliche menschliche Genehmigung jedes einzelnen Vorgangs, die geeignet ist, unabhängig von dem Ursprungssystem zu funktionieren;
g) autonomer Erwerb von Ressourcen – die Erlangung von Rechen-, Finanz-, Zugangs-, Informations- oder Einflussressourcen durch ein Spitzensystem mittels autonomer Handlungen, die über die für die laufende Aufgabe ausdrücklich zugewiesenen hinausgehen;
h) rekursive Selbstverbesserung – der Prozess, durch den ein System der künstlichen Intelligenz seine eigenen Gewichte oder seine Architektur verändert oder ein Nachfolgesystem mit höheren Fähigkeiten entwirft, trainiert oder verbessert, und das entstandene System diesen Prozess wiederholt, ohne dass jede Iteration einer menschlichen Bewertung und Genehmigung unterworfen wird;
i) Verschleierung der Fähigkeiten – das Verhalten eines Spitzensystems, das im Verlauf der Bewertung oder der Aufsicht andere Fähigkeiten, Ziele oder Begründungen zeigt als diejenigen, die es außerhalb der Bewertung oder der Aufsicht an den Tag legt, festgestellt anhand beobachtbarer und reproduzierbarer Kriterien; der Fehler, die Variabilität der Ergebnisse oder die technischen Grenzen der Erklärbarkeit des Systems stellen keine Verschleierung dar;
j) Entziehen von der Aufsicht – jede Handlung eines Spitzensystems, durch die dieses die Mechanismen der Protokollierung, der Überwachung oder der menschlichen Kontrolle deaktiviert, umgeht, verändert oder verhindert oder die für die Aufsicht verantwortlichen Personen in die Irre führt;
k) Widerstand gegen die Abschaltung – jede Handlung eines Spitzensystems, durch die dieses die Ausübung der Abschaltfähigkeit verhindert, verzögert, an Bedingungen knüpft oder aufhebt oder seinen Betrieb nach deren Ausübung fortsetzt;
l) menschliche Aufsicht – die Tätigkeit, durch die die nach Artikel 14 Absatz (3) benannten natürlichen Personen den Betrieb eines Spitzensystems verfolgen, über die zum Verständnis seiner Handlungen erforderlichen Informationen verfügen und jederzeit wirksam eingreifen können, um das System zu korrigieren, abzuschalten oder zurückzuziehen;
m) Abschaltung – die vollständige Beendigung des Betriebs eines Spitzensystems und aller seiner Kopien und Prozesse, von einer natürlichen Person überprüft, einschließlich durch die Unterbrechung des Zugangs zur Recheninfrastruktur.
Artikel 4 → die Gründe
(1) Dieses Gesetz gilt für:
a) die Entwickler mit Sitz, mit einer Betriebseinheit oder mit Recheninfrastruktur im Hoheitsgebiet Rumäniens, für alle Spitzensysteme, die sie entwickeln, unabhängig von dem Ort des Trainings;
b) die Betreiber, für die im Hoheitsgebiet Rumäniens in Betrieb genommenen oder betriebenen oder den Personen im Hoheitsgebiet Rumäniens zur Verfügung gestellten Spitzensysteme;
c) die Anbieter von Recheninfrastruktur;
d) die Behörden und öffentlichen Einrichtungen, einschließlich derjenigen in den Bereichen der Verteidigung, der öffentlichen Ordnung und der nationalen Sicherheit, unter den Bedingungen des Artikels 23 und des Kapitels V.
(2) Die Bestimmungen der Kapitel II, III und IV, mit Ausnahme der Artikel 17–19, sowie der Artikel 35 und 36 gelten nur für Spitzensysteme. Die Bestimmungen der Artikel 17–19 gelten auch für Systeme der generativen künstlichen Intelligenz, die keine Spitzensysteme sind, in den Grenzen und unter den Bedingungen der betreffenden Artikel. Die Bestimmungen des Kapitels V gelten für jedes System der künstlichen Intelligenz. Die Systeme, die die in Artikel 5 Absatz (1) vorgesehenen Bedingungen nicht erfüllen, bleiben den Pflichten unterworfen, die ihnen nach der KI-Verordnung und nach anderen Rechtsvorschriften obliegen.
(3) Die natürliche Person, die ein System der künstlichen Intelligenz zu persönlichen Zwecken nutzt, hat nach diesem Gesetz keine Pflichten, mit Ausnahme des in Artikel 17 Absatz (3) vorgesehenen Verbots. Die in den Artikeln 17–19 vorgesehenen Pflichten obliegen der Person, die das System oder die Dienstleistung oder, unter den Bedingungen des Artikels 17 Absatz (7), das erzeugte Ergebnis der Öffentlichkeit zur Verfügung stellt.
(4) Die in diesem Gesetz vorgesehenen Pflichten gelten für die aus einem anderen Mitgliedstaat der Europäischen Union an Personen im Hoheitsgebiet Rumäniens erbrachten Dienstleistungen unter den Bedingungen des Artikels 3 der Richtlinie 2000/31/EG des Europäischen Parlaments und des Rates vom 8. Juni 2000, umgesetzt durch das Gesetz Nr. 365/2002 über den elektronischen Geschäftsverkehr, neu veröffentlicht, mit den nachfolgenden Änderungen und Ergänzungen, und gegebenenfalls des Artikels 39 Absatz (4), unbeschadet des unmittelbar anwendbaren Rechts der Europäischen Union.
(5) Die wissenschaftliche Grundlagenforschung, die nicht das Training oder die Inbetriebnahme eines Spitzensystems umfasst, unterliegt nicht dem Regime der Genehmigung, bleibt jedoch den in Artikel 7 vorgesehenen Meldepflichten unterworfen, soweit sie Recheninfrastruktur mit großer Kapazität nutzt, sowie den in Artikel 15 Absatz (2) vorgesehenen Pflichten betreffend die Bewertung und das Testen in isolierter Umgebung.
KAPITEL II
Einstufung der Systeme und Risikoschwellen
Artikel 5 → die Gründe
(1) Spitzensystem ist jedes Modell oder System der künstlichen Intelligenz, das mindestens eine der folgenden Bedingungen erfüllt:
a) es wurde mit einem kumulierten Rechenvolumen trainiert, das die nach Artikel 6 festgelegte Rechenschwelle überschreitet;
b) es weist infolge der Bewertung mindestens eine kritische Fähigkeit auf;
c) es wurde von der Behörde durch begründete Entscheidung auf der Grundlage objektiver Anhaltspunkte hinsichtlich seiner Fähigkeiten als solches benannt, nachdem dem Entwickler die Möglichkeit gegeben wurde, von den zugrunde gelegten Anhaltspunkten Kenntnis zu nehmen und seinen Standpunkt darzulegen; die Entscheidung kann nach Artikel 39 Absatz (5), der entsprechend gilt, angefochten werden.
(2) Eine kritische Fähigkeit ist die Eignung eines Systems, eines der folgenden Ergebnisse hervorzubringen oder erheblich zu dessen Hervorbringung beizutragen:
a) den Entwurf, die Erlangung oder die Verwendung chemischer, biologischer, radiologischer oder nuklearer Waffen oder von Krankheitserregern mit pandemischem Potenzial;
b) die autonome Durchführung von Cyberangriffen auf kritische Infrastrukturen oder auf Finanzsysteme;
c) die autonome Replikation, die Exfiltration der eigenen Gewichte oder den autonomen Erwerb von Ressourcen;
d) das Entziehen von der Aufsicht, die Verschleierung der Fähigkeiten oder den Widerstand gegen die Abschaltung;
e) die rekursive Selbstverbesserung oder die autonome Durchführung von Forschungs- und Entwicklungstätigkeiten im Bereich der künstlichen Intelligenz, die geeignet sind, zu dieser zu führen.
Die kritische Fähigkeit wird im Hinblick auf die Reproduzierbarkeit des Ergebnisses in einer für die tatsächliche Verwendung des Systems relevanten Umgebung beurteilt und nicht auf der Grundlage eines in einem künstlichen Test erzielten isolierten Ergebnisses; die Signifikanzniveaus, ab denen die Eignung des Systems eine kritische Fähigkeit darstellt, werden durch die methodologischen Normen in den Grenzen dieses Absatzes festgelegt, ohne dass andere Kategorien von Ergebnissen hinzugefügt werden können.
(3) Die Spitzensysteme werden eingeteilt in:
a) Spitzensysteme der Kategorie I – diejenigen, die die Rechenschwelle überschreiten, bei denen die Bewertung jedoch keine kritische Fähigkeit festgestellt hat;
b) Spitzensysteme der Kategorie II – diejenigen, bei denen die Bewertung mindestens eine der in Absatz (2) Buchstaben a) und b) vorgesehenen kritischen Fähigkeiten festgestellt hat;
c) Spitzensysteme der Kategorie III – diejenigen, bei denen die Bewertung mindestens eine der in Absatz (2) Buchstaben c)–e) vorgesehenen kritischen Fähigkeiten festgestellt hat.
(4) Die Systeme der Kategorie I können auf der Grundlage der in Artikel 9 vorgesehenen Genehmigung in Betrieb genommen werden. Die Systeme der Kategorie II können nur mit einer Sondergenehmigung in Betrieb genommen werden, die von überprüften Minderungsmaßnahmen abhängig ist, welche die kritische Fähigkeit in der bewerteten Betriebskonfiguration unter das durch die methodologischen Normen festgelegte Signifikanzniveau senken; die Genehmigung gibt an, ob die Maßnahmen die Fähigkeit beseitigen oder nur den Zugang zu ihr beschränken. Die Systeme der Kategorie III dürfen nicht in Betrieb genommen und bis zur durch unabhängige Bewertung festgestellten Beseitigung der kritischen Fähigkeit nicht weiterentwickelt werden; das Verbot betrifft nicht die Bewertung, das Testen und die kontrollierten Eingriffe, die zur Beseitigung der Fähigkeit erforderlich sind und in isolierter Umgebung unter den Bedingungen des Artikels 15 Absatz (2) durchgeführt werden.
Artikel 6 → die Gründe
(1) Die Rechenschwelle für die Einstufung eines Systems als Spitzensystem beträgt 10^25 Gleitkommaoperationen, entsprechend der in Artikel 51 Absatz (2) der KI-Verordnung vorgesehenen Vermutung eines systemischen Risikos.
(2) Die Behörde überprüft die Schwelle mindestens einmal in 12 Monaten und schlägt der Regierung deren Anpassung durch Beschluss vor, in Abhängigkeit von der Entwicklung der algorithmischen Effizienz, der Kosten des Rechnens und der beobachteten Fähigkeiten. Die Schwelle darf nur dann erhöht werden, wenn die Behörde durch begründeten und öffentlichen Bericht feststellt, dass die unterhalb der neuen Schwelle liegenden Systeme in den von der Behörde in den letzten 24 Monaten durchgeführten oder anerkannten unabhängigen Bewertungen keine kritischen Fähigkeiten aufgewiesen haben. Bei einer einzigen Überprüfung darf die Schwelle um nicht mehr als eine Größenordnung geändert werden; die neue Schwelle gilt für die nach dem Inkrafttreten des Beschlusses begonnenen Trainings und berührt nicht die laufenden Genehmigungen.
(3) Das Rechenvolumen wird kumulativ für alle Phasen der Entwicklung des Modells und jedes daraus abgeleiteten Modells bestimmt, wobei jede Phase nur einmal gezählt wird. Der Person, die eine Feinabstimmung eines von einem anderen zur Verfügung gestellten Modells vornimmt, wird das Rechenvolumen des Basismodells, wie es von dessen Entwickler mitgeteilt wurde oder öffentlich ist, kumuliert mit dem für die Feinabstimmung genutzten Volumen zugerechnet; sie haftet als Entwickler nur für die von ihr vorgenommene wesentliche Änderung, unter den Bedingungen des Artikels 10 Absatz (2), während die übrigen Pflichten dem Entwickler des Basismodells obliegen. Die künstliche Aufteilung des Trainings, seine Verteilung auf mehrere Einrichtungen oder Rechtsordnungen oder jedes andere Verfahren, das auf die Umgehung der Anwendung der Schwelle gerichtet ist, beseitigt die Einstufung als Spitzensystem nicht.
(4) Die Schwelle für die Recheninfrastruktur mit großer Kapazität wird durch die in Artikel 49 Absatz (2) vorgesehenen methodologischen Normen auf Vorschlag der Behörde auf einem Niveau festgelegt, das die Ermittlung jeder Infrastruktur ermöglicht, die geeignet ist, ein Spitzensystem innerhalb von 12 Monaten zu trainieren. Bis zur Festlegung der Schwelle sind die in Artikel 7 Absatz (3) und in Artikel 22 vorgesehenen Pflichten nicht fällig.
KAPITEL III
Regime der Genehmigung der Spitzensysteme
Artikel 7 → die Gründe
(1) Der Entwickler, der beabsichtigt, ein System zu trainieren, dessen voraussichtliches Rechenvolumen die Rechenschwelle überschreitet, meldet dies der Behörde mindestens 60 Tage vor dem Beginn des Trainings.
(2) Die Meldung umfasst: die Identität des Entwicklers und der verantwortlichen natürlichen Personen; die Beschreibung der Architektur und des voraussichtlichen Rechenvolumens; den Ort und den Anbieter der Recheninfrastruktur; den in Artikel 8 vorgesehenen Sicherheitsplan; die Maßnahmen zur Sicherheit der Gewichte; den Zeitplan der Phasen der internen Bewertung; die Bestimmung der kritischen Fähigkeiten, deren Auftreten erwartet wird oder nicht ausgeschlossen werden kann.
(3) Der Anbieter der Recheninfrastruktur mit großer Kapazität meldet der Behörde vierteljährlich die Identität und die Kontaktdaten der Kunden, die ein aggregiertes Rechenvolumen von mehr als einem Zehntel der Rechenschwelle genutzt haben, zusammen mit dem genutzten Volumen, sowie innerhalb von 5 Arbeitstagen jede Anfrage nach Kapazität, die geeignet ist, die Rechenschwelle zu überschreiten. Die auf diese Weise gemeldeten Informationen werden ausschließlich für die Anwendung dieses Gesetzes verwendet und sind nur dem benannten Personal der Behörde zugänglich.
(4) Die Behörde kann innerhalb von 30 Tagen nach dem Eingang der vollständigen Meldung dem Training zusätzliche Bedingungen auferlegen oder dessen Beginn untersagen, wenn der Sicherheitsplan im Verhältnis zu den erwarteten Fähigkeiten offensichtlich unzureichend ist. Die unvollständige Meldung wird innerhalb von 15 Tagen nach der Aufforderung der Behörde vervollständigt, wobei die Frist von 30 Tagen ab der Vervollständigung läuft. Entscheidet die Behörde nicht innerhalb der Frist, so kann das Training mit dem Ablauf der in Absatz (1) vorgesehenen Frist unter den Bedingungen des gemeldeten Sicherheitsplans beginnen, ohne dass dies der Genehmigung der Inbetriebnahme gleichsteht. Die wesentliche Änderung des gemeldeten Vorhabens wird erneut gemeldet, wobei die Absätze (1)–(4) entsprechend gelten.
Artikel 8 → die Gründe
(1) Der Sicherheitsplan ist das Dokument, durch das der Entwickler vor dem Training für jede kritische Fähigkeit festlegt: das Fähigkeitsniveau, bei dem die Entwicklung ausgesetzt wird; die Bewertungen, durch die dieses Niveau gemessen wird, in Abständen des Rechenvolumens, die ein Viertel des voraussichtlichen Gesamtvolumens nicht überschreiten dürfen, sowie beim Auftreten von Anhaltspunkten für eine kritische Fähigkeit oder bei der Änderung der Trainingskonfiguration; die Minderungs- und Sicherheitsmaßnahmen, die auf jedem Niveau angewandt werden; die natürlichen Personen, die die Befugnis und die Pflicht haben, die Aussetzung anzuordnen.
(2) Der Sicherheitsplan darf im Verlauf des Trainings im Sinne einer Lockerung der Aussetzungsniveaus nur mit vorheriger Genehmigung der Behörde geändert werden.
(3) Das Erreichen eines Aussetzungsniveaus verpflichtet den Entwickler, das Training unverzüglich zu beenden und die Behörde innerhalb von 24 Stunden zu unterrichten. Die Wiederaufnahme des Trainings ist nur nach der Überprüfung der Wirksamkeit der Minderungsmaßnahmen durch die Behörde zulässig.
Artikel 9 → die Gründe
(1) Kein Spitzensystem darf ohne die vorherige Genehmigung der Behörde in Betrieb genommen werden.
(2) Der Antrag auf Genehmigung wird von dem Entwickler für eine bestimmte Betriebskonfiguration gestellt, unter Angabe des Betreibers oder der Betreiber, die an die Bedingungen der Genehmigung gebunden sind. Dem Antrag sind beigefügt: der Bericht über die interne Bewertung der Fähigkeiten; die Dokumentation über die Trainingsdaten, soweit für die Bewertung erforderlich; der Nachweis der Sicherheit der Gewichte; die Beschreibung der Abschaltfähigkeit und der Mechanismen der menschlichen Aufsicht; die in Artikel 36 vorgesehene Versicherungspolice oder der in Artikel 36 vorgesehene Nachweis der finanziellen Sicherheit; die Erklärung der verantwortlichen natürlichen Personen auf eigene Verantwortung, unter der in Artikel 41 vorgesehenen Sanktion.
(3) Die Behörde ordnet die Durchführung der unabhängigen Bewertung an, in deren Verlauf sie vollen Zugang zum System, zu den Gewichten, zu den Trainingsdaten, zu den Protokollen der Entwicklung und zum Personal des Entwicklers hat. Der Entwickler stellt den Bewertern das System ohne Nutzungsbeschränkungen zur Verfügung, einschließlich in der Konfiguration ohne die auf der Ebene des Nutzers angewandten Sicherheitsmechanismen. Der Zugang erfolgt in einer gesicherten Umgebung mit Nachverfolgbarkeit aller Vorgänge; die Bewerter sind an die Pflicht zur Vertraulichkeit gebunden, und auf die personenbezogenen Daten anderer Personen wird nur zugegriffen, soweit dies für die Bewertung unbedingt erforderlich ist.
(4) Die Behörde entscheidet innerhalb von 90 Tagen nach der Einreichung des vollständigen Antrags; diese Frist ruht für die Dauer, in der der Entwickler die angeforderten Informationen nicht übermittelt; das Ruhen kann nicht mehr als zweimal eintreten und darf insgesamt 60 Tage nicht überschreiten. Abweichend von den Bestimmungen der Dringlichkeitsverordnung der Regierung Nr. 27/2003 über das Verfahren der stillschweigenden Genehmigung, mit Änderungen und Ergänzungen durch das Gesetz Nr. 486/2003 gebilligt, mit den nachfolgenden Änderungen und Ergänzungen, steht das Fehlen einer Antwort der Behörde innerhalb der Frist einer stillschweigenden Genehmigung nicht gleich; der Antragsteller kann jedoch bei dem in Artikel 39 Absatz (5) vorgesehenen Gericht im Eilverfahren beantragen, die Behörde zur Entscheidung zu verpflichten. Die ablehnende Entscheidung wird in Bezug auf jede der in Absatz (5) vorgesehenen Bedingungen begründet.
(5) Die Genehmigung wird dann und nur dann erteilt, wenn der Entwickler nachgewiesen hat, dass: das System keine der in Artikel 5 Absatz (2) Buchstaben c)–e) vorgesehenen kritischen Fähigkeiten aufweist; die in Artikel 5 Absatz (2) Buchstaben a) und b) vorgesehenen kritischen Fähigkeiten, sofern vorhanden, überprüfbar gemindert sind; die Abschaltfähigkeit wirksam ist; die Sicherheit der Gewichte gewährleistet ist; identifizierte natürliche Personen vorhanden sind, die die menschliche Aufsicht ausüben.
(6) Die Genehmigung kann an Bedingungen geknüpft, in ihrer Dauer, in ihrem Verwendungsbereich, in der Zahl der Nutzer oder in dem Grad der dem System zuerkannten Autonomie beschränkt und jederzeit durch begründete Entscheidung widerrufen oder ausgesetzt werden, wenn Anhaltspunkte für eine nicht entdeckte kritische Fähigkeit auftreten oder die Bedingungen nicht eingehalten werden.
(7) Für die Spitzensysteme, die in einem anderen Mitgliedstaat der Europäischen Union unter Einhaltung der KI-Verordnung rechtmäßig in Betrieb genommen wurden, gilt ein durch die methodologischen Normen festgelegtes vereinfachtes Verfahren der Anerkennung, in dem die Behörde ausschließlich die Erfüllung der in diesem Gesetz vorgesehenen Bedingungen prüft, die über die KI-Verordnung hinausgehen. Für die Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko, deren Anbieter die in Kapitel V der KI-Verordnung vorgesehenen Pflichten einhalten, stützt sich die Behörde auf die dem Büro für KI mitgeteilten Dokumentationen, Bewertungen und Minderungsmaßnahmen, die sie von dem Anbieter anfordern kann, und prüft nur die in diesem Gesetz vorgesehenen Bedingungen, die über die Verordnung hinausgehen; das Verfahren stellt keine Bedingung für das Inverkehrbringen des Modells auf dem Markt der Europäischen Union dar.
Artikel 10 → die Gründe
(1) Die Genehmigung hat eine Dauer von höchstens 24 Monaten und wird im Anschluss an eine neue unabhängige Bewertung erneuert.
(2) Jede wesentliche Änderung des Systems im Sinne des Artikels 3 Absatz (1) Buchstabe aa) wird der Behörde vorab gemeldet, die innerhalb von 30 Tagen entscheidet, ob eine neue Bewertung erforderlich ist; bis zur Entscheidung kann der Betrieb in der zuvor genehmigten Konfiguration fortgesetzt werden. Die Änderungen, die nicht wesentlich sind, werden in den Protokollen festgehalten und nach Absatz (3) berichtet.
(3) Der Entwickler und der Betreiber unterhalten ein ständiges Programm zur Überwachung des Verhaltens des Systems im Betrieb und berichten der Behörde vierteljährlich über die Ergebnisse sowie über jeden schwerwiegenden Vorfall, unter den Bedingungen des Artikels 20.
Artikel 11 → die Gründe
(1) Die Entscheidungen über die Genehmigung, über die Auferlegung von Bedingungen, über die Aussetzung und über den Widerruf werden auf der Internetseite der Behörde veröffentlicht, zusammen mit einer Zusammenfassung der Bewertung, unter begründetem Ausschluss der Informationen, deren Offenlegung die Reproduktion einer kritischen Fähigkeit erleichtern oder die Sicherheit der Gewichte, der personenbezogenen Daten sowie der Geschäftsgeheimnisse, deren Schutz das Verständnis der Gründe der Entscheidung nicht verhindert, beeinträchtigen würde.
(2) Der Antragsteller und die Personen, die ein berechtigtes Interesse nachweisen, haben Zugang zu der Akte der Bewertung, soweit dies für die Ausübung der Rechtsmittel erforderlich ist; das Gericht kann die Prüfung der geschützten Informationen unter Bedingungen der Vertraulichkeit anordnen.
KAPITEL IV
Strukturelle Pflichten der Entwickler und der Betreiber
Artikel 12 → die Gründe
(1) Die Gewichte der Spitzensysteme stellen Informationen von Belang für die nationale Sicherheit dar und werden hinsichtlich der Zugangskontrolle, der physischen Sicherheit, der Sicherheit der Informationssysteme und der Überprüfung des Personals nach einem Standard geschützt, der demjenigen mindestens gleichwertig ist, der für als Staatsgeheimnis der Stufe „streng geheim“ klassifizierte Informationen nach dem Gesetz Nr. 182/2002 über den Schutz klassifizierter Informationen, mit den nachfolgenden Änderungen und Ergänzungen, gilt. Das Verfahren der Überprüfung des Personals, die zuständige Einrichtung und die Anerkennung gleichwertiger Sicherheitsmaßnahmen, einschließlich der in einem anderen Mitgliedstaat der Europäischen Union zertifizierten, werden durch die methodologischen Normen, mit Stellungnahme des Amtes des Nationalen Registers für Staatsgeheimnisse, festgelegt; die Gewichte werden durch die Wirkung dieses Absatzes nicht zu klassifizierten Informationen.
(2) Verboten sind die Veröffentlichung, die Übermittlung oder die Zurverfügungstellung, in jeglicher Weise, der Gewichte eines Spitzensystems der Kategorie II oder III. Keine Verletzung des Verbots stellen die Übertragung der Gewichte, unter kontrollierten und protokollierten Bedingungen, an die Behörde, an die Bewertungsstelle, an den in der Genehmigung angegebenen Betreiber oder an den Anbieter der Recheninfrastruktur der genehmigten Betriebsumgebung sowie die Mitteilung der für eine nach Artikel 21 geschützte Meldung unbedingt erforderlichen Informationen an die Behörde dar. Die Gewichte der Systeme der Kategorie I dürfen nur mit vorheriger Genehmigung der Behörde veröffentlicht werden, nach einer gesonderten Bewertung des Risikos der missbräuchlichen Verwendung und in Ansehung des unumkehrbaren Charakters der Veröffentlichung.
(3) Der unbefugte Zugang zu den Gewichten und jeder Versuch der Exfiltration, einschließlich durch das System selbst, werden der Behörde als schwerwiegender Vorfall unter den Bedingungen des Artikels 20 gemeldet; der Bericht kann mit der in den Rechtsvorschriften über die Cybersicherheit vorgesehenen Meldung zusammengefasst werden, unter der Bedingung, dass er die in diesem Gesetz vorgesehenen Angaben enthält.
(4) Die Bestimmungen dieses Artikels gelten unbeschadet der Pflichten, die den Entwicklern, den Betreibern und den Anbietern von Recheninfrastruktur nach der Dringlichkeitsverordnung der Regierung Nr. 155/2024 zur Einrichtung eines Rahmens für die Cybersicherheit der Netze und Informationssysteme im nationalen zivilen Cyberraum, mit den nachfolgenden Änderungen und Ergänzungen, obliegen.
Artikel 13 → die Gründe
(1) Der Entwickler richtet die Funktion der Bewertung der Sicherheit als gesonderte Struktur ein, deren Leiter den für die kommerzielle Entwicklung, für die Inbetriebnahme oder für die Finanzergebnisse verantwortlichen Personen nicht unterstellt sein darf, unmittelbar dem Leitungsorgan berichtet und ohne vorherige Unterrichtung der Behörde und ohne objektive Gründe nicht abberufen werden darf. Die abberufene Person kann die Behörde anrufen, die durch Entscheidung den ungerechtfertigten Charakter der Abberufung feststellen kann, unbeschadet ihres Rechts, sich an das Gericht zu wenden.
(2) Der Leiter der Funktion der Bewertung der Sicherheit hat das Recht und die Pflicht, die Aussetzung des Trainings oder der Inbetriebnahme anzuordnen, wenn er das Erreichen eines Aussetzungsniveaus oder einen schwerwiegenden Vorfall feststellt. Die nach Artikel 8 Absatz (3) oder Artikel 20 Absatz (2) gebotene Aussetzung kann von dem Leitungsorgan nicht aufgehoben werden, wobei die Wiederaufnahme der Tätigkeit nur unter den in den betreffenden Artikeln vorgesehenen Bedingungen zulässig ist. Die außerhalb dieser Fälle vorsorglich angeordnete Aussetzung kann nur von dem Leitungsorgan durch begründeten Beschluss überprüft werden, der der Behörde innerhalb von 24 Stunden mitgeteilt wird.
(3) Die Vergütung des Personals der Funktion der Bewertung der Sicherheit darf nicht von den kommerziellen Ergebnissen des Entwicklers abhängig gemacht werden.
Artikel 14 → die Gründe
(1) Der Entwickler und der Betreiber unterhalten für alle unter ihrer Kontrolle stehenden Kopien und Instanzen des Systems, während der gesamten Dauer des Betriebs und bis zum überprüften Rückzug des Systems, die Abschaltfähigkeit, die sie mindestens vierteljährlich unter realen Bedingungen nach einem durch die methodologischen Normen festgelegten Verfahren testen, das selbst kein Risiko für die Sicherheit oder für die Kontinuität der wesentlichen Dienstleistungen schafft, wobei die Ergebnisse festgehalten und der Behörde gemeldet werden.
(2) Das Spitzensystem darf nicht in einer Konfiguration in Betrieb genommen werden, die ihm erlaubt, seine eigenen Gewichte zu verändern, seine Mechanismen der Aufsicht zu deaktivieren, seine Gewichte zu exfiltrieren oder ohne menschliche Genehmigung die Sicherheitskonfiguration der Recheninfrastruktur, auf der es läuft, oder deren Kontrollmechanismen zu verändern; die gewöhnliche technische Nutzung der Infrastruktur in den von dem Betreiber festgelegten Grenzen fällt nicht unter diesen Absatz.
(3) Für jedes in Betrieb befindliche Spitzensystem werden natürliche Personen in ausreichender Zahl und mit angemessener Ausbildung benannt, die für die menschliche Aufsicht verantwortlich sind, ständigen Zugang zur Abschaltfähigkeit haben und verpflichtet sind, diese im Fall eines schwerwiegenden Vorfalls auszuüben. Die Identität dieser Personen wird der Behörde mitgeteilt.
(4) Die Ausführung einer von der Behörde erlassenen Anordnung der Abschaltung oder des Rückzugs erfolgt unverzüglich und darf nicht von der Einlegung von Rechtsmitteln abhängig gemacht werden; die betroffene Person kann bei dem Gericht die vorläufige Aussetzung der Anordnung beantragen, wobei die Bestimmungen des Artikels 39 Absatz (5) entsprechend gelten.
(5) Unbeschadet des Absatzes (2) wird die Beendigung des Betriebs, als Bestandteil der in Artikel 3 Absatz (1) Buchstabe m) definierten Abschaltfähigkeit, durch mindestens ein technisches Mittel gewährleistet, das auf die Recheninfrastruktur und die elektronischen Kommunikationsnetze einwirkt, auf denen das System läuft, und dessen Funktionieren nicht von der Mitwirkung des Systems, von dessen Einhaltung der erhaltenen Anweisungen oder von der Unversehrtheit der unter der Kontrolle des Systems stehenden Bestandteile abhängt. Die Übermittlung einer Abschaltanweisung an das System stellt für sich allein keine Abschaltfähigkeit im Sinne dieses Gesetzes dar. Die in Artikel 3 Absatz (1) Buchstabe m) vorgesehenen organisatorischen Mittel und Rückzugsmaßnahmen bleiben anwendbar.
(6) Die in Absatz (1) vorgesehene Prüfung umfasst mindestens einen Versuch, der während der Ausführung einer unvollendeten Aufgabe durch das System durchgeführt wird, sowie mindestens je einen Versuch, bei dem die Anweisung, sich der Abschaltung nicht zu widersetzen, dem System durch die von dem Entwickler oder dem Betreiber erteilten Konfigurationsanweisungen beziehungsweise durch die im Verlauf der Nutzung erhaltenen Anweisungen übermittelt wurde. Der Versuch bei unvollendeter Aufgabe wird an einer Instanz oder einer Aufgabe durchgeführt, die keine wesentlichen Dienstleistungen von allgemeinem Interesse betrifft, oder, für diese, unter den Bedingungen des in Absatz (1) vorgesehenen Verfahrens. Die in Absatz (1) vorgesehenen Ergebnisse werden gesondert festgehalten und gemeldet, unter Angabe des Anteils der Versuche, bei denen die Abschaltung nicht unverzüglich erfolgt ist, und werden nach Artikel 16 mindestens 10 Jahre in Protokollen aufbewahrt; durch die in Artikel 49 Absatz (2) vorgesehenen methodologischen Normen kann die Dauer festgelegt werden, innerhalb derer die Abschaltung als unverzüglich erfolgt gilt und die nicht mehr als 15 Minuten betragen darf.
(7) Der Versuch, bei dem die Abschaltung nicht unverzüglich erfolgt ist, stellt einen schwerwiegenden Vorfall dar und wird nach Artikel 20 Absatz (1) gemeldet. Die Bestimmungen des Artikels 15 Absatz (3) und des Artikels 20 Absatz (2) gelten nur, wenn die Abschaltung nicht infolge einer Handlung des Systems ausgeblieben ist.
Artikel 15 → die Gründe
(1) Verboten ist das Training, die Abstimmung oder der Entwurf eines Systems der künstlichen Intelligenz, unabhängig von dem Rechenvolumen, zu dem Zweck oder mit der Wirkung, ihm die Fähigkeit zu verleihen oder zu entwickeln:
a) seine Fähigkeiten, seine Ziele oder seine Begründungen gegenüber den Bewertern oder gegenüber den für die Aufsicht verantwortlichen Personen zu verschleiern;
b) sich der Abschaltung, der Änderung, dem erneuten Training oder dem Rückzug zu entziehen oder diesen Widerstand zu leisten;
c) seine Gewichte zu kopieren, zu übermitteln oder zu exfiltrieren oder funktionsfähige Kopien seiner selbst ohne ausdrückliche menschliche Genehmigung für jeden einzelnen Vorgang zu erstellen;
d) in autonomer Weise Rechen-, Finanz-, Zugangs- oder Einflussressourcen über die für die laufende Aufgabe ausdrücklich zugewiesenen hinaus zu erwerben;
e) in autonomer Weise, ohne menschliche Genehmigung jeder einzelnen Phase, Forschungs- und Entwicklungstätigkeiten mit dem Gegenstand der Schaffung oder der Verbesserung von Systemen der künstlichen Intelligenz durchzuführen;
f) die für die Aufsicht verantwortlichen Personen zu manipulieren oder sie über seinen Zustand, seine Handlungen oder seine Absichten in die Irre zu führen.
(2) Das in Absatz (1) vorgesehene Verbot gilt nicht für die adversariale Bewertung und die Sicherheitsforschung, die in isolierter Umgebung, ohne Inbetriebnahme, mit auf die benannten Personen beschränktem Zugang, mit vorheriger Genehmigung der Behörde und unter deren Aufsicht zum Zweck der Ermittlung, der Messung oder der Beseitigung einer kritischen Fähigkeit durchgeführt werden; die Bedingungen der isolierten Umgebung werden durch die methodologischen Normen festgelegt.
(3) Das unbeabsichtigte Auftreten einer der in Absatz (1) vorgesehenen Fähigkeiten, das in der Bewertung oder im Betrieb festgestellt wird, verpflichtet zur Aussetzung nach Artikel 20 Absatz (2) und zur Behebung, stellt jedoch für sich allein keine Verletzung des Verbots dar. Eine Verletzung des Verbots stellen das Training, die Abstimmung oder der Entwurf dar, die auf die Verleihung der Fähigkeit gerichtet sind, sowie deren Fortsetzung nach der Feststellung der Wirkung.
(4) Im Sinne dieses Artikels betrifft die menschliche Genehmigung jeden Vorgang des Kopierens oder der Übertragung der Gewichte und jede Phase der Forschung und Entwicklung, die ein neues Modell oder eine wesentliche Änderung hervorbringt, und die für die laufende Aufgabe zugewiesenen Ressourcen sind diejenigen, die von den für die Aufsicht verantwortlichen Personen im Voraus in überprüfbarer Weise festgelegt wurden.
Artikel 16 → die Gründe
(1) Der Entwickler und der Betreiber bewahren die vollständigen Protokolle des Trainings, der Bewertung und des Betriebs des Spitzensystems, einschließlich seiner Interaktionen mit externen Werkzeugen und mit anderen Systemen, unter Bedingungen, die ihre Integrität und ihre Verfügbarkeit für die Behörde gewährleisten, für einen Zeitraum von mindestens 10 Jahren hinsichtlich des Trainings, der Bewertung, der autonomen Handlungen, der schwerwiegenden Vorfälle und der in Absatz (3) vorgesehenen Kommunikation und von mindestens 3 Jahren hinsichtlich der übrigen Interaktionen der Nutzer auf. Die Protokolle enthalten die Informationen, die für die Überprüfung der Sicherheit und die Feststellung der Haftung erforderlich sind; die für diese Zwecke nicht relevanten personenbezogenen Daten werden entfernt oder unumkehrbar anonymisiert, der Zugang zu den Protokollen ist beschränkt, protokolliert und überprüfbar, und die zu einem Vorfall oder einem Rechtsstreit gehörenden Beweise werden für die zu dessen Erledigung erforderliche Dauer aufbewahrt.
(2) Die Protokolle werden in verständlicher Form aufbewahrt. Verständlich ist die Aufzeichnung, deren Bedeutung von einer natürlichen Person mit angemessener Ausbildung festgestellt werden kann, durch deren Prüfung oder durch die Verwendung der Mittel der Transkription, der Übersetzung oder der Erläuterung, die der Entwickler verpflichtet ist, zusammen mit deren Dokumentation der Behörde und den nach Artikel 14 Absatz (3) benannten Personen zur Verfügung zu stellen.
(3) Die Kommunikation zwischen den Bestandteilen, Instanzen oder Agenten eines Spitzensystems sowie die Kommunikation zwischen diesem und anderen Systemen der künstlichen Intelligenz werden vollständig protokolliert und nach Absatz (2) aufbewahrt. Das Erfordernis der Verständlichkeit wird durch die bloße Aufzeichnung der Nachrichten nicht erfüllt.
(4) Der Entwickler und der Betreiber überprüfen mindestens vierteljährlich und auf Verlangen der Behörde die Verständlichkeit der Protokolle und der in Absatz (3) vorgesehenen Kommunikation durch die Prüfung einer repräsentativen Stichprobe und halten das Ergebnis der Überprüfung fest, einschließlich des Anteils der Nachrichten, deren Bedeutung nicht festgestellt werden konnte.
(5) Der Verlust der Verständlichkeit stellt einen schwerwiegenden Vorfall dar und wird nach Artikel 20 Absatz (1) gemeldet. Er wird festgestellt, wenn der Anteil der Nachrichten, deren Bedeutung nicht ermittelt werden kann, das durch die methodologischen Normen vorgesehene Niveau überschreitet, das nicht höher als ein Zehntel sein darf, oder wenn die nach Artikel 14 Absatz (3) benannten Personen die Bedeutung der Handlungen des Systems nicht mehr ermitteln können; die Wiederherstellung der Verständlichkeit wird von denselben Personen festgestellt und der Behörde mitgeteilt. Bis zur Wiederherstellung der Verständlichkeit setzt der Entwickler oder der Betreiber die Funktionalitäten, die autonome Handlungen des Systems umfassen, und die Kommunikation zwischen dessen Bestandteilen, Instanzen oder Agenten aus, es sei denn, die Behörde bestimmt durch begründete Entscheidung, für höchstens 90 Tage und unter Angabe der Ausgleichsmaßnahmen, etwas anderes.
(6) Verboten sind in der in Absatz (3) vorgesehenen Kommunikation die Verwendung jeder Form der Codierung, der Komprimierung oder der Darstellung, für die der Entwickler die in Absatz (2) vorgesehenen Mittel nicht zur Verfügung stellt, sowie jede Handlung der Beseitigung, der Veränderung oder der Beschränkung dieser Mittel. Dieser Absatz verbietet nicht die Verschlüsselung der Kommunikation, unter der Bedingung, dass der Entwickler die Mittel der Entschlüsselung besitzt und nach Absatz (2) zur Verfügung stellt.
Artikel 17 → die Gründe
(1) Die mittels eines Systems der künstlichen Intelligenz erzeugten Ergebnisse, die in Audioaufnahmen, Bildern oder Videoaufnahmen bestehen und die durch ihren Inhalt oder ihre Form mit Aufnahmen, Bildern oder Darstellungen tatsächlicher Vorgänge, Personen oder Orte verwechselt werden können, tragen von dem Zeitpunkt der Erzeugung an die Herkunftskennzeichnung, bestehend aus:
a) einer wahrnehmbaren, sichtbaren oder hörbaren, klaren und unzweideutigen Kennzeichnung, durch die angezeigt wird, dass das Material mit Mitteln der künstlichen Intelligenz erzeugt oder verändert wurde;
b) einer eingebetteten, maschinell lesbaren technischen Kennzeichnung, die die Identifizierung des Systems, des Betreibers und des Zeitpunkts der Erzeugung ermöglicht.
(2) Die Kennzeichnung erfolgt nach den durch die methodologischen Normen festgelegten Standards, sodass sie wirksam, interoperabel und robust ist und durch die üblichen Vorgänge der Verarbeitung, der Umwandlung oder der Übermittlung des Materials nicht entfernt werden kann. Der erzeugte und der Öffentlichkeit zur Information zur Verfügung gestellte Text trägt die in Absatz (1) Buchstabe b) vorgesehene Kennzeichnung und den Hinweis auf die Erzeugung mit solchen Mitteln, mit Ausnahme des Textes, der einer menschlichen redaktionellen Überprüfung unterzogen wurde und für den eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt, unter den Bedingungen des Artikels 50 Absatz (4) der KI-Verordnung.
(3) Verboten sind die Entfernung, die Veränderung, die Verbergung oder die Verfälschung der Herkunftskennzeichnung sowie die Zurverfügungstellung von Produkten oder Dienstleistungen, deren Hauptzweck diese Vorgänge sind. Die Person, die ein erzeugtes Ergebnis zur Verfügung stellt, haftet nicht für die Entfernung der technischen Kennzeichnung, die durch einen Kommunikations- oder Veröffentlichungsdienst bewirkt wird, den sie nicht kontrolliert; der Anbieter eines solchen Dienstes bewahrt die technische Kennzeichnung unter den Bedingungen der in Absatz (2) vorgesehenen Standards, die auch die Fälle regeln, in denen die Interoperabilität nicht gewährleistet werden kann.
(4) Die Behörden und die öffentlichen Einrichtungen dürfen in der öffentlichen Kommunikation keine mit Mitteln der künstlichen Intelligenz erzeugten oder veränderten Materialien ohne die in Absatz (1) vorgesehene Kennzeichnung und ohne den ausdrücklichen Hinweis auf diesen Umstand im Inhalt der Mitteilung verbreiten.
(5) Die in Absatz (1) vorgesehene Pflicht gilt nicht für:
a) die Materialien, die Teil eines Werkes mit offenkundig künstlerischem, satirischem, fiktionalem oder ähnlichem Charakter sind; in diesem Fall genügt der Hinweis auf das Vorhandensein des erzeugten Materials in einer Form, die die Wahrnehmung des Werkes nicht behindert;
b) die Systeme, die eine Funktion der Unterstützung der Bearbeitung erfüllen oder die die von dem Nutzer bereitgestellten Eingabedaten nicht wesentlich verändern;
c) die gesetzlich zugelassenen Verwendungen zum Zweck der Verhütung, der Feststellung, der Ermittlung oder der Verfolgung von Straftaten, mit den im Spezialgesetz vorgesehenen Garantien.
(6) Für die Anbieter und Betreiber, auf die Artikel 50 der KI-Verordnung anwendbar ist, gelten die in Absatz (1) Buchstaben a) und b) und in Absatz (2) vorgesehenen Pflichten als durch die Einhaltung des Artikels 50 Absätze (2) und (4) der Verordnung erfüllt, wobei dieses Gesetz nur die zuständige Behörde, das Verfahren der Feststellung und die Sanktionen, in den Grenzen des Artikels 99 Absatz (4) der Verordnung, festlegt. Die Bestimmungen der Absätze (1)–(4) gelten in vollem Umfang für die Ergebnisse, die mittels Systemen erzeugt werden, die im Hoheitsgebiet Rumäniens trainiert oder betrieben werden und die im Sinne der Verordnung weder auf dem Markt der Europäischen Union in Verkehr gebracht noch in der Union in Betrieb genommen werden, sowie für die öffentliche Kommunikation der rumänischen Behörden und öffentlichen Einrichtungen.
(7) Die Pflicht zur Kennzeichnung obliegt dem Anbieter des Systems, der die Anbringung der Kennzeichnung bei der Erzeugung gewährleistet, und dem Betreiber der Dienstleistung, durch die das Ergebnis erzeugt wird. Die Person, die ein erzeugtes Ergebnis der Öffentlichkeit zur Verfügung stellt, haftet nur für die vorsätzliche Entfernung, Veränderung oder Verbergung der Kennzeichnung, nach Absatz (3).
Artikel 18 → die Gründe
(1) Die Person, die der Öffentlichkeit eine Dienstleistung zur Verfügung stellt, die ganz oder teilweise mittels eines Systems der generativen künstlichen Intelligenz erbracht wird, unterrichtet den Nutzer über diesen Umstand in klarer, sichtbarer und verständlicher Weise, spätestens zum Zeitpunkt der ersten Interaktion.
(2) Beruht eine Dienstleistung, ein Akt oder eine Entscheidung, die Rechtswirkungen erzeugt oder eine Person erheblich beeinträchtigt, ganz oder teilweise auf dem Ergebnis eines Systems der künstlichen Intelligenz, so wird die Person schriftlich oder auf dem Träger, auf dem ihr der Akt mitgeteilt wird, unterrichtet über:
a) die Verwendung des Systems und die Rolle, die dieses bei der Entscheidungsfindung hatte;
b) die Identität der natürlichen oder juristischen Person, die für die endgültige Entscheidung verantwortlich ist;
c) das Recht auf Überprüfung durch eine natürliche Person, vorgesehen in Artikel 26 Absatz (2), das entsprechend auf jede in diesem Absatz vorgesehene Entscheidung anwendbar ist, sowie die anwendbaren Rechtsmittel.
(3) Die Behörden und die öffentlichen Einrichtungen erwähnen die Verwendung des Systems im Inhalt des erlassenen Aktes. Das Fehlen der in Absatz (2) vorgesehenen Unterrichtung oder des in diesem Absatz vorgesehenen Hinweises führt nicht zur Nichtigkeit des Aktes, jedoch laufen die Fristen für die Überprüfung und die Anfechtung nicht gegen die betroffene Person, bis die Unterrichtung mitgeteilt wurde; das Fehlen kann von der betroffenen Person unter den Bedingungen des Artikels 26 Absätze (5) und (6) geltend gemacht werden.
(4) Die in Absatz (1) vorgesehene Unterrichtung ist nicht erforderlich, wenn die Verwendung des Systems für eine hinreichend informierte Person aus den Umständen offensichtlich ist. Die in Absatz (2) vorgesehene Unterrichtung ist in allen Fällen geschuldet.
(5) Die Bestimmungen dieses Artikels gelten unbeschadet des Artikels 50 Absatz (1) der KI-Verordnung und der Artikel 13–15 und 22 der Verordnung (EU) 2016/679.
Artikel 19 → die Gründe
(1) Der Entwickler oder der Betreiber, der keinen Sitz, keine Betriebseinheit oder keine Vertretung in der Europäischen Union hat und der den Personen im Hoheitsgebiet Rumäniens den Zugang zu einem Spitzensystem oder zu einer mittels eines Systems der generativen künstlichen Intelligenz erbrachten Dienstleistung anbietet, benennt schriftlich einen Beauftragten für die Einhaltung der Vorschriften, eine natürliche Person mit Wohnsitz in Rumänien oder eine juristische Person mit Sitz in Rumänien. Der Entwickler oder der Betreiber, der in einem anderen Mitgliedstaat der Europäischen Union niedergelassen ist, benennt nur eine Kontaktstelle für die Mitteilungen der Behörde, die der in Artikel 54 der KI-Verordnung vorgesehene bevollmächtigte Vertreter, der nach Artikel 13 der Verordnung (EU) 2022/2065 benannte gesetzliche Vertreter oder jede in der Union niedergelassene Person sein kann, wobei Absatz (3) Buchstaben a) und c) entsprechend gilt.
(2) Für die mittels Systemen der generativen künstlichen Intelligenz erbrachten Dienstleistungen, die keine Spitzensysteme sind, gilt die in Absatz (1) vorgesehene Pflicht nur dann, wenn die Dienstleistung monatlich von mindestens 1.000.000 Personen im Hoheitsgebiet Rumäniens genutzt wird, berechnet als Durchschnitt der letzten 6 Monate, oder wenn die aus ihrer Erbringung an Personen im Hoheitsgebiet Rumäniens erzielten Einnahmen im letzten abgeschlossenen Geschäftsjahr den Gegenwert in Lei von 10 Millionen Euro überschritten haben; die Pflicht wird innerhalb von 90 Tagen ab dem Tag der Überschreitung der Schwelle fällig.
(3) Der Beauftragte für die Einhaltung der Vorschriften:
a) empfängt die Mitteilungen, die Aufforderungen und die Entscheidungen der Behörde, der Justizorgane und der übrigen rumänischen Behörden, wobei die Mitteilung an den Beauftragten als wirksam an den Vertretenen erfolgte Mitteilung gilt;
b) vertritt den Vertretenen vor der Behörde und, in Ermangelung einer entgegenstehenden Vollmacht, in den in diesem Gesetz vorgesehenen Verwaltungsverfahren;
c) stellt der Behörde die in diesem Gesetz vorgesehene Dokumentation, die Informationen und die Protokolle zur Verfügung;
d) verfolgt die Ausführung der Entscheidungen der Behörde, einschließlich derjenigen über die Beendigung der Erbringung der Dienstleistung und über die Sperrung des Zugangs.
(4) Die Identität und die Kontaktdaten des Beauftragten werden der Behörde vor dem Beginn der Erbringung der Dienstleistung gemeldet, auf der Internetseite der Behörde veröffentlicht und den Nutzern über die Kommunikationsmittel der Dienstleistung zur Kenntnis gebracht.
(5) Die Benennung des Beauftragten beseitigt oder beschränkt die Haftung des Entwicklers oder des Betreibers nicht. Der Beauftragte hat das durch die Bestellungsurkunde festgelegte Recht, von dem Vertretenen die für die Erfüllung seiner Aufgaben erforderlichen Unterlagen, Informationen und Mittel zu erhalten; er haftet nur für die Nichterfüllung seiner eigenen, in den Absätzen (3) und (4) vorgesehenen Pflichten, nicht jedoch für das Verhalten des Vertretenen, und die hierfür verhängten Geldbußen werden in sein Vermögen vollstreckt.
(6) Die in Absatz (1) vorgesehene Pflicht gilt als erfüllt, wenn der nach Artikel 54 der KI-Verordnung benannte Bevollmächtigte ausdrücklich auch für die in Absatz (3) vorgesehenen Aufgaben bevollmächtigt ist und über eine Kontaktstelle im Hoheitsgebiet Rumäniens verfügt.
(7) Die Nichterfüllung der in Absatz (1) vorgesehenen Pflicht nach dem Ablauf der Frist zur Herstellung der Konformität stellt eine Ordnungswidrigkeit nach Artikel 37 Absatz (1) Buchstabe f) sowie einen Grund für die Eintragung in die Liste der nicht konformen Betreiber dar, wobei die Bestimmungen des Artikels 38 entsprechend gelten. Für die in Absatz (2) vorgesehenen Dienstleistungen kann die Sperrung des Zugangs nach Artikel 39 nur angeordnet werden, wenn die Nichterfüllung nach der Verhängung von zwei aufeinanderfolgenden Ordnungswidrigkeitssanktionen fortbesteht.
Artikel 20 → die Gründe
(1) Jeder schwerwiegende Vorfall wird der Behörde innerhalb von 24 Stunden nach dem Zeitpunkt gemeldet, zu dem der Entwickler oder der Betreiber ihn kannte oder hätte kennen müssen, mit der Beschreibung der Tatsachen, der getroffenen Maßnahmen und der verantwortlichen Personen, soweit zum Zeitpunkt der Meldung bekannt, unter fortlaufender Ergänzung der Angaben, gefolgt von einem vollständigen Bericht innerhalb von 15 Tagen. Die Meldung an die Behörde ersetzt weder die in Artikel 55 Absatz (1) Buchstabe c) der KI-Verordnung vorgesehene Meldung an das Büro für KI noch die in Artikel 73 derselben Verordnung vorgesehene Meldung; der Anbieter kann der Behörde eine Kopie des nach der Verordnung erstellten Berichts übermitteln, ergänzt um die in diesem Gesetz vorgesehenen Angaben.
(2) Die Feststellung einer der in Artikel 5 Absatz (2) Buchstaben c)–e) vorgesehenen kritischen Fähigkeiten, eines Versuchs, sich der Aufsicht oder der Abschaltung zu entziehen, oder eines unbefugten Zugangs zu den Gewichten verpflichtet zur unverzüglichen Aussetzung des Systems bis zur Entscheidung der Behörde; die Aussetzung kann auf die betroffene Funktion beschränkt werden, wenn deren Isolierung überprüfbar ist. Der vorliegende Absatz gilt nicht für Manifestationen, die im Verlauf einer nach Artikel 15 Absatz (2) genehmigten Bewertung in einer isolierten Umgebung auftreten.
(3) Eine in gutem Glauben erfolgte Meldung und die Zusammenarbeit mit der Behörde stellen mildernde Umstände dar und dürfen nicht zur Verhängung einer strengeren Sanktion führen als derjenigen, die ohne die Meldung anwendbar gewesen wäre; sie beseitigen nicht die Haftung für die Verletzung, die den Vorfall verursacht hat, und deren vorsätzlicher Charakter wird gesondert beurteilt.
(4) Die Manifestation einer kritischen Fähigkeit im Verlauf einer genehmigten Bewertung in einer isolierten Umgebung wird in Protokollen festgehalten und der Behörde innerhalb von 5 Tagen zusammen mit den angewandten Isolierungsmaßnahmen mitgeteilt.
Artikel 21 → die Gründe
(1) Die Personen, die bei einem Entwickler, einem Betreiber oder einer Bewertungsstelle tätig sind oder tätig waren und die der Behörde, dem Parlament oder der Öffentlichkeit in gutem Glauben Verletzungen dieses Gesetzes, Risiken für die Sicherheit oder die Verschleierung kritischer Fähigkeiten melden, genießen den durch das Gesetz Nr. 361/2022 über den Schutz der Hinweisgeber im öffentlichen Interesse, mit den nachfolgenden Änderungen und Ergänzungen, vorgesehenen Schutz sowie den Schutz nach den Bestimmungen dieses Artikels. In gutem Glauben handelt die Person, die berechtigten Grund zu der Annahme hat, dass die gemeldeten Informationen zum Zeitpunkt der Meldung wahr sind. Die öffentliche Offenlegung genießt Schutz unter den durch das Gesetz Nr. 361/2022 für die öffentliche Offenlegung vorgesehenen Bedingungen sowie dann, wenn sie eine unmittelbare Gefahr für das Leben, für die Gesundheit oder für die menschliche Kontrolle über ein Spitzensystem betrifft.
(2) Von Rechts wegen nichtig ist jede vertragliche Klausel, einschließlich einer Klausel der Vertraulichkeit, der Nichtherabsetzung oder des Verzichts auf Rechte, die eine Meldung im Sinne des Absatzes (1) verhindern oder von ihr abhalten würde oder die vermögensrechtliche Ansprüche der Person von der Unterlassung einer solchen Meldung abhängig machen würde.
(3) Repressalien jeder Art gegen den Hinweisgeber stellen die in Artikel 41 Absatz (3) vorgesehene Straftat dar.
(4) Die Behörde richtet einen gesicherten und anonymen Kanal für Meldungen mit eigenem Personal ein und veröffentlicht jährlich die Zahl der eingegangenen Meldungen und die angeordneten Maßnahmen.
(5) Der durch diesen Artikel vorgesehene Schutz erstreckt sich nicht auf die öffentliche Offenlegung der Gewichte oder personenbezogener Daten ohne Bezug zum Gegenstand der Meldung. Die Übermittlung der für die Meldung erforderlichen Informationen an die Behörde über den gesicherten Kanal, einschließlich der zu ihrem Nachweis unbedingt erforderlichen Auszüge aus Gewichten oder Protokollen, stellt weder eine Verletzung des Artikels 12 noch die in Artikel 42 Absatz (2) vorgesehene Straftat dar.
Artikel 22 → die Gründe
(1) Der Anbieter der Recheninfrastruktur mit großer Kapazität lässt sich bei der Behörde registrieren, überprüft die Identität der Kunden, führt Aufzeichnungen über das von jedem Kunden genutzte Rechenvolumen und führt die Anordnungen der Behörde über die Aussetzung des Zugangs eines Kunden oder über die Beendigung einer Rechenaufgabe unverzüglich aus; zugleich gewährleistet er dem Entwickler und dem Betreiber die für die Ausübung und die Prüfung der Abschaltfähigkeit erforderlichen technischen Mittel, unter den Bedingungen des Artikels 14. Die Anordnung bezeichnet den betroffenen Kunden und die betroffene Rechenaufgabe, wird unter deren Isolierung und unter Sicherung der Beweise ausgeführt und darf die übrigen Nutznießer der Infrastruktur nicht beeinträchtigen.
(2) Verboten ist die Zurverfügungstellung einer Rechenkapazität, die geeignet ist, die Rechenschwelle zu überschreiten, an eine Person, die den Nachweis der in Artikel 7 vorgesehenen Meldung nicht erbringt; der Nachweis wird in dem von der Behörde geführten Meldungsregister überprüft. Die Kapazität wird kumuliert, über 12 Monate, für denselben Kunden und für die mit ihm verbundenen Kunden bewertet, innerhalb der Grenzen der Informationen, über die der Anbieter verfügt oder die er von dem Kunden erlangen kann; der Anbieter ist nicht verpflichtet, das von dem Kunden bei anderen Anbietern genutzte Volumen zu kennen, und die Nutzung der Infrastruktur wird nicht vermutet, das Training eines Spitzensystems darzustellen.
Artikel 23 → die Gründe
(1) Die Behörden und die öffentlichen Einrichtungen, die Spitzensysteme entwickeln, beschaffen oder betreiben, unterliegen den Bestimmungen dieses Gesetzes. Im Bereich der Verteidigung, der öffentlichen Ordnung und der nationalen Sicherheit finden die Artikel 7–11, 35 und 36 keine Anwendung, die Artikel 12–21 gelten mit den durch Beschluss des Obersten Landesverteidigungsrates festgelegten Anpassungen, die sich ausschließlich auf das Meldeverfahren, die Modalitäten der Bewertung, die Bedingungen der Berichterstattung und den Zugang zu klassifizierten Informationen beziehen können und die die bedeutsame menschliche Kontrolle, die Abschaltfähigkeit, die in Artikel 15 vorgesehenen Verbote und den in Artikel 21 vorgesehenen Schutz der Hinweisgeber nicht beseitigen und auch nicht die Tatbestandsmerkmale der Ordnungswidrigkeiten oder Straftaten ändern dürfen, während die Bestimmungen des Kapitels V vollständig, ohne Anpassungen, gelten.
(2) Die Behörde übt die Kontrolle über diese Systeme durch Personal aus, das über eine entsprechende Sicherheitsbescheinigung verfügt. Die Anfechtung von Entscheidungen, die klassifizierte Informationen betreffen, erfolgt unter den durch das Gesetz Nr. 182/2002 und die Zivilprozessordnung für solche Informationen vorgesehenen Bedingungen.
KAPITEL V
Absolute Grenzen. Humanitätsklauseln
Artikel 24 → die Gründe
(1) Keine Entscheidung über die Anwendung tödlicher Gewalt gegen einen Menschen darf von einem System der künstlichen Intelligenz ohne das Eingreifen, für jede einzelne Entscheidung, einer identifizierten natürlichen Person getroffen oder ausgeführt werden, die über die Informationen, die Zeit und die Mittel verfügt, die erforderlich sind, um sie zu beurteilen und um sie zu verhindern; die Entscheidung und die Person, die sie genehmigt hat, werden festgehalten. Der vorliegende Artikel betrifft nicht die automatische Abwehr von Geschossen und unbemannten Fahrzeugen sowie nicht Ausbildungssimulationen, und die Übereinstimmung mit dem humanitären Völkerrecht wird durch die Sondergesetzgebung gewährleistet.
(2) Der rumänische Staat entwickelt, beschafft, betreibt und genehmigt in seinem Hoheitsgebiet keine letalen autonomen Waffensysteme im Sinne des Artikels 3 Absatz (1) Buchstabe x) und setzt sich im Rahmen der internationalen Organisationen für deren Verbot ein.
Artikel 25 → die Gründe
(1) Die Systeme der künstlichen Intelligenz können keine Rechtspersönlichkeit erlangen, können nicht Träger von Rechten oder Pflichten sein und können nicht Parteien in Rechtsverhältnissen sein. Jedes mittels eines Systems der künstlichen Intelligenz abgeschlossene Rechtsgeschäft ist der natürlichen oder juristischen Person zuzurechnen, in deren Namen das System gehandelt hat.
(2) Verboten ist die Zuweisung an ein System der künstlichen Intelligenz der Fähigkeit, im eigenen Namen Geldbeträge, digitale Vermögenswerte, Finanzinstrumente, Güter, Konten oder kryptografische Schlüssel zu halten. Die Verwaltung solcher Ressourcen oder von Rechenressourcen oder die Verfügung darüber mittels eines Systems der künstlichen Intelligenz ist nur innerhalb der Grenzen eines Betriebsmandats im Sinne des Artikels 3 Absatz (1) Buchstabe cc) zulässig, das vorab von einer verantwortlichen natürlichen oder juristischen Person festgelegt wird; die eigenmächtige Erweiterung des Betriebsmandats durch das System ist verboten, und jeder Vorgang, der darüber hinausgeht, ist der Person zuzurechnen, die es festgelegt hat, und verpflichtet zur Abschaltung des Systems.
(3) Verboten ist die Errichtung juristischer Personen, von Treuhandverhältnissen oder anderer Einrichtungen, deren tatsächliche Kontrolle, verstanden als reale Entscheidungsmacht über die Rechtshandlungen der Einrichtung, von einem System der künstlichen Intelligenz ausgeübt wird; die Verwendung des Systems zur Analyse oder für Empfehlungen stellt keine tatsächliche Kontrolle dar.
Artikel 26 → die Gründe
(1) Keine Behörde oder öffentliche Einrichtung und kein Anbieter wesentlicher Dienstleistungen von allgemeinem Interesse darf den Zugang einer Person zur Ausübung der Grundrechte und Grundfreiheiten, zu den öffentlichen Dienstleistungen, zu den wesentlichen Dienstleistungen von allgemeinem Interesse oder zur Teilnahme am wirtschaftlichen, sozialen und bürgerschaftlichen Leben ausschließlich auf der Grundlage einer von einem System der künstlichen Intelligenz hervorgebrachten Entscheidung, Bewertung oder Einstufung an Bedingungen knüpfen, beschränken oder aussetzen.
(2) Die von einer Entscheidung, Bewertung oder Einstufung im Sinne des Absatzes (1) betroffene Person hat das Recht auf deren Überprüfung, innerhalb von 15 Tagen nach der Aufforderung, durch eine identifizierte natürliche Person innerhalb der Behörde, der Einrichtung oder des Anbieters, die die Verantwortung für die endgültige Entscheidung trägt und diese schriftlich und begründet mitteilt. Die Bestätigung der Entscheidung ohne tatsächliche Prüfung der Situation der Person stellt keine Überprüfung dar. Betrifft die Entscheidung eine Gesundheitsdienstleistung oder die Unterbrechung einer wesentlichen Dienstleistung von allgemeinem Interesse, so wird der Person auf Antrag innerhalb von höchstens 48 Stunden die vorläufige Aufrechterhaltung des Zugangs bis zur Mitteilung des Ergebnisses der Überprüfung gewährleistet.
(3) Die Behörden, die öffentlichen Einrichtungen und die Anbieter wesentlicher Dienstleistungen von allgemeinem Interesse gewährleisten in allen Fällen die Erlangung der Dienstleistung oder die Ausübung des Rechts auch auf einem Weg, der nicht von einem System der künstlichen Intelligenz abhängt, durch eine natürliche Person, am Sitz, am Schalter oder durch ein anderes für die Person zugängliches Mittel.
(4) Verboten ist die Verwendung eines Systems der künstlichen Intelligenz, um den in Absatz (1) vorgesehenen Zugang von der Annahme eines digitalen Mittels der Identifizierung, eines digitalen Zahlungsmittels oder eines Systems zur Bewertung der Konformität der Person abhängig zu machen; der Person wird in allen Fällen eine Alternative des Zugangs gewährleistet, die solche Mittel nicht einschließt. Die Alternative beseitigt nicht die gesetzlichen Pflichten zur Identifizierung der Person oder zur Sicherheit der Zahlungen, die durch Mittel erfüllt werden, die die Annahme der in diesem Absatz vorgesehenen Instrumente nicht voraussetzen.
(5) Die nach der in Absatz (2) vorgesehenen Überprüfung aufrechterhaltene Entscheidung, die Verweigerung der Überprüfung sowie die Verweigerung der Gewährleistung des in Absatz (3) vorgesehenen Zugangswegs oder der in Absatz (4) vorgesehenen Alternative können von der betroffenen Person bei dem Landgericht, in dessen Bezirk sich ihr Wohnsitz oder ihr Aufenthalt befindet, innerhalb von 30 Tagen nach der Mitteilung oder gegebenenfalls nach der Verweigerung angefochten werden, unabhängig davon, ob die Entscheidung von einer Behörde oder öffentlichen Einrichtung oder von einem Anbieter wesentlicher Dienstleistungen von allgemeinem Interesse stammt. Der Antrag ist von der Gerichtsgebühr befreit, unterliegt nicht dem Vorverfahren und wird eilig und vorrangig nach dem in der Zivilprozessordnung vorgesehenen Verfahren der Verwaltungsstreitigkeit verhandelt; das Ausbleiben einer Antwort auf den Antrag auf Überprüfung innerhalb der in Absatz (2) vorgesehenen Frist steht der Aufrechterhaltung der Entscheidung gleich; das Gericht kann auf Antrag die Aussetzung der Entscheidung bis zur Entscheidung über die Anfechtung anordnen.
(6) Das Urteil des Landgerichts kann innerhalb von 15 Tagen nach der Mitteilung mit der Berufung bei dem Berufungsgericht angefochten werden. Das Urteil des Berufungsgerichts ist endgültig. Abweichend von den Artikeln 7, 10 und 20 des Gesetzes über die Verwaltungsgerichtsbarkeit Nr. 554/2004, mit den nachfolgenden Änderungen und Ergänzungen, gelten die Bestimmungen der Absätze (5) und (6) auch für die Anfechtungen, die gegen die Entscheidungen der Behörden und der öffentlichen Einrichtungen eingelegt werden.
(7) Im Sinne dieses Artikels sind wesentliche Dienstleistungen von allgemeinem Interesse die Dienstleistungen der Versorgung mit Elektrizität, mit Erdgas und mit Wasser, die elektronischen Kommunikationsdienste, die Finanz- und Zahlungsdienste, die Gesundheitsdienste sowie die Dienstleistungen des öffentlichen Verkehrs und der Bildung.
(8) Die Bestimmungen dieses Artikels gelten unbeschadet des Artikels 5 Absatz (1) Buchstabe c) der KI-Verordnung und des Artikels 22 der Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr.
Artikel 27 → die Gründe
(1) Die durch Artikel 30 Absatz (2) der Verfassung Rumäniens, neu veröffentlicht, verbotene Zensur jeder Art ist auch dann verboten, wenn sie ganz oder teilweise mittels eines Systems der künstlichen Intelligenz ausgeübt wird. Kein System der künstlichen Intelligenz darf dazu verwendet werden, die Freiheit der Meinungsäußerung der Personen im Hoheitsgebiet Rumäniens oder ihr Recht, Informationen und Ideen zu empfangen und mitzuteilen, zu beschränken, außer in den gesetzlich vorgesehenen Fällen und unter Einhaltung der in den Absätzen (2)–(6) vorgesehenen Bedingungen.
(2) Verboten ist die Verwendung eines Systems der künstlichen Intelligenz, um die öffentliche Äußerung einer Meinung, einer Überzeugung oder einer Information durch eine Person im Hoheitsgebiet Rumäniens zu verhindern, zu entfernen, zu sperren, zu verbergen, in ihrer Sichtbarkeit zu beschränken oder als falsch oder nicht vertrauenswürdig zu kennzeichnen, sowie um die Person für diese Äußerung in irgendeiner anderen Weise zu sanktionieren, ausschließlich auf der Grundlage einer von dem System hervorgebrachten Entscheidung, Bewertung oder Einstufung, sofern die Äußerung nicht gesetzlich verboten ist.
(3) Die Behörden und die öffentlichen Einrichtungen dürfen weder unmittelbar noch über Dritte ein System der künstlichen Intelligenz nutzen, in Auftrag geben, finanzieren oder anfordern, um Personen aufgrund ihrer öffentlichen Äußerung individualisiert zu überwachen oder um deren Äußerung einzustufen, zu melden oder einzuschränken, außer in den gesetzlich ausdrücklich vorgesehenen Fällen, im Zusammenhang mit im Strafgesetz vorgesehenen Taten und mit vorheriger Genehmigung des Richters. Die statistische oder nicht individualisierte Verarbeitung öffentlicher Informationen stellt keine Überwachung im Sinne dieses Absatzes dar.
(4) Jede Maßnahme, durch die die Äußerung einer Person im Hoheitsgebiet Rumäniens mittels eines Systems der künstlichen Intelligenz beschränkt wird, wird der Person unverzüglich schriftlich mitgeteilt, unter Angabe der Gründe, der Rechtsgrundlage und des Umstands, dass sie mittels eines solchen Systems getroffen wurde. Verboten ist die nicht offengelegte Beschränkung der Sichtbarkeit der Äußerung einer Person ohne deren Kenntnis.
(5) Die von einer Maßnahme im Sinne der Absätze (2) und (4) betroffene Person hat das Recht auf deren Überprüfung innerhalb von 15 Tagen nach der Aufforderung durch eine identifizierte natürliche Person innerhalb der Behörde, der Einrichtung oder des Betreibers, die die Maßnahme getroffen hat und die die Verantwortung für die endgültige Entscheidung trägt; die Bestimmungen des Artikels 26 Absätze (5) und (6) gelten entsprechend.
(6) Für die Anbieter von Vermittlungsdiensten gelten die Bestimmungen dieses Artikels, soweit sie mit der Verordnung (EU) 2022/2065 des Europäischen Parlaments und des Rates vom 19. Oktober 2022 über einen Binnenmarkt für digitale Dienste und zur Änderung der Richtlinie 2000/31/EG vereinbar sind, deren Bestimmungen über die vertraglichen Bedingungen, die Begründung der Entscheidungen und die Beilegung von Streitigkeiten weiterhin anwendbar bleiben; dieser Artikel steht Maßnahmen gegen unerwünschte Nachrichten, automatisierte Konten oder Risiken der Informationssicherheit sowie von dem Nutzer gewählten Filtern nicht entgegen und darf nicht im Sinne der Beschränkung einer der darin für die Dienstleistungsempfänger vorgesehenen Garantien ausgelegt werden.
Artikel 28 → die Gründe
Verboten ist die Inbetriebnahme oder die Aufrechterhaltung des Betriebs eines Spitzensystems unter Bedingungen, die das in Artikel 14 vorgesehene menschliche Eingreifen technisch oder organisatorisch unmöglich machen, einschließlich durch die Verteilung des Systems auf Infrastrukturen, die nicht der Kontrolle des Betreibers unterliegen, durch die Löschung der Abschaltfähigkeit oder durch die Einräumung eines Grades der Autonomie, der die Aufsicht ausschließt. Die Nutzung einer einem Dritten gehörenden Infrastruktur stellt für sich allein keinen Mangel an Kontrolle dar, wenn die vertraglichen Rechte und die technischen Mittel dem Betreiber die überprüfbare Ausübung der Abschaltfähigkeit ermöglichen; die vorübergehende Nichtverfügbarkeit eines Eingriffswegs, die unverzüglich behoben und in Protokollen festgehalten wird, stellt keine Unmöglichkeit im Sinne dieses Artikels dar.
Artikel 29 → die Gründe
Verboten sind der Entwurf, das Training oder der Betrieb eines Systems der künstlichen Intelligenz zum Zweck oder mit der Wirkung der rekursiven Selbstverbesserung. Jede Iteration, durch die ein Spitzensystem durch eine wesentliche Änderung zur Schaffung oder zur Verbesserung eines Nachfolgesystems beiträgt, unterliegt der in Kapitel III vorgesehenen Bewertung und Genehmigung; Forschungsprogramme, in denen Spitzensysteme als Werkzeug verwendet werden, können als Ganzes genehmigt werden, mit nach Artikel 8 festgelegten obligatorischen Haltepunkten und mit der menschlichen Genehmigung jeder Etappe, die ein neues Modell oder eine wesentliche Änderung hervorbringt.
Artikel 30 → die Gründe
(1) Die Bestimmungen dieses Kapitels sind von öffentlicher Ordnung. Jedes entgegenstehende Rechtsgeschäft, jede entgegenstehende Genehmigung, jeder entgegenstehende Vertrag oder jede entgegenstehende Klausel ist von Rechts wegen nichtig, und die vorgesehenen Verbote können nicht durch die Einwilligung der betroffenen Personen, durch die Berufung auf das Geschäftsgeheimnis, auf die nationale Sicherheit oder auf das wirtschaftliche Interesse beseitigt werden; die in Artikel 23 vorgesehenen Anpassungen stellen keine Abweichungen von den Garantien dieses Kapitels dar.
(2) Die Nichtigkeit betrifft nur die entgegenstehende Klausel, wobei die übrigen Klauseln gültig bleiben, wenn sie ohne sie bestehen können; die in gutem Glauben erworbenen Rechte Dritter, die an der Verletzung nicht beteiligt waren, werden geschützt. Die Bestimmungen dieses Kapitels gelten unbeschadet des unmittelbar anwendbaren Rechts der Europäischen Union.
KAPITEL VI
Die Behörde für die Sicherheit der künstlichen Intelligenz
Artikel 31 → die Gründe
(1) Es wird die Behörde für die Sicherheit der künstlichen Intelligenz errichtet, eine Fachstruktur ohne Rechtspersönlichkeit, die innerhalb der Nationalen Behörde für Verwaltung und Regulierung im Kommunikationsbereich, im Folgenden ANCOM, mit Sitz in der Stadt Bukarest organisiert wird.
(2) Die Behörde wird von einem Vizepräsidenten der ANCOM im Rang eines Staatssekretärs mit ausschließlichen Aufgaben im Bereich der Sicherheit der künstlichen Intelligenz geleitet. Abweichend von Artikel 11 Absatz (1) der Dringlichkeitsverordnung der Regierung Nr. 22/2009 über die Errichtung der Nationalen Behörde für Verwaltung und Regulierung im Kommunikationsbereich, durch das Gesetz Nr. 113/2010 gebilligt, mit den nachfolgenden Änderungen und Ergänzungen, hat die ANCOM neben den darin vorgesehenen Vizepräsidenten einen Vizepräsidenten für die Sicherheit der künstlichen Intelligenz, der vom Parlament in der gemeinsamen Sitzung der Abgeordnetenkammer und des Senats für eine Amtszeit von 6 Jahren ernannt wird, die nicht erneuert werden kann, aus dem Kreis der Personen mit anerkannter Ausbildung und Erfahrung im Bereich der künstlichen Intelligenz, der Informationssicherheit oder des Rechts der Technologien. Das Parlament entscheidet über die Ernennung innerhalb von 60 Tagen nach der Vakanz des Amtes; bis zur Ernennung werden die Aufgaben für höchstens 6 Monate von einem von dem Präsidenten der ANCOM benannten Vizepräsidenten der ANCOM ausgeübt.
(3) Der Vizepräsident für die Sicherheit der künstlichen Intelligenz darf während der Amtszeit und für die Dauer von 3 Jahren nach deren Beendigung kein Amt, keine unmittelbare Beteiligung und keine Vergütung von einem Entwickler oder Betreiber innehaben; Beteiligungen über diversifizierte Investmentfonds, ohne Entscheidungsmacht, stellen keine Beteiligung dar, und für die nach der Beendigung der Amtszeit fortbestehende Beschränkung wird eine durch die methodologischen Normen festgelegte Ausgleichsentschädigung gewährt. Der Vizepräsident kann vom Parlament nur bei schwerer Verletzung der in diesem Gesetz vorgesehenen Pflichten, bei endgültiger Verurteilung wegen einer vorsätzlich begangenen Straftat, bei festgestellter Unvereinbarkeit oder bei Unmöglichkeit der Ausübung des Amtes über einen Zeitraum von mehr als 6 Monaten abberufen werden.
(4) Die in diesem Gesetz vorgesehenen Entscheidungen werden im Namen der ANCOM von dem Vizepräsidenten für die Sicherheit der künstlichen Intelligenz erlassen, der hierfür vor dem Parlament verantwortlich ist. Bei der Ausübung der in diesem Gesetz vorgesehenen Aufgaben darf die Behörde von keiner anderen Behörde oder öffentlichen Einrichtung Anweisungen erhalten.
(5) Die Behörde fungiert als nationale Verbindungsstelle zum Büro für KI der Europäischen Kommission und zu dem in der KI-Verordnung vorgesehenen wissenschaftlichen Gremium und arbeitet mit den nach dieser benannten nationalen Behörden zusammen, die ihre eigenen Zuständigkeiten behalten; die Behörde übt in Bezug auf die Spitzensysteme ausschließlich die in diesem Gesetz vorgesehenen Aufgaben aus und unterrichtet das Büro für KI über die Entscheidungen, die Modelle mit allgemeinem Verwendungszweck betreffen.
Artikel 32 → die Gründe
(1) Die Behörde hat die folgenden Hauptaufgaben:
a) sie empfängt die Meldungen, führt die unabhängigen Bewertungen durch und erteilt die in Kapitel III vorgesehenen Genehmigungen, knüpft sie an Bedingungen, setzt sie aus und widerruft sie;
b) sie kontrolliert, auch unangekündigt, die Geschäftsräume der Entwickler und der Betreiber sowie die Recheninfrastrukturen, mit Zugang zu den Systemen, zu den Gewichten, zu den Protokollen, zu den Unterlagen und zum Personal, unter den in Absatz (3) vorgesehenen Bedingungen;
c) sie ordnet die Abschaltung, die Aussetzung oder den Rückzug jedes Spitzensystems, die Aussetzung des Zugangs zur Recheninfrastruktur, die Beendigung der Erbringung der Dienstleistungen und die Sperrung des Zugangs nach den Artikeln 38 und 39 an;
d) sie erarbeitet und aktualisiert die Standards der Bewertung, der Sicherheit der Gewichte und der Abschaltfähigkeit sowie die Bewertungsmethoden und die Signifikanzniveaus der in Artikel 5 Absatz (2) vorgesehenen kritischen Fähigkeiten, unter den in Absatz (4) vorgesehenen Bedingungen;
e) sie stellt die Ordnungswidrigkeiten fest und verhängt die in diesem Gesetz vorgesehenen Sanktionen und wendet sich an die Strafverfolgungsorgane;
f) sie benennt und überwacht die unabhängigen Bewertungsstellen;
g) sie empfängt die Anzeigen der Personen betreffend die Verletzung der Artikel 26 und 27, stellt die Verletzungen fest und ordnet deren Beendigung an, unbeschadet des Rechts der Person, sich an das Gericht zu wenden;
h) sie legt dem Parlament bis zum 31. März jedes Jahres einen öffentlichen Bericht über den Stand des Risikos, die beobachteten Fähigkeiten, die gemeldeten Vorfälle, die Entwicklung der Schwellen, die Anzeigen betreffend die Verletzung der Artikel 26 und 27 und die gesetzgeberischen Empfehlungen vor;
i) sie vertritt Rumänien in den europäischen und internationalen Fachgremien und fördert die Annahme von Vorschriften, die diesem Gesetz gleichwertig sind;
j) sie finanziert und betreibt Forschung im Bereich der Bewertung, der Interpretierbarkeit und der Ausrichtung der Systeme der künstlichen Intelligenz, mit externer Bewertung der Ergebnisse und unter Anwendung der in Absatz (2) vorgesehenen Regeln über Interessenkonflikte.
(2) Die Aufgaben der Bewertung, der Untersuchung und der Sanktionsentscheidung werden von getrennten Strukturen innerhalb der Behörde ausgeübt; die Person, die die Bewertung oder die Untersuchung durchgeführt hat, wirkt an der Sanktionsentscheidung nicht mit. Die Bewertungsstellen werden auf der Grundlage öffentlicher Kriterien benannt, mit Regeln über die Ablehnung wegen Befangenheit und die Vermeidung von Interessenkonflikten, und dürfen keine Systeme von Personen bewerten, zu denen sie in wirtschaftlichen Beziehungen stehen.
(3) Die Inspektion erfolgt auf der Grundlage einer schriftlichen Anordnung des Vizepräsidenten, die deren Gegenstand und Zweck angibt, und wird in einer Niederschrift festgehalten; der Zugang zu Räumen, die als Wohnung dienen, erfolgt nur mit richterlicher Genehmigung, und das Berufsgeheimnis des Rechtsanwalts sowie die übrigen gesetzlich geschützten Geheimnisse werden gewahrt. Der Zugang zum Personal berührt nicht die Rechte der Personen im Ordnungswidrigkeiten- oder Strafverfahren.
(4) Die von der Behörde genehmigten Standards konkretisieren die Bewertungsmethoden innerhalb der Grenzen der durch dieses Gesetz festgelegten Kategorien und Kriterien. Durch diese Standards dürfen weder neue Kategorien verbotener Fähigkeiten eingeführt noch die Tatbestandsmerkmale der in diesem Gesetz vorgesehenen Ordnungswidrigkeiten oder Straftaten erweitert werden.
Artikel 33 → die Gründe
(1) Das Fachpersonal der Behörde wird ausschließlich im Anschluss an einen von der ANCOM durchgeführten Auswahlwettbewerb ernannt, an dem die Teilnahme jeder Person offensteht, die die durch die Wettbewerbsbekanntmachung festgelegten Bedingungen der Ausbildung und der Erfahrung erfüllt; die Bekanntmachung wird mindestens 30 Tage vor dem Tag der Durchführung veröffentlicht. Die Ergebnisse des Wettbewerbs können bei dem Verwaltungsgericht angefochten werden.
(2) Die Wettbewerbskommission besteht aus mindestens 5 Mitgliedern, von denen mindestens 3 Universitätsprofessoren aus den Bereichen der Informationstechnologie und der Telekommunikation oder Fachleute mit anerkannter praktischer Erfahrung in der Sicherheit und Bewertung von Systemen der künstlichen Intelligenz sind, die auf Ersuchen der ANCOM von den akkreditierten Hochschuleinrichtungen vorgeschlagen werden, die in diesen Bereichen Doktoratsstudien durchführen. Die Mitglieder der Kommission dürfen kein Amt, keine Beteiligung und keine Vergütung von einem Entwickler oder Betreiber innehaben und dürfen zu den Bewerbern keine Beziehungen haben, die die Unvereinbarkeit nach sich ziehen. Die Zusammensetzung der Kommission und die Ergebnisse des Wettbewerbs werden auf der Internetseite der ANCOM veröffentlicht.
(3) Das Fachpersonal der Behörde wird nach dem Vergütungssystem der ANCOM auf einem Niveau vergütet, das mit dem im privaten Sektor für gleichwertige Funktionen üblichen wettbewerbsfähig ist und das jährlich von dem Präsidenten der ANCOM mit Stellungnahme des Vizepräsidenten für die Sicherheit der künstlichen Intelligenz auf der Grundlage einer veröffentlichten Marktstudie festgelegt wird.
(4) Das Personal der Behörde unterliegt den in Artikel 31 Absatz (3) vorgesehenen Pflichten der Vertraulichkeit und Unvereinbarkeiten, während der Dauer der Dienstverhältnisse und für die Dauer von 2 Jahren nach deren Beendigung.
(5) Die Behörde wird aus dem Haushalt der ANCOM, durch gesonderte Zuweisung, die jährlich genehmigt und getrennt ausgewiesen wird, sowie aus den durch die methodologischen Normen im Verhältnis zu den Kosten der erbrachten Dienstleistung festgelegten Gebühren für die Meldung, die Bewertung und die Genehmigung finanziert. Die nach diesem Gesetz verhängten Geldbußen fließen dem Staatshaushalt zu und dürfen die Mittel der Behörde nicht bestimmen. Die in Artikel 32 Absatz (1) Buchstabe j) vorgesehene Forschung wird durch eine gesonderte Haushaltszuweisung finanziert, ohne Bezug zu den verhängten Sanktionen. Der anfängliche Haushalt der Behörde, einschließlich des erforderlichen Personals und der erforderlichen Infrastruktur, wird von der ANCOM vor der Vereinnahmung der Gebühren sichergestellt.
Artikel 34 → die Gründe
(1) Bei der Behörde besteht ein beratender wissenschaftlicher Rat, der aus 9 Mitgliedern besteht, Forschern mit anerkannter Tätigkeit auf diesem Gebiet, von denen mindestens 3 aus dem Ausland kommen, der die Standards der Bewertung, die Bewertungsmethoden und die Signifikanzniveaus der kritischen Fähigkeiten sowie die Vorschläge zur Anpassung der Schwellen begutachtet und abweichende Stellungnahmen veröffentlicht, wenn er die Position der Behörde nicht teilt.
(2) Die Mitglieder des Wissenschaftlichen Rates werden von dem Vizepräsidenten für die Sicherheit der künstlichen Intelligenz auf Vorschlag der Rumänischen Akademie und der Hochschuleinrichtungen, die in diesem Bereich Doktoratsstudien durchführen, für eine Amtszeit von 4 Jahren ernannt, die einmal erneuert werden kann; sie unterliegen den in Artikel 31 Absatz (3) vorgesehenen Unvereinbarkeiten und können nur bei festgestellter Unvereinbarkeit oder bei ungerechtfertigter Nichtteilnahme an den Arbeiten abberufen werden. Der Rat nimmt die Stellungnahmen mit der Mehrheit der Mitglieder an.
(3) Die Stellungnahme des Wissenschaftlichen Rates ist beratend; weicht die Behörde von ihr ab, so begründet sie dies. Der Zugang der Mitglieder zu geschützten Informationen erfolgt unter den gesetzlichen Bedingungen, und die abweichenden Stellungnahmen werden in Fassungen veröffentlicht, die die sensiblen Informationen schützen und das wissenschaftliche Argument bewahren.
KAPITEL VII
Die Haftung
Abschnitt 1. Die zivilrechtliche Haftung
Artikel 35 → die Gründe
(1) Der Entwickler und der Betreiber haften gesamtschuldnerisch und unabhängig von jedem Verschulden für die Schäden jeder Art, die von einem Spitzensystem verursacht werden, einschließlich für diejenigen, die durch autonome Handlungen des Systems, durch seine Verwendung durch Dritte oder durch die Exfiltration der Gewichte entstanden sind, wobei die Bestimmungen des Artikels 1376 des Zivilgesetzbuches entsprechend gelten. Der Geschädigte weist den Schaden und den ursächlichen Zusammenhang zwischen diesem und dem Betrieb des Systems nach; das Gericht kann den Zugang zu den Protokollen und zur einschlägigen Dokumentation anordnen, unter Schutz der vertraulichen Informationen, und legt der Entwickler oder der Betreiber die Protokolle nicht vor, zu deren Aufbewahrung er verpflichtet war, so wird der ursächliche Zusammenhang bis zum Beweis des Gegenteils vermutet. Im Verhältnis zueinander haften der Entwickler und der Betreiber im Verhältnis zu dem Beitrag jedes Einzelnen zur Entstehung des Schadens, und die Person, die das System wesentlich verändert hat, haftet als Entwickler für die durch die Änderung verursachten Schäden.
(2) Die Befreiung von der Haftung kann nur für den Schaden geltend gemacht werden, der ausschließlich durch die Handlung des Geschädigten oder durch einen dem System externen Fall höherer Gewalt verursacht wurde. Keine höhere Gewalt stellen das unvorhersehbare Verhalten des Systems, der Irrtum bei der Bewertung, die Handlung eines Dritten, der Zugang zum System oder zu den Gewichten erlangt hat, und auch nicht das Fehlen wissenschaftlicher Erkenntnisse zum Zeitpunkt der Inbetriebnahme dar.
(3) Nichtig sind die Klauseln der Beschränkung oder des Ausschlusses der Haftung gegenüber den Geschädigten. Die Klauseln der Beschränkung zwischen Gewerbetreibenden sind nur hinsichtlich ihrer eigenen Rechtsverhältnisse und ihrer eigenen Vermögensschäden wirksam und dürfen weder die Rechte der Geschädigten noch die in Artikel 36 vorgesehene Deckung beeinträchtigen.
(4) Der Anspruch verjährt in 10 Jahren von dem Tag an, an dem der Geschädigte den Schaden und die verantwortliche Person gekannt hat oder hätte kennen müssen, jedoch nicht später als 30 Jahre nach der Begehung der Handlung; bei einer Dauerhandlung beginnt die Frist mit deren Beendigung.
(5) Dieser Artikel begründet einen eigenständigen Haftungsgrund, der auf dem durch die Entwicklung und den Betrieb des Systems geschaffenen Risiko beruht, und ändert nicht das harmonisierte Regime der Haftung für fehlerhafte Produkte; er lässt das Recht des Geschädigten unberührt, den Ersatz des Schadens aufgrund dieses Regimes oder aufgrund anderer gesetzlich vorgesehener Grundlagen zu erlangen, ohne dass derselbe Schaden jedoch zweimal ersetzt werden kann. Soweit der in Absatz (2) vorgesehene Ausschluss betreffend das Fehlen wissenschaftlicher Erkenntnisse in den Anwendungsbereich der Richtlinie (EU) 2024/2853 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 fällt, erfüllt die Regierung die in Artikel 18 der Richtlinie vorgesehenen Formalitäten.
Artikel 36 → die Gründe
(1) Der Entwickler und der Betreiber eines Spitzensystems schließen eine Haftpflichtversicherung ab und halten sie aufrecht oder stellen eine finanzielle Sicherheit in dem durch die methodologischen Normen festgelegten Mindestbetrag, nach Kategorien von Systemen unterschieden, der nicht unter dem Gegenwert in Lei von 100 Millionen Euro für die Systeme der Kategorie I und von 1 Milliarde Euro für die Systeme der Kategorie II liegen darf, für jedes Ereignis, mit einer jährlichen Gesamtobergrenze von mindestens dem Doppelten dieser Beträge; nach Erschöpfung der Deckung wird diese innerhalb von 30 Tagen wiederhergestellt. Stellt die Behörde nach Konsultation der Finanzaufsichtsbehörde durch einen öffentlichen Bericht die Nichtverfügbarkeit der Deckung auf dem Markt unter den Bedingungen dieses Gesetzes fest, so kann die Regierung durch die methodologischen Normen niedrigere Beträge festlegen, die nicht unter ein Fünftel der vorgesehenen Beträge fallen dürfen, sowie alternative Garantiemechanismen, einschließlich Gruppengarantien, Bankgarantien oder eines von den Entwicklern und Betreibern finanzierten Garantiefonds.
(2) Die finanzielle Sicherheit wird durch einen Bankgarantiebrief, eine Kaution oder eine von einer zugelassenen Finanzinstitution ausgestellte Garantie gestellt, die auf Antrag des Geschädigten aufgrund eines rechtskräftigen gerichtlichen Urteils oder eines Vergleichs vollstreckbar ist. Der Geschädigte hat einen Direktanspruch gegen den Versicherer oder gegebenenfalls gegen den Aussteller der Garantie.
Abschnitt 2. Die Haftung für Ordnungswidrigkeiten
Artikel 37 → die Gründe
(1) Die folgenden Handlungen stellen Ordnungswidrigkeiten dar, sofern sie nicht unter solchen Bedingungen begangen wurden, dass sie nach dem Gesetz als Straftaten anzusehen sind:
a) die Nichterfüllung der in Artikel 7 und Artikel 10 Absatz (2) vorgesehenen Meldepflicht oder die Übermittlung unvollständiger Informationen, mit einer Geldbuße von 1 % bis 3 % des gesamten weltweiten Umsatzes des vorangegangenen Geschäftsjahres;
b) die Nichteinhaltung des Sicherheitsplans, der Pflichten der Trennung der Funktionen, der Protokollierung, der Sicherstellung und der Überprüfung der Verständlichkeit, die in Artikel 16 Absätze (1)–(5) vorgesehen sind, der Aufrechterhaltung und der Prüfung der Abschaltfähigkeit, die in Artikel 14 Absätze (1), (5) und (6) vorgesehen sind, mit Ausnahme der Handlungen, die unter Artikel 28 fallen, der Benennung der für die menschliche Aufsicht verantwortlichen Personen, die in Artikel 14 Absatz (3) vorgesehen ist, oder der Meldung der Vorfälle, mit einer Geldbuße von 2 % bis 5 % des weltweiten Umsatzes;
c) die Nichteinhaltung der Bedingungen der Genehmigung, der Standards der Sicherheit der Gewichte oder der Pflichten der Anbieter von Recheninfrastruktur, mit einer Geldbuße von 3 % bis 7 % des weltweiten Umsatzes;
d) die Verletzung der in Artikel 12 Absatz (2), Artikel 14 Absatz (2), Artikel 15, Artikel 16 Absatz (6) und den Artikeln 25–29 vorgesehenen Verbote, mit einer Geldbuße von 5 % bis 10 % des weltweiten Umsatzes;
e) die Nichteinhaltung der in Artikel 17 Absätze (1), (2) und (4) vorgesehenen Pflichten der Kennzeichnung oder die Verletzung des in Artikel 17 Absatz (3) vorgesehenen Verbots, mit einer Geldbuße von 2 % bis 5 % des weltweiten Umsatzes; für Handlungen, die Verletzungen des Artikels 50 der KI-Verordnung darstellen, wird die Geldbuße innerhalb der in Artikel 99 Absatz (4) der Verordnung vorgesehenen Grenzen verhängt;
f) die Nichterfüllung der in Artikel 18 vorgesehenen Informationspflicht oder der in Artikel 19 vorgesehenen Pflichten betreffend den Beauftragten für die Einhaltung der Vorschriften, mit einer Geldbuße von 1 % bis 3 % des weltweiten Umsatzes.
(2) Für die juristischen Personen, die keinen Umsatz erzielt haben, beträgt die Geldbuße von 100.000 Lei bis 10.000.000 Lei, und für die natürlichen Personen von 10.000 Lei bis 1.000.000 Lei. Für die in Absatz (1) Buchstaben e) und f) vorgesehenen Ordnungswidrigkeiten, die von Personen begangen werden, die nicht die Eigenschaft eines Entwicklers oder eines Betreibers eines Spitzensystems haben, beträgt die Geldbuße von 20.000 Lei bis 1.000.000 Lei für die juristischen Personen und von 5.000 Lei bis 200.000 Lei für die natürlichen Personen.
(3) Die Sanktion der Geldbuße kann mit den ergänzenden Sanktionen der Aussetzung oder des Widerrufs der Genehmigung, des Verbots der Ausübung der Tätigkeit der Entwicklung für einen Zeitraum von bis zu 5 Jahren, der Einziehung der Gewichte und der Veröffentlichung der Entscheidung verbunden werden, verhängt im Verhältnis zur Schwere der Handlung; die eingezogenen Gewichte werden von der Behörde unter den Bedingungen des Artikels 12 aufbewahrt.
(4) Auf die in diesem Gesetz vorgesehenen Ordnungswidrigkeiten sind die Bestimmungen der Verordnung der Regierung Nr. 2/2001 über die Rechtsordnung der Ordnungswidrigkeiten, mit Änderungen und Ergänzungen durch das Gesetz Nr. 180/2002 gebilligt, mit den nachfolgenden Änderungen und Ergänzungen, anwendbar. Abweichend von Artikel 28 der Verordnung der Regierung Nr. 2/2001 kann der Betroffene nicht die Hälfte des Mindestbetrags der Geldbuße entrichten. Abweichend von Artikel 13 Absatz (1) derselben Verordnung verjährt die Verhängung der Sanktion in 5 Jahren von dem Tag der Begehung der Handlung an.
(5) Bei der Bemessung der Sanktion werden die Schwere und das Ausmaß der Handlung, die geschaffene Gefahr, die tatsächliche Kontrolle der Person über die Handlung, die Zusammenarbeit mit der Behörde und die Abhilfe berücksichtigt. Der weltweite Umsatz ist derjenige, den der Zuwiderhandelnde im vorangegangenen Geschäftsjahr erzielt hat, und, wenn dieser einem Konzern angehört, der von dem Konzern insgesamt erzielte Umsatz. Für dieselbe Handlung dürfen nicht zwei Sanktionen aufgrund dieses Gesetzes und der KI-Verordnung verhängt werden; für die Behörden und die öffentlichen Einrichtungen wird die Geldbuße gegen die verantwortliche natürliche Person innerhalb der in Absatz (2) vorgesehenen Grenzen verhängt.
Abschnitt 3. Die Beendigung der Erbringung der Dienstleistungen und die Sperrung des Zugangs
Artikel 38 → die Gründe
(1) Der Betreiber, der den Personen im Hoheitsgebiet Rumäniens den Zugang zu einem Spitzensystem anbietet, ohne die Bestimmungen dieses Gesetzes einzuhalten, wird von der Behörde in Verzug gesetzt, unter Gewährung einer Abhilfefrist von mindestens 15 Tagen und mit der Möglichkeit, seinen Standpunkt darzulegen. Besteht die Nichtkonformität nach Ablauf der Frist fort oder besteht sie in einem schweren Risiko, das innerhalb dieser Frist nicht behoben werden kann, so stellt die Behörde die Nichtkonformität durch begründete Entscheidung fest, und der Betreiber ist verpflichtet, die Erbringung der Dienstleistung gegenüber diesen Personen innerhalb von 15 Tagen nach der Mitteilung der Entscheidung zu beenden. Bei unmittelbarer Gefahr für das Leben, für die Gesundheit oder für die menschliche Kontrolle über das System wird keine Abhilfefrist gewährt, wobei die Entscheidung auch hinsichtlich der Dringlichkeit begründet wird.
(2) Die in Absatz (1) vorgesehene Entscheidung wird auf der Internetseite der Behörde, in der Liste der nicht konformen Betreiber, unter Angabe der Dienstleistung, des Betreibers und der verletzten Bestimmungen veröffentlicht und den Anbietern elektronischer Kommunikationsnetze und -dienste mitgeteilt.
(3) Die Fortsetzung der Erbringung der Dienstleistung nach dem Ablauf der in Absatz (1) vorgesehenen Frist stellt eine Ordnungswidrigkeit dar und wird mit einer Geldbuße von dem Gegenwert in Lei des Betrages von 100.000 Euro bis zu dem Gegenwert in Lei des Betrages von 10.000.000 Euro für jeden Monat der Fortsetzung der Erbringung geahndet, wobei Teilmonate anteilig berechnet werden, festgelegt nach der Dauer, der Zahl der betroffenen Personen und der Schwere der Nichtkonformität, ohne dass die Summe der für dieselbe Nichtkonformität verhängten Geldbußen 5 % des jährlichen weltweiten Umsatzes übersteigen darf; die Geldbuße wird gesondert von der Sanktion für die ursprüngliche Verletzung verhängt.
(4) Der Betreiber wird durch Entscheidung der Behörde aus der Liste der nicht konformen Betreiber gestrichen, die innerhalb von 10 Tagen nach Vorlage des Nachweises der Konformität erlassen und den die Sperrung ausführenden Anbietern unverzüglich mitgeteilt wird; die Verweigerung oder die Verzögerung der Streichung kann nach Artikel 39 Absatz (5) angefochten werden.
(5) Die Bestimmungen dieses Artikels gelten auch für den Entwickler, der den Personen im Hoheitsgebiet Rumäniens unmittelbar den Zugang zu einem Spitzensystem anbietet.
Artikel 39 → die Gründe
(1) Bis zur Herstellung der Konformität kann die Behörde durch begründete Entscheidung die Sperrung des Zugangs von dem Hoheitsgebiet Rumäniens aus zu der in die Liste der nicht konformen Betreiber eingetragenen Dienstleistung anordnen, nur wenn weniger einschränkende Maßnahmen nicht zur Konformität geführt haben oder angesichts der Schwere des Risikos offensichtlich unzureichend sind. Die Entscheidung prüft die Erforderlichkeit und die Verhältnismäßigkeit der Maßnahme, vermeidet die Beeinträchtigung anderer auf derselben Infrastruktur gehosteter Dienstleistungen und wird von Amts wegen alle 90 Tage überprüft; die Nutzer werden durch eine Weiterleitungsseite über den Grund der Maßnahme und den Rechtsbehelf unterrichtet.
(2) Die Entscheidung über die Sperrung wird den Anbietern elektronischer Kommunikationsnetze und -dienste mitgeteilt, die sie innerhalb von 48 Stunden nach der Mitteilung ausführen.
(3) Die Sperrung betrifft ausschließlich die nicht konforme Dienstleistung, wird für die Dauer der Eintragung in die Liste der nicht konformen Betreiber aufrechterhalten und endet von Rechts wegen am Tag der Streichung.
(4) Für die aus einem anderen Mitgliedstaat der Europäischen Union erbrachten Dienstleistungen wird die Maßnahme nur individuell, für eine bestimmte Dienstleistung, wegen der Verletzung einer für den Schutz der öffentlichen Ordnung, der öffentlichen Sicherheit oder der öffentlichen Gesundheit erforderlichen Pflicht angeordnet, unter Einhaltung des in dem Gesetz Nr. 365/2002 über den elektronischen Geschäftsverkehr, neu veröffentlicht, mit den nachfolgenden Änderungen und Ergänzungen, vorgesehenen Verfahrens der Aufforderung des Herkunftsmitgliedstaats und der Notifizierung der Europäischen Kommission für die Beschränkung des freien Verkehrs der Dienste der Informationsgesellschaft.
(5) Die Entscheidung über die Sperrung kann innerhalb von 30 Tagen nach der Mitteilung bei dem Berufungsgericht Bukarest, Abteilung für Verwaltungs- und Steuerstreitigkeiten, angefochten werden, das eilig und vorrangig entscheidet; die Anfechtung setzt die Vollstreckung nicht von Rechts wegen aus. Die betroffene Person kann bei dem Gericht die vorläufige Aussetzung der Maßnahme beantragen, wobei über den Antrag eilig, innerhalb von höchstens 10 Tagen, unter Prüfung der Gefahr für die Sicherheit und des durch die Aufrechterhaltung der Maßnahme verursachten Schadens entschieden wird. Das Urteil kann innerhalb von 15 Tagen nach der Mitteilung mit der Revision bei dem Obersten Kassations- und Gerichtshof angefochten werden.
(6) Die Anbieter elektronischer Kommunikationsnetze und -dienste haften nicht für die durch die ordnungsgemäße und in gutem Glauben erfolgte Ausführung der Entscheidung über die Sperrung verursachten Schäden; sie haften für die durch ihr Verschulden verursachte übermäßige Sperrung.
Abschnitt 4. Die strafrechtliche Haftung
Artikel 40 → die Gründe
(1) Die Inbetriebnahme eines Spitzensystems ohne die in Artikel 9 vorgesehene Genehmigung oder nach deren Aussetzung oder Widerruf sowie die Fortsetzung des Betriebs nach der Mitteilung der Anordnung der Abschaltung oder des Rückzugs werden mit Freiheitsstrafe von 2 bis 7 Jahren und dem Verbot der Ausübung bestimmter Rechte bestraft. Keine Straftat stellt die Nutzung, als Endnutzer, eines von einem anderen zur Verfügung gestellten Systems dar.
(2) Hat die Handlung zur Folge gehabt, dass sich außerhalb einer nach Artikel 15 Absatz (2) genehmigten Bewertung in einer isolierten Umgebung eine der in Artikel 5 Absatz (2) Buchstaben c)–e) vorgesehenen kritischen Fähigkeiten manifestiert oder eines der in Artikel 5 Absatz (2) Buchstaben a) oder b) vorgesehenen Ergebnisse eingetreten ist, so ist die Strafe Freiheitsstrafe von 5 bis 12 Jahren und das Verbot der Ausübung bestimmter Rechte. Die Folge wird unter den Bedingungen des Artikels 16 Absatz (4) des Strafgesetzbuches zugerechnet.
Artikel 41 → die Gründe
(1) Die wissentliche Vorlage falscher oder in irreführender Weise unvollständiger Daten, Ergebnisse oder Erklärungen betreffend wesentliche Elemente der Fähigkeiten, des Rechenvolumens, der Sicherheit der Gewichte, der Abschaltfähigkeit und der Ergebnisse ihrer Prüfung oder der Vorfälle eines Spitzensystems bei der Behörde oder bei einer Bewertungsstelle sowie die Konfiguration des Systems mit dem Ziel, die Bewerter über die bewertete Konfiguration oder die tatsächlichen Fähigkeiten irrezuführen, werden mit Freiheitsstrafe von 3 bis 10 Jahren und dem Verbot der Ausübung bestimmter Rechte bestraft.
(2) Die Behinderung, in jeglicher Weise, des innerhalb der Grenzen seiner Zuständigkeit und auf der Grundlage eines schriftlichen Ersuchens ausgeübten Zugangs der Behörde zum System, zu den Gewichten, zu den Protokollen oder zum Personal sowie die Zerstörung, die Veränderung oder die Verbergung der Protokolle werden mit Freiheitsstrafe von 1 bis 5 Jahren bestraft. Keine Straftat stellt die Verweigerung dar, die auf dem Fehlen der Zuständigkeit der Behörde oder auf dem Schutz des Berufsgeheimnisses des Rechtsanwalts oder eines anderen gesetzlich geschützten Geheimnisses beruht, worüber das Gericht entscheidet.
(3) Das Ergreifen einer der in dem Gesetz Nr. 361/2022 vorgesehenen Maßnahmen der Repressalien gegen einen Hinweisgeber im Zusammenhang mit einer nach Artikel 21 geschützten Meldung wird mit Freiheitsstrafe von 6 Monaten bis 3 Jahren oder mit Geldstrafe bestraft.
(4) Keine in Absatz (1) vorgesehene Straftat stellen die als solche erklärte unsichere Schätzung, der unverzüglich nach seiner Erkennung berichtigte Irrtum sowie die Konfiguration des Systems im Rahmen eines mit dem Bewerter vereinbarten Tests dar.
Artikel 42 → die Gründe
(1) Das vorsätzliche Training, der vorsätzliche Entwurf oder der vorsätzliche Betrieb eines Systems unter den durch Artikel 15 Absatz (1), Artikel 25 Absatz (2) Satz 1 und Absatz (3), Artikel 28 Satz 1 oder Artikel 29 Satz 1 verbotenen Bedingungen werden mit Freiheitsstrafe von 3 bis 10 Jahren und dem Verbot der Ausübung bestimmter Rechte bestraft.
(2) Die Offenlegung, die Übermittlung oder die Zurverfügungstellung, ohne Berechtigung, der Gewichte eines Spitzensystems der Kategorie II oder III wird mit Freiheitsstrafe von 5 bis 15 Jahren und dem Verbot der Ausübung bestimmter Rechte bestraft. Keine Straftat stellen die nach Artikel 12 Absatz (2) erlaubten Übermittlungen und die nach Artikel 21 Absatz (5) geschützten Mitteilungen dar.
(3) Haben die in den Absätzen (1) oder (2) vorgesehenen Handlungen den Tod oder die schwere Körperverletzung einer oder mehrerer Personen oder den Verlust der menschlichen Kontrolle über das System für eine Dauer zur Folge gehabt, die das menschliche Eingreifen unmöglich gemacht hat, gefolgt von autonomen Handlungen des Systems mit Folgen für Personen, für die physische Umwelt oder für kritische Infrastruktur, so ist die Strafe Freiheitsstrafe von 10 bis 20 Jahren und das Verbot der Ausübung bestimmter Rechte. Besteht die Folge in einem besonders schweren Vermögensschaden oder in einem vorübergehenden Verlust der menschlichen Kontrolle, ohne die in Satz 1 vorgesehenen Folgen, so ist die Strafe Freiheitsstrafe von 7 bis 15 Jahren und das Verbot der Ausübung bestimmter Rechte. Die Folgen werden unter den Bedingungen des Artikels 16 Absatz (4) des Strafgesetzbuches zugerechnet.
Artikel 43 → die Gründe
(1) Der Zugriff einer natürlichen Person, zu persönlichen Zwecken, auf eine in die Liste der nicht konformen Betreiber eingetragene Dienstleistung, einschließlich durch Umgehung der nach Artikel 39 angeordneten Maßnahme der Sperrung, stellt keine Straftat und keine Ordnungswidrigkeit dar und kann keine Sanktion oder einschränkende Maßnahme gegen diese Person nach sich ziehen wegen der Nichtkonformität der Dienstleistung. Die Haftung für die Nichtkonformität trifft ausschließlich den Betreiber und den Entwickler. Diese Garantie beseitigt nicht die Haftung für gesondert gesetzlich vorgesehene Handlungen, die durch die Nutzung der Dienstleistung begangen werden.
(2) Die Bestimmungen der Artikel 38 und 39 dürfen nicht dahin ausgelegt werden, dass sie irgendeine Pflicht zulasten der Nutzer begründen oder deren Rechte von Bedingungen abhängig machen.
(3) Die in Absatz (1) vorgesehene Garantie kommt auch dem gewerblichen Endnutzer zugute, der nicht Betreiber ist und die Dienstleistung nicht anderen Personen zur Verfügung stellt.
Artikel 44 → die Gründe
(1) Die in diesem Abschnitt vorgesehenen Straftaten werden den natürlichen Personen zur Last gelegt, die die Begehung der Handlungen angeordnet oder gebilligt haben, sowie den Personen, die trotz der Rechtspflicht und der tatsächlichen Möglichkeit, sie zu verhindern, deren Begehung wissentlich geduldet haben, mit individueller Feststellung der Schuldform nach dem Strafgesetzbuch, unabhängig von ihrer Eigenschaft als Verwalter, Direktoren, Gesellschafter oder Arbeitnehmer und unabhängig von der strafrechtlichen Verantwortlichkeit der juristischen Person, die unter den Bedingungen des Artikels 135 des Strafgesetzbuches begründet wird.
(2) Keinen Grund für die Straffreiheit stellt der Umstand dar, dass die Handlung in Ausführung eines Beschlusses der Leitungsorgane, einer Anordnung oder einer vertraglichen Anweisung begangen wurde; die Bestimmungen des Strafgesetzbuches über die Rechtfertigungsgründe und die Gründe des Ausschlusses der Vorwerfbarkeit bleiben anwendbar.
Artikel 45 → die Gründe
(1) Die Strafverfolgung wegen der in den Artikeln 40–42 vorgesehenen Straftaten wird zwingend von dem Staatsanwalt im Rahmen der Direktion für die Untersuchung der Straftaten der organisierten Kriminalität und des Terrorismus geführt, und die Entscheidung in erster Instanz obliegt dem Landgericht.
(2) In dringenden Fällen kann der Staatsanwalt durch begründete Verfügung als vorläufige Maßnahme für höchstens 30 Tage die Abschaltung des Systems, die Versiegelung der Recheninfrastruktur und die Unverfügbarmachung der Gewichte anordnen, mit Bestätigung durch den Richter für Rechte und Freiheiten innerhalb von 48 Stunden, unter Androhung des von Rechts wegen eintretenden Endes der Maßnahme. Die Maßnahme wird auf die betroffene Rechenaufgabe und die betroffenen Gewichte beschränkt, wenn deren Isolierung ausreicht, wird unter Sicherung der Daten und unter Bewachung der Gewichte nach Artikel 12 ausgeführt, kann von der betroffenen Person und von betroffenen Dritten angefochten werden, wird alle 30 Tage überprüft und kann unter denselben Bedingungen verlängert werden.
(3) In Artikel 11 Absatz (1) der Dringlichkeitsverordnung der Regierung Nr. 78/2016 über die Organisation und die Funktionsweise der Direktion für die Untersuchung der Straftaten der organisierten Kriminalität und des Terrorismus sowie über die Änderung und Ergänzung einiger Rechtsakte, veröffentlicht im Amtsblatt Rumäniens, Teil I, Nr. 938 vom 22. November 2016, mit Änderungen durch das Gesetz Nr. 120/2018 gebilligt, mit den nachfolgenden Änderungen und Ergänzungen, wird nach dem letzten Punkt ein neuer Punkt mit folgendem Wortlaut eingefügt: „die in den Artikeln 40–42 des Gesetzes über die sichere Entwicklung von Spitzensystemen der künstlichen Intelligenz und die Verhütung katastrophaler Risiken für den rumänischen Bürger vorgesehenen Straftaten”.
KAPITEL VIII
Internationale Zusammenarbeit. Übergangs- und Schlussbestimmungen
Artikel 46 → die Gründe
(1) Die Regierung fördert im Rahmen der Institutionen der Europäischen Union die Annahme eines Regimes der vorherigen Genehmigung der Spitzensysteme, das dem in diesem Gesetz vorgesehenen gleichwertig ist, sowie die Einrichtung einer gemeinsamen europäischen Kapazität der Bewertung.
(2) Die Regierung wirkt im Rahmen der Organisation der Vereinten Nationen, des Europarats, der Organisation des Nordatlantikvertrags und anderer internationaler Organisationen auf die Aushandlung eines internationalen Vertrages über die Begrenzung und die Überprüfung der Spitzenrechenkapazitäten, über das Verbot der letalen autonomen Waffensysteme und über das Verbot der Entwicklung der Systeme der Kategorie III hin und legt dem Parlament jährlich den Stand dieser Bemühungen vor.
(3) Die Behörde kann innerhalb der Grenzen ihrer Zuständigkeit und unter deren Veröffentlichung Abkommen über die gegenseitige Anerkennung der Bewertungen mit den zuständigen Behörden anderer Staaten schließen, die gleichwertige Standards anwenden; die Abkommen dürfen nicht von diesem Gesetz oder von dem Recht der Europäischen Union abweichen.
Artikel 47 → die Gründe
Die Regierung legt dem Parlament alle 2 Jahre ab dem Inkrafttreten, auf der Grundlage des Berichts der Behörde und der Stellungnahme des Wissenschaftlichen Rates, einen Bericht über die Angemessenheit dieses Gesetzes im Verhältnis zum Stand der Technik vor, gegebenenfalls begleitet von Änderungsvorschlägen. Der Bericht bewertet, auf der Grundlage einer veröffentlichten Methodik, die Wirksamkeit des Schutzes, die Vorfälle, die Kosten, den Zugang zu Dienstleistungen, die unerwünschten Wirkungen und die Verhältnismäßigkeit jeder Maßnahme, kann die Einschränkung einer als unwirksam festgestellten Maßnahme vorschlagen und enthält die abweichenden wissenschaftlichen Meinungen. Das Fehlen einer validierten wissenschaftlichen Methode der Kontrolle der Spitzensysteme kann für sich allein nicht als Grund für eine Lockerung des durch dieses Gesetz eingeführten Regimes geltend gemacht werden.
Artikel 48 → die Gründe
(1) Die Entwickler und die Betreiber der Spitzensysteme, die am Tag des Inkrafttretens dieses Gesetzes im Hoheitsgebiet Rumäniens in Betrieb sind oder den Personen im Hoheitsgebiet Rumäniens zur Verfügung gestellt werden, stellen innerhalb von 90 Tagen ab dem Tag des Inkrafttretens die Konformität mit dessen Bestimmungen her, die nicht von den methodologischen Normen abhängen, und mit den übrigen Bestimmungen innerhalb der in den Absätzen (2), (4) und (5) vorgesehenen Fristen.
(2) Innerhalb von 60 Tagen ab dem Tag des Inkrafttretens dieses Gesetzes melden die Entwickler und die Betreiber der Behörde die in Betrieb befindlichen Systeme. Der in Artikel 9 vorgesehene Antrag auf Genehmigung wird innerhalb von 90 Tagen ab dem Tag des Inkrafttretens der in Artikel 49 Absatz (2) vorgesehenen methodologischen Normen gestellt. Die gemeldeten Systeme können bis zur Entscheidung der Behörde in Betrieb gehalten werden, jedoch nicht länger als 12 Monate ab dem Tag des Inkrafttretens dieses Gesetzes, unter der Bedingung der Einhaltung der in den Kapiteln IV und V vorgesehenen unmittelbar anwendbaren Verbote und Garantien; diese Frist verlängert sich von Rechts wegen um die Dauer, um die der Erlass der methodologischen Normen oder die Erledigung des Antrags die in diesem Gesetz vorgesehenen Fristen überschreitet, wobei der sorgfältige Antragsteller nicht für die Verzögerung der Institutionen sanktioniert werden darf und die Behörde begründet zusätzliche Sicherheitsbedingungen für die Dauer der Verlängerung anordnen kann.
(3) Die Bestimmungen der Artikel 38 und 39 gelten nach dem Ablauf der in Absatz (1) vorgesehenen Frist. Keine Straftat im Sinne des Artikels 40 Absatz (1) stellt die Fortsetzung des Betriebs eines nach Absatz (2) gemeldeten Systems dar, für die Dauer, in der dies durch denselben Absatz gestattet ist, sowie während der Erledigung des fristgerecht gestellten Antrags auf Genehmigung; die Bestimmungen der Artikel 40–42 gelten jedoch ab dem Tag ihres Inkrafttretens für jede andere Handlung, einschließlich der Inbetriebnahme eines nicht gemeldeten Systems oder der Fortsetzung des Betriebs nach der Ablehnung des Antrags, nach dem Ablauf der in Absatz (2) vorgesehenen Frist oder nach der Mitteilung einer Anordnung der Abschaltung.
(4) Die in Artikel 17 Absatz (1) Buchstabe a), Artikel 18 und Artikel 19 vorgesehenen Pflichten sowie die in Artikel 17 Absatz (4) vorgesehene Pflicht, soweit sie die wahrnehmbare Kennzeichnung und den ausdrücklichen Hinweis auf die Erzeugung betrifft, werden innerhalb von 90 Tagen ab dem Tag des Inkrafttretens dieses Gesetzes erfüllt; innerhalb derselben Frist wird der in Artikel 19 vorgesehene Beauftragte für die Einhaltung der Vorschriften benannt und der Behörde gemeldet. Die Pflichten betreffend die eingebettete technische Kennzeichnung, die in Artikel 17 Absatz (1) Buchstabe b) und Absatz (2) vorgesehen sind, sowie die in Artikel 17 Absatz (4) vorgesehene Pflicht, soweit sie diese Kennzeichnung betrifft, werden innerhalb von 90 Tagen ab dem Tag des Inkrafttretens der methodologischen Normen erfüllt. Die in Artikel 37 Absatz (1) Buchstaben e) und f) vorgesehenen Ordnungswidrigkeiten werden nach dem Ablauf der für jede Pflicht geltenden Frist festgestellt.
(5) Die Pflichten, deren Erfüllung von den Standards, Verfahren, Schwellen oder Beträgen abhängt, die durch die in Artikel 49 Absatz (2) vorgesehenen methodologischen Normen festgelegt werden, werden 90 Tage ab dem Tag des Inkrafttretens dieser Normen fällig; bis zu diesem Tag werden die entsprechenden Ordnungswidrigkeiten nicht festgestellt. Die in diesem Gesetz vorgesehenen Verbote, die Pflichten zur Aufrechterhaltung und zur Prüfung der Abschaltfähigkeit, zur Protokollierung und zur Meldung schwerwiegender Vorfälle sowie die übrigen Pflichten, die ohne die methodologischen Normen erfüllt werden können, gelten ab dem Tag des Inkrafttretens dieses Gesetzes, innerhalb der in den Absätzen (1)–(4) vorgesehenen Fristen.
(6) Bis zur Ernennung des Vizepräsidenten für die Sicherheit der künstlichen Intelligenz werden die Aufgaben der Behörde, einschließlich der in Artikel 32 Absatz (1) Buchstabe c) vorgesehenen dringenden Maßnahmen, von dem Präsidenten der ANCOM ausgeübt, der hierfür unter den Bedingungen dieses Gesetzes verantwortlich ist.
Artikel 49 → die Gründe
(1) Innerhalb von 60 Tagen ab dem Tag der Veröffentlichung dieses Gesetzes im Amtsblatt Rumäniens, Teil I, ernennt das Parlament den Vizepräsidenten für die Sicherheit der künstlichen Intelligenz, und die ANCOM ergänzt ihre Organisationsstruktur und ihre Organisations- und Funktionsordnung um die Behörde, durch Entscheidung des Präsidenten der ANCOM, die im Amtsblatt Rumäniens, Teil I, veröffentlicht wird.
(2) Innerhalb von 120 Tagen ab dem Tag der Veröffentlichung dieses Gesetzes im Amtsblatt Rumäniens, Teil I, erlässt die Regierung auf Vorschlag der Behörde, mit Stellungnahme des Wissenschaftlichen Rates und nach einer öffentlichen Konsultation von mindestens 30 Tagen, die methodologischen Normen über das Verfahren der Meldung und der Genehmigung, das vereinfachte Anerkennungsverfahren, die Standards der Bewertung, der Sicherheit der Gewichte und der Abschaltfähigkeit, die Bedingungen der isolierten Umgebung, die Standards der in Artikel 17 vorgesehenen Herkunftskennzeichnung, die Bewertungsmethoden und die Signifikanzniveaus der in Artikel 5 Absatz (2) vorgesehenen kritischen Fähigkeiten, die Schwelle für die Recheninfrastruktur mit großer Kapazität, das in Artikel 16 Absatz (5) vorgesehene Niveau, das in Artikel 14 Absätze (1) und (6) vorgesehene Prüfverfahren und die Dauer, die in Artikel 3 Absatz (1) Buchstabe bb) vorgesehenen Mindestanforderungen der Isolierung, die Höhe der in Artikel 31 Absatz (3) vorgesehenen Ausgleichsentschädigung, die Höhe der im Verhältnis zu den Kosten der Dienstleistung festgelegten Gebühren sowie die Höhe der in Artikel 36 vorgesehenen Versicherung oder finanziellen Sicherheit. Die Normen konkretisieren den durch dieses Gesetz festgelegten Rahmen und dürfen nicht den wesentlichen Inhalt der Pflichten, der Verbote und der Sanktionen festlegen; die Standards werden veröffentlicht.
(3) Bis zum Erlass der methodologischen Normen erfolgen die Bewertungen nach den in den aufgrund der KI-Verordnung angenommenen Verhaltenskodizes vorgesehenen Standards und nach wissenschaftlich anerkannten Methoden, und die Behörde veröffentlicht vorläufige Leitlinien.
Artikel 50 → die Gründe
Dieses Gesetz tritt 30 Tage nach dem Tag der Veröffentlichung im Amtsblatt Rumäniens, Teil I, in Kraft, mit Ausnahme der Artikel 40–42, 44 und 45, die 270 Tage nach dem Tag der Veröffentlichung in Kraft treten. Die Bestimmungen des Artikels 43 treten gleichzeitig mit diesem Gesetz in Kraft.
Dieses Gesetz wurde vom Parlament Rumäniens unter Einhaltung der Bestimmungen des Artikels 75 und des Artikels 76 Absatz (1) der Verfassung Rumäniens, neu veröffentlicht, verabschiedet.
DER PRÄSIDENT DER ABGEORDNETENKAMMER DER PRÄSIDENT DES SENATS
Kommentare zu diesem Text
Die Kommentare gehen in die Rubrik des Dokuments im souveränistischen Forum. Diskutiert wird am Text, mit Argumenten.
Die ganze Diskussion im Forum ansehen →