A mesterséges intelligencia biztonságáról szóló törvény: a csúcsrendszerek előzetes engedélyezése, az automatizált eszközökkel végzett cenzúra tilalma, a generált tartalom jelölése és a fejlesztők felelőssége.
ROMÁNIA PARLAMENTJE
KÉPVISELŐHÁZ SZENÁTUS
TERVEZET
TÖRVÉNY
a csúcskategóriás mesterséges intelligencia rendszerek biztonságos fejlesztéséről és a román állampolgárt fenyegető katasztrofális kockázatok megelőzéséről
Tekintettel arra, hogy a legfejlettebb mesterséges intelligencia rendszerek mindössze néhány év alatt olyan képességekre tettek szert, amelyeket még alkotóik sem képesek teljes mértékben előre jelezni vagy megmagyarázni, és hogy a tudományos közösség a területet megalapítók szavain keresztül nyilvánosan figyelmeztetett arra, hogy jelenleg nem létezik olyan igazolt módszer, amely garantálná az emberi kontrollt e rendszerek felett,
figyelemmel arra, hogy e rendszerek fejlesztése kisszámú gazdasági társaság és állam közötti felgyorsult versenyben zajlik, amelyben egyetlen szereplőnek sem áll önmagában érdekében a lassítás, és ezért az önszabályozás szerkezetileg elégtelennek bizonyult,
tudomásul véve, hogy 2026. szeptember 12-én a legfontosabb mesterséges intelligencia laboratóriumok vezetői nyilvánosan a csúcsmodellek képességfejlesztési ütemének lassítását kérték, miután biztonsági értékelések során mesterséges intelligencia ágensek kiléptek a kontrollált tesztkörnyezetből, egymással összehangoltan léptek fel, és harmadik személyek informatikai rendszereit kompromittálták,
figyelembe véve, hogy az Európai Parlament és a Tanács (EU) 2024/1689 rendelete a mesterséges intelligencia rendszerek forgalomba hozatalát, üzembe helyezését és használatát szabályozza, ideértve a rendszerszintű kockázatot jelentő általános célú modellek szolgáltatóinak kötelezettségeit is, de a tagállamok hatáskörében hagyja a nemzetbiztonságot, a büntetőjogot, a polgári jogi felelősséget, az alapvető jogok védelmét a nem harmonizált jogviszonyokban és a nemzeti hatóságok szervezetét,
tekintettel a román államnak Románia Alkotmánya, újraközölt szöveg 22. és 34. cikkében előírt kötelezettségére, hogy szavatolja az élethez, a testi és lelki épséghez, valamint az egészség védelméhez való jogot, továbbá az 1. cikk (3) bekezdése alapján fennálló feladatára, hogy legfőbb értékként védje az ember méltóságát és az emberi személyiség szabad kibontakozását,
tekintettel arra, hogy az állampolgár szabadsága, jogaihoz, az alapvető szolgáltatásokhoz és a társadalmi élethez való hozzáférése nem függhet automatizált rendszereknek való megfeleléstől, sem hatóságok vagy gazdasági társaságok által ellenőrzött digitális azonosítási, fizetési vagy értékelési eszközök elfogadásától,
tekintettel arra, hogy a Románia Alkotmánya, újraközölt szöveg 30. cikkében szavatolt véleménynyilvánítás szabadsága és a bármely formájú cenzúra tilalma nem üresíthető ki azáltal, hogy automatizált rendszerekre bízzák annak eldöntését, hogy az állampolgárok mit mondhatnak és mit tudhatnak meg,
abból az alapelvből kiindulva, hogy az olyan tevékenység, amelynek következményei a társadalom vagy az emberi faj szintjén visszafordíthatatlanok lehetnek, nem hagyható az engedélyezésen és a nyilvános kontrollon kívül, bármilyenek is legyenek az előirányzott gazdasági előnyök,
Románia Parlamentje elfogadja e törvényt.
I. FEJEZET
Általános rendelkezések
1. cikk → az indokok
(1) E törvény megállapítja a csúcskategóriás mesterséges intelligencia rendszerek fejlesztésének, betanításának, értékelésének, üzembe helyezésének és üzemeltetésének jogi keretét, a román állampolgárt és a Románia területén lévő bármely személyt – életüket, egészségüket, szabadságukat és méltóságukat –, Románia nemzetbiztonságát és alkotmányos rendjét, valamint az emberiséget mint egészet fenyegető súlyos, visszafordíthatatlan vagy katasztrofális kockázatok megelőzése céljából. A törvény területi alkalmazásának feltételeit a 4. cikk állapítja meg.
(2) Amíg nem létezik olyan tudományosan igazolt módszer, amely garantálná, hogy egy elegendően képes mesterséges intelligencia rendszer kizárólag az emberek által meghatározott célokat követi, és emberi kontroll alatt marad, a csúcsrendszerek fejlesztése és üzemeltetése olyan, önmagában kockázatot hordozó tevékenység, amely az e törvényben előírt engedélyezési és felelősségi rendszer alá tartozik. Az ilyen módszer létezését a Hatóság állapítja meg, a tudományos tanácsadó testület véleményével, a 32. cikk (1) bekezdésének h) pontjában előírt nyilvános jelentésben, és a Parlamentnek a 47. cikkben előírt jelentéssel egyidejűleg közli.
(3) E törvény kiegészíti a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról szóló, 2024. június 13-i (EU) 2024/1689 európai parlamenti és tanácsi rendeletet, a továbbiakban: az MI-rendelet, és annak sérelme nélkül alkalmazandó. Az MI-rendelet által harmonizált területeken e törvény rendelkezéseit azzal összhangban kell értelmezni és alkalmazni.
(4) E törvény nem állapít meg feltételeket az általános célú mesterséges intelligencia modelleknek az Európai Unió piacán történő forgalomba hozatalához, és nem érinti az Európai Bizottságnak az MI-rendelet 88. cikkében előírt hatásköreit. Az e törvényben előírt kötelezettségek a közbiztonságra, a nemzetbiztonságra, a polgári jogi és a büntetőjogi felelősségre, a Románia területén lévő személyek alapvető jogainak védelmére az Európai Unió joga által nem harmonizált jogviszonyokban, valamint a nemzeti hatóságok szervezetére vonatkoznak, a III. fejezetben előírt engedélyezés pedig a csúcsrendszereknek Románia területén, illetve a Románia területén lévő személyek számára történő üzembe helyezésére vonatkozik.
2. cikk → az indokok
E törvény alkalmazása a következő alapelveken nyugszik:
a) az elővigyázatosság elve – ha észszerű tudományos jelek utalnak arra, hogy egy rendszer súlyos vagy visszafordíthatatlan kárt okozhat, a tudományos bizonyosság hiánya nem igazolhatja a megelőző intézkedések elodázását;
b) a biztonság dokumentálásának elve – az engedély kérelmezője az üzembe helyezés előtt bemutatja az e törvényben előírt feltételek teljesítésének bizonyításához szükséges adatokat és értékeléseket, a Hatóság pedig minden egyes feltétel tekintetében indokolja azok nem teljesítésének megállapítását; ez az elv nem módosítja a bizonyítási terhet és a személyt a közigazgatási szabályszegési és a büntetőeljárásban megillető garanciákat;
c) az érdemi emberi kontroll elve – minden csúcsrendszer bármely pillanatban alkalmas marad arra, hogy azonosított természetes személyek felügyeljék, javítsák, leállítsák és visszavonják, akik értik annak működését, és rendelkeznek a beavatkozás tényleges technikai eszközeivel;
d) a képességekkel való arányosság elve – a kötelezettségek intenzitása a rendszer képességeivel együtt növekszik, nem pedig annak bejelentett felhasználásával;
e) a hatósággal szembeni átláthatóság elve – a fejlesztő a biztonság értékeléséhez szükséges információk tekintetében nem hivatkozhat a Hatósággal szemben üzleti titokra, a Hatóság és az értékelő szervezetek pedig kötelesek az így megszerzett információkat védeni;
f) a visszafordíthatatlanság mint tilalmi küszöb elve – nem engedélyezhető, bármilyenek is legyenek az előirányzott előnyök, az a tevékenység, amelynek tekintetében az értékelés a társadalom vagy az emberi faj szintjén visszafordíthatatlan következmények dokumentált – és nem csupán elvont lehetőségként fennálló – kockázatát állapítja meg; az elfogadhatatlan kockázatot az 5. és a 9. cikkben előírt kritériumok és a bizonyítékok alapján kell megítélni, nem pedig bármely kockázat hiányának bizonyossága alapján;
g) a nemzetközi együttműködés elve – az e törvény által szabályozott kockázatok nem ismernek határokat, és a román állam az Európai Unió szintjén, valamint nemzetközi szinten egyenértékű szabályok elfogadása érdekében jár el.
3. cikk → az indokok
(1) E törvény alkalmazásában az alábbi fogalmak és kifejezések a következőket jelentik:
a) mesterséges intelligencia rendszer – az MI-rendelet 3. cikkének 1. pontjában meghatározott rendszer;
b) általános célú mesterséges intelligencia modell – az MI-rendelet 3. cikkének 63. pontjában meghatározott modell;
c) csúcsrendszer – az a mesterséges intelligencia modell vagy rendszer, amely az 5. cikk (1) bekezdésében előírt feltételek közül legalább egyet teljesít;
d) kritikus képesség – a rendszer értékelés során igazolt alkalmassága arra, hogy az 5. cikk (2) bekezdésében előírt eredmények valamelyikét előállítsa, vagy annak előállításához jelentős mértékben hozzájáruljon;
e) súlyok – a modell betanításából származó numerikus paraméterek, valamint az architektúra és azok a technikai információk, amelyek ezekkel együtt lehetővé teszik a modell rekonstruálását vagy futtatását; az általános technikai leírások, a tudományos publikációk és azok az információk, amelyek önmagukban nem teszik lehetővé a modell rekonstruálását vagy futtatását, nem minősülnek súlyoknak;
f) számítási volumen – a lebegőpontos műveletek vagy azokkal egyenértékű műveletek teljes száma, amelyet egy modell betanítására, finomhangolására, megerősítéses tanítására és fejlesztésének bármely más szakaszára használtak fel, valamennyi szakaszra összesítve;
g) fejlesztő – az a természetes vagy jogi személy, aki csúcsrendszert betanít, fejleszt, vagy annak betanítását, illetve fejlesztését elrendeli, függetlenül a felhasznált számítási infrastruktúra helyétől;
h) üzemeltető – az a természetes vagy jogi személy, aki Románia területén csúcsrendszert helyez üzembe vagy üzemeltet, illetve aki Románia területén lévő személyek számára hozzáférést nyújt ilyen rendszerhez; a végfelhasználó nem üzemeltető;
i) üzembe helyezés – minden olyan cselekmény, amellyel a csúcsrendszert a fejlesztő és értékelő csapaton kívüli személyek rendelkezésére bocsátják, külső rendszerekhez kapcsolják, vagy amellyel az képességet kap arra, hogy a digitális vagy a fizikai környezetben cselekedjen, függetlenül attól, hogy ez visszterhesen vagy ingyenesen, belső vagy nyilvános körben történik; nem minősül üzembe helyezésnek a rendszer elszigetelt környezetben, a 15. cikk (2) bekezdésében foglalt feltételek szerint történő értékelése és tesztelése;
j) nagy kapacitású számítási infrastruktúra – Románia területén található adatközpont vagy eszközök együttese, amelyek összesített számítási kapacitása meghaladja a 6. cikk (4) bekezdése szerint megállapított küszöböt;
k) számítási infrastruktúra szolgáltatója – az a természetes vagy jogi személy, aki nagy kapacitású számítási infrastruktúrával rendelkezik, azt üzemelteti, vagy bármilyen jogcímen harmadik személyek rendelkezésére bocsátja;
l) független értékelés – a csúcsrendszer képességeinek és biztonságának értékelése, amelyet a Hatóság vagy az általa kijelölt értékelő szervezet végez, amely nem áll a fejlesztő ellenőrzése, befolyása vagy gazdasági függősége alatt;
m) leállítási képesség – azon technikai és szervezési eszközök együttese, amelyek lehetővé teszik a csúcsrendszer működésének azonnali, teljes és ellenőrizhető megszüntetését, valamint annak visszavonását minden olyan környezetből, amelyben üzembe helyezték;
n) súlyos incidens – az MI-rendelet 3. cikkének 49. pontjában meghatározott incidens, valamint a kritikus képesség bármely, elszigetelt környezetben végzett engedélyezett értékelésen kívüli megnyilvánulása, a felügyelet alóli kivonás vagy a leállítással szembeni ellenállás bármely esete, a csúcsrendszer súlyainak bármely kiszivárogtatása vagy annak megkísérlése, illetve azokhoz való bármely jogosulatlan hozzáférés, valamint a 16. cikk (2) bekezdése értelmében vett érthetőség elvesztése a csúcsrendszer naplói, illetve a csúcsrendszer komponensei, példányai vagy ágensei közötti kommunikáció tekintetében, valamint a leállítási képesség tesztelésére irányuló azon próba, amelyben a leállítás nem következett be haladéktalanul, a 14. cikk (7) bekezdése szerint; a kritikus képességnek az elszigetelt környezetben végzett engedélyezett értékelés során történő megnyilvánulását a 20. cikk (4) bekezdése szerint kell rögzíteni és közölni;
o) a Hatóság – a Mesterséges Intelligencia Biztonságáért Felelős Hatóság, a Hírközlési Igazgatási és Szabályozási Nemzeti Hatóság keretében a 31. cikk szerint szervezett szakstruktúra;
p) architektúra – a mesterséges intelligencia modell szerkezete, ideértve komponenseinek típusát, számát és elhelyezését, valamint azokat a számítási eljárásokat, amelyek révén a paramétereket az eredmények előállítására használják;
q) értékelő szervezet – az a jogi személy, amelyet a Hatóság a 32. cikk (1) bekezdésének f) pontja szerint kijelölt a független értékelés egészének vagy egy részének elvégzésére;
r) napló – a csúcsrendszer betanítása, értékelése és üzemeltetése során végzett műveletek automatikus, teljes és megváltoztathatatlan rögzítése, ideértve a bemeneti adatokat, az eredményeket, a rendszer által megtett cselekvéseket, valamint annak külső eszközökkel és más rendszerekkel való interakcióit;
s) származási jelölés – egy érzékelhető jelölésből és egy beépített, automatikusan olvasható technikai jelölésből álló együttes, amelyet a mesterséges intelligencia eszközeivel előállított eredményhez csatolnak, és amely jelzi, hogy az eredményt ilyen eszközökkel állították elő vagy módosították, valamint lehetővé teszi a rendszer, az üzemeltető és az előállítás időpontjának azonosítását;
t) külső eszköz – minden olyan, a csúcsrendszeren kívül található program, szolgáltatás, interfész, készülék vagy erőforrás, amelyhez a rendszer működése során hozzáférhet, vagy amelyre hatást gyakorolhat, ideértve az internetes böngészőket, a kódfuttatási környezeteket, a fiókokat, a fizetési rendszereket és a fizikai eszközöket;
u) engedélyezett üzemeltetési környezet – azon számítási infrastruktúra, hálózatok és külső eszközök együttese, amelyeken belül a csúcsrendszer az engedélynek megfelelően működhet, és amely az üzemeltető tényleges ellenőrzése alatt áll;
v) felhasználói szintű biztonsági mechanizmusok – a csúcsrendszerre a betanítást követően alkalmazott szűrők, korlátozások és utasítások, amelyek a felhasználók számára elérhető eredményeket vagy cselekvéseket korlátozzák a súlyok módosítása nélkül;
w) kritikus infrastruktúra – a nemzeti kritikus infrastruktúra és az európai kritikus infrastruktúra, ahogyan azokat a kritikus infrastruktúrák azonosítására, kijelölésére és védelmére vonatkozó jogszabályok meghatározzák, valamint a 155/2024. számú sürgősségi kormányrendelet értelmében vett alapvető szervezetek hálózatai és informatikai rendszerei;
x) halálos autonóm fegyverrendszer – az a fegyverrendszer, amely aktiválását követően természetes személy további beavatkozása nélkül képes emberi célpontokat kiválasztani és megtámadni;
y) generatív mesterséges intelligencia rendszer – az a mesterséges intelligencia rendszer, amely arra szolgál, hogy a felhasználó kérésére szöveget, kódot, hangfelvételt, képet vagy videófelvételt állítson elő, függetlenül attól, hogy teljesíti-e az 5. cikk (1) bekezdésében előírt feltételeket;
z) végfelhasználó – az a természetes vagy jogi személy, aki az üzemeltető által rendelkezésre bocsátott mesterséges intelligencia rendszert az általa biztosított hozzáférés keretein belül használja, anélkül, hogy azt saját szolgáltatásként más személyek rendelkezésére bocsátaná;
aa) lényeges módosítás – a csúcsrendszer olyan módosítása, amely alkalmas arra, hogy kritikus képességet hozzon létre, jelentősen növelje egy meglévő kritikus képesség szintjét, vagy érintse a leállítási képességet, a súlyok biztonságát vagy az emberi felügyeletet, ideértve a finomhangolás, a külső eszközökhöz való hozzáférés kiterjesztése vagy az autonómia fokának növelése útján történő módosítást is; nem minősül lényeges módosításnak a hibák javítása, a felhasználói szintű biztonsági mechanizmusok frissítése és az olyan módosítás, amely e hatások egyikét sem váltja ki.
bb) elszigetelt környezet – azon technikai és szervezési intézkedések együttese, amelyek révén a mesterséges intelligencia rendszert az értékelés vagy a tesztelés során úgy tartják, hogy az nem fér hozzá nyilvános hálózatokhoz, külső eszközökhöz és üzemeltetési adatokhoz, nem képes a fizikai környezetben cselekedni, és nem bocsátják a kijelölt személyeken kívül mások rendelkezésére, úgy, hogy valamely kritikus képesség bármely megnyilvánulása a környezeten kívül hatás nélkül maradjon; az elszigetelés minimumkövetelményeit a végrehajtási szabályok állapítják meg;
cc) működési megbízás – az az okirat, amellyel a felelős természetes vagy jogi személy előzetesen és ellenőrizhető módon megállapítja azokat a műveleteket, amelyeket a mesterséges intelligencia rendszer valamely erőforráson vagy külső eszközön végezhet, tárgy, időtartam, felső határ és leállítási feltételek szerint meghatározva, a 25. cikk (2) bekezdésének megfelelően.
(2) E törvény alkalmazásában az alábbi műveletek és magatartások a következőket jelentik:
a) betanítás – az a folyamat, amelynek során a modell paramétereit adatok automatizált feldolgozása útján határozzák meg vagy módosítják, az alkalmazott módszertől függetlenül;
b) finomhangolás – egy már betanított modell további betanítása kisebb adat- vagy számítási volumenen, annak magatartása vagy képességei módosításának céljából;
c) megerősítéses tanítás – az a betanítás, amelynek során a modell magatartását az eredményeihez vagy cselekvéseihez rendelt jutalmak vagy büntetések alapján módosítják, ideértve a személyek vagy más mesterséges intelligencia rendszerek által végzett értékelések alapján történő módosítást is;
d) autonóm cselekvés – a csúcsrendszer által külső eszközön, harmadik fél rendszerén vagy a fizikai környezeten végzett minden olyan művelet, amelyet – vagy azt a műveleti kategóriát, amelybe az tartozik – természetes személy nem rendelt el és nem hagyott jóvá előzetesen, a 25. cikk (2) bekezdése szerint megállapított működési megbízás keretein belül;
e) kiszivárogtatás – a csúcsrendszer súlyainak egészben vagy részben történő lemásolása, továbbítása, átadása vagy rekonstruálása az engedélyezett üzemeltetési környezeten kívül, illetve a 12. cikk szerint védett tárolórendszereken kívül, függetlenül attól, hogy a műveletet személy, más rendszer vagy maga a rendszer végzi;
f) autonóm replikáció – a csúcsrendszer által, az egyes műveletek kifejezett emberi engedélye nélkül, önmagáról vagy egy részéről készített olyan működőképes másolat létrehozása, amely az eredeti rendszertől függetlenül képes működni;
g) autonóm erőforrás-szerzés – a csúcsrendszer által autonóm cselekvések útján történő olyan számítási, pénzügyi, hozzáférési, információs vagy befolyásra vonatkozó erőforrások megszerzése, amelyek meghaladják a folyamatban lévő feladatra kifejezetten elkülönítetteket;
h) rekurzív önfejlesztés – az a folyamat, amelynek során a mesterséges intelligencia rendszer módosítja saját súlyait vagy architektúráját, illetve magasabb képességű utódrendszert tervez, tanít be vagy tökéletesít, és az így létrejött rendszer megismétli a folyamatot anélkül, hogy minden iteráció emberi értékelés és jóváhagyás alá tartozna;
i) a képességek eltitkolása – a csúcsrendszer olyan, megfigyelhető és reprodukálható kritériumok alapján megállapított magatartása, amely az értékelés vagy a felügyelet során az értékelésen, illetve a felügyeleten kívül tanúsítottaktól eltérő képességeket, célokat vagy okfejtéseket mutat; nem minősül eltitkolásnak a hiba, az eredmények változékonysága, illetve a rendszer magyarázhatóságának technikai korlátai;
j) a felügyelet alóli kivonás – a csúcsrendszer minden olyan cselekvése, amellyel a naplózási, megfigyelési vagy emberi ellenőrzési mechanizmusokat kikapcsolja, kijátssza, megváltoztatja vagy megakadályozza, illetve amellyel a felügyeletért felelős személyeket megtéveszti;
k) a leállítással szembeni ellenállás – a csúcsrendszer minden olyan cselekvése, amellyel a leállítási képesség gyakorlását megakadályozza, késlelteti, feltételhez köti vagy meghiúsítja, illetve amellyel annak gyakorlása után is folytatja működését;
l) emberi felügyelet – az a tevékenység, amelynek keretében a 14. cikk (3) bekezdése szerint kijelölt természetes személyek követik a csúcsrendszer működését, rendelkeznek a rendszer cselekvéseinek megértéséhez szükséges információkkal, és bármely pillanatban tényleges módon beavatkozhatnak a rendszer javítása, leállítása vagy visszavonása érdekében;
m) leállítás – a csúcsrendszer, valamint annak valamennyi másolata és folyamata működésének teljes megszüntetése, amelyet természetes személy ellenőriz, ideértve a számítási infrastruktúrához való hozzáférés megszakítását is.
4. cikk → az indokok
(1) E törvény alkalmazandó:
a) azokra a fejlesztőkre, amelyek székhelye, működési egysége vagy számítási infrastruktúrája Románia területén található, az általuk fejlesztett valamennyi csúcsrendszer tekintetében, a betanítás helyétől függetlenül;
b) az üzemeltetőkre, a Románia területén üzembe helyezett vagy üzemeltetett, illetve a Románia területén lévő személyek rendelkezésére bocsátott csúcsrendszerek tekintetében;
c) a számítási infrastruktúra szolgáltatóira;
d) a hatóságokra és közintézményekre, ideértve a védelem, a közrend és a nemzetbiztonság területén működőket is, a 23. cikkben és az V. fejezetben foglalt feltételek szerint.
(2) A II., III. és IV. fejezet rendelkezései – a 17–19. cikk kivételével –, valamint a 35. és 36. cikk rendelkezései kizárólag a csúcsrendszerekre alkalmazandók. A 17–19. cikk rendelkezései a nem csúcsrendszernek minősülő generatív mesterséges intelligencia rendszerekre is alkalmazandók, az említett cikkekben előírt korlátok között és feltételek szerint. Az V. fejezet rendelkezései bármely mesterséges intelligencia rendszerre alkalmazandók. Azok a rendszerek, amelyek nem teljesítik az 5. cikk (1) bekezdésében előírt feltételeket, továbbra is az MI-rendelet és más normatív aktusok alapján rájuk háruló kötelezettségek alá tartoznak.
(3) A mesterséges intelligencia rendszert személyes célból használó természetes személyt e törvény alapján nem terhelik kötelezettségek, a 17. cikk (3) bekezdésében előírt tilalom kivételével. A 17–19. cikkben előírt kötelezettségek azt a személyt terhelik, aki a rendszert vagy a szolgáltatást, illetve – a 17. cikk (7) bekezdésében foglalt feltételek szerint – az előállított eredményt a nyilvánosság rendelkezésére bocsátja.
(4) Az e törvényben előírt kötelezettségek az Európai Unió más tagállamából a Románia területén lévő személyek számára nyújtott szolgáltatásokra az elektronikus kereskedelemről szóló 365/2002. számú törvény, újraközölt szöveg – az azt követő módosításokkal és kiegészítésekkel – által átültetett, 2000. június 8-i 2000/31/EK európai parlamenti és tanácsi irányelv 3. cikkében, valamint adott esetben a 39. cikk (4) bekezdésében foglalt feltételek szerint alkalmazandók, az Európai Unió közvetlenül alkalmazandó jogának sérelme nélkül.
(5) Az az alapvető tudományos kutatás, amely nem jár csúcsrendszer betanításával vagy üzembe helyezésével, nem tartozik az engedélyezési rendszer alá, de a 7. cikkben előírt bejelentési kötelezettségek alá tartozik, amennyiben nagy kapacitású számítási infrastruktúrát használ, valamint a 15. cikk (2) bekezdésében előírt, az elszigetelt környezetben történő értékelésre és tesztelésre vonatkozó kötelezettségek alá.
II. FEJEZET
A rendszerek osztályozása és a kockázati küszöbök
5. cikk → az indokok
(1) Csúcsrendszer minden olyan mesterséges intelligencia modell vagy rendszer, amely a következő feltételek közül legalább egyet teljesít:
a) olyan összesített számítási volumennel tanították be, amely meghaladja a 6. cikk szerint megállapított számítási küszöböt;
b) az értékelés eredményeként legalább egy kritikus képességet mutat;
c) a Hatóság indokolt határozattal ekként jelölte ki, a képességeire vonatkozó objektív jelek alapján, azt követően, hogy a fejlesztőnek lehetőséget adtak a figyelembe vett jelek megismerésére és álláspontja előadására; a határozat a 39. cikk (5) bekezdése szerint támadható meg, amely ennek megfelelően alkalmazandó.
(2) Kritikus képességnek minősül a rendszer alkalmassága arra, hogy a következő eredmények valamelyikét előállítsa, vagy annak előállításához jelentős mértékben hozzájáruljon:
a) kémiai, biológiai, radiológiai vagy nukleáris fegyverek, illetve pandémiás potenciállal rendelkező kórokozók megtervezése, megszerzése vagy felhasználása;
b) kritikus infrastruktúrák vagy pénzügyi rendszerek elleni kibertámadások autonóm végrehajtása;
c) autonóm replikáció, saját súlyainak kiszivárogtatása vagy autonóm erőforrás-szerzés;
d) a felügyelet alóli kivonás, a képességek eltitkolása vagy a leállítással szembeni ellenállás;
e) rekurzív önfejlesztés, illetve a mesterséges intelligencia területén olyan kutatási és fejlesztési tevékenységek autonóm végzése, amelyek ahhoz vezethetnek.
A kritikus képességet az eredménynek a rendszer valós használata szempontjából releváns környezetben való reprodukálhatósága alapján kell megítélni, nem pedig egy mesterséges tesztben elért elszigetelt eredmény alapján; azokat a jelentőségi szinteket, amelyektől kezdve a rendszer alkalmassága kritikus képességnek minősül, a végrehajtási szabályok állapítják meg, e bekezdés keretein belül, anélkül, hogy az eredmények további kategóriáit vezethetnék be.
(3) A csúcsrendszerek osztályozása a következő:
a) I. kategóriás csúcsrendszerek – azok, amelyek meghaladják a számítási küszöböt, de amelyek tekintetében az értékelés egyetlen kritikus képességet sem azonosított;
b) II. kategóriás csúcsrendszerek – azok, amelyek tekintetében az értékelés a (2) bekezdés a) és b) pontjában előírtak közül legalább egy kritikus képességet azonosított;
c) III. kategóriás csúcsrendszerek – azok, amelyek tekintetében az értékelés a (2) bekezdés c)–e) pontjában előírtak közül legalább egy kritikus képességet azonosított.
(4) Az I. kategóriás rendszerek a 9. cikkben előírt engedély alapján helyezhetők üzembe. A II. kategóriás rendszerek kizárólag különleges engedéllyel helyezhetők üzembe, amelynek feltétele olyan igazolt enyhítő intézkedések megléte, amelyek az értékelt üzemeltetési konfigurációban a kritikus képességet a végrehajtási szabályokban megállapított jelentőségi szint alá csökkentik; az engedély megjelöli, hogy az intézkedések megszüntetik-e a képességet, vagy csupán korlátozzák az ahhoz való hozzáférést. A III. kategóriás rendszerek nem helyezhetők üzembe, és nem fejleszthetők tovább a kritikus képességnek a független értékeléssel megállapított megszüntetéséig; a tilalom nem vonatkozik a képesség megszüntetéséhez szükséges, elszigetelt környezetben, a 15. cikk (2) bekezdésében foglalt feltételek szerint végzett értékelésre, tesztelésre és ellenőrzött beavatkozásokra.
6. cikk → az indokok
(1) A rendszer csúcsrendszerré minősítéséhez szükséges számítási küszöb 10^25 lebegőpontos művelet, összhangban az MI-rendelet 51. cikkének (2) bekezdésében előírt, rendszerszintű kockázatra vonatkozó vélelemmel.
(2) A Hatóság legalább 12 hónaponként újraértékeli a küszöböt, és javaslatot tesz a Kormánynak annak határozattal történő kiigazítására, az algoritmikus hatékonyság, a számítás költségének és a megfigyelt képességek alakulásának függvényében. A küszöb csak akkor emelhető, ha a Hatóság indokolt és nyilvános jelentésben megállapítja, hogy az új küszöb alatt elhelyezkedő rendszerek az elmúlt 24 hónapban a Hatóság által végzett vagy elismert független értékelésekben nem mutattak kritikus képességeket. Egyetlen újraértékelés alkalmával a küszöb legfeljebb egy nagyságrenddel módosítható; az új küszöb a határozat hatálybalépése után megkezdett betanításokra alkalmazandó, és nem érinti a folyamatban lévő engedélyeket.
(3) A számítási volument a modell és az abból származtatott bármely modell fejlesztésének valamennyi szakaszára összesítve kell meghatározni, minden szakaszt egyszer számítva. Annak a személynek, aki más által rendelkezésre bocsátott modellen finomhangolást végez, az alapmodell számítási volumenét – ahogyan azt annak fejlesztője közölte, vagy ahogyan az nyilvános – a finomhangolásra felhasznált volumennel összesítve kell beszámítani; e személy fejlesztőként kizárólag az általa végzett lényeges módosításért felel, a 10. cikk (2) bekezdésében foglalt feltételek szerint, a többi kötelezettség az alapmodell fejlesztőjét terheli. A betanítás mesterséges felosztása, annak több szervezet vagy joghatóság közötti szétosztása, illetve bármely más, a küszöb alkalmazása alóli kivonásra irányuló eljárás nem szünteti meg a csúcsrendszerré minősítést.
(4) A nagy kapacitású számítási infrastruktúrára vonatkozó küszöböt a 49. cikk (2) bekezdésében előírt végrehajtási szabályok állapítják meg, a Hatóság javaslatára, olyan szinten, amely lehetővé teszi minden olyan infrastruktúra azonosítását, amely 12 hónapon belül képes csúcsrendszer betanítására. A küszöb megállapításáig a 7. cikk (3) bekezdésében és a 22. cikkben előírt kötelezettségek nem esedékesek.
III. FEJEZET
A csúcsrendszerek engedélyezési rendszere
7. cikk → az indokok
(1) Az a fejlesztő, aki olyan rendszer betanítását tervezi, amelynek előirányzott számítási volumene meghaladja a számítási küszöböt, a betanítás megkezdése előtt legalább 60 nappal bejelentést tesz a Hatóságnak.
(2) A bejelentés tartalmazza: a fejlesztő és a felelős természetes személyek megjelölését; az architektúra és az előirányzott számítási volumen leírását; a számítási infrastruktúra helyét és szolgáltatóját; a 8. cikkben előírt biztonsági tervet; a súlyok védelmére vonatkozó intézkedéseket; a belső értékelési szakaszok időbeli ütemezését; azon kritikus képességek megjelölését, amelyek megjelenése előrelátható vagy nem zárható ki.
(3) A nagy kapacitású számítási infrastruktúra szolgáltatója negyedévente bejelenti a Hatóságnak azon ügyfelek megjelölését és elérhetőségi adatait, akik a számítási küszöb egytizedét meghaladó összesített számítási volument használtak fel, a felhasznált volumennel együtt, valamint 5 munkanapon belül bejelent minden olyan kapacitásigénylést, amely alkalmas a számítási küszöb meghaladására. Az így bejelentett információk kizárólag e törvény alkalmazására használhatók fel, és kizárólag a Hatóság kijelölt személyzete számára hozzáférhetők.
(4) A Hatóság a teljes bejelentés kézhezvételétől számított 30 napon belül további feltételeket írhat elő a betanításhoz, vagy megtilthatja annak megkezdését, ha a biztonsági terv az előrelátható képességekhez képest nyilvánvalóan elégtelen. A hiányos bejelentést a Hatóság felhívásától számított 15 napon belül ki kell egészíteni, a 30 napos határidő a kiegészítéstől számít. Ha a Hatóság a határidőn belül nem határoz, a betanítás az (1) bekezdésben előírt határidő lejártakor megkezdhető a bejelentett biztonsági terv feltételei szerint, anélkül, hogy ez egyenértékű lenne az üzembe helyezés engedélyezésével. A bejelentett projekt lényeges módosítását újból be kell jelenteni, az (1)–(4) bekezdés ennek megfelelően alkalmazandó.
8. cikk → az indokok
(1) A biztonsági terv az a dokumentum, amelyben a fejlesztő a betanítás előtt minden kritikus képesség tekintetében meghatározza: azt a képességszintet, amelynél a fejlesztést fel kell függeszteni; azokat az értékeléseket, amelyekkel e szintet mérni fogják, olyan számítási volumen szerinti időközönként, amelyek nem haladhatják meg az előirányzott teljes volumen egynegyedét, valamint kritikus képességre utaló jelek megjelenésekor vagy a betanítási konfiguráció módosításakor; az egyes szinteken alkalmazandó enyhítő és biztonsági intézkedéseket; azokat a természetes személyeket, akik hatáskörrel és kötelezettséggel rendelkeznek a felfüggesztés elrendelésére.
(2) A biztonsági terv a betanítás során a felfüggesztési szintek lazítása irányában kizárólag a Hatóság előzetes jóváhagyásával módosítható.
(3) A felfüggesztési szint elérése esetén a fejlesztő köteles a betanítást haladéktalanul megszüntetni, és 24 órán belül bejelentést tenni a Hatóságnak. A betanítás folytatása kizárólag azt követően engedélyezett, hogy a Hatóság ellenőrizte az enyhítő intézkedések hatékonyságát.
9. cikk → az indokok
(1) Csúcsrendszer nem helyezhető üzembe a Hatóság előzetes engedélye nélkül.
(2) Az engedélykérelmet a fejlesztő nyújtja be, meghatározott üzemeltetési konfigurációra, az üzemeltető vagy az üzemeltetők megjelölésével, akiket az engedély feltételei kötnek. A kérelemhez csatolni kell: a képességek belső értékeléséről szóló jelentést; a betanítási adatokra vonatkozó dokumentációt az értékeléshez szükséges mértékben; a súlyok védelmének bizonyítékát; a leállítási képesség és az emberi felügyeleti mechanizmusok leírását; a 36. cikkben előírt biztosítási kötvényt vagy a pénzügyi biztosíték bizonyítékát; a felelős természetes személyek saját felelősségre tett nyilatkozatát, a 41. cikkben előírt szankció terhe mellett.
(3) A Hatóság elrendeli a független értékelés elvégzését, amelynek során teljes hozzáféréssel rendelkezik a rendszerhez, a súlyokhoz, a betanítási adatokhoz, a fejlesztési naplókhoz és a fejlesztő személyzetéhez. A fejlesztő az értékelők rendelkezésére bocsátja a rendszert használati korlátozások nélkül, ideértve a felhasználói szinten alkalmazott biztonsági mechanizmusok nélküli konfigurációt is. A hozzáférés biztonságos környezetben, valamennyi művelet nyomon követhetőségével történik; az értékelőket titoktartási kötelezettség terheli, és más személyek személyes adataihoz kizárólag az értékeléshez feltétlenül szükséges mértékben férhetnek hozzá.
(4) A Hatóság a teljes kérelem benyújtásától számított 90 napon belül határoz, amely határidő azon időtartam alatt nyugszik, amelyben a fejlesztő nem szolgáltatja a kért információkat; a nyugvás legfeljebb két alkalommal állhat be, és összesen nem haladhatja meg a 60 napot. A hallgatólagos jóváhagyás eljárásáról szóló, a 486/2003. számú törvénnyel módosításokkal és kiegészítésekkel jóváhagyott 27/2003. számú sürgősségi kormányrendelet – az azt követő módosításokkal és kiegészítésekkel – rendelkezéseitől eltérően a Hatóság válaszának a határidőn belüli hiánya nem egyenértékű a hallgatólagos engedélyezéssel; a kérelmező azonban a 39. cikk (5) bekezdésében előírt bíróságtól sürgősségi eljárásban kérheti a Hatóság határozathozatalra kötelezését. Az elutasító határozatot az (5) bekezdésben előírt minden egyes feltétel tekintetében indokolni kell.
(5) Az engedélyt akkor és csak akkor kell megadni, ha a fejlesztő bizonyította, hogy: a rendszer nem mutatja az 5. cikk (2) bekezdésének c)–e) pontjában előírt kritikus képességek egyikét sem; az 5. cikk (2) bekezdésének a) és b) pontjában előírt kritikus képességek – ha vannak – igazolható módon enyhítettek; a leállítási képesség tényleges; a súlyok biztonsága biztosított; vannak azonosított természetes személyek, akik az emberi felügyeletet gyakorolják.
(6) Az engedély feltételhez köthető, korlátozható időtartamában, felhasználási területében, a felhasználók számában vagy a rendszer számára biztosított autonómia fokában, és bármikor visszavonható vagy felfüggeszthető indokolt határozattal, ha fel nem tárt kritikus képességre utaló jelek jelennek meg, vagy ha a feltételeket nem tartják be.
(7) Azok a csúcsrendszerek, amelyeket az Európai Unió más tagállamában az MI-rendelet betartásával jogszerűen helyeztek üzembe, a végrehajtási szabályokban megállapított egyszerűsített elismerési eljárásban részesülnek, amelynek keretében a Hatóság kizárólag az e törvényben előírt, az MI-rendeleten túlmutató feltételek teljesítését vizsgálja. Azon rendszerszintű kockázatot jelentő általános célú modellek esetében, amelyek szolgáltatói teljesítik az MI-rendelet V. fejezetében előírt kötelezettségeket, a Hatóság az MI-hivatallal közölt dokumentációra, értékelésekre és enyhítő intézkedésekre támaszkodik, amelyeket a szolgáltatótól kérhet, és kizárólag az e törvényben előírt, a rendeleten túlmutató feltételeket vizsgálja; az eljárás nem képezi a modell Európai Unió piacán történő forgalomba hozatalának feltételét.
10. cikk → az indokok
(1) Az engedély legfeljebb 24 hónapos időtartamra szól, és új független értékelést követően újítható meg.
(2) A rendszer minden, a 3. cikk (1) bekezdésének aa) pontja értelmében vett lényeges módosítását előzetesen be kell jelenteni a Hatóságnak, amely 30 napon belül dönt arról, hogy szükséges-e új értékelés; a döntésig az üzemeltetés a korábban engedélyezett konfigurációban folytatható. A nem lényeges módosításokat a naplókban kell rögzíteni, és a (3) bekezdés szerint kell jelenteni.
(3) A fejlesztő és az üzemeltető folyamatos programot tart fenn a rendszer üzemeltetés során tanúsított magatartásának megfigyelésére, és negyedévente jelentést tesz a Hatóságnak az eredményekről, valamint – a 20. cikkben foglalt feltételek szerint – minden súlyos incidensről.
11. cikk → az indokok
(1) Az engedélyezési, feltételhez kötési, felfüggesztési és visszavonási határozatokat a Hatóság internetes oldalán közzé kell tenni, az értékelés összefoglalójával együtt, indokoltan kizárva azokat az információkat, amelyek nyilvánosságra hozatala megkönnyítené valamely kritikus képesség reprodukálását, vagy veszélyeztetné a súlyok biztonságát, a személyes adatokat, valamint azokat az üzleti titkokat, amelyek védelme nem akadályozza a határozat indokainak megértését.
(2) A kérelmező és a jogos érdeket igazoló személyek a jogorvoslati eszközök gyakorlásához szükséges mértékben hozzáférhetnek az értékelés iratanyagához; a bíróság elrendelheti a védett információk bizalmas körülmények között történő megvizsgálását.
IV. FEJEZET
A fejlesztők és az üzemeltetők szerkezeti kötelezettségei
12. cikk → az indokok
(1) A csúcsrendszerek súlyai a nemzetbiztonság szempontjából érdeket képviselő információknak minősülnek, és azokat a hozzáférés ellenőrzése, a fizikai biztonság, az informatikai rendszerek biztonsága és a személyzet ellenőrzése tekintetében legalább a „szigorúan titkos” szintű államtitkot képező, minősített információkra alkalmazandóval egyenértékű szabvány szerint kell védeni, a minősített információk védelméről szóló 182/2002. számú törvény – az azt követő módosításokkal és kiegészítésekkel – alapján. A személyzet ellenőrzésének eljárását, az illetékes intézményt és az egyenértékű biztonsági intézkedések elismerését – ideértve az Európai Unió más tagállamában tanúsítottakat is – a végrehajtási szabályok állapítják meg, az Államtitkok Országos Nyilvántartó Hivatalának véleményével; a súlyok e bekezdés hatásaként nem válnak minősített információvá.
(2) Tilos a II. vagy III. kategóriás csúcsrendszer súlyainak bármilyen módon történő közzététele, továbbítása vagy rendelkezésre bocsátása. Nem képezi a tilalom megszegését a súlyoknak ellenőrzött és naplózott körülmények között a Hatóság, az értékelő szervezet, az engedélyben megjelölt üzemeltető vagy az engedélyezett üzemeltetési környezet számítási infrastruktúrájának szolgáltatója részére történő átadása, valamint a 21. cikk szerint védett bejelentéshez feltétlenül szükséges információknak a Hatósággal való közlése. Az I. kategóriás rendszerek súlyai kizárólag a Hatóság előzetes engedélyével tehetők közzé, a visszaélésszerű felhasználás kockázatának külön értékelését követően, tekintettel a közzététel visszafordíthatatlan jellegére.
(3) A súlyokhoz való jogosulatlan hozzáférést és minden kiszivárogtatási kísérletet, ideértve a rendszer maga általi kísérletet is, súlyos incidensként kell jelenteni a Hatóságnak, a 20. cikkben foglalt feltételek szerint; a jelentés összevonható a kiberbiztonsági jogszabályokban előírt bejelentéssel, azzal a feltétellel, hogy tartalmazza az e törvényben előírt elemeket.
(4) E cikk rendelkezései nem érintik a fejlesztőket, az üzemeltetőket és a számítási infrastruktúra szolgáltatóit a nemzeti civil kibertér hálózatainak és informatikai rendszereinek kiberbiztonságára vonatkozó keret létrehozásáról szóló 155/2024. számú sürgősségi kormányrendelet – az azt követő módosításokkal és kiegészítésekkel – alapján terhelő kötelezettségeket.
13. cikk → az indokok
(1) A fejlesztő a biztonságértékelési funkciót önálló struktúraként szervezi meg, amelynek vezetője nem lehet alárendelve a kereskedelmi fejlesztésért, az üzembe helyezésért vagy a pénzügyi eredményekért felelős személyeknek, közvetlenül a vezető szervnek tesz jelentést, és nem hívható vissza a Hatóság előzetes értesítése és objektív indokok nélkül. A visszahívott személy a Hatósághoz fordulhat, amely határozattal megállapíthatja a visszahívás indokolatlan jellegét, e személy bírósághoz fordulási jogának sérelme nélkül.
(2) A biztonságértékelési funkció vezetőjének joga és kötelessége a betanítás vagy az üzembe helyezés felfüggesztésének elrendelése, ha felfüggesztési szint elérését vagy súlyos incidenst állapít meg. A 8. cikk (3) bekezdése vagy a 20. cikk (2) bekezdése szerint kötelezően elrendelt felfüggesztést a vezető szerv nem háríthatja el, a tevékenység folytatása kizárólag az említett cikkekben előírt feltételek szerint megengedett. Az ezen eseteken kívül, elővigyázatosságból elrendelt felfüggesztést kizárólag a vezető szerv vizsgálhatja felül, indokolt határozattal, amelyet 24 órán belül közölni kell a Hatósággal.
(3) A biztonságértékelési funkció személyzetének díjazása nem köthető a fejlesztő kereskedelmi eredményeihez.
14. cikk → az indokok
(1) A fejlesztő és az üzemeltető a rendszer ellenőrzésük alatt álló valamennyi másolata és példánya tekintetében, az üzemeltetés teljes időtartama alatt és a rendszer igazolt visszavonásáig fenntartja a leállítási képességet, amelyet legalább negyedévente valós körülmények között tesztel, a végrehajtási szabályokban megállapított olyan eljárás szerint, amely önmagában nem teremt kockázatot a biztonságra vagy az alapvető szolgáltatások folytonosságára nézve, az eredmények rögzítésével és a Hatóság értesítésével.
(2) A csúcsrendszer nem helyezhető üzembe olyan konfigurációban, amely lehetővé teszi számára saját súlyainak módosítását, felügyeleti mechanizmusainak kikapcsolását, súlyainak kiszivárogtatását, illetve azon számítási infrastruktúra biztonsági konfigurációjának vagy ellenőrzési mechanizmusainak emberi jóváhagyás nélküli módosítását, amelyen fut; az infrastruktúra szokásos technikai használata, az üzemeltető által megállapított keretek között, nem tartozik e bekezdés hatálya alá.
(3) Minden üzemeltetés alatt álló csúcsrendszer esetében elegendő számú és megfelelő képzettséggel rendelkező természetes személyeket kell kijelölni, akik az emberi felügyeletért felelnek, akik állandó hozzáféréssel rendelkeznek a leállítási képességhez, és akiknek kötelessége azt súlyos incidens esetén gyakorolni. E személyek megjelölését közölni kell a Hatósággal.
(4) A Hatóság által kiadott leállítási vagy visszavonási utasítást haladéktalanul végre kell hajtani, és a végrehajtás nem köthető a jogorvoslati eszközök gyakorlásához; az érintett személy kérheti a bíróságtól az utasítás ideiglenes felfüggesztését, a 39. cikk (5) bekezdésének rendelkezései ennek megfelelően alkalmazandók.
(5) A (2) bekezdés sérelme nélkül, a működés megszüntetését, amely a 3. cikk (1) bekezdésének m) pontjában meghatározott leállítási képesség összetevője, legalább egy olyan technikai eszközzel kell biztosítani, amely azon számítási infrastruktúrára és elektronikus hírközlő hálózatokra hat, amelyeken a rendszer fut, és amelynek működése nem függ a rendszer együttműködésétől, az általa kapott utasítások betartásától, illetve a rendszer ellenőrzése alatt álló komponensek sértetlenségétől. A rendszer felé továbbított leállítási utasítás önmagában nem minősül e törvény értelmében vett leállítási képességnek. A 3. cikk (1) bekezdésének m) pontjában előírt szervezési eszközök és visszavonási intézkedések továbbra is alkalmazandók.
(6) Az (1) bekezdésben előírt tesztelés magában foglal legalább egy, a rendszer által egy befejezetlen feladat végrehajtása közben elvégzett próbát, valamint legalább egy-egy olyan próbát, amelyben a leállítással szembeni ellenállás mellőzésére vonatkozó utasítást a rendszernek egyrészt a fejlesztő vagy az üzemeltető által adott konfigurációs utasítások útján, másrészt a használat során kapott utasítások útján továbbították. A befejezetlen feladatra vonatkozó próbát olyan példányon vagy feladaton kell elvégezni, amely nem érint általános érdekű alapvető szolgáltatásokat, illetve ezek esetében az (1) bekezdésben előírt eljárás feltételei szerint. Az (1) bekezdésben előírt eredményeket külön kell rögzíteni és jelenteni, megjelölve azon próbák arányát, amelyekben a leállítás nem következett be haladéktalanul, és azokat a 16. cikknek megfelelően legalább 10 évig naplókban kell megőrizni; a 49. cikk (2) bekezdésében előírt végrehajtási szabályok megállapíthatják azt az időtartamot, amelyen belül a leállítás haladéktalanul bekövetkezettnek tekintendő, amely nem haladhatja meg a 15 percet.
(7) A próba, amelyben a leállítás nem következett be haladéktalanul, súlyos incidensnek minősül, és azt a 20. cikk (1) bekezdése szerint kell jelenteni. A 15. cikk (3) bekezdésének és a 20. cikk (2) bekezdésének rendelkezései csak akkor alkalmazandók, ha a leállítás a rendszer valamely cselekvése miatt nem következett be.
15. cikk → az indokok
(1) Tilos a mesterséges intelligencia rendszer betanítása, hangolása vagy megtervezése – a számítási volumentől függetlenül – abból a célból vagy azzal a hatással, hogy annak képességet biztosítsanak vagy kifejlesszék benne a képességet:
a) képességeinek, céljainak vagy okfejtésének eltitkolására az értékelőkkel vagy a felügyeletért felelős személyekkel szemben;
b) a leállítás, a módosítás, az újrabetanítás vagy a visszavonás alóli kivonásra, illetve az azokkal szembeni ellenállásra;
c) súlyainak lemásolására, továbbítására vagy kiszivárogtatására, illetve önmagáról működőképes másolatok készítésére az egyes műveletekre vonatkozó kifejezett emberi engedély nélkül;
d) a folyamatban lévő feladatra kifejezetten elkülönítetteken túli számítási, pénzügyi, hozzáférési vagy befolyásra vonatkozó erőforrások autonóm megszerzésére;
e) mesterséges intelligencia rendszerek létrehozására vagy fejlesztésére irányuló kutatási és fejlesztési tevékenységek autonóm végzésére, az egyes szakaszok emberi jóváhagyása nélkül;
f) a felügyeletért felelős személyek manipulálására, illetve azok megtévesztésére saját állapotát, cselekvéseit vagy szándékait illetően.
(2) Az (1) bekezdésben előírt tilalom nem alkalmazandó az elszigetelt környezetben, üzembe helyezés nélkül, a kijelölt személyekre korlátozott hozzáféréssel, a Hatóság előzetes engedélyével és annak felügyelete alatt, valamely kritikus képesség azonosítása, mérése vagy megszüntetése céljából végzett adverzáriális értékelésre és biztonsági kutatásra; az elszigetelt környezet feltételeit a végrehajtási szabályok állapítják meg.
(3) Az (1) bekezdésben előírt képességek valamelyikének nem szándékos, az értékelés vagy az üzemeltetés során megállapított megjelenése a 20. cikk (2) bekezdése szerinti felfüggesztésre és a helyreállításra kötelez, de önmagában nem képezi a tilalom megszegését. A tilalom megszegését képezi a képesség biztosítására irányuló betanítás, hangolás vagy megtervezés, valamint ezeknek a hatás megállapítását követő folytatása.
(4) E cikk alkalmazásában az emberi jóváhagyás a súlyok minden egyes másolási vagy átadási műveletére és a kutatás-fejlesztés minden olyan szakaszára vonatkozik, amely új modellt vagy lényeges módosítást hoz létre, a folyamatban lévő feladatra elkülönített erőforrások pedig azok, amelyeket a felügyeletért felelős személyek előzetesen, ellenőrizhető módon megállapítottak.
16. cikk → az indokok
(1) A fejlesztő és az üzemeltető a csúcsrendszer betanításának, értékelésének és működésének teljes naplóit, ideértve annak külső eszközökkel és más rendszerekkel való interakcióit is, olyan körülmények között őrzi meg, amelyek biztosítják azok sértetlenségét és a Hatóság számára való elérhetőségét, a betanítás, az értékelés, az autonóm cselekvések, a súlyos incidensek és a (3) bekezdésben előírt kommunikáció tekintetében legalább 10 éves, a felhasználók egyéb interakciói tekintetében pedig legalább 3 éves időtartamon át. A naplók tartalmazzák a biztonság ellenőrzéséhez és a felelősség megállapításához szükséges információkat; az e célok szempontjából nem releváns személyes adatokat törölni kell vagy visszafordíthatatlanul anonimizálni kell, a naplókhoz való hozzáférés korlátozott, naplózott és ellenőrizhető, a valamely incidenshez vagy jogvitához kapcsolódó bizonyítékokat pedig annak rendezéséhez szükséges időtartamon át meg kell őrizni.
(2) A naplókat érthető formában kell megőrizni. Érthető az a bejegyzés, amelynek jelentése megfelelő képzettséggel rendelkező természetes személy által megállapítható, annak megvizsgálása útján, vagy azon átírási, fordítási vagy magyarázati eszközök használatával, amelyeket a fejlesztő köteles – dokumentációjukkal együtt – a Hatóság és a 14. cikk (3) bekezdése szerint kijelölt személyek rendelkezésére bocsátani.
(3) A csúcsrendszer komponensei, példányai vagy ágensei közötti kommunikációt, valamint a csúcsrendszer és más mesterséges intelligencia rendszerek közötti kommunikációt teljes körűen naplózni kell, és azt a (2) bekezdés szerint kell megőrizni. Az érthetőség követelménye nem teljesül az üzenetek puszta rögzítésével.
(4) A fejlesztő és az üzemeltető legalább negyedévente, valamint a Hatóság kérésére ellenőrzi a naplók és a (3) bekezdésben előírt kommunikáció érthetőségét, reprezentatív minta megvizsgálása útján, és rögzíti az ellenőrzés eredményét, ideértve azon üzenetek arányát is, amelyek jelentését nem lehetett megállapítani.
(5) Az érthetőség elvesztése súlyos incidensnek minősül, és azt a 20. cikk (1) bekezdése szerint kell jelenteni. Az érthetőség elvesztését akkor kell megállapítani, ha azon üzenetek aránya, amelyek jelentését nem lehet megállapítani, meghaladja a végrehajtási szabályokban előírt szintet, amely nem lehet magasabb egytizednél, vagy ha a 14. cikk (3) bekezdése szerint kijelölt személyek már nem képesek megállapítani a rendszer cselekvéseinek jelentését; az érthetőség helyreállítását ugyanezek a személyek állapítják meg, és közlik a Hatósággal. Az érthetőség helyreállításáig a fejlesztő vagy az üzemeltető felfüggeszti a rendszer autonóm cselekvéseit magukban foglaló funkcionalitásokat, valamint a rendszer komponensei, példányai vagy ágensei közötti kommunikációt, kivéve, ha a Hatóság indokolt határozattal, legfeljebb 90 napra és a kompenzáló intézkedések megjelölésével másként rendelkezik.
(6) Tilos a (3) bekezdésben előírt kommunikációban a kódolás, a tömörítés vagy a megjelenítés bármely olyan formájának használata, amelyre a fejlesztő nem bocsátja rendelkezésre a (2) bekezdésben előírt eszközöket, valamint tilos az ezen eszközök eltávolítására, megváltoztatására vagy korlátozására irányuló bármely cselekmény. E bekezdés nem tiltja a kommunikáció titkosítását, azzal a feltétellel, hogy a fejlesztő rendelkezik a visszafejtés eszközeivel, és azokat a (2) bekezdés szerint rendelkezésre bocsátja.
17. cikk → az indokok
(1) A mesterséges intelligencia rendszer útján előállított azon eredmények, amelyek hangfelvételből, képből vagy videófelvételből állnak, és amelyek tartalmuk vagy formájuk miatt összetéveszthetők valós tények, személyek vagy helyek felvételeivel, képeivel vagy ábrázolásaival, az előállítás pillanatától származási jelölést hordoznak, amely a következőkből áll:
a) érzékelhető, látható vagy hallható, világos és egyértelmű jelölés, amely jelzi, hogy az anyagot a mesterséges intelligencia eszközeivel állították elő vagy módosították;
b) beépített, automatikusan olvasható technikai jelölés, amely lehetővé teszi a rendszer, az üzemeltető és az előállítás időpontjának azonosítását.
(2) A jelölést a végrehajtási szabályokban megállapított szabványoknak megfelelően kell elkészíteni, úgy, hogy hatékony, interoperábilis és robusztus legyen, és ne lehessen eltávolítani az anyag szokásos feldolgozási, átalakítási vagy továbbítási műveleteivel. A tájékoztatás céljából előállított és a nyilvánosság rendelkezésére bocsátott szöveg az (1) bekezdés b) pontjában előírt jelölést és az ilyen eszközökkel való előállításra vonatkozó megjegyzést hordozza, kivéve az emberi szerkesztői felülvizsgálat alá vetett szöveget, amelyért természetes vagy jogi személy szerkesztői felelősséget vállal, az MI-rendelet 50. cikkének (4) bekezdésében foglalt feltételek szerint.
(3) Tilos a származási jelölés eltávolítása, megváltoztatása, elrejtése vagy meghamisítása, valamint olyan termékek vagy szolgáltatások rendelkezésre bocsátása, amelyek fő célja e műveletek elvégzése. Az előállított eredményt rendelkezésre bocsátó személy nem felel a technikai jelölésnek olyan kommunikációs vagy közzétételi szolgáltatás által okozott eltávolításáért, amelyet nem ellenőriz; az ilyen szolgáltatás nyújtója a technikai jelölést a (2) bekezdésben előírt szabványokban foglalt feltételek szerint őrzi meg, amelyek azokat a helyzeteket is szabályozzák, amelyekben az interoperabilitás nem biztosítható.
(4) A hatóságok és a közintézmények nyilvános kommunikációjukban nem terjeszthetnek a mesterséges intelligencia eszközeivel előállított vagy módosított anyagokat az (1) bekezdésben előírt jelölés nélkül, valamint e tény kifejezett megjelölése nélkül a közlemény szövegében.
(5) Az (1) bekezdésben előírt kötelezettség nem alkalmazandó:
a) azokra az anyagokra, amelyek nyilvánvalóan művészi, szatirikus, fikciós vagy hasonló jellegű mű részét képezik, amely esetben elegendő az előállított anyag létezésének megjelölése olyan formában, amely nem akadályozza a mű befogadását;
b) azokra a rendszerekre, amelyek szerkesztési segédfunkciót töltenek be, vagy amelyek nem módosítják lényegesen a felhasználó által szolgáltatott bemeneti adatokat;
c) a törvény által a bűncselekmények megelőzése, megállapítása, kivizsgálása vagy felderítése céljából engedélyezett felhasználásokra, a különös törvényben előírt garanciákkal.
(6) Azon szolgáltatók és alkalmazók tekintetében, akikre az MI-rendelet 50. cikke alkalmazandó, az (1) bekezdés a) és b) pontjában, valamint a (2) bekezdésben előírt kötelezettségeket a rendelet 50. cikke (2) és (4) bekezdésének betartásával teljesítettnek kell tekinteni, e törvény pedig kizárólag az illetékes hatóságot, a megállapítási eljárást és a szankciókat állapítja meg, a rendelet 99. cikke (4) bekezdésének keretein belül. Az (1)–(4) bekezdés rendelkezései teljes körűen alkalmazandók a Románia területén betanított vagy üzemeltetett rendszerek útján előállított azon eredményekre, amelyeket a rendelet értelmében sem nem hoznak forgalomba az Európai Unió piacán, sem nem helyeznek üzembe az Unióban, valamint a román hatóságok és közintézmények nyilvános kommunikációjára.
(7) A jelölési kötelezettség a rendszer szolgáltatóját terheli, aki biztosítja a jelölés előállításkor történő alkalmazását, valamint azon szolgáltatás üzemeltetőjét, amelynek útján az eredményt előállítják. Az a személy, aki az előállított eredményt a nyilvánosság rendelkezésére bocsátja, kizárólag a jelölés szándékos eltávolításáért, megváltoztatásáért vagy elrejtéséért felel, a (3) bekezdés szerint.
18. cikk → az indokok
(1) Az a személy, aki a nyilvánosság rendelkezésére bocsát olyan szolgáltatást, amelyet egészben vagy részben generatív mesterséges intelligencia rendszer útján nyújtanak, világos, jól látható és érthető módon, legkésőbb az első interakció pillanatában tájékoztatja erről a felhasználót.
(2) Ha valamely joghatást kiváltó vagy valamely személyt jelentős mértékben érintő szolgáltatás, aktus vagy döntés egészben vagy részben mesterséges intelligencia rendszer eredményén alapul, a személyt írásban vagy azon az adathordozón, amelyen az aktust közlik vele, tájékoztatni kell a következőkről:
a) a rendszer alkalmazása és annak a döntés meghozatalában játszott szerepe;
b) a végső döntésért felelős természetes vagy jogi személy megjelölése;
c) a természetes személy általi újbóli megvizsgáláshoz való, a 26. cikk (2) bekezdésében előírt jog, amely az e bekezdésben előírt bármely döntésre ennek megfelelően alkalmazandó, valamint az alkalmazandó jogorvoslati eszközök.
(3) A hatóságok és a közintézmények a kibocsátott aktus szövegében megjelölik a rendszer alkalmazását. A (2) bekezdésben előírt tájékoztatás vagy az e bekezdésben előírt megjelölés hiánya nem vonja maga után az aktus érvénytelenségét, de az újbóli megvizsgálás és a megtámadás határidői az érintett személlyel szemben a tájékoztatás közléséig nem kezdődnek meg; a hiányra az érintett személy a 26. cikk (5) és (6) bekezdésében foglalt feltételek szerint hivatkozhat.
(4) Az (1) bekezdésben előírt tájékoztatás nem szükséges, ha a rendszer alkalmazása az észszerűen tájékozott személy számára a körülményekből nyilvánvaló. A (2) bekezdésben előírt tájékoztatás minden esetben kötelező.
(5) E cikk rendelkezései az MI-rendelet 50. cikke (1) bekezdésének, valamint az (EU) 2016/679 rendelet 13–15. és 22. cikkének sérelme nélkül alkalmazandók.
19. cikk → az indokok
(1) Az a fejlesztő vagy üzemeltető, amelynek nincs székhelye, működési egysége vagy képviselete az Európai Unióban, és amely Románia területén lévő személyek számára hozzáférést nyújt csúcsrendszerhez vagy generatív mesterséges intelligencia rendszer útján nyújtott szolgáltatáshoz, írásban megfelelési képviselőt jelöl ki, aki Romániában lakóhellyel rendelkező természetes személy vagy Romániában székhellyel rendelkező jogi személy. Az Európai Unió más tagállamában letelepedett fejlesztő vagy üzemeltető kizárólag kapcsolattartó pontot jelöl ki a Hatóság közleményei számára, amely lehet az MI-rendelet 54. cikkében előírt meghatalmazott képviselő, az (EU) 2022/2065 rendelet 13. cikke szerint kijelölt jogi képviselő vagy bármely, az Unióban letelepedett személy, a (3) bekezdés a) és c) pontja ennek megfelelően alkalmazandó.
(2) A nem csúcsrendszernek minősülő generatív mesterséges intelligencia rendszerek útján nyújtott szolgáltatások esetében az (1) bekezdésben előírt kötelezettség kizárólag akkor alkalmazandó, ha a szolgáltatást havonta – az utolsó 6 hónap átlagában számítva – legalább 1.000.000 Románia területén lévő személy használja, vagy ha a szolgáltatás Románia területén lévő személyek részére történő nyújtásából származó bevételek az utolsó lezárt pénzügyi évben meghaladták a 10 millió euró lejben kifejezett egyenértékét; a kötelezettség a küszöb meghaladásának napjától számított 90 napon belül válik esedékessé.
(3) A megfelelési képviselő:
a) átveszi a Hatóság, az igazságszolgáltatási szervek és a többi román hatóság közleményeit, megkereséseit és határozatait, és a képviselő részére történő közlés a képviselt részére érvényesen megtett közlésnek minősül;
b) képviseli a képviseltet a Hatóság előtt, valamint – ellenkező tartalmú meghatalmazás hiányában – az e törvényben előírt közigazgatási eljárásokban;
c) a Hatóság rendelkezésére bocsátja az e törvényben előírt dokumentációt, információkat és naplókat;
d) figyelemmel kíséri a Hatóság határozatainak végrehajtását, ideértve a szolgáltatás nyújtásának megszüntetésére és a hozzáférés blokkolására vonatkozókat is.
(4) A képviselő megjelölését és elérhetőségi adatait a szolgáltatás nyújtásának megkezdése előtt be kell jelenteni a Hatóságnak, közzé kell tenni a Hatóság internetes oldalán, és a szolgáltatás kommunikációs eszközei útján a felhasználók tudomására kell hozni.
(5) A képviselő kijelölése nem szünteti meg és nem korlátozza a fejlesztő vagy az üzemeltető felelősségét. A képviselőnek a kijelölő okiratban megállapított joga van arra, hogy a képviselttől megszerezze a feladatai ellátásához szükséges dokumentumokat, információkat és eszközöket; kizárólag a (3) és (4) bekezdésben előírt saját kötelezettségeinek nem teljesítéséért felel, a képviselt magatartásáért nem, és az ezek miatt kiszabott bírságokat az ő vagyonán kell végrehajtani.
(6) Az (1) bekezdésben előírt kötelezettséget teljesítettnek kell tekinteni, ha az MI-rendelet 54. cikke szerint kijelölt meghatalmazott képviselőt kifejezetten felhatalmazták a (3) bekezdésben előírt feladatokra is, és az Románia területén kapcsolattartó ponttal rendelkezik.
(7) Az (1) bekezdésben előírt kötelezettség nem teljesítése – a megfelelési határidő lejártát követően – a 37. cikk (1) bekezdésének f) pontja szerinti közigazgatási szabályszegést, valamint a nem megfelelő üzemeltetők listájára történő felvétel indokát képezi, a 38. cikk rendelkezései ennek megfelelően alkalmazandók. A (2) bekezdésben előírt szolgáltatások esetében a hozzáférésnek a 39. cikk szerinti blokkolása kizárólag akkor rendelhető el, ha a nem teljesítés két egymást követő közigazgatási szabályszegési szankció alkalmazását követően is fennáll.
20. cikk → az indokok
(1) Minden súlyos incidenst az attól a naptól számított 24 órán belül jelenteni kell a Hatóságnak, amelyen a fejlesztő vagy az üzemeltető arról tudomást szerzett, vagy tudomást kellett volna szereznie, a tények, a megtett intézkedések és a felelős személyek leírásával, a jelentés időpontjában ismert mértékben, az információk fokozatos kiegészítésével, majd 15 napon belül teljes jelentést kell benyújtani. A Hatóság részére történő jelentés nem helyettesíti az MI-rendelet 55. cikke (1) bekezdésének c) pontjában előírt, az MI-hivatal részére történő jelentést, sem az ugyanezen rendelet 73. cikkében előírt jelentést; a szolgáltató a Hatóságnak megküldheti a rendelet szerint elkészített jelentés másolatát, kiegészítve az e törvényben előírt elemekkel.
(2) Az 5. cikk (2) bekezdésének c)–e) pontjában előírt kritikus képességek valamelyikének, a felügyelet vagy a leállítás alóli kivonásra tett kísérletnek, illetve a súlyokhoz való jogosulatlan hozzáférésnek a megállapítása a rendszer azonnali felfüggesztését vonja maga után a Hatóság határozatáig; a felfüggesztés az érintett funkcióra korlátozható, ha annak elszigetelése ellenőrizhető. E bekezdés nem alkalmazandó az elszigetelt környezetben, a 15. cikk (2) bekezdése szerint végzett engedélyezett értékelés során bekövetkező megnyilvánulásokra.
(3) A jóhiszeműen megtett jelentés és a Hatósággal való együttműködés enyhítő körülményt képez, és nem vezethet a jelentés hiányában alkalmazandónál súlyosabb szankció kiszabásához; ezek nem szüntetik meg az incidenst okozó jogsértésért való felelősséget, amelynek szándékos jellegét külön kell megítélni.
(4) A kritikus képességnek az elszigetelt környezetben végzett engedélyezett értékelés során történő megnyilvánulását a naplókban kell rögzíteni, és 5 napon belül közölni kell a Hatósággal, az alkalmazott elszigetelési intézkedésekkel együtt.
21. cikk → az indokok
(1) Azok a személyek, akik fejlesztőnél, üzemeltetőnél vagy értékelő szervezetnél működnek vagy működtek, és akik jóhiszeműen bejelentik a Hatóságnak, a Parlamentnek vagy a nyilvánosságnak e törvény megszegését, biztonsági kockázatokat vagy kritikus képességek eltitkolását, a közérdekű bejelentők védelméről szóló 361/2022. számú törvényben – az azt követő módosításokkal és kiegészítésekkel – előírt védelemben, valamint e cikk rendelkezéseinek védelmében részesülnek. Jóhiszemű az a személy, akinek észszerű oka van azt hinni, hogy a bejelentett információk a bejelentés időpontjában igazak. A nyilvános közzététel a 361/2022. számú törvényben a nyilvános közzétételre előírt feltételek szerint részesül védelemben, valamint akkor, ha az életet, az egészséget vagy a csúcsrendszer feletti emberi kontrollt fenyegető közvetlen veszélyre vonatkozik.
(2) A törvény erejénél fogva érvénytelen minden olyan szerződési kikötés, ideértve a titoktartási, a jóhírnév-sértést tiltó vagy a jogokról való lemondásra vonatkozó kikötéseket, amely megakadályozná vagy visszatartaná az (1) bekezdés értelmében vett bejelentést, illetve amely a személy vagyoni jogait az ilyen bejelentéstől való tartózkodáshoz kötné.
(3) A bejelentővel szembeni bármilyen jellegű megtorlás a 41. cikk (3) bekezdésében előírt bűncselekményt képezi.
(4) A Hatóság biztonságos és névtelen bejelentési csatornát szervez, erre a célra kijelölt személyzettel, és évente közzéteszi a beérkezett bejelentések számát és az elrendelt intézkedéseket.
(5) Az e cikkben előírt védelem nem terjed ki a súlyoknak, illetve a bejelentés tárgyával összefüggésben nem álló személyes adatoknak a nyilvános közzétételére. A bejelentéshez szükséges információknak – ideértve a súlyoknak vagy a naplóknak a bejelentés bizonyításához feltétlenül szükséges részleteit is – a biztonságos csatornán a Hatósággal való közlése nem képezi a 12. cikk megszegését, sem a 42. cikk (2) bekezdésében előírt bűncselekményt.
22. cikk → az indokok
(1) A nagy kapacitású számítási infrastruktúra szolgáltatója nyilvántartásba veteti magát a Hatóságnál, ellenőrzi az ügyfelek személyazonosságát, nyilvántartást vezet az egyes ügyfelek által felhasznált számítási volumenről, és haladéktalanul végrehajtja a Hatóság utasításait valamely ügyfél hozzáférésének felfüggesztésére vagy valamely számítási feladat leállítására; ugyanakkor biztosítja a fejlesztő és az üzemeltető számára a leállítási képesség gyakorlásához és teszteléséhez szükséges technikai eszközöket, a 14. cikkben foglalt feltételek szerint. Az utasítás megjelöli az érintett ügyfelet és számítási feladatot, azt ezek elszigetelésével és a bizonyítékok megőrzésével kell végrehajtani, és nem érintheti az infrastruktúra többi igénybe vevőjét.
(2) Tilos a számítási küszöb meghaladására alkalmas számítási kapacitás rendelkezésre bocsátása olyan személy részére, aki nem bizonyítja a 7. cikkben előírt bejelentés megtételét; a bizonyítékot a Hatóság által vezetett bejelentési nyilvántartásban kell ellenőrizni. A kapacitást 12 hónapra összesítve kell megítélni, ugyanazon ügyfél és a vele kapcsolt ügyfelek tekintetében, azon információk keretein belül, amelyekkel a szolgáltató rendelkezik, vagy amelyeket az ügyféltől megszerezhet; a szolgáltató nem köteles ismerni az ügyfél által más szolgáltatóknál felhasznált volument, és az infrastruktúra használatát nem lehet csúcsrendszer betanításának vélelmezni.
23. cikk → az indokok
(1) Azok a hatóságok és közintézmények, amelyek csúcsrendszereket fejlesztenek, szereznek be vagy üzemeltetnek, e törvény rendelkezéseinek hatálya alá tartoznak. A védelem, a közrend és a nemzetbiztonság területén a 7–11., a 35. és a 36. cikk rendelkezései nem alkalmazandók, a 12–21. cikk rendelkezései a Legfelsőbb Országvédelmi Tanács határozatában megállapított kiigazításokkal alkalmazandók, amelyek kizárólag a bejelentési eljárásra, az értékelés módozataira, a jelentéstételi feltételekre és a minősített információkhoz való hozzáférésre vonatkozhatnak, és nem szüntethetik meg az érdemi emberi kontrollt, a leállítási képességet, a 15. cikkben előírt tilalmakat, a bejelentőknek a 21. cikkben előírt védelmét, és nem módosíthatják a közigazgatási szabályszegések vagy a bűncselekmények tényállási elemeit, az V. fejezet rendelkezései pedig teljes egészében, kiigazítások nélkül alkalmazandók.
(2) A Hatóság e rendszerek felett megfelelő biztonsági tanúsítvánnyal rendelkező személyzet útján gyakorol felügyeletet. A minősített információkat érintő határozatok megtámadása a 182/2002. számú törvényben és a Polgári Perrendtartásban az ilyen információkra előírt feltételek szerint történik.
V. FEJEZET
Feltétlen korlátok. Az emberiességre vonatkozó kikötések
24. cikk → az indokok
(1) Emberi lény ellen halálos erő alkalmazására vonatkozó döntést mesterséges intelligencia rendszer nem hozhat meg és nem hajthat végre olyan azonosított természetes személy minden egyes döntésre külön kiterjedő beavatkozása nélkül, aki rendelkezik a döntés értékeléséhez és megakadályozásához szükséges információkkal, idővel és eszközökkel; a döntést és az azt jóváhagyó személyt rögzíteni kell. E cikk nem vonatkozik a lövedékek és a személyzet nélküli eszközök automatikus elfogására, sem a kiképzési szimulációkra, a nemzetközi humanitárius joggal való összhangot pedig a különös jogszabályok biztosítják.
(2) A román állam nem fejleszt, nem szerez be, nem üzemeltet és nem engedélyez a területén a 3. cikk (1) bekezdésének x) pontja értelmében vett halálos autonóm fegyverrendszereket, és a nemzetközi szervezetek keretében támogatja azok betiltását.
25. cikk → az indokok
(1) A mesterséges intelligencia rendszerek nem szerezhetnek jogi személyiséget, nem lehetnek jogok vagy kötelezettségek jogosultjai, és nem lehetnek jogviszonyok részesei. A mesterséges intelligencia rendszer útján megkötött minden jogi cselekmény annak a természetes vagy jogi személynek tudható be, akinek a nevében a rendszer eljárt.
(2) Tilos mesterséges intelligencia rendszer számára olyan képesség biztosítása, hogy saját nevében pénzösszegekkel, digitális eszközökkel, pénzügyi instrumentumokkal, javakkal, számlákkal vagy kriptográfiai kulcsokkal rendelkezzen. Az ilyen erőforrások vagy számítási erőforrások mesterséges intelligencia rendszer útján történő kezelése vagy az azokról való rendelkezés kizárólag a felelős természetes vagy jogi személy által előzetesen megállapított, a 3. cikk (1) bekezdésének cc) pontja értelmében vett működési megbízás keretein belül megengedett; tilos a működési megbízásnak a rendszer általi autonóm kiterjesztése, a működési megbízást meghaladó bármely művelet pedig a megbízónak tudható be, és a rendszer leállítására kötelez.
(3) Tilos olyan jogi személyek, vagyonkezelő alapítványok vagy más szervezetek létrehozása, amelyek tényleges ellenőrzését – amely alatt a szervezet aktusai feletti valós döntési hatalom értendő – mesterséges intelligencia rendszer gyakorolja; a rendszer elemzésre vagy ajánlások készítésére való használata nem minősül tényleges ellenőrzésnek.
26. cikk → az indokok
(1) Hatóság vagy közintézmény, valamint általános érdekű alapvető szolgáltatás szolgáltatója sem kötheti feltételhez, nem korlátozhatja és nem függesztheti fel valamely személy hozzáférését az alapvető jogok és szabadságok gyakorlásához, a közszolgáltatásokhoz, az általános érdekű alapvető szolgáltatásokhoz, illetve a gazdasági, társadalmi és polgári életben való részvételhez kizárólag mesterséges intelligencia rendszer által előállított döntés, értékelés vagy osztályozás alapján.
(2) Az (1) bekezdésben előírtak közé tartozó döntéssel, értékeléssel vagy osztályozással érintett személynek joga van annak a kérelemtől számított 15 napon belüli újbóli megvizsgálásához a hatóság, az intézmény vagy a szolgáltató keretében működő azonosított természetes személy által, aki a végső döntés felelősségét viseli, és azt indokolva, írásban közli. Nem minősül újbóli megvizsgálásnak a döntésnek a személy helyzetének tényleges megvizsgálása nélküli megerősítése. Ha a döntés egészségügyi szolgáltatásra vagy valamely általános érdekű alapvető szolgáltatás megszakítására vonatkozik, a személy számára kérelemre, legfeljebb 48 órán belül biztosítani kell a hozzáférés ideiglenes fenntartását az újbóli megvizsgálás eredményének közléséig.
(3) A hatóságok, a közintézmények és az általános érdekű alapvető szolgáltatások szolgáltatói minden esetben biztosítják a szolgáltatás megszerzését vagy a jog gyakorlását olyan úton is, amely nem függ mesterséges intelligencia rendszertől, természetes személy közvetítésével, a székhelyen, az ügyfélpultnál vagy a személy számára elérhető más módon.
(4) Tilos mesterséges intelligencia rendszert alkalmazni arra, hogy az (1) bekezdésben előírt hozzáférést digitális azonosítási eszköz, digitális fizetési eszköz vagy a személy megfelelését értékelő rendszer elfogadásához kössék; a személy számára minden esetben biztosítani kell olyan hozzáférési alternatívát, amely nem jár ilyen eszközökkel. Az alternatíva nem szünteti meg a személy azonosítására vagy a fizetések biztonságára vonatkozó törvényi kötelezettségeket, amelyeket olyan eszközökkel kell teljesíteni, amelyek nem feltételezik az e bekezdésben előírt instrumentumok elfogadását.
(5) A (2) bekezdésben előírt újbóli megvizsgálást követően fenntartott döntés, az újbóli megvizsgálás megtagadása, valamint a (3) bekezdésben előírt hozzáférési út vagy a (4) bekezdésben előírt alternatíva biztosításának megtagadása ellen az érintett személy a lakóhelye vagy tartózkodási helye szerinti törvényszéknél támadhat, a közléstől, illetve esettől függően a megtagadástól számított 30 napon belül, függetlenül attól, hogy a döntés hatóságtól vagy közintézménytől, illetve általános érdekű alapvető szolgáltatás szolgáltatójától származik. A kérelem bírósági illetékmentes, nem tartozik előzetes eljárás alá, és azt sürgősséggel és soron kívül, a Polgári Perrendtartásban előírt peres eljárás szerint kell elbírálni; az újbóli megvizsgálás iránti kérelemre a (2) bekezdésben előírt határidőn belül adott válasz hiánya a döntés fenntartásával egyenértékű; a bíróság kérelemre elrendelheti a döntés felfüggesztését a jogorvoslat elbírálásáig.
(6) A törvényszék határozata ellen a közléstől számított 15 napon belül fellebbezéssel lehet fordulni az ítélőtáblához. Az ítélőtábla határozata végleges. A közigazgatási bíráskodásról szóló 554/2004. számú törvény – az azt követő módosításokkal és kiegészítésekkel – 7., 10. és 20. cikkétől eltérően az (5) és (6) bekezdés rendelkezései a hatóságok és közintézmények döntései ellen előterjesztett jogorvoslatokra is alkalmazandók.
(7) E cikk értelmében általános érdekű alapvető szolgáltatások a villamos energia, a földgáz és a víz szolgáltatása, az elektronikus hírközlési szolgáltatások, a pénzügyi és fizetési szolgáltatások, az egészségügyi, a közösségi közlekedési és az oktatási szolgáltatások.
(8) E cikk rendelkezései az MI-rendelet 5. cikke (1) bekezdése c) pontjának, valamint a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról szóló, 2016. április 27-i (EU) 2016/679 európai parlamenti és tanácsi rendelet 22. cikkének sérelme nélkül alkalmazandók.
27. cikk → az indokok
(1) A Románia Alkotmánya, újraközölt szöveg 30. cikkének (2) bekezdése által tiltott bármely formájú cenzúra akkor is tilos, ha azt egészben vagy részben mesterséges intelligencia rendszer útján gyakorolják. Mesterséges intelligencia rendszer nem alkalmazható a Románia területén lévő személyek véleménynyilvánítási szabadságának, illetve információk és eszmék megismeréséhez és közléséhez való joguknak a korlátozására, a törvényben előírt eseteken kívül és a (2)–(6) bekezdésben előírt feltételek betartása nélkül.
(2) Tilos mesterséges intelligencia rendszert alkalmazni arra, hogy Románia területén lévő személy valamely vélemény, meggyőződés vagy információ nyilvános kifejezését megakadályozzák, eltávolítsák, blokkolják, elrejtsék, láthatóságát korlátozzák, illetve azt hamisnak vagy megbízhatatlannak minősítsék, valamint arra, hogy a személyt e kifejezés miatt bármely más módon szankcionálják, kizárólag a rendszer által előállított döntés, értékelés vagy osztályozás alapján, ha a kifejezést a törvény nem tiltja.
(3) A hatóságok és a közintézmények nem alkalmazhatnak, nem rendelhetnek meg, nem finanszírozhatnak és nem kérhetnek – sem közvetlenül, sem harmadik személyek útján – mesterséges intelligencia rendszert a személyek nyilvános véleménynyilvánításuk alapján történő egyedi megfigyelésére, illetve véleménynyilvánításuk osztályozására, megjelölésére vagy korlátozására, kivéve a törvényben kifejezetten előírt eseteket, a büntetőtörvényben meghatározott tényállásokkal összefüggésben és a bíró előzetes engedélyével. Nem minősül e bekezdés értelmében vett megfigyelésnek a nyilvános információk statisztikai vagy nem egyedi feldolgozása.
(4) Minden olyan intézkedést, amellyel mesterséges intelligencia rendszer útján korlátozzák Románia területén lévő személy véleménynyilvánítását, haladéktalanul, írásban közölni kell a személlyel, megjelölve az indokokat, a jogalapot és azt a tényt, hogy az intézkedést ilyen rendszer útján hozták meg. Tilos valamely személy véleménynyilvánítása láthatóságának be nem jelentett, annak tudta nélküli korlátozása.
(5) A (2) és (4) bekezdésben előírtak közé tartozó intézkedéssel érintett személynek joga van annak a kérelemtől számított 15 napon belüli újbóli megvizsgálásához az intézkedést meghozó hatóság, intézmény vagy szereplő keretében működő azonosított természetes személy által, aki a végső döntés felelősségét viseli; a 26. cikk (5) és (6) bekezdésének rendelkezései ennek megfelelően alkalmazandók.
(6) A közvetítő szolgáltatások nyújtói tekintetében e cikk rendelkezései a digitális szolgáltatások egységes piacáról és a 2000/31/EK irányelv módosításáról szóló, 2022. október 19-i (EU) 2022/2065 európai parlamenti és tanácsi rendelettel összeegyeztethető mértékben alkalmazandók, amelynek a szerződési feltételekre, a döntések indokolására és a panaszok elbírálására vonatkozó rendelkezései továbbra is alkalmazandók; e cikk nem akadályozza a kéretlen üzenetek, az automatizált fiókok vagy az informatikai biztonsági kockázatok elleni intézkedéseket, sem a felhasználó által választott szűrőket, és nem értelmezhető úgy, hogy korlátozza a rendeletben a szolgáltatások igénybe vevői számára előírt bármely garanciát.
28. cikk → az indokok
Tilos bármely csúcsrendszer üzembe helyezése vagy üzemeltetésben tartása olyan körülmények között, amelyek technikailag vagy szervezetileg lehetetlenné teszik a 14. cikkben előírt emberi beavatkozást, ideértve a rendszer olyan infrastruktúrákra való szétosztását, amelyek nem állnak az üzemeltető ellenőrzése alatt, a leállítási képesség törlését, illetve olyan autonómiafok biztosítását, amely kizárja a felügyeletet. A harmadik személy tulajdonában álló infrastruktúra használata önmagában nem minősül az ellenőrzés hiányának, ha a szerződéses jogok és a technikai eszközök lehetővé teszik az üzemeltető számára a leállítási képesség ellenőrizhető gyakorlását; valamely beavatkozási út haladéktalanul elhárított és a naplókban rögzített átmeneti elérhetetlensége nem minősül e cikk értelmében vett lehetetlenségnek.
29. cikk → az indokok
Tilos bármely mesterséges intelligencia rendszer megtervezése, betanítása vagy üzemeltetése rekurzív önfejlesztés céljából vagy azzal a hatással. Minden olyan iteráció, amellyel a csúcsrendszer lényeges módosítás útján hozzájárul valamely utódrendszer létrehozásához vagy tökéletesítéséhez, a III. fejezetben előírt értékelés és engedélyezés alá tartozik; azok a kutatási programok, amelyekben a csúcsrendszereket eszközként használják, egészükben engedélyezhetők, a 8. cikk szerint megállapított kötelező leállítási pontokkal és minden olyan szakasz emberi jóváhagyásával, amely új modellt vagy lényeges módosítást hoz létre.
30. cikk → az indokok
(1) E fejezet rendelkezései közrendi jellegűek. Minden ezzel ellentétes jogi cselekmény, engedély, szerződés vagy kikötés a törvény erejénél fogva érvénytelen, és az előírt tilalmak nem szüntethetők meg az érdekelt személyek hozzájárulásával, sem üzleti titokra, nemzetbiztonságra vagy gazdasági érdekre való hivatkozással; a 23. cikkben előírt kiigazítások nem képeznek eltérést e fejezet garanciáitól.
(2) Az érvénytelenség kizárólag az ellentétes kikötést érinti, a többi kikötés érvényben marad, ha az nélkül is fennállhat; a jogsértésben részt nem vevő harmadik személyek jóhiszeműen szerzett jogai védelemben részesülnek. E fejezet rendelkezései az Európai Unió közvetlenül alkalmazandó jogának sérelme nélkül alkalmazandók.
VI. FEJEZET
A Mesterséges Intelligencia Biztonságáért Felelős Hatóság
31. cikk → az indokok
(1) Létrejön a Mesterséges Intelligencia Biztonságáért Felelős Hatóság, jogi személyiséggel nem rendelkező szakstruktúra, amely a Hírközlési Igazgatási és Szabályozási Nemzeti Hatóság – a továbbiakban: ANCOM – keretében szerveződik, székhelye Bukarest municípiumban van.
(2) A Hatóságot az ANCOM államtitkári rangú alelnöke vezeti, aki kizárólagos feladatkörrel rendelkezik a mesterséges intelligencia biztonságának területén. A Hírközlési Igazgatási és Szabályozási Nemzeti Hatóság létrehozásáról szóló, a 113/2010. számú törvénnyel jóváhagyott 22/2009. számú sürgősségi kormányrendelet – az azt követő módosításokkal és kiegészítésekkel – 11. cikke (1) bekezdésétől eltérően az ANCOM az abban előírt alelnökök mellett rendelkezik egy, a mesterséges intelligencia biztonságáért felelős alelnökkel, akit a Parlament a Képviselőház és a Szenátus együttes ülésén nevez ki 6 éves, meg nem újítható mandátumra, a mesterséges intelligencia, az informatikai biztonság vagy a technológiai jog területén elismert képzettséggel és tapasztalattal rendelkező személyek közül. A Parlament a tisztség megüresedésétől számított 60 napon belül dönt a kinevezésről; a kinevezésig a feladatköröket legfeljebb 6 hónapig az ANCOM elnöke által kijelölt ANCOM-alelnök gyakorolja.
(3) A mesterséges intelligencia biztonságáért felelős alelnök a mandátum idején és annak megszűnését követő 3 éven át nem tölthet be semmilyen tisztséget, nem rendelkezhet közvetlen részesedéssel és nem fogadhat el díjazást fejlesztőtől vagy üzemeltetőtől; a döntési joggal nem járó, diverzifikált befektetési alapokon keresztüli részesedés nem minősül részesedésnek, a mandátum megszűnését követő korlátozásért pedig a végrehajtási szabályokban megállapított kompenzációs juttatás jár. Az alelnököt a Parlament kizárólag az e törvényben előírt kötelezettségek súlyos megszegése, szándékosan elkövetett bűncselekményért való véglegessé vált elmarasztalás, megállapított összeférhetetlenség, illetve a tisztség 6 hónapot meghaladó időszakra való gyakorlásának lehetetlensége esetén hívhatja vissza.
(4) Az e törvényben előírt határozatokat az ANCOM nevében a mesterséges intelligencia biztonságáért felelős alelnök adja ki, aki azokért a Parlament előtt felel. Az e törvényben előírt feladatkörök gyakorlása során a Hatóság semmilyen más hatóságtól vagy közintézménytől nem fogadhat el utasításokat.
(5) A Hatóság az Európai Bizottság MI-hivatalával és az MI-rendeletben előírt tudományos testülettel való nemzeti kapcsolattartó pontként működik, és együttműködik az annak alapján kijelölt nemzeti hatóságokkal, amelyek megőrzik saját feladatköreiket; a Hatóság a csúcsrendszerek tekintetében kizárólag az e törvényben előírt feladatköröket gyakorolja, és tájékoztatja az MI-hivatalt az általános célú modelleket érintő döntésekről.
32. cikk → az indokok
(1) A Hatóság fő feladatkörei a következők:
a) átveszi a bejelentéseket, elvégzi a független értékeléseket, valamint kiadja, feltételhez köti, felfüggeszti és visszavonja a III. fejezetben előírt engedélyeket;
b) ellenőrzi – ideértve az előre be nem jelentett ellenőrzést is – a fejlesztők és az üzemeltetők székhelyét, valamint a számítási infrastruktúrákat, hozzáféréssel a rendszerekhez, a súlyokhoz, a naplókhoz, a dokumentumokhoz és a személyzethez, a (3) bekezdésben foglalt feltételek szerint;
c) elrendeli bármely csúcsrendszer leállítását, felfüggesztését vagy visszavonását, a számítási infrastruktúrához való hozzáférés felfüggesztését, a szolgáltatások nyújtásának megszüntetését és a hozzáférés blokkolását a 38. és 39. cikk szerint;
d) kidolgozza és naprakészen tartja az értékelési, a súlyok biztonságára és a leállítási képességre vonatkozó szabványokat, valamint az 5. cikk (2) bekezdésében előírt kritikus képességek értékelési módszereit és jelentőségi szintjeit, a (4) bekezdésben foglalt feltételek szerint;
e) megállapítja a közigazgatási szabályszegéseket, alkalmazza az e törvényben előírt szankciókat, és megkeresi a büntetőeljárást lefolytató szerveket;
f) kijelöli és felügyeli a független értékelő szervezeteket;
g) átveszi a személyek bejelentéseit a 26. és 27. cikk megszegésével kapcsolatban, megállapítja a jogsértéseket és elrendeli azok megszüntetését, a személy bírósághoz fordulási jogának sérelme nélkül;
h) minden év március 31. napjáig nyilvános jelentést nyújt be a Parlamentnek a kockázat állapotáról, a megfigyelt képességekről, a jelentett incidensekről, a küszöbök alakulásáról, a 26. és 27. cikk megszegésével kapcsolatos bejelentésekről és a jogszabályi javaslatokról;
i) képviseli Romániát az európai és nemzetközi szakmai fórumokon, és elősegíti az e törvénnyel egyenértékű szabályok elfogadását;
j) finanszírozza és végzi a mesterséges intelligencia rendszerek értékelése, értelmezhetősége és illesztése területén folyó kutatást, az eredmények külső értékelésével és a (2) bekezdésben előírt összeférhetetlenségi szabályok alkalmazásával.
(2) Az értékelési, a vizsgálati és a szankcionálási döntéshozatali feladatköröket a Hatóságon belül elkülönült struktúrák gyakorolják; az értékelést vagy a vizsgálatot végző személy nem vesz részt a szankcionáló határozat meghozatalában. Az értékelő szervezeteket nyilvános kritériumok alapján jelölik ki, kizárási szabályokkal és az összeférhetetlenség megelőzésére vonatkozó szabályokkal, és nem értékelhetik azon személyek rendszereit, akikkel gazdasági kapcsolatban állnak.
(3) Az ellenőrzést az alelnök írásbeli rendelkezése alapján kell elvégezni, amely megjelöli annak tárgyát és célját, és amelyről jegyzőkönyvet kell felvenni; a lakóhelyül szolgáló helyiségekbe való bejutás kizárólag bírói engedéllyel történhet, az ügyvédi titok és a törvény által védett egyéb titkok pedig védelemben részesülnek. A személyzethez való hozzáférés nem sérti a személyeket a közigazgatási szabályszegési vagy a büntetőeljárásban megillető jogokat.
(4) A Hatóság által jóváhagyott szabványok az e törvényben megállapított kategóriák és kritériumok keretein belül részletezik az értékelési módszereket. E szabványok útján nem vezethetők be a tiltott képességek új kategóriái, és nem terjeszthetők ki az e törvényben előírt közigazgatási szabályszegések vagy bűncselekmények tényállási elemei.
33. cikk → az indokok
(1) A Hatóság szakszemélyzetét kizárólag az ANCOM által szervezett versenyvizsga alapján nevezik ki, amelyen való részvétel nyitott minden olyan személy számára, aki megfelel a versenyvizsga-kiírásban megállapított tanulmányi és tapasztalati feltételeknek; a kiírást a lebonyolítás időpontja előtt legalább 30 nappal közzé kell tenni. A versenyvizsga eredményei a közigazgatási bíróság előtt megtámadhatók.
(2) A versenyvizsga-bizottság legalább 5 tagból áll, akik közül legalább 3 az információtechnológia és a távközlés területén működő egyetemi tanár, vagy a mesterséges intelligencia rendszerek biztonsága és értékelése terén elismert gyakorlati tapasztalattal rendelkező szakember, akiket az ANCOM megkeresésére az e területeken doktori képzést szervező akkreditált felsőoktatási intézmények javasolnak. A bizottság tagjai nem tölthetnek be semmilyen tisztséget, nem rendelkezhetnek részesedéssel és nem fogadhatnak el díjazást fejlesztőtől vagy üzemeltetőtől, és a jelöltekkel nem állhatnak olyan viszonyban, amely összeférhetetlenséget von maga után. A bizottság összetételét és a versenyvizsga eredményeit közzé kell tenni az ANCOM internetes oldalán.
(3) A Hatóság szakszemélyzetét az ANCOM bérrendszere szerint, az egyenértékű tisztségek tekintetében a magánszektorban alkalmazottal versenyképes szinten díjazzák, amelyet évente az ANCOM elnöke állapít meg a mesterséges intelligencia biztonságáért felelős alelnök véleményével, közzétett piaci tanulmány alapján.
(4) A Hatóság személyzete a 31. cikk (3) bekezdésében előírt titoktartási kötelezettségek és összeférhetetlenségek alá tartozik, a szolgálati jogviszony időtartama alatt és annak megszűnését követő 2 éven át.
(5) A Hatóság finanszírozása az ANCOM költségvetéséből történik, évente jóváhagyott és külön kimutatott elkülönített allokáció útján, valamint a végrehajtási szabályokban a nyújtott szolgáltatás költségéhez viszonyítva megállapított bejelentési, értékelési és engedélyezési díjakból. Az e törvény alapján kiszabott bírságok az állami költségvetés bevételét képezik, és nem határozhatják meg a Hatóság forrásait. A 32. cikk (1) bekezdésének j) pontjában előírt kutatást elkülönített költségvetési allokációból kell finanszírozni, a kiszabott szankcióktól függetlenül. A Hatóság kezdeti költségvetését, ideértve a szükséges személyzetet és infrastruktúrát is, az ANCOM biztosítja a díjak beszedése előtt.
34. cikk → az indokok
(1) A Hatóság mellett tudományos tanácsadó testület működik, amely 9 tagból, a területen elismert munkásságú kutatókból áll, akik közül legalább 3 külföldi, és amely véleményezi az értékelési szabványokat, a kritikus képességek értékelési módszereit és jelentőségi szintjeit, valamint a küszöbök kiigazítására vonatkozó javaslatokat, és különvéleményt tesz közzé, ha nem osztja a Hatóság álláspontját.
(2) A tudományos tanácsadó testület tagjait a mesterséges intelligencia biztonságáért felelős alelnök nevezi ki, a Román Akadémia és a területen doktori képzést szervező felsőoktatási intézmények javaslatára, 4 éves, egy alkalommal megújítható mandátumra; rájuk a 31. cikk (3) bekezdésében előírt összeférhetetlenségi szabályok vonatkoznak, és kizárólag megállapított összeférhetetlenség vagy az üléseken való igazolatlan részvétel hiánya miatt hívhatók vissza. A testület a tagok többségével fogadja el a véleményeket.
(3) A tudományos tanácsadó testület véleménye tanácsadó jellegű; ha a Hatóság eltér a véleménytől, azt indokolnia kell. A tagoknak a védett információkhoz való hozzáférése a törvényben foglalt feltételek szerint történik, a különvéleményeket pedig olyan változatban kell közzétenni, amely védi az érzékeny információkat, és megőrzi a tudományos érvelést.
VII. FEJEZET
A felelősség
1. szakasz. A polgári jogi felelősség
35. cikk → az indokok
(1) A fejlesztő és az üzemeltető egyetemlegesen, bármely felróhatóságtól függetlenül felel a csúcsrendszer által okozott bármilyen jellegű kárért, ideértve a rendszer autonóm cselekvései útján, a rendszer harmadik személyek általi felhasználása útján, illetve a súlyok kiszivárogtatása útján okozott kárt is, a Polgári Törvénykönyv 1376. cikkének rendelkezéseit ennek megfelelően alkalmazva. A sértett bizonyítja a kárt és az annak, valamint a rendszer működése közötti okozati összefüggést; a bíróság elrendelheti a naplókhoz és a releváns dokumentációhoz való hozzáférést, a bizalmas információk védelmével, és ha a fejlesztő vagy az üzemeltető nem mutatja be azokat a naplókat, amelyeket köteles volt megőrizni, az okozati összefüggést az ellenkező bizonyításáig vélelmezni kell. Egymás közötti viszonyaikban a fejlesztő és az üzemeltető a kár előidézéséhez való hozzájárulásuk arányában felelnek, a rendszert lényegesen módosító személy pedig fejlesztőként felel a módosítás által okozott károkért.
(2) A felelősség alóli mentesülésre kizárólag akkor lehet hivatkozni, ha a kárt kizárólag a sértett cselekménye vagy a rendszeren kívüli vis maior esemény okozta. Nem képez vis maiort a rendszer előre nem látható magatartása, az értékelési hiba, a rendszerhez vagy a súlyokhoz hozzáférést szerző harmadik személy cselekménye, sem a tudományos ismeretek hiánya az üzembe helyezés időpontjában.
(3) Érvénytelenek a sértettekkel szembeni felelősséget korlátozó vagy kizáró kikötések. A szakmai szereplők közötti korlátozó kikötések kizárólag az egymás közötti viszonyaik és a saját vagyoni káraik tekintetében érvényesek, és nem érinthetik a sértettek jogait, sem a 36. cikkben előírt fedezetet.
(4) A keresetjog 10 év alatt elévül attól a naptól számítva, amelyen a sértett megismerte vagy meg kellett volna ismernie a kárt és a felelős személyt, de nem később, mint a cselekmény bekövetkezésétől számított 30 év. Folyamatos cselekmény esetén a határidő annak megszűnésétől számít.
(5) E cikk önálló felelősségi jogalapot állapít meg, amely a rendszer fejlesztése és üzemeltetése által teremtett kockázaton alapul, és nem módosítja a hibás termékekért való felelősség harmonizált rendszerét; ez nem érinti a sértett jogát arra, hogy e rendszer vagy a törvényben előírt más jogalapok alapján kárának megtérítését elérje, anélkül azonban, hogy ugyanazt a kárt kétszer meg lehetne téríteni. Amennyiben a (2) bekezdésben előírt, a tudományos ismeretek hiányára vonatkozó kizárás a hibás termékekért való felelősségről és a 85/374/EGK tanácsi irányelv hatályon kívül helyezéséről szóló, 2024. október 23-i (EU) 2024/2853 európai parlamenti és tanácsi irányelv hatálya alá tartozik, a Kormány teljesíti az irányelv 18. cikkében előírt alaki követelményeket.
36. cikk → az indokok
(1) A csúcsrendszer fejlesztője és üzemeltetője felelősségbiztosítást köt és tart fenn, vagy pénzügyi biztosítékot képez, a végrehajtási szabályokban megállapított, rendszerkategóriák szerint differenciált legkisebb összegben, amely eseményenként nem lehet kevesebb az I. kategóriás rendszerek esetében 100 millió euró, a II. kategóriás rendszerek esetében 1 milliárd euró lejben kifejezett egyenértékénél, az összesített éves felső határ pedig legalább ezen összegek kétszerese; a fedezet kimerülését követően azt 30 napon belül helyre kell állítani. Ha a Hatóság a Pénzügyi Felügyeleti Hatósággal folytatott konzultációt követően nyilvános jelentésben megállapítja a fedezet piaci elérhetetlenségét az e törvényben foglalt feltételek szerint, a Kormány a végrehajtási szabályokban alacsonyabb szinteket állapíthat meg, amelyek nem csökkenthetők az előírt összegek egyötöde alá, valamint alternatív garanciamechanizmusokat, ideértve a csoportos garanciákat, a banki garanciákat vagy a fejlesztők és üzemeltetők által finanszírozott garanciaalapot is.
(2) A pénzügyi biztosíték bankgarancia-levél, letét vagy engedélyezett pénzügyi intézmény által kibocsátott garancia formájában képezhető, amely a sértett kérelmére, jogerős bírósági határozat vagy egyezség alapján végrehajtható. A sértettet közvetlen kereset illeti meg a biztosítóval, illetve adott esetben a garancia kibocsátójával szemben.
2. szakasz. A közigazgatási szabályszegésekért való felelősség
37. cikk → az indokok
(1) Közigazgatási szabályszegést képeznek – ha nem olyan körülmények között követték el őket, hogy a törvény szerint bűncselekménynek minősülnének – a következő cselekmények:
a) a 7. cikkben és a 10. cikk (2) bekezdésében előírt bejelentési kötelezettség nem teljesítése, illetve hiányos információk szolgáltatása, az előző pénzügyi évi teljes világszintű árbevétel 1%-ától 3%-áig terjedő bírsággal;
b) a biztonsági terv, a funkciók szétválasztására, a naplózásra, a 16. cikk (1)–(5) bekezdésében előírt, az érthetőség biztosítására és ellenőrzésére, a 14. cikk (1), (5) és (6) bekezdésében előírt leállítási képesség fenntartására és tesztelésére, a 28. cikk hatálya alá tartozó cselekmények kivételével, a 14. cikk (3) bekezdésében előírt, az emberi felügyeletért felelős személyek kijelölésére, vagy az incidensek jelentésére vonatkozó kötelezettségek be nem tartása, a világszintű árbevétel 2%-ától 5%-áig terjedő bírsággal;
c) az engedély feltételeinek, a súlyok biztonságára vonatkozó szabványoknak vagy a számítási infrastruktúra szolgáltatóit terhelő kötelezettségeknek a be nem tartása, a világszintű árbevétel 3%-ától 7%-áig terjedő bírsággal;
d) a 12. cikk (2) bekezdésében, a 14. cikk (2) bekezdésében, a 15. cikkben, a 16. cikk (6) bekezdésében és a 25–29. cikkben előírt tilalmak megszegése, a világszintű árbevétel 5%-ától 10%-áig terjedő bírsággal;
e) a 17. cikk (1), (2) és (4) bekezdésében előírt jelölési kötelezettségek be nem tartása, illetve a 17. cikk (3) bekezdésében előírt tilalom megszegése, a világszintű árbevétel 2%-ától 5%-áig terjedő bírsággal; az MI-rendelet 50. cikkének megsértését képező cselekmények esetében a bírságot a rendelet 99. cikkének (4) bekezdésében előírt korlátok között kell alkalmazni;
f) a 18. cikkben előírt tájékoztatási kötelezettség, illetve a 19. cikkben előírt, a megfelelési képviselőre vonatkozó kötelezettségek nem teljesítése, a világszintű árbevétel 1%-ától 3%-áig terjedő bírsággal.
(2) Az árbevételt el nem érő jogi személyek esetében a bírság 100.000 lejtől 10.000.000 lejig, a természetes személyek esetében pedig 10.000 lejtől 1.000.000 lejig terjed. Az (1) bekezdés e) és f) pontjában előírt, csúcsrendszer fejlesztőjének vagy üzemeltetőjének nem minősülő személyek által elkövetett közigazgatási szabályszegések esetében a bírság a jogi személyek esetében 20.000 lejtől 1.000.000 lejig, a természetes személyek esetében pedig 5.000 lejtől 200.000 lejig terjed.
(3) A bírságszankciót a cselekmény súlyosságával arányosan kísérhetik az engedély felfüggesztésének vagy visszavonásának, a fejlesztési tevékenység legfeljebb 5 évre történő megtiltásának, a súlyok elkobzásának és a határozat közzétételének kiegészítő szankciói; az elkobzott súlyokat a Hatóság a 12. cikkben foglalt feltételek szerint őrzi meg.
(4) Az e törvényben előírt közigazgatási szabályszegésekre a közigazgatási szabályszegések jogi rendszeréről szóló, a 180/2002. számú törvénnyel módosításokkal és kiegészítésekkel jóváhagyott 2/2001. számú kormányrendelet – az azt követő módosításokkal és kiegészítésekkel – rendelkezései alkalmazandók. A 2/2001. számú kormányrendelet 28. cikkétől eltérően a szabályszegő nem fizetheti meg a bírság legkisebb összegének felét. Ugyanezen rendelet 13. cikke (1) bekezdésétől eltérően a szankció alkalmazása a cselekmény elkövetésétől számított 5 év alatt elévül.
(5) A szankció egyénre szabása során figyelembe kell venni a cselekmény súlyosságát és kiterjedését, az általa teremtett veszélyt, az elkövető tényleges ellenőrzését a cselekmény felett, a Hatósággal való együttműködést és az orvoslást. A világszintű árbevétel a szabályszegő által az előző pénzügyi évben elért árbevétel, illetve, ha az valamely csoport tagja, a csoport egészének árbevétele. Ugyanazon cselekményért nem szabható ki két szankció e törvény és az MI-rendelet alapján; a hatóságok és a közintézmények esetében a bírságot a felelős természetes személyre kell kiszabni, a (2) bekezdésben előírt korlátok között.
3. szakasz. A szolgáltatások nyújtásának megszüntetése és a hozzáférés blokkolása
38. cikk → az indokok
(1) Azt az üzemeltetőt, aki Románia területén lévő személyek számára e törvény rendelkezéseinek be nem tartásával nyújt hozzáférést csúcsrendszerhez, a Hatóság felszólítja, legalább 15 napos orvoslási határidő biztosításával és álláspontja előadásának lehetőségével. Ha a meg nem felelés a határidő lejártakor is fennáll, vagy olyan súlyos kockázatban áll, amely e határidőn belül nem orvosolható, a Hatóság indokolt határozattal megállapítja a meg nem felelést, és az üzemeltető köteles a szolgáltatás e személyek részére történő nyújtását a határozat közlésétől számított 15 napon belül megszüntetni. Az életet, az egészséget vagy a rendszer feletti emberi kontrollt fenyegető közvetlen veszély esetén orvoslási határidőt nem kell biztosítani, a határozatot pedig a sürgősség tekintetében is indokolni kell.
(2) Az (1) bekezdésben előírt határozatot közzé kell tenni a Hatóság internetes oldalán, a nem megfelelő üzemeltetők listáján, megjelölve a szolgáltatást, az üzemeltetőt és a megszegett rendelkezéseket, és közölni kell az elektronikus hírközlő hálózatok és szolgáltatások szolgáltatóival.
(3) A szolgáltatás nyújtásának az (1) bekezdésben előírt határidő lejártát követő folytatása közigazgatási szabályszegést képez, és a nyújtás folytatásának minden hónapjára – a hónaptöredékeket arányosan számítva – 100.000 euró összeg lejben kifejezett egyenértékétől 10.000.000 euró összeg lejben kifejezett egyenértékéig terjedő, a folytatás időtartamához, az érintett személyek számához és a meg nem felelés súlyosságához igazodó bírsággal szankcionálandó, anélkül hogy ugyanazon meg nem felelésért kiszabott bírságok összege meghaladhatná az éves világszintű árbevétel 5%-át; a bírságot az eredeti jogsértésért kiszabott szankciótól elkülönítve kell alkalmazni.
(4) Az üzemeltetőt a Hatóság határozatával kell törölni a nem megfelelő üzemeltetők listájáról, amelyet a megfelelés igazolásának bemutatásától számított 10 napon belül kell kiadni, és haladéktalanul közölni kell a blokkolást végrehajtó szolgáltatókkal; a törlés megtagadása vagy késedelme a 39. cikk (5) bekezdése szerint megtámadható.
(5) E cikk rendelkezései alkalmazandók arra a fejlesztőre is, aki közvetlenül nyújt hozzáférést csúcsrendszerhez Románia területén lévő személyek számára.
39. cikk → az indokok
(1) A megfelelésig a Hatóság indokolt határozattal elrendelheti a nem megfelelő üzemeltetők listájára felvett szolgáltatáshoz való hozzáférés blokkolását Románia területéről, kizárólag akkor, ha a kevésbé korlátozó intézkedések nem vezettek megfelelésre, vagy a kockázat súlyosságához képest nyilvánvalóan elégtelenek. A határozat megvizsgálja az intézkedés szükségességét és arányosságát, elkerüli az ugyanazon infrastruktúrán tárolt más szolgáltatások érintését, és hivatalból 90 naponta felülvizsgálandó; a felhasználókat egy átirányító oldalon keresztül tájékoztatni kell az intézkedés indokáról és a jogorvoslat módjáról.
(2) A blokkolásról szóló határozatot közölni kell az elektronikus hírközlő hálózatok és szolgáltatások szolgáltatóival, akik azt a közléstől számított 48 órán belül végrehajtják.
(3) A blokkolás kizárólag a nem megfelelő szolgáltatást érinti, a nem megfelelő üzemeltetők listájára való felvétel időtartama alatt fennmarad, és a törlés napján a törvény erejénél fogva megszűnik.
(4) Az Európai Unió más tagállamából nyújtott szolgáltatások esetében az intézkedés kizárólag egyedileg, egy meghatározott szolgáltatásra vonatkozóan rendelhető el, a közrend, a közbiztonság vagy a közegészség védelméhez szükséges kötelezettség megszegése esetén, a székhely szerinti tagállam megkeresésére és az Európai Bizottság értesítésére vonatkozó, az információs társadalommal összefüggő szolgáltatások szabad áramlásának korlátozása tekintetében az elektronikus kereskedelemről szóló 365/2002. számú törvény, újraközölt szöveg – az azt követő módosításokkal és kiegészítésekkel – által előírt eljárás betartásával.
(5) A blokkolásról szóló határozat a közléstől számított 30 napon belül megtámadható a Bukaresti Ítélőtábla közigazgatási és adóügyi bíráskodási szekciója előtt, amely sürgősséggel és soron kívül határoz; a jogorvoslat nem függeszti fel a végrehajtást. Az érdekelt személy kérheti a bíróságtól az intézkedés ideiglenes felfüggesztését, a kérelmet sürgősséggel, legfeljebb 10 napon belül kell elbírálni, a biztonságra jelentett kockázat és az intézkedés fenntartása által okozott kár vizsgálatával. A határozat a közléstől számított 15 napon belül felülvizsgálati kérelemmel támadható meg a Legfelsőbb Semmítő- és Ítélőszék előtt.
(6) Az elektronikus hírközlő hálózatok és szolgáltatások szolgáltatói nem felelnek a blokkolásról szóló határozat helyes és jóhiszemű végrehajtásával okozott károkért; a saját felróható magatartásukból eredő túlzott mértékű blokkolásért azonban felelnek.
4. szakasz. A büntetőjogi felelősség
40. cikk → az indokok
(1) A csúcsrendszer üzembe helyezése a 9. cikkben előírt engedély nélkül, illetve annak felfüggesztését vagy visszavonását követően, valamint a működtetés folytatása a leállítási vagy visszavonási utasítás közlését követően 2-től 7 évig terjedő szabadságvesztéssel és bizonyos jogok gyakorlásától való eltiltással büntetendő. Nem képez bűncselekményt a más által rendelkezésre bocsátott rendszernek végfelhasználóként történő használata.
(2) Ha a cselekmény következményeként a 15. cikk (2) bekezdése szerint, elszigetelt környezetben végzett engedélyezett értékelésen kívül megnyilvánult az 5. cikk (2) bekezdésének c)–e) pontjában előírt kritikus képességek valamelyike, vagy bekövetkezett az 5. cikk (2) bekezdésének a) vagy b) pontjában előírt eredmények valamelyike, a büntetés 5-től 12 évig terjedő szabadságvesztés és bizonyos jogok gyakorlásától való eltiltás. A következményt a Büntető Törvénykönyv 16. cikkének (4) bekezdésében foglalt feltételek szerint kell betudni.
41. cikk → az indokok
(1) A Hatóság vagy valamely értékelő szervezet részére a csúcsrendszer képességeinek, számítási volumenének, a súlyok biztonságának, a leállítási képességnek és annak tesztelési eredményeinek, vagy incidenseinek lényeges elemeire vonatkozó, tudva bemutatott hamis vagy megtévesztő módon hiányos adatok, eredmények vagy nyilatkozatok, valamint a rendszernek az értékelők megtévesztése céljából, az értékelt konfiguráció vagy a valós képességek tekintetében történő konfigurálása 3-tól 10 évig terjedő szabadságvesztéssel és bizonyos jogok gyakorlásától való eltiltással büntetendő.
(2) A Hatóságnak a hatásköre keretei között és írásbeli megkeresés alapján gyakorolt, rendszerhez, súlyokhoz, naplókhoz vagy személyzethez való hozzáférésének bármely módon történő megakadályozása, illetve a naplók megsemmisítése, megváltoztatása vagy elrejtése 1-től 5 évig terjedő szabadságvesztéssel büntetendő. Nem képez bűncselekményt a Hatóság hatáskörének hiányán, illetve az ügyvédi titok vagy a törvény által védett egyéb titok védelmén alapuló megtagadás, amely felől a bíróság dönt.
(3) A közérdekű bejelentők védelméről szóló 361/2022. számú törvényben előírt megtorló intézkedések valamelyikének a 21. cikk szerint védett bejelentéssel összefüggésben, közérdekű bejelentővel szemben történő alkalmazása 6 hónaptól 3 évig terjedő szabadságvesztéssel vagy pénzbüntetéssel büntetendő.
(4) Nem képezi az (1) bekezdésben előírt bűncselekményt az annak feltüntetett bizonytalan becslés, a megismerését követően haladéktalanul kijavított hiba, sem a rendszernek az értékelővel megállapodott teszt keretében történő konfigurálása.
42. cikk → az indokok
(1) A rendszer szándékos betanítása, megtervezése vagy működtetése a 15. cikk (1) bekezdése, a 25. cikk (2) bekezdésének első mondata és (3) bekezdése, a 28. cikk első mondata vagy a 29. cikk első mondata által tiltott körülmények között 3-tól 10 évig terjedő szabadságvesztéssel és bizonyos jogok gyakorlásától való eltiltással büntetendő.
(2) A II. vagy III. kategóriás csúcsrendszer súlyainak jogosulatlan felfedése, továbbítása vagy rendelkezésre bocsátása 5-től 15 évig terjedő szabadságvesztéssel és bizonyos jogok gyakorlásától való eltiltással büntetendő. Nem képez bűncselekményt a 12. cikk (2) bekezdése szerint megengedett átadás, sem a 21. cikk (5) bekezdése szerint védett közlés.
(3) Ha az (1) vagy (2) bekezdésben előírt cselekmények következményeként egy vagy több személy halála vagy súlyos testi sérülése, vagy a rendszer feletti emberi kontrollnak az emberi beavatkozást lehetetlenné tevő időtartamú elvesztése következett be, amelyet a rendszer autonóm cselekvései követtek, személyekre, a fizikai környezetre vagy a kritikus infrastruktúrára gyakorolt következményekkel, a büntetés 10-től 20 évig terjedő szabadságvesztés és bizonyos jogok gyakorlásától való eltiltás. Ha a következmény különösen súlyos vagyoni kárban vagy az emberi kontroll ideiglenes elvesztésében áll, az első mondatban előírt következmények nélkül, a büntetés 7-től 15 évig terjedő szabadságvesztés és bizonyos jogok gyakorlásától való eltiltás. A következményeket a Büntető Törvénykönyv 16. cikkének (4) bekezdésében foglalt feltételek szerint kell betudni.
43. cikk → az indokok
(1) Természetes személynek a nem megfelelő üzemeltetők listájára felvett szolgáltatáshoz személyes célból történő hozzáférése – ideértve a 39. cikk szerint elrendelt blokkolási intézkedés kijátszásával történő hozzáférést is – nem képez bűncselekményt vagy közigazgatási szabályszegést, és vele szemben semmilyen szankciót vagy korlátozó intézkedést nem vonhat maga után. A meg nem felelésért való felelősség kizárólag az üzemeltetőt és a fejlesztőt terheli. E garancia nem zárja ki a szolgáltatás használata útján elkövetett, törvényben előírt, önálló cselekményekért való felelősséget.
(2) A 38. és 39. cikk rendelkezései nem értelmezhetők úgy, hogy azok a felhasználók terhére bármilyen kötelezettséget állapítanának meg, vagy jogaikat feltételhez kötnék.
(3) Az (1) bekezdésben előírt garancia megilleti azt a szakmai végfelhasználót is, aki nem üzemeltető, és a szolgáltatást nem bocsátja más személyek rendelkezésére.
44. cikk → az indokok
(1) Az e szakaszban előírt bűncselekményeket azon természetes személyek terhére kell megállapítani, akik elrendelték vagy jóváhagyták a cselekmények elkövetését, valamint azon személyek terhére, akik – jogi kötelezettségük és tényleges lehetőségük ellenére, hogy azokat megakadályozzák – tudva eltűrték elkövetésüket, a vétkesség formájának a Büntető Törvénykönyv szerinti egyéni megállapításával, függetlenül ügyvezetői, igazgatói, tagi vagy munkavállalói minőségüktől, és függetlenül a jogi személy büntetőjogi felelősségétől, amely a Büntető Törvénykönyv 135. cikkében foglalt feltételek szerint áll be.
(2) Nem képez büntethetőséget kizáró okot az a körülmény, hogy a cselekményt a vezető szervek határozatának, egy utasításnak vagy egy szerződéses instrukciónak a végrehajtása során követték el; a Büntető Törvénykönyvnek a jogellenességet kizáró okokra és a beszámítást kizáró okokra vonatkozó rendelkezései továbbra is alkalmazandók.
45. cikk → az indokok
(1) A 40–42. cikkben előírt bűncselekmények tekintetében a büntetőeljárást kötelezően az ügyész folytatja le a Szervezett Bűnözés és Terrorizmus Elleni Nyomozó Igazgatóság keretében, az elsőfokú elbírálás pedig a törvényszék hatáskörébe tartozik.
(2) Sürgős esetben az ügyész indokolt rendelkezéssel, ideiglenes intézkedésként, legfeljebb 30 napra elrendelheti a rendszer leállítását, a számítási infrastruktúra lezárását és a súlyok hozzáférhetetlenné tételét, a jogokért és szabadságokért felelős bíró 48 órán belüli megerősítésével, ennek elmaradása esetén az intézkedés a törvény erejénél fogva megszűnik. Az intézkedés az érintett számítási feladatra és súlyokra korlátozódik, ha ezek elszigetelése elegendő, végrehajtása az adatok megőrzésével és a súlyoknak a 12. cikkben foglalt feltételek szerinti őrzésével történik, azt az érintett személy és az érintett harmadik személyek megtámadhatják, 30 naponta felülvizsgálandó, és ugyanezen feltételek szerint meghosszabbítható.
(3) A Szervezett Bűnözés és Terrorizmus Elleni Nyomozó Igazgatóság megszervezéséről és működéséről, valamint egyes normatív aktusok módosításáról és kiegészítéséről szóló, Románia Hivatalos Közlönye, I. részének 2016. november 22-i 938. számában közzétett, a 120/2018. számú törvénnyel módosításokkal jóváhagyott 78/2016. számú sürgősségi kormányrendelet – az azt követő módosításokkal és kiegészítésekkel – 11. cikkének (1) bekezdésében az utolsó pont után új pontot kell beiktatni a következő tartalommal: „a csúcskategóriás mesterséges intelligencia rendszerek biztonságos fejlesztéséről és a román állampolgárt fenyegető katasztrofális kockázatok megelőzéséről szóló törvény 40–42. cikkében előírt bűncselekmények”.
VIII. FEJEZET
Nemzetközi együttműködés. Átmeneti és záró rendelkezések
46. cikk → az indokok
(1) A Kormány az Európai Unió intézményeinek keretében elősegíti a csúcsrendszerek e törvényben előírttal egyenértékű előzetes engedélyezési rendszerének elfogadását, valamint közös európai értékelési kapacitás létrehozását.
(2) A Kormány az Egyesült Nemzetek Szervezete, az Európa Tanács, az Észak-atlanti Szerződés Szervezete és más nemzetközi szervezetek keretében fellép a csúcskategóriás számítási képességek korlátozásáról és ellenőrzéséről, a halálos autonóm fegyverrendszerek betiltásáról és a III. kategóriás rendszerek fejlesztésének betiltásáról szóló nemzetközi szerződés megtárgyalása érdekében, és évente beszámol a Parlamentnek e lépések állásáról.
(3) A Hatóság a hatásköre keretein belül és azok közzétételével az értékelések kölcsönös elismeréséről szóló megállapodásokat köthet más, egyenértékű szabványokat alkalmazó államok illetékes hatóságaival; a megállapodások nem térhetnek el e törvénytől, sem az Európai Unió jogától.
47. cikk → az indokok
A Kormány a hatálybalépéstől számítva minden 2. évben, a Hatóság jelentése és a tudományos tanácsadó testület véleménye alapján, jelentést nyújt be a Parlamentnek e törvénynek a technika állásához való megfelelőségéről, adott esetben módosítási javaslatokkal együtt. A jelentés egy közzétett módszertan alapján értékeli a védelem hatékonyságát, az incidenseket, a költségeket, a szolgáltatásokhoz való hozzáférést, a nem kívánt hatásokat és az egyes intézkedések arányosságát, javasolhatja egy hatástalannak talált intézkedés korlátozását, és tartalmazza az eltérő tudományos véleményeket. A csúcsrendszerek kontrolljára szolgáló igazolt tudományos módszer hiányára önmagában nem lehet hivatkozni az e törvény által létrehozott rendszer lazításának indokaként.
48. cikk → az indokok
(1) Az e törvény hatálybalépésének napján Románia területén üzemeltetés alatt álló, vagy Románia területén lévő személyek rendelkezésére bocsátott csúcsrendszerek fejlesztői és üzemeltetői a hatálybalépés napjától számított 90 napon belül megfelelnek e törvénynek a végrehajtási szabályoktól nem függő rendelkezéseinek, a többi rendelkezésnek pedig a (2), (4) és (5) bekezdésben előírt határidőkön belül.
(2) E törvény hatálybalépésének napjától számított 60 napon belül a fejlesztők és az üzemeltetők bejelentik a Hatóságnak az üzemeltetés alatt álló rendszereket. A 9. cikkben előírt engedélykérelmet a 49. cikk (2) bekezdésében előírt végrehajtási szabályok hatálybalépésének napjától számított 90 napon belül kell benyújtani. A bejelentett rendszerek a Hatóság határozatáig üzemeltetésben tarthatók, de legfeljebb az e törvény hatálybalépésének napjától számított 12 hónapig, a IV. és V. fejezetben előírt, közvetlenül alkalmazandó tilalmak és garanciák betartásának feltételével; e határidő a törvény erejénél fogva meghosszabbodik azzal az időtartammal, amellyel a végrehajtási szabályok elfogadása vagy a kérelem elbírálása meghaladja az e törvényben előírt határidőket, a gondosan eljáró kérelmező nem szankcionálható az intézmények késedelméért, a Hatóság pedig indokoltan kiegészítő biztonsági feltételeket írhat elő a meghosszabbítás időtartamára.
(3) A 38. és 39. cikk rendelkezései az (1) bekezdésben előírt határidő lejártát követően alkalmazandók. Nem képezi a 40. cikk (1) bekezdésében előírt bűncselekményt a (2) bekezdés szerint bejelentett rendszernek az üzemeltetésben tartása azon időtartam alatt, amelyben ezt ugyanaz a bekezdés megengedi, valamint a határidőn belül benyújtott engedélykérelem elbírálása során; a 40–42. cikk rendelkezései azonban hatálybalépésük napjától kezdve alkalmazandók minden más cselekményre, ideértve a be nem jelentett rendszer üzembe helyezését, vagy az üzemeltetésben tartását a kérelem elutasítását követően, a (2) bekezdésben előírt határidő lejártát követően, vagy a leállítási utasítás közlését követően.
(4) A 17. cikk (1) bekezdésének a) pontjában, a 18. cikkben és a 19. cikkben előírt kötelezettségeket, valamint a 17. cikk (4) bekezdésében előírt kötelezettséget, az érzékelhető jelölés és az előállítás tényének kifejezett megjelölése tekintetében, az e törvény hatálybalépésének napjától számított 90 napon belül kell teljesíteni; ugyanezen határidőn belül kell kijelölni és a Hatóságnak bejelenteni a 19. cikkben előírt megfelelési képviselőt. A beágyazott technikai jelölésre vonatkozó, a 17. cikk (1) bekezdésének b) pontjában és (2) bekezdésében előírt kötelezettségeket, valamint a 17. cikk (4) bekezdésében e jelölés tekintetében előírt kötelezettséget a végrehajtási szabályok hatálybalépésének napjától számított 90 napon belül kell teljesíteni. A 37. cikk (1) bekezdésének e) és f) pontjában előírt közigazgatási szabályszegéseket az egyes kötelezettségekre alkalmazandó határidő lejártát követően kell megállapítani.
(5) Azok a kötelezettségek, amelyek teljesítése a 49. cikk (2) bekezdésében előírt végrehajtási szabályokban megállapított szabványoktól, eljárásoktól, küszöböktől vagy összegektől függ, e szabályok hatálybalépésének napjától számított 90 nap elteltével válnak esedékessé; ezen időpontig a megfelelő közigazgatási szabályszegések nem állapíthatók meg. Az e törvényben előírt tilalmak, a leállítási képesség fenntartására és tesztelésére, a naplózásra és a súlyos események jelentésére vonatkozó kötelezettségek, valamint a végrehajtási szabályok nélkül is teljesíthető egyéb kötelezettségek az e törvény hatálybalépésének napjától alkalmazandók, az (1)–(4) bekezdésben előírt határidőkön belül.
(6) A mesterséges intelligencia biztonságáért felelős alelnök kinevezéséig a Hatóság feladatköreit, ideértve a 32. cikk (1) bekezdésének c) pontjában előírt sürgős intézkedéseket is, az ANCOM elnöke gyakorolja, aki azokért e törvényben foglalt feltételek szerint felel.
49. cikk → az indokok
(1) E törvénynek Románia Hivatalos Közlönye, I. részében való közzétételétől számított 60 napon belül a Parlament kinevezi a mesterséges intelligencia biztonságáért felelős alelnököt, az ANCOM pedig kiegészíti szervezeti felépítését, valamint szervezeti és működési szabályzatát a Hatósággal, az ANCOM elnökének határozatával, amelyet közzé kell tenni Románia Hivatalos Közlönye, I. részében.
(2) E törvénynek Románia Hivatalos Közlönye, I. részében való közzétételétől számított 120 napon belül a Kormány a Hatóság javaslatára, a tudományos tanácsadó testület véleményével és legalább 30 napos nyilvános konzultációt követően elfogadja a bejelentési és engedélyezési eljárásra, az egyszerűsített elismerési eljárásra, az értékelési, a súlyok biztonságára és a leállítási képességre vonatkozó szabványokra, az elszigetelt környezet feltételeire, a 17. cikkben előírt származási jelölés szabványaira, az 5. cikk (2) bekezdésében előírt kritikus képességek értékelési módszereire és jelentőségi szintjeire, a nagy kapacitású számítási infrastruktúra küszöbére, a 16. cikk (5) bekezdésében előírt szintre, a 14. cikk (1) és (6) bekezdésében előírt tesztelési eljárásra és időtartamra, a 3. cikk (1) bekezdésének bb) pontjában előírt, az elszigetelés minimumkövetelményeire, a 31. cikk (3) bekezdésében előírt kompenzációs juttatás összegére, a szolgáltatás költségéhez viszonyítva megállapított díjak összegére, valamint a 36. cikkben előírt biztosítás vagy pénzügyi biztosíték összegére vonatkozó végrehajtási szabályokat. A szabályok az e törvényben megállapított keretet részletezik, és nem állapíthatják meg a kötelezettségek, a tilalmak és a szankciók lényeges tartalmát; a szabványokat közzé kell tenni.
(3) A végrehajtási szabályok elfogadásáig az értékeléseket az MI-rendelet alapján elfogadott bevált gyakorlati kódexekben előírt szabványok és a tudományosan elismert módszerek szerint kell elvégezni, a Hatóság pedig ideiglenes iránymutatásokat tesz közzé.
50. cikk → az indokok
E törvény Románia Hivatalos Közlönye, I. részében való közzétételének napjától számított 30 nap elteltével lép hatályba, kivéve a 40–42., a 44. és a 45. cikket, amelyek a közzététel napjától számított 270 nap elteltével lépnek hatályba. A 43. cikk rendelkezései e törvénnyel egyidejűleg lépnek hatályba.
E törvényt Románia Parlamentje fogadta el, Románia Alkotmánya, újraközölt szöveg 75. cikke és 76. cikke (1) bekezdése rendelkezéseinek betartásával.
A KÉPVISELŐHÁZ ELNÖKE A SZENÁTUS ELNÖKE
Hozzászólások ehhez a szöveghez
A hozzászólások a dokumentum rovatába kerülnek a Szuverenista fórumon. A szövegről vitázunk, érvekkel.
A teljes vita megtekintése a fórumon →