Egyre közelebb kerül a mesterséges intelligenciára (MI) vonatkozó uniós szabályozás elfogadása. Május közepén az Európai Parlament két bizottsága (IMCO, LIBE) elfogadta a rendelettervezet új, "kompromisszumos szövegjavaslatát" (a módosításokat az eredeti bizottsági javaslathoz képest mutató, jobban áttekinthető verzió elérhető itt).  

Az Európai Parlament "kompromisszumos szövegjavaslat" elfogadásáról döntő plenáris üléséhez közeledve az alábbiakban röviden bemutatom a Parlament előtt lévő tervezet néhány lényegi, az eredeti bizottsági javaslathoz képest újdonságot, jelentősebb változást hozó elemét. 

1. Fogalommeghatározások

A kompromisszumos szövegjavaslat számos ponton módosítja, illetve új elemekkel egészíti ki a bizottsági javaslatban szereplő definíciókat (lásd 3. cikk). Alapvető jelentőségű az MI rendszerek meghatározásának módosítása, amely az erdetihez képest jóval egyszerűbb és szűkebbre szabott (nem mellesleg az OECD által elfogadott MI meghatározáshoz is közelebb áll, így jobban illeszkedik az MI-ről folyó nemzetközi diskurzusba is). 

Az egyes MI rendszerek típusait illetően megjelentek a szövegben az alábbi új definíciók: 

• "foundation model" ("alapmodell": olyan nagy mennyiségű adathalmazon betanított MI-modell, amelyet a kimenet általánosságára terveztek és számos különböző feladat ellátásához adaptálható; angolul: "AI model that is trained on broad data at scale, is designed for generality of output, and can be adapted to a wide range of distinctive tasks", 3. cikk, 1c. pont), 
• "generative AI" ("generatív MI": a "foundation model" alkategóriája, amelyet kifejezetten tartalom, például összetett szövegek, képek, hang vagy videó, előállítására szánt MI rendszerekben - különböző szintű autonómiával - használnak; angolul: "foundation models used in AI systems specifically intended to generate, with varying levels of autonomy, content such as complex text, images, audio, or video", 28b. cikk 4. pont),
• "general purpose AI system" ("általános célú MI rendszer": olyan MI rendszer, amely olyan alkalmazási lehetőségek széles körére használható és adaptálható, amelyekre a rendszer tervezése nem irányult szándékoltan és kifejezetten; angolul: "an AI system that can be used in and adapted to a wide range of applications for which it was not intentionally and specifically designed", 3. cikk, 1d. pont).  

A fentieken kívül számos egyéb új fogalom jelent meg a tervezetben, így például:

• kockázat (risk), 
• jelentős kockázat (significant risk), 
• érintett személy ("affected person means any natural person or group of persons who are subject to or otherwise affected by an AI system", azaz minden olyan természetes személy vagy személyek csoportja, aki(k)re az MI rendszer működése irányul vagy aki(ke)t egyéb módon érint a rendszer működése),
• biometrikus azonosítás (biometric identification), 
• biometrikus megerősítés (biometric verification), 
• személyes adat (personal data) - GDPR szerinti definícióra hivatkozik, 
• személyes adatok különleges kategóriái (special categories of personal data) - GDPR, 2016/680. sz. irányelv és a 2018/1725. sz. rendelet [tartalmilag azonos] definíciójára utal, 
• nem személyes adat (non-personal data),
• profilalkotás (profiling),
• deep fake,
• széleskörű jogsértés (widespread infringement), 
• szabályozói tesztkörnyezet (regulatory sanbox), stb. 

Nem teljesen új fogalom az "alkalmazó" (deployer), amely a korábbi, bizottsági anyagban még "felhasználó" (user) néven futott, de tartalmilag lényegében változatlan maradt a parlamenti "átnevezés" ellenére.  

2. Alapelvek

A jogszabály majdani alkalmazása szempontjából jelzésértékű, hogy a jogszabály tárgya, célja (subject matter) pontosan miként kerül meghatározásra. A parlamenti szövegjavaslat az alábbi bekezdést illesztette be az 1. cikkbe: "E rendelet célja, hogy előmozdítsa az emberközpontú és megbízható mesterséges intelligencia fejlesztését, valamint biztosítsa az Unióban az egészség, a biztonság, az alapvető jogok, demokrácia és jogállamiság továbbá a környezet magasszintű védelmét a mesterséges intelligencia rendszerek káros hatásaitól, miközben támogatja az innovációt." ("The purpose of this Regulation is to promote the uptake of human centric and trustworthy artificial intelligence and to ensure a high level of protection of health, safety, fundamental rights, democracy and rule of law, and the environment from harmful effects of artificial intelligence systems in the Union while supporting innovation.")

A kompromisszumos szövegjavaslat meghatároz hat alapelvet, amelyek valamennyi MI rendszerre alkalmazandók lennének majd. Ezek az alábbiak:  

• emberi részvétel és felügyelet (human agency and oversight),
• technikai megbízhatóság és biztonság (technical robustness and safety),
• magánszféra védelme és adatkormányzás (privacy and data governance), 
• átláthatóság (transparency), 
• sokszínűség, diszkrimináció tilalom és tisztesség (diversity, non-discrimination and fairness),  
• társadalmi és környezeti jólét (social and environmental well-being). 

3. Kockázati besorolás 

Az MI rendelet alapkoncepcióját jelenti a kockázat alapú megközelítés, amely a kompromisszumos szövegjavaslat alapján sem változott. 

A négy alapvető kockázati kategória lényegében az alábbi: 

• minimális kockázat, 
• korlátozott kockázat, 
• nagy kockázat (high risk), 
• elfogadhatatlan kockázat (unacceptable risk) - tilalmazott rendszerek. 

4. Tiltott MI gyakorlatok 

A tiltott MI gyakorlatok körét jelentősen bővítette a parlamenti szövegjavaslat. Az alábbi rendszerek kerültek be a tilalmazott körbe:

• valós idejű távoli biometrikus azonosítást lehetővé tévő rendszerek a nyilvánosság számára nyitva álló területeken;
• utólagos biometrikus azonosítást lehetővé tévő rendszerek, kivéve a súlyos bűncselekmények üldözése érdekében a bűnüldöző szervek által alkalmazott rendszerek, bírósági felhatalmazással;
• érzékeny jellemzők alapján biometrikus kategorizálást végző rendszerek;
• előrejelzésen alapuló rendőrségi rendszerek;
• érzelemek felismerésére alkalmas rendszerek a bűnüldözésben, határellenőrzésben, munkahelyen, oktatási intézményekben;
• arcfelismerő adatbázisok létrehozatala biometrikus adatoknak az internetről vagy kamerarendszerek (CCTV) felvételeiből történő gyűjtése révén. 

5. Nagy kockázatú MI rendszerek 

Az MI rendszerek besorolása a nagy kockázatú (high risk) kategóriába némileg szintén módosult. A besorolás szempontjai között megjelent az egészségre, biztonságra, alapjogokra vagy a környezetre gyakorolt negatív hatás is.

A III. sz. mellékletben szereplő magas kockázatot jelentő használati esetek köre is módosult, bár a nyolc kategória lényegében megmaradt, így a kategóriákon belül történtek - néhol elég lényeges - változások:

• biometrikus azonosítás: a tilalmi kör ezzel kapcsolatos bővülése miatt változott, illetve egy újabb alponttal egészült ki, 
• a kritikus infrastruktúra irányítása és működtetése: bővült az érintett kritikus infrastruktúra elemek köre, illetve kiemelésre kerültek e körben azon MI rendszerek, amelyeket a kritikus infrastruktúra biztonsági komponenseként alkalmaznak, 
• oktatás, szakképzés: az egyedi értékelésre használt rendszerek, amelyek az oktatás szintjét befolyásolják szintén bekerültek a nagy kockázatú körbe, illetve a diákok által esetlegesen elkövetésre kerülő tilalmazott magatartások monitorozására alkalmas rendszerek is bekerültek a listába, 
• foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés: a meglévő kategóriák pontosítása, kiegészítése történt meg, 
• az alapvető magánszolgáltatásokhoz, valamint a közszolgáltatásokhoz és előnyökhöz való hozzáférés és ezek igénybevétele: szintén a meglévő kategóriák kerültek pontosításra, kiegészítésre, illetve a hitelképesség vizsgálat kapcsán a magas kockázat alóli kivételként jelent meg a pénzügyi csalásokkal szembeni fellépés érdekében alkalmazott MI rendszer, 
• bűnőldözés: részben a tilalmazott MI gyakorlatok körének módosítására tekintettel kikerültek ebből a körből egyes elemek, 
• migráció, menekültügy és határellenőrzés: egyes elemek pontosítása történt, illetve két új elemmel bővült, 
• igazságszolgáltatás és demokratikus folyamatok: jelentősen átalakult a lista, bekerültek a választások, népszavazások befolyásolására, illetve az egyének választói magatartásának befolyásolására alkalmas rendszerek, továbbá a DSA alapján óriásplatformnak minősülő platformok ajánlórendszerei is nagy kockázatúnak minősülnének.  

6. Nagy kockázatú MI rendszerekkel kapcsolatos kötelezettségek 

A nagy kockázatú MI rendszerekkel kapcsolatos általános kötelezettségek kapcsán is számos változás került be a kompromisszumos szövegjavaslatba. Ezek érintik, többek között, a kockázatkezelési rendszereket, az adatkormányzást (data governance), a technikai dokumentációt, nyilvántartási kötelezettséget, stb.  

Változtak a nagy kockázatú MI rendszerek szolgáltatóit (provider) terhelő kötelezettségek, illetve bővültek a teljes értékláncon átívelő kötelezettségek (28. cikk). Az ún. foundation model szolgáltatóit illetően megjelentek specifikus kötelezettségek, ezek között jelenik meg a generatív MI meghatározása is (28b. cikk). 

A verseny, illetve az innovásió védelme érdekében a KKV-kat és a startupokat védő szabályok kerültek be a szövegbe (28a. cikk), amelyek a tisztességtelen szerződéses kikötések alkalmazását próbálják megelőzni, illetve az ilyen kikötések alkalmazása esetén a KKV-kat és startupokat védeni.

Szintén jelentősen bővültek az alkalmazókat (deployer) a nagy kockázatú MI rendszerekkel összefüggésben terhelő kötelezettségek is. Ezek között jelenik meg az alapjogi hatásvizsgálat (fundamental rights impact assessment) végzésére vonatkozó kötelezettség. (Erről itt írtam részletesen.) 

7. Innováció ösztönzése 

Az innováció ösztönzése érdekében számos módosítás történt a szabályozói tesztkörnyezetekkel (regulatory sandbox) összefüggésben (53., 53a., 54. és 54a. cikkek). 

8. Bírságok 

Tovább cizellálódtak a bírságolással kapcsolatos szabályok is, egyes esetekben a GDPR-hoz hasonlóan a nettó árbevétel meghatározott %-ban (1%, 2%, 4%, 7%), illetve egy konkrét összegben maximált bírságösszeg (ezek közül a magasabb) szabható ki. A legmagasabb összegű bírság a tiltott MI gyakorlatok folytatása esetén szabható ki. Ennek a maximuma a nettó árbevétel 7%-a vagy 40 millió euró (amelyik magasabb). Az uniós intézmények esetében pedig - árbevétel hiányában - konkrét összegben maximált bírságösszegek jelennek meg egyes kötelezettségek megsértése esetére. 

9. Az Európai Mesterséges Intelligencia Hivatal (European Artificial Intelligence Office)  

Az eredeti bizottsági javaslatban szereplő "Mesterséges Intelligenciával Foglalkozó Európai Testület" helyett a kompromisszumos szövegjavaslat az Európai Mesterséges Intelligencia Hivatal (MI Hivatal) létrehozására tesz javaslatot, amelyet széles körű hatáskörrel ruházna fel az MI-re vonatkozó szabályok minél hatékonyabb és következetesebb alkalmazása érdekében. Az MI Hivatal titkársággal és saját ügyvezető testülettel rendelkezne, amelynek tagjai olyan területekről érkeznének (pl. EU Alapjogi Ügynökség, európai adatvédelmi biztos, nemzeti hatóságok, stb.), amelyek az MI-t érintő kérdések uniós szintű kezelése kapcsán megkerülhetetlenek.   

10. Összegzés

A fentiekből jól látszik, hogy a kompromisszumos szövegjavaslat számos ponton módosítja az eredeti bizottsági javaslatot és túlmegy a tanácsi szövegtervezeten is. Természetesen a végeleges jogszabály elfogadásáig még sok változást láthatunk majd a szövegben, de vélhetően a Parlament által javasolt módosítások közül sok visszaköszön az elfogadásra kerülő jogszabályban is. Az Európai Parlament plenáris ülése általi, június közepén esedékes szavazást követően vélhetően megindulhat a trilógus és talán a jövő évben megszülethet az MI Rendelet. Addig is érdemes nyomon követni a jogszabályalkotás folyamatát, hogy a felkészülés az új követelmények kapcsán minél gördülékenyebb lehessen majd (amellett is, hogy felkészülési időt is biztosít majd a jogszabály).