A tavaly decemberben elért politikai kompromisszumot követően lázas munka folyik az EU mesterséges intelligencia rendeletének (MI rendelet) szövegezése körül. A szöveg technikai szinten történő egyeztetése a végéhez közeledik, ennek eredménye a most kiszivárgott szövegváltozat (2024. január 21-i állapot).
A szöveget az Euractiv portál technológiai újságírója, Luca Bertuzzi tette közzé. (Később elérhetővé vált egy könnyebben áttekinthető konszolidált is. Lásd például itt.) Fontos leszögezni, hogy nem teljesen végleges szövegről van szó, hiszen még a jogszabály végleges verziójáról szavaznia kell az Európai Parlamentnek és a Tanácsnak is (a tagállamok EU-hoz delegált nagykövetei - a tervek szerint - a február 2-i COREPER ülésen szavazhatnak majd a tervezetről). Megtévesztő a dokumentum hossza is, amely annak köszönhető, hogy táblázatos formában tartalmazza az Európai Bizottság eredeti javaslatát (1. oszlop), az Európai Parlament tárgyalási mandátumát (2. oszlop), a Tanács szövegváltozatát (3. oszlop) és a politikai kompromisszum alapján szövegezett, véglegeshez közeli tervezetet (4. oszlop). A 4. oszlop tehát az, amit most különösen érdemes nézni, mi került bele a szövegbe a korábban felmerült javaslatokból, illetve mi került ki az eredeti, illetve korábbi verziókból.
Az alábbiakban a most közzétett szöveg ("Tervezet") alapján néhány, a korábbi tárgyalások és a politikai kompromisszum alapján is kényesebbnek tűnő kérdést tekintek át (még egyszer hansgúlyozva, hogy a végeleges jogszabály mág nem áll rendelkezésre, annak elfogadásához még kell az Európai Parlament és Tanács döntése is).
1. A mesterséges intelligencia rendszer definíciója
A szövegben szereplő definíció alapvetően az OECD MI rendszer fogalmát veszi alapul. Az MI rendszer fogalmi elemei a tervezet szerint:
- gépi alapú rendszer, amelyet úgy terveztek, hogy
- eltérő mértékű autonómiával működjön és
- a telepítés után alkalmazkodóképességet mutathat,
- explicit vagy implicit célok érdekében a kapott bemenetből arra következtet, hogyan hozhat létre olyan kimeneteket, amelyek befolyásolhatják a fizikai vagy virtuális környezetet.
"An AI system is a machine-based system designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments." (Tervezet, 3. cikk (1) pont)
Nem hivatalos (saját) fordítás: "Az MI-rendszer olyan gépi alapú rendszer, amelyet úgy terveztek, hogy különböző szintű autonómiával működjön, és amely a telepítését követően adaptivitást mutathat, és amely explicit vagy implicit célok érdekében a kapott bemenetből arra következtet, hogy miként hozhat létre olyan kimeneteket, például előrejelzéseket, tartalmat, ajánlásokat vagy döntéseket, amelyek befolyásolhatják a fizikai vagy virtuális környezetet."
2. Az MI Rendelet nem lesz alkalmazandó egyes MI rendszerek, illetve alkalmazási körök tekintetében
A tervezet szerint több olyan terület van, ahol az MI rendszerek anélkül lesznek alkalmazhatók, hogy az MI Rendeletnek megfelelően kellene eljárniuk a rendszert fejlesztőknek, alkalmazóknak. Ilyen területek különösen
- az EU jogon kívül eső területeken történő MI alkalmazása,
- nemzetbiztonsági célú alkalmazás,
- hadászati és védelmi célú alkalmazás,
- kizárólag tudományos és kutatási célú felhasználás,
- a piacra történő bevezetést megelőző kutatási, tesztelési és fejlesztési tevékenység (ez a kivétel azonban nem vonatkozik a valós körülmények (real world conditions) közötti tesztelésre),
- a természetes személyek kizárólag saját személyes, nem üzleti célú használata,
- ingyenes és nyílt forráskodú (free and open source) licensz alapján elérhetővé tett MI rendszerekre, kivéve, ha magas kockázatú rendszerként használják vagy a II. és IV. cím alá tartozó rendszernek (azaz tiltott MI gyakorlatok, illetve általános célú MI rendszernek) minősül.
3. Valós körülmények közötti tesztelés
A tervezet meghatározza a valós körülmények közötti tesztelés fogalmát és alapvető feltételeit, többek között előírja, hogy az ebben való részvételhez tájékozott hozzájárulásra van szükség (ennek a fogalma és követelményei nagy mértékben hasonlítanak a GDPR szerinti hozzájárulással szemben támasztott elvárásokkal).
4. Általános célú MI modell (general purpose AI model) és általános célú MI rendszer
"General purpose AI model means an AI model, including when trained with a large amount of data using self-supervision at scale, that displays significant generality and is capable to competently perform a wide range of distinct tasks regardless of the way the model is placed on the market and that can be integrated into a variety of downstream systems or applications. This does not cover AI models that are used before release on the market for research, development and prototyping activities." (Tervezet, 3. cikk (44b) pont)
Nem hivatalos (saját) fordítás: "Általános célú MI modell: olyan jelentős mértékben általánosságot mutató MI modell, beleértve amikor a betanítás nagy mennyiségű adattal történik, nagy léptékű önfelügyelet alkalmazásával, és amely a modell forgalomba hozatalának módjától függetlenül képes különböző feladatok széles körének kompetens elvégzésére, továbbá amely számos downstream rendszerbe vagy alkalmazásba integrálható. Ez nem vonatkozik azokra az MI-modellekre, amelyeket a piacra bocsátás előtt kutatási, fejlesztési és prototípus-készítési tevékenységekhez használnak."
"General-purpose AI system’ means an AI system which is based on a general-purpose AI model, that has the capability to serve a variety of purposes, both for direct use as well as for integration in other AI systems." (Tervezet, 3. cikk (44e) pont)
Nem hivatalos (saját) fordítás: "Általános célú MI rendszer: olyan MI rendszer, amely általános célú MI modellen alapul, és amely képes különféle célokat szolgálni, mind közvetlen felhasználás, mind más MI rendszerekbe való integrálás céljából."
5. Tiltott MI gyakorlatok
A tiltott gyakorlatok listája kapcsán nagyon jelentős változás nem történt a korábbiakhoz képest. Főleg a parlamenti tárgyalási pozícióból kerültek átemelésre részek a véglegesnek szánt változatba.
Sokat vitatott és így kényes pont lehet a valós idejű távoli biometrikus azonosítás kérdése, amelynek a használatára - korlátozott keretek között - bűnüldözési célra sor kerülhet. A szövegben ezen technológia használata kapcsán igyekeztek megfogalmazni olyan bizotsítékokat, amelyek alkalmasak lehetnek a negatív hatások mérséklésére. Kérdés, hogy ez a gyakorlatban mennyire lesz elegendő, hiszen a valós idejű távoli biometrikus azonosítás alkalmazása nagyon jelentő alapjogi kockázatokat vet fel.
6. Magas kockázatú MI rendszerek
A szabályozás itt alapvetően az eredeti bizottsági javaslatból indul ki. Fontos új elem lehet, hogy megjelennek a magas kockázatú kategóriába tartozás alóli mentesülés feltételei is. Ezek a feltételek akkor lennének alkalmazhatók, ha egy rendszer alapból magas kockázatúnak minősülne, de valamely kockázatcsökkentő szempontnak köszönhetően mégsem indokolt a magas kockázati besorolás. Ennek kapcsán fontos eleme lehet a szabvályozásnak az annak felülvizsgálatára vonatkozó eljárás, hogy a szolgáltató által nem magas kockázatúnak minősített MI rendszer valóban nem esik-e a magas kockázatú kategóriába, illetve miként kell eljárni, ha egy felügyeleti hatóság ettől eltérően vélekedik.
A magas kockázatú MI rendszerek tekintetében az MI Rendelet számos kötelezettséget állapít meg a rendszerek fejlesztéséhez felhasznált adatokkal, a dokumentációs kötelezettségekkel, logolással, stb. kapcsolatban. Elsősorban az Európai Parlament elvárásainak megfelelően jelentősen kiegészítésre kerülnek az MI értékláncon átívelő kötelezettségek.
Az utólagos biometrikus azonosításra alkalmas rendszerek alkalmazhatósága kapcsán további biztosítékok kerülnek beépítésre, figyelemmel a bűnüldüzési adatvédelmi irányelvre (2016/680/EK irányelv) is.
A magas kockázatú MI rendszerek esetében - az Európai Parlament korábbi javaslata alapján - bekerülnek az alapjogi hatásivizsgálatra vonatkozó követelmények is az MI rendeletbe, ugyanakkor a kötelezettség fennállása függhet az MI rendszert alkalmazó entitás státuszától (pl. közszférabeli entitás vagy magánszéfárban működő, de közszolgáltatás nyújtó szervezetek), illetve az MI rendszer alkalmazási céljától is.
7. Végrehajtás
Az EU intézmények tekintetében az európai adatvédelmi biztos (EDPS) kap kiemelt szerepet. Az Európai Parlament által javasolt "AI Hivatal" (AI Office) is megjelenik majd a végleges jogszabályban és komoly jogkörökkel rendelkezik majd.
A kilátásba helyezett bírságtételek is igazodnak a parlamenti és tanácsi javaslatokhoz, így a legmagasabb bírágtétel a világpiaci árbevétel 7%-ában vagy 35 millió euróban kerülhet maximálásra (amelyik magasabb). Ez a tiltott MI gyakorlatok alkalmazása esetén lesz kiszabható. Az egyéb lényeges kötelezettségszegésekért kiszabható bírság a világpiaci forgalom 3%-ban vagy 15 millió euróban kerülhet meghatározásra. (Emellett egyéb bírságtételekre is lehet számítani, pl. a hatóságok részére történő félrevezető információszolgáltatásért.)
8. Alkalmazandóvá válás
Ami az MI Rendelet elfogadását követő menetrendet illeti: a kötelezettségek alapvetően a hatályba lépést követő 24 hónapon belül lesznek alkalmazandóak azzal, hogy a tiltott MI gyakorlatokra vonatkozó rendlekezések már 6 hónappal a hatályba lépést követően "élesednének", így az ilyen gyakorlatokat eddigre be kell szüntetni. Az általános célú MI rendszerekre vonatkozó egyes követelmények pedig 12 hónappal a hatályba lépést követően válnának alkalmazandóvá.
