A mesterséges intelligenciára vonatkozó rendelet legahamarabb alkalmazandó szakaszai a tiltott MI-gyakorlatokra vonatkozó előírások (MI Rendelet, 5. cikk). Ezek 6 hónappal az MI Rendelet hatályba lépését követően, azaz 2025. február 2-től már alkalmazandóvá is válnak. 

Ahogy arról egy korábbi posztban már volt szó, az MI Rendelet kockázatalapú megközelítést alkalmaz és  ehhez igazódóan az MI Rendelet alapján megkülönböztethetünk olyan MI-gyakorlatokat, amelyeket elfogadhatatlanul magas kockázat miatt tiltani kell (tiltott MI-gyakorlatok, MI Rendelet 5. cikk, pl. társadalmi pontozási rendszerek), magas kockázattal járó MI-rendszereket, amelyek esetében szigorú követelményekre, számos kötelezettség betartására van szükség (nagy kockázatú MI-rendszerek, MI Rendelet 6. cikk), illetve egyéb, alacsonyabb kockázatú MI-rendszereket, amelyek alapvetően átláthatósági kötelezettségek (MI Rendelet, 50. cikk, pl. chatbotok) hatálya alá esnek. (Lehetnek további olyan minimális kockázattal járó MI-rendszerek, amelyekre lényegében nem állapít meg további követelményeket a szabályozás. Ebbe a kategóriába tartozhatnak pl. a spam szűrők.)

Az alábbiakban az MI Rendeletben szereplő ún. tiltott MI-gyakorlatokat vizsgálom meg közelebbről. 

1. Milyen tiltott MI-gyakorlatokat nevesít az MI Rendelet?

Az MI Rendelet az alábbi gyakorlatokat sorolja az elfogadhatatlanul magas kockázattal járó, ún. tiltott MI-gyakorlatok körébe: 

• tudatalatti vagy célzottan manipulatív vagy megtévesztő technikákat alkalmazó MI-rendszerek,
• egy személy vagy személyek meghatározott csoportjának sebezhetőségét kihasználó MI-rendszerek, 
• társadalmi pontozási MI-rendszerek,
• a bűncselekmények valószínűségével kapcsolatos kockázatértékelésre szánt MI-rendszerek,
• arcfelismerő adatbázisok,
• érzelemfelismerésre alkalmazott MI-rendszerek munkahelyeken és oktatási intézményekben történő használata,
• biometrikus kategorizálási rendszerek,
• "valós idejű" távoli biometrikus azonosító rendszerek alkalmazása bűnüldözési célokra, a nyilvánosság számára hozzáférhető helyeken.  

(A fenti, nyolc tiltott gyakorlat közül jelen posztban az első négyet mutatom be részletesen, a további négy tiltott gyakorlatot a következő posztban ismertetem.)

2. Az egyes tiltott MI-gyakorlatokkal kapcsolatos legfőbb tudnivalók 

Az alábbiakban az egyes tiltott gyakorlatokat veszem végig és megnézem, hogy (i) milyen technikák, módszerek alkalmazása, (ii) milyen cél, illetve hatás elérése, és (iii) milyen következmények, eredmények bekövetkezése esetén valósulhat meg az elfogadhatatlanul magas kockázattal járó gyakorlat. Egyes gyakorlatok esetében, ahol erre az MI Rendelet lehetőséget biztosít, a tilalom alóli kivételeket is bemutatom. Ahol lehetséges példákkal is szemléltetem az egyes tiltott MI-gyakorlatokat.   

Ahogy látni fogjuk a tilalmak az adott MI-rendszerek forgalomba hozatalára, üzembe helyezésére vagy használatára vonatkoznak. Ezen fogalmakat az alábbiak szerint határozza meg az MI Rendelet: 

• forgalomba hozatal: valamely MI-rendszer vagy általános célú MI-modell első alkalommal történő forgalmazása az uniós piacon (3. cikk, 9. pont);
• üzembe helyezés: valamely MI-rendszer első használatra történő, a szolgáltató általi rendelkezésre bocsátása közvetlenül az alkalmazó számára vagy saját használatra az Unióban, a rendeltetésének* megfelelően (3. cikk, 11. pont); [*rendeltetés: "az MI-rendszer azon használata, amelyre a szolgáltató azt szánta, beleértve a használat sajátos körülményeit és feltételeit, a szolgáltató által a használati utasításban, a promóciós vagy értékesítési anyagokban és nyilatkozatokban, valamint a műszaki dokumentációban megadott információk szerint", 3. cikk, 12. pont]
• használat: erre vonatkozóan nem tartalmaz külön meghatározást az MI Rendelet. A használat elsősorban az "alkalmazó" fogalmán keresztül jelenik meg ("alkalmazó: olyan természetes vagy jogi személy, hatóság, ügynökség vagy egyéb szerv, aki vagy amely a felügyelete alá tartozó MI-rendszert használja, kivéve, ha az MI-rendszert személyes, nem szakmai jellegű tevékenység során használja", lásd 3. cikk, 4. pont).

2.1. Tudatalatti vagy célzottan manipulatív vagy megtévesztő technikákat alkalmazó MI-rendszerek (5. cikk (1) bek. a) pont)

Mik lehetnek szubliminális (tudatalatti) vagy az MI Rendelet által tilalmazott manipulatív technikák? 

Ez olyan szubliminális alkotóelemek (pl. hang-, képi és videoingerek) alkalmazását jelentheti, amelyeket a személyek nem képesek érzékelni, mivel ezek az ingerek túlmutatnak az emberi észlelésen, illetve olyan manipulatív vagy megtévesztő technikák használata esetén merülhet fel a tiltott MI-gyakorlat alkalmazása, amelyek úgy ássák alá vagy csorbítják a személy autonómiáját, döntéshozatalát vagy szabad választását, hogy annak az emberek nincsenek tudatában, vagy ha tudatában vannak is, az adott technika alkalmazása révén megtévesztik őket, illetve nem képesek azt irányítani vagy annak ellenállni. Nem tartoznak viszont a tiltott gyakorlatok körébe az alkalmazandó jognak megfelelő általános és jogszerű kereskedelmi gyakorlatok (pl. a reklámok területén), ezek önmagukban nem tekintendők - a tiltott körbe eső - manipulatív MI-gyakorlatoknak. (Lásd a Preambulum (29) bekezdését.) 

Mit tekinthetünk a megalapozott döntéshozatalra való képesség jelentős gyengítésének, amely alkalmas lehet a magatartás lényeges torzítására?

A gyakorlatban a döntési képesség jelentős gyöngítése, illetve a magatartás lényeges torzítása kapcsán kérdésként merül fel, hogy hol lesznek ezek a határok meghúzhatók, mi a jelentős gyöngítés és mi a lényeges torzítás. Erre jelenleg nehezen adható egyértelmű válasz, de vélhetően a lehetséges következmény (károsodás) jellegének és mértékének (lásd alább) figyelembevételével ítélhető majd meg, hogy a döntési képességbe, illetve a magatartásba való beavatkozás jelentős, illetve lényeges lehetett-e. Szintén eligazítást adhatnak a befolyásoláshoz alkalmazott technikák és azok megítélése. Minél komolyabb a beavatkozás (akár fizikai értelemben is, pl. interfészek révén vagy virtuálisan, pl. virtuális valóságban), annál valószínűbb a jelentős ráhatás megvalósulása. 

Milyen jelentős károsodást okoz vagy okozhat ezen technikák alkalmazása?

A jelentős károk körébe elsősorban a testi vagy lelki egészségre, illetve a pénzügyi érdekekre nézve kellően jelentős mértékű káros hatások tartozhatnak. Nem szükésges ugyanakkor, hogy a károk egyszerre jelentkezzenek, "az idővel esetlegesen felhalmozódó károk" megléte is alapot adhat a tilalom alkalmazására. (Lásd Preambulum (29) bek.) 

Az MI Rendelet preambuluma alapján (lásd a Preambulum (29) bekezdést), szintén fontos hangsúlyozni, miszerint nem szükséges, hogy a

[...] szolgáltató vagy az alkalmazó szándékosan okozzon jelentős károkat, amennyiben ezek a károk a mesterséges intelligencián alapuló manipulatív vagy kizsákmányoló gyakorlatokból erednek.  

Elegendő tehát, ha a károk a manipulatív vagy kizsákmányoló gyakorlatok alkalmazása révén következnek be, még akkor is, ha a kár bekövetkezése nem volt előrelátható, kívül esett a szolgáltató vagy alkalmazó ellenőrzési körén vagy a szolgáltató vagy alkalmazó hanyagsága, megfelelő körültekintésének hiánya tette lehetővé a károsodás bekövetkezését.  

2.2. Egy személy vagy személyek meghatározott csoportjának sebezhetőségét kihasználó MI-rendszerek (5. cikk (1) bek. b) pont)

Milyen sebezhetőségek kihasználása merülhet fel? 

Az MI Rendelet szövege az alábbi sebezhetőségeket említi: 

• az életkor,
• fogyatékosság, illetve
• egyedi szociális vagy gazdasági helyzet miatt fennálló valamilyen sebezhetőség. 

A fogyatékosság kapcsán a termékekre és a szolgáltatásokra vonatkozó akadálymentességi követelményekről szóló 2019/882 irányelv ad iránymutatást. Az irányelv értelmében „fogyatékossággal élő személy” minden olyan személy, aki hosszan tartó fizikai, értelmi, szellemi, vagy érzékszervi károsodással él, amely számos egyéb akadállyal együtt korlátozhatja az adott személy teljes, hatékony és másokkal egyenlő társadalmi szerepvállalását (3. cikk (1)pont).

Az egyedi szociális vagy gazdasági helyzet miatt fennálló valamilyen sebezhetőség alatt pedig olyan sajátos társadalmi vagy gazdasági helyzet miatti sebezhetőséget érthetünk, amely valószínűleg kiszolgáltatottabbá teszi ezen személyeket (pl. a mélyszegénységben élőket, az etnikai vagy vallási kisebbségeket) a kizsákmányolással szemben (lásd Preambulum (29) bekezdés). Ebbe a harmadik kategóriába természetesen számos más, a rendelet preambulumában kifejezetten nem említett sebezhetőség is szóba jöhet (további néhány példa, mint nyelvi vagy szexuális kisebbséghez tartozó személyek, bevándorlók, LMBTQA+ stb. itt olvasható).  

Az MI Rendelet Preambuluma azonban azt is világossá teszi (lásd Preambulum (29) bekezdés), hogy a manipulatív és kizsákmányoló gyakorlatok tilalma "nem érintheti a gyógykezelés – például mentális betegségek pszichológiai kezelése vagy fizikai rehabilitáció – során alkalmazott jogszerű gyakorlatokat, amennyiben ezeket a gyakorlatokat az alkalmazandó jogszabályokkal és egészségügyi normákkal – például az egyének vagy jogi képviselőik kifejezett hozzájárulásával – összhangban végzik". 

Természetesen a sebezhetőség kihasználása indirekt módon is történhet, a szándékosság (célzatosság) nem feltétlenül szükséges, elegendő, ha a hatásmechanizmusa révén vezet oda az adott MI-gyakorlat alkalmazása, hogy a sebezhetőség révén lényegesen torzul az érintettek magatartása és ezzel kárt szenvednek el vagy a károsodás veszélye fenyegeti őket. 

A magatartás lényeges torzításával, illetve a jelentős károsodással (vagy ennek lehetőségével) kapcsolatban lásd a fentiekben a "Tudatalatti vagy célzottan manipulatív vagy megtévesztő technikákat alkalmazó MI-rendszerekkel" kapcsolatban írtakat (2.1. pont).  

2.3. Társadalmi pontozási MI-rendszerek (5. cikk (1) bek. c) pont)

A társadalmi pontozási rendszerek alkalmazása kapcsán talán legtöbbeknek Kína jut eszébe, ugyanakkor számos esetben nem teljesen pontos információk és fogalmak alapján (további részletek, elemzések ezzel kapcsolatban pl. itt, itt és itt). Esetleg a Black Mirror c. sorozat Nosedive c. epizódja (2016) is bevillanhat sokaknak az MI Rendeletet böngészve. 

A szabályozás célja, hogy megakadályozza a diszkriminatív eredmények bekövetkezését, bizonyos csoportok kirekesztését, hiszen "az ilyen rendszerek sérthetik a méltósághoz és a megkülönböztetésmentességhez való jogot, valamint az egyenlőség és az igazságosság értékeit" (lásd Preambulum (31) bekezdés).

Fontos elem, hogy vagy az értékelések kontextuson kívüli, azon túlmutató felhasználására vonatkozik a tilalom (azaz az olyan társadalmi kontextusokokban történő felhasználásra, "amelyek nem függnek össze azzal a kontextussal, amelyben az adatok létrehozása vagy gyűjtése történt") vagy az olyan helyzetekre, amikor az adott személyek közösségi magatartásának súlyosságához képest aránytalan vagy indokolatlan következmények alkalmazásására kerülhet sor.

Azt is tapasztalhatjuk azonban, hogy a pénzügyi fizetőképesség kapcsán, biztosítási jogviszonyokban (pl. autós biztosítások) és az élet még számos területén működnek (és a jövőben is működhetnek) olyan értékelési gyakorlatok, amelyeket konkrét célból, az uniós és a nemzeti joggal összhangban működtetnek. Ugyanakkor ezen gyakorlatoknak is át kell menniük az MI Rendelet szűrőjén, ha a MI-rendszer felhasználásával folytatják ezeket.  

2.4. A bűncselekmények valószínűségével kapcsolatos kockázatértékelésre szánt MI-rendszerek (5. cikk (1) bek. d) pont)

Ha a társadalmi pontozási rendszerekről a Black Mirror, akkor a bűncselekmények elkövetését előjelző rendszerek kapcsán Philip K. Dick híres novellája (1956) és az abból, Steven Spielberg rendezésében készült film (2002), a "Különvélemény" (The Minority Report) villanhat be.    

Fejlett jogrendszerekben, így természetesen az EU-ban is kiemelten fontos elv az ártatlanság vélelme, így bármilyen döntés csak az adott személyek tényleges magatartása alapján hozható, nem lehet a bűnelkövetéssel kapcsolatos döntéseket valószínűségekre, kizárólag a személyekre vonatkozó profilalkotásra, személyiségjegyek vagy tulajdonságok (pl. állampolgárság, születési hely, tartózkodási hely, gyermekek száma, adósságszint, gépjármű típusa) – alapján MI-rendszer által előre jelzett magatartás alapján meghozni (lásd Preambulum (42) bekezdés). 

Az MI Rendelet a profilalkotás körében az adatvédelmi szabályokban szereplő fogalommeghatározásra épít, amely szerint profilalkotás a személyes adatok automatizált kezelésének bármely olyan formája, amelynek során a személyes adatokat valamely természetes személyhez fűződő bizonyos személyes jellemzők értékelésére, különösen a munkahelyi teljesítményhez, gazdasági helyzethez, egészségi állapothoz, személyes preferenciákhoz, érdeklődéshez, megbízhatósághoz, viselkedéshez, tartózkodási helyhez vagy mozgáshoz kapcsolódó jellemzők elemzésére vagy előrejelzésére használják (GDPR 3. cikk, 4. pont, 2016/680 irányelv 3. cikk 4.pont, vagy 2018/1725 rendelet 3. cikk, 5. pont).

Az objektív értékeléseken alapuló, az emberi értékeléseket támogató rendszerek alkalmazása a bűnöldőzés területén sem esik a tilalom hatálya alapján. E körben a jövőben arra mindenképpen kiemelt figyelmet kell fordítani, hogy a rendszerek valóban az emberi döntések meghozatalát támogassák és ne vegyék át a döntések meghozatalában az ember szerepét, illetve az emberi értékelés ne legyen formális. (Az ilyen rendszerek alkalmazásának veszélyei kapcsán lásd pl. ezt, ezt és ezt a cikket.) 

A tilalom hatóköre kapcsán figyelmet érdemel a szűkítés, miszerint a tilalom az "e konkrét célra történő üzembe helyezésre" vonatkozik, értve ez alatt az egy adott természetes személy általi bűncselekmény elkövetésének előrejelzésére bevezetett rendszereket.  

Ez a tilalom nem zárja ki az olyan kockázatelemzéseket sem, amelyek

nem az egyénekre vonatkozó profilalkotáson vagy egyének személyiségjegyein vagy tulajdonságain alapulnak, így például azon MI-rendszerekre, amelyek kockázatelemzést használnak a vállalkozások általi pénzügyi csalás kockázatának gyanús tranzakciók alapján történő értékelésére, vagy az olyan kockázatelemzési eszközökre, amelyekkel például az ismert csempészútvonalak alapján előre jelezhető, hogy a vámhatóságok milyen valószínűséggel tudják meghatározni kábítószerek vagy tiltott áruk helyét. (lásd Preambulum (42), kiemelés tőlem)

(A hátralévő további négy tiltott MI-gyakorlat ismertetésére a következő posztban kerül sor.)