A mesterséges intelligenciára vonatkozó rendelet legahamarabb alkalmazandó szakaszai a tiltott MI-gyakorlatokra vonatkozó előírások (MI Rendelet, 5. cikk). Ezek 6 hónappal az MI Rendelet hatályba lépését követően, azaz 2025. február 2-től már alkalmazandóvá is válnak.
Ahogy arról egy korábbi posztban már volt szó, az MI Rendelet kockázatalapú megközelítést alkalmaz és ehhez igazódóan az MI Rendelet alapján megkülönböztethetünk olyan MI-gyakorlatokat, amelyeket elfogadhatatlanul magas kockázat miatt tiltani kell (tiltott MI-gyakorlatok, MI Rendelet 5. cikk, pl. társadalmi pontozási rendszerek), magas kockázattal járó MI-rendszereket, amelyek esetében szigorú követelményekre, számos kötelezettség betartására van szükség (nagy kockázatú MI-rendszerek, MI Rendelet 6. cikk), illetve egyéb, alacsonyabb kockázatú MI-rendszereket, amelyek alapvetően átláthatósági kötelezettségek (MI Rendelet, 50. cikk, pl. chatbotok) hatálya alá esnek. (Lehetnek további olyan minimális kockázattal járó MI-rendszerek, amelyekre lényegében nem állapít meg további követelményeket a szabályozás. Ebbe a kategóriába tartozhatnak pl. a spam szűrők.)
Az alábbiakban az MI Rendeletben szereplő ún. tiltott MI-gyakorlatokat vizsgálom meg közelebbről.
1. Milyen tiltott MI-gyakorlatokat nevesít az MI Rendelet?
Az MI Rendelet az alábbi gyakorlatokat sorolja az elfogadhatatlanul magas kockázattal járó, ún. tiltott MI-gyakorlatok körébe:
- tudatalatti vagy célzottan manipulatív vagy megtévesztő technikákat alkalmazó MI-rendszerek,
- egy személy vagy személyek meghatározott csoportjának sebezhetőségét kihasználó MI-rendszerek,
- társadalmi pontozási MI-rendszerek,
- a bűncselekmények valószínűségével kapcsolatos kockázatértékelésre szánt MI-rendszerek,
- arcfelismerő adatbázisok,
- érzelemfelismerésre alkalmazott MI-rendszerek munkahelyeken és oktatási intézményekben történő használata,
- biometrikus kategorizálási rendszerek,
- "valós idejű" távoli biometrikus azonosító rendszerek alkalmazása bűnüldözési célokra, a nyilvánosság számára hozzáférhető helyeken.
(A fenti, nyolc tiltott gyakorlat közül jelen posztban az első négyet mutatom be részletesen, a további négy tiltott gyakorlatot a következő posztban ismertetem.)
2. Az egyes tiltott MI-gyakorlatokkal kapcsolatos legfőbb tudnivalók
Az alábbiakban az egyes tiltott gyakorlatokat veszem végig és megnézem, hogy (i) milyen technikák, módszerek alkalmazása, (ii) milyen cél, illetve hatás elérése, és (iii) milyen következmények, eredmények bekövetkezése esetén valósulhat meg az elfogadhatatlanul magas kockázattal járó gyakorlat. Egyes gyakorlatok esetében, ahol erre az MI Rendelet lehetőséget biztosít, a tilalom alóli kivételeket is bemutatom. Ahol lehetséges példákkal is szemléltetem az egyes tiltott MI-gyakorlatokat.
Ahogy látni fogjuk a tilalmak az adott MI-rendszerek forgalomba hozatalára, üzembe helyezésére vagy használatára vonatkoznak. Ezen fogalmakat az alábbiak szerint határozza meg az MI Rendelet:
- forgalomba hozatal: valamely MI-rendszer vagy általános célú MI-modell első alkalommal történő forgalmazása az uniós piacon (3. cikk, 9. pont);
- üzembe helyezés: valamely MI-rendszer első használatra történő, a szolgáltató általi rendelkezésre bocsátása közvetlenül az alkalmazó számára vagy saját használatra az Unióban, a rendeltetésének* megfelelően (3. cikk, 11. pont); [*rendeltetés: "az MI-rendszer azon használata, amelyre a szolgáltató azt szánta, beleértve a használat sajátos körülményeit és feltételeit, a szolgáltató által a használati utasításban, a promóciós vagy értékesítési anyagokban és nyilatkozatokban, valamint a műszaki dokumentációban megadott információk szerint", 3. cikk, 12. pont]
- használat: erre vonatkozóan nem tartalmaz külön meghatározást az MI Rendelet. A használat elsősorban az "alkalmazó" fogalmán keresztül jelenik meg ("alkalmazó: olyan természetes vagy jogi személy, hatóság, ügynökség vagy egyéb szerv, aki vagy amely a felügyelete alá tartozó MI-rendszert használja, kivéve, ha az MI-rendszert személyes, nem szakmai jellegű tevékenység során használja", lásd 3. cikk, 4. pont).
2.1. Tudatalatti vagy célzottan manipulatív vagy megtévesztő technikákat alkalmazó MI-rendszerek (5. cikk (1) bek. a) pont)
Tilos az olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek
- szubliminális technikákat alkalmaznak az adott személy tudatán kívül, vagy
- célzottan manipulatív vagy megtévesztő technikákat alkalmaznak
azzal a céllal vagy olyan hatás érdekében, hogy
- lényegesen torzítsák egy személy vagy személyek egy csoportjának magatartását azáltal, hogy jelentősen gyengítik a megalapozott döntéshozatalra való képességüket, és
ennek következtében a személy olyan döntést hozzon, amelyet egyébként nem hozott volna meg, oly módon, amely e személynek, egy másik személynek vagy személyek egy csoportjának jelentős károsodást okoz vagy okozhat.
Mik lehetnek szubliminális (tudatalatti) vagy az MI Rendelet által tilalmazott manipulatív technikák?
Ez olyan szubliminális alkotóelemek (pl. hang-, képi és videoingerek) alkalmazását jelentheti, amelyeket a személyek nem képesek érzékelni, mivel ezek az ingerek túlmutatnak az emberi észlelésen, illetve olyan manipulatív vagy megtévesztő technikák használata esetén merülhet fel a tiltott MI-gyakorlat alkalmazása, amelyek úgy ássák alá vagy csorbítják a személy autonómiáját, döntéshozatalát vagy szabad választását, hogy annak az emberek nincsenek tudatában, vagy ha tudatában vannak is, az adott technika alkalmazása révén megtévesztik őket, illetve nem képesek azt irányítani vagy annak ellenállni. Nem tartoznak viszont a tiltott gyakorlatok körébe az alkalmazandó jognak megfelelő általános és jogszerű kereskedelmi gyakorlatok (pl. a reklámok területén), ezek önmagukban nem tekintendők - a tiltott körbe eső - manipulatív MI-gyakorlatoknak. (Lásd a Preambulum (29) bekezdését.)
A szubliminális (tudatalatti) üzenetek és ezek hatásának kérdése már hosszú évtizedek óta foglalkoztatja a szakembereket és a szélesebb közvéleményt egyaránt. Elsősorban a reklámok kapcsán tárgyalják a tudatalatti (a befogadó számára tudatosan nem érzékelhető) üzenetek hatását. A téma az 50-es évek óta szerepel napirenden, miután egy James Vicary nevű piackutató azt állította, hogy egy mozifilmben elrejtett tudatalatti üzeneteknek köszönhetően jelentősen meg tudta növelni a nézők kóla és popcorn fogyasztását. Később kiderült, hogy a bejelentés nem állt szilárd tudományos alapokon és az azóta folytatott kísérletek sem feltétlenül igazolják a szubliminális hirdetések meggyőző hatását. A szellem azonban kiszabadult a palackból és több tiltás is született az ilyen technikák reklámcélú alkalmazása kapcsán (pl. az EU-ban az ún. "Audiovizuális médiaszolgáltatásokról szóló irányelv" is tartalmaz a "tudatosan nem észlelhető technikák" tilalmára vonatkozó előírást, az Európa Tanács "A határokat átlépő televíziózásról szóló európai egyezmény" (1989) 13. cikk (2) bekezdésében tiltja a szubliminális technikák alkalmazását, illetve az USA-ban sem megengedett ezen technikák reklámcélú alkalmazása).
A tudatalatti üzenetek vélt vagy valós hatása azonban a nem teljesen szándékolt vásárlói döntéseknél sokkal nagyobb veszélyekkel járó módon is jelentkezhet. 1990-ben a Judas Priest nevű zenekart például arra hivatkozva citálták bíróság elé, hogy a dalaikban alkalmazott szubliminális üzenetek vezettek ahhoz, hogy két fiatal önkezével vessen véget az életének. Végül a bíróság nem állapította meg a zenekar felelősségét a fiatalok öngyilkossága kapcsán.
(A szubliminális üzenetek jogi szempontú értékelése megtalálható például Salpeter-Swirsky tanulmányában, "Historical and Legal Implications of Subliminal Messaging in the Multimedia: Unconscious Subjects", Nova Law Review, 2012, Volume 36, Issue 3.)
A szubliminális technikák meghatározásához kapcsolódóan érdemes áttanulmányozni Zhong et. al "Regulating AI: Applying Insights from Behavioural Economics and Psychology to the Application of Article 5 of the EU AI Act" c. tanulmányát, amely több szóba jöhető technikát is bemutat. A szubliminális, manipulatív, illetve megtévesztő technikák MI Rendelet vonatkozásában történő meghatározásában nyújthat segítséget Franklin et al. "Strengthening the EU AI Act: Defining Key Terms on AI Manipulation" c. munkája. Szintén hasznos olvasmány Bermúdez et. al.: "What Is a Subliminal Technique? An Ethical Perspective on AI-Driven Influence" c. tanulmánya, amely a tudatalatti befolyásolás etikai vonatkozásait tárgyalja az MI-vel összefüggésben. A tanulmányban a fogalom szűken vett értelmezéséből és ennek a gyakorlati problémáiból kiindulva tesznek javaslatot egy tágabb definícióra, amely megfelelő védelmet jelenthet az egyéni döntési szabadság kapcsán. A tanulmány szerzői a tágabb definíció használatát javasolják az MI fejlesztésekben és ehhez egy döntési fát is kínálnak, amely alkalmas lehet az e körbe eső tiltott gyakorlatok kiszűrésére.
A manipulatív és megtévesztő technikák kapcsán az ún. "sötét mintázatok" (dark patterns) alkalmazása már jó ideje a figyelem fókuszában van és - többek között - adatvédelmi és fogyasztóvédelmi szempontból is számos elemzés tárgyát képezik. (Lásd például a finn verseny- és fogyasztóvédelmi hatóság vonatkozó tájékoztatóját, míg a sötét mintázatok adatvédelmi megítélése kapcsán lásd az Európai Adatvédelmi Testület közösségi médiában alkalmazott megtévesztő mintázatokkal kapcsolatos iránymutatását, "Guidelines 03/2022 on Deceptive design patterns in social media platform interfaces: how to recognise and avoid them".)
Mit tekinthetünk a megalapozott döntéshozatalra való képesség jelentős gyengítésének, amely alkalmas lehet a magatartás lényeges torzítására?
A gyakorlatban a döntési képesség jelentős gyöngítése, illetve a magatartás lényeges torzítása kapcsán kérdésként merül fel, hogy hol lesznek ezek a határok meghúzhatók, mi a jelentős gyöngítés és mi a lényeges torzítás. Erre jelenleg nehezen adható egyértelmű válasz, de vélhetően a lehetséges következmény (károsodás) jellegének és mértékének (lásd alább) figyelembevételével ítélhető majd meg, hogy a döntési képességbe, illetve a magatartásba való beavatkozás jelentős, illetve lényeges lehetett-e. Szintén eligazítást adhatnak a befolyásoláshoz alkalmazott technikák és azok megítélése. Minél komolyabb a beavatkozás (akár fizikai értelemben is, pl. interfészek révén vagy virtuálisan, pl. virtuális valóságban), annál valószínűbb a jelentős ráhatás megvalósulása.
Az MI Rendelet preambuluma szerint a megalapozott döntéshozatali képesség gyengítését "elősegíthetik például a gép–agy interfészek vagy a virtuális valóság, mivel azok nagyobb fokú ellenőrzést tesznek lehetővé afelett, hogy milyen ingerek kerüljenek megjelenítésre a személyeknek, amennyiben ezek az ingerek érdemben és jelentősen káros módon torzíthatják viselkedésüket." (Lásd Preambulum (29) bek.)
Milyen jelentős károsodást okoz vagy okozhat ezen technikák alkalmazása?
A jelentős károk körébe elsősorban a testi vagy lelki egészségre, illetve a pénzügyi érdekekre nézve kellően jelentős mértékű káros hatások tartozhatnak. Nem szükésges ugyanakkor, hogy a károk egyszerre jelentkezzenek, "az idővel esetlegesen felhalmozódó károk" megléte is alapot adhat a tilalom alkalmazására. (Lásd Preambulum (29) bek.)
Az MI Rendelet preambuluma alapján (lásd a Preambulum (29) bekezdést), szintén fontos hangsúlyozni, miszerint nem szükséges, hogy a
[...] szolgáltató vagy az alkalmazó szándékosan okozzon jelentős károkat, amennyiben ezek a károk a mesterséges intelligencián alapuló manipulatív vagy kizsákmányoló gyakorlatokból erednek.
Elegendő tehát, ha a károk a manipulatív vagy kizsákmányoló gyakorlatok alkalmazása révén következnek be, még akkor is, ha a kár bekövetkezése nem volt előrelátható, kívül esett a szolgáltató vagy alkalmazó ellenőrzési körén vagy a szolgáltató vagy alkalmazó hanyagsága, megfelelő körültekintésének hiánya tette lehetővé a károsodás bekövetkezését.
2.2. Egy személy vagy személyek meghatározott csoportjának sebezhetőségét kihasználó MI-rendszerek (5. cikk (1) bek. b) pont)
Tilos az olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek egy természetes személynek vagy a személyek egy meghatározott csoportjának
- az életkor,
- fogyatékosság, illetve
- egyedi szociális vagy gazdasági helyzet miatt fennálló valamilyen sebezhetőségét kihasználják
azzal a céllal vagy hatással, hogy lényegesen torzítsák a szóban forgó személynek vagy a szóban forgó csoporthoz tartozó valamely személynek a magatartását
oly módon, amely e személynek vagy más személynek jelentős károsodást okoz vagy észszerű valószínűséggel okozhat.
Milyen sebezhetőségek kihasználása merülhet fel?
Az MI Rendelet szövege az alábbi sebezhetőségeket említi:
- az életkor,
- fogyatékosság, illetve
- egyedi szociális vagy gazdasági helyzet miatt fennálló valamilyen sebezhetőség.
A fogyatékosság kapcsán a termékekre és a szolgáltatásokra vonatkozó akadálymentességi követelményekről szóló 2019/882 irányelv ad iránymutatást. Az irányelv értelmében „fogyatékossággal élő személy” minden olyan személy, aki hosszan tartó fizikai, értelmi, szellemi, vagy érzékszervi károsodással él, amely számos egyéb akadállyal együtt korlátozhatja az adott személy teljes, hatékony és másokkal egyenlő társadalmi szerepvállalását (3. cikk (1)pont).
Az egyedi szociális vagy gazdasági helyzet miatt fennálló valamilyen sebezhetőség alatt pedig olyan sajátos társadalmi vagy gazdasági helyzet miatti sebezhetőséget érthetünk, amely valószínűleg kiszolgáltatottabbá teszi ezen személyeket (pl. a mélyszegénységben élőket, az etnikai vagy vallási kisebbségeket) a kizsákmányolással szemben (lásd Preambulum (29) bekezdés). Ebbe a harmadik kategóriába természetesen számos más, a rendelet preambulumában kifejezetten nem említett sebezhetőség is szóba jöhet (további néhány példa, mint nyelvi vagy szexuális kisebbséghez tartozó személyek, bevándorlók, LMBTQA+ stb. itt olvasható).
Az MI Rendelet Preambuluma azonban azt is világossá teszi (lásd Preambulum (29) bekezdés), hogy a manipulatív és kizsákmányoló gyakorlatok tilalma "nem érintheti a gyógykezelés – például mentális betegségek pszichológiai kezelése vagy fizikai rehabilitáció – során alkalmazott jogszerű gyakorlatokat, amennyiben ezeket a gyakorlatokat az alkalmazandó jogszabályokkal és egészségügyi normákkal – például az egyének vagy jogi képviselőik kifejezett hozzájárulásával – összhangban végzik".
Természetesen a sebezhetőség kihasználása indirekt módon is történhet, a szándékosság (célzatosság) nem feltétlenül szükséges, elegendő, ha a hatásmechanizmusa révén vezet oda az adott MI-gyakorlat alkalmazása, hogy a sebezhetőség révén lényegesen torzul az érintettek magatartása és ezzel kárt szenvednek el vagy a károsodás veszélye fenyegeti őket.
A magatartás lényeges torzításával, illetve a jelentős károsodással (vagy ennek lehetőségével) kapcsolatban lásd a fentiekben a "Tudatalatti vagy célzottan manipulatív vagy megtévesztő technikákat alkalmazó MI-rendszerekkel" kapcsolatban írtakat (2.1. pont).
2.3. Társadalmi pontozási MI-rendszerek (5. cikk (1) bek. c) pont)
Tilos arra szolgáló MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, hogy természetes személyeket vagy személyek csoportjait
- értékeljék vagy osztályozzák egy bizonyos időszakon keresztül, közösségi magatartásuk, illetve ismert, kikövetkeztetett vagy előre jelzett személyes tulajdonságaik vagy személyiségjegyeik alapján,
oly módon, hogy a társadalmi pontszám a következő helyzetek egyikéhez vagy mindkettőhöz vezet:
- bizonyos természetes személyekkel vagy személyek egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmód olyan szociális kontextusokban, amelyek nem függenek össze azokkal a kontextusokkal, amelyek között az adatokat eredetileg létrehozták vagy gyűjtötték;
- bizonyos természetes személyekkel vagy személyek csoportjával szembeni olyan hátrányos vagy kedvezőtlen bánásmód, amely indokolatlan vagy aránytalan közösségi magatartásukhoz vagy annak súlyosságához képest.
A társadalmi pontozási rendszerek alkalmazása kapcsán talán legtöbbeknek Kína jut eszébe, ugyanakkor számos esetben nem teljesen pontos információk és fogalmak alapján (további részletek, elemzések ezzel kapcsolatban pl. itt, itt és itt). Esetleg a Black Mirror c. sorozat Nosedive c. epizódja (2016) is bevillanhat sokaknak az MI Rendeletet böngészve.
A szabályozás célja, hogy megakadályozza a diszkriminatív eredmények bekövetkezését, bizonyos csoportok kirekesztését, hiszen "az ilyen rendszerek sérthetik a méltósághoz és a megkülönböztetésmentességhez való jogot, valamint az egyenlőség és az igazságosság értékeit" (lásd Preambulum (31) bekezdés).
Fontos elem, hogy vagy az értékelések kontextuson kívüli, azon túlmutató felhasználására vonatkozik a tilalom (azaz az olyan társadalmi kontextusokokban történő felhasználásra, "amelyek nem függnek össze azzal a kontextussal, amelyben az adatok létrehozása vagy gyűjtése történt") vagy az olyan helyzetekre, amikor az adott személyek közösségi magatartásának súlyosságához képest aránytalan vagy indokolatlan következmények alkalmazásására kerülhet sor.
Azt is tapasztalhatjuk azonban, hogy a pénzügyi fizetőképesség kapcsán, biztosítási jogviszonyokban (pl. autós biztosítások) és az élet még számos területén működnek (és a jövőben is működhetnek) olyan értékelési gyakorlatok, amelyeket konkrét célból, az uniós és a nemzeti joggal összhangban működtetnek. Ugyanakkor ezen gyakorlatoknak is át kell menniük az MI Rendelet szűrőjén, ha a MI-rendszer felhasználásával folytatják ezeket.
2.4. A bűncselekmények valószínűségével kapcsolatos kockázatértékelésre szánt MI-rendszerek (5. cikk (1) bek. d) pont)
Tilos az olyan MI-rendszer forgalomba hozatala, e konkrét célra történő üzembe helyezése vagy használata, amely természetes személyek kockázatértékelését végzi
annak érdekében, hogy – kizárólag a természetes személyekre vonatkozó profilalkotás vagy személyiségjegyeik és tulajdonságaik értékelése alapján – felmérje vagy előre jelezze annak valószínűségét, hogy egy adott természetes személy bűncselekményt követ el;
ez a tilalom nem alkalmazandó azon MI-rendszerekre, amelyek a személyek bűncselekményben való részvételének emberi értékelését támogatják, amely értékelés alapjául már rendelkezésre állnak a bűnözői tevékenységhez közvetlenül kapcsolódó, objektív és ellenőrizhető tények
Ha a társadalmi pontozási rendszerekről a Black Mirror, akkor a bűncselekmények elkövetését előjelző rendszerek kapcsán Philip K. Dick híres novellája (1956) és az abból, Steven Spielberg rendezésében készült film (2002), a "Különvélemény" (The Minority Report) villanhat be.
Fejlett jogrendszerekben, így természetesen az EU-ban is kiemelten fontos elv az ártatlanság vélelme, így bármilyen döntés csak az adott személyek tényleges magatartása alapján hozható, nem lehet a bűnelkövetéssel kapcsolatos döntéseket valószínűségekre, kizárólag a személyekre vonatkozó profilalkotásra, személyiségjegyek vagy tulajdonságok (pl. állampolgárság, születési hely, tartózkodási hely, gyermekek száma, adósságszint, gépjármű típusa) – alapján MI-rendszer által előre jelzett magatartás alapján meghozni (lásd Preambulum (42) bekezdés).
Az MI Rendelet a profilalkotás körében az adatvédelmi szabályokban szereplő fogalommeghatározásra épít, amely szerint profilalkotás a személyes adatok automatizált kezelésének bármely olyan formája, amelynek során a személyes adatokat valamely természetes személyhez fűződő bizonyos személyes jellemzők értékelésére, különösen a munkahelyi teljesítményhez, gazdasági helyzethez, egészségi állapothoz, személyes preferenciákhoz, érdeklődéshez, megbízhatósághoz, viselkedéshez, tartózkodási helyhez vagy mozgáshoz kapcsolódó jellemzők elemzésére vagy előrejelzésére használják (GDPR 3. cikk, 4. pont, 2016/680 irányelv 3. cikk 4.pont, vagy 2018/1725 rendelet 3. cikk, 5. pont).
Az objektív értékeléseken alapuló, az emberi értékeléseket támogató rendszerek alkalmazása a bűnöldőzés területén sem esik a tilalom hatálya alapján. E körben a jövőben arra mindenképpen kiemelt figyelmet kell fordítani, hogy a rendszerek valóban az emberi döntések meghozatalát támogassák és ne vegyék át a döntések meghozatalában az ember szerepét, illetve az emberi értékelés ne legyen formális. (Az ilyen rendszerek alkalmazásának veszélyei kapcsán lásd pl. ezt, ezt és ezt a cikket.)
A tilalom hatóköre kapcsán figyelmet érdemel a szűkítés, miszerint a tilalom az "e konkrét célra történő üzembe helyezésre" vonatkozik, értve ez alatt az egy adott természetes személy általi bűncselekmény elkövetésének előrejelzésére bevezetett rendszereket.
Ez a tilalom nem zárja ki az olyan kockázatelemzéseket sem, amelyek
nem az egyénekre vonatkozó profilalkotáson vagy egyének személyiségjegyein vagy tulajdonságain alapulnak, így például azon MI-rendszerekre, amelyek kockázatelemzést használnak a vállalkozások általi pénzügyi csalás kockázatának gyanús tranzakciók alapján történő értékelésére, vagy az olyan kockázatelemzési eszközökre, amelyekkel például az ismert csempészútvonalak alapján előre jelezhető, hogy a vámhatóságok milyen valószínűséggel tudják meghatározni kábítószerek vagy tiltott áruk helyét. (lásd Preambulum (42), kiemelés tőlem)
(A hátralévő további négy tiltott MI-gyakorlat ismertetésére a következő posztban kerül sor.)
A "Felkészülés az MI Rendelet alkalmazására" sorozat további részei:
