Április végén tette közzé az Európai Bizottság a mesterséges intelligencia szabályozására vonatkozó rendelettervezetét, amely a 2020. februárjában közzétett uniós MI stratégia megvalósítása szempontjából fontos lépésnek tekinthető (a Fehér könyv már elérhető magyar nyelven is).

A stratégia kiemelten kezeli az MI-t érintően a bizalom és átláthatóság megteremtését, illetve egy olyan környezet kialakítását, amely a kiválóságon alapul. Ezeken belül számos területet határoz meg, amely fókuszt igényel (pl. együttműködés a tagállamokkal és a privát szektorral, az MI-hoz kapcsolódó képességek fejlesztése, MI közszférában történő alkalmazásának támogatása, stb.). 

A bizalom megteremtése kapcsán a Fehér könyv kitér azon hét kulcsfontosságú tényezőre, amelyet a Bizottság által létrehozott magas szintű szakértői csoport fogalmazott meg az MI-re vonatkozó etikai ajánlásában, ezek az MI-re vonatkozó európai szabályozási törekvések kapcsán is kiemelt szerepet kapnak. A szakértői csoport által kiemelt hét kulcsfontosságú tényező az alábbi: 

• emberi cselekvőképesség és emberi felügyelet;
• műszaki stabilitás és biztonság;
• adatvédelem és adatkezelés;
• átláthatóság;
• sokféleség, megkülönböztetésmentesség és méltányosság;
• társadalmi és környezeti jólét; valamint
• elszámoltathatóság.

Az alábbiakban a rendelettervezet néhány alapvető elemét és a szabályozási folyamat további fő lépéseit foglalom össze. 

Miként határozza meg a mesterséges intelligencia rendszer fogalmát a tervezet?

Számos definíció kering a mesterséges intelligencia kapcsán a különböző hivatalos és nem hivatalos dokumentumokban, így például a „Mesterséges intelligencia Európa számára” c. bizottsági közlemény, illetve a magas szintű szakértői csoport által készített dokumentum is ad meghatározást az MI fogalmáról. Ugyanakkor a rendeletben megjelenő fogalommeghatározás szerepe kiemelten fontos lesz, hiszen kikényszeríthető jogi dokumentumban szerepel majd. 

A tervezet szerint a mesterséges intelligencia rendszer (MI rendszer) olyan szoftver, amelyet - az 1. sz. mellékletben szereplő - egy vagy több módszerrel vagy megközelítéssel fejlesztettek és adott, ember által meghatározott célok érdekében eredmény (output) létrehozására képes, úgymint tartalom megalkotása, előrejelzés készítése, ajánlás biztosítása, illetve a velük kapcsolatba kerülő környezetre hatással bíró döntést meghozatala.

(Az 1. sz. melléklet szerint az alábbi technikák és megközelítések felhasználása utal MI fejlesztésre:

1. gépi tanulás, beleértve a felügyelt, felügyelet nélküli és megerősítésen alapuló tanulást is, amelyek a módszerek széles körének felhasználását jelenthetik, beleértve a mélytanulást is;
2. logikai- és tudásalapú megközelítések, beleértve a tudásreprezentációt, induktív (logikai) programozást,  következtetéses és deduktív motorok, (szimbolikus) érvelés, szakértői rendszerek;
3. statisztikai megközelítések, így Bayes becslés, kereső és optimalizációs eljárások.)

A definíció kapcsán megállapítható, hogy nagyon széles kört ölel fel, így a szabályozás hatóköre kellően széles lehet majd.  

Mit szabályoz majd a rendelet?

A tervezet szerint a rendelet az alábbi tárgyban tartalmaz szabályokat: 

• MI rendszerek piaci bevezetésére, szolgáltatására, és használatára vonatkozó harmonizált szabályok;
• egyes MI gyakorlatok (eljárások) tilalma;
• a magas kockázatú MI rendszerek tekintetében különös szabályok és kötelezettségek az ilyen rendszerek üzemeltetőire;
• harmonizált átláthatósági (transzparencia) szabályok az emberekkel interakcióba lépő MI rendszerekre, az érzelem felismerő rendszerekre és a biometrikus alapon kategorizáló rendszerekre, továbbá azon MI rendszerekre, amelyek képek, hanganyag vagy videós tartalom előállítására vagy manipulálására szolgálnak;
• piacra kerülést követő monitorozás, megfigyelés.

Kire terjed majd ki a rendelet személyi hatálya?

A rendelet személyi hatálya kapcsán megfigyelhető a törekvés, hogy széles körben, minden olyan esetben alkalmazható legyen a rendelet, amikor az EU-t érintheti egy adott MI rendszer működésének a hatása, függetlenül attól, hogy az adott rendszert piacra bevezető vagy adott MI szolgáltatást nyújtó szervezet az EU-ban letelepedett-e. Ennek megfelelően a rendelet hatálya kiterjed:  

• az EU-ban MI rendszert piacra bevezető vagy MI szolgáltatást nyújtókra, függetlenül attól, hogy ezek az EU-ban letelepedettek-e;
• az EU-n belül MI rendszereket használókra;
• olyan MI rendszerek szolgáltatóra, illetve használóira, amelyek harmadik országban letelepedettek, de a rendszer által előállított eredményt (output) az EU-ban használják fel.

Mely MI rendszerek esetében tartalmaz tilalmat a tervezet?

A tervezet felsorol több olyan MI eljárást, amelyet tilt (vagy csak szűk kivételek mellett enged alkalmazni). Ebbe a körbe tartozhatnak például az emberi tudattalanra hatást gyakorló megoldások, illetve egyes sérülékeny csoportok (pl. életkori, fizikai vagy mentális állapot miatt) sérülékenységét kihasználó rendszerek, amelyek oda vezethetnek, hogy fizikai vagy pszichológiai sérülést szenvedjen el az érintett vagy más személy. Szűk körben lenne csak lehetőség nyilvános helyeken, bűnüldözési célból történő valós idejű távoli biometrikus azonosításra.    

Mik azok a magas kockázatú MI rendszerek? Miért szükséges ezeket kiemelten kezelni?

Tilesch György és Omar Hatamleh magyarul frissen megjelent könyvében olvasható az alábbi frappáns fordulat az MI rendszerek veszélyei kapcsán: 

Ahogy néhány vezető MI-szakértő megfogalmazta: ha valami 99%-ban kész, az pontosan 100%-ban jelent veszélyt és egyáltalán nincs készen. (Tilesch György – Omar Hatamleh: Mesterség és intelligencia, Libri, 2021, 101. o.)

Éppen az MI rendszerek jelentette kockázatok miatt nagyon fontos annak meghatározása, hogy mely MI rendszerekkel kapcsolatban merülhet fel magas kockázat és ezen rendszerek tekintetében szükséges szigorúbb követelményeket megállapítani. A tervezet fontos sajátossága, hogy a magas kockázatú rendszerek szabályozására fókuszál és alacsonyabb kockázatú MI rendszereket nem akarja "agyonszabályozni".   

A tervezet 2 konjunktív feltételt határoz meg a magas kockázatú rendszernek minősítéshez:

• ha az MI rendszert egy termék biztonsági elemeként kívánnak használni, vagy az MI rendszer maga az EU termék biztonsági szabályai (a tervezet 2. sz. melléklete sorolja fel ezeket) hatálya alá tartozó termék és
• harmadik fél általi megfelelőségi vizsgálaton kell átesnie a forgalomba hozatal (vagy a szolgáltatás megkezdése) előtt.

A tervezet 3. sz. melléklete pedig ad egy felsorolást a magas kockázatúnak tekinthető MI rendszerekről. Egyrészt megállapít nyolc területet, amelyről kikerülnek a magas kockázatú rendszerek, majd ezen 8 területen belül határoz meg olyan felhasználási célokat, szempontokat, amelyek körébe eső rendszerek magas kockázatúnak minősülnek. Ennek megfelelően az alábbi nyolc területen jelennek meg a tervezet szerint magas kockázatú MI rendszerek: 

• természetes személyek biometrikus azonosítása és kategorizálása,
• kritikus infrastruktúra menedzsmentje és üzemeltetése, 
• oktatás és szakképzés, 
• munkavállalás, munkavállalók menedzsmentje,  
• egyes alapvető magán- és közszolgáltatásokhoz való hozzáférés, ezek igénybevétele, 
• bűnüldözés, 
• bevándorlás, menedékkérés, határőrizet, 
• igazságszolgáltatás és demokratikus eljárások adminisztrációja. 

A fenti 8 kategórián belül egy vagy több olyan felhasználási mód kerül megjelölésre, amely magas kockázatúnak minősül (pl. valós idejű távoli biometrikus azonosítás, oktatási intézményekbe történő felvételi folyamatban alkalmazásra kerülő MI rendszerek, munkavállalók kiválasztására igénybe vett MI rendszerek, hitelképesség vizsgálatára alkalmazott rendszerek, bűnüldöző szervek által a bűnelkövetés vagy ismételt elkövetés kapcsán egyéni kockázatértékelésekre használható rendszerek, stb.).     

A Bizottság felhatalmazást kapna a tervezet alapján arra, hogy MI rendszereket magas kockázatúnak minősítsen a rendeletben meghatározásra kerülő szempontok alapján.

Milyen szabályok vonatkoznak a magas kockázatú MI rendszerekre?

• Kockázatkezelési rendszert kell kialakítani, bevezetni, dokumentálni és fenntartani.
• A felhasználásra kerülő adatokra, illetve az adatkormányzásra (data governance) vonatkozó külön szabályok kerülnek meghatározásra. A data governance keretében – a tanító adatok, validációs adatok és teszt adatok tekintetében is - különösen az alábbiakra kell kitérni:

1. a releváns tervezési döntések (design choices);
2. adatok gyűjtése;
3. releváns adat előkészítési feldolgozási műveletek, mint magyarázat (annotáció), címkézés, tisztítás, dúsítás és aggregálás;
4. a releváns  feltételezések megfogalmazása, különösen azon információk vonatkozásában, amelyeket az adatok mérni, illetve reprezentálni hívatottak;
5. a szükséges adathalmazok elérhetőségének, mennyiségének és megfelelőségének előzetes felmérése;
6. a lehetséges előítéletekre tekintettel történő vizsgálat;
7. az adatokat érintő lehetséges hiányosságok vagy gyenge pontok azonosítása, és ezek lehetséges kezelése.

• Technikai dokumentációt kell készíteni és azt naprakészen kell tartani.
• Nyilvántartási kötelezettség, amely automatikus logolásra vonatkozó követelményeket jelent. 
• Átláthatóságra vonatkozó követelményeket határoz meg a tervezet, amely alapján tájékoztatási kötelezettség áll fenn, meghatározott tartalommal. 
• Fontos szempont az emberi felügyelet biztosítása.
• Kiemelten jelenik meg a pontosság, robosztusság és kiberbiztonság, mint a magas kockázatú MI rendszerekkel kapcsolatos elvárások.
• A magas kockázatú MI rendszerek kapcsán a különböző szereplőkre (szolgáltató, importőr, forgalmazó, használó, egyéb harmadik személy) vonatkozóan további speciális követelményeket állapít meg a tervezet. 

Mit tartalmaz még a tervezet? 

A tervezetnek nagyon fontos eleme, hogy termékfelelősségi és az MI rendszerek megfelelőségével kapcsolatos részletes szabályokat is tartalmaz. Továbbá olyan mechanizmusok kialakítására törekszik, amelyek elősegítik a szabványosítást, a megfelelőségi vizsgálatokat, illetve tanúsítványok bevezetését az MI rendszerek tekintetében. 

A fentieken túlmenően is számos rendelkezést tartalmaz még a tervezet - többek között - az MI fejlesztések (innováció) támogatására. Ehhez kapcsolódóan kialakításra kerülnének olyan játszóterek/homokozók (sandbox), amelyben a fejlesztések a szükséges adathalmazok rendelkezésre állásának is köszönhetően könnyebben folytathatók. A kisebb piaci szereplők és a startupok "helyzetbe hozására" törekvés is több ponton megjelenik a tervezetben.  

Létrehozatalra kerülne az Európai Mesterséges Intelligencia Testület, amely elsősorban az MI-vel kapcsolatos koordináló és tanácsadó feladatokat látna el. 

A szabályok kikényszerítése érdekében jelentős összegű bírságok kiszabására is lehetőséget biztosítana a rendelet.  

Milyenek a tervezetre adott első reakciók? 

A tervezet fogadtatása kapcsán alapvetően kiemelésre kerül, hogy a tervezet nagyon fontos lépés az MI szabályozás kapcsán. Az MI kapcsán megfogalmazásra kerülő uniós megközelítés, az európai értékek érvényesítésére törekvés kiemelten fontos egy ilyen gyorsan fejlődő és az élet számos területén már most is jelentős hatást gyakorló területen. A tervezet javára írják a kockázatalapú megközelítést és azt, hogy a magas kockázatú MI rendszerek tekintetében "megy bele" a részletekbe, az egyéb, kevésbé kockázatosnak minősülő rendszerek tekintetében visszafogottan, pragmatikusan tervez szabályozni.  

Jogvédő szervezetek (pl. EDRI) részéről kritikaként került megfogalmazásra, hogy bizonyos kérdésekben a tervezet nem megy eléggé messzire, így továbbra is maradhat tér az MI alkalmazásával történő diszkriminációra, illetve tömeges megfigyelésekre. Mások kritikaként említik, hogy az egykapus eljárás (one-stop-shop) hiánya miatt a végrehajtás széttöredezett lehet az EU-n belül. 

A tervezet még sokat változhat a jogalkotási folyamatban, így számos pro és kontra érv elhangozhat majd az egyes szabályok kapcsán a különböző fórumokon.   

Hogyan tovább? Mik a következő lépések? 

A Bizottság által közzétett tervezet az EU jogalkotási folyamatán keresztül végighaladva válhat az EU valamennyi tagállamában közvetlenül alkalmazandó rendeletté. Ehhez szükséges az Európai Parlament és a tagállamok képviseletében az Európai Tanács támogatása is.