Az MI Rendelet alkalmazása szempontjából megkerülhetetlen kérdés, hogy miként kell értelmezni az MI-rendszer rendeletben szereplő fogalmát. Éppen ezért az alábbi posztban azt járom körül, hogy mit fed le az MI Rendelet MI-rendszer fogalma, illetve miként határolható el egy MI-rendszer egy "hagyományos" IT rendszertől, melyek azok a megkülönböztető jegyek, amelyek alapján egy rendszer kapcsán azt mondhatjuk, hogy MI-rendszerről van szó. 

1. Az MI Rendeletben szereplő MI-rendszer definíció "előélete" 

A különböző jogszabályok, tervezetek, ajánlások által alkalmazott MI, illetve MI-rendszer definíciók számos esetben mutatnak kisebb-nagyobb eltérést (egy nagyon jó összehasonlító válogatás a különböző definíciókról elérhető itt, illetve egy korábbi, 2020-as átfogó áttekintés az MI definíciókról és az MI-hez kapcsolódó taxonómiáról elérhető itt).

Az egyik olyan definíció, amely több jelentős elfogadott vagy elfogadás alatt álló jogszabályban is az MI-rendszer meghatározásának alapjául szolgál, az OECD által 2019-ben elfogadott és 2023. november 8-án módosított ajánlásában is szereplő definíció. Ezt a definíciót vette alapul az Európai Parlament is, amikor javaslatot tett az MI Rendelet tervezetében szereplő definícióra (elvetve a Bizottság által eredetileg javasolt kissé nehézkes verziót) és lényegében ez vált - az MI Rendelet elfogadott szövege alapján - az MI-rendszer fogalmának uniós szintű szabályozásban megjelenő hivatalos meghatározásává. 

(Az Egyesült Államok elnökének MI-re vonatkozó rendelete is az OECD javaslatban szereplőhöz nagyon hasonló meghatározást tartalmaz. Továbbá az MI-re vonatkozó első kötelező erejű nemzetközi szerződés, az Európa Tanács (Council of Europe) által 2024. májusában elfogadott és aláírásra 2024. szeptemberében megnyíló dokumentumban, amely a "Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law" címet viseli, is ezzel egyező definíció szerepel.) 

Az MI redszer - OECD szerinti - (2023-ban frissített) meghatározása a következő:

An AI system is a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that [can] influence physical or virtual environments. Different AI systems vary in their levels of autonomy and adaptiveness after deployment. 

Az MI rendszer olyan gépi alapú rendszer, amely explicit vagy implicit célok esetén a kapott bemenetből arra következtet, hogyan hozhat létre olyan kimeneteket, például előrejelzéseket, tartalmat, ajánlásokat vagy döntéseket, amelyek befolyásolhatják a fizikai vagy virtuális környezetet. A különböző MI rendszerek eltérő mértékű autonómiát és alkalmazkodóképességet biztosítanak a telepítés után. (Nem hivatalos, saját fordítás.)

Ábra forrása: OECD (https://oecd.ai/en/ai-principles)

(Az OECD definíció 2023-as módosításáról itt írtam korábban.)

2. Az MI-rendszer fogalma az MI Rendeletben

Az MI Rendelet értelmében MI-rendszer:

• olyan gépi alapú rendszer,
• amelyet úgy terveztek, hogy különböző szintű autonómiával működjön,
• amely bevezetését követően alkalmazkodóképességet tanúsíthat, és
• amely a kapott bemenet alapján – explicit vagy implicit célok érdekében – kikövetkezteti, miként generáljon olyan kimeneteket, például előrejelzéseket, tartalmakat, ajánlásokat vagy döntéseket,
• amelyek befolyásolhatják a fizikai vagy a virtuális környezetet. 

(A definíciót lásd MI Rendelet 3. cikk 1. pontjában.)

Ahogy korábban is írtam, ahhoz tehát, hogy az MI-rendszerekre vonatkozó követelmények alkalmazandóak legyenek természetesen szükséges, hogy az adott rendszer a fenti definíció hatálya alá essen. A fenti fogalmi elemek kapcsán kérdés, hogy az MI-rendszereket miként lehet elhatárolni a "hagyományos" IT rendszerektől, hiszen a fenti elemek közül több is érvényes ezen IT rendszerekre is. A "hagyományos" IT rendszerektől való elhatárolás szempontjából a - különböző szintű - autonómia megléte lehet a lényegi elem, hiszen egy teljesen szabály alapon működő, semmilyen autonómiát nem mutató rendszer nem minősülhet MI-rendszernek, így az MI Rendelet sem vonatkozik rá. Az alkalmazkodóképesség is releváns lehet, ugyanakkor a definíció ennek meglétét csak lehetőségként említi ("alkalmazkodóképességet tanúsíthat", az angol szövegben "may" szerepel), így ez nem elengedhetetlen eleme az MI-rendszernek.   

Nézzük meg egyenként a fogalom elemeit!

2.1. Gépi alapú rendszer

A fogalom elemeként a "gépi alapú" tehát csupán ezen rendszerek futtatási módjára utal és a "hagyományos" IT rendszerekhez képest megkülönböztető erővel önmagában nem bír. A megkülönböztetési képesség hiánya miatt a definíciót tárgyaló cikkek, elemzések sem térnek ki külön erre az elemre. 

Talán itt érdemes azt is megjegyezni az MI-rendszerek kapcsán, hogy ezek "[...] önállóan vagy termék alkotóelemeként használhatók, függetlenül attól, hogy a rendszert fizikailag integrálták-e a termékbe (beágyazott rendszer), vagy hogy anélkül szolgálja-e a termék funkcionalitását, hogy abba beépítenék (nem beágyazott rendszer)." (Lásd Preambulum (12), kiemelés tőlem.)

2.2. Különböző szintű autonómiával való működés

A fogalom második eleme, a különböző szintű autonómiával való működés rögtön a legfontosabb része a meghatározásnak, hiszen talán ez jelenti a leginkább megfogható elhatárolási lehetőséget a "hagyományos" IT rendszerekhez képest. 

Mit jelent az autonómia?

A különböző szintű autonómia megragadásához először azt kell megvizsgálnunk, hogy mit jelent az "autonómia" fogalma az MI-rendszerekkel való összefüggésben. (Az autonómia fogalmával kapcsolatos diskurzust csak nagyon leszűkítve vizsgálom itt, hiszen nagyon szerteágazó, számos helyen tárgyalt témáról van szó, amely az emberi cselekvések, tevékenységek vonatkozásában egyéni és közösségi szinten is megjelenik. Az "autonómia" fogalma kapcsán is azt tapasztaljuk, hogy egy szorosan az emberi viselkedésre és az emberi viszonyokra kialakított fogalmat alkalmazunk a mesterséges intelligenciával kapcsolatban, ráadásul - ahogy alább látni fogjuk - éppen az emberi közreműködéstől, beavatkozástól való mentesség leírására.)

Az OECD definícióhoz kapcsolódó magyarázat szerint "[az] MI-rendszer autonómiája azt jelenti, hogy a rendszer milyen mértékben képes emberi beavatkozás nélkül tanulni vagy cselekedni az autonómia átruházását és a folyamatautomatizálást követően. Emberi felügyeletre az MI-rendszerek életciklusának bármely szakaszában sor kerülhet, például az MI-rendszerek tervezése, az adatok gyűjtése és feldolgozása, fejlesztés, ellenőrzés, validáció, alkalmazás (üzembe helyezés), üzemeltetés és nyomon követése során. Egyes mesterségesintelligencia-rendszerek emberi konkrét utasítások nélkül is képesek kimeneteket generálni."  

Az autonómia fentiek szerint lényegében az emberi beavatkozás nélküliségre, illetve ennek bizonyos fokára utal. A gyakorlatban fontos lehet elhatárolni az autonóm működést az automatizált működéstől, hiszen ez utóbbi is képes lehet arra, hogy emberi beavatkozás nélkül történjen (sőt, éppen ez a lényege), de az automatizált működés esetében előre meghatározott lépések szerint és ezekből következő kimenet (eredmény) érdekében működik a rendszer, míg - a különboző mértékű - autonómia megléte esetén nem lehet a működés teljesen kiszámítható, determinisztikus. 

2.3. Bevezetését követően alkalmazkodóképességet tanúsíthat

Az alkalmazkodóképesség megléte is fontos elhatárolási elem lehet, ugyanakkor fontos ismét hangsúlyozni, hogy ez a definíciónak csak eshetőleges eleme, azaz ennek hiánya önmagában még nem jelenti azt, hogy nem egy MI-rendszerről van szó.

Az alkalmazkodóképesség az MI-rendszerek egy részére jellemző elem, erre utal a preambulum is, amikor az öntanulási képességgel kapcsolja össze az alkalmazkodóképességet. Hasonlóan ehhez, az OECD által az MI-rendszer fogalmmeghatározásához adott magyarázat is a gépi tanulás jellemzőjeként utal erre. Ennek, a bevezetést követően megvalósuló öntanulási képességnek köszönhetően az ilyen MI-rendszerek olyan új következtetéseket vonhatnak le, amelyeket eredetileg a fejlesztés során nem terveztek. Ennek a tulajdonságnak a megléte nem is definíciós elemként, hanem leginkább abból a szempontból fontos, hogy az alkalmazkodóképességet mutató MI-rendszerekre vonatkozó követelményeknek alkalmasnak kell lenniük arra, hogy az időközben bekövetkező változásokat is lekövessék és a rendszer biztonságos és követelményeknek megfelelő működése ne sérüljön az életciklus során. 

Adaptív (alkalmazkodóképes) rendszer lehet például az OECD definícióhoz fűzött magyarázata szerint egy olyan beszédfelismerő rendszer, amely alkalmazkodik az egyén hangjához, vagy a személyre szabott zeneajánló rendszer.

2.4. A kapott bemenet alapján – explicit vagy implicit célok érdekében – kikövetkezteti, miként generáljon kimeneteket

A következtetés bemenetek alapján történik. A bemenetek származhatnak embertől, de akár gépiek is lehetnek, hiszen e tekintetben a fogalommeghatározás semmilyen szűkítést nem tartalmaz. Nem tartalmaz szűkítést az explicit és implicit célok meghatározása tekintetében sem a definíció, itt sem releváns, hogy a célmeghatározás hogyan és ki által történik. (Az OECD definíció korábbi változata kifejezetten ember által meghatározott célokat említ, de ez kizárta az MI-rendszerek köréből azokat, amelyek tekintetében a célmeghatározás nem embertől származik.) 

2.5. A kapott kimenetek befolyásolhatják a fizikai vagy a virtuális környezetet

A befolyásolás lehetősége ("befolyásolhatják") "elegendő, nem szükséges, hogy tényleges változás következzen be akár a virtuális, akár a fizikai környezetben a kimenetek hatására.