Így korlátozzák a jövőben a mesterséges intelligenciát

Az Európai Parlament hosszas politikai csatározások után fogadta el a mesterségesintelligencia-rendeletet (EU AI Act – Regulation (EU) 2024/1689), amely hivatalosan 2024. augusztus 1-jén lépett hatályba. A szabályozás alapja az a felismerés, miszerint a szabályozatlan algoritmusok akár alapvető emberi jogokat sérthetnek (elfogult HR-szoftverek, politikai manipulációk). 

Fontos megjegyezni, hogy a szabályozás nem magát a technológiát, hanem annak alkalmazási módját bünteti vagy korlátozza. 

Vagyis mindig fontos mérlegelni, hogy milyen kontextusban és mire használják az adott MI-megoldást.

A négy kockázati kategória

A jogszabály négy jól elkülöníthető kockázati kategóriába sorolja a rendszereket.

1. Elfogadhatatlan kockázat – TILOS kategória

Ezek az MI-alkalmazások egyértelmű fenyegetést jelentenek az emberek biztonságára, megélhetésére és alapvető jogaira. Az EU-ban ezek piacra dobása, fejlesztése és használata szigorúan tilos. Például ide tartoznak a kínai típusú társadalmi pontozórendszerek, amelyek a polgárok mindennapi viselkedése, online megnyilvánulásai vagy politikai hűsége alapján osztályozzák az embereket, és ez alapján jogfosztást vagy hátrányos megkülönböztetést alkalmaznak. Ezek közé sorolják a tudatalatti manipulációt alkalmazó megoldásokat. Ezek olyan MI-alapú hang- vagy vizuális rendszerek, amelyek észrevétlenül torzítják el az ember viselkedését, és ezzel fizikai vagy pszichológiai sérülést okozhatnak. (Például egy gyerekjátékba épített MI-asszisztens, amely veszélyes kihívásokra veszi rá a gyermeket). 
Ugyancsak ide tart a munkahelyi és iskolai érzelemfelismerés, vagyis az olyan szoftverek, amelyek kameraképek alapján próbálják megtippelni a munkavállaló vagy a diák érzelmi állapotát, motivációját, stresszszintjét. Tiltott a valós idejű, távoli biometrikus azonosítás vagy arcfelismerés is, amit a rendvédelmi szervek közterületeken vethetnek be, bűnüldözési célból (Kivéve a rendkívül szigorúan meghatározott: bíróság által engedélyezett kivételeket: vannak, például az emberrablási áldozatok keresése vagy terrorveszély elhárítása).

2. Magas kockázat – SZIGORÚAN SZABÁLYOZOTT kategória

Ezek a rendszerek negatív hatással lehetnek az emberek egészségére, biztonságára vagy alapvető jogaira, de társadalmilag hasznosak, ezért engedélyezettek, de rendkívül szigorú auditokhoz, emberi felügyelethez és CE-jelöléshez kötöttek.
Például ide tartozik a kritikus infrastruktúrák kezelése, olyan MI-rendszerek, amelyek a közúti, légi vagy vasúti közlekedést irányítják, vagy a vízellátást, áramhálózatokat felügyelik (ahol egy szoftverhiba emberéleteket veszélyeztethet). Vagy az oktatás és szakképzés területén a felvételi pontszámokat kalkuláló algoritmusok, vagy vizsgák során csalást szűrő, automatizált értékelő szoftverek, amelyek eldönthetik valaki továbbtanulási esélyeit. 
Ide sorolhatók továbbá a foglalkoztatás és HR-menedzsmenten belül a már említett önéletrajzokat automatikusan szűrő és rangsoroló robotok, teljesítményértékelő rendszerek, célzott álláshirdetés-szétosztó algoritmusok. Ezek közé a rendszerek közé sorolhatók továbbá a létfontosságú magán- és közszolgáltatások, vagyis a hitelképesség-értékelő rendszerek (amelyek eldöntik, kaphat-e valaki lakáshitelt), vagy a segélyek, állami támogatások elosztását végző algoritmusok.
Szigorúan szabályozottak az orvostechnikai eszközök biztonsági elemei is, vagyis azok a MI-vezérelt robotsebészeti asszisztensek vagy diagnosztikai szoftverek, amelyek rákos daganatok felismerését végzik röntgenképeken. A migráció és a határőrizetben az úti okmányok hitelességét vizsgáló MI, vagy a menedékkérők kockázati szintjét elemző algoritmusok is szigorú elbírálás alá esnek.

3. Korlátozott kockázat – átláthatósági kötelezettség 

Ezek az MI-megoldások nem hordoznak rendszerszintű veszélyt, de fennáll a felhasználók megtévesztésének esélye. A fő szabály: a felhasználónak jogában áll tudni, hogy géppel van dolga.
Az ügyfélszolgálati chatbotok esetében, ha például egy weboldalon chaten kérünk segítséget, a rendszernek az első pillanatban egyértelműen jeleznie kell, ha nem hús-vér emberrel, hanem egy MI-asszisztenssel van dolgunk. A ChatGPT, Midjourney és hasonló eszközök által generált szövegeket, képeket, audio- és videóanyagokat (deepfake) olyan formátumban kell kibocsátani, hogy azok mesterséges eredete könnyen felismerhető és géppel olvasható (vízjelezett) legyen. Ide tartozik a biometrikus kategorizálás is, vagyis olyan rendszerek, amelyek nem azonosítanak egy konkrét embert, de tulajdonságok alapján csoportosítanak (például nem, kor vagy hajszín alapján statisztikát készítő plázakamerák).

4. Minimális vagy elhanyagolható kockázat

A ma használt MI-alkalmazások túlnyomó többsége, becslések szerint több mint 80–85 százaléka a minimális vagy elhanyagolható kockázatot jelentő megoldások közé tartoznak. Ezekre semmilyen extra kötelezettség nem vonatkozik, a fejlesztők önkéntes etikai kódexeket alkalmazhatnak. Ilyenek például a spamszűrők, vagyis az e-mail fiókok levélszemétszűrő algoritmusai, a videojátékok MI-je, ami a játékokban a számítógép által irányított ellenfelek vagy nem-játékos karakterek (NPC-k) viselkedését vezérlő kódokat takarja. De ide esnek a hétköznapi ajánlórendszerek, legyen az egy webshop ajánlórendszere vagy egy streamingszolgáltató filmajánlója is.

Mikortól kötelező?

Ha az EU elfogadja az EU Digital Omnibus nevű, technikai és tartalmi módosító csomagot, akkor pár határidővel már idén augusztusban szembesülhetünk a mesterséges intelligencia törvény kapcsán. 
Az Európai Bizottság azért nyújtott be Omnibus-szabályozást, mert az elmúlt években elfogadott rengeteg digitális törvény (GDPR, AI Act, NIS2, Data Act, DORA) között rengeteg átfedés, ellentmondás és felesleges adminisztratív teher keletkezett, ami rontotta az európai cégek versenyképességét. Az Európai Bizottság 2025. november 19-én mutatta be és publikálta a hivatalos jogszabálytervezetet, de a csomag jelenleg is jogalkotási fázisban van (az Európai Parlament és az Európai Unió Tanácsa tárgyalja és módosítja). Az EU intézményeire komoly nyomás nehezedik, hogy a csomagot 2026 közepén vagy második felében véglegesen elfogadják, mivel az AI Act bizonyos határidőit (például a magas kockázatú rendszerek auditját) még azelőtt el akarják halasztani, hogy az eredeti határidők élesednének. 
Míg az eredeti AI Act a magas kockázatú rendszerek auditját 2026 augusztusára kötelezővé tette volna, az új elképzelések szerint a határidőt összekötik a harmonizált uniós szabványok elkészültével, legkésőbb 2027. december 2-re vagy egyes esetekben 2028-ra halasztják. Az Omnibus ugyancsak engedélyezné az MI-fejlesztőknek, hogy különleges (szenzitív) személyes adatokat (például faji háttér, egészségügyi adatok) kezeljenek abból a célból, hogy teszteljék és kiszűrjék az MI-modellek diszkriminatív működését. Tehermentesítenék a közepes méretű vállalkozásokat is, így azok is kevesebb technikai dokumentációt kell gyártaniuk, és csökkentett bírságokra számíthatnak.

A legfontosabb mérföldkövek az AI Act esetében

2026. augusztus 2. – amikor életbe lépnek az általános átláthatósági kötelezettségek. Minden olyan digitális szolgáltatásnak, amely chatbotot üzemeltet vagy szintetikus tartalmat (deepfake, MI-szövegek) állít elő, egyértelműen deklarálnia kell a mesterséges eredetet.

2026. december 2. (a Digital Omnibus által módosított dátum) – teljes tilalom lép életbe a hozzájárulás nélküli intim/szexuális tartalmakat generáló appokra (úgynevezett nudifier alkalmazások). Ekkortól kötelező a generatív modellek által kibocsátott tartalmak géppel olvasható vízjelezése is.

2027. december 2. – a magas kockázatú rendszereknek teljeskörűen meg kell felelniük az auditkövetelményeknek, és regisztrálniuk kell magukat az EU központi adatbázisába.