A vállalati környezetben megjelenő mesterségesintelligencia-megoldások egyre nagyobb üzleti értéket teremtenek, ugyanakkor új információbiztonsági és adatvédelmi kihívásokat is magukkal hoznak. Számos magyar vállalat már rendelkezik AI-stratégiával, és gyakran úgy tekint erre, mint amely önmagában megfelelő választ ad a biztonsági kérdésekre is. A gyakorlat azonban azt mutatja, hogy számos kockázat csak a stratégia megalkotását követően, a technológia tényleges alkalmazása során válik láthatóvá.

Az Atos a nemzetközi és hazai tapasztalatokra építve mutatja be, hogy az AI-megoldások bevezetésének különböző érettségi szintjein milyen biztonsági kihívásokkal szembesülhetnek a szervezetek, valamint milyen technológiai, szervezeti és irányítási intézkedésekkel mérsékelhetők ezek a kockázatok.

Az AI-biztonság fejlődése öt jól elkülöníthető érettségi szinten keresztül írható le: az ad hoc használattól egészen a teljes körĹąen szabályozott, üzleti kontextust is figyelembe vevő mĹąködésig.

1. Ad Hoc szint

Az érettség legalacsonyabb fokát az ad hoc AI-használat jelenti. Ebben a szakaszban a szervezet különböző területein már megjelennek mesterséges intelligenciára épülő eszközök és szolgáltatások, azonban ezek még nem integrálódnak a vállalati folyamatokba. Az elszigetelten mĹąködő megoldások jellemzően nem kapcsolódnak a központi monitorozási, naplózási vagy jogosultságkezelési rendszerekhez, és sok esetben egymással sem kommunikálnak.

A munkatársak gyakran saját kezdeményezésre, ellenőrizetlen módon kezdenek AI-eszközöket használni, ami a „Shadow AI” jelenség kialakulásához vezet. Ilyen környezetben a szervezet korlátozott rálátással rendelkezik az adatok mozgására, feldolgozására és az AI által generált eredmények felhasználására. A legnagyobb kockázatot ebben a szakaszban nem maga a technológia, hanem annak láthatatlansága jelenti.

Jellemző hiányosság az identitás- és hozzáféréskezelés, a naplózás, a monitorozás és az adatvédelmi kontrollok hiánya. A Shadow AI teljes körĹą megszüntetése gyakorlatilag lehetetlen, hiszen a munkavállalók saját eszközökön vagy ingyenesen elérhető szolgáltatásokon keresztül könnyen megkerülhetik a vállalati kontrollokat. Ezért ezen a szinten a legfontosabb feladat olyan szervezeti kultúra kialakítása, amely biztonságos és szabályozott keretek között ösztönzi az AI használatát. Az elsődleges cél az AI-használat láthatóvá tétele és az ad hoc mĹąködés mielőbbi felszámolása.

„Ezen a szinten számos hazai kis- és középvállalkozás próbálkozik AI-rendszerek bevezetésével, azonban az eredmények gyakran elmaradnak a várakozásoktól, mert a megoldások nem illeszkednek megfelelően a meglévő rendszerekhez. Sok esetben a Shadow AI intézményesül, és amikor egy-egy felmérés során rákérdezünk arra, hogy egy adott AI-eszköz hogyan kezeli az összegyĹąjtött adatokat, gyakran már az adatgyĹąjtés ténye is meglepetést okoz” – mutat rá Sándor Dénes, az Atos Magyarország AI-szakértője.

2. Discovery szint

A Discovery szakaszban a szervezet már tudatosan feltérképezi AI-környezetét. Elkészül az alkalmazott AI-eszközök és szolgáltatások leltára, láthatóvá válnak a kapcsolódások, függőségek és adatáramlások. Az AI-rendszerek integrálódnak a vállalati monitorozási és telemetriai infrastruktúrába, így nyomon követhetővé válik, milyen erőforrásokat használnak, milyen rendszerekhez férnek hozzá, kik alkalmazzák őket, és milyen jogosultságokkal rendelkeznek.

Ebben a szakaszban kezdődik meg az úgynevezett baseline-ok kialakítása, vagyis a normál mĹąködési minták rögzítése. Ezek szolgálnak alapul a későbbi anomáliadetektáláshoz, amely lehetővé teszi a szokásostól eltérő mĹąködések azonosítását és kezelését.

A biztonsági fókusz elsősorban az integrációk védelmére, az API-hozzáférések kezelésére, a háttérrendszerek jogosultságkezelésére, valamint az írási és módosítási jogosultságok szabályozására helyeződik. A Discovery szint legfontosabb eredménye, hogy a szervezet már nem csupán használja az AI-t, hanem képes annak mĹąködését mérni és megérteni is.

3. Governance szint

A Governance szinten a szervezet már rendelkezik AI-stratégiával, szabályozási keretrendszerrel és egyértelmĹąen definiált felelősségi körökkel. Megjelennek az AI-használatra vonatkozó szabályzatok, a szerepkörök és felelősségek (RACI), az auditálható folyamatok, valamint a hozzáférési, ellenőrzési, naplózási és monitorozási követelmények.

Sok szervezet ebben a fázisban úgy érzi, hogy biztonsági szempontból elérte a kívánt állapotot. A valóság azonban az, hogy az AI-specifikus fenyegetések jelentős része éppen ezen a szinten válik igazán relevánssá.

Ilyen kockázat például a prompt injection támadás, amely során rejtett utasításokkal befolyásolják az AI mĹąködését. Egy látszólag ártalmatlan dokumentum, PDF vagy adatforrás olyan instrukciókat tartalmazhat, amelyeket a modell adat helyett végrehajtandó utasításként értelmez. Ennek következtében az AI olyan mĹąveleteket hajthat végre, amelyek nem álltak a felhasználó eredeti szándékában.

A megfelelő védelem érdekében szükségessé válik a prompt hardening, az instrukciók és adatok elkülönítése, a tool-hívások korlátozása és kontrollja (tool gating), a kimenetek validálása, valamint az emberi jóváhagyási pontok (human-in-the-loop) kialakítása. Ezen a szinten a hangsúly már nem az AI használatának, hanem az AI viselkedésének kontrollján van.

„Nem ritka, hogy egy legitimnek tĹąnő dokumentumba rejtett utasítás arra készteti az AI-ügynököt, hogy jogosultságain belül ugyan, de nem szándékolt módon adatokat kérjen le vagy módosításokat hajtson végre. Az ilyen esetek megelőzéséhez szigorú inputszétválasztásra, megfelelő tool-kontrollra és emberi jóváhagyási folyamatokra van szükség” – emeli ki a szakértő.

4. Detection szint

A Detection szint elérésével a szervezet már elegendő historikus adattal és mĹąködési tapasztalattal rendelkezik ahhoz, hogy automatikusan felismerje a normál mĹąködéstől való eltéréseket.

A korábban kialakított baseline-ok segítségével azonosíthatóvá válnak a rendellenes használati minták, a szokatlan erőforrás-felhasználás, a gyanús AI-agent viselkedések, a prompt injection kísérletek és a jogosultsági anomáliák.

Ezen a szinten a puszta szabályozás már nem elegendő: a mĹąködést folyamatosan figyelni, értelmezni és szükség esetén kezelni kell. A rosszindulatú vagy hibás mĹąködés következményei ekkor már komoly üzleti kockázatot jelenthetnek, beleértve az adatszivárgást, a reputációs károkat, a túlzott erőforrás-felhasználást vagy akár kritikus üzleti folyamatok sérülését.

Mindezek a veszélyek az alacsonyabb érettségi szinteken is jelen vannak, azonban ezen a ponton már olyan mértéket ölthetnek, amely indokolttá teszi a proaktív észlelési és gyors reagálási képességek kiépítését.

5. Enforcement szint

Az AI-biztonsági érettség legmagasabb szintjét az Enforcement fázis jelenti, ahol a szervezet már nem csupán figyeli és elemzi a mĹąködést, hanem képes dinamikusan beavatkozni és kikényszeríteni a biztonsági szabályok betartását.

Ebben a modellben kiemelt szerepet kap az Intent-Based Access Control (IBAC), amely túlmutat a hagyományos szerepköralapú jogosultságkezelésen. Az IBAC nemcsak azt vizsgálja, hogy egy felhasználó vagy rendszer rendelkezik-e a szükséges jogosultságokkal, hanem azt is, hogy az adott mĹąvelet valóban indokolt-e az aktuális üzleti cél és feladat szempontjából.

Ennek segítségével ellenőrizhető, hogy az AI valóban a kijelölt üzleti feladatot hajtja-e végre, kizárólag a szükséges adatokat használja-e fel, csak a szükséges eszközöket és jogosultságokat veszi-e igénybe, valamint nem történik-e jogosulatlan adat-hozzáférés vagy adatszivárgás.

Az Enforcement szint célja, hogy a szervezet ne csupán reagáljon a kockázatokra, hanem képes legyen azok automatikus megelőzésére és megakadályozására. Ez jelenti az AI-biztonság legérettebb és legellenállóbb mĹąködési modelljét.

„Fontos hangsúlyozni, hogy az AI-biztonság nem egyetlen technológiai komponens kérdése. Nem elegendő egy AI-stratégia kidolgozása vagy néhány védelmi eszköz bevezetése. Az AI-security valójában egy több rétegen átívelő, rendszerszintĹą kockázati terület, amelyet csak a teljes informatikai, adatkezelési és irányítási környezet figyelembevételével lehet hatékonyan kezelni” – teszi hozzá Hernádi József, az Atos Magyarország ügyvezető igazgatója.

Nyitókép: Magnific

English Summary

The rapid adoption of artificial intelligence in enterprise environments brings significant business opportunities, but also introduces new information security and data protection challenges. Many organizations assume that having an AI strategy is sufficient to address security concerns, while in reality, several AI-specific risks only emerge during practical implementation. This article presents a five-level AI security maturity model, ranging from uncontrolled ad hoc usage and Shadow AI to fully governed and proactive security operations. Each maturity level introduces different challenges, including visibility gaps, access control issues, prompt injection risks, anomaly detection requirements, and dynamic policy enforcement. By combining technological, organizational, and governance measures, companies can gradually build a secure and resilient AI operating model. Ultimately, AI security is not a single technology challenge, but a holistic discipline requiring continuous oversight across data, processes, and the wider IT environment.