Az AI-technológiák jelentős előnyöket kínálnak a vállalatok számára, ugyanakkor helytelen használatuk súlyos következményekkel is járhat. Az Európai Unió mesterséges intelligencia rendelete alapján 2025. február 2-tól akár 35 millió eurós vagy az éves globális árbevételük 7 százalékának megfelelő bírságot jelenthet a tiltott AI-tevékenységet végző vállalatok számára. A szabályozásnak való megfelelés védelmet nyújt a bírságokkal és reputációs károkkal szemben.

A mesterséges intelligencia (AI) alkalmazásának globális szabályozásában zászlóshajónak számító jogszabály, az Európai Unió mesterséges intelligencia rendelete (AI Act) 2024. augusztus 1-jén lépett hatályba. A rendelet célja az AI-rendszerek etikus és biztonságos használatának elősegítése, miközben technológia-semleges, kockázatalapú megközelítést alkalmaz.

Freepik

Az AI Act alkalmazási köre széles. Nemcsak az Európai Unióban mĹąködő gyártókat, importőröket, forgalmazókat és szolgáltatókat érinti, hanem az EU-n kívüli vállalatokat is, ha azok termékei vagy szolgáltatásai elérhetők az uniós piacon, vagy hatással vannak uniós állampolgárokra. A jogszabály értelmében 2025. február 2-tól akár 35 millió eurós vagy az éves globális árbevételük 7 százalékát kitevő pénzbüntetést is jelenthet azoknak a vállalkozásoknak, amelyek tiltott AI-tevékenységeket folytatnak. Az AI Act olyan gyakorlatokat sorol a tiltott kategóriába, amelyek súlyosan sérthetik az alapvető emberi jogokat, jelentős fizikai vagy pszichológiai kárt okozhatnak, vagy hátrányos megkülönböztetést eredményezhetnek.

dr. Barta Gergő

„Az AI Act-nek való megfelelőség biztosítása nem csupán jogi kötelezettség a vállalatok számára, hanem reputációjuk, megbízhatóságuk megőrzése szempontjából is kritikus. Mivel a szabályozás rendkívül összetett és a hatálya az Európai Unió határain túlra is kiterjed, a cégeknek proaktívan kell fellépniük. Ez azt jelenti, hogy a megfelelőség biztosításának érdekében át kell vizsgálniuk a teljes értékláncukat, egészen a fogyasztókig” – mondta dr. Barta Gergő, a Deloitte Vezető AI Menedzsere és Szakértője.

Szervezeti Roadmap és AI kockázatkezelési keretrendszer kialakítása

A rendeletben, illetve harmonizált jogszabályokban lefektetett követelmények maradéktalan betartásának egyik kulcstényezője a szervezeti és technológiai megfontolások sikeres felmérése és menedzselése. Fontos, hogy a vállalatok egy átfogó AI-stratégia részeként vizsgálják az AI Act-ben megfogalmazott követelményeket.

PrisznyĂĄk Alexandra

„Iparági tapasztalataink alapján számos vállalat megfelelőségi tervéből hiányzik az AI-stratégia kialakítása, aminek következtében a szabályozási megfelelőség nehézségekbe ütközik. Ennek legfőbb oka, hogy a meglévő vállalatirányítási struktúrák és kockázatkezelési keretrendszerek jellemzően nem tartalmazzák az AI-technológiák által jelentett kockázatok hatékony kezeléséhez szükséges speciális elemeket és mechanizmusokat” – mondta Prisznyák Alexandra, a Deloitte Vezető AI és Robotika Szakértője.

Komplex AI-rendszerek és tiltott AI-gyakorlatok

A tiltott AI-gyakorlatok megfelelő azonosítása érdekében a piaci szereplőknek alaposan meg kell vizsgálniuk az alkalmazott AI megoldásaikat.

Attól függően, hogy milyen célt szolgálnak, az AI-megoldások gyakran egyetlen rendszer különböző részegységeit alkotják. Ez megnehezítheti az adott részegységek, illetve az egész AI-rendszer megfelelő kockázati besorolását is.

dr. Nagy DĂĄniel Attila

„Az eseti értékelés elengedhetetlen a megfelelő kategorizáláshoz, különösen a komplex AI-rendszerek esetében, amelyek eltérő kockázati profilokkal rendelkezhetnek iparágtól és alkalmazási kontextustól függően” – mondta dr. Nagy Dániel Attila, a Deloitte Legal Vezető Adatvédelmi és Technológiai Jogi Szakértője.

Például egy hitelbírálati rendszerben a hitelminősítő modell központi elem, míg egy munkavállalókat támogató chatbot a hitelbírálatot végző munkavállaló kapcsolódó dokumentumkezelését, jelentéstételi feladatait támogatja. Ennek megfelelően az egyes alkomponensek eltérő kockázati kezelést és megfelelőségi lépéseket igényelnek.

A vállalatok sikeres felkészülését az AI Act-nek megfelelő mĹąködésre a szervezet átfogó strukturális és folyamatátalakítási igényének felmérése mellett az is elősegítheti, ha a munkavállalókat a szervezet minden szintjén támogatják az AI-kompetenciák elsajátításában.

A Deloitte tiltott AI-gyakorlatok felismeréséről és azok megfelelő kezeléséről szóló tanulmánya itt érhető el.