A mesterséges intelligenciával létrehozott avatarok és hangklónok esetében a hozzájárulás és az általános tartalomjelölés önmagában egyre kevésbé elegendő a felmerülő kockázatok kezelésére. Ezt támasztják alá az európai hatóságok és vállalatok közelmúltbeli tapasztalatai is. 

A Deloitte szakértői szerint a szervezeteknek már a tervezési szakaszban fel kell mérniük a technológia alkalmazásából eredő kockázatokat, szigorúbb ellenőrzést kell gyakorolniuk beszállítóik felett, és gondoskodniuk kell a felhasználók egyértelmĹą, folyamatos tájékoztatásáról. Az irányítási és ellenőrzési hiányosságok ugyanis nemcsak jogi következményekkel járhatnak, hanem a vállalat hírnevét és mĹąködését is veszélyeztethetik.

A hitelesnek tĹąnő videók adatvédelmi kockázatokat hordoznak

Egy európai esetben valós személy képmásának felhasználásával készültek mesterséges intelligenciával módosított videók, amelyekről a nézők azt hihették, hogy valódi felvételek. A hatósági megállapítások szerint az ilyen tartalmak előállítása és felhasználása során megfelelő technikai és szervezési intézkedésekkel kell biztosítani az adatvédelmi alapelvek érvényesülését.

A megfelelés tehát nem merül ki a tartalom megfelelő kommunikációjában: a beépített és alapértelmezett adatvédelem követelményeinek is teljesülniük kell.

Az eset egyik legfontosabb tanulsága, hogy a figyelmeztetéseknek és a tartalomjelöléseknek minden megjelenési felületen egyértelmĹąnek és jól láthatónak kell lenniük. Ez különösen azoknak a vállalatoknak jelent kihívást, amelyek több csatornán terjesztik tartalmaikat. Míg az eredeti videóban szereplő figyelmeztetés megfelelő tájékoztatást nyújthat, egy rövid, közösségi médiában megosztott részlet esetében már nem feltétlenül biztosítja ugyanezt.

Az egyértelmĹą és következetes tájékoztatás ezért nem pusztán formai követelmény, hanem a kockázatkezelés egyik alapvető eleme.

Dr. Barta Gergő

„A mesterséges intelligenciával létrehozott vagy módosított tartalmak esetében már nem elegendő kizárólag a technológia képességeire figyelni. Legalább ilyen fontos, hogy a vállalat ellenőrzési rendszere képes legyen megelőzni a megtévesztést, és biztosítsa a következetes tájékoztatást minden olyan csatornán, ahol a tartalom megjelenik” – mondta Dr. Barta Gergő, a Deloitte Consulting igazgatója, vezető AI szakértője.

A beszállítók engedély nélkül is alkalmazhatnak mesterséges intelligenciát

Egy másik európai esetben egy mesterséges intelligenciával klónozott hang okozott problémát. A hangot egy külső partner állította elő megfelelő engedély és jóváhagyás nélkül, a módosítást pedig a belső ellenőrzési folyamatok sem észlelték időben. Az eset rávilágít arra, hogy a beszállítók jogosulatlan AI-használata miatt a megrendelő vállalat felelőssége is felmerülhet.

A tanulság azonban túlmutat az egyedi eseten. A beszállítók ellenőrzése, a közzététel előtti jóváhagyás és a tartalom eredetének igazolása nem egymástól független megfelelési feladatok, hanem egy egymásra épülő ellenőrzési rendszer részei. Ha e folyamat bármelyik eleme hiányzik, az engedély nélkül létrehozott AI-tartalom könnyen nyilvánosságra kerülhet.

A kockázatok felmérését már a tervezési szakaszban el kell kezdeni

Egy további európai eset arra is rámutatott, miért nem halasztható az AI-rendszerek szervezeti irányításának (AI Governance) kialakítása a technológia bevezetését követő időszakra. Az érintett megoldás rendkívül élethĹą avatarokat, hangtechnológiát és valós idejĹą interakciót alkalmazott, ami különösen indokolttá tette a rendszer sajátos kockázatainak előzetes felmérését.

A hatósági megközelítés egyik fontos tanulsága, hogy az általános adatvédelmi kontrollok önmagukban nem feltétlenül elegendők. A szervezeteknek az adott technológia alkalmazásából fakadó konkrét kockázatokra is megfelelő válaszokat kell kidolgozniuk.

A vállalatok számára ebből egyértelmĹą következtetés adódik: a biztonsági audit, a naplózás és az incidenskezelés nélkülözhetetlen, de nem helyettesíti az előzetes kockázatértékelést. Az AI-rendszerek irányításával kapcsolatos szempontokat már a tervezés és a beszerzés során érvényesíteni kell. Ennek hiányában a szervezetek később csak korlátozottan tudják kezelni a technológia alkalmazásával járó jogi, etikai és reputációs kockázatokat.

A hangklónozással kapcsolatos európai tapasztalatok egy további problémára is felhívják a figyelmet. Ha egy szolgáltatás lehetővé teszi valós személyek hangjának lemásolását vagy üzleti célú felhasználását, a felhasználási feltételek önmagukban nem biztosítanak feltétlenül megfelelő védelmet.

Ehhez szükség lehet a hang felhasználására vonatkozó jogosultságok ellenőrzésére, a hozzájárulás igazolására, a jogosulatlan felhasználás technikai megakadályozására, a visszaélések észlelésére, valamint a kifogásolt tartalmak gyors eltávolítására is.

PĂĄll ZoltĂĄn

„Ezek az esetek azt mutatják, hogy az AI-kockázatok kezeléséhez már nem elegendő a formális megfelelés. A vállalatoknak a teljes folyamatot át kell tekinteniük: a felhasználási cél jóváhagyásától és a beszállítók ellenőrzésétől kezdve a közzététel előtti emberi jóváhagyáson át egészen a már megjelent tartalmak folyamatos nyomon követéséig” – tette hozzá Páll Zoltán, a Deloitte vezető AI szakértője.

Milyen kontrollokra van szükség?

Az európai tapasztalatok alapján egyre világosabb, hogy milyen alapvető ellenőrzési mechanizmusokat érdemes kialakítaniuk azoknak a vállalatoknak, amelyek digitális avatarokat, deepfake tartalmakat vagy hangklónokat alkalmaznak. A legfontosabb intézkedések a következők:

• Tervezés és jóváhagyás: a felhasználási cél előzetes jóváhagyása, a személyazonosság és a hang felhasználásához kapcsolódó jogosultságok ellenőrzése, a hozzájárulás pontos terjedelmének dokumentálása, adatvédelmi hatásvizsgálat (DPIA) vagy AI-kockázatértékelés elvégzése, valamint a lehetséges visszaélések előzetes feltérképezése.

• Beszállítók és technikai korlátozások: a beszállítók mĹąködésének szigorúbb ellenőrzése, valamint a jogosulatlan AI-használatot megelőző technikai korlátozások beépítése.

• Közzététel: a tartalmak nyilvánosságra hozatal előtti emberi jóváhagyása, továbbá egyértelmĹą és jól látható jelölés annak feltüntetésére, hogy a tartalom mesterséges intelligenciával készült vagy deepfake technológiával módosított.

• Kiegészítő védelmi intézkedések: a tartalom eredetének jelölése vagy digitális vízjel alkalmazása, a tevékenységek naplózása és folyamatos nyomon követése, a tartalmak gyors eltávolításának és a rendszer azonnali leállításának biztosítása, valamint a kontrollok rendszeres felülvizsgálata.

A szabályozási környezet is ebbe az irányba fejlődik. Az Európai Unió mesterséges intelligenciáról szóló rendelete (AI Act) további átláthatósági követelményeket határoz meg a mesterséges intelligenciával létrehozott vagy manipulált kép-, hang- és videótartalmakra vonatkozóan.

A szervezeteknek ezért olyan ellenőrzési mechanizmusokat kell kialakítaniuk, amelyek megfelelése nemcsak technológiai, hanem jogi és mĹąködési szempontból is igazolható.

A tudatos irányítás a biztonságos növekedés alapja

A Deloitte szakértői szerint a mesterséges intelligencia tudatos irányítása nem az innováció akadálya, hanem annak egyik feltétele. A megfelelő kontrollok ugyanis lehetővé teszik, hogy a vállalatok biztonságosan és egyre szélesebb körben alkalmazzák az új technológiai megoldásokat.

Versenyelőnybe azok a szervezetek kerülhetnek, amelyek már a kezdetektől összehangolják üzleti céljaikat a beszállítói mĹąködéssel, a jogi követelményekkel és a technológiai ellenőrzési mechanizmusokkal. Így a mesterséges intelligencia nem csupán a hatékonyabb munkavégzést támogathatja, hanem megbízható, hosszú távon is fenntartható üzleti eszközzé válhat.

English Summary

AI-generated avatars and voice clones are creating new challenges for businesses, as consent and general disclosure alone are no longer sufficient to address the associated risks. Recent European regulatory and corporate cases highlight the need for stronger AI governance, proactive risk assessments, rigorous supplier oversight and clear, consistent content labelling. Companies must integrate appropriate safeguards throughout the entire AI lifecycle, from planning and procurement to content approval, publication and ongoing monitoring. The EU AI Act further reinforces the importance of transparency and accountability in the use of AI-generated and manipulated content. According to Deloitte experts, effective AI governance is not a barrier to innovation, but a prerequisite for building trust and enabling the responsible, sustainable adoption of AI technologies.