Egy gépi látásra épülő rendszernek mindössze néhány másodperc is elég ahhoz, hogy felismerje az arcunkat, kövesse a mozgásunkat, és akár a tekintetünkből vagy a viselkedésünkből is következtetéseket vonjon le rólunk. Bár többnyire tisztában vagyunk azzal, hogy egy közterületen kamera rögzítheti a mozgásunkat, arról már jóval kevesebbet tudunk, hogy az algoritmus pontosan mit keres a felvételeken, milyen adatokat állít elő, és mire használják fel azokat.

Közben a mesterséges intelligencia már nemcsak felismerni és elemezni képes a vizuális tartalmakat, hanem módosítani és létrehozni is tudja őket. Emiatt egyre nehezebb eldönteni, hogy egy online felületen látott kép vagy videó valóban a valóságot ábrázolja-e. A gépi látás lehetőségeiről, gyakorlati alkalmazásairól és kockázatairól beszélgettek a szakértők a Bosch Magyarország podcast legújabb adásában.

A mesterséges intelligencia ma már képes pótolni egy fotó hiányzó részleteit, valószerĹą arcokat létrehozni, sőt megtévesztően hiteles videókat is készíteni. Pető Márk, a Robert Bosch Kft. szenior szoftverfejlesztője és gépi tanulási mérnöke szerint az egyre meggyőzőbb deepfake-ek, vagyis mesterségesen létrehozott, illetve manipulált tartalmak felismeréséhez éppen ezért magát a mesterséges intelligenciát is segítségül kell hívnunk. Cserteg Tamás, a HUN-REN SZTAKI Mérnöki és Üzleti Intelligencia Kutatólaboratóriumának tudományos segédmunkatársa szerint pedig mára különösen fontossá vált, hogy felismerjük, mikor találkozunk módosított vagy teljes egészében mesterséges intelligenciával létrehozott tartalommal.

Több adatot árul el rólunk egy felvétel, mint gondolnánk

Kamerák vesznek körül bennünket: ott vannak a telefonokban, az autókban, a modern háztartási eszközökben és a köztereken is. Magukat a kamerákat többnyire észrevesszük, az általuk rögzített képek háttérben zajló elemzéséből azonban szinte semmit sem látunk. Pedig ugyanabból a néhány másodperces felvételből rengetegféle információ nyerhető ki.

Egy autó rendszere például az arc és a tekintet változásaiból a vezető fáradtságára következtethet. Egy stadion kamerái folyamatosan követhetik a játékosok helyzetét, és akár tíz centiméteres pontossággal is segíthetik a les megállapítását. Egy otthoni kamera érzékelheti a mozgást, majd értesítést küldhet a tulajdonosnak. Ma már olyan telefonok is léteznek, amelyek az arc helyzetéből képesek megállapítani, hogy fekve vagy ülve nézzük-e a kijelzőt.

„Azt általában tudjuk, hogy felvétel készül rólunk, azt viszont már nem, milyen információt keres rajta az algoritmus, és mit képes megállapítani belőle. Ez még a szakemberek számára sem mindig egyértelmĹą” – mondta Pető Márk.

A kamera elhelyezkedéséből önmagában még nem derül ki, hogy pontosan mire használják a felvételt. Ugyanaz a kép alkalmas lehet a mozgás követésére, egy arc azonosítására vagy éppen egy szokatlan viselkedés felismerésére. A gépi látás egyik legfontosabb sajátossága éppen ezért az, hogy egy hétköznapinak tĹąnő felvételből is rendkívül részletes információkat képes kinyerni.

Forrás: Bosch

A gép felismeri a mozgást, de az okát már nehezebben érti

Bizonyos képfelismerési feladatokban a gépek már jóval kevesebbet hibáznak, mint az emberek. Nagy mennyiségĹą képi adatból tanulnak, és előre meghatározott szabályok nélkül is képesek felismerni a visszatérő mintázatokat. Ez a pontosság azonban mindig egy konkrét, jól körülhatárolható feladatra vonatkozik.

Egy algoritmus például könnyen felismeri, hogy valaki fut az utcán. Azt azonban már sokkal nehezebben állapítja meg, hogy miért fut: sportol, megpróbálja elérni a villamost, vagy éppen menekül valami elől? Az ember egy ilyen helyzet értelmezésekor nemcsak azt veszi figyelembe, amit lát, hanem a környezetre, korábbi tapasztalataira és a helyzet apró jeleire is támaszkodik. A gépnek ezeket a szempontokat külön-külön kell megtanulnia.

„Egy adott feladatra már készíthetünk rendkívül pontos rendszert. Az ember előnye viszont továbbra is az általános tudásban rejlik. Ha bárhol a világon odaadunk valakinek egy almát, jó eséllyel felismeri, és azt is tudja, hogyan fogja meg. Ez a széles körĹą ismeret még messze nincs meg a gépekben” – fogalmazott Cserteg Tamás.

A gépek tehát egyre pontosabban képesek megmondani, mit látnak egy képen, annak megértése azonban, hogy valójában mi történik, továbbra is sokkal összetettebb feladat.

A gyártósoron éppen a pontosság jelent előnyt

Egy gyártósoron nincs szükség arra, hogy a gép megértse egy alkatrész teljes szerepét vagy jelentőségét. Elég, ha minden alkalommal pontosan felismeri, hogyan néz ki a megfelelő darab, és azonnal jelez, ha eltérést talál.

A Bosch gyártási folyamataiban több helyen is alkalmaznak gépi látást és gépi tanulást. A minőség-ellenőrző rendszerek képekből tanulják meg a megfelelő termék jellemzőit, majd kiszĹąrik az ettől eltérő darabokat. A fejlettebb megoldások már arra is képesek lehetnek, hogy az eltérés típusát azonosítsák.

A rendszer akkor is jelezhet, ha olyan hibával találkozik, amelyet korábban még nem mutattak meg neki. Felismeri, hogy a vizsgált darab eltér a megfelelő mintától, majd további elemzések segíthetnek feltárni a probléma pontos okát.

A világ számos pontján mĹąködnek úgynevezett sötét gyárak is, ahol teljesen automatizált gyártósorok dolgoznak. Ezekben az üzemekben nincs szükség arra, hogy a teljes gyártócsarnok folyamatosan ki legyen világítva. A kamerák csak ott és akkor kapnak fényt, ahol egy terméket meg kell vizsgálni, más rendszerek pedig radarokat, hőkamerákat vagy ultrahangos érzékelőket használnak.

Egy ipari kamera gyorsan dolgozik, nem fárad el, és a mĹąszak végén is ugyanolyan figyelemmel vizsgálja a termékeket, mint annak kezdetén. A rendszerek mĹąködését ettől függetlenül szakemberek felügyelik.

Már azt is láthatjuk, amit a kamera valójában nem rögzített

Egy fénykép ma már olyan részleteket is tartalmazhat, amelyek a kép elkészítésekor valójában nem voltak ott. Ha például eltávolítunk egy tárgyat vagy egy teljes képrészletet, a mesterséges intelligencia a környezet alapján képes kitölteni a keletkező üres területet. A végeredmény pedig akár annyira valósághĹą is lehet, hogy szabad szemmel nehéz megállapítani, melyik részlet származik az eredeti felvételből, és melyiket hozta létre az algoritmus.

Az okostelefonok holdfotói jól mutatják, mennyire elmosódhat a határ a kép javítása és új részletek létrehozása között. Egyes készülékek felismerik az égitestet, majd automatikusan élesítik és javítják a felvételt. A látványos végeredményről így már nehéz megmondani, mi származik közvetlenül a kamera érzékelőjéből, és mi az, amit a képfeldolgozás tett hozzá.

Egy rosszul sikerült családi fotó kijavítása természetesen egészen más következményekkel jár, mint egy közéleti szereplőről készült hamis videó. A deepfake-technológia fejlődésével a manipulált tartalmak sok esetben már az emberi szem számára is nehezen felismerhetők.

„Az MI-t kell segítségül hívnunk az MI ellen, mert egy algoritmus könnyebben észreveszi a manipuláció nyomait, mint az ember” – mondta a Robert Bosch Kft. szenior szoftverfejlesztője és gépi tanulási mérnöke.

Miközben tehát az algoritmusok egyre több mindent képesek megállapítani rólunk egyetlen felvétel alapján, nekünk egyre nehezebb lehet eldönteni, hogy maga a felvétel mennyiben tükrözi a valóságot.

Átláthatóság nélkül nehéz lesz megbízni a gépek látásában

A szakértők szerint a technológia elfogadottsága nagyban függhet attól, hogy az emberek mennyire kapnak világos tájékoztatást arról, milyen célból elemzik a róluk készült felvételeket, milyen adatokat nyernek ki belőlük, és kik férhetnek hozzá az eredményekhez.

Egy hosszú és nehezen értelmezhető adatkezelési tájékoztató önmagában nem feltétlenül ad választ ezekre a kérdésekre. A gépi látás terjedésével ezért nemcsak a technológia pontossága és megbízhatósága válik fontossá, hanem az is, hogy megfelelő garanciák biztosítsák az így létrehozott adatok felelős kezelését, és csökkentsék a velük való visszaélés kockázatát.

English Summary

Machine vision is becoming an increasingly powerful part of our everyday lives, from smartphones and cars to public spaces and industrial production. In just a few seconds, AI-powered systems can recognize faces, track movement and extract information from images that we may not even realize is there. At the same time, artificial intelligence can generate and manipulate visual content with such realism that distinguishing fact from fiction is becoming increasingly difficult. Experts from Bosch and HUN-REN SZTAKI discuss the opportunities and challenges of machine vision, including its applications in manufacturing, its limitations in understanding human behavior, and the growing threat of deepfakes. As these technologies continue to evolve, transparency and responsible data use will be essential to maintaining trust in systems that can see—and increasingly interpret—the world around us.