Elosztott és összefogott erőforrások
Szeberényi Imrével a Grid technológiáról
2006. szeptember 25.
Jövőre lesz tíz éve annak, hogy új technológia jelent meg az informatikai világ horizontján: a Grid. Az elosztott informatikai rendszerekről szóló szakmai diskurzus a kívülálló számára talán száraznak, esetleg unalmasnak tűnhet, ám mivel ettől a négy betűtől a hivatásosok olyan mértékű áttörést várnak, mint amekkorát annak idején a hárombetűs WWW hozott, mindenképpen érdemes megismerni a lényegét, eddigi eredményeit és jövőbeni ígéreteit. Ebben dr. Szeberényi Imre docens, a BME Informatikai Központjának igazgatóhelyettese volt segítségünkre.
– Sebességet, kapacitást, műszaki teljesítményt hajszoló korunkban mit jelent, és mit ígér a szakembernek, illetve a felhasználónak a Grid?
– A globális méretű elosztott informatikai rendszerek kialakulását a robbanásszerűen fejlődő adatátviteli megoldások tették, illetve teszik lehetővé. Ezekben a rendszerekben megoldhatóvá válik az informatikai erőforrások (pl. számítási, tárolási kapacitás) és szolgáltatások (pl. kereső, illetve feldolgozó szolgáltatások) igény szerinti felhasználása, ami a jelenleginél jóval hatékonyabb erőforrás-gazdálkodáshoz vezethet. Kezdetben elsősorban a tudományos kutatási feladatok megoldása során jelentkeztek az erőforrások megosztására, hatékonyabb kihasználására irányuló igények. Ennek oka az, hogy a kutatási feladatokat gyakran kooperációban igyekeznek megoldani, amiben természetesnek és logikusnak tűnik a kutatóhelyeken elosztottan megjelenő erőforrások hatékony kihasználása. Ezek a követelmények és igények indították el a Grid-kutatást, illetve az ezzel kapcsolatos világméretű kísérleteket.
Mára már az élet minden területén megjelent az informatikai erőforrások elosztott, dinamikus, igény szerinti kihasználására vonatkozó követelmény, ami abból az egyszerű felismerésből fakad, hogy a felhasználói tömegek számára az informatikai alkalmazások szolgáltatásai pontosan olyan szolgáltatásként jelennek meg, mint az elektromos hálózat, a csatornahálózat vagy éppen a mosodai szolgáltatások. Az informatikai rendszerek felhasználói rétegének kiszélesedésével egyre többen lesznek olyanok, akiket a technikai megoldások részletei nem érdekelnek, vagy csak kevésbé.
A vezető informatikai nagyvállalatok szakemberei a napjainkban is forrongó, folyamatosan átalakuló Grid technológiai kutatásoktól várnak megoldásokat számos erőforrás-igényes feladatra. A kutatási eredmények és prognózisok a Gridtől hasonló forradalmi áttörést várnak, mint amilyen volt annak idején a World Wide Web megjelenése.
– A kutatók és fejlesztők milyen mérföldkövek mentén jutottak el a mai eredményekig?
– A számítástechnika fejlődését a kezdetektől fogva az jellemzi, hogy a technológiai fejlesztések során elért kapacitásnövekedést, legyen az számítási, tárolási vagy adatátviteli, a felhasználói igények szinte azonnal meghaladják. A számítási kapacitás növelésének egyik lehetséges útját sokan a párhuzamosításban, illetve az erőforrások megosztásában látták, szinte a kezdetektől fogva. A párhuzamosítás gondolatával már Neumann és munkatársai is foglalkoztak, de az 50-es évek technológiája nem tette lehetővé annak gyakorlati alkalmazását. Az első párhuzamos architektúrájú gép 1967-ben született meg, ám az igazi áttörésre még jó néhány évet kellett várni. A 90-es évek elejére több gyártó kínált speciális párhuzamos architektúrájú gépet. Ugyanakkor az asztali munkaállomások elterjedésével és a hálózati technológiák fejlődésével egyesek elkezdtek olcsó munkaállomásokból nagyméretű farmokat építeni, amelyek teljesítménye egyszerű párhuzamosítási, illetve feladatmegosztási technikák alkalmazásával egyes alkalmazási területeken felvette a versenyt a szuperszámítógépekkel.
Az operációs rendszerbe beépülő vagy azt kiegészítő modulok segítségével egységes felületet nyújtó, elsősorban szuperszámítógépek összekapcsolásával létrejött ún. metaszámítógépek a felhasználók (alkalmazók) számára egységes számítási erőforrásként jelentek meg, miközben a rendszer egyes elemei a hálózati technológiák rohamos fejlődése következtében fizikailag egyre távolabb kerülhettek egymástól. A kezdetben szigorúan homogén rendszereket a 90-es évek második felére felváltották a heterogén architektúrájú rendszerek, amelyek már farmokat és szuperszámítógépeket is tartalmaztak. Ezzel egy időben több kutatói közösségben merült fel az igény, hogy ne csak számítási, hanem tárolási, illetve egyéb erőforrások is elérhetők és megoszthatók legyenek az ilyen rendszerekben.
A 90-es évek közepéről két jelentős amerikai metaszámítógépes projektet érdemes kiemelni, a FAFNER-t (Factoring via Network-Enabled Recursion) és az I-WAY-t (Information Wide Area Year), amely jelentősen befolyásolta a mai Grid-rendszerek kialakulását. Így például a FAFNER projektben alkalmazott feladatmegosztási technológiát alkalmazta később a Seti@home projekt is. Az I-WAY projekt pedig jelentős hatással volt a Globus Toolkit megoldásaira, amelyeket a legtöbb Grid-rendszerben ma is alkalmaznak.
– Hogyan lett a metaszámítógépekből Grid, mit takar az elnevezés?
– Az elnevezés az elektromos hálózat analógiája alapján egy olyan erőforrás-hálózatra utal, amely a világot átszőve tetszőleges számítógéphez kapcsolható erőforrás-elérést tesz lehetővé, legyen az számítási, tárolási erőforrás vagy akár egy speciális berendezés, érzékelő.
Valójában az erőforrások megosztásának igénye, illetve lehetősége már a 60-as évek második felében megjelent a számítástechnikában a többfelhasználós operációs rendszerekkel, így kis túlzással azt is mondhatnánk, hogy a Grid a kerék újrafeltalálása. Az „új kerék” azonban sokban különbözik a régitől: míg a többfelhasználós rendszerek egy központi gép igény szerinti erőforrás-megosztását biztosítják, addig a Grid-rendszerek földrajzilag elosztott erőforrások elérését és igény szerint azok közös cél érdekében történő működtetését biztosítják. Így tehát nemcsak elosztani képesek, hanem összefogni is, ami már igen lényeges különbség.
A Grid elnevezés 1997-ben keletkezett az amerikai Argonne National Laboratoyban. Magát a koncepciót Ian Foster és Carl Kesselman foglalta össze a Grid bibliájának is nevezett könyvben (The Grid: Blueprint for a New Computing Infrastructure, Morgan Kaufmann, 1999).
Alapjaiban az itt vázolt koncepciót használják a mai rendszerek is, amelyek azért hatalmas fejlődésen mentek keresztül az elmúlt közel 10 évben.
– Mi a Grid titka, hogyan működik a technológia?
– A Grid-rendszerek olyan számítógépes szolgáltatást valósítanak meg, amellyel a rendszer számítógépeihez kapcsolt erőforrások földrajzi helytől függetlenül, egységes módon, jogosultságokkal szabályozva elérhetők a rendszer felhasználói, illetve azok programjai számára. Míg a webtechnológia segítségével alapvetően információ osztható meg, addig a Grid-rendszerek az erőforrások megosztására, illetőleg összefogására, hatékony újraelosztására alkalmasak.
Gyakran a Grid-rendszereket hibásan a szabad CPU-kapacitásokat felhasználó Seti@home típusú rendszerekkel azonosítják. Ez a fajta működés a Grid-rendszereknek csupán egy kis szeletét fedi le. A Grid technológia ettől jóval többet nyújt: lehetővé teszi akár földrajzilag egymástól igen távol lévő tetszőleges erőforrások egységes kezelését, felhasználását, megbízható, biztonságos módon történő újraelosztását. Ezért a Grid-rendszerek fontos szerepet játszanak az úgynevezett e-kutatás vagy e-tudomány létrejöttében is, ami nagyon leegyszerűsítve olyan virtuális közösségek kialakulását jelenti, amelyek azonos kutatási feladatokon dolgoznak, eredményeiket, adataikat egymással megosztják, ugyanakkor földrajzilag, szervezetileg messze esnek egymástól, esetleg más földrészen vannak.
Másik hibás megközelítés az, amikor a Grid-rendszereket összekeverik a számítógépes farmokkal (cluster). Természetesen a farmok is képesek hasonló számítási, tárolási vagy akár információs szolgáltatásokat nyújtani, de a hagyományos farmok esetében egy felhasználót a farm minden egyes komponensének „ismernie” kell, vagyis ahhoz, hogy egy adott szolgáltatást a farm felhasználója igénybe vegyen, a felhasználónak a farm minden komponensén rendelkeznie kell felhasználói azonosítóval. Gyakran ezt az azonosítót használva magának a felhasználónak kell gondoskodnia a programoknak és a hozzájuk tartozó adatoknak a megfelelő farmkomponensekre történő eljuttatásáról.
– Hogyan történik a felhasználók kezelése a Grid-rendszerekben?
– A Grid-rendszerekben komponensszinten nem beszélhetünk felhasználóról. Ha a Grid felhasználója jogosult egy erőforrás vagy szolgáltatás igénybevételére, akkor azt elérheti attól függetlenül, hogy az adott erőforráshoz van-e felhasználói azonosítója, illetve hozzáférése.
Az elektromos hálózat hasonlatával élve: a tévé akkor is ráköthető az elektromos hálózatra, ha nincs belépőkártyánk az áramot előállító erőműbe, sőt azt sem kell tudnunk, hogy milyen energiahordozóból keletkezett a tévé által felhasznált elektromos áram. Csupán az kell, hogy az áramszolgáltatóval megállapodjunk a szolgáltatás igénybevételéről. A Grid-rendszerek esetében a megállapodás a szolgáltatóval elektronikus aláírással hitelesített módon történik. A Grid-szolgáltató ellenőrzi a megállapodást, valamint az aláírás hitelességét, majd a megállapodásnak megfelelően megadja a szükséges jogosultságokat a rendszer erőforrásainak igénybevételére.
– Milyen komponensekből áll a rendszer?
– A Grid nem egyetlen program, hanem számos egymásra épülő komponens, amely réteges felépítésével biztosítja, hogy az egyes komponensek könnyen lecserélhetők, továbbfejleszthetők és a meglevő rendszerekhez illeszthetők legyenek.
A legfontosabb ilyen elem az ún. köztes réteg (middleware). Ez a felhasználói réteg és az erőforrások fizikai rétege között helyezkedik el, és olyan fontos szolgáltatásokat biztosít, mint például a felhasználók azonosítása és jogosultságának ellenőrzése. Igen fontos feladata az egyszeri bejelentkezés (single sign-on) megvalósítása és egységes, a helyi ütemezőtől független felület biztosítása a feladatok indításához és megállításához. Ebben a rétegben valósítják meg azokat az adatátviteli szolgáltatásokat is, amelyek biztosítják a programoknak és azok adatainak a futási helyre szállítását, továbbá információgyűjtést végeznek az erőforrásokról és állapotukról. Ez az erőforrások automatikus el- és kiosztása (brokering) miatt lényeges. A köztes rétegben lévő modulok együttműködésének eredményeként a rendszer megkeresi a megfelelő erőforrásokat, automatikusan eljuttatja oda a futtatandó feladatot és adatait, majd a futás végén összegyűjti az eredményeket a felhasználó aktív közreműködése nélkül.
– Milyen konkrét hazai gyakorlati eredményekről lehet már beszámolni?
– Számos olyan hazai és nemzetközi Grid-projekt működik, amely véleményem szerint alapvetően meghatározza a hazai Grid-kutatást is.
A hazai egyetemeken, illetve kutatóhelyeken a 90-es években megkezdődött a párhuzamos és elosztott rendszerekkel kapcsolatos kutatás, illetve kutatásfejlesztés, ami nagyban hozzájárult ahhoz, hogy manapság is lépést tudjunk tartani e tématerület fejlődésével. E kutatói közösség számára sok segítséget és támogatást jelentettek az IKTA (Információs és Kommunikációs Technológiai Alkalmazások) program keretében meghirdetett pályázatok. Ezek közül számunkra a legjelentősebb talán a Virtuális Szuperszámítógép Szolgáltatás Kialakítása az Akadémiai Hálózat felhasználásával (ViSzSzKi) elnevezésű projekt volt, amely lényegében megalapozta azt a tudást és ismeretet, melyet ma számos hazai és nemzetközi projektben kamatoztathatunk.
Annak ellenére, hogy kiemelt állami támogatást a Grid-kutatások Magyarországon nem kaptak, több sikeres IKTA-, NKFP- (Nemzeti Kutatási és Fejlesztési Programok), GVOP- (Gazdasági Versenyképesség Operatív Program) és egyéb olyan államilag támogatott kutatásfejlesztési projekt indulhatott el az utóbbi 15 évben, amely valamilyen módon kapcsolódik a Grid technológiához (VISzSzKi, DemoGrid, SzuperGrid, JGrid, Chemistry Grid, ClusterGrid, Hungarian Grid, MEGA).
2003-ban az 5 legaktívabb Grid-kutatói közösség létrehozta a Magyar Grid Kompetencia Központot (MGKK – www.mgkk.hu) azzal a céllal, hogy a kutatási tevékenységeket, pályázatokat koordinálja, az elért eredményeket pedig minél szélesebb körben publikálja. Az eltelt 3 évben az alapító tagok (BME, ELTE, KFKI-RMKI, MTA Sztaki, NIIF) számos közös hazai és nemzetközi projektben vettek, illetve vesznek részt. A központhoz később csatlakozott a Veszprémi Egyetem is, ahol szintén jelentős Grid-kutatások folynak. Az MGKK két regionális Grid-központhoz is csatlakozik, a Közép-Európai Grid Konzorciumhoz (CEGC) és a Dél-Kelet-Európai Grid Konzorciumhoz.
2003 nemcsak a hazai erők összpontosításának éve volt, mivel szintén 2003-ban alakult meg a már említett CEGC is Ausztria, Csehország, Lengyelország, Magyarország, Szlovákia és Szlovénia részvételével.
A hazai és nemzetközi összefogás nagyban hozzájárult ahhoz, hogy a közép-európai régió országai, így hazánk is rész vehessen több nemzetközi projektben (EDG, GridLab, APART-2, COST, D23 action, UK e-science OGSA test-bed, EGEE, SEEGRID, CoreGrid, GridCoord, ICEAGE – ezeket részletesebben keretes írásunkban ismertetjük).
– Kijelenthetjük-e, hogy ebben a technológiában tartjuk a lépést a világ haladásával?
– Büszkén állíthatjuk, hogy a hazai Grid-kutatások színvonala a nemzetközi porondon is kiállja a próbát. Ennek legjobb bizonyítéka, hogy a magyar kutatóintézetek számos nemzetközi projektben is részt vesznek, eredményeinket elismerik. A hazai kutatóintézetek eredményei közül külön érdemes kiemelni az NIIF ClusterGrid projektjét, a BME MEGA projektjét, a Sztaki Desktop és P-GRADE Grid projektjét, a Veszprémi Egyetem JGrid projektjét és számos Gridhez kapcsolódó kutatást, például a KFKI-RMKI-ben folyó részecskefizikai kutatásokat.
A kutatások egyre inkább áttevődnek az alkalmazások irányába, habár számos nyitott kérdés van az infrastruktúra kialakításának terén is. Megítélésem szerint a legfontosabbak ezek közül a bizalomépítő, biztonsági megoldások, illetve a mára letisztulni látszó, 9-10 különböző köztes réteg együttműködési kérdéseinek megoldása. Ez a törekvés leginkább
a szabványosítási fórumok munkáján látszik, amelyekben magyar szakemberek is részt vesznek. Ezek közül kiemelkedő a Global Grid Forum (GGF) keretein belül készülő (Open Grid Service Architecture – OGSA) architektúra, melynek célja, hogy lehetővé tegye elosztott rendszerek integrációját, virtualizációját és menedzsmentjét egy széles körben elfogadott keretrendszeren keresztül.
***
Grid-projektek a világban
EGEE (Enabling Grids for E-science)
Az EGEE az Európai Unió által támogatott egyik legjelentősebb Grid-projekt. Célja a Grid technológia legújabb eredményeinek felhasználásával létrehozni egy olyan szolgáltatást, amely napi 24 órában rendelkezésre áll a kutatás-fejlesztés, majd később az ipari-szolgáltatási alkalmazások számára (www.eu-egee.org, egee.ik.bme.hu).
A CERN (European Organization for Nuclear Research) által vezetett projekt első fázisa 2006 márciusával ért véget. Az első fázis sikerének köszönhetően 2006 áprilisától újabb 2 éves kutatás indulhatott el, lényegében az előző fázisban megkezdett kutatás folytatására és a szolgáltatás széles körű kiterjesztésére, 32 országból összesen 91 partnerintézmény részvételével. A fő feladat a gLite nevű Grid-köztesréteg továbbfejlesztése és üzemeltetése, hogy a kutatók számára megbízható, folyamatos szolgáltatást nyújtson. A gLite egy olyan szervizorientált architektúrájú (SOA) köztes réteg, amely egyesíti a jelenleg meglévő köztes rétegek előnyeit, és nem kötődik szorosan egy tudományterülethez sem.
A projekt mindkét fázisának megvalósításában több magyar intézmény is részt vett, illetve részt vesz (BME, ELTE, KFKI-RMKI, NIIF, Sztaki).
A projekt eredményeinek alkalmazása több tudományterületen is jelentős. Ezek közül kettőt emelünk ki.
Nagy energiájú fizikai kutatások: a CERN-ben 2007-ben induló, nagy energiájú részecskék ütközését vizsgáló kísérletsorozat során évenként több mint 10 petabájt adat fog keletkezni. (10 petabájtnyi adat, azaz 10x1015 bájt hagyományos CD-re írásához több mint 14 millió CD-lemezre lenne szükségünk. Ha ezeket egymásra raknánk, kb. 20 kilométer magas torony keletkezne.) A projekt egyik célja, hogy ezt az információmennyiséget tárolja, feldolgozza, analizálhatóvá és elérhetővé tegye több ezer fizikus számára világszerte.
Biomedikai problémák megoldása: a több különböző számításigényes applikáció közül a legjelentősebb a WISDOM (Wide In Silico Docking On Malaria) gyógyszerkutató projekt, melynek során eddig 46 millió vegyületet vizsgáltak meg a malária ellenszerét keresve.
A projektben jelenleg elérhető számítási és tárolási kapacitás nagysága lenyűgöző: jelenleg (2006. augusztus) 192 helyszínen összesen 36 968 processzor működik, amellyel a rendszer naponta több mint 25 ezer számításigényes feladatot old meg. A rendelkezésre álló tárolókapacitás 44 376 terabájt. A rendszerhez csatlakozó 46 ország között az európai államok mellett megtaláljuk Kínát, Kanadát és az Amerikai Egyesült Államokat is.
Globus
A Globus Alliance olyan szervezetek és egyének közössége, akik részt vesznek a Grid-eszközök fejlesztésében és használatában. A Globus Toolkit (GT) eszközök és programkönyvtárak gyűjteménye, amelyek az elosztott rendszerek fejlesztésekor felbukkanó leggyakoribb problémákra kínálnak megoldásokat.
A Globus Toolkit nagyban meghatározza a különböző fejlesztések irányát. A programcsomagot a 90-es évek óta fejlesztik. A tapasztalatok alapján a különböző Grid-rendszerek specializált volta ellenére sok közös alapfeladat megvalósítása szükséges minden elosztott rendszerben. A szoftver célja, hogy olyan fő Grid-feladatok megvalósítását tegye lehetővé, mint például az erőforrás-kezelés, a biztonság, az erőforrás-hozzáférés, az adatmozgatás, az erőforrás-felfedezés, és így egy általánosan használható köztes réteget kínáljon a fejlesztők számára. A Toolkit nem jelent kész Grid-szoftvert, szükség van a Grid-rendszer specifikus területeinek önálló fejlesztésére, az egyes építőelemek integrálására.
NorduGrid, KnowARC
A NorduGrid projekt 2001 májusában indult azzal a céllal, hogy északi országok (Dánia, Norvégia, Svédország és Finnország) különböző akadémiai intézményeinek összefogásával létrehozzon egy működő Grid-infrastruktúrát. A projekt célja, hogy megállapítsák, képesek-e a Grid-rendszerek kielégíteni a mai tudományos kutatások megnövekedett számítási és tárolókapacitás-igényét. A cél egy saját Grid-infrastruktúra megvalósítása egészen az alapoktól.
A gyors fejlesztéshez felhasználták a European Data Grid (EDG) korábbi eredményeit és a Globus Toolkit 2-t (GT2), így egy év alatt elkészült az első infrastruktúra. A NorduGrid projektben jelenleg 48 helyszínen összesen több mint 3500 CPU áll a kutatók rendelkezésére napi 24 órában (www.nordugrid.org).
A projektben kifejlesztett, ARC (Advanced Resource Connector) elnevezésű köztes réteg továbbfejlesztésére és elterjesztésére a fejlesztők 2006-ban az Európai Unió támogatásával új projektet indítottak KnowARC (Grid-enabled Know-how Sharing Technology Based on ARC Services and Open Standards) néven, amelyben két magyar partner is részt vesz (NIIF, BME). A cél a jól bevált, alapvetően Globus alapú köztes réteg rugalmas, alkalmazástól független továbbfejlesztése, az interoperabilitás növelése, amely képes kielégíteni az ipari felhasználás igényeit is (www.knowarc.org).
ClusterGrid
A ClusterGrid infrastruktúrájának létrehozása az Oktatási Minisztérium 2002 júliusában meghirdetett pályázatával kezdődött. A pályázat támogatásával kialakított laborok üzemeltetői vállalták, hogy munkaidőn kívül (éjszaka, hétvégén, ünnepnapokon) a gépeket egységes rendszerben, Grid-szerűen működtetik számításigényes feladatok megoldására. A pályázatban több mint 2000 gépre pályázhattak egyetemek, főiskolák és könyvtárak. Az egyes intézményeknél elhelyezett gépek fürtökbe (clusterekbe) szervezését és a fürtök összekötését az NIIF (Nemzeti Információs Infrastruktúra Fejlesztési Intézet) végezte a partnerintézmények szakembereivel együttműködve. Az így kialakult, egész országra kiterjedő rendszer kommunikációs hátterét az akadémiai gerinchálózat adja, amelyen keresztül egy virtuális magánhálózat (VPN) épül fel, így a nyilvános internet és a Griden belüli hálózati forgalom teljesen különválik.
A rendszerben alkalmazott speciális szoftverkomponensek és az NIIF által kifejlesztett feladatütemező (GUG) lehetővé teszi, hogy azok a feladatok, amelyek egy éjszaka alatt vagy hétvégén nem futnak le, a következő éjszaka folytatódhassanak.
Jelenleg éjszakánként átlagosan 1200 processzor dolgozik együtt a rendszerben, amellyel már számos számításigényes feladatot oldottak meg a kutatók. A felhasználók többnyire abból a kutatói körből kerülnek ki, amely gyakran használja az NIIF 148 processzoros szuperszámítógépét különböző kutatási feladatokhoz (www.clustergrid.niif.hu).
MEGA
A BME Informatikai Központ által vezetett magyar informatikai erőforrás-hálózat (Grid-közmű) projektjének elsődleges célja a magyar infrastrukturális Grid-kutatások kiléptetése az akadémiai és kutatási szférából, ipari alkalmazások és felhasználási területek keresése, kidolgozása és tesztelése.
A projekt alapvetően abból a tényből indul ki, hogy akadémiai viszonylatban növekszik a Grid technológia ismertsége, azonban a hazai iparban történő felhasználása, ismertsége elmarad a kívánatostól. Ennek oka részben technológiai, mivel még nem beszélhetünk teljesen kiforrott technológiáról, részben pedig a társadalmi ismertség, támogatottság hiánya. A projekt célja ezért olyan Grid-rendszer kidolgozása és bemutatása, amely az ipar és a szolgáltató környezet számára is vonzó, általános célú „közműszolgáltatásként” jelenik meg.
Az NKFP (Nemzeti Kutatási és Fejlesztési Programok) által támogatott projektben az ipari partnerek (HP, ESRI) közreműködésével olyan alkalmazásokat dolgoznak ki, amelyek távol esnek az informatikától, ugyanakkor esetünkbena Grid technológia igen jól alkalmazható. Ilyenek például a hídgerendák méretezését támogató, illetve a talajeróziós modellek számításait segítő rendszerek (mega.ik.bme.hu).