Jövőkutatóként a mesterséges intelligencia és robotika kérdéseivel foglalkozik, a civil élet és a hadászat terén is. A jövő háborúit robotok vívják majd? Általános vélekedés, hogy egy robot nem támadhat emberre…
Erről szól a robotika, vagy más szóval Asimov első törvénye: a robot nem árthat az embernek. A polgári fejlesztéseknél ez az etikus mesterséges intelligenciát jelenti. De az etika bonyolult kérdéskör, és ez az alkalmazás során mutatkozik meg igazán. Egyértelmű, hogy ha egy drón vagy robotrepülő harci céllal száll az ellenség fölé, akkor a tevékenysége során emberek sérülhetnek, vagy halhatnak meg.
Az asimovi törvényeket tehát úgy módosítják a katonai fejlesztésekben, hogy a robot nem támadhat a saját katonájára.
Ráadásul számtalan példát látunk arra, hogy a polgári célokra fejlesztett mesterséges intelligencia is képes az embernek ártani. Előfordulhat, hogy egy érdekcsoport meg akarja változtatni a tőzsde működését. Predikciós, vagyis előrejelző modelleket, és ennek alapján olyan módszereket alkalmaznak, amelyek nem etikusak, hiszen nem az emberiség, hanem csak egy szűk csoport érdekeit szolgálják. A mesterséges intelligencia segítségével befolyásolni lehet gazdasági rendszereket, és könnyen tönkre lehet tenni egy konkurenst azzal, hogy elemzik a róla szóló adatokat, és ennek alapján olyan üzleti döntéseket hoznak, melyekkel kiüthetik a versenyből. Természetesen régen is létezett konkurenciaharc, csak most a mesterséges intelligencia sokkal hatékonyabb eszköz az egymással versengő üzleti szereplők kezében.
Ez működhet a politikai versengésben is, nem?
Bárhol működhet, persze.
Yuval Harari történész egyik sikerkönyvében, a Homo Deusban azt mondja, a mesterséges intelligencia szuperintelligenssé válik, és legyőzi az embert.
Bizonyos értelemben már rég legyőzte. A humán intelligencia sokkal lassabban elemez. Egyikünk sem képes fejben 28-at köbgyök alatt vonni, és azonnal megmondani az eredményt. De ezt megteszi helyettünk egy pár ezer forintos számológép. Vagy menjünk vissza az időben. Ki az erősebb, ön, vagy egy gőzgép?
Én.
Hát… A vágyainkban és képzeletünkben valóban lehetünk erősebbek, de a valóság mégiscsak az, hogy a gép az erősebb. Ez a lényege. Persze a vágyainkat meg akarjuk valósítani, és a történelem során a technológiai fejlesztés mindig arra irányult, hogy nálunk erősebb, gyorsabb szerkezeteket hozzunk létre, amivel valamiképp önmagunkat terjesztjük ki. Ezért nem zavaró, hogy a számológép gyorsabban számol, mint mi.
De az igen, ha átveszi a munkámat, és megélhetés nélkül maradok. Vagy ha az irányítást veszi át. Az Asimov-könyvben, az Én, a robot-ban is megjelenik a gép-ember konfliktus, de szólnak erről egyéb klasszikusok is, mint a Szárnyas Fejvadász, vagy akár az Alien. Harari lehetséges szcenárióként fejti ki, hogy az általa dataizmusnak nevezett jelenségnek köszönhetően egy globális mesterséges intelligenciát fogunk szolgálni, hiszen, mondja ő, az állatvilág fölötti uralom megszerzése is az intelligencia forradalmának volt betudható, most pedig a gépek "evolúciója" zajlik. Ebben a felfogásban az ember biológiai logaritmus; lényegében csak az különböztet meg minket a számítógéptől, hogy az szilíciumalapú, az ember pedig szénalapú rendszer. Meddig lehet az irányítás a kezünkben?
Mióta a gépek fejlesztései zajlanak, folyton megjelenik ez a konfliktus. Mikor az ember úgy érzi, hogy az adott technika, berendezés veszélyezteti a megélhetését, rendszerint a géprombolásban találja meg a rövid távú, dühtől vezérelt megoldást. A cselekedeteink agy és lélek által vezéreltek, és ha egy gépnek lesz agya, akkor elméletileg lehet, hogy vetélytársunkká válik. Sosem az a kérdés, ki az erősebb fizikailag, hanem az, hogy ki intelligensebb. Az ember egy tízszer tízes Excel-táblát már nehezen tud áttekinteni, a mesterséges intelligencia meg több százezer soros táblázatokat elemez egy pillanat alatt. 25 évvel ezelőtt, 1997-ben Kaszparov sakknagymestert legyőzte az IBM Deep Blue elnevezésű szuperszámítógépe. 11 évvel ezelőtt, 2011-ben ugyancsak az IBM fejlesztése, a Watson a Jeopardy játékban kerekedett felül az emberen. Ma már előfordulhat, hogy nem is veszem észre, hogy számítógéppel beszélgetek, és nem emberrel.
De itt a fő kérdés, hogy az, ahogy a kutyámat szeretem, algoritmizálható-e. És erre a válaszom az, hogy nem. Nem tudunk emberi érzelmeket logikus algoritmikus folyamatként bemutatni, s amíg ez így van, az érzelmek világa, és ebből fakadóan az erkölcsi döntések forrása megmarad az ember privilégiumának.
A számítógép az érzelmi intelligencia terén nem tudja utolérni az embert. Vagy nézzük a kreatív szakmákat: egy képszerkesztő szoftver, vagy egy fényképezőgép algoritmusai nagyon szépen tudnak egy képet retusálni, de amikor az igazi fotóművészeti alkotást nézzük, ott a humán intelligencia magasan győz. Ha kellően tudunk rezonálni egy alkotással, akkor megérezzük a műben a művész lelkének egy darabját is. Ezt még nem érezzük a mesterséges intelligencia által készített műveknél.
De már vannak számítógép által komponált zeneművek, amik átmentek a vakteszten.
Az, hogy a Beatles száz dalát elemzi a mesterséges intelligencia, és ezek alapján legyártja a százegyediket, nem olyan nehéz dolog, és még mindig csak másolás. Amíg a humán alkotás értékesebb művészi értelemben, mint amit a gép hoz létre, nem látom olyan komolynak a problémát. Egyébként egyre több területen csakugyan azt látjuk, hogy a mesterséges intelligencia átveszi a hatalmat, olyan szempontból, hogy kiváltja az embert. Ilyen az ipar 4.0, s szorosan a nyomában az ipar 5.0.
Mit takarnak ezek a fogalmak?
Az ipar 4.0 azt jelenti, hogy a gyártás teljes volumenét és a logisztikát az alapanyagok beszerzésétől a késztermék csomagolásáig informatikai rendszerek vezérlik. Így tudjuk optimalizálni a gyár működését, így váltható ki az ember, aki ugye olykor téved, elfárad, beteg lesz, magánéleti problémái adódnak, és akkor nem jön be dolgozni; mindez az ipar 4.0-nál gyakorlatilag elenyésző.
A gép nem igényli, hogy szabadságra menjen. Az ipar 5.0 már arról szól, hogyan lehet még inkább integrálni a teljes termelést, ami azt jelenti a gyakorlatban, hogy egy gyár szó szerint emberek nélkül működik.
Egyébként az ipar 5.0-nál egy másik koncepció is megjelenik, amit kollaboratív iparágnak nevezünk. Ennél a hangsúly azon van, hogy a lelketlennek és embertelennek tartott, túlságosan technicista fókuszú ipar 4.0 helyett az ipar 5.0-ban a kiber-fizikai rendszerek és az emberek együttműködése sokkal humánusabb módon valósulhasson meg. Ez az elképzelés a már korábban említett etikus mesterséges intelligencia erősödését feltételezi.
Ha például tőzsdei szereplő lennék, sérelmezhetném, hogy legyőzött egy algoritmus, és ezzel nekem kárt okozott. Persze, akinek ebből haszna származik, azt mondhatja: "te is használj egy ilyet, és majd a masináink lemeccselik egymással. "
Ha valaki beletesz a mesterséges intelligencia fejlesztésébe mondjuk egymilliárd dollárt, azt nem azért csinálja, hogy a végén csak úgy a világot szolgálja, hanem azért, hogy ebből haszna legyen. Elon Musk jut eszembe, aki elég megosztó személyiség. Ő sem azért áldoz nagy pénzeket a mesterséges intelligencia fejlesztésére, mert a világ legjobb embere volna. Vannak saját elképzelései, amiket meg akar valósítani, talán van némi hatalomvágy is benne, s ha beletesz a projektjeibe egy dollárt, annak a többszörösét akarja nyereségként kivenni. Egyébként a mesterséges intelligenciához is köthető kiberfejlesztéseknek három halmazuk van: etikus fejlesztések, amelyek nem árthatnak az embernek, s talán még azt is mondhatnánk, hogy az emberiség fejlődését szolgálják; katonaiak, amelyek az etikát kissé másképp fogják fel, ahogy arról már beszéltünk; és van a szürke zóna. Ez utóbbihoz tartozik, amikor hackercsapatok mesterséges intelligencia segítségével egy másik cég, vagy egy másik ország online infrastruktúráját próbálják feltörni, onnan adatokat szerezni.
Ki tudja egzakt módon meghatározni, hogy melyik hacker etikus?
Nagyon puha definíciókkal dolgozunk e téren. Ha a hacker a tevékenységével egy cég vagy egy állami rendszer infrastruktúrájának védelméhez járul hozzá, megnézi a gyenge pontokat, és talál rá valamilyen informatikai megoldást, az általában etikus, különösen akkor, ha a hackernek az adott cég, vagy állami szervezet adott megbízást erre a feladatra.
De a hacker a köztudatban az, aki más rendszerébe hatol be.
Igen, de Magyarországon és a világ számos országában komoly törvényi előírások vonatkoznak arra, hogy ezt milyen felhatalmazás mellett lehet megtenni, feltéve, hogy az etikus hackerekre gondolunk. Megkülönböztetünk "white hat" és "black hat" hackereket, egyszerűbben fogalmazva az előbbiek a jó fiúk, az utóbbiak a rosszak. A hackerek egyébként régebben magányos harcosok voltak, de mostanában - úgy tűnik különböző jelentések alapján - már inkább csoportban dolgoznak. Öten-hatan összeállnak, s így jobban össze tudják hangolni a tevékenységüket.
A kibervilág kalózai felismerték, hogy az adatok megszerzése, értékesítése nagy üzlet. Lehet, hogy nincs is megbízó egy-egy hackercsoport mögött, ők maguk döntenek úgy, hogy adatokkal fognak kereskedni. Például a dark weben találunk olyan hirdetéseket, hogy eladják egymillió ember adatait, bitcoinért.
De az is előfordul, hogy egy cég bízza meg őket egy másik céggel szemben, végezzenek adathalászatot, figyeljék a fejlesztések nem publikus részeit. És itt is van szürke zóna: léteznek csoportok, amelyek olykor elmennek a sötét irányba is, de közben bizonyos kormányoknak is tesznek szívességeket. Ezekről nagyon kevés információnk van, és ami van, az sem publikus; de pontosan látjuk, hogy ők azok, akik bűncselekményeket követtek el korábban, és valamilyen vádalku keretében együttműködnek az adott kormánnyal.
De az is gyakori, hogy a hacker valamilyen pozitív társadalmi célt szolgál.
Ez az úgynevezett hacktivisták csoportja. Például egy gyorsétterem vezetése megaláz, méltóságában megsért egy idős házaspárt. Úgy gondolják a hackerek, hogy igazságot kell tenniük, tehát feltörik a cég oldalát, és elhelyeznek valami szöveget, mondjuk, hogy "az emberi méltóság fontosabb, mint a profit." Ezek a csoportok valamilyen érték alapján működnek, de nem biztos, hogy az értékrendjük mindig találkozik a társadalom általános értékrendjével. Lehet,hogy egy környezetszennyezést nem jól ítélnek meg, vagy, mondjuk, túlreagálnak. Egyébként az eddig említetteken kívül léteznek még a "script kiddie"-k, a vandálkák, valamint a "newbie"-k, a zöldfülűek, akik úgy érzik, hogy például tizenvalahány évesen vagány dolog, ha az ember feltör egy kormányzati oldalt, és föltesz rá valami pornóvideót. Ezzel persze bűnt követnek el, de egy 13-14 éves gyerek efféle aktivitása inkább kalandvágyból meg kreativitásból fakad, semmint tudatos rosszindulatból.
Az Anonymous-csoport, amely a jelenlegi háborús konfliktusba is beavatkozott, és kibercsapásokat mért orosz kormányzati oldalakra, hová sorolható? Az erejük nem kétséges, hiszen sokszorosan védett rendszereken tudnak áthatolni. Ők egy általánosan elfogadott humanista értékrend mentén cselekszenek, anélkül, hogy bárkivel egyeztetnének erről. Legalábbis nincs tudomásunk arról, hogy egyeztetnek.
A hackerek többségét értelemszerűen nem ismerjük. Nem vagyok benne biztos, hogy az Anonymous egy nagy, globális szervezet, és az se biztos, hogy mindegyik Anonymous-akció ugyanahhoz a körhöz kötődik. Valószínűleg vannak különböző sejtek, de lehet, hogy ezek között nincs kapcsolat. Ami biztos: a kibervilágban ez a paradox, névtelen név nagyon menőnek számít. Ráadásul amikor egy csoport bejelenti, hogy kibertámadást hajtott végre, az vagy igaz, vagy nem. Hajtja őket a büszkeség, és van egy verseny, amiben a rejtőzködő hackerek meg akarják mutatni, hogy képesek akár egy orosz katonai rendszert is feltörni.
A kiberhadviselés mennyire etikus?
Amennyire maga a háború. Amikor az a kérdés, hogy egy tevékenység erkölcsös vagy sem, akkor nem önmagában kell néznem, hanem azt kell megvizsgálnom, milyen célt szolgál. A hagyományos hadviselésnek van úgymond etikus formája: én az én zászlóm alatt vonulok föl, te a te zászlód alatt, és megütközünk. Csakhogy jön a trükk: fölveszem a te egyenruhádat, fölemelem a te zászlódat, és átverem az embereidet, hogy előnyhöz jussak. Ez a hadicsel kategóriája. A klasszikus hadviselés mellett a kezdetektől megjelenik ez a kicsit szélhámos, kicselezős irányzat is. S ahogy megyünk előre az időben, egyre több és rafináltabb hadicselt látunk, a kiberhadviselésnek pedig már lényege a megtévesztés.
Azt legalább tudhatjuk, hogy ki harcol ki ellen a kibertérben?
Legfeljebb sejthetjük. Van egy támadó, aki valamiképp nevesíti magát, és van egy megtámadott, de nem tudjuk, hogy például a támadó csoport mögött nem áll-e egy másik, harmadik, negyedik fél. Mikor azt halljuk, hogy egy országot egy másik országból ért kibertámadás, közel sem biztos, hogy a támadó abban az országban van, amit megneveznek. Lehet, hogy a szomszéd utcában van, vagy a Föld túlsó felén, vagy több országban. Az egyetlen, amit a támadóról biztosan tudhatunk, hogy rejtőzködik. A hackerek egyrészt eltüntetik a nyomaikat, másrészt megtévesztő nyomokat hagynak.
Ha a kibernetika nagyon magas szintre fejlődik, nem vezethet el egy békésebb világhoz? Ma beavatkozhatom egy rendszerbe annak érdekében, hogy ha elindítják a rakétákat, célt tévesszenek. De akár úgy is beavatkozhatom, hogy ne induljon semmilyen rakéta sehová. Nincsenek béke-hackerek, akik lefagyasztják a fegyverarzenált?
Ha vannak, akkor az ellenfél arzenálját fagyasztják le a saját győzelmük érdekében. De alapvetően az elektronikus hadviselés fő célpontját nem is a fegyverek képezik, hanem a kommunikációs rendszerek. Régen bevett stratégia volt, hogy elvágták a kábeleket, hogy az információ a másik oldal katonái, csapattestei közt megbénuljon. Ahogy a technológia fejlődött, úgy fejlődtek a zavarási technikák is. Vezeték nélküli kommunikációt hoznak létre, de az ellenség ezt megzavarja, illetve lehallgatja. Mi a megoldás? Elkezdtek rejtjelezést használni, hogy az üzenetet ne tudják visszafejteni. De persze a legegyszerűbb megoldás az, hanem megy át semmilyen üzenet. Ma már vannak mesterséges intelligencia által támogatott robottankok, ezek ilyen kis egyszer kétméteres járművek. Fizikailag elpusztítani nehézkes őket, de nem is kell. Ha van huszonöt ilyen tank egy műveleti területen, és a kommunikációt megzavarjuk köztük, akkor már nincs olyan erő bennük, hogy egy összehangolt támadást végrehajtsanak. Így alapvetően az összes elektronikus haditechnikai eszköz megbénítható, mert információ nélkül rendszerint nem működnek.
A nukleáris fegyverarzenált mesterséges intelligencia vezérli?
Is-is. Általában egy katonai vezetőkből álló döntéshozó testületnek van törvényi felhatalmazása a tömegpusztító fegyverek és a fegyvereket üzemeltető rendszerek kezelésére, s ennek pontos protokollja a szükséges kontrollokkal együtt precízen kidolgozott. Vagyis olyan elvben nem fordulhat elő, hogy felhatalmazás nélkül valaki megnyomja azt a bizonyos piros gombot. A probléma abból adódik, hogy a humán tényezőben mindig lehet kis bizonytalansági faktor. Ezeknek az embereknek kellően higgadt állapotban kell lenni ahhoz, hogy bármilyen információt kapnak, azt megfelelően értékeljék. Nézik a híreket, és a vezető tábornok látja, hogy a falut, ahol született, és ahol az édesanyja él, épp lebombázták. Vajon ugyanolyan higgadtan dönt a gomb megnyomásáról, mintha nem kapott volna ilyen hírt?
Ugyanez a mesterséges intelligenciánál nincs.
Hát ez az. Ő minden helyzetben higgadt és pragmatikus marad. És itt jön elő a kérdés, hogy a mesterséges intelligenciát mennyire engedjük fejlődni, mennyire akarjuk, hogy minket akár kihagyva, önálló döntést hozzon.
Mennyire?
Egyik kedvenc témám a Sheridan-féle skála. Ez a számítógépeket intelligenciájuk alapján tíz szintre sorolja be. A legfelső szint az, amikor a gép önállóan hoz döntést, és az embert erről nem is tájékoztatja. Sokan azt mondják erre, hogy félelmetes. De mondjuk, ha ön egy okosautóval közlekedik, jó-e, ha az autó az út során minden apró részletről tájékoztatja?
Azt hiszem, ilyen mennyiségű információt nem is bírnék felfogni egyszerre.
Pontosan. Ilyenkor eléri a fejlesztés a tizedikfokozatot: a mesterséges intelligencia létfontosságú döntéseket hoz és hajt végre, és ezekről nem kéri ki a véleményünket. Természetesen úgy kell beprogramozni, hogy a mi mércénk szerint etikus módon működjön. Visszatérve a katonai példára:
a NATO például nem szeretné, ha a mesterséges intelligencia a hadviselésben a tizedik szintet elérhetné. Azt akarják, hogy amikor tényleg nagyon komoly döntésre kerül sor, azt ember hozza meg.
Gondolom, ez nem egyetlen ember, mint a filmekben, ahol az elnök előveszi a koffert, és megnyomja a piros gombot.
Különböző döntési szintek működnek együttesen, és ezekbe a testületekbe nem engednek be bárkit. Nagyon komoly pszichológiai teszteket hajtanak végre az összes olyan hadseregben, amely rendelkezik tömegpusztító fegyverekkel, hogy még véletlenül se történjen meg az, hogy egy magas ragú katona begőzöl valamilyen okból. Többszörös parancsjóváhagyások, többszörös ellenőrzési pontok és biztonsági protokollok vannak.
És ha van egy forrófejű diktátor, aki úgy alakította ki a rendszerét, hogy amit ő mond, az ellen nincs apelláta?
Szerintem még Észak-Koreában is van a vezető körül tanácsadó testület. Lehet, hogy nem annyira markáns a véleményük, és nem annyira mennek szembe a vezetővel, de vannak politikai tanácsadók, főtisztek, belbiztonsági és biztonságtechnikai szakemberek, akiknek ő ad a szavára. Nem tudom elképzelni, hogy bárki önállóan hozzon ilyen döntést.
A jelenlegi háború a kibertechnikák alkalmazását tekintve más, mint a korábbiak?
Az oroszok matekban mindig erősek voltak. Nagyon sok matematikai modell és módszer van, amit az egykori Szovjetunióban dolgozó orosz, ukrán és egyéb nemzetiségű matematikusok dolgoztak ki, és ez az örökség valamiképpen biztos megjelenik a kiberhadviselésben. Nyilván fejlettebb technikák állnak rendelkezésre, mint akár csak tíz éve. Emiatt egyre inkább érdemes különválasztani azt, ami valójában történik, és azt, amiről értesülünk. Egyik félnek sem érdeke, hogy száz százalékig azt kommunikálja, amit valójában tesz, azt meg végképp nem szeretnék, hogy kiszámíthatók legyenek a terveik. Az is nyilvánvaló, hogy sokkal biztonságosabb a kiberkémkedés, mint a humán hírszerzés. Biztos, hogy alkalmazzák a "honeypot", vagyis mézesbödön-módszert. Ez arról szól, hogy a valós informatikai rendszerünk mellé megalkotunk egy pszeudo-rendszert, hogy a hackerek ebből tudjanak adatokat lopni. Természetesen ez sok erőforrást igényel, hiszen a honeypot-szisztémát úgy kell fenntartanunk, hogy a működése mindenben hasonlítson az igazira: a vezérlés, szabályozás adatai csakugyan benne vannak, de teszünk bele hamis adatokat is. Létezik egy csomó technika, aminek köszönhetően el tudjuk hitetni a támadóval, hogy ez az igazi rendszer, és akkor boldog lehet, hogy feltörte. Sőt, akár kiadhatunk egy sajtóközleményt, hogy galád kibertámadás ért minket, ezzel pedig megerősítjük a másik felet a tévhitben. Biztos, hogy mind az orosz, mind az ukrán fél rendelkezik ilyen mézesbödönnel.
Hosszú konfliktus előzte meg az inváziót, az ukránokat mégis váratlanul érte. Ha sikerült volna adatokat szerezniük a támadás időpontjáról, talán hatékonyabban lépnek a kezdetén, és nem kerül Zelenszkij családostól veszélybe Kijevben. Az orosz fél is másra számított, az elemzők szerint villámháborút akart; hogy elszámolta magát, az nem a kiberhatékonyságra utal, inkább olyan, mintha a hadműveletek tervezésekor a térképasztalon tologatták volna a kis tankokat. A Moszkva hadihajó elsüllyesztésénél viszont lehetett valamiféle mesterséges intelligencia, ami megfelelően tudta lokalizálni a célpontot és kiválasztani a támadás időpontját.
Amikor szakértőként valamilyen helyzetet elemzünk, mindig megkérdezem a kollégákat: milyen információra hagyatkozunk? Minden katonai hatalom büszke a kiberhadseregére, hiszen a hadászatban mindenki erőt akar mutatni. Senki nem fog a gyenge pontjairól beszélni. Ezek az információk annyira nem publikusak, hogy az sem biztos, hogy tábornok alatti szinten az illető ország saját katonái tudnak róla, tehát mi végképp csak következtetni tudunk rá, hogy egy-egy hadsereg kiberpotenciálja mekkora. Viszont a kommunikáció frontján hatalmas ütközetek zajlanak. Ön szerint mi sokkolja az embereket? Ha azt mondjuk, hogy ellopták ezer ember adatait, vagy ha mutatunk egy fotót egy vérző fejű kislányról, akit kezében tart az édesanyja?
Az utóbbi.
Így van, pont ezért létezik egy ilyen eleme is a narratív-kommunikációs hadviselésnek. Mindannyian sírunk egy ilyen kép láttán. Mindegy, hogy orosz vagy ukrán kislány van a képen, hatalmas a mozgósító ereje. Lehet, hogy az adatlopás következtében több ember élete ment tönkre, és lehet, hogy a kislánynak a fotó készítése után ellátták a sérülését, és egy órával később már vidáman játszott. És ezzel nem azt állítom, hogy a háborús tragédiák képeit bagatellizálni kéne, csak azt, hogy ezek is részei a hadviselésnek. A kommunikációs hadviselésben egy lebombázott házból kijövő idős bácsi, aki a karján viszi a kismacskáját, sokkal erősebb fegyver, mint ezer hacker. Ezért ha a laikus közönség nem is, a szakemberek meg szokták vizsgálni, hogy beállított képekről van-e szó. Amikor a szemben álló felek szeretnék magukat győztesnek láttatni, akkor másfajta verbális-vizuális motívumokat gyártanak le, és amikor szegénynek, kihasználtnak, áldozatnak akarnak látszani, az megint más kommunikációs stílust és narratívát igényel.
Putyin a Győzelem Napján azt mondta: Ukrajna nukleáris fegyverért könyörgött, amivel elfogadhatatlan veszélyt teremtett volna Oroszország határainál. A nagyhatalom már-már áldozati pózba helyezkedik, amit a propaganda révén el is tud hitetni.
És nyilvánvalóan ott is van rengeteg olyan fotó, amin a sebesült orosz katona látható a szerelme fényképével a kezében. Ezek gyakran gyönyörűen megkomponált képek. Újra hangsúlyozom, az áldozatok tragédiáját nem akarom relativizálni, de szakemberként azt mondom: ezek gyakran emocionális hadműveletek, amihez minden országnak érteni kell.
Evezzünk békésebb vizekre. A polgári célra felhasznált mesterséges intelligencia mennyire változtatja meg az életünket a jövőben?
Akár gyökeresen, már viszonylag rövid távon is. Ez talán a leggyorsabban működő fejlesztési terület, aminek attól függően is leírhatjuk a fokozatait, hogy mekkora területen hatékony és komplex. Vannak testen belüli eszközök, a véráramban keringhetnek nanorobotok, és ha találnak például egy plakkot, azt eltakarítják. A műszív, vagy az egyes szívfunkciókat támogató eszközök rögtön detektálják is a test működését. És ez megint jó példa arra, hogy bizonyos döntésekből ki lehet hagyni az embert. Ahhoz, hogy a mesterséges intelligencia összehangolja egy beteg testműködését, és biztosítsa számára az önálló, kvázi gondtalan életvitelt, szükség van arra, hogy mondjuk a szívből azonnal küldjön információkat egy központi egységbe, de erről nem kell, hogy értesítse a beteget. Aztán vannak a testen kívül viselhető robotikai eszközök, ilyen az exosceleton, a külső robotváz. Ha egy ilyen vázat veszek magamra, akkor gyorsabban futok, nagyobbat tudok ugrani.
Mint egy Marvel-szuperhős.
Igen, aki képes megemelni, mondjuk, kétszáz kilót. Aztán a testen viselhető eszközök fontos irányát jelentik az intelligens művégtagok. Régen a csonka karra ráillesztettek egy fakezet, kampóval. Aztán kifejlesztették az idegvégződésekhez kötődő ortézist, vagy protézist, akkor már tudta mozgatni az ember a kezét, vagy meg tudta fogni a tárgyakat. S ahogy haladunk előre, azt látjuk, mintha a Star Wars válna valóra: a művégtag tökéletesedik, a bőrnek tényleg bőrszíne van, és a műizmok finommozgásra is képesek. A műkéz ujjaival tapintva megérezhető a tárgyak állaga.
Milyen további szerveződési szintjei vannak a mesterséges intelligencia alkalmazásának?
Nagyon érdekes az okosház, más szóval a domotika koncepciója. Ezekben a rendszerekben van egy központi egység, ami tanul a viselkedésünkből. Tehát például megjegyzi, mikor kelünk föl reggelente, milyen gyakran veszünk üdítőt a boltban, és összeköti a napirendünket mondjuk a Google Calendar-ral. Nem kell ébresztőóra, a ház ébreszt megfelelő időben, a legkényelmesebb megoldást megtalálva. Meglocsolja a kerti növényeket, mert néhány szenzora figyeli a föld nedvességtartalmát, és kommunikál a központi időjárás-előjelző applikációkkal, így megszerzi az információt arról, hogy lesz-e a következő órákban csapadék. Ha lesz, akkor nem locsol. Minden tekintetben optimalizálja a ház működését, a fűtéstől a hűtésig. Becsukja és kinyitja az ablakot, felhúzza és leereszti a redőnyt. A bojler annyi vizet melegít, amennyit el szoktunk használni, és akkorra, amikor a fürdés ideje jön.
Szóval nem nekünk kell a házról gondoskodnunk, a ház gondoskodik rólunk.
És mi van, ha eltérek a napirendemtől, és délben akarok fürödni?
Épp az a kihívás a fejlesztők előtt, hogy mennyire képes kezelni az okosház az emberi viselkedés rutintól eltérő mozzanatait. Amikor nem tervezett módon hozunk döntést, az egyelőre nehezen kezelhető a számára. Viszont ahogy a mesterséges intelligencia modelljei fejlődnek, a robotikai rendszerek egyre inkább képesek megjósolni a viselkedésünket. Sosem száz százalékban, de egyre nagyobb valószínűséggel. A kvantumszámítógépeknek pedig vélhetően sokkal jobb lesz a predikciós, vagyis előrejelző hatékonysága. És erre szükség is lesz, mert a következő lépték már az okosváros.
A települések egyes működései már most automatikusak: a lámpa vált, a sorompó leereszkedik, a közvilágítás szürkületkor bekapcsol…
Ez még semmi ahhoz képest, ami várható. Az elmúlt évtizedekben úgy rendeződött át az életformánk, hogy több ember él városban, mint vidéken. Össze kell hangolni a közlekedést, az energia- és élelmiszerellátást, tehát az a cél, hogy a város minél több funkcióját mesterséges intelligencia koordinálja, mégpedig oly módon, hogy a lakosság lélekszámának növekedésével növekedjen a városban élők életminősége is, mert ez egyelőre sokszor fordítva van. A mesterséges intelligencia segíthet a környezetszennyezés csökkentésében is.
És, gondolom, a védelmi rendszer fenntartásában.
Persze, kamerarendszerek vannak kiépítve, ahogy ez szükséges egyébként az okosváros vagy az okosország koncepciójához.
Okosország?
Bizony, és e szempontból a kínai rendszer a legizgalmasabb kísérlet. Olyan kamerákat és szenzorokat alkalmaznak, amelyeken keresztül a rendszer beazonosítja az embereket, és értékeli, ahogyan viselkednek. Átmész a piroson, és a rendszer levon egy-két pontot. A központi nyilvántartásba befutnak és összekapcsolódnak a kamerarendszerek adataival a vásárlói szokásaid, a hitelvisszafizetési hajlandóságod is, és besorolnak állampolgári kategóriákba. Aki nem fizeti a hitelét időben, vagy közlekedési szabályt sért, esetleg volt már börtönben, annak kevesebb pontja van. S minél kevesebb pontja van, annál kevesebb erőforráshoz fér hozzá. A léha életet élő házaspárt lepontozza a rendszer, és a gyerekük nem kerül majd be az elitiskolába.
Okosország polgáraként abban a tudatban kell élnem, hogy folyamatosan adatok keletkeznek rólam. A privát szférámnak így vége, hiszen adat lesz a központban, hogy mikor fekszem, mikor kelek, mit nézek meg a számítógépen, kivel beszélgetek. Ahhoz, hogy elég hatékonyan működjön a rendszer, nem lehet olyan pillanata az életemnek, amiről csak én tudok. "Nagy Testvér figyel téged."
Kínában ennek más a megközelítése, mint az individualista nyugati világban. Ott úgy nevezik, hogy "mesterséges intelligenciával támogatott társadalmi lelkiismeret." Ha valaki nem bűnözik, az adót tisztességesen fizeti, és nem vizeli le részegen a házfalat, akkor többre jogosult a közjavakból, mert lelkiismeretes állampolgár. Így az ember érzi annak is a súlyát, ha kicsapongó és szabálykerülő életet él. Ugyanis megvan a büntetés: nem kell feltétlenül börtönbe jutnia, viszont a javaktól el lesz zárva.
Például van egy rangsor abban a tekintetben, hogy ki kaphat meg egy speciális orvosi ellátást. A kapacitás évente ezer személyre vonatkozik, de van tízezer beteg. Milyen alapon döntsünk? Ha a pénz dönt, a gazdagok életben maradnak, a szegények meghalnak. De mondhatjuk azt is, hogy ha a társadalom hasznos tagja vagy, akkor logikus, hogy az életed fontosabb, mint egy bűnözőé, aki nem tiszteli a törvényt.
Szerintem ilyen felfogásból nézve ez a rendszer nem rossz. Persze, benne van, hogy figyelnek. De ezt a vallás már rég feltalálta, valószínűleg nem véletlenül, tehát nem idegen az emberi kultúrától. Minden vallás azt mondja, különösen a zsidó-keresztény hagyomány, hogy Isten szeme mindent lát; figyel téged, tehát ne legyél rossz, törekedj a tisztességre. Ha jól viselkedsz, megjutalmaz; ha pedig rosszul, megbüntet.
Okosországban tehát a "transzcendens én", vagyis a jutalmazó és büntető istenség szerepét átveszi a mesterséges intelligencia. Gyakorlatilag megalkottuk magunknak félvezetőkből az Istent.
Azt a funkcióját már biztosan, hogy a különböző tevékenységeinket együttesen és tárgyilagosan elemzi, nem felejt el semmit, tehát jobban ismer minket, mint ahogy magunkat megismerhetnénk valaha is. Ön ma fog kólát inni?
Fogalmam sincs.
De ő meg tudja jósolni. Minél komplexebb rendszerben képes az adatokat elemezni, annál biztosabban tudja előre jelezni az emberi viselkedést, a kollektív elemzéstől a személyekre való lebontásig. És erre rá is lehet segíteni a személyre szabott marketinggel.
Tehát nemcsak megjósolhatja, de dönthet is úgy, hogy kólát igyak.
Erősen kisarkítva igen. Ezt kollaboratív szűrésnek hívjuk a marketingben: mérhető, hogy hányan viselkednek hasonlóan. Minél inkább hasonlít az ön viselkedése a csoportjáéhoz, annál könnyebben jósolható, hogy ha ők megvesznek egy könyvet, ön is megveszi majd. Ha tehát az önhöz hasonló viselkedésűek megvették, akkor önnek is hirdetjük, mert ez valószínűleg sikeres hirdetés lesz.
Ökológiai rendszereket és nyersanyagforrásokat elemző kutatók szerint ha a civilizáció ezt az urbánus-fogyasztói utat járja tovább, csupán évtizedekben mérhető a hátralevő időnk. Tud-e segíteni egy globális mesterséges intelligencia abban, hogy valamilyen módon optimalizálja a túlfogyasztást vagy a környezetszennyezést? Meg tud-e minket menteni az Isten, akit teremtettünk?
Az átlagembernek mennyire fontos, hogy neki jó legyen?
Abszolút.
És mennyire fontos, hogy legyen jó sora a családjának? Mennyire fontos, hogy a szomszédainak, a polgártársainak jó élete legyen, és mennyire fontos neki, hogy mi történik egy idegen emberrel a föld túlsó felén?
Attól tartok, ez az utolsó már kevésbé.
Így van, minél inkább kibontjuk ezeket a hagymarétegeket, azt látjuk, hogy az átlag nyugati embernek az afrikai éhezők messze vannak, ezért nem igazán számítanak. Ha hallunk róluk, megsajnáljuk őket; küldünk tíz dollárt egy kattintással, és megnyugszik a lelkiismeretünk. A mesterséges intelligencia viszont képes összehangolni az egymástól távol levő országokat, népeket, kultúrákat, és nem azért, hogy szürke katyvasz egyen belőlük, hanem azért, hogy minden ember számára biztosítani lehessen az emberi életet. Persze ez egy másik problémát vet föl.
Ha itt Magyarországon minden családnak lehet autója, miért ne lehetne Afrikában is? Tehát a jólét relatív, az adott társadalom komfortszintjéhez kell igazítani.
Ha a mesterséges intelligencia képes összehangolni az egész világot a fenntarthatóság érdekében, akkor kérdés, hogy az én életszínvonalamat akarja kiterjeszteni mindenkire, vagy azt mondja, hogy az afrikai emberre, aki egy kunyhóban él, de mégis boldog, ne erőszakoljuk rá, hogy neki is legyen autója. Mert akkor ott is urbanizálni kell, betonutakat építeni… és az már túlzott ökológiai terhelést jelentene.
Az a sejtésem, hogy a mindenható szuperszámítógép a gazdasági elit instrukciói alapján lesz programozva, akik azt szeretnék, hogy a saját köreikben mindenkinek legyen autója meg okosháza, az afrikaiak meg érezzék jól magukat a romanticizált viskójukban. Nem nekünk, a nyugati komfortban élőknek kéne visszavenni az igényeinkből? A mesterséges intelligencia mondhatja-e a budapesti vagy New York-i városlakónak, hogy az emberiség érdekében mostantól nem fűtheti a lakását télen húsz fok fölé?
Igen, mondhatja. És azért van törekvés arra is, hogy ne lássunk éhező embereket. Gondolja, hogy Afrikában az lenne a megoldás, hogy mindenkinek legyen lehetősége napi száz liter vizet elfürödni? Én ezt kétlem. Az lehetne a jó irány, hogy a mesterséges intelligencia képes legyen minél hatékonyabban megismerni a helyi erőforrásokat, és annak alapján kínálni egy boldog életet. És itt jön képbe a közgazdaságtan kvalitatív felfogása, hogy ne azt nézzük, kinek hány kocsija van, hanem azt, hogy képes-e boldogan élni azzal, amivel rendelkezik. A boldogság, elégedettség legyen a mérce. De az is nagyon fontos, hogy a mi boldogságunk nem okoz-e keserűséget egy másik társadalomban. Ha képes a mesterséges intelligencia az érzések, szubjektív tapasztalatok és az erkölcs felől megközelíteni a témát…
Képes? Azt mondta, épp azért nem kell tartanunk a mesterséges intelligencia uralmától, mert érzelmeket nem tud modellezni, tehát ebben mi vagyunk jobbak.
Egyelőre, de változtathat a helyzeten a kvantumszámítástechnika, ami teljesen más alapon működik. Inkább valószínűségekkel, lágy számítási módszerekkel dolgozik, mint a klasszikus nulla-egy, vagyis bites rendszerrel. Abban, hogy miért lesz valaki szerelmes, a valószínűség is közrejátszik, és a hagyományos informatikai rendszer ezt csakugyan nem tudja leképezni, de ha a klasszikus neumanni elvek helyett a kvantumgondolkodás jelenik meg, az érzelmek is modellezhetők lehetnek.
Ez még kísérleti stádiumban van, de amikor megjelenik a hétköznapi életben, az olyan világot eredményezhet, amit most nem tudunk elképzelni. Akkor a mesterséges intelligencia úgy hangolhatja össze a tevékenységeket, hogy mindenki enged a komfortzónájából, mégsem egy általános diszkomfortérzet alakul ki.
Én úgy gondolom, hogy a kvantumszámítástecnika által szabályozott okosbolygón a jólét úgy lesz definiálható, hogy az egyenlőtlenségek ellenére senki sem érzi magát rosszul, s az emberi méltóságát megőrizve lehet képes boldog és egészséges életet élni. Nekünk, tudósoknak az is kötelességünk, hogy olyan elképzeléseket realizáljunk, s olyan fejlesztésekben vegyünk részt, amik ezt az inkább optimista jövőképet segítenek megvalósítani.
