Az átlagembereknek a mesterséges intelligenciához (MI) fűződő viszonya – János esztergomi érseknek, a „Gertrudis megölésére” vonatkozó és a vesszőkkel ellenkező értelművé formálható mondását átköltve – valahogy így jellemezhető: „A mesterséges intelligenciát alkalmazni nem kell félnetek jó lesz ha mindenki támogatja én nem ellenzem.” Én személy szerint az MI használatát – ha nem is nem feltétel nélkül – támogatom, mivel az emberiség jelenlegi problémáinak megoldása közreműködése nélkül elképzelhetetlen. Ezt a véleményemet egyrészt arra alapozom, hogy az emberiséget fenyegető súlyos válságok csak a mesterséges intelligencia (MI) segítségével tűnnek „kúrálhatónak”. Másrészt, amikor az MI átláthatatlan veszélyeit elemezzük – jellemző módon – mindig önmagunkkal szembesülünk. Mintha csak Groucho Marx gyakran idézett mondása öltene testet: „Találkoztam ellenségeinkkel, és ők: mi vagyunk!” Vagyis, az ember által teremtett eszközöket mindig saját ostobasága és/vagy gonoszsága tette/teszi önmagára is veszélyessé.
Világunk állapotát illetően, minden hír, minden elemzés és politikai kiáltvány a sokasodó krízisekre figyelmeztet. „Mr. Végítélet” – Nouriel Roubini – legutóbbi, végső figyelmeztetésnek szánt könyvét azzal zárja: „Végzetszerű fenyegetések közelednek felénk. Hatásuk alapjaiban rázza meg életünket és fenekestől felforgatja a világunk megszokott rendjét, olyan mértékben, amit még soha nem tapasztaltunk.” (Roubini, N. 2022. Megathreats). A természeti katasztrófák, a gazdasági összeomlások, a szociális válságok és a politikai krízisek kiváltó okait kutatva azonban mindig az emberek hanyagságával, a globális vállalatok felelőtlenségével, a politikusok ostobaságával vagy mohóságával, valamint az elitek megegyezésre való képtelenségével szembesülünk. Világunkat a sodorja veszélybe, ahogyan élünk, ahogyan viselkedünk és ahogyan környezetünket használjuk. Vagyis, az emberre a legnagyobb veszélyt önmaga jelenti.
A kutatók az aggodalomra okot cáfolhatatlan tényeket, immáron több évtizede folyamatosan a szakmai közösségük, a döntésekért felelős politikusok, és a közvéleménye elé tárják. A helyzet folyamatos romlására utaló információkkal fokozatosan megismerkedhettünk. Ennek nyomán el is indultak a viták a „halaszthatatlan” teendőről. A politikai pártok kitűzték az elérendő célokat, a vállalatok beépítették stratégiájukba az adaptáció követelményét, új mozgalmak szerveződtek az elkerülhetetlen életmód-váltást követelve. A sokasodó katasztrófák láttán mindenki az ismételgeti: ez így nem mehet tovább! Majd, lényegében nem történt semmi. Az események menetét – legalább is idáig – Max Frisch – „Biedermann és a gyújtogatók” című színjátékában elhangzó kis versike rajzolja fel:
„Láttuk előre éppen elég ideje,
Mindahányan
És végül bekövetkezett,
Most már nem lehet oltani se:
Tökfejűség, de
Sorsszerűségnek nevezik.”
Vagyis, miközben egyre többen hivatkoznak az emberiség sorsszerű – jövőjébe szinte „beleprogramozott” – kudarcára, valóban a „tökfejűségről” van szó. A helyzet persze ennél egy kicsit bonyolultabb. Egész sor, fokozatosan egybekapcsolódó és kezdetben nehezen felismerhető hatás tette/teszi nehézzé, hogy elhatározásra jussunk. Így az akciók eleve mindig késve indulnak, a következetes végrehajtás gyakran megakad, és a vetélkedő politikusok jobban figyelnek újraválasztásukra, mint a fokozatosan romló körülményekhez való alkalmazkodásra. Az emberiség egy olyan, a viharos tengeren sodródva hajóhoz hasonlít, amely a parancsnoki hídján kapott léket. Miközben krízisről, krízisre sodródik, a szakemberek nem látják át helyzetet, kormányzással megbízottak egymást akadályozzák, a politikusok pedig halogatják a döntéseket.
Fontos azonban felismernünk, hogy ezt a helyzetet nem pusztán a tudatlanság és a felelőtlenség idézte elő. A földünket alkotó, sokáig egymástól viszonylag független, de önmagunkban is bonyolult rendszerként létező területek – a természeti környezet, a globális pénzügyi-rendszer, a termelési- és a beszállítási láncok, az internet minden átfogó hálózata – fokozatosan szorosan egybekapcsolódtak. Az így kialakuló komplex – ökoszisztéma-szerű – szuperrendszer egyre nehezebben átláthatóvá vált. Ráadásul az elválaszthatatlanul összefonódó és egymást kölcsönösen meghatározó részek kényes egyensúlya könnyen megbomlik, így a folyamatok szinte maguktól „szabadulnak el”. (Clearfield, Christ. Tilcsik András. 2019. Meltdown.) A válságok megoldása ebben a helyzetben attól függ: képesek vagyunk-e létrehozni a rendszer viselkedését pontosan leíró modellt, majd ennek alapján kialakítani egy olyan „mester-tervet”, amely egyértelműen eligazít mindenkit – egyéneket, vállalatokat és a szuverén nemzeteket – mit kell tennie azért, hogy a rendszert a puha-landolás pályájára legyen vezérelhető.
Erre a megoldásra kínált példát az 1970-es években, egy civil szervezet – a Római Klub – alapvetően magántámogatásokból és tucatnyi szakember tudományos munkájának eredményeként létrehozott globális modellje. (Meadows, D. et. al 1972. The Limits to Growth.). Ez elemezhetővé tette az akkor már komplex rendszert alkotó világunk viselkedését. Sőt, volt még egy – akkoriban szokatlan – előnye: kiszámíthatóvá váltak a lehetséges beavatkozások hatásai. A számítógépes modell szimulációjával végig lehetett követni a különböző akciókhoz tartozó alternatív „jövőszálakat” vagyis „lejátszhatóvá” és kipróbálhatóvá tette a jövőt! A példa tehát adott, ám van egy kis bökkenő: az akkori állapotokhoz viszonyítva világunk komplexebb és szorosabban csatolt lett.
Az azóta eltelt időszakban olyan gazdasági, műszaki és társadalmi folyamatokat indítottunk el, amelyek mindent és mindenkit összekapcsoltak és betöltöttük a föld minden zugát, növekedésünk beleütközött világunk határaiba, és az emberiség egységes társadalmi organizmussá vált. Miközben azonban kétkedés nélkül követtük, sőt minden módon ösztönöztük a növekedés-orientált életmódot, az fokozatosan fenntarthatatlanná vált. Ez szükségszerűen vezetett válságok kirobbanásához, majd a krízisek fokozatos erősödéséhez. A globális rendszer kormányozhatatlanná vált, az apokalipszis rémével fenyegetve a föld 8 milliárd lakóját. Ez a helyzet teszi elkerülhetetlenné egy olyan globális modell megalkotását, amely világossá tenné mindenki előtt, hogy viselkedése miként érint másokat, illetve amit mások tesznek, hogyan hat rá. Ennek a modellnek a megalkotását azonban a kibernetika egy különös törvénye – a Conant-Ashby-tétel – alapvetően megnehezíti. (Conant, R. Ashby, W. 1970. Every good regulator of a system must be a modell of that system.)
A kutatók a rendszerek hatékony szabályozásának logikájából indultak ki. Mielőtt cselekednénk, számításba kell venni beavatkozásunk lehetséges következményeit, majd ennek ismeretében döntjük el, mit is tegyünk. Ehhez azonban egy olyan modellre van szükség, amelynek bonyolultsága megegyezik a szabályozni kívánt rendszer bonyolultságával, hiszen csak így tudjuk „kikísérletezni” a legjobb döntést. Vagyis, a megfelelő bonyolultságú modell megalkotása a rendszer eredményes szabályozásának nélkülözhetetlen feltétele. Ennek a ténynek azért van óriási jelentősége, mert az elmúlt évtizedben, a végbement változások következtében a világ komplexitása – az 1970-es állapothoz képest – szintet ugrott. Világunk áttekinthetetlenül bonyolulttá vált, amit a hyper-konnektívitás fogalmával írnak le. (Consent, B. et al. (2021). Governing complexity.)
A hyper-konnektivitás azt jelenti, hogy a föld bármely pontja és minden cselekvő aktora között elszakíthatatlan kapcsolat jött létre, és a kapcsolatok szervezésének tranzakciós-ideje és a tranzakciós-költsége gyakorlatilag zérussá vált. Emiatt az események következményei, a folyamatok hatásai, a zavarok és a krízisek megállíthatatlanul terjednek tova. Ebben a világban mindenki – akár tudatában van ennek, akár nem – elválaszthatatlanul egybekapcsolódik mindenkivel, és bármely hatás – induljon bárhonnan – szinte azonnal elér mindenkit. Ennek a ténynek azután van még egy nem-várt mellékhatása: a tudományok régen bevált modelljei és az ezekből levezetett döntési szabályok „megbicsaklottak”. Azáltal ugyanis, hogy a különböző jelenségek elválaszthatatlanul egybekapcsolódtak, a tudományok által feltételezett „tiszta” működési körülmények összekuszálódtak. Így a szaktudományok korábban tévedhetetlen modelljei egyre kevésbé voltak képesek előre jelezni a változásokat.
Ám a világ ökoszisztéma-szerű állapota még a tudósoknál is jobban zavarba hozta a döntéshozókat, akik még kevésbé vannak tisztában a szerteágazó következményekkel. Amikor az országok sorsát „intéző” nagyhatalmú döntéshozók – bankárok, vállalatvezetők, politikusok – a világ állapotáról meglevő tudását véletlenszerűen „tesztelték”, a szűk szakterületüktől távolabbi, de a döntések minőségét befolyásoló ismereteiket firtatva arra jutott: a világunk „kormányosai”, legfeljebb egy „gorilla szintjén” ismerik a helyzetet. A „tesztkérdésekre” legfeljebb a véletlenszerű válaszok pontosságával tudtak válaszolni. (Hans Rosling et al. 2018. Factfulness: Ten Reasons We’re Wrong About the World). Ráadásul, a világ dolgait intézők – a nagyhatalmak, a szuverén nemzetek, a vetélkedő elitek, a hatalomra törő pártok, a mozgalmak vezetői – nézetei a sokasodó krízisek hatására fokozódó mértékben polarizálódtak. Viselkedésükben ezért – személyiségüktől függetlenül – egyre erősebben érvényesül, hogy mindenki egy un. chicken-game játszma résztvevőjének látja magát. Mindenki azt bizonygatja: csak az ő érdeke a fontos, és ennek érdekében mindenre hajlandó. Vagyis, senki ne remélje, hogy majd félrerántja a kormánykereket, ő a rábízott szervezetét nekivezeti bárkinek, aki szembejön.
Vagyis, egy olyan világban élünk, ahol minden szinten – a világpolitika nagy- és kisebb hatalmaitól, a vállalatokon keresztül, a közösségek irányítóiig – szinte mindenki chicken-game-et „játszik”. A következmény: a társadalmak tehetetlenül sodródnak, az államokat lebénítja a vetokrácia, az elkerülhetetlen döntéseket halogatják. Ebben a helyzetben a súlyosbodó válságokat enyhítő és a „puha-landolást” lehetővé tevő döntéseket meghozni, az érdekek racionális összehangolását elősegítő vitát lefolytatni csak a világ valóságos komplexitását tükröző modell birtokában leszünk képesek. Ez megteremthetné azt a mindenki számára elfogadható „jövő-térképet”, amelynek „ösvényeit” és „csapásait” a szimulációs program biztonságosan járható „útvonal-tervekké” alakíthatná. Ám a „szuper-organizmussá” vált emberiség szinte áttekinthetetlen komplexitása miatt egy ilyen globális modell kizárólag az emberi és a mesterséges intelligencia együttműködésével hozható létre és működtetethető. Vagyis, az emberiség kizárólag az MI segítségével tartható stabil fejlődési pályán.
Természetesen ennek a modellnek a létrehozása során egy sor – ma még nem is teljesen átlátható – problémával kell szembenézni. Kezdjük a legegyszerűbbel: a szükséges komplexitású modell létrehozása – a Római Klub projektjével összehasonlítva – sokkal többe kerülne és jóval több szakember együttműködését igényelné. A vállalva a kritikát, hogy becslésemet „az ujjamból szoptam”, ez nagyjából 1 milliárd dollárba kerülne. A kidolgozás, majd a tesztelés, végül döntéshozók betanítása mondjuk 1-2 ezer, sok tudományterület és a föld különböző nemzetét képviselő szakember koordinált együttműködését feltételezi. A döntéshozáshoz használható változat – reményeim szerint – öt év alatt hozható létre. Az 1 mrd dollár – első pillantásra – meghökkentően nagynak látszik, ám gondoljunk csak bele: a világ 100 leggazdagabb emberének bármelyike (!) – ha nem is a mellényzsebéből – de viszonylag könnyen „kiperkálhatná” ezt. A világ bármely tudósa pedig – magamból kiindulva – boldogan részt venne ebben a „Mentsük meg a földet” projektben. Még az is lehet, hogy már el is kezdődtek a modellkészítés munkálatai.
Az igazi gond – visszatérve a kiindulóponthoz – miként vehetők rá a világ kisebb és nagyobb, különböző rendű és rangú – nemzeti, ideológiai, gazdasági, technológiai – hatalmai arra, hogy együttműködjenek, valóságos érdekeiket a világ elé tárva, nyitottak legyenek mások érdekeinek elfogadására, és a globális modell alapján racionálisan közelítsék meg a helyzetet. A modell a döntések következményeit kiszámolhatóvá tenné, ezzel átláthatóvá válnának a beavatkozások rövid és hosszútávú hatásai és így megítélhető lenne miként érinti az a különböző közösségeket. Miközben nem tagadom az MI alkalmazásának kockázatait, az igazi problémát mégsem az MI – úgymond – embert leigázni akaró szándéka jelenti. A valódi veszély: az elkerülhetetlen teendőkről folyó vita során a legkülönbözőbb rendű és rangú hatalmasságok végső érvként mindig az eredet-mítoszokra, a szuverén nemzet mindent felülíró jogaira, a történelem saját interpretációjára hivatkozva utasítják a kompromisszumokat. Ez teszi nehézzé, sőt gyakran lehetetlenné, hogy az egységes egésszé vált emberiség a globális jövő-térkép útmutatásait kövesse.
Ebben a helyzetben tehát szükségképpen előtérbe kerül a moralitás szempontja, ami még kényesebbé teszi az MI alkalmazásával kapcsolatos vitákat. Ahogyan ugyanis az MI fokozatosan életünk egyre több részletébe behatolt és mind gyakrabban találkozunk vele, érthető módon növekszik alkalmazásával kapcsolatban a körültekintés és az óvatosság igénye. Ugyanakkor az MI rendszerek tanulékonyabbaknak és rugalmasabbaknak tűnnek, mint korábban gondoltuk. Egyrészt, az MI képessé tehető, hogy az ember morális szempontjait tekintetbe véve „gondolkodjon” és viselkedjen. Egy nemrég publikált új elemzés megmutatta, hogyan építhető egybe a sokféle anyagi kapcsolatok egységes rendszere az etika szempontjait is tekintetbe vevő modellé. (M. Ashby, 2020. „Ethical Regulator and Super-Ethical System). Másrészt, az embert „alárendelt” pozícióba kényszerítő MI víziója helyett, fokozatosan teret nyer a „természetes” és a „mesterséges” intelligencia kooperációját célul tűző megközelítés. Az un. kiterjesztett (augmented) illetve az un. kollaboratív intelligencia azt a lehetőséget vetíti elénk, hogy a gépek és technológiai berendezések mintájára létrejöhetnek az ember „természetes” és az általa létrehozott „mesterséges” intelligencia hatékony együttműködésén alapuló rendszerek. Ezzel – remélhetőleg – helyreáll a történelmi trend: az ember képessé válik megszokni és megtanulni, hogyan éljen együtt a maga által teremtett alkotásokkal. Ez az út persze konfliktusokkal szegélyezett, erre utalt az elszabaduló tárgyak metaforával Goethe, Bűvészinas című versében. Ám a történelem eddigi menete azt mutatja, kreativitással és óvatossággal, a jövő iráni közös felelőséggel és a moralitás szempontjait is érvényesítve ezek a problémák végül is megoldhatók.
Leave a Reply