Cory Doctorow A nagy elszaródás című kötete óriási sikere után szinte rögtön megjelentette a folytatást, ami az aktuális divat témára, az AI-ra fókuszál. Vajon erről is tud olyan izgalmas állításokat tenni, mint az internetről vagy ezúttal kisiklott a hype-vonat?
HIRDETÉS
Ha manapság össze kellene számolnom, a közösségi médiában egy perc alatt hányszor omlik össze a világ és hal ki az emberiség az AI-nak köszönhetően, bajban lennék. Kettőt pislogunk és könnyen lehet, hogy az egyre kevésbé kontrollálható, legújabb AI ügynökök a sandbox helyett már a való világot használják majd homokozónak, amiben mi, az emberek is csak eldobható játékszerek leszünk. De vajon tényleg tuti így lesz?
A válasz teljesen egyértelmű: senki sem tudja. Cory Doctorow ugyanakkor arra vállalkozott, hogy a maga részéről megmondja a tutit, miszerint kár ezen izgulni. A jelenlegi LLM (nagy nyelvi modell) alapú mesterséges intelligencia meglátása szerint kifejezetten suta, inkább csak egy egyszerű pénzügyi manipulációról van szó, amikor ennek kapcsán ijesztgetnek.
Szerinte alapvetően arról van szó, hogy a nagy techcégek szeme előtt elsősorban a további növekedés lebeg, amiért gyakorlatilag bármire hajlandóak, bármit lehazudnak, csak még több tőkét vonzzon. Ilyen hazugság az AI is.
Ha ugyanis egy cég az érettség fázisába lép – érvel Doctorow –, akkor már nem várható további óriási fejlődés, vagyis növekedés sem, ami nyilván csökkenti a részvényeik várható értékét is a jövőben, tehát miért is fektetnének ilyen cégekbe a invesztorok, ha egyszer ott van a jelenleg végtelennek tűnő növekedési potenciállal rendelkező techparadicsom.
Csakhogy, ha kicsit megkapargatjuk a felszínt (amit a szerző elég alaposan meg is tesz), akkor könnyen világosság válik, hogy rengeteg ilyen korábbi, fantasztikus újdonságnak eladott feature valójában semmi más célt nem szolgált, minthogy további tőkeinjekciókra sarkallja a befektetőket. Doctorow számtalan meggyőző példát hoz erre, elég csak a 2011-ben született, 8 éves korában elhunyt Google+-t felhozni, ami a Google tervezett piacra lépése volt a közösségi média platformok világába. Egy elfuserált válasz a Facebookra.
Persze a legnagyobb közösségi platformot sem kell félteni, ha bénázásról van szó.
Gondoljunk csak a Neuromancert idéző, 3D-s, a cég nevét adó Metára. Emlékszik még valaki a metaverzumra, ami csilli-villi bemutatók után a felhasználók érdeklődésének teljes hiányában, kb. 70-80 milliárd dolláros veszteségével az üzleti történelem egyik legnagyobb bukása lett?
Persze nem csak a Google próbálta lenyúlni a Facebook sikerét, utóbbi is próbálkozott a Youtube mintájára a videók közösségi falán történő elterjesztésére, igen gyenge eredménnyel. Aki Youtube-ot akar nézni, nyilván nem a Facebookra fog menni, és ez persze fordítva is igaz.
Ahogy azt Doctorow igen humorosan bemutatja, pár ócska trükkel könnyen elérik, hogy szinte bárhová nyomsz a telefonodon, máris – többnyire akaratodon kívül – valami hülye AI feature-t használsz, amiből persze csak újabb jó sok nyomkodás után tudsz kikeveredni, hiszen
valamiből csak prezenzálnia kell a cégeknek a befektetők felé a statisztikát, hogy mennyi AI interakciót generáltak a felhasználók…
Így lesz a mérőszámokból prémiumhoz kötött célszám, a statisztikából pedig ennek egyenes következményeként hamis hiba. Ki ne akarna több fizetést? Ha ehhez kicsit görbíteni kell a számokon, hát belefér, nem? Ahogy azt Doctorow rengeteg példával, logikusan levezeti, mindig kell valami igazán nagy durranás, ami odavonzza a tőkét, hogy még véletlenül se merüljön fel, hogy a Google-Apple-Meta tech szentháromsága esetleg már rég elvesztette innovációs erejét és csak kapálózik. Most ez aktuálisan az AI.
Ami történetesen egy olyan vonat, amire új cégek is felülhettek, mint az Open AI vagy az Anthropic. Sőt, a nagy LLM áttörést pont az előbbi hozta el. Ugyanakkor a szerző nem elég körültekintő ennek kapcsán a kötetben. A nagy nyelvi modellek szabályok helyett valóban óriási szövegtengerekből tanulnak (amiket aztán szépen el is apasztanak, lsd. pl. az Amazon legutóbbi könyvarmageddonját), hogy aztán statisztikai valószínűségek alapján a természetes nyelvhez a lehető leghasonlóbbat állíthassák elő. Sokszor megtévesztve a felhasználokat, akik ma már szerintem hamarabb, könnyebben buknának el egy Turing-teszten mint egy AI ágens. Persze ennek megvan az a következménye, hogy pl. a Google Geminije azt kérdezi a kollégámtól, hogy „miben segíssen”, mivel sajnos a felhasználók jó részének helyesírása a legutóbbi Pisa-tesztek eredményeinek megfelelően változik.
Ettől függetlenül Doctorow figyelmen kívül hagyja, hogy a szövegek pontos statisztikai előrejelzése egy véges méretű neurális hálózatban csak úgy lehetséges, ha a rendszer képes felépíteni és belsőleg reprezentálni a szövegek mögött meghúzódó világ egy konzisztens modelljét.
Vagyis valamelyest nemcsak a nyelvet, de az agy működését is másolják a fejlesztők, tehát az AI nem csak primitív ismétlőgép.
Ez a felismerés az egyik legfontosabb gondolat a modern mesterséges intelligencia kutatásában, ami A nagy összeomlás alapján olyan, mintha nem is létezne. Pedig nem is kell túl mélyen merülni a témában ahhoz, hogy ide jussunk. Lehet persze mindez csak nem passzolt a prekoncepcióhoz.
Nagyon is passzol viszont két fogalom: a kentaurok és a fordított kentaurok. Eléggé leegyszerűsítve azt mondhatjuk, hogy kentaurok alatt Doctorow azokat az embereket érti, akiket a gép használ a bugok kijavítására, külső nyomásra (pl. a főnök utasítására), fordított kentaurok alatt pedig azokat, akik ugyan használják a gépeket segítségként a feladataik megoldásához, de önként. Előbbire hozza fel példaként azokat a lehetetlen helyzetbe került programozókat, akiknek az a feladata, hogy az AI által kiokádott kódsor kígyókat nézzék át és javítsák a bugokat, ami ugye végtelenül monoton, éppen ezért végtelenül kudarcra ítélt feladat is egyben. (Ráadásul így a junior programozók, akik már “ellenőrként” kezdik a munkájukat, sosem tanulnak meg kódsorokat írni a gyakorlatban, ami hadd ne mondjam, mennyire veszélyes hosszútávon.) És akkor itt két mondat erejéig térjünk is ki arra, mennyire ügyes marketingfogás a szerző szerint, hogy a bugokat úgy keretezték át nyelvileg, hogy azok elegáns “hallucinációk” legyenek. Elfilozofálhatnánk persze arról, hogy ezek is azért kerültek-e beépítésre, hogy az AI jobban hasonlítson az emberre (szerintem van rá példa), de ettől még a bug bug marad, ami néha komoly veszélyeket rejt magában.
Hasonló a helyzet a szerző szerint a radiológusokkal is. Amíg a leletek elemzését AI támogatja, jók vagyunk, de amint már a radiológusok vannak arra kényszerítve, hogy ők támogassák az AI munkáját azzal, hogy az általa a leletek alapján felállított diagnózisokat ellenőrizzék futószalagon, kentaurrá válva (akárcsak a programozók esetében), kódolva van a rendszerben a hiba.
Azt is nagy magabiztossággal jelenti ki a szerző, hogy az AI nem fogja elvenni a munkánkat, sőt, bevételtöbbetelet sem fog hozni soha semmilyen cégnek, ami használja. Nos, én nem ezt látom a környezetemben, pedig hol vagyunk még az USÁ-tól és Kanadától, a könyv fő helyszíneitől. Ugyanilyen ellentmondásos a szerzői joggal kapcsolatos fejezet, amiben viszont furcsa módon az AI-t “védi”, mondván, hogy a nagy mintán taníttatás csak statisztikai szövegfelismerés, nem bántja a szerzői jogot, max. ha a Meta torrentezi hozzá az irodalmi szövegeket (ami bazmeg el se hiszem, hogy megtörtént, pedig tényleg), mert nem magukat a szövegeket, csak a szavak előfordulásának gyakoriságát vizsgálják benne a nebuló MI-k. Zavarosnak tűnik? Az is.
Több szempontból pedig sajnos nagyon felületes a könyv.
Megemlíti ugyan, hogy gyakran azzal promotálják az AI-t, hogy majd megoldja a klímakatasztrófát, miközben maga is súlyosbítja azt, de a sokszor teljesen fölösleges promptözönt kielégítő óriási energiaigény környezetromboló hatásáról szinte egyáltalán nincs szó a kötetben. Ahogy arról sem, hogyan emelte az egekbe az átlagos felhasználók számára a számítógép alkatrészek árát az, hogy az AI techcégei ipari méretekben darálják le az alkatrészeket, sokszor szó szerint elfüstölve azokat.
Nincs szó az elszabaduló ágensekről (itt persze felmentő körülmény, hogy ezek javarésze a könyv megjelenése után került be a hírekbe), arról, hogyan építi le az AI egész tudományágak jövőjét, pl. a matematikáét azzal, hogy úgy old meg akár évszázados problémákat, hogy az átláthatatlan, demotiválva ezzel a leendő matematikusokat, de arról sincs szó, milyen romboló hatással van a Chat GPT használata a kritikus gondolkodásra és mennyire gyengíti az emlékező képességünket.
Azt is elintézi egy-két keresetlen mondattal, hogy a figyelmet az AI veszélyeire felhívó fejlesztők is csak további tőkét szeretnének. Igen, biztos azért hagyják el a cégeket, ahol addig dolgoztak. Annyira indokolatlanul figyelmen kívül hagyja a generatív AI létrejöttének lehetőségét, ami már nem védhető. Egyszerűen kijelenti, hogy az AI buborék, ki fog pukkadni és kész.
Összességében az az érzésem, hogy A nagy elszaródás berobbanása után Doctorow (és az ügynöke) megérezte a siker ízét és gyorsan megírta a “folytatást”, de ez egy sokkal kevésbé körültekintő kötet lett, nem csak terjedelmében, de alaposságában (még ha szenvedélyességében nem is) messze elmarad elődjétől. Nagyon érdekes szempontokat tud behozni a téma kapcsán, amire esetleg nem is gondoltál volna korábban. Ugyanakkor sokszor nagy magabiztossággal állít baromságokat. Pont mint az AI.
Már követed a Roboraptort, de mégis lemaradsz a legfrissebb kritikákról, hírekről? A Roboraptor hírlevél segít ebben! Hetente a postafiókodba küldi cikkeinket, hogy Te döntsd el, mit akarsz olvasni, ne a gépek.
