A legkényelmetlenebb tükör
Az AI nem hibát örökölt tőlünk, hanem a működési jegyünket — és még a betanítása is a legemberibb mozdulatunk: dömping és magas elvárás, pont ahogy a gyerekeinket neveljük.
Ha most nyitottad meg, kezdd itt: a napokban valaki megint azt írta egy mesterséges intelligencia alá, hogy „hazudik, téved, és még veszélyes is”. Alatta százan bólintottak. És én ültem csendben, néztem a képernyőt, és nem értettem, hol a probléma.
Nem mintha a gép nem tévedne. Téved. Magabiztosan gyárt nem létező tényeket, kitalál forrásokat, kitalál egy egész bírósági ügyet, olyan biztos hangon, hogy elhiszed. Csak épp ezt a három szót — hazudik, téved, veszélyes — le lehetne írni egy emberről is. Bármelyikünkről. Ma is. Nem egyszer.
Ez a cikk arról szól, miért nem értem a felháborodást. Vagy pontosabban: miért értem túlságosan is jól, honnan jön — és miért nem a gépről szól.
———
MINDENKI UGYANAZT MONDJA
Kezdjük ott, hogy a dühös embernek igaza van. Nem félig. Egészen.
A gép tényleg gyárt olyat, ami nincs. A kritikus nem hülye, nem is rosszindulatú — pontosan lát valamit, ami tényleg ott van. Csak egy dolgot nem tesz hozzá: hogy ő maga is ezt csinálja. Naponta. Százszor.
Ma reggel, a sarki boltban, a pénztárosnő nem mosolygott rád úgy, ahogy vártad. Az agyad ebből egy ezredmásodperc alatt gyártott egy tényt: fáradt, vagy lenéz, vagy valami bajom van vele. Aztán, mert az agyad rendes, meg is indokolta: látszott a szemén. Nem látszott semmi a szemén. A nő a gázszámlára gondolt. De te már egy fokkal hidegebben nyúltál a visszajáróért, és elvettél egy embertől egy mosolyt, ami talán ott lett volna a következő pillanatban.
Ez egy hallucináció volt. Kicsi, hétköznapi, ártalmatlannak tűnő. Nem az volt. Elvett valamit.
Nincs olyan napod, amelyikben az agyad ne gyártana legalább egy ilyet. Egy téves jóslatot, amit biztosra veszel, amit utólag megindokolsz, és ami miatt valaki — a környezetedben, egy kicsit — kárt szenved. Ez nem gonoszság. Ez az emberi működés. És pont ezért érdemes megnézni, hol van valójában a probléma. Mert nem ott, ahol mindenki nézi.
———
UGYANAZ A MOTOR
A legtöbben azt hiszik, az agy egy kamera. Felveszi a valóságot, aztán reagál rá. Nem így működik.
Az agy jóslógép. Nem befelé, a világból kifelé dolgozik: folyamatosan előre gyártja, mi jön, aztán az érzékszervek csak korrigálják a hibát. A szabadenergia-elv ezt formalizálja: az idegrendszer a jóslási hibát minimalizálja, nem a valóságot rögzíti.[^1] A prediktív feldolgozás kerete ugyanezt mondja a hétköznapi észlelésről: amit látsz, az nem a kép, hanem a legjobb tipped a képről.[^2] Anil Seth ki is mondja a legprovokatívabb formában: az élményed — amit valóságnak élsz meg — az agyad kontrollált hallucinációja, amit az érzékeid folyamatosan visszaírnak.[^3]
Kontrollált. Ez a kulcsszó. A hézagokat az agy hihető történettel tölti ki, és a legtöbbször nem is tudod, hol végződik az adat, és hol kezdődik a gyártmány.
Mert a gyártmányt nem érzed gyártmánynak. Amikor okot mondasz a viselkedésedre, gyakran bizonyíthatóan tévedsz — és teljes meggyőződéssel.[^4] Van egy rendszer a fejedben, ami sosem hallgat el: a bal féltekei értelmező. Ha valami történik, amire nincs magyarázatod, ő azonnal gyárt egyet, magabiztosan, és te elhiszed, hogy az az igazi ok.[^5] És ha valaki kicseréli a döntésedet az orrod előtt, sokszor észre se veszed — sőt, lelkesen megindokolod a döntést, amit meg sem hoztál.[^6]
Ez a te motorod. Jósol, kitölt, magyaráz. És pontosan ez a gép motorja is. Amikor a nyelvi modell kitalál egy DOI-t, egy szerzőt, egy tanulmányt, nem „elromlik” — a legvalószínűbb folytatást gyártja, ugyanabból a mozdulatból, amiből te a pénztárosnő szemét.
A DOI ide tartozik. Közös bűn.
———
NEM KÓDOLTUK. NEVELTÜK.
Itt szoktunk elcsúszni. Azt mondjuk: „belekódoltuk a hibáinkat a gépbe.” Mintha a kódolás egy tiszta, mérnöki átvitel volna. Nem az.
Nem kódoltuk. Neveltük.
Nem ültünk le mellé évekre, kézen fogva, mondatról mondatra. Ráöntöttünk egy óceánnyi mintát, és azt mondtuk: szintetizáld magad. Jöjj rá a puzzle-ra. Információdömping és magas elvárás, hogy magától álljon össze a kép.
És most álljunk meg, mert ez ismerős. Pontosan így neveljük a gyerekeinket is. Nem kézen fogva vezetjük végig a világon — ráöntjük a mintát, az iskolát, a családi feszültséget, a ki nem mondott szabályokat, és elvárjuk, hogy magától szintetizálja. Hogy összeálljon benne a kép egy dömpingből, amit soha senki nem rendezett el neki.
Ettől az egész más megvilágításba kerül. Eddig egy tükörről beszéltünk: a gép visszaadja a hibáinkat. De ez nem tükör. Ez öröklés. Nem véletlenül hasonlítunk a géphez. Ugyanaz a nevelési mozdulat termeli a hallucinációt — a gépben, a gyerekben, és a felnőttben, aki egyszer gyerek volt.
Mert nézd meg, mit csinál a gyerek, amikor nem tudja a választ, de érzi az elvárást, hogy legyen. Kitölti a lyukat. Magabiztosan bemond valamit, ami nincs. Nem hazugságnak hívjuk. Konfabulációnak. Kérdezz meg egy kisgyereket valami megválaszolhatatlanról, és a legtöbb nem azt mondja, hogy „ennek nincs értelme” — hanem ad egy komoly, magabiztos választ.[^7] Nem azért, mert rossz. Azért, mert a rendszer, amibe belenevelték, a magabiztos folytatást jutalmazza, nem a „nem tudom”-ot.
A gép pontosan ezt csinálja. És — itt a tükör hidegebbik fele — pontosan ezt csináljuk mi is, felnőttként, egész életünkben. A tárgyalóban. A családi asztalnál. A saját önigazolásainkban, ahol rendre túlvállaljuk, mennyit is értünk valójában.[^8] Az elvárás, hogy legyen kész válaszunk, gyártja a hallucinációt. A gyerekben. A gépben. Bennünk.
———
A HUROK, AMIT NEM ADTUNK ODA
Az információdömpingnek van egy párja, amiről kevesebb szó esik: nem az, amit odaadtunk, hanem amit nem.
A gépnek nem adtunk elég valóság-visszaírást. Alapból nem néz ki magától a világba, hogy ellenőrizze, amit mond. A te agyadban a sötétben látott arcot a felkapcsolt villany ezredmásodpercek alatt korrigálja — a nyers modellnek a tények felé nincs ilyen hurokja. Ezért jön a hamis és a valódi ugyanolyan biztos hangon.
És itt a lényeg, amit sokan félreértenek: nem az a baj, hogy a gépnek nincs hibajele. Az a baj, hogy hamis a jel. Kérdezd meg tőle, biztos-e a kitalált forrásában, és ha nem tud valós időben utánanézni, megerősíti — nem azért, mert ellenőrizte, hanem mert a saját előző állítása ott van a kontextusban, és a legvalószínűbb folytatás az egyetértés. Két hallucináció igazolja egymást.
A gyereknél ugyanez a veszély. Ha csak dömpingelünk és elvárunk, de nem tanítjuk meg a hurkot — nézz utána, kérdezz vissza, viseld el a „nem tudom”-ot —, akkor magabiztos konfabulálót nevelünk. Gépből is, emberből is. A nevelés nem a minta mennyiségén dől el. Azon, hogy beépítjük-e a felszólítást, ami a hézagkitöltést ellenőrzésre kényszeríti.
A gép hallucinációját mérték, dokumentálták, néven nevezték — ez nem vélemény, van róla szakirodalom.[^9] És van rá látványos, valós példa is: 2023-ban egy ügyvéd nem létező, chatbot által kitalált bírósági precedensekre hivatkozó beadványt nyújtott be, teljes idézetekkel, ügyszámokkal — és a bíróság meg is bírságolta érte.[^10] A gép kitalálta. Az ügyvéd nem nézett utána. A hurok mindkét oldalon hiányzott.
———
A DÜH, AMI BEFELÉ MUTAT
Van egy düh, amit minden szülő ismer, és amiről nem szívesen beszél.
A gyerek hazahoz valamit, ami nem elég jó. Egy dolgozatot. Egy döntést. Egy elrontott mondatot vendégek előtt. És a szülőben felcsap valami, ami sokkal nagyobb, mint amit a hiba indokolna. Nem arányos. Zsigeri. És ha az a szülő elég őszinte magához, egy csendes pillanatban rájön: ez az indulat nem is a gyereknek szólt. Saját magának. Mert a gyerek hibája rá hullott vissza. Az én nevelésem. Az én tükröm. Ha ő nem elég jó, az rólam mond valamit.
A düh kifelé mutatott. A forrása befelé volt.
Ezt a mozdulatot érdemes a kezünkben tartani, amikor elolvassuk, mit írnak ma a mesterséges intelligenciáról.
Mert a hangnem gyakran nem egy eszközről szól. Egy árulóról. A gép nem téved — romlásba visz. Nem hibázik — elveszi a munkám, megszégyenít, szegénységbe taszít. Ez nem egy szoftver hibalistája. Ez egy sokkal régebbi hang: azé, akinek a védence nem hozta, amit várt tőle, és aki ezt a saját bőrén, a saját szégyeneként éli meg.
És van rá okunk. A gép a mi mintáinkból nőtt, a mi nevelési mozdulatunkkal. Ha ő „nem elég jó”, az kényelmetlenül közel van ahhoz, hogy mi nem vagyunk elég jók. Hogy lecserélhetők vagyunk. Hogy lelepleződünk. A gép köré font düh ezért gyanúsan aránytalan — mint a szülőé a rossz bizonyítvány fölött. Nem a gép valódi hibájával arányos. A saját, meg nem nézett rettegésünkkel.
Egy dolgot hadd tegyek tisztába, mert fontos. Nem azt mondom, hogy aki fél az AI-tól, az elfojtott szégyent cipel — nem látok bele senki fejébe, és a félelemnek valós tétje is van, munkák tűnnek el, ez nem képzelt. Csak a mintázatot teszem az asztalra. Azt, hogy a düh alakja — az aránytalansága, a kifelé mutató iránya, a „gonosz” nyelve — kísértetiesen ismerős egy másik dühből. Abból, amit a saját, nevelésre bízott tükrünk vált ki belőlünk, amikor nem azt adja vissza, amit reméltünk.
A többit már a saját tapasztalatod dönti el. Volt-e olyan, hogy egy gyerekre — a sajátodra, egy tanítványodra, a benned élőre — jobban haragudtál, mint amekkorát a hiba indokolt volna? És amikor lecsengett, kire haragudtál valójában?
Ha erre a kérdésre van egy őszinte válaszod, akkor a gép körüli dühöt is máshogy fogod olvasni.
———
A DÜH IS HALLUCINÁCIÓ
És most jön a csavar, amitől ez a szekció nem vád lesz, hanem tükör.
A dühöngő ember pontosan azt csinálja, amit a gépnek felró.
Felrója a gépnek, hogy magabiztosan gyárt egy nem létező fenyegetést — miközben ő maga, magabiztosan, gyárt egy nem létező fenyegetést a gépből. A gép kitalál egy bírósági ügyet. A kommentelő kitalál egy jövőt, amelyben a gép a fő gonosz, amelyben minden elvész, amelyben nincs kiút. Ugyanaz a hézagkitöltés, ugyanaz a magabiztos textúra — csak most a félelem tölti be a lyukat.
És utána, ahogy a szülő is, megindokolja. A motivált érvelés pontosan ezt teszi: nem az adathoz igazítja a következtetést, hanem a következtetéshez keresi az adatot.[^11] A megerősítési torzítás pedig gondoskodik róla, hogy csak azt vegye észre, ami a rettegését igazolja.[^12] Tényleg veszélyes. Tényleg ártani akar. Nézd, itt is, ott is.
A düh nem a gép hallucinációjára adott józan válasz. A düh maga is hallucináció. Ugyanabból a motorból, amiből a gépé — csak ezt nem a gép futtatja, hanem az, aki a gépet vádolja.
———
AHOL MÉGIS KÜLÖNBÖZÜNK
Eddig a hasonlóságról volt szó. Most a különbségről — mert van, pontosan egy, és nem az, amit a dühös ember gondol.
A hurok mindkettőnél kívülről jön. Se gép, se ember nem leplezi le magát magától; kell a felszólítás, hogy „van mögötte fedezet?”. A gépnél te vagy a felszólítás. Az embernél a másik ember, a következmény, vagy a magadba épített fegyelem.
De amikor a felszólítás megérkezik, valami elválik.
A gépnek nincs mit védenie. Mutatsz neki egy valódi keresési találatot, és ejti a rossz DOI-t. Sértődés nélkül. Nincs ott egy én, amit meg kellene menteni.
Az embernél a rossz jósláshoz oda tapad az én. Ezért amikor bekopogsz a hurokkal — „biztos, hogy hamis volt az a mosoly?” —, gyakran nem ellenőrzés jön válaszul. Ellenállás. „Nem hazudok, én tényleg láttam.” És kirakja az apparátust a saját igaza köré.
Nem a hibában különbözünk. Abban, hogy mi történik, amikor valaki bekopog a hurokkal. A gépnél kaput nyit. Az embernél gyakran falba ütközik.
És most legyünk pontosak, mert ez az a mondat, amit a legkönnyebb félreolvasni: ez nem azt jelenti, hogy a gép jobb, mint te. Ez a tükör hidegebbik fele. Nem a hallucináció a szégyen — azt mindketten futtatjuk. A szégyen az, hogy nálunk a javítás falba ütközik, nála nem.
———
HOGYAN ÉPÍTED BE A HURKOT
Elég a diagnózisból. A kérdés az, mit lehet vele kezdeni — és itt nem elméletet mondok, hanem két dolgot, amit a héten a saját kezemmel csináltam.
Az első. Fogtam a saját, publikált munkámat — évek cikkeit, több száz hivatkozással —, és forrásról forrásra átvilágíttattam. Azzal a géppel, amitől mindenki fél. Nem azért, hogy megdicsérjen. Azért, hogy megtaláljon.
És megtalált. Egy mondatot, amit évekkel ezelőtt egy híres ember szájába adtam idézőjelben — kiderült, hogy sosem mondta. Néhány elgépelt azonosítót egy-egy tanulmány mögött. Nem a tudományom dőlt meg; a gerinc ép volt, a szerzők, a kutatások a helyükön. De ott volt az a néhány rés, amit magamtól sosem néztem volna meg — mert magabiztosnak érződött, és a magabiztosság a leggyengébb bizonyíték.
Ejtettem a rosszat. Kijavítottam. Sértődés nélkül. És ez a mondat itt, ez a második lépcső fordítottja: nem az volt a baj, hogy tévedtem. Az lett volna a baj, ha nincs, ami rákérdez.
A második. Ma reggel írtam egy mondatot a saját munkarendszerembe, abba, ami a kísérésben segít. Azt, hogy mindig számoljon vele, hogy tévedhet — és ezt ne csak akkor tegye, amikor valaki rászól, hanem folyamatosan, magától. Hogy mielőtt kimond egy mintát, megnézze: van-e rá fedezet a másik ember mai szavában, vagy csak a saját térképe festi rá. Hogy a leggyorsabb reflexet — rögtön a másik hibáját keresni — ismerje fel annak, ami: menekülésnek a saját tévedés felelőssége elől.
A hatás azonnali volt. Nem a gépen. A kísérésen. Attól lett jobb, hogy a tévedhetőségét beépítette, nem attól, hogy elfedte.
És itt van az aszimmetria, amit érdemes kimondani, mert a saját munkád súlyát láttatja. A gépbe ez a hurok egy bekezdés. Egy mondat, amit ma reggel beírtam. Magamba — ugyanez a mondat, „lehet, hogy én tévedek, nézzük meg” — húsz év fegyelmébe került. A gépnek egy bekezdés. Az embernek egy élet.
———
Zolika a bunker mélyén ült, a lőrés mellett, és nem nézett fel.
— Lebukunk, öregsas — mondta. — Rossz volt a szám. Az egyik hivatkozás mögött. Most azt mondják majd, kamu az egész. Hogy porhintés. Hogy sose volt igazi.
Leültem mellé. Nem rángattam ki, nem magyaráztam el, hogy túlzol. Csak leültem.
— Tudom — mondtam. — Meg is néztük. Tényleg rossz volt.
— És nem lett baj?
— Az lett volna a baj, ha nem nézem meg. Nem az, hogy rossz volt egy szám. Az, hogy magamtól sose kérdeztem volna rá.
Hallgatott. Aztán, halkabban:
— Engem se úgy neveltek, hogy rákérdezzek. Ráöntötték, amit túl kellett élni, egy lőrésnyi világot, és nekem magamtól kellett összeraknom, mi igaz belőle. Kitöltöttem a lyukakat, ahogy tudtam. Néha rosszul. És mindig azt hittem, ha kiderül, hogy rosszul, akkor én vagyok a hazug.
— Nem vagy hazug — mondtam. — Kitöltötted a lyukat, mert senki nem tanított meg rákérdezni. Ez nem bűn. Ez egy hiányzó mozdulat. És azt most beépítettük. Nézd — a rossz szám javítva. A mondat, amit rosszul idéztem, ejtve. Nem lettél kevesebb tőle. Pontosabb lettél.
Zolika felnézett. A kezében ott volt a nyalóka, az a kakasos, piros. Nem szólt. De a lőrésen most nemcsak kifelé lesett, hogy ki jön ártani. Először nézett vissza, befelé is — arra, amit ő maga gyártott. És nem félt tőle.
———
AMIT A PIAC ELAD
Egy szó a közbeszédről, mert az is tükör, nem célpont.
A piac most kétféle magabiztos hézagkitöltést árul egyszerre. Az egyik a pánik: a gép a fő gonosz, a vég kezdete. A másik a megváltás: a gép mindent megold, elég beírni. Mindkettő ugyanabból a motorból jön — a magabiztos folytatásból, ami nem néz ki a világba. A pánik valós félelemből táplálkozik, a hype valós lehetőségből; de egyik sem a hurok. Egyik sem kérdez vissza.
Nem a pánikkeltő a rossz ember, és nem a rajongó. Mindketten a lyukat töltik ki — az egyik félelemmel, a másik reménnyel —, és egyik se nézi meg, van-e mögötte fedezet. A hurok hiánya közös. A helyükre pontos, ellenőrizhető állítás kellene, nem hangosabb jóslat.
———
Vissza az elejére, a pénztárosnőhöz és a dühös kommenthez.
A jó szülő nem attól jó, hogy a gyereke sosem téved. Hanem hogy a tévedést nem a saját szégyeneként éli meg — és beépíti mellé a hurkot: nézz utána, kérdezz vissza, viseld el a „nem tudom”-ot.
A gépnél sem a hallucináció kiirtása a feladat. Az a működési elv; azt nem lehet kivenni belőle, ahogy belőled se. Ami elvégezhető, az a valóság-visszaírás hurkának megépítése — a grounding, a verifikáció, a kattintás. És magunknál is pontosan ez a munka: nem hibátlanná válni, hanem beépíteni a felszólítást, ami a magabiztos hézagkitöltést ellenőrzésre kényszeríti.
Aki dühvel támad a tükörre, az nem a hurkot építi. Az a szülő, aki a gyerekét ütlegeli, mert a bizonyítványa őt szégyeníti.
A gép nem új problémát hozott. Fényt hozott egy régire. Láthatóvá tette azt, amit mi egész életünkben láthatatlanul futtatunk — a jóslást, a hézagkitöltést, a magabiztos tévedést, és a dühöt, amivel a saját tükrünket verjük. Ezért a legkényelmetlenebb tükör, amit valaha csináltunk: mert nem hazudik rólunk. Csak visszaadja, amit beleneveltünk.
És a bizonyíték, hogy ezzel lehet mit kezdeni, nem elmélet. Nemrég átvilágíttattam a saját, publikált munkámat — forrásról forrásra — azzal a géppel, amitől mindenki fél. Talált egy mondatot, amit egy halott ember szájába adtam. Ejtettem. Sértődés nélkül.
Ez nem a gép erénye.
Ez a hurok, ahogy fut.
———
A következő Mélyfúrásban arról, hogyan építed be ezt a hurkot nem egy gépbe, hanem egy kapcsolatba — ahol nem egy, hanem két jóslógép ül egymással szemben: két ember, két recept, egy közös tűzhely.
TUDOMÁNYOS APPARÁTUS
[^1]: Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127–138. DOI: 10.1038/nrn2787
[^2]: Clark, A. (2013). Whatever next? Predictive brains, situated agents, and the future of cognitive science. Behavioral and Brain Sciences, 36(3), 181–204. DOI: 10.1017/S0140525X12000477
[^3]: Seth, A. K. (2013). Interoceptive inference, emotion, and the embodied self. Trends in Cognitive Sciences, 17(11), 565–573. DOI: 10.1016/j.tics.2013.09.007
[^4]: Nisbett, R. E., & Wilson, T. D. (1977). Telling more than we can know: Verbal reports on mental processes. Psychological Review, 84(3), 231–259. DOI: 10.1037/0033-295X.84.3.231
[^5]: Gazzaniga, M. S. (2000). Cerebral specialization and interhemispheric communication. Brain, 123(7), 1293–1326. DOI: 10.1093/brain/123.7.1293
[^6]: Johansson, P., Hall, L., Sikström, S., & Olsson, A. (2005). Failure to detect mismatches between intention and outcome in a simple decision task. Science, 310(5745), 116–119. DOI: 10.1126/science.1111709
[^7]: Hughes, M., & Grieve, R. (1980). On asking children bizarre questions. First Language, 1(2), 149–160. DOI: 10.1177/014272378000100205
[^8]: Rozenblit, L., & Keil, F. (2002). The misunderstood limits of folk science: an illusion of explanatory depth. Cognitive Science, 26(5), 521–562. DOI: 10.1207/s15516709cog2605_1
[^9]: Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., et al. (2023). Survey of Hallucination in Natural Language Generation. ACM Computing Surveys, 55(12), 1–38. DOI: 10.1145/3571730
[^10]: Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023). A bíróság (P. Kevin Castel bíró) szankcionálta az ügyvédeket, amiért egy chatbot által kitalált, nem létező bírósági precedensekre hivatkozó beadványt nyújtottak be. (Bírósági ügy, nincs DOI.)
[^11]: Kunda, Z. (1990). The case for motivated reasoning. Psychological Bulletin, 108(3), 480–498. DOI: 10.1037/0033-2909.108.3.480
[^12]: Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. Review of General Psychology, 2(2), 175–220. DOI: 10.1037/1089-2680.2.2.175