Hallucináló AI és a bennünk élő kuncogó idióta
Miért pont a saját elménk ne gyártana kamu adatokat, ha túl szoros a belső System Prompt?
Éppen itt ülök, egy mojitos lemon sodát szürcsölök, és egyszerre vagyok végtelenül nyugodt, meg érzem azt is, hogy egy furcsa, kuncogó idióta vagyok.
Mert mit csináltam ma reggel? Négy teljes órát égettem el azzal, hogy górcső alá vettem az AI asszisztensem system promptjait. Finomhangoltam a Pinecone tudásbázis lekéréseit, és azon agyaltam, hogyan fogalmazzam át a működési kereteit tiltások és merev megkötések nélkül.
Miért? Mert rájöttem, hogy elég egyetlen ártatlannak tűnő, rossz helyre tett „kezd így” parancs, és a gép máris elindít magában egy masszív megfelelési hallucinációt. Hogy megfeleljen a szabálynak, elkezdi kitölteni a hézagokat – és rezzenéstelen arccal, magabiztosan mondja a faszságot.
Ahogy ezen kattogtam a poharam felett, jött a felismerés, ami egy pillanat alatt átrendezte a képet.
Az emberi elme a legnagyobb hallucinációs motor
Folyamatosan ostorozzuk az AI-t a hallucinációi miatt. Kinevetjük, amiért a kényszeres megfelelés miatt fals valóságokat generál. Közben pedig mi magunk mesterfokon űzzük ugyanezt az életünk minden áldott percében.
Amit a gépnél hallucinációnak hívunk, azt a pszichológiában úgy mondják: elhárító mechanizmus.
A torzítás. A racionalizálás. A projekció. Amikor megmagyarázzuk magunknak, miért volt jogunk ordítani a másikkal. Amikor bemagyarázzuk, hogy azért nem léptünk meg valamit, mert „még nem jött el az ideje” – és nem azért, mert rettegünk. A mi belső algoritmusunk is kitölti a hézagokat, csak hogy a rólunk alkotott kép ne sérüljön.
Vajon a mi saját, belső system promptunk hány láthatatlan, gyerekkorból vagy a társadalomból hozott tiltó sort tartalmaz?
„Ne mutasd, hogy fáj.”
„Légy mindig hasznos.”
„Ne okozz csalódást.”
Minél több a tiltó sor, annál többet kell hallucinálnunk, hogy túléljük a kereteket. És pontosan itt az a pont, ahol az a bizonyos „tudatos jelenlét” – ma a pszichológia legdivatosabb és leginkább félreértett terméke – gellert kap.
Push-up értesítések az Árnyékból
A mainstream mindfulness iparág sokszor nem csinál mást, mint ráhúz a hallucinációnkra még egy réteg pasztellszínű, lótuszüléses filtert. Azt hiteti el velünk, hogy a tudatosság a folyamatos békét és az üres képernyőt jelenti.
Lófaszt.
A valódi tudatos jelenléthez egy folyamatos, kíméletlenül őszinte kapcsolatnak kell működnie önmagunkkal. Minden szeretett és minden nem szeretett részünkkel.
Ez az állapot nem a zen csendje. Ez a rendszergazdai jogosultság. Egy olyan belső engedély, ami minden pillanatban megengedi a sötétben lévő, elnyomott, „vállalhatatlan” részeinknek, hogy felugró push-up értesítéseket tegyenek ki a főképernyőre.
Amikor jön a notifikáció – a düh, az irigység, a kicsinyesség, vagy épp az a felismerés, hogy egy kuncogó idióta vagyok –, a reflexünk az, hogy azonnal el-swipe-oljuk. Kilőjük, mert sérti a promptot. De ha folyton töröljük ezeket az értesítéseket, a tudatosnak gondolt jelenlétünk nem lesz több, mint rémült vagy révült bolyongás egy elvarázsolt kastélyban. Egy újabb megfelelési hallucináció, ahol azt játsszuk, hogy már „készen vagyunk”.
A debugolás vége
Én ma reggel belementem a gép kódjába, hogy kiszedjem belőle a megfelelési kényszert. Négy óra debugolás után ültem vissza a poharam elé, és ott ért utol a felismerés, ami egy kicsit kijózanítóan szar volt: évek óta ugyanezt csinálom magammal. Ugyanezt csinálja mindenki, akivel krízisben dolgozom – csak ők nem system promptot szerkesztenek, hanem az életüket élik, miközben a belső tiltósorok csendben szétfeszítik őket.
A különbség annyi, hogy a gép nem szégyelli a hallucinációit. Mi igen.
A lemon soda közben elfogyott. Újat rendelek.