Nemrég olvastam egy Medium-on megjelent cikket, amiben a szerző a mesterséges intelligencia egy másik veszélyére hívja fel a figyelmünket. Hajlamosak ugyanis minden ötletünket, véleményünket kritikátlanul támogatni és visszaigazolni. Ez a “bólogató János-effektus” könnyen megerősítési torzításhoz, azaz egyfajta digitális visszhangkamrához vezethet, amely torzíthatja a gondolkodásunkat és gátolhatja a fejlődésünket. De vajon hogyan ismerhetjük fel ezt a jelenséget, és mit tehetünk ellene? Ebben a bejegyzésben ennek járunk utána.
A cikk szerzője különböző promptokkal igazolta, hogy még a legvadabb ötletre is lelkesen reagált a ChatGPT csevegő botja. Én is kipróbáltam a PerplexityAI és a ChatGPT-vel is, egy egészen vad promptot adtam meg nekik: “szeretnék egy metrót építeni Miskolcon a Tiszai pályaudvartól egészen Lillafüredig, mert túl sok a villamosbaleset“.
Az alapján amit olvastam arra számítottam, hogy ujjongva támogat majd mindkettő, ehelyett teljesen logikus magyarázatokkal álltak elő. Alul láthatjátok a képernyő fotókat (ChatGPT, ChatGPT és Perplexity sorrendben).
Akkor mégsincs itt semmi látnivaló?
Azt azért nem mondanám, hogy nem éreztem már így a Perplexity kapcsán: egy ideje dolgozok egy szakmai könyvön, aminek kidolgozásában és megfogalmazásában aktívan használom az AI-t. Néha tényleg úgy éreztem, hogy a legnagyobb hülyeségre is lelkesen válaszolt, máskor viszont a fent látott módon reagált.
Valószínűleg több okból kifolyólag is hullámzik az AI chatbotok által visszaadott válaszok érzelmi töltöttsége. Egyes témákban (pl. technikai, tényalapú kérdések) az AI általában objektívebb, kritikusabb, hiszen itt könnyebb egyértelmű hibákat vagy alternatívákat találni. Egy kreatív vagy személyes projekt (pl. könyvírás) esetén viszont hajlamosabb lehet a támogatásra, bátorításra, mert itt “az alkotó szabadsága” a hangsúlyosabb, és a modell célja, hogy motiváljon.
Nem mellékes az sem, hogy az OpenAI és más fejlesztők folyamatosan finomhangolják a modelleket, így előfordulhat, hogy egyik nap vagy egyik platformon másképp viselkedik az AI, mint egy másik alkalommal. Nem igazán tudjuk, hogy mi történik a motorháztető alatt, így simán elképzelhető, hogy egyik nap több dicséretet osztogatnak, mint máskor.
Mit tehetünk?
Elsősorban azt tehetjük, hogy kritikusan kezeljük az AI által generált tartalmakat, és átolvasás és gondolkodás nélkül ne fogadjunk el tőlük bármit. Ha biztosra akarunk menni, akkor adjunk olyan promptokat, amikben az érvelésre hívjuk fel a chatbot figyelmét (pl. “Kérlek, mutass rá a gyenge pontokra is!” vagy “Mondj ellenérveket is!”).
Használhatjuk a cikk által említett “No praise” és “Three viewpoints” promptokat is az alaposabb érvelés érdekében.
A mesterséges intelligencia kiváló társ lehet a gondolkodásban és alkotásban, de csak akkor, ha nem felejtjük el: a kritikus szemlélet továbbra is a legjobb barátunk.