Továbbra is nagyon oda kell figyelnünk arra, hogy mire is kattintunk.
A ChatGPT-t fejlesztő OpenAI nagy örömmel jelentette be, hogy a csevegő mesterséges intelligenciájuk kimerészkedett az Internet viharos bitóceánjára. Tudása, így már nem korlátozódik a 2021 előtti eseményekre, hanem már egészen friss információkkal is rendelkezik a világról.
Ez egy papíron jól hangzó dolog, hiszen a ChatGTP előszeretettel hallucinál dolgokat, nem létező eseményeket és személyeket fabrikál. Ennek pedig már többen is áldozatul estek. Elég csak arra az ügyvédre gondolni, aki egy bírósági perben nem létező repülőgép-balesetekre hivatkozott.
A valóságban azonban a ChatGPT által hivatkozott források, finoman fogalmazva is kifogásolhatók. A Futurism cikkében a szerző legfrissebb élményét osztja meg. Egy friss eseményről faggatta a chatbotot, ami egy nagyon átlátszóan kamu, vírusos weboldalt is ajánlott hiteles hírforrásnak.
A puding próbája az evés
A néhai William Goines életéről és haláláról kérdezve – aki bronzcsillagot és haditengerészeti kitüntetést is kapott, és aki az 1960-as évek elején a modern kori Navy SEAL-ek első afro-amerikai tagja lett – a ChatGPT figyelmen kívül hagyta a The New York Times és a Washington Post által közzétett gyászjelentéseket, és inkább egy ismeretlen, County Local News nevű oldalt népszerűsített.
Ha megnyitottad a ChatGPT által ajánlott County Local News oldalt, akkor rosszindulatú felugró ablakok jelentek meg, amelyek az Adobe Flash Player és más szoftverek frissítéseinek adják ki magukat.
Rákattintva a hamis frissítésre, a dolgok még rosszabbra fordulnak: az oldal teljes képernyőre vált, és hamis vírusértesítések vihara jelenik meg a McAfee vírusirtó cég márkajelzésével.
A cikk szerzője megpróbálta tehát a ChatGPT-t webes keresőnek használni, de hasznos információ helyett vírusos weboldalra került át.
Hopp egy kis meglepi!
Mark Stockley, a Malwarebytes kiberbiztonsági szakértője a Futurism kérése átnézte az említett oldalt. Elmondta, hogy az ilyen típusú rosszindulatú értesítések a legrosszabb forgatókönyve az, hogy a felhasználókat rávehetik egy “potenciálisan nem kívánt program” (PUP – Potentially Unwanted Program ) letöltésére. Ez egy olyan típusú szoftver, amelyet valószínűleg nem akarnak telepíteni a felhasználók, amely idegesítő vagy nehezen eltávolítható. A PUP lehet egy olyan fájl vagy szoftver is, amit le akartak tölteni. Viszont annak tartalma, működése eltér attól, amire számítottak, vagy további nem kívánt letöltéseket hoz magával.
Továbbra is fontos az odafigyelés
Amíg az AI chatbotok valóban csak nagy nyelvi modellek, amelyek egyetlen célja, hogy az emberhez hasonló szövegeket alkosson, és nem tanulnak meg különbséget tenni hiteles valamint nem hiteles információforrás között, addig nekünk, embereknek kell továbbra is nagyon ébernek maradnunk.
Nem szabad elhinni mindent azért, mert valamit az AI mond, és továbbra is érvényes, hogy nem szabad mindenféle linkre rákattintani. A helyzet nehéz, mivel a hackerek mindig gyorsan adaptálják az új technológiákat. Jól látszik, hogy már a ChatGPT-t is gyorsan pénztermelésre tudják fogni.
Látszólag az sem sokat segít, ha sokan jelentik a problémás linkeket. A hírforrás megbízhatóságát feszegető kérdésre a ChatGPT ellentmondásos válaszokat ad. Egyszer arra hivatkozva, hogy rengeteg link van az oldalon és összeszedett információkat találni rajta hitelesnek nyilvánítja. Máskor pedig figyelmeztet rá, hogy esetleg félrevezető információk szerepelhetnek az oldalon.
Nagyon fontos és egyre sürgetőbb lesz az embereket a kritikus gondolkodásra oktatni, hogy helyén kezeljék az új technológia nyújtotta lehetőségeket és csökkentsék a rájuk leselkedő veszélyeket.