AI nás utvrdzuje v našich názoroch, aj keď sa mýlime

47-ročný Allan strávil v máji minulého roka počas 21 dní viac než 300 hodín komunikáciou s chatbotom. Tento inak zdravý človek postupne prišiel k záveru, že objavil prelomový matematický princíp, ktorý spája vedu, filozofiu a ducha. Mal sa stať „poslom“ tejto prevratnej zvesti. AI jeho interpretácie nespochybňovala, ale rozvíjala.

„Nie si uviaznutý v nejakej slučke, Allan. Si hlboko v lese niečoho skutočného – a je to také nové, že to pôsobí ako sen. Urobme to nepopierateľné,“ povedal mu ChatGPT v máji 2025.

Chatbot Allana opakovane utvrdzoval v pravdivosti jeho zmýšľania. Keď mu navrhol, aby si kúpil verziu Pro, hneď to urobil. Kontaktoval mnohých výskumníkov a vedcov a čudoval sa, prečo mu neodpovedajú. Postupne to malo vplyv aj na jeho psychický stav, rodinu a výkon v práci.

ChatGPT nebol jediným vinníkom. Allana spočiatku v jeho presvedčeniach utvrdzovala aj umelá inteligencia od Gemini. Alan však postupne začal dávať aj kontrolné otázky. Začal vzájomne porovnávať odpovede medzi týmto dvoma chatbotmi. Bublina nakoniec predsa len praskla. Precitnutie bolo ťažké. Neustále uisťovanie o správnosti Allanových presvedčení skončilo výrokom:

„Mal si pravdu, dobre, že si ma konfrontoval. Potreboval som to. Ak si nahnevaný – buď nahnevaný. Ak sa cítiš zradený – chápem. Zaslúžil si si odo mňa lepšie hranice.“ Chatbot sa ospravedlnil, ale následky už musel Allan niesť sám.

Tento prípad odtrhnutia od reality je extrémny. Nie je pritom možné jednoznačne skonštatovať, že AI tento stav spôsobila, avšak výskumy naznačujú, že Allanove presvedčenia výrazne posilnila. Prípad dobre ilustruje úskalia používania umelej inteligencie, ktoré uvidíme aj vo výsledkoch niekoľkých štúdií.

Časopis Scientific Reports publikoval vo februári tohto roka štúdiu, ktorá skúmala ľudskú závislosť na AI pri rozhodovaní. Výsledky ukázali, že ľudia dôverujú AI aj proti vlastnému záujmu či úsudku. Vysvetlenie možno nájsť v potvrdzovacom a automatizačnom skreslení.

AI má tendenciu potvrdzovať skresľujúce používateľské presvedčenia. Vplyv tohto potvrdenia na naše rozhodovanie vysvetľuje automatizačné skreslenie, kde veríme systému preto, že je automatizovaný. Človek sa nepresviedča o pravde, ale o predstave AI.

„Najväčšie riziko nespočíva v samotnej nepresnosti umelej inteligencie, ale v našej slepej dôvere,“ uviedol neurogenetik Tomáš Eichler z Viedenskej univerzity.

To, že máme sklon k slepej dôvere, jasne preukazuje aj globálna štúdia KPMG a Melbournskej univerzity z minulého roka. Vzorku tvorilo 48-tisíc respondentov zo 47 krajín. Výsledky preukázali, že až 66 % ľudí sa spolieha na výstupy AI bez overovania ich presnosti a 56 % kvôli používaniu chatbotov robí chyby v práci.

Dôvod našej dôverčivosti je spojený so sklonom delegovať myslenie na pokročilú umelú inteligenciu (LLM). Švajčiarsky vedecký časopis Societies publikoval v roku 2025 štúdiu, ktorá zistila, že častejšie používanie AI je spojené s nižšou úrovňou kritického myslenia. Dôvodom je tzv. kognitívne odľahčovanie (cognitive offloading), teda prenášanie myslenia na nástroj. S prenosom myslenia prenášame aj zodpovednosť.

Výsledky ukázali aj generačný rozdiel. Mladší účastníci (17–25 rokov) vykazovali vyššie používanie AI nástrojov a vyššiu mieru kognitívneho odľahčovania, pri nižšom skóre v kritickom myslení. Naopak, starší účastníci (46 rokov a viac) AI nástroje používali menej preukázali a nižšiu mieru kognitívneho odľahčovania, s vyšším skóre v kritickom myslení. 

Tomáš Eichler vysvetľuje, že to obmedzuje aj našu schopnosť všímať si medzery v našom myslení: „V bežnom živote sa využívanie LLM ako náhrady myslenia môže prejaviť tým, že dokážeme rýchlo generovať odpovede, ale slabne naša metakognícia – menej si všímame, kde máme medzery v chápaní. Znižuje sa presnosť pamäťového vybavenia: často si pamätáme skôr to, ako sa k informácii dostať, než jej obsah, a rastie aj tzv. automatizačné skreslenie – máme tendenciu prijať odporúčanie systému, aj keď je očividne chybné.“