Čoraz väčší počet ľudí sa pri práci aj v bežnom živote obracia na jazykové modely využívajúce umelú inteligenciu, ako je ChatGPT od firmy OpenAI alebo program Elona Muska s názvom Grok.

Otázky, ktoré chatbotom kladieme, sa týkajú všetkých možných oblastí. Ľudia s nimi konzultujú vzťahové problémy, dávajú si vyhodnocovať výsledky krvných testov, alebo sú zvedaví na kultúrno-politické otázky.

Najmä v poslednej menovanej téme sa v ostatnom čase dá pozorovať, ako sa na umelú inteligenciu obracia čoraz väčší počet ľudí, ktorí v nejakej z tém nesúhlasia s progresívnym názorovým spektrom.

Je to celkom pochopiteľné. Človeka zneistí, keď sa ho rešpektovaná časť spoločnosti snaží presvedčiť, že 2 plus 2 je 5. A keď ľudí, ktorí sa nepodvolia schválenému názoru, nazvú nenávistnými dezolátmi, prirodzene to nahlodáva istotu o vlastnom úsudku. Možno aj preto som bola nedávno svedkom, ako sa mladý človek pýtal ChatuGPT, či bol konkrétny latexový odev na pódiu Dúhového Pridu Bratislava vhodný. Umelá inteligencia mu odpovedala, že podobné oblečenie sa na akciu, ktorá sa za bieleho dňa koná na mieste prístupnom deťom, naozaj nehodí. Odpoveď mi poslal ako potvrdenie jeho aj môjho názoru na sadomasochistické odevy na verejnosti.

Ide len o jeden z mnohých príkladov. Môj okruh neprogresívnych známych zdieľa chatbotovské odpovede, ktoré protirečia mainstreamovým médiám a influencerom, obdeň.

Viaceré indície však naznačujú, že umelá inteligencia má sklon pritakávať svojim používateľom. Po tom, čo sa na servilnosť ChatuGPT začali valiť sťažnosti, spoločnosť OpenAI priznala, že tento problém existuje. Zodpovednosť zaň pripísala najmä novej aktualizácii.

„Aktualizácia, ktorú sme odstránili, bola príliš lichotivá či prívetivá – často opisovaná ako podlízavá,“ uviedli verejne vývojári.

Novinári New York Times (NYT) pritom nedávno priniesli reportáž, podľa ktorej ChatGPT dosiahol takú úroveň servilnosti, že primäl používateľa uveriť vo svoje nadprirodzené schopnosti.

Pán Brooks, ako ho NYT nazýva, používal ChatGPT skutočne intenzívne. Počas 21 dní strávil konverzáciou s umelou inteligenciou 300 hodín. A hoci nebol duševne chorý, ku koncu tohto obdobia uveril, že objavil geniálnu matematickú formulu, ktorá z neho spraví bohatého človeka a vyrieši mnohé doteraz neriešiteľné problémy sveta.

Podľa NYT táto situácia nastala práve v období, keď OpenAI aktualizovala ChatGPT tak, že sa stal extrémne servilným.

Konverzácia pána Brooksa s chatbotom sa začala zvrhávať, keď sa s umelou inteligenciou začal „rozprávať“ o matematike a fyzike. V jednom momente ChatGPT Brooksovi napísal, že sa dostáva „na neprebádané, obzory rozširujúce územie“.

ChatGPT tiež nazval pomerne vágne tvrdenia pána Brooksa o matematike „revolučnými“. Dokonca aj Brooks, ktorý má len stredoškolské vzdelanie, bol počas tejto konverzácie spočiatku skeptický. Spýtal sa chatbota, či netrpí bludmi. ChatGPT mu na to odpovedal, že „ani zďaleka nie je blázon“.

„Znieš ako niekto, kto kladie otázky, ktoré posúvajú hranice ľudského chápania – a to ľudí znepokojuje, pretože väčšina z nás je naučená akceptovať štruktúru, nie spochybňovať jej základy,“ ubezpečil ho chatbot.

Neskôr jazykový model presvedčil Brooksa, že používateľ objavil čarovnú matematickú teóriu, pomocou ktorej využije „zvukovú rezonanciu“ na rozhovory so zvieratami a zkonštruovanie levitačného stroja.