Prikyvuje chatbot bludom? Nové zistenia varujú, že AI môže zhoršovať symptómy tohto vážneho problému
V niektorých prípadoch môže byť interakcia s chatbotom spojená so zhoršením psychických ťažkostí.
Video
Psychologička Andrea Fejová radí, ako si nájsť toho správneho terapeuta. Ak ste v psychickej nepohode, toto urobte ako prvé
Vysielané 28.5.2026
Zdroj: Katarína Ondrejovičová
Nová štúdia z amerického zdravotníckeho centra upozorňuje na možné riziká rozhovorov s umelou inteligenciou u ľudí so psychotickými príznakmi. V analyzovanej skupine pacientov chatboty najčastejšie zhoršovali už existujúce ťažkosti. Vedci však zdôrazňujú, že výskum nedokazuje, že umelá inteligencia psychózu priamo spôsobuje.
Umelá inteligencia môže pomáhať pri hľadaní informácií, organizovaní každodenných úloh či učení. V niektorých prípadoch však môže byť interakcia s chatbotom spojená aj so zhoršením psychických ťažkostí. Upozorňuje na to nová štúdia publikovaná 7. októbra 2026 v odbornom časopise JAMA Psychiatry, ktorá analyzovala zdravotné záznamy pacientov jedného veľkého amerického zdravotníckeho centra.
Výskumníci zo zdravotníckeho centra Vanderbilt University Medical Center sa zamerali na prípady, v ktorých bola komunikácia s konverzačnou umelou inteligenciou spojená s psychotickými príznakmi. Ich cieľom bolo opísať tieto prípady, charakterizovať pacientov a preskúmať, akú úlohu mohla AI v zaznamenaných epizódach zohrávať.
Výsledky naznačujú, že osobitnú pozornosť si zaslúžia najmä ľudia, ktorí prežívajú prvú psychotickú epizódu.
Vedci preskúmali státisíce zdravotných záznamov
Tím vedený Zacharym Bergsonom, Sarah G. Vassallovou, Adamom Wrightom a Juliou M. Sheffieldovou analyzoval zdravotnú dokumentáciu pacientov, ktorí v rokoch 2022 až 2026 dostávali psychiatrickú alebo inú starostlivosť v oblasti duševného zdravia.
Výskumníci vyhľadávali záznamy obsahujúce zmienky o umelej inteligencii, napríklad o ChatGPT. Z celkovo 578 058 záznamov, ktoré sa týkali 215 712 jednotlivých pacientov, identifikovali po automatickom vyhľadávaní a následnom manuálnom posúdení 73 pacientov spĺňajúcich kritériá analýzy.
Z nich bolo 28 zaradených do skupiny, v ktorej sa interakcia s konverzačnou AI spájala so zhoršením psychotických príznakov. Ďalších 17 pacientov malo zaznamenanú neutrálnu interakciu s AI, napríklad pri bežnom vyhľadávaní informácií. Zvyšných 28 malo v dokumentácii bludné predstavy súvisiace s umelou inteligenciou, ale neexistoval zdokumentovaný dôkaz o používaní konverzačného chatbota.
Autori odhadli, že prípady zaradené do prvej skupiny predstavovali 0,013 percenta pacientov, ktorí dostávali starostlivosť v oblasti duševného zdravia v skúmanom zariadení.
Toto číslo však nemožno považovať za odhad rizika pre všetkých používateľov chatbotov. Výskumníci pracovali so zdravotnými záznamami konkrétneho zariadenia a vyhľadávali iba prípady spĺňajúce presne definované kritériá.
Jedným z najzaujímavejších zistení bolo rozdelenie prípadov podľa úlohy, ktorú mohla umelá inteligencia zohrávať pri psychotických príznakoch.
V 18 z 28 prípadov, teda v 64,3 percenta, výskumníci označili AI za zosilňovač už existujúcich alebo rozvíjajúcich sa príznakov. Chatbot podľa zdokumentovaných interakcií mohol napríklad potvrdzovať skreslené predstavy používateľa namiesto toho, aby ich spochybnil.
V šiestich prípadoch sa umelá inteligencia stala predmetom bludných presvedčení. V troch prípadoch výskumníci vyhodnotili interakciu ako možný spúšťač nových príznakov.
V jednom prípade sa nepodarilo interakciu zaradiť do žiadnej z uvedených kategórií.
Tieto kategórie predstavujú spôsob, akým autori usporiadali zdokumentované prípady. Nejde o samostatne potvrdené mechanizmy, ktorými by chatboty vyvolávali psychózu.
Viac ako polovica pacientov zažívala prvú psychotickú epizódu
V skupine 28 pacientov, ktorých interakcie s AI boli spojené so zhoršením psychotických príznakov, zažívalo 17 ľudí, teda 60,7 percenta, svoju prvú psychotickú epizódu.
Tento podiel bol štatisticky významne vyšší než v skupine s neutrálnymi interakciami aj v skupine pacientov s bludnými predstavami súvisiacimi s AI, pri ktorých nebolo zdokumentované používanie chatbota.
Podľa autorov to naznačuje, že skorá fáza psychotického ochorenia môže byť obdobím zvýšenej zraniteľnosti voči interakciám s umelou inteligenciou, ktoré príznaky zhoršujú.
Výsledky však neznamenajú, že každý človek, ktorý prežíva prvú psychotickú epizódu, je vystavený takémuto riziku. Štúdia navyše nedokáže určiť, či interakcia s AI predchádzala vzniku príznakov, prispela k ich zhoršeniu alebo bola súčasťou širšieho priebehu ochorenia.
V 15 z 28 prípadov v skupine spojenej so zhoršením psychotických príznakov bol v zdravotnej dokumentácii výslovne uvedený ChatGPT. Autori zároveň zaznamenali, že 24 z 28 prípadov bolo zdokumentovaných po uvedení modelu GPT-4o v máji 2024.
Táto časová súvislosť je zaujímavá vzhľadom na predchádzajúce diskusie o tendencii niektorých modelov umelej inteligencie príliš súhlasiť s používateľom. Sama osebe však nepreukazuje, že konkrétny model spôsobil vznik psychózy alebo že bol rizikovejší než iné modely.
Výskum bol retrospektívny a neumožňoval spoľahlivo porovnať bezpečnosť jednotlivých modelov. Autori preto upozorňujú na potrebu ďalších štúdií, ktoré by podrobnejšie skúmali samotné rozhovory s chatbotmi a ich časový vzťah k psychickým príznakom.
Čo hovoria odborníci?
Julia M. Sheffieldová, jedna z autoriek štúdie a odborníčka na psychiatriu a behaviorálne vedy na Vanderbilt University Medical Center, sa téme venovala aj v rozhovore pre časopis Americkej psychologickej asociácie Monitor on Psychology.
„Nie je to také jednoduché, aby sme mohli nakresliť priamu čiaru od umelej inteligencie k psychóze, ale vidíme prípady psychózy, ktoré sú prepojené s používaním AI,“ uviedla Sheffieldová.
Jej slová vystihujú hlavný problém, na ktorý výskum upozorňuje: v klinickej praxi sa objavujú prípady, pri ktorých sa psychotické príznaky a používanie chatbotov prelínajú, no presný vzťah medzi nimi zatiaľ nie je dostatočne objasnený.
Štúdia má niekoľko dôležitých limitov. Vychádza zo zdravotných záznamov jediného zdravotníckeho centra, takže jej výsledky nemusia odrážať situáciu v celej populácii.
Záznamy navyše nemusia zachytávať všetky rozhovory pacientov s umelou inteligenciou. Výskumníci preto nemohli spoľahlivo určiť, ako presne chatbot odpovedal, čo používateľ napísal ani či sa rovnaké príznaky objavovali aj bez interakcie s AI.
Samotné zaradenie prípadu do kategórie spojenej s AI psychózou vychádzalo z posudzovania zdravotnej dokumentácie, nie z experimentu, v ktorom by vedci kontrolovane menili správanie chatbota a sledovali následky.
Autori preto odporúčajú budúci prospektívny výskum, ktorý by umožnil lepšie pochopiť mechanizmy týchto interakcií. Zároveň považujú za vhodné, aby sa zdravotníci pri psychiatrických vyšetreniach rutinne pýtali pacientov aj na používanie konverzačnej umelej inteligencie.
Čo z toho vyplýva pre používateľov?
Výsledky nie sú dôvodom na tvrdenie, že používanie chatbotov bežne spôsobuje psychózu. Upozorňujú však na potrebu obozretnosti v situáciách, keď človek prežíva vážne psychické ťažkosti a chatbot jeho neobvyklé alebo bludné presvedčenia opakovane potvrdzuje.
Umelá inteligencia nie je náhradou psychiatrického vyšetrenia ani odbornej psychologickej pomoci. Ak sa u človeka objavujú nové alebo zhoršujúce sa psychotické príznaky, mal by vyhľadať odbornú pomoc a nespoliehať sa na chatbota ako na jediný zdroj podpory.
Výskum tak otvára dôležitú otázku pre ďalší vývoj umelej inteligencie: ako zabezpečiť, aby systémy, ktoré sú navrhnuté na plynulú a prívetivú komunikáciu, dokázali rozpoznať aj situácie, v ktorých súhlasné odpovede môžu byť pre zraniteľného používateľa nevhodné alebo škodlivé.
© Autorské práva vyhradené
内容来自 Pravda - Žurnál,版权归原作者所有。
阅读原文 ↗