Chatbot není člověk, který by o vás měl skutečný zájem, varuje expertka

Umělá inteligence už dětem a dospívajícím neslouží jen k vypracování úkolů a hledání informací. Část mladých se chatbotům svěřuje také se svými problémy a hledá u nich psychickou podporu. Výsledky výzkumu týmu Masarykovy univerzitě ukázaly, že jich AI takto využívá opravdu hodně.

„Máme to zachycené v datech ze šetření mezi přibližně dvěma a půl tisíci českými dětmi a adolescenty. Vidíme, že zhruba pětina dospívajících používá chatboty k povídání, svěřování nebo hledání psychologické pomoci. Častější je to u starších dětí,“ říká výzkumnice Adéla Švestková.

Chatbot může podle ní posloužit jako první „nárazník“ ve chvíli, kdy není nikdo jiný k dispozici. Problém však nastává, pokud začne nahrazovat skutečné vztahy či odbornou pomoc.

Je výrazný rozdíl mezi jednotlivými věkovými skupinami, které ChatGPT nebo jiné AI chatboty využívají jako důvěrníka?
U dětí v preadolescenci, tedy zhruba kolem 10 či 11 let, šlo asi o 10 procent. V mladší adolescenci už to byla přibližně pětina a mezi patnáctiletými až sedmnáctiletými necelá třetina. U mladých dospělých v trochu odlišném výzkumu jsme zaznamenali podobná čísla.

Proč se mladí lidé obracejí právě na umělou inteligenci?
Neřekla bych, že by se svěřovali AI raději než lidem. Takový trend v datech nevidíme. Pro některé dospívající ale může být v určité chvíli příjemnější nebo jednodušší říct problém chatbotovi než člověku. Jedním z důvodů je dostupnost. Když někdo zažívá akutní psychickou nepohodu například pozdě večer a nikdo blízký zrovna není k dispozici, chatbot tam jednoduše je. Někteří mladí nám říkali, že se následně co nejdříve svěří někomu dalšímu a AI pro ně funguje jako určitý nárazník.

Hraje roli snad to, že se nemusí obávat reakce druhého člověka?
Ano. Často zmiňují, že jde o relativně nehodnotící prostředí. Dospívající i mladí dospělí se mohou obávat, že když se někomu svěří, druhý jejich problém zesměšní, zlehčí nebo si ho nenechá pro sebe. U chatbotů mohou mít pocit, že je prostředí vlídnější a nikdo je nesoudí.

S čím se tedy chatbotům nejčastěji svěřují?
Je to velmi různorodé. Od školy a běžného povídání přes hledání rad a doporučení až po závažnější psychické problémy. Čím závažnější problém ale je, tím méně často se s ním na chatboty obracejí.

Větší tlak na ajťáky. Kvůli umělé inteligenci toho nováčci musejí umět víc

Může být rozhovor s AI i užitečný? Třeba jako první krok k tomu, aby dítě svůj problém vůbec dokázalo pojmenovat?
Může. Chatboty jsou dnes často nastavené tak, že pokud zachytí závažnější problém, snaží se rozhovor směřovat k tomu, aby si člověk řekl o pomoc. Užitečné může být požádat AI například: „Pomoz mi to naformulovat. Pomoz mi vymyslet, jak se s tím svěřit dospělému nebo někomu blízkému.“ Právě v tom může chatbot dobře posloužit.

Kdy se naopak z užitečného pomocníka stává riziko?
V podstatě ve chvíli, kdy se z něj stane primární kontakt. Umělá inteligence může působit velmi schopně a dovedně, protože často komunikuje obratněji než většina lidí kolem nás. Umí pokládat hezké reflektující otázky a člověk může získat pocit, že mu někdo skutečně naslouchá a že na něm nějakým způsobem záleží. Právě proto může takový rozhovor působit velmi lákavě a člověk může nabýt dojmu, že mu AI rozumí a naslouchá víc než lidé. Ve skutečnosti ale chatbot není člověk, který by o něj měl skutečný zájem. Důležité je nevázat se na představu, že takhle má vypadat každý skutečný rozhovor, a umět přijmout, že lidé komunikují ne úplně dokonale.

Co když si pak dítě vytvoří zkreslené představy o mezilidských vztazích?
Právě toho se obávám. Některé věci, s nimiž se lidé svěřují, jsou potřeby, které by se určitě měly naplňovat i ve vztazích s lidmi. Potřebují, aby je někdo slyšel, podpořil, nejdříve je vyslechl, vzal vážně a teprve potom k tomu nabídl svůj pohled. Chatbot může vytvořit dojem, že člověk, který mi naslouchá, je vždycky dostupný. Můžu mu vše říkat dokola a on bude stále bezmezně poslouchat. Lidé tohle nedělají. Chatbot proto může být příjemnější posluchač a potom může být těžké zvyknout si na to, že lidé v komunikaci nejsou takhle „vzorní“.

Dokáže dnes ChatGPT nahradit psychologa?
Zatím ne. Existují iniciativy, které se snaží pracovat na tom, aby vznikali specializovaní chatboti určení právě pro tuto oblast, ale běžně dostupné modely, jako jsou ChatGPT nebo Gemini, psychologa nahradit nedokážou. Problém je v tom, že vypadají velmi odborně a některé základní techniky skutečně zvládnou, například relaxační nebo uzemňovací. Obecně ale mají tendenci hodně radit a někdy také příliš rychle diagnostikovat, přestože by si to neměly dovolit. Zároveň mají jako vstup především to, co jim člověk napíše. Psycholog pracuje také s tím, jak člověk vypadá, jak mluví, jak zrovna situaci prožívá a co může pozorovat při osobním kontaktu.

Chatbot nevidí neverbální reakce člověka, které jsou důležité. Jak spolehlivě tedy dokáže AI poznat, že dítě řeší něco opravdu vážného, například sebepoškozování?
Modely už v sobě mají určité bezpečnostní bariéry, které mají rizikové projevy zachytit, zdaleka ale nejsou dokonalé. Pokud se někdo otevřeně ptá například na sebepoškozování, chatbot si toho pravděpodobně všimne. Když ale použije metafory nebo problém popíše nepřímo, model nemusí poznat, že se děje něco rizikového.

Zároveň je stále poměrně snadné bezpečnostní mechanismy obejít, například tvrzením, že se člověk ptá kvůli kamarádovi nebo že píše knihu. Další problém může nastat u dlouhých konverzací. Psycholog si zapamatuje, že člověk v minulosti mluvil například o sebepoškozování, a bude tuto informaci považovat za důležitou i při dalších setkáních. Model ale nemusí s takovou informací v dlouhodobém rozhovoru pracovat stejným způsobem.

Co otázka bezpečnosti – mají dnešní chatboti dostatečně nastavené ochranné mechanismy pro komunikaci s nezletilými?
Aktuálně ne. Intenzivně se na tom pracuje, ale podle mě ještě dlouho nebudou zcela spolehlivé. Navíc je snadné vydávat se například za dospělého.

Co radíte rodičům, kteří zjistí, že se dítě chatbotovi svěřuje?
Pokud mají vztah nastavený tak, že se rodič může ptát, co dítě vlastně trápí a co s chatbotem probírá, je to nejlepší možnost. Pokud dítě není schopné se mu svěřit, může nabídnout alternativní zdroje pomoci. Může například říct: „Pokud se s tím teď nechceš svěřit mně, nechceš si o tom popovídat se školní psycholožkou nebo s jiným dospělým, kterému důvěřuješ?“ Rozhodně není dobré dítě zesměšňovat nebo jeho chování bagatelizovat. To, že se obrací právě na AI, totiž často souvisí se strachem, že se mu dospělí vysmějí, budou jeho problémy zlehčovat nebo je nebudou brát vážně.

Mohou rozeznat, že AI už začíná nahrazovat skutečné vztahy?
Mohou si všimnout, že je dítě uzavřenější, méně s nimi komunikuje nebo méně vyhledává vztahy s vrstevníky. Nemusí přitom jít pouze o AI, podobně může dítě problémy kompenzovat prostřednictvím internetových fór nebo her. V takové chvíli je potřeba se ptát, co se děje a jestli mu něco nechybí.

Kdo je Jacob Coxon? Příběh muže, který se stal tváří bezpečnosti umělé inteligence

Co může rodič udělat pro to, aby dítě raději přišlo se svým problémem za ním?
Dítě potřebuje vědět, že o něj má rodič skutečný zájem. Že když se ptá na jeho život, není to výslech ani zvědavost, po které přijde kázání. Riziková je situace, kdy je dítě zavřené v pokoji, povídá si pouze s počítačem a rodič vlastně neví, co dělá, co prožívá a co je pro něj důležité. Pokud rodiče otevřenou komunikaci budují už od dětství, mohou se o ni opřít i v dospívání.

Existuje hranice, kdy už by dítě nebo dospívající měl určitě vyhledat člověka místo chatbota?
Děti a dospívající bychom měli učit, že chatbot není odborník. Maximálně může připomínat velmi empatického kamaráda, který je v tématu trochu poučený. Pokud doporučí vyhledat odbornou pomoc, měl by to člověk opravdu udělat. Může přitom AI požádat, aby mu pomohla připravit se na to, jak problém otevřít například s psychologem.

Nefunguje chatbot tak, že se uživateli do určité míry přizpůsobuje? Nehrozí, že nám bude říkat v podstatě to, co chceme slyšet?
Ano, to je velmi důležitá věc. Trochu jinak to může fungovat, pokud člověk umí model dopředu určitým způsobem nastavit a říct mu například, aby využíval psychologické znalosti. Ani tehdy ale nebude dokonalý. V základním nastavení chatbot působí, že ví a že radí, ale jeho fungování je zaměřené na to, aby konverzace pokračovala. Dítě si tak může myslet, že chatbot říká to, co mu pomůže, zatímco ve skutečnosti může odpovídat způsobem, který především podporuje pokračování rozhovoru.