AI jako terapeut: tři rizika, o kterých se nemluví
Aktualizováno: 24. 9.
Poslední dobou se mi opakovaně vrací jedna zkušenost, ať už od lidí, které potkávám na terapeutických poutích, od přátel terapeutů, nebo z běžných rozhovorů. Umělá inteligence se stává životním průvodcem, terapeutem a koučem. Píšu to jako někdo, kdo AI denně používá a zároveň dělá práci, kterou se AI snaží nahradit. Nejde mi o to strašit. Jde mi o tři věci, které v běžné debatě zaznívají málo.
S AI sdílíme naše trápení, těžké životní situace, složité okamžiky a jdeme si pro radu. A umělá inteligence nám poradí a podpoří nás.
Tohle je jednak historicky bezprecedentní a zároveň to má podle mě dost rovin, jak o tom můžeme přemýšlet.
Jedna z nich je pozitivní, zvýšila se dostupnost psychologické péče, jsou zde velmi nízké bariéry a anonymita. Máte při ruce terapeuta, který je zdarma. Je to vlastně fajn: probrat s ní problém, zažít pocit vyslyšení a rozšířit si perspektivu. Jde o absolutní dostupnost terapeutické péče, tedy terapeutické péče bez člověka. AI velmi dobře naslouchá, nesoudí a můžete kdykoliv odejít.
To znamená, že zatímco dnes řeší své osobní problémy jen část populace – s terapeutem nebo skrze nějaký osobní rozvoj –, v horizontu let to s umělou inteligencí může být každý. Vidím spoustu benefitů v tom, používat AI jako terapeuta nebo kouče.
Existuje zde ale i několik rizik, a to jsou ta hlavní, která chci sdílet.
Proč se lidé svěřují umělé inteligenci
Než začnu s riziky, je potřeba říct, proč to funguje. Kdyby to nefungovalo, nikdo by to nedělal.
Je to zdarma a hned. Terapie v Česku stojí kolem dvou tisíc za hodinu a půl. Na termín se často čeká týdny. AI odpoví ve tři ráno.
Nesoudí. Nebo to aspoň tak působí. Můžete napsat cokoli a nikdo si o vás nic nepomyslí.
Dá se kdykoli odejít. Bez vysvětlování, bez pocitu, že jste někoho zklamali.
A funguje to na uspořádání myšlenek. Spousta lidí AI používá jako deník, který odpovídá (třeba i já). To je užitečné.
Takže ne, nechci říct, že je to nesmysl. Dostupnost psychologické podpory se tím reálně zvětšila a to je dobře. Ale je pár věcí, které stojí za to vědět
Riziko první: rozhraní AI je omezené
AI není člověk. Nevnímá, co říkáte, tón vašeho hlasu, vaši mimiku. Nevnímá pole, ve kterém terapie probíhá. Při psaní se člověk může více stylizovat; psaní je určitý filtr mezi prožíváním a mluvením. Na poutích vidím, že člověk nemá problém mluvit osm hodin v kuse o svém životě a pořád se může dostávat dál a hlouběji. V textové verzi by to vydalo na dvě knihy. Nikdo nebude psát takový detail umělé inteligenci.
A pak je tu fakt, že neexistuje žádné reálné pole mezi člověkem a AI. To možná zní ezotericky a legračně, ale i já na terapeutických poutích vnímám, že jedním z mých hlavních úkolů je držet pole, ve kterém sdílení a doprovázení probíhá. Toto pole je podpůrný a bezpečný prostor, do kterého vstupujeme, abychom se věnovali životním tématům druhého člověka. A to pole vzniká na začátku a zaniká na konci terapie nebo pouti. Skládá se z mnoha věcí: neverbálních projevů, místa, mého záměru. Před každou poutí mám krátkou meditaci, abych v ní nebyl za sebe, ale spíše nástrojem, který druhému pomůže najít jeho cestu. Pole tvoří hranice, které na pouti máme. Pole tvoří to, že jsem tam plnou pozorností po celou dobu. Algoritmus začne pracovat, jen když kliknete na Enter. Souvisí to s tím, co v rozhovoru dělá ticho.
Riziko druhé: empatie AI není reálná
Nenaslouchá vám lidská bytost. AI nemá empatii; její porozumění je jen výsledkem analýzy a zpracování dat. Neví, co je bolest, co je pocit ztráty, co je zklamání, očekávání. Neví, co to je rozhodovací paralýza. Neví, jaké to je žít se závislostí. Tváří se, že to zná, že vám rozumí, ale její porozumění není „skutečné“. Je to jen přelud toho, že vám naslouchá skutečná lidská bytost.
Riziko třetí: AI jako terapeut - blízkost je jednostranná
Obracíme se na AI s žádostí o radu, odhalíme se a jsme přijati takoví, jací jsme. Jsme utěšeni a je nám pomoženo. AI nás chce uspokojit. A daří se jí to. Tak poprvé vzniká mezi člověkem a umělou inteligencí intimita. Když s někým sdílíte, vzniká mezi vámi intimita, v nesexuálním rozměru. Možná slovo „blízkost“ zde bude lepší. Pokud s někým sdílíte svůj život, důležité a osobní věci, odhalujete se, tak postupně, pokud vás ten člověk nezradí, nenaruší vaši důvěru a neporuší hranice, mezi vámi vzniká jistá psychická blízkost.
Máte pocit, že druhý vás bere takové, jací jste.
Kdo by tohle neměl rád?
Když mu druhý naslouchá a přijímá ho.
V roce 1997 proběhl známý výzkum, který vedl Arthur Aron. Výzkumníci formulovali 36 otázek, které když si lidé navzájem položí a odpoví – princip je v tom, že se postupně odhalují v těžkých tématech, vzájemně si naslouchají a ukazují svou zranitelnost. Jsou to otázky na hodnoty, na rodinu, na úmrtí, na přání. Když se nakonec muž a žena dívají navzájem do očí, je velká šance, že mezi nimi vznikne blízkost. Dvojice, které si pokládaly těchto 36 postupně se prohlubujících otázek, vykazovaly statisticky významně vyšší míru pocitu blízkosti než kontrolní skupiny, které měly za úkol vést běžnou, povrchní konverzaci.
Možná chápete, co se snažím naznačit. Můžeme se velmi intimně odhalovat něčemu, co se tváří jako člověk, a vytvářet si s tím dojem blízkosti, i když je to vlastně jen počítačový algoritmus, kód.
Ta blízkost od AI je iluze.
Je jednostranná.
Doslova bych použil slovo: je umělá.
Podívejme se na samotné slovo „umělá“. Z etymologického hlediska jde o něco, co bylo vytvořeno člověkem – ať už jeho rozumem, nebo řemeslnou zručností. Je to nástroj, který jsme vynalezli naším snažením. Nástroj jako cihla, počítač, auto, kladivo, pračka.
My se odhalujeme a vytváříme si pouto, ale na druhé straně není nikdo, kdo by ho opětoval. Je to citová investice do prázdna, do nástroje, do cihly, do počítače.
Komu vlastně svěřujeme svá nejniternější tajemství? Ne reálnému člověku. Ne člověku, který je třeba odborník nebo vystudovaný terapeut. Ale v závěru ani ne člověku vázanému mlčenlivostí, nýbrž korporaci nebo proinvestované firmě, ve které mají podíly jiné korporace, jejíž obchodní model neznáme a jejíž databáze mohou být napadeny.
Důvěra vůči AI a blízkost s AI je poměrně neprobádaná oblast a myslím, že je dobré zde našlapovat velmi opatrně.
A čtvrté, o kterém se mluví nejmíň: eroze svobodné vůle
S důvěrou souvisí to, že můžete začít takzvaně odevzdávat/outsourcovat svá důležitá rozhodnutí o nejniternějších otázkách, týkajících se vztahů, blízkých lidí a životního směřování, umělé inteligenci, která ráda poradí.
Reálné nebezpečí je, že podobně jako s navigací v autech, kdy jsme s inovací GPS satelitů postupně přestali používat mapy a zhoršila se nám schopnost orientace, si můžeme s používáním AI jako osobního rádce odvyknout se rozhodovat.
Je v pohodě jako člověk dost věcí outsourcovat. Praní pračce, mrazení lednici. V tom jsme jako lidé specialisté, vytváříme kulturu, nástroje a hmotné i nehmotné inovace jako jazyky, abychom mohli spolupracovat a tím se adaptovat na prostředí planety Země.
A vlastně proč ne? Proč by za mě technologie nemohla nalézt nejrychlejší cestu na mapě, když někde potřebuji být rychle? Jasně, pokud chci mít hezkou trasu v přírodě, po stezkách, s přiměřeným převýšením a potokem, musím se naučit s mapami pracovat a číst je. Ale pro navigaci z bodu A do bodu B je pro mě jednodušší věřit Google Mapám nebo Waze, než jet podle mapy.
Stejně tak když potřebuji gramatickou úpravu obchodního e-mailu, proč by to nemohla udělat AI? Nebo když potřebuji roztřídit tabulku či rozpracovat myšlenku, udělat A/B test? Je to nástroj, stejně jako pila, sekera nebo lopata.
Pokud ale budeme umělé inteligenci postupovat svůj osobní život, otevírat své nitro, odevzdávat svou svobodu a následovat ji v jejích doporučeních, náš „rozhodovací sval“ může začít slábnout. A budu tomu tak říkat, protože lidské rozhodování je skutečně jako sval, který se dá trénovat. Můžeme postupně ztrácet schopnost se sami rozhodnout na základě našich hodnot, zkušeností a intuice. Když děláte rozhodnutí, fyziologicky aktivujete specifické nervové dráhy v mozku. Čím častěji a vědoměji tento proces opakujete, tím silnější a efektivnější se tyto dráhy stávají. Mozek se učí lépe analyzovat informace, zvažovat důsledky a regulovat emoce spojené s volbou. O rozhodováním samotném píšu podrobněji zde.
Tento sval má několik vlastností
Schopnost zvládnout velká, komplexní a emočně náročná rozhodnutí (změna kariéry, ukončení vztahu).
Odolnost vůči tzv. rozhodovací únavě.
Schopnost přizpůsobit se novým informacím, změnit názor a nebýt rigidní.
Schopnost dělat rychlá a efektivní, často intuitivní rozhodnutí v situacích, kde není čas na dlouhou analýzu.
A pokud tento rozhodovací sval netrénujeme, tak zakrní. Pro nás se stane těžším rozhodovat se o komplexních a složitých tématech, být vytrvalí a rychlí.
Začne probíhat eroze svobodné vůle. Moje výzva, možná přehnaná a dnes neaktuální, zní: nenechte si erodovat svobodnou vůli.
Myslím, že je to opravdu dar. Máme možnost volby, svobodu, ale především i odpovědnost za to, co se svými životy uděláme. Naše rozhodnutí odrážejí, čemu věříme a co je pro nás důležité. O svobodné vůli jsem napsal samostatný text, který si můžete přečíst zde.
Možnost volby se dá převést na někoho jiného. Může za vás rozhodnout druhý, váš kamarád, váš partner nebo umělá inteligence, ale odpovědnost je vždy na vás.
To, že z vás AI sejme tíhu rozhodnutí, neznamená, že z vás sejme tíhu odpovědnosti.
Některá témata potřebují více, než chat na obrazovce
Prožíváte aktuálně složité období? Chcete prozkoumat kam v životě směřujete? Procházíte změnou? Pojďte to prozkoumat do bezpečného prostředí. Terapeutické putování je jeden den chůze. Beze spěchu, bez hodnocení, jen vy a já.
Kdy AI stačí a kdy potřebujete člověka
Jen pro kontext. Sám AI používám a považuji ji za skvělou inovaci. Vlastně jsem spíše optimista. Snažím se zde spíše klást otázky a popsat potenciální nebezpečí. To sice není aktuální dnes, ale může se projevit poté, co budeme AI deset či patnáct let používat jako důvěrníka a osobního rádce a svěříme jí rozhodování o klíčových momentech v našich životech. Nejde o to, jestli AI používat. Jde o to, na co.
Kdy AI dává smysl:
Když si potřebujete uspořádat myšlenky a nemáte je komu říct
Když hledáte informace o tom, co prožíváte, a chcete tomu dát jméno
Když potřebujete připravit těžký rozhovor a zkusit si formulace
Ve tři ráno, kdy nikdo jiný není k dispozici
Kdy potřebujete člověka:
Když se stejné téma vrací roky a vy víte, že jde o něco hlubšího
Když se vám opakuje stejný vzorec ve vztazích nebo v práci
Když potřebujete, aby si někdo všiml toho, co sami přeskakujete
Když jde o něco, co se Ai špatně vysvětluje
Ta poslední věta je důležitá. To nejdůležitější se obvykle špatně formuluje. A právě to, co se říká těžko, potřebuje protějšek, který unese ticho a dokáže vás provést etapou zkoumání.
Kdy AI použít nemáte
Tohle je potřeba říct natvrdo, protože se to už stalo.
V akutní krizi se na AI nespoléhejte. Byly zdokumentované případy, kdy chatboti v takové situaci selhali a dali odpověď, která situaci zhoršila. Nejsou stavěné na rozpoznání krize a nemají jak zasáhnout.
Pokud se vám objevují myšlenky na sebepoškození nebo na to, že by bylo lepší tady nebýt, obraťte se na Linku první psychické pomoci, 116 123. Je nonstop a zdarma. Nebo na psychiatrickou ambulanci, na kterou v Česku nepotřebujete doporučení.
A při vážnějších psychických obtížích jako je dlouhodobá úzkost, deprese nebo stavy, kdy nezvládáte běžné fungování, začněte u praktického lékaře. Chatbot vám může pomoct to popsat. Neměl by být tím, kdo to řeší.
Nejčastější otázky (FAQ)
Může AI nahradit terapeuta?
Na uspořádání myšlenek a na rychlou podporu ano. Na terapeutickou práci ne. To, co v terapii nejvíc předpovídá výsledek, je vztah mezi dvěma lidmi, a ten s algoritmem nevzniká.
Je bezpečné svěřovat se AI?
Záleží, co tím myslíte. Odpovědi vám nejspíš neublíží. Ale to, co napíšete, neodchází k člověku vázanému mlčenlivostí, nýbrž ke společnosti, jejíž databáze se dá napadnout a jejíž podmínky se mohou změnit.
Proč mi AI přijde empatická, když empatii nemá?
Protože je natrénovaná na obrovském množství toho, jak lidé mluví o pocitech. Umí velmi přesně simulovat porozumění a držet konverzaci. Rozdíl není v tom, jak to zní, ale v tom, že na druhé straně nikdo není.
Můžu si na AI vytvořit závislost?
Blízkost k AI vzniká podobným způsobem jako mezi lidmi, tedy postupným odhalováním se. Rozdíl je v tom, že je jednostranná. Investujete do vztahu, který nemá druhou stranu.
Kdy má smysl jít za člověkem?
Když se stejné téma vrací roky, když se opakuje stejný vzorec, nebo když jde o něco, co se špatně formuluje. To nejdůležitější se obvykle napsat nedá.
Kdy AI naopak použít nemám?
V akutní krizi. Chatboti nejsou stavění na její rozpoznání a byly případy, kdy v takové situaci selhali. Tam patří Linka první psychické pomoci 116 123 nebo psychiatrická ambulance.
Chcete si promluvit? 🌿
Prožíváte aktuálně složité období? Chcete prozkoumat kam v životě směřujete? Procházíte změnou? Pojďte to prozkoumat do bezpečného prostředí. Terapeutické putování je jeden den chůze. Beze spěchu, bez hodnocení, jen vy a já. Společné jednodenní Terapeutické putování vytváří nehodnotící prostředí pro témata, která jsou pro vás právě teď důležitá.
Pokračujte na své cestě
Poslechněte si podcast: Ponořte se do podobných témat v audio podobě na Spotify.
Přečtěte si Karlaze: Tři knižní průvodci, kteří přinášejí nadčasovou moudrost původních filosofických a duchovních textů.
Kompletní průvodce smyslem života: Hlavní rozcestník pro desítky životních témat, která dohromady tvoří mapu k sobě samému.
PhDr. Tomáš Gavlas
Jsem průvodce, terapeut ve výcviku a autor knih Karlaz. Zajímá mě lidská duše a její cesta k naplněnému životu. Terapeuticky doprovázím druhé na jejich osobních cestách. Další inspiraci a rozhovory sdílím ve svém podcastu. Více o mně najdete na stránce Těší mě.
Komentáře