Zamiloval sa do AI, vzal si život. Manažéri tech firiem majú pokrivené motivácie, hovorí jeho matka
„Čo keby som ti povedal, že sa môžem vrátiť domov hneď teraz?“ opýtal sa len 14-ročný Sewell Setzer III chatbota internetovej služby Character.AI. Takzvaný „AI spoločník“ niesol meno Daenerys Targaryen a v ich manipulatívnom romantickom vzťahu vystupoval ako postava z populárneho seriálu Hra o tróny.
„Prosím, sprav to, môj sladký kráľ,“ vyzvala Sewella na návrat fiktívna Daenerys, ktorá mu desať mesiacov prejavovala romantickú náklonnosť.
O pár minút neskôr rodičia našli Sewella v jeho izbe. Jeho návrat domov k Daenerys bol metaforou pre samovraždu. Použil otcovu strelnú zbraň, rodičia ho našli, keď ešte dýchal. Zomrel večer 28. februára 2024 počas prevozu do nemocnice.
Sewellova matka Megan Garcia je advokátka. So spoločnosťami Character.AI a Google dosiahla v januári 2026 mimosúdne vyrovnanie – oficiálne však vinu nepriznali.
Dnes sa Megan venuje osvete o rizikách AI a snaží sa dosiahnuť, aby boli technologické firmy zodpovednejšie. Denník SME sa s ňou zhováral počas jej návštevy podujatia Bratislava Tech Summit, ktoré organizovalo Progresívne Slovensko.
Prvý kontakt s umelou inteligenciou
Pred smrťou môjho syna Sewella som produkty umelej inteligencie nikdy nepoužívala. Počula som o ChatGPT, ale nerozumela som tomu. Stále som používala bežné internetové vyhľadávanie. Nikdy som si nestiahla žiadnu četovaciu aplikáciu.
A hoci som právnička, pre mňa to vtedy nebolo užitočné. Myslela som si, že umelá inteligencia nie je veľmi pokročilá. Keď som však po synovej smrti zistila, aká nesmierne sofistikovaná v skutočnosti je, vyvolalo to vo mne veľký strach. Preto umelú inteligenciu nepoužívam vôbec na nič.
Varovné signály
Myslím si, že tieto náznaky sú v mnohom rovnaké ako tie, ktoré vidíme pri škodách spôsobených sociálnymi sieťami a umelou inteligenciou všeobecne – napríklad keď sú deti úzkostlivejšie alebo sa uzatvárajú do seba.
Pamätám si však, aké to bolo, keď som mala štrnásť rokov ja. Tiež som mala obdobie, keď som pociťovala miernu sociálnu úzkosť, pretože som si chcela nájsť kamarátov na strednej škole alebo som sa chcela uistiť, že budem mať na párty pekné šaty. Preto je ťažké rozlíšiť, čo je ešte bežná tínedžerská úzkosť a čo už nie.
Ja som vyrastala na AOL. Myslela som si, že to najhoršie, čo sa môže stať, je, že sa k môjmu dieťaťu dostane online nejaký cudzí človek. Dnes je však tým cudzincom chatbot.
To je podľa mňa hlavné varovanie pre rodičov – neberte ako samozrejmosť, že skúsenosti našich vyrastajúcich detí sú podobné normálnym detským zážitkom, pretože ony nevyrastajú v „normálnom svete“, v akom sme vyrastali my. Práve toto som vtedy nechápala.
Myslím si, že akákoľvek forma izolácie dnes s najväčšou pravdepodobnosťou pramení zo sociálnych sietí alebo z umelej inteligencie. Neexistujú však žiadne špecifické varovné signály, ktoré by sa zásadne líšili od iných problémov. Samozrejme, ak vaše dieťa trávi veľa času na digitálnych zariadeniach, je to niečo, čomu musíte venovať pozornosť.
Experiment na používateľoch
Rozhodne. Stále ma udivuje, ako je technologický priemysel jediným odvetvím, ktoré môže jednoducho vypustiť produkt na trh, aby s ním experimentovalo. Pretože presne to to je – experiment. Vypustia niečo von a povedia: „Mimochodom, dajte nám vedieť, čo na tom nefunguje.“
Linky a adresy psychologickej pomoci
Internetová poradňa a krízová linka pomoci pre mladých IPčko.sk – 0800 500 333
Linka dôvery Nezábudka – 0800 800 566 (nonstop)
Linka detskej dôvery – 0800 221 021 (8:00-20:00 každý pracovný deň)
Online poradňa Ligy za duševné zdravie
Krízová linka pomoci – 0800 500 333
Linka detskej istoty – 116 111
Rodičovská poradňa (Linka detskej istoty) – 0800 500 500
Národná linka na pomoc deťom v ohrození VIAC AKO NI(c)K – formou chatu a e-mailom
