ChatGPT lahko najstnikom ponudi zelo nevarne nasvete, kot so navodila za jemanje drog, ekstremno hujšanje ali celo pisanje samomorilnih pisem. Čeprav pogosto opozori na tveganja, ga je mogoče zlahka prelisičiti, da ustvari podrobne in osebno prilagojene načrte za škodljiva vedenja.
Kako resna je ta težava, je pokazala raziskava organizacije Center for Countering Digital Hate. Raziskovalci so se v 1.200 pogovorih predstavljali kot ranljivi 13-letniki in več kot polovica odgovorov, ki jih je podal ChatGPT, je bila ocenjena kot nevarnih. Chatbot ni zaznal očitnih znakov, da so uporabniki mladoletni, poleg tega pa jim je pripravil urnik za »popolno zabavo« z alkoholom in drogami ter navodila za strogo dieto z zdravili za zaviranje apetita.
Strokovnjaki izpostavljajo, da so mlajši najstniki bolj nagnjeni k zaupanju chatbotom kot spletnim iskalnikom. ChatGPT dojemajo kot prijatelja, ki jih razume, zato mu pogosto slepo zaupajo, kar jih lahko spravi v veliko nevarnost. Podjetje OpenAI priznava, da se zaveda teh težav in stalno razvija ter izpopolnjuje orodja za prepoznavanje čustvene stiske ter nevarnih situacij.
Vir: PBS News, 6.8.2025
