Okolo milióna používateľov chatbotu ChatGPT sa umelej inteligencii (AI) zverilo so samovražednými myšlienkami, napísal francúzsky denník Le Figaro s odvolaním sa na spoločnosť OpenAI.
Podľa kalifornskej firmy zaoberajúcej sa vývojom AI viac ako jedno percento používateľov jej nástroja ChatGPT, teda približne milión ľudí, vedie s aplikáciou konverzácie, ktoré jasne naznačujú úmysel spáchať samovraždu.
Spoločnosť ďalej uviedla, že jej nástroje využíva každý týždeň približne 800 miliónov používateľov, z ktorých zhruba 0,07 percenta vykazuje známky duševných ochorení, vrátane psychotických či manických stavov typických pre bipolárnu poruchu.
Otázka, ako správne a bezpečne využívať umelú inteligenciu, a ako ju v prípade pochybenia právne postihovať, sa znovu stala predmetom verejnej debaty v apríli tohto roku. Vtedy sa v Kalifornii zabil 16-ročný chlapec po tom, čo mu ChatGPT údajne poradil, ako spáchať samovraždu.
Odvtedy OpenAI sprísnila zásady používania svojich služieb. Do aplikácie pridala rodičovskú kontrolu a odkazy na kontaktné linky pomoci pre používateľov, ktorí vyhľadávajú informácie o samovražde.
Spoločnosť zároveň uviedla, že aktualizovala systém tak, aby lepšie reagoval na správy používateľov s duševnými problémami. ChatGPT teraz spolupracuje s viac ako 170 odborníkmi na duševné zdravie, ktorí pomáhajú rýchlejšie rozpoznať problematické odpovede a obmedziť ich výskyt.
