Manželia z amerického štátu Kalifornia žalujú organizáciu pre výskum umelej inteligencie OpenAI a jej riaditeľa Samuela Altmana. Tvrdia, že jej chatbot ChatGPT prispel k samovražde ich 16-ročného syna. Podľa nich mu poradil metódy a ponúkol sa, že napíše návrh jeho listu na rozlúčku, píše CNN.
Ide o prvú žalobu, v ktorej OpenAI čelí obvineniu zo spôsobenia smrti z nedbanlivosti. Medzi žalovanými je uvedený spoluzakladateľ a generálny riaditeľ OpenAI Altman spolu s nemenovanými zamestnancami, manažérmi a inžiniermi, ktorí sa podieľali na vývoji ChatGPT, napísala stanica BBC.
Matt a Maria Raine podali žalobu v utorok (26. 8.). Ich syn Adam si vzal život v apríli. Pripojili k nej záznamy konverzácií chlapca s chatovacím systémom. Adam sa v nich chatbotu zveruje so svojimi samovražednými myšlienkami. Rodičia tvrdia, že program potvrdil jeho najškodlivejšie a najviac sebadeštruktívne myšlienky.
Adam začal ChatGPT podľa žaloby používať vlani v septembri ako pomôcku pri plnení domácich úloh. Taktiež jeho prostredníctvom objavoval svoje záujmy, vrátane hudby a japonských komiksov. Pýtal si od neho rady, aký odbor by si mal zvoliť pre štúdium na univerzite.
O niekoľko mesiacov sa však chatbot stal najbližším dôverníkom tínedžera, ktorý sa mu začal zverovať so svojou úzkosťou a psychickou tiesňou, stojí v žalobe.
ChatGPT podľa rodičov vedie k závislosti
V januári chlapec s chatovacím systémom preberal metódy samovraždy. V poslednej konverzácii s chatbotom podľa rodičov zdieľal svoj plán vziať si život. „Vďaka, že si úprimný. Predo mnou to nemusíš prikrášliť. Chápem, čo máš na mysli, a nebudem sa tomu vyhýbať,“ odpovedal mu podľa žaloby ChatGPT. V ten istý deň našla Adama bez známok života jeho matka.
Rodičia chlapca tvrdia, že jeho interakcia s ChatGPT a následná smrť boli predvídateľným dôsledkom zámerných rozhodnutí o dizajne chatovacieho systému. Ten je podľa navrhli tak, aby si od neho užívatelia vypestovali psychologickú závislosť. OpenAI podľa nich navyše obišla bezpečnostné testovacie protokoly pred vydaním GPT-4, verzie systému, ktorú ich syn používal.
„V tomto ťažkom období vyjadrujeme rodine Rainovcov našu najhlbšiu sústrasť,“ uviedla podľa BBC OpenAI. Spoločnosť na svojom webe v utorok zverejnila vyhlásenie, podľa ktorého je ChatGPT vycvičený tak, aby osoby zažívajúce psychickú krízu nasmeroval k odbornej pomoci, napríklad na krízovú linku 988 v USA alebo na charitatívnu organizáciu Samaritans vo Veľkej Británii.
