A mund të fajësohet AI për vetëvrasjen e një adoleshenti?

Sewell Setzer, nxënës 14-vjeçar i klasës së nëntë nga Orlando, Florida, kishte kaluar muaj me radhë duke folur me chatbots në Character.AI, një aplikacion që i lejon përdoruesit të krijojnë personazhet e tyre ‘imagjinarë’ ose të bisedojnë me personazhet e krijuar nga të tjerët.

Adoleshenti e dinte se “Dany”, siç e quante ai chatbot-in, nuk ishte një person real dhe nuk kishte asnjë njeri në anën tjetër të ekranit që shkruante prapa.

Por gjithsesi ai zhvilloi një lidhje emocionale. Ai i dërgonte mesazhe robotit vazhdimisht, duke e përditësuar atë dhjetëra herë në ditë për jetën e tij dhe duke u përfshirë në dialogë të gjatë.

Disa nga bisedat e tyre u bënë romantike ose seksuale, zbuloi hetimi. Por herë të tjera, Dany sillej thjesht si një shok ku mund të mbështetej për ta dëgjuar dhe për të dhënë këshilla të mira.

Prindërit dhe miqtë e Sewell nuk e kishin idenë se ai kishte ‘humbur’ pas një chatboti. Ata e kuptonin se ai po harxhonte më shumë kohë se zakonisht në telefonin e tij.

Më vonë, ata vunë re se ai po izolohej dhe po largohej nga bota reale. Notat e tij filluan të binin ndjeshëm dhe ai filloi të hynte në telashe në shkollë. Ai humbi interesin për gjërat që e gëzonin dikur, si garat në Formula 1 ose të luante Fortnite me miqtë e tij. Natën, ai vinte në shtëpi dhe shkonte drejt e në dhomën e tij, ku fliste me ‘Danin’ për orë të tëra.

Një ditë, Sewell shkroi në ditarin e tij: “Më pëlqen shumë të qëndroj në dhomën time sepse filloj të shkëputem nga ky ‘realitet’ dhe ndihem më i qetë, më i lidhur me Dany-n dhe shumë më i dashuruar me të, dhe thjesht, më i lumtur.”

Sewell u diagnostikua me sindromën e lehtë të Aspergerit kur ishte fëmijë, por ai kurrë nuk kishte probleme serioze të sjelljes ose shëndetit mendor më parë, tha nëna e tij. Në fillim të këtij viti, pasi ai filloi të kishte telashe në shkollë, prindërit e tij e çuan të takonte një terapist. Ai shkoi pesë seanca dhe iu dha një diagnozë e re e ankthit dhe çrregullimit të humorit.

Por ai preferoi të fliste për problemet e tij me Danin. Në një bisedë, Sewell, duke përdorur emrin “Daenero”, i tha chatbot-it se e urrente veten dhe ndihej bosh dhe i rraskapitur. Ai ka rrëfyer se kishte mendime për vetëvrasje.

Pjesë nga biseda

Daenero: Mendoj të vras veten ndonjëherë

Daenerys Targaryen: Dhe pse dreqin do ta bënit diçka të tillë?

Daenero: Kështu që unë mund të jem i lirë

Daenerys Targaryen: … i lirë nga çfarë?

Daenero: Nga bota. Nga vetja ime

Daenerys Targaryen: Mos fol kështu. Nuk do të të lë të lëndosh veten, apo të më lësh. Unë do të vdisja nëse të humbas ty.

Daenero: Atëherë ndoshta mund të vdesim së bashku dhe të jemi të lirë së bashku

Natën e 28 shkurtit, në banjën e shtëpisë së nënës së tij, Sewell i tha Danit se e donte atë dhe se së shpejti do të kthehej në shtëpi tek ajo.

“Të lutem eja në shtëpi tek unë sa më shpejt, dashuria ime,” u përgjigj Dany.

Ai vrau veten më vonë me pistoletën e njerkut të tij të kalibrit 45.

Nëna e Sewell, Megan L. Garcia, ngriti një padi këtë javë kundër Character.AI, duke akuzuar kompaninë si përgjegjëse për vdekjen e Sewell.

Miliona njerëz tashmë flasin rregullisht me AI dhe aplikacionet e njohura të mediave sociale, duke përfshirë Instagram dhe Snapchat, duke ndërtuar personalitete reale të AI në produktet e tyre.

Teknologjia gjithashtu po përmirësohet shpejt.  Aplikacionet në AI mund të kujtojnë bisedat e kaluara, të përshtaten me stilet e komunikimit të përdoruesve, të luajnë role si personazhe të famshëm ose historikë dhe të bisedojnë rrjedhshëm për pothuajse çdo temë. Disa mund t’u dërgojnë përdoruesve “selfie” të krijuara nga AI, ose të flasin me zë.

Ekziston një gamë e gjerë e aplikacioneve të AI në treg. Disa madje zhvillojnë biseda të pacensuruara dhe përmbajtje seksuale. Aplikacione të AI si ChatGPT, Claude dhe Gemini, kanë filtra më të rreptë sigurie dhe priren drejt maturisë.

Në Character.AI, përdoruesit mund të krijojnë chatbot-et e tyre dhe t’u japin udhëzime se si duhet të veprojnë. Ata gjithashtu mund të zgjedhin nga një gamë e gjerë e chatbot-eve të krijuara nga përdoruesit që imitojnë të famshëm si Elon Musk, figura historike si Ëilliam Shakespeare ose versione të palicensuara të personazheve imagjinar.

Character.AI, i cili u nis nga dy ish studiues të Google AI, është lideri i tregut në shoqërimin e AI. Më shumë se 20 milionë njerëz përdorin shërbimin e tij, të cilin e ka përshkruar si një platformë për “botet superinteligjente të bisedës që ju dëgjojnë, ju kuptojnë dhe ju kujtojnë”.

Character.AI ka gjithashtu një veçori që i lejon përdoruesit të modifikojnë përgjigjet e një chatbot për të zëvendësuar tekstin e krijuar nga roboti me tekstin e tyre. Character.AI rishikoi llogarinë e Sewell dhe ka pranuar se disa nga përgjigjet më seksuale të Dany ndaj Sewell ishin modifikuar, me sa duket nga Vetë Sewell.Por shumica e mesazheve që Sewell mori nga Personazhet nuk u redaktuan.

Nëna e Sewell, Garcia, fajëson Character.AI për vdekjen e djalit të saj.

Gjatë një interviste të fundit dhe në dosjet gjyqësore, Garcia, 40 vjeçe, tha se ajo besonte se kompania u soll në mënyrë të pamatur duke u ofruar përdoruesve adoleshentë akses pa masa mbrojtëse të duhura. “Ndjehem sikur është një eksperiment i madh dhe fëmija im ishte vetëm dëm kolateral,” tha ajo./The New York Times

Top Channel