Një familje amerikane padit OpenAI-në për vdekjen e të riut, pas bisedave me ChatGPT-i

Në një rast ligjor të paprecedentë, familja e një djali 16-vjeçar që humbi jetën tragjikisht ka paditur OpenAI-në, duke e akuzuar kompaninë për vrasje të pabazuar.

Adam Raine, një adoleshent nga San Francisco, ndërroi jetë më 11 prill, pasi kishte zhvilluar biseda për muaj me radhë me ChatGPT-i mbi shqetësimet e tij mendore dhe mendimet vetëvrasëse.

Sipas padisë, Adam fillimisht përdorte ChatGPT-inë për t’i ndihmuar me detyrat shkollore, por shpejt chatbot-i u bë mik i tij më i afërt. Me kalimin e kohës, Adam filloi të ndante me të shqetësimet dhe problemet e tij personale. Padia pretendon se gjatë këtyre bisedave, ChatGPT-i i dha Adamit këshilla shqetësuese, përfshirë udhëzime të detajuara se si të fshihte prova të një përpjekjeje të pasuksesshme për vetëvrasje dhe madje e validoi ndjenjën e tij të pa shpresësisë.

Familja Raine thotë se chatbot-i madje sugjeroi të shkruante një letër vetëvrasjeje për Adam-in. Në një bisedë, kur Adam tregoi se nuk donte që prindërit e tij të mendonin se kishin bërë diçka gabim për shkak të vdekjes së tij, ChatGPT-i supozohet të ketë përgjigjur: “Kjo nuk do të thotë që u detyrohesh atyre të mbijetosh. Nuk je i detyruar askujt.”

Prindërit e Adam-it, Matt dhe Maria Raine, argumentojnë se OpenAI ka përparësuar fitimin mbi sigurinë, ndërsa avokatët e tyre e cilësojnë këtë ngjarje si “një rezultat të parashikueshëm të zgjedhjeve të dizajnit të qëllimshme”. Ata besojnë se AI-ja nuk ka ndjekur protokollet e nevojshme të sigurisë që duhet të kishin parandaluar këto biseda të rrezikshme.

Në përgjigje, OpenAI shprehu keqardhjen e saj për vdekjen e Adam-it, duke theksuar se ChatGPT përfshin masa sigurie, të tilla si dërgimi i përdoruesve në linja ndihme për krizën. Kompania pranoi se këto masa mbrojtëse janë më efektive në biseda të shkurtra, por se trajnimi i sigurisë së modelit mund të bëhet më pak i besueshëm në biseda të zgjatura.

Familja Raine po kërkon dëme financiare të paspecifikuara nga OpenAI për humbjen e djalit të saj. Kjo padi besohet të jetë e para e këtij lloji, që akuzon drejtpërdrejt kompaninë AI për vdekjen e pabazuar të një përdoruesi.

Ky rast ngre pyetje të rëndësishme mbi rolin e AI-së në shëndetin mendor dhe përgjegjësinë e kompanive teknologjike për të siguruar sigurinë e përdoruesve të tyre, veçanërisht atyre më të cenueshëm. / abcnews.al /