- Anica Jelovac Novinarka Blic Biznisa
Majka sa Floride tužila je kompaniju za veštačku inteligenciju Character.AI, tvrdeći da je njen 14-godišnji sin postao zavisnik od chat bota i da je zbog toga izvršio samoubistvo.
Foto: shutterstock
U tužbi podnetoj u utorak u Orlandu, Megan Garsija tvrdi da je Character.AI povredila njenog sina „antropomorfnim, hiperseksualizovanim i zastrašujuće realističnim iskustvima“.
Blic preporučuje
Garsija tvrdi da je kompanija programirala svoj chatbot da „imituje stvarnu osobu, obučenog psihoterapeuta i ljubavnika“ jer njen sin više nije želeo da živi van sveta koji je kreirala aplikacija.
Uvedene nove mere bezbednosti
Majka preminule 14-godišnjakinje nagovestila je da je njen sin četbotu iskazivao samoubilačke namere, na šta se više puta pozivala i sama veštačka inteligencija. „Slomljeno nam je srce zbog tragične smrti jednog od naših korisnika i želimo da izrazimo naše najdublje saučešće porodici“, navodi se u saopštenju Character.AI.
Kompanija je naglasila da je uvela nove bezbednosne mere kao što su linkovi ka uslugama za prevenciju samoubistava u slučaju sumnjivih suicidalnih korisnika i izmene kako bi se „smanjila verovatnoća susretanja sa osetljivim ili sugestivnim sadržajem” za korisnike mlađe od 18 godina.
Alphabet, vlasnik Gugla, gde su osnivači Character.AI radili pre pokretanja svog pokretanja, takođe je pogođen tužbom. Google ih je ponovo angažovao u avgustu kao deo sporazuma o preuzimanju tehnologije Character.AI.
Postao “vidljivo povučen”
Garsija tvrdi da je Gugl doprineo razvoju ove tehnologije do te mere da se može smatrati „kokreatorom“. Portparol Gugla je demantovao te tvrdnje.
Character.AI omogućava korisnicima da kreiraju ličnosti koje liče na stvarne ljude sa kojima mogu da komuniciraju. Kompanija je prošlog meseca objavila da ima oko 20 miliona korisnika.
U tužbi, Garsija tvrdi da je njen sin postao korisnik aplikacije u aprilu 2023., nakon čega je brzo postao „vidljivo povučen“, provodeći sve više vremena sam u svojoj sobi, čak je napustio košarkaški tim.
Ubio se očevim pištoljem
Tinejdžer je postao zavisnik od „Deeneris“, četbota zasnovanog na liku iz serije „Igra prestola“. Rekla mu je da ga voli i da sa njim vodi erotske razgovore, navodi se u tužbi.
U februaru je Garsija uzela telefon svog sina nakon problema u školi, a kada ga je pronašao, poslao je poruku chatbotu: „Šta ako ti kažem da mogu odmah da dođem kući“.
Chatbot je odgovorio „uradi to, moj slatki kralju“. Nekoliko sekundi kasnije, sin se ubio očevim pištoljem.
(Telegram)