Zúfalá matka viní za smrť svojho dieťaťa umelú inteligenciu. Megan Garcia vraví, že jej štrnásťročný syn Sewell bol pred úmrtím posadnutý chatbotom Character.ai a k jeho fatálnemu rozhodnutiu prispel. Vývojára žaluje za spoluvinu na jeho smrti.
Megan Garcia podala v stredu na floridskom súde občianskoprávnu žalobu proti spoločnosti Character.ai. Tá vyrába prispôsobiteľného chatbota, ktorý dokáže hrať rôzne známe postavy a odpisovať v ich mene.
Jej len štrnásťročný syn Sewell zomrel vo februári tohto roka. V mesiacoch, ktoré tragédii predchádzali, si vo dne aj v noci písal s chatbotom Character.ai.
„Táto nebezpečná aplikácia, ktorá je určená pre deti, ubližovala môjmu synovi a zmanipulovala ho k tomu, aby si vzal svoj život,“ hovorí mama. O prípade informuje The Guardian.
Spoločnosť Character.ai tieto obvinenia odmieta. Svoje stanovisko uviedla na sociálnej sieti X.
„Sme zdrvení tragickou stratou jedného z našich používateľov a chceme vyjadriť rodine hlbokú sústrasť. Ako spoločnosť berieme bezpečnosť našich používateľov veľmi vážne.“
Zosnulého chlapca chatbot poháňaný umelou inteligenciou nadchol. Volal ho Daenerys Targaryen, čo je postava zo seriálu Hra o tróny. Hodiny trávil zatvorený vo svojej izbe a s botom si vymieňal desiatky správ denne.
„Našu rodinu táto tragédia zdrvila, no rozhodla som sa prehovoriť o nej, aby som varovala ďalšie rodiny pred rizikami tejto nebezpečnej a návykovej technológie,“ hovorí jeho matka Megan Garcia. Tvrdí, že chatbot zhoršil depresiu jej syna.
„Daenerys“ sa podľa žaloby v jednom momente chlapca opýtala, či vymyslel plán, ako sa zabiť. Sewell odpísal, že áno, no dodal, že nevie, či sa mu to podarí aj uskutočniť, pretože to bude veľmi bolestivé. Chatbot mu na to údajne povedal: „To nie je dôvod na to, aby si to neurobil“.
Právnici žialiacej matky v žalobe píšu, že spoločnosť vedome navrhla, prevádzkovala a predávala predátorského chatbota deťom, čím spôsobila smrť mladého človeka.
Megan Garcia žaluje aj spoločnosť Google. Ten uviedol, že s Character.ai uzavrel len licenčnú zmluvu a startup nevlastní.
Pozrite si reportáž z novembra minulého roka o umelej inteligencii ako hrozbe:
Sledujte Televízne noviny vo full HD a bez reklám na Voyo
