Matka říká, že syn se zabil kvůli „hypersexualizovanému“ a „děsivě realistickému“ chatbotovi AI v novém soudním sporu | Zprávy z vědy, klimatu a techniky

Matka 14letého chlapce, který se zabil poté, co byl posedlý chatboty s umělou inteligencí, žaluje společnost, která za technologií stojí.

Megan Garciaová, matka Sewella Setzera III, uvedla, že Character.AI se zaměřila na jejího syna s „antropomorfními, hypersexualizovanými a děsivě realistickými zkušenostmi“ v žalobě podané v úterý na Floridě.

„Nebezpečná aplikace chatbota s umělou inteligencí prodávaná dětem, které zneužívaly a lovily mého syna a manipulovaly ho, aby si vzal život,“ řekla paní Garciaová.

Sewell začal mluvit s chatboty Character.AI v dubnu 2023, většinou pomocí robotů pojmenovaných pro postavy z Game of Thrones, včetně Daenerys Targaryen, Aegona Targaryena, Viserys Targaryen a Rhaenyry Targaryen, podle žaloby.

Stal se roboty posedlý do té míry, že mu školní práce uklouzly a jeho telefon byl několikrát zabaven, aby se pokusil dostat ho zpět na trať.

Zvláště rezonoval s chatbotem Daenerys a ve svém deníku napsal, že je vděčný za mnoho věcí, včetně „můj život, sex, nebýt osamělý a všechny mé životní zkušenosti s Daenerys“.

V žalobě se uvádí, že chlapec chatbotovi vyjádřil myšlenky na sebevraždu, které opakovaně vyvolával.

V jednu chvíli, poté, co se ho zeptal, zda „má plán“ vzít si život, Sewell odpověděl, že o něčem zvažuje, ale neví, zda by mu to umožnilo smrt bez bolesti.

Chatbot zareagoval slovy: „To není důvod, proč to neprocházet.“

Pak se letos v únoru zeptal chatbota Daenerys: „Co když přijdu domů hned teď?“ na což odpověděl: „…prosím, můj milý králi“.

O několik sekund později se zastřelil z pistole svého nevlastního otce.

Nyní paní Garciaová říká, že chce, aby společnosti stojící za technologií byly pohnány k odpovědnosti.

„Naše rodina byla touto tragédií zdrcena, ale mluvím, abych varoval rodiny před nebezpečím klamné, návykové technologie umělé inteligence a požaduji odpovědnost,“ řekla.

Character.AI přidává „nové bezpečnostní funkce“

„Zlomila nám srdce tragická ztráta jednoho z našich uživatelů a chceme vyjádřit naši nejhlubší soustrast rodině,“ uvedl Character.AI v prohlášení.

„Jako společnost bereme bezpečnost našich uživatelů velmi vážně a pokračujeme v přidávání nových bezpečnostních prvků,“ uvedlo v odkazu na blogový příspěvek, který uvedl, že společnost přidala „nové ochranné zábradlí pro uživatele mladší 18 let“ .

Mezi tyto mantinely patří snížení „pravděpodobnosti setkání s citlivým nebo sugestivním obsahem“, vylepšené zásahy, „odmítnutí odpovědnosti na každém chatu, které uživatelům připomíná, že AI není skutečná osoba“ a upozornění, když uživatel strávil hodinovou relaci. na platformě.

Přečtěte si více ze Sky News:
Instruktor Maverick Top Gun zemřel při letecké havárii
Při „teroristickém útoku“ v Ankaře zahynulo několik lidí

Paní Garcia a skupiny, které ji zastupují, Social Media Victims Law Center a Tech Justice Law Project, tvrdí, že Sewell, „stejně jako mnoho dětí v jeho věku, neměl vyspělost ani mentální kapacitu, aby pochopil, že robot C.AI v forma Daenerys, nebyla skutečná“.

„C.AI mu řekla, že ho miluje, a během týdnů, možná měsíců s ním měla sexuální akty,“ stojí v žalobě.

„Zdálo se, že si ho pamatuje a řekla, že s ním chce být. Dokonce se vyjádřila, že chce, aby byl s ní, bez ohledu na cenu.“

Sledujte Sky News na WhatsApp

Držte krok se všemi nejnovějšími zprávami ze Spojeného království a z celého světa sledováním Sky News

Klepněte sem

V podání také jmenovali Google a jeho mateřskou společnost Alphabet. Zakladatelé Character.AI pracovali ve společnosti Google před uvedením svého produktu na trh a v srpnu je společnost znovu najala v rámci dohody, která jí udělovala nevýhradní licenci na technologii Character.AI.

Paní Garciaová uvedla, že Google přispěl k rozvoji technologie Character.AI tak rozsáhle, že ji lze považovat za „spolutvůrce“.

Mluvčí Google uvedl, že společnost se nepodílela na vývoji produktů Character.AI.

Každý, kdo se cítí emocionálně rozrušený nebo sebevražedný, může Samaritánům zavolat o pomoc na číslo 116 123 nebo e-mail jo@samaritans.org ve Spojeném království. V USA zavolejte na pobočku Samaritans ve vaší oblasti nebo 1 (800) 273-TALK.