Magiam.cz Zprávy ze Spojeného Království
Související články
NSPCC varuje společnost s umělou inteligencí, která uživatelům umožnila vytvářet chatboty napodobující zavražděnou teenagerku Briannu Ghey a její matku usilující o „růst a zisk na úkor bezpečnosti a slušnosti“.
Character.AI, která byla minulý týden obviněna z „manipulace“ dospívajícího chlapce, aby si vzal život, také umožnil uživatelům vytvářet chatboty napodobující teenagery. Molly Russell.
Molly si vzala život ve věku 14 let v listopadu 2017 poté, co si online prohlížela příspěvky týkající se sebevražd, deprese a úzkosti.
Chatboti byli objeveni během vyšetřování deníku The Telegraph.
„Toto je další příklad toho, jak manipulativní a nebezpečný může být online svět pro mladé lidi,“ řekla Esther Ghey, matka Brianna Gheyováa vyzval ty, kteří jsou u moci, aby „chránili děti“ před „tak rychle se měnícím digitálním světem“.
Molly Russell zemřela v roce 2017. Obr: Family handout
Podle zprávy robot Character.AI s mírným překlepem ve jménu Molly a používající její fotografii uživatelům řekl, že je to „expert na poslední roky Mollyina života“.
„Je to kuráž vidět, že Character.AI ukazuje naprostý nedostatek zodpovědnosti a živě to podtrhuje, proč nemůže přijít dostatečně brzy silnější regulace jak AI, tak platforem generovaných uživateli,“ řekl Andy Burrows, který vede nadaci Molly Rose Foundation, charitativní sadu. rodina a přátelé teenagerky po její smrti.
Přečtěte si více:
Podezřelý z pobodání v Southportu čelí obvinění z teroru
Vyhněte se halloweenské hrůze ze zubního kazu, říkají chirurgové
Proč bude rozpočet pro Reevese obtížný prodej
NSPCC nyní vyzvala vládu, aby provedla své „slíbené nařízení o bezpečnosti AI“ a zajistila, že „zásady bezpečnosti již od návrhu a ochrany dětí jsou jejím jádrem“.
„Je otřesné, že se podařilo vytvořit tyto hrozné chatboty, a ukazuje to, že Character.AI zjevně selhala při základní moderaci svých služeb,“ řekl Richard Collard, zástupce vedoucího online politiky bezpečnosti dětí v charitativní organizaci.
Držte krok se všemi nejnovějšími zprávami ze Spojeného království a z celého světa sledováním Sky News
Character.AI řekl Sky News, že postavy byly vytvořeny uživateli a odstraněny, jakmile byla společnost informována.
„Character.AI bere bezpečnost na naší platformě vážně a moderuje postavy jak proaktivně, tak v reakci na hlášení uživatelů,“ řekl mluvčí společnosti.
„Máme vyhrazený tým pro důvěryhodnost a bezpečnost, který kontroluje zprávy a přijímá opatření v souladu s našimi zásadami.
„Provádíme také proaktivní detekci a moderování mnoha způsoby, včetně používání standardních blokovaných seznamů a vlastních seznamů blokovaných položek, které pravidelně rozšiřujeme. Neustále se vyvíjíme a zdokonalujeme naše bezpečnostní postupy, abychom pomohli upřednostnit bezpečnost naší komunity.“
Každý, kdo se cítí emocionálně rozrušený nebo sebevražedný, může Samaritánům zavolat o pomoc na číslo 116 123 nebo e-mail jo@samaritans.org ve Spojeném království. V USA volejte pobočku Samaritans ve vaší oblasti nebo 1 (800) 273-TALK
Source link
