Učitelé poskytovali nové pokyny při řešení materiálu sexuálního zneužívání dětí generovaného AI | Věda, klima a technické zprávy

Pokyny, jak se vypořádat s materiálem sexuálního zneužívání dítěte (CSAM) generovaného AI (CSAM), byly vydány 38 000 učitelům a zaměstnancům po celé Velké Británii.

Pokyny jsou pokusem pomoci lidem pracovat s dětmi řešit „vysoce znepokojující“ nárůst CSAM generovaného AI.

Byly vydány National Crime Agency (NCA) a Internet Watch Foundation (IWF).

Obsah generovaný umělou inteligencí je ve Velké Británii nezákonný a je s ním zacházeno stejně jako s jakýmkoli jiným snímkům sexuálního zneužívání dětí, i když snímky nejsou fotorealistické.

„Vzestup snímků sexuálního zneužívání dětí generovaných AI je velmi znepokojivý a je nezbytné, aby každá rameno společnosti udržovala krok s nejnovějšími online hrozbami,“ uvedl ministr pro ochranu Jess Phillips.

„Sexuální zneužívání dítěte generovaného AI je nezákonné a víme, že aktivity nemocných predátorů online často vedou k tomu, že provádějí osobně nejstrašnější zneužívání.

„Nedovolíme, aby byla technologie narušena proti dětem a nebudeme váhat jít dále, abychom chránili naše děti online,“ řekla.

Pokyny naznačují, že pokud mladí lidé používají AI k vytváření nahých obrázků z obrázků druhé druhé – známé jako nudifikace – nebo vytvářejí CSAM generující AI, nemusí si být vědomi, že to, co dělají, je nezákonné.

Nudifikace je, když je upraven neexplicitní obrázek někoho, aby se zdálo nahý a je stále běžnější v případech „Sextation“ – když je někdo vydírán s explicitními obrázky.

„Tam, kde do 18 let vytváří AI-CSAM, si mohou myslet, že je to„ jen vtip “nebo„ žertovat “, nebo tak učinit s úmyslem vydírání nebo poškození jiného dítěte,“ navrhuje pokyny.

„Mohou nebo nemusí rozpoznat nezákonnost nebo vážný, trvalý dopad, jejich jednání může mít na oběť.“

V loňském roce NCA zkoumala učitele a zjistila, že přes čtvrtinu nebyla vědoma AI generovaného CSAM je nezákonná, a většina si nebyla jistá, aby si jejich studenti byli vědomi.

Více než polovina respondentů uvedla, že pokyny jsou jejich nejvíce naléhavě potřebným zdrojem.

IWF zaznamenala rostoucí množství CSAM generovaného AI, protože prohledává internet a zpracovává o 380% více zpráv o zneužívání v roce 2024 než v roce 2023.

„Vytváření a distribuce ai-manipulovaných a falešných sexuálních snímků dítěte může mít ničivý dopad na oběť,“ řekl Derek Ray-Hill, dočasný generální ředitel IWF.

Přečtěte si více od Sky News:
Hlavní pornografické weby zavedení „robustního“ ověření věku pro uživatele Spojeného království
Lékaři používající neschválené AI k zaznamenávání schůzek pacienta
Uživatelé Minecraftu zacílení kybernetickými zločinci

„Lze jej použít na vydírání a vydírání mladých lidí. Nelze pochybovat o tom, že je způsobena skutečnou škodou a schopnost vytvořit tento typ snímků rychle a snadno, dokonce i prostřednictvím aplikace na telefonu, je skutečnou důvodem k obavám.“

Do vězení bylo zasláno více pedofilů za použití umělé inteligence k vytvoření obrazů sexuálního zneužívání dětí v posledních letech.

Loni, Hugh Nelson byl odsouzen na 18 let ve vězení Pro vytvoření CSAM generovaného AI, že policisté byli schopni propojit se se skutečnými dětmi.

„Řešení sexuálního zneužívání dětí je pro NCA a naše policejní partnery prioritou a budeme i nadále vyšetřovat a stíhat jednotlivce, kteří produkují, mají, sdílejí nebo hledají CSAM, včetně CSAM generovaného AI,“ řekl Alex Murray, ředitel NCA pro vedení a policingu a policingu na umělé informace.

V únoru vláda oznámila, že nástroje AI určené k generování materiálu zneužívání sexu učiněno nelegálními podle „světového“ legislativy.

Mezitím však aktivisté požadovali, aby učitelé byly vydány pokyny.

Laura Batesová, autorka knihy o šíření online misogyny, řekla Poslanci začátkem tohoto měsíce Tato pornografie Deepfake „by byla další velká epidemie sexuálního násilí, která čelí školám, a lidé ani nevědí, že se to děje.“

„Nemělo by to být tak, že dvanáctiletý chlapec může snadno a volně přistupovat k nástrojům k vytvoření těchto forem obsahu na prvním místě,“ řekla.