Nástroje AI používané k generování obrázků zneužívání dětí jsou nezákonné v „světovém“ tahu | Politické zprávy

Nástroje AI určené k generování materiálu zneužívání sexuálních sexu (CSAM) budou nezákonné podle právních předpisů „světového vedení“, oznámila vláda.

Zákrok se také zaměří na každého, kdo má „pedofilní manuály AI“, které učí lidi, jak používat AI k sexuálnímu zneužívání dětí.

Přichází po varováních snímků zneužívání dětí generovaných AI se vyrábí s „rychlostí chillingu“ a je „znepokojivě realistické“.

Je již nezákonné vlastnit CSAM generovaný AI, ale nové zákony se zaměří na výrobní prostředky.

To zahrnuje:

• Je nezákonné vlastnit, vytvářet nebo distribuovat nástroje AI určené k generování CSAM, které lze trestat až pěti let vězení.
• Je pro každého nezákonné vlastnit AI „pedofilní manuály“, které učí lidi, jak používat AI k sexuálnímu zneužívání dětí, které lze trestat až tři roky ve vězení.

Jess Phillips, ministryně pro ochranu, uvedla, že Británie je „první zemí na světě“, která by legislatila pro obraty zneužívání AI.

Řekla: „Jedná se o globální problém a bude potřebovat globální řešení. Tato vláda vede cestu k tomu, aby se pokusila omezit tento strašný zločin.“

Domácí kancelář uvedla, že nástroje AI se používají k generování zneužívání obrázků v mnoha ohledech, včetně „nahá„ nahá “obrazy dětí v reálném životě nebo šití tváří jiných dětí na stávající obrazy sexuálního zneužívání dětí.

NSPCC uvedl, že jeho služba Childline slyší od dětí, které našly jejich snímky generované AI.

V jednom hovoru jim patnáctiletá dívka řekla: „Cizinec online mi udělal falešné akty. Vypadá to tak skutečné, je to moje tvář a můj pokoj v pozadí. Museli pořídit fotky z mého Instagramu a upravil je.

Pachatelé také používají falešné obrázky k vydírání dětí a nutí oběti k dalšímu zneužívání, včetně streamování živých obrázků.

Pachatelé mohou použít nástroje AI k maskování své počáteční identity a efektivněji ženicha a zneužívání dětí online, uvedla domácí kancelář.

Paní Phillipsová řekla: „Je to masivní bitva. Zde začíná. To není tam, kde to končí.“

Vláda také oznámila, že představí konkrétní trestný čin pro predátory, kteří provozují webové stránky určené pro další pedofily, aby sdíleli obsah sexuálního zneužívání dětí nebo rady o tom, jak uložit děti, které lze potrestat až 10 let vězení.

To je již nezákonné zákony o vlastnictví a distribuci, ale nový trestný čin umožní delší věty a zabrání moderátorům v pokusu o to, aby neví, co je na webu.

Spojené britské hraniční síly budou také poskytnuty novým pravomocí, aby donutily jednotlivce, o kterém mají podezření, že pro děti představují sexuální riziko pro odemknutí svých digitálních zařízení pro kontrolu.

Přečtěte si více:
Microsoft zasáhl jako výdaje AI v ostrém zaměření po šoku Deepseek Market
UK do „hlavní linie AI v žilách“ pod novými plány od Sir Keir Starmer

Pokud jde o parlament, budou zavedena všechna čtyři opatření.

Sekretářka Home Yvette Cooper uvedla: „Víme, že aktivity nemocných predátorů online často vedou k tomu, aby osobně prováděly nejstrašnější zneužívání. Tato vláda neváhá jednat tak, aby zajistila bezpečnost dětí online tím, že zajistí, že naše zákony udržují tempo s nejnovější hrozby. “

To přichází poté, co nadace Internet Watch Foundation (IWF) varovala před zvýšením obrazech sexuálního zneužívání generovaných AI.

Během 30denního období v roce 2024 analytici IWF identifikovali 3 512 obrázků AI CSAM na jediné tmavé webové stránce.

Ve srovnání s jejich analýzou 2023 se prevalence obrazů kategorie A (nejzávažnější kategorie) zvýšila o 10%.

IWF také varoval, že některé obrázky AI jsou tak realistické, že bylo těžké je odlišit od skutečného zneužívání.

Derek Ray-Hill, dočasný generální ředitel charitativní organizace, řekl: „Dlouho žádáme, aby byl zákon zpřísněn, a je potěšen, že vláda přijala naše doporučení. Tyto kroky budou mít konkrétní dopad na online bezpečnost.“