Umělá inteligence řídí „exploze“ falešných aktů, když oběti říkají, že je zákon selhává | Zprávy ze Spojeného království

Aktivisté varují, že používání umělé inteligence (AI) k vytváření realistických, ale falešných nahých snímků skutečných žen se „normalizuje“.

Ve školách je to také čím dál větší zájem. Nedávný průzkum společnosti Internet Matters zjistil, že 13 % teenagerů má zkušenost s nahými deepfakes, zatímco NSPCC řekl Sky News „vyvíjí se nová škoda“.

Ofcom koncem tohoto měsíce zavede kodexy praxe pro internetové společnosti, aby zasáhly proti nelegální distribuci falešných aktů, ale Sky News se setkala se dvěma oběťmi tohoto relativně nového trendu, kteří tvrdí, že zákon musí jít ještě dál.

Začátkem tohoto roku byla influencerka na sociálních sítích a bývalá soutěžící z Love Island Cally Jane Beach (33) zděšena, když zjistila, že někdo použil AI přeměnit její fotografii značky spodního prádla na nahou a ta byla sdílena online.

Původní obrázek byl nahrán na web, který používá software k digitální transformaci oděného obrázku na nahý obrázek.

Řekla Sky News: „Vypadalo to tak realisticky, jako by to nikdo kromě mě nevěděl. Bylo to jako dívat se na mě, ale také ne na mě.“

Dodala: „Něco takového by nemělo být. Není to omalovánka. Není to ani trochu legrace. Je to identita lidí a svlékání šatů.“

Když Cally oznámila, co se stalo policii, snažila se přimět je, aby to považovali za zločin.

„Ve skutečnosti nevěděli, co s tím mohou dělat, a protože web, který hostoval obrázek, byl globální, řekli, že to nespadá do jejich pravomoci,“ řekla.

V listopadu zástupkyně vrchního strážníka Samantha Millerová z Národní rady policejních prezidentů oslovila výbor poslanců v této věci a dospěla k závěru, že „systém selhává“ s nedostatkem kapacit a nejednotností v praxi napříč silami.

ACC Miller řekla výboru pro ženy a rovnost, že nedávno mluvila s aktivistou, který byl v kontaktu se 450 oběťmi a „pouze dvě z nich měly pozitivní zkušenost s policií“.

Vláda tvrdí, že příští rok přijde nová legislativa zakazující generaci AI aktů, i když je již nezákonné vytvářet falešné akty nezletilých.

Mezitím problém narůstá s množstvím aplikací, které jsou k dispozici pro účely svlékání lidí na fotografiích. Obětí se může stát kdokoli, ačkoli téměř vždy jsou to ženy.

Profesorka Clare McGlynn, expertka na online ubližování, řekla: „Zaznamenali jsme exponenciální nárůst používání sexuálně explicitních deepfakes. Například jedna z největších a nejznámějších webových stránek věnovaných tomuto zneužívání zaznamenává asi 14 milionů návštěv měsíčně. .

„Tyto aplikace nudify lze snadno získat z obchodu s aplikacemi, jsou inzerovány Tik TokTakže mladí lidé si je samozřejmě stahují a používají. Normalizovali jsme používání těchto aplikací nudify.“

‚Zrazen mým nejlepším přítelem‘

Sky News hovořila s „Jodie“ (ne její skutečné jméno) z Cambridge, která byla upozorněna anonymním e-mailem, že se zdá, že je v sexuálních videích na pornografickém webu.

„Obrázky, které jsem zveřejnil Instagram a Facebookkteří byli plně oblečení, byli zmanipulováni a přeměněni na sexuálně explicitní materiál,“ uvedla.

Jodie začala podezírat někoho, koho znala, že zveřejňuje obrázky a povzbuzuje lidi online, aby s nimi manipulovali.

Pak našla konkrétní fotografii, pořízenou před King’s College v Cambridge, kterou měl jen jeden člověk.

Byl to její nejlepší přítel, Alex Woolf. Shodila obrázek jen jemu samotnému.

Woolfová, která kdysi vyhrála BBC mladého skladatele roku, byla později odsouzena za přestupky proti 15 ženám, většinou kvůli Jodieině vytrvalosti a detektivní práci.

Dokonce i tehdy se jeho přesvědčení týkalo pouze urážlivých komentářů připojených k obrázkům, protože i když je nezákonné obrázky sdílet, není zločin žádat ostatní, aby je vytvořili.

Dostal podmíněný trest a bylo mu nařízeno zaplatit 100 liber každé ze svých obětí.

Jodie věří, že je naprosto nezbytné, aby byly zavedeny nové zákony, aby bylo vytváření a získávání těchto typů obrázků postaveno mimo zákon.

„Moje zneužívání není tvoje zábava,“ řekla.

„Online zneužívání má psychologicky stejný účinek jako fyzické zneužívání. Stal jsem se sebevraždou, nemohl jsem věřit svým nejbližším, protože mě zradil můj nejlepší přítel. A účinek toho na člověka je monumentální.“

‚Strašidelné, osamělé místo‘

Průzkum v říjnu od Teacher Tap zjistil, že 7 % učitelů odpovědělo ano na otázku: „Zažili jste v posledních 12 měsících incident, kdy student použil technologii k vytvoření falešného sexuálně grafického obrazu spolužáka?“

Cally i Jodie ve své kampani narazily na příklady, kdy byly školačky hluboce falešné.

Cally řekla: „Používá se to jako forma šikany, protože si myslí, že je to legrační. Ale může to mít takovou duševní daň a pro mladou dívku to musí být velmi děsivé a osamělé místo, kde se s tím potýká.“

Přečtěte si více ze Sky News:
Pedofil, který vytvořil obrázky zneužívání umělé inteligence, byl uvězněn na 18 let
AI chatbot Gemini od Googlu říká uživateli „prosím zemři‚
Sexuální delikventi využívající virtuální realitu ke zneužívání dětí

NSPCC uvedla, že na svou linku důvěry volala ohledně nahých deepfakes.

Manažer charitativní organizace pro bezpečnost dětí na internetu, Rani Govender, řekl, že obrázky mohou být použity jako „součást procesu groomingu“ nebo jako forma vydírání, stejně jako mohou být předávány spolužáky „jako forma šikany a obtěžování“. .

„Děti se stávají vyděšené, izolované a mají strach, že jim neuvěří, že obrázky vytvořil někdo jiný,“ řekla paní Govenderová.

Dodala: „Je to nová škoda a vyvíjí se a bude vyžadovat nová opatření od vlády s prioritou ochrany dětí.“

Alex Davies-Jones, náměstek ministra zahraničí pro oběti, řekl v listopadu poslancům: „Zavázali jsme se, že trestný čin vytváření hluboce falešného obsahu bude nezákonný a na tomto zasedání to uzákoníme.“

Pro aktivisty jako Jodie a Cally nemohou nové zákony přijít dostatečně brzy. Obávají se však, že nebudou mít dostatečně silné klauzule týkající se zákazu získávání obsahu a zajištění toho, aby byly obrázky odstraněny, jakmile byly objeveny.

Každý, kdo se cítí emocionálně rozrušený nebo sebevražedný, může Samaritánům zavolat o pomoc na číslo 116 123 nebo e-mail jo@samaritans.org ve Spojeném království. V USA zavolejte na pobočku Samaritans ve vaší oblasti nebo 1 (800) 273-TALK.