AIS může činit kolektivní rozhodnutí a ovlivňovat se navzájem, říká nová studie Věda, klima a technické zprávy
AIS je schopen přijít ke skupinovým rozhodnutím bez zásahu člověka a dokonce se navzájem přesvědčit, aby změnili názor, odhalila nová studie.
Studie, kterou provedla vědci z města St George’s, University of London, byla první svého druhu a experimenty na skupinách skupin Agenti AI.
První experiment požádal páry AIS, aby přišli s novým názvem pro něco, dobře zavedeným experimentem v lidských sociologických studiích.
Tito agenti AI se dokázali rozhodnout bez zásahu člověka.
„To nám říká, že jakmile tyto objekty vložíme do volné přírody, mohou rozvíjet chování, která jsme neočekávali, nebo alespoň jsme neprogramovali,“ řekla profesorka Andrea Baronchelli, profesorka vědy složitosti na univerzitě v městě St George a starší autor studie.
Dvojice byly poté uvedeny do skupin a bylo zjištěno, že vyvíjejí zkreslení směrem k určitým jmenům.
Asi 80% času by do konce vybrali jedno jméno před druhým, přestože neměli žádné zkreslení, když byly testovány jednotlivě.
To znamená, že společnosti, které vyvíjejí umělou inteligenci, musí být podle prof. Baronchelli ještě opatrnější, aby ovládaly zkreslení, které jejich systémy vytvářejí.
„Předpojatost je hlavní rysem nebo chybou systémů AI,“ řekl.
„Častěji než ne, zesiluje zkreslení, která jsou ve společnosti a že bychom nechtěli být ještě dále zesíleni (když AI začnou mluvit).“
Použijte prohlížeč Chrome pro přístupnější video přehrávač
Třetí fáze experimentu zaznamenala vědci do skupiny injekci malého počtu rušivých AI.
Měli za úkol změnit kolektivní rozhodnutí skupiny – a dokázali to udělat.
Použijte prohlížeč Chrome pro přístupnější video přehrávač
Přečtěte si více od klimatu, vědy a technologie:
VAROVÁNÍ PŘIPOMÍNKY TEPLOSTI NA PŘIJÍMÁNÍ ŽENY A NORBORDY
Společnost M&S říká, že osobní údaje zákazníků převzaly hackeři
Obavy v nás, když Trump prodává šperky americké koruny AI
To by mohlo mít znepokojivé důsledky, pokud je AI v nesprávných rukou, podle Harryho Farmera, vedoucího analytika Ada Lovelace Institute, který studuje AI a její důsledky.
AI je již hluboce zakořeněna do našich životů, od pomoci nám rezervovat si svátky až po poradenství v práci i mimo něj, řekl.
„Tito agenti by mohli být použity k jemnému ovlivnění našich názorů a v extrémním věcech, jako je naše skutečné politické chování; jak hlasujeme, ať už hlasujeme nebo ne,“ řekl.
Tito velmi vlivní agenti jsou mnohem těžší regulovat a kontrolovat, pokud je jejich chování ovlivněno také jinými AI, jak ukazuje studie, podle pana Farmara.
„Místo toho, abyste se podívali na to, jak určit úmyslná rozhodnutí programátorů a společností, také se díváte na organicky vznikající vzorce agentů AI, což je mnohem obtížnější a mnohem složitější,“ řekl.
Source link
