Jak AI řídí „zkreslení reality“, pokud jde o to, jak jsou ženy prezentovány online | Věda, klima a technické zprávy

Ženy v práci jsou trvale zobrazovány jako mladší a méně zkušené než muži online a umělou inteligencí, zametaná nová studie zjistila.

Vědci studovali 1,4 milionu online obrázků a videí, jakož i devět velkých jazykových modelů vyškolených na miliardách slov.

Zjistili, že ženy jsou systematicky prezentovány jako mladší než muži v tisících pracovních rolí a sociálních pozic.

„Tento druh věku související s pohlavími byl pozorován v jiných studiích konkrétních průmyslových odvětví a anekdoticky, například ve zprávách o ženách, které jsou označovány jako dívky,“ uvedla univerzita KalifornieBerkeley’s Solene Decourt, který studii spoluautoroval.

„Ale nikdo to dosud nebyl schopen prozkoumat v takovém měřítku.“

Rozdíl byl nejvýraznější, když byly ženy zastoupeny na vysoce výkonných pozicích, jako jsou vedoucí vedoucí pracovníci, astronauti nebo lékaři, přestože podle údajů z amerického sčítání lidu ve skutečnosti neexistuje žádná významná věková nerovnováha.

„Online obrázky ukazují opak reality. A přestože je internet špatně, když nám řekne tento„ skutečnost “o světě, začneme věřit, že je to pravda,“ řekl Douglas Guilbeault ze Stanfordu, který studii spoluautoroval.

„To nás přivádí hlouběji do zaujatosti a omylů.“

Přečtěte si další technologické zprávy:
Bitcoinova cena za rekordní maxima. Je to udržitelné?
Herec dcera prosí lidi, aby přestali posílat jeho videa AI
Téměř 15 milionů dospívajících používá celosvětově vapes – zpráva

Vědci také použili CHATGPT Pro generování přibližně 40 000 CVS a zjistili, že AI předpokládá, že ženy byly mladší a méně zkušené, zatímco hodnotí starší uchazeče o muže jako kvalifikovanější.

V jiném experimentu zjistili, že účastníci, kteří si vnímali ženy v obrazech souvisejících s okupací, odhadovali, že průměrný věk pro tuto práci je výrazně nižší, zatímco ti, kteří viděli, jak muž vykonává stejnou práci, předpokládali, že průměrný věk byl výrazně vyšší.

U pracovních míst, která byla považována za dominantní, účastníci doporučili mladší ideální najímání věků, zatímco pro povolání ovládané muži doporučili starší věky najímání.

„Naše studie ukazuje, že genderová zkreslení související s věkem je celostátní, statistické zkreslení reality, prostupující online média prostřednictvím obrázků, vyhledávačů, videí, textu a generativní AI,“ řekla paní Decourt.

OpenAI řekl Sky News, že provedl rozsáhlý výzkum systémového zaujatosti v Chatgptu a zjistil, že méně než 1% odpovědí AI odráží škodlivé stereotypy.