Funkce Apple AI „musí být zrušena“ kvůli upozorněním, která uživatele zavádějí, říkají novináři | Zprávy z vědy, klimatu a techniky

Apple AI zasílá zavádějící oznámení o citlivých příbězích, jako je proces hromadného znásilnění Gisele Pelicotové, skandál britského gangu grooming a vězeňský důstojník natočený při sexu s vězněm.

Nyní se objevily obavy Jablko od několika zpravodajských organizací prostřednictvím funkce souhrnu AI, která je dostupná na iPhonech s Apple Intelligence.

Tato funkce „musí být zrušena“, řekl Národní svaz novinářů Sky News, protože „nepřesné souhrny zpráv sdílené publikem prostřednictvím Apple Intelligence ukazují, že funkce není vhodná pro daný účel“.

Funkce využívá umělá inteligence shrnout oznámení „abyste v nich mohli vyhledávat klíčové detaily“, uvádí Apple.

Umělá inteligence však nesprávně shrnula zprávy z redakcí jako BBC, Sky News a Telegraph a vytvářela zavádějící a nepřesné titulky.

V jednom příkladu vytvořeném pro příběh Sky News funkce nesprávně navrhla ochranu ministra Jesse Phillipse a vyzvala k novému vyšetřování britských groomingových gangů.

To bylo nesprávné.

Původní titulek byl: „Jess Phillips řekl Sky News, že by mohlo dojít k novému celostátnímu vyšetřování do groomingových gangů, pokud o to oběti požádají“.

Širší příběh o groomingu gangů byl citlivý a kontroverzní, Elon Musk napadl poslance a Sir Keir Starmer za neprovedení celostátního vyšetřování.

V dalším příkladu nepřesného shrnutí citlivého příběhu AI společnosti Apple uvedla, že oběť hromadného znásilnění Gisele „obhajovala své přesvědčení“.

Původní titulek zněl: „Gisele Pelicot říká, že ona šel k soudu pro své děti a vnoučata‚ po odsouzení v procesu hromadného znásilnění“.

Gisele Pelicot se stala obětí znásilnění více než 50 muži poté, co ji její bývalý manžel zdrogoval, znásilnil a inzeroval na internetu. Její násilníci byli odsouzeni k více než 400 letům vězení.

Třetím příkladem byla nedávná zpráva o vězeňském důstojníkovi, který byl uvězněn na 15 měsíců poté, co byl natočen při sexu s vězněm shrnutým jako „vězeňský důstojník natočený při sexu s vězněm“.

Shrnutý titulek postrádal nový prvek příběhu, který byl důstojník uvězněn.

Přečtěte si více ze Sky News:
Američtí #TikTokrefugees zaplavili čínskou aplikaci sociálních médií
Citové shledání obyvatel LA se psem, který střílí
Just Stop Oil cílový hrob Charlese Darwina

Sky News nyní vyjádřila obavy Applu ohledně shrnutí kvůli obavám, že by tato funkce mohla narušit důvěru ve zprávy a reputaci organizace.

BBC si také dříve stěžovala technologickému gigantovi poté, co tato funkce čtenářům nepřesně řekla, že hráč šipek Luke Littler vyhrál mistrovství světa PDC – předtím, než hrál ve finále.

„Tato shrnutí AI od Applu neodrážejí – a v některých případech zcela odporují – původnímu obsahu BBC,“ řekl mluvčí BBC Sky News.

„Je důležité, aby Apple tyto problémy naléhavě řešil, protože přesnost našich zpráv je zásadní pro udržení důvěry.“

Generální sekretářka NUJ Laura Davison řekla: „S každým nepřesně sdíleným příběhem se Apple staví mezi aktéry šířící škodlivé dezinformace, odsuzované všemi, kdo uznávají důležitost etické a důvěryhodné žurnalistiky.

„Nyní existuje několik příkladů těchto chyb a v době polarizace mezi diváky na vysoce citlivé zprávy, které dominují médiím, by redakční integrita a pověst novinářů a médií neměly být tímto způsobem oslabovány.“

„Pokud tak učiníte, riskujete pouze narušení důvěry veřejnosti a důvěry ve zprávy,“ řekla.

V dalším nedávném příkladu shrnutí řeklo čtenářům Telegraphu, že premiér změnil svůj postoj k dědické dani farmářů a nyní podporuje farmáře.

Zdá se, že Apple zmátl titulek „Blow to Starmer jako supermarketový gigant podporuje farmáře kvůli nájezdu na dědickou daň“.

Místo toho shrnul titulek „Starmer podporuje farmáře kvůli nájezdu na dědickou daň“.

The Telegraph na žádost o komentář nereagoval.

Když byl Apple požádán o vyjádření, poslal Sky News odkaz na článek BBC na toto téma, kde uvedl, že pracuje na objasnění, že souhrny byly generovány AI.

Sky News však naznačila, že má stále obavy, že způsob, jakým jsou souhrny prezentovány Apple AI, má silné důsledky, které pocházejí ze Sky News.