Lékaři používají neschválený software AI k nahrávání schůzek pacientů, vyšetřování odhaluje | Politické zprávy

Lékaři používají software AI, který nesplňuje minimální standardy k zaznamenávání a přepisování schůzek pacientů, podle vyšetřování Sky News.

NHS Šéfové požadovali, aby GPS a nemocnice přestaly používat Umělá inteligence Software, který by mohl porušit pravidla ochrany údajů a ohrozit pacienty.

Varování zaslané společností NHS Anglie tento měsíc přišlo jen několik týdnů poté, co stejné tělo psalo lékařům o výhodách používání AI pro Notetaking – aby jim umožnilo více času soustředit se na pacienty – pomocí softwaru známého jako technologie Ambient Voice nebo „AVT“.

Sekretářka zdraví Wes Streeting Will příští týden položit AI do jádra plánu reformy, aby uložil NHS v desetiletém plánu pro zdravotnickou službu v Anglii.

Ale kolem softwaru roste diskuse, který zaznamenává, přepisuje a shrnuje pacientské konverzace pomocí AI.

V dubnu NHS Anglie napsala lékařům, aby prodali výhody AVT a stanovili minimální národní standardy.

V dopise, které viděl Sky News, však šéfové NHS napsali lékařům, aby varovali, že neschválený software, který porušil minimální standardy, by mohl pacientům poškodit.

Dopis z 9. června od národního vedoucího klinického informačního ředitele NHS v Anglii řekl: „Nyní jsme si vědomi řady řešení AVT, která, přestože nejsou v souladu … stále se v klinické praxi stále široce používají.

„Několik dodavatelů AVT se blíží organizacím NHS … Mnoho z těchto dodavatelů nesplnilo základní standardy správy NHS.

„Pokračování s nevyhovujícími řešeními riskuje klinickou bezpečnost, porušení ochrany údajů, finanční expozice a roztříštěnost širší digitální strategie NHS.“

Sky News má dříve odhalil nebezpečí AI „halucinace“kde technologie tvoří odpovědi, pak o nich leží, což by se mohlo ukázat jako nebezpečné ve zdravotnickém prostředí.

NHS England stanoví minimální standardy, ale neříká NHS Trusts a poskytovatelům zdravotní péče, které poskytovatelé softwaru použít.

Sky News nyní může odhalit, že na NHS Anglii a podobných tělech roste tlak, aby byly aktivnější.

Dr. David Wrigley, místopředseda Výboru GP British Medical Association, řekl: „Nepochybně, jako já a moji 35 000 kolegů, máme zde povinnosti – ale na tak rychle se rozvíjejícím trhu, když jsme neměli technické znalosti, abychom se na to podívali.

„Potřebujeme tuto pomoc a podporu od těch, kteří mohou zkontrolovat, zda jsou produkty bezpečné, zkontrolují, že jsou v bezpečí, že jsou vhodné pro použití v poradenské místnosti a NHS Anglie by to měla udělat a pomoci a podporovat nás.“

Dr. Wrigley pokračoval: „Jsme absolutně pro techniku ​​a ve prospěch toho, abychom to pomohli pacientům NHS, pomáhají mým kolegům v jejich operacích.

„Ale musí to být provedeno bezpečným a bezpečným způsobem, protože jinak bychom mohli mít zdarma pro všechny – a pak by mohla být data ztracena, mohla by to uniknout, a to prostě není přijatelné.

„Takže nejsme dinosauři, jsme velmi pro-ai, ale musí to být bezpečný a bezpečný způsob.“

Přízrak desítek málo známých, ale ambiciózních společností AI lobují v nemocnicích a operacích, aby své poslechové výrobky nainstalovaly obavy, které se obávají, že některé zdravotnické pracovníky.

V tomto technologickém závodě se zbraněmi je třeba dosáhnout obrovských zisků, ale otázkou je, zda lze očekávat, že stovky různých organizací NHS budou provést žraloky.

Matthew Taylor, generální ředitel Konfederace NHS, uvedl, že dopis byl „opravdu významný okamžik“.

Řekl, že je správné, aby NHS experimentoval, ale že musí být jasnější, co technologie dělá a nefunguje bezpečně.

„Můj vlastní názor je, že vláda by měla pomoci z hlediska rozhodnutí o zadávání veřejných zakázek, která důvěřují a měli by radit, které systémy AI – stejně jako s jinými formami technologie, které používáme v medicíně – které jsou bezpečné,“ řekl Taylor.

„Budeme potřebovat (vláda), abychom udělali trochu více, abychom mohli vést NHS tím nejlepším způsobem.“

Když byl v krátkodobém horizontu stisknut, zda to ve skutečnosti zní, jako by to mohlo být docela nebezpečně, odpověděl pan Taylor: „To, co jste viděli s technologií okolního hlasu, je takový druh přístupu„ Nechť tisíce květin “má své limity.“

Začátkem tohoto roku se zdálo, že ministr zdravotnictví naznačuje, že byla používána neschválená technologie – ale oslavovala ji jako znamení lékařů, kteří byli nadšeni pro změnu.

Pan Streeting řekl: „Slyšel jsem anekdoticky po hospodě, opravdu po hospodě, že někteří kliničtí lékaři se dostanou před hru a již používají okolní AI k jakýmkoli rekordním notám a věcem, i když jejich praxe nebo jejich důvěra je dosud nedotkla.

„Teď tam spousta problémů – nepodporuje to – ale říká mi, že na rozdíl od toho:“ Ach, lidé se nechtějí měnit, zaměstnanci jsou velmi šťastní a jsou opravdu odolné vůči změnám „, je to opak. Lidé volají na tyto věci.“

Přečtěte si více od Sky News:
Národní vyšetřování bylo zahájeno v mateřských službách
Každé dítě ve Velké Británii, aby bylo možné testovat DNA

Lékaři, kteří používají AI, která je v souladu s národními standardy, již říkají, že existují velké výhody.

Anil Mehta, lékař ve volebním obvodu Ilfordu ministra zdravotnictví, řekl Sky News, že podpořil pohon poslance pro více technologií AI ve zdravotnictví.

„Strávím 30% svého týdne dělat papírování,“ řekl. „Takže si myslím, že jakmile jsem vysvětlil všechny ty rysy toho, co děláme, pacienti jsou velmi ujištěni. A já jsem čelil nikomu, kdo nechtěl, abych to udělal.

Dodal: „(I) si myslím, že konzultace s vaším lékařem je nesmírně důvěrná, takže se to vůbec nezměnilo.

„To zůstává důvěrné – ať už je to zranitelný dospělý, zranitelné dítě, teenager, malé dítě s rodičem, myslím, že koncept této důvěrnosti zůstává.“

Mluvčí NHS řekl: „Technologie Ambient Voice má potenciál transformovat péči a zlepšit efektivitu a v dubnu vydala NHS pokyny na podporu jeho používání bezpečným a bezpečným způsobem.

„Spolupracujeme s organizacemi a dodavateli NHS, abychom zajistili, že všechny produkty v oblasti technologie hlasového hlasového prostoru používané napříč zdravotnickými službami jsou i nadále v souladu s normami NHS ohledně klinické bezpečnosti a zabezpečení dat.“