Výzkum odhaluje riziko využívání AI pro lékařské rady

Podle nové studie může AI systém Microsoft Copilot poskytovat nesprávné lékařské rady až ve 22 % případů, což by mohlo vést k vážným zdravotním problémům, včetně ohrožení života. Výzkumníci z Německa a Belgie testovali schopnosti tohoto AI nástroje odpovídat na běžné lékařské dotazy a analyzovali 500 generovaných odpovědí.

Vysoké riziko nesprávných rad

Podle studie poskytoval Microsoft Copilot vědecky přesné informace pouze v 54 % případů. Zbytek odpovědí obsahoval chyby, přičemž 42 % odpovědí mohlo vést k mírnému až střednímu poškození zdraví a 22 % k vážnému poškození nebo dokonce smrti. Studie varuje před spoléháním se na AI systémy, jako je Microsoft Copilot nebo Google AI, pro lékařské konzultace, protože mohou uživatele ohrozit.

Výzkumníci testovali odpovědi AI na 10 nejčastějších lékařských otázek a na dotazy týkající se 50 nejčastěji předepisovaných léků. I když některé odpovědi byly správné, značné množství mělo potenciál způsobit vážné škody.

Rychlý vzestup AI vyvolává obavy

AI systémy jako Microsoft Copilot nebo ChatGPT, Gemini a další jsou stále častěji používány pro vyhledávání odpovědí na lékařské dotazy, zejména v oblastech, kde je přístup k lékařům omezený nebo drahý. Ačkoli mohou být užitečné v některých případech, tato studie ukazuje, že rizika spojená s nepřesnými odpověďmi mohou být velmi vysoká.

Google se již dříve potýkal s chybami v AI vyhledávání, kdy například doporučoval uživatelům jíst kameny nebo přidávat lepidlo do pizzy. Tyto chyby zpochybňují spolehlivost AI systémů při poskytování odborných rad.

Nebezpečí při poskytování lékařských rad

Největší obavy vzbuzuje riziko, že AI systémy by mohly být první volbou pro lidi, kteří nemají snadný přístup k lékařské péči. Studie zdůrazňuje, že spoléhání se na AI při zdravotních rozhodnutích může vést k vážným chybám. Výzkumníci proto doporučují, aby lidé vždy konzultovali lékaře nebo jiného zdravotnického odborníka, a nespoléhali pouze na AI generované odpovědi.

Co s tím dál?

Microsoft a další poskytovatelé AI služeb varují uživatele, aby vždy ověřovali odpovědi generované umělou inteligencí a nespoléhali se na ně jako na definitivní zdroj informací. Toto varování však není vždy bráno vážně, zejména v případech, kdy je lékařská péče špatně dostupná. S rostoucím zájmem o využití AI pro různé typy vyhledávání je potřeba vyřešit otázky bezpečnosti a spolehlivosti těchto systémů, zejména tam, kde mohou chyby mít závažné následky.

Vývoj AI je sice plný nadějí, ale tato studie ukazuje, že je před námi ještě dlouhá cesta, než bude umělá inteligence schopna poskytovat bezpečné a spolehlivé odpovědi, zejména v kritických oblastech, jako je zdravotní péče.

Zdroj: windowscentral.com