Možná to znáte také: jsou dvě ráno, začne vás píchat v boku a místo snahy o spánek saháte po telefonu. Místo Googlu ale otevíráte ChatGPT. Podle průzkumů se každý šestý dospělý Američan ptá umělé inteligence (AI) na zdravotní radu alespoň jednou měsíčně. Nová studie z Oxfordské univerzity však přináší varování, které byste neměli ignorovat – svěřit své zdraví do rukou chatbota je podle vědců velmi špatný nápad.
Výsledky studie jsou neúprosné. AI chatboti jsou v pomoci reálným lidem s jejich skutečnými zdravotními problémy šokujícím způsobem neúspěšní. Výzkumníci testovali téměř 1 300 lidí v reálných scénářích – od běžné bolesti hlavy po kocovinu až po symptomy žlučníkových kamenů.
Zatímco chatboti hravě zvládají náročné lékařské licence a testy určené pro profesionály, v kontaktu s úzkostným člověkem, který v noci popisuje své příznaky, naprosto selhávají. Uživatelé AI dokázali správně identifikovat svůj stav jen asi v jedné třetině případů. Co je však horší, v určení dalšího postupu – tedy zda stačí jít spát, nebo je nutná návštěva pohotovosti – byli úspěšní v méně než polovině pokusů. V tomto ohledu byli uživatelé klasického vyhledávače Google stejně „úspěšní“ jako ti, kteří využívali nejmodernější modely jako ChatGPT nebo Llama 3.
Problémem jsme my i přehnané sebevědomí stroje
Kde je tedy chyba? Podle vědců není problém v nedostatku medicínských znalostí v databázi AI, ale v tom, jak komunikujeme my, lidé. Jsme totiž „nedůslední“. Chatbotům nedáváme všechny relevantní informace, špatně chápeme jejich odpovědi nebo jejich rady v návalu paniky rovnou ignorujeme.
Dalším rizikem je tón, jakým k nám umělá inteligence promlouvá. ChatGPT zní vždy sebejistě a autoritativně, tím je pro nás snažší mu důvěřovat, i když se spektakulárně mýlí. „Pacienti si musí uvědomit, že ptát se velkého jazykového modelu na příznaky může být nebezpečné,“ varuje Rebecca Payne, vedoucí oxfordského výzkumu. AI totiž snadno přehlédne varovné signály, kdy je potřeba okamžitá pomoc.
Bioetik David Shaw z Maastrichtské univerzity upozorňuje, že tato studie odhaluje skutečná medicínská rizika, kterým je veřejnost vystavena. Pokud nám AI nedokáže spolehlivě poradit, zda si vzít na bolest hlavy prášek nebo jet do nemocnice, nabízí se otázka: Jaká další důležitá životní rozhodnutí těmto strojům svěřujeme? Ať už jde o výchovu dětí, etická dilemata nebo finanční plánování, zacházet s AI jako s vševědoucím orákulem je hazard, na který zatím nejsme připraveni.
Co tedy dělat, když příště pocítíte „píchnutí“?
Rada odborníků je prostá: nevyměňujte svého lékaře za aplikaci v mobilu. Chatbot může být užitečný pro třídění myšlenek nebo organizaci informací, ale v oblasti zdraví může jeho suverénní vystupování vést k tragickým omylům – buď vás zbytečně vyděsí, nebo naopak podcení vážný stav.
Místo „hraní si na doktora“ s chatbotem se raději držte oficiálních zdravotnických portálů nebo udělejte to nejrozumnější: zavolejte svému praktickému lékaři. Vaše zdraví si totiž zaslouží kompetenci a vzdělání, nikoliv jen algoritmem simulované sebevědomí.
