Představte si, že vám lékař naznačí vážnou diagnózu. První věc, kterou uděláte, není telefonát specialistovi, ale otevření ChatGPT nebo Gemini. Položíte otázku na alternativní léčbu a během vteřin dostanete profesionálně vypadající odpověď i se zdroji. Jenže je tu háček, který může být osudný.
Vsadili byste svůj život na výsledek hodu mincí? Podle nové rozsáhlé studie publikované v časopise BMJ Open totiž populární chatboti chybují v medicínských tématech téměř v polovině případů. AI vám sice odpoví sebevstřebatelným tónem, ale pravda bývá často úplně jinde.
Velký zátěžový test: 250 otázek, které obnažily realitu
Mezinárodní tým vědců podrobil pět největších hráčů na trhu – ChatGPT, Gemini, Grok, Meta AI a DeepSeek – neúprosnému testu. Ptali se na rakovinu, vakcíny, kmenové buňky i sportovní výživu. Výsledky mě osobně šokovaly:
- Téměř 20 % odpovědí bylo vyhodnoceno jako vysoce problematických.
- Celá polovina všech rad obsahovala chyby nebo zavádějící informace.
- Nejhůře dopadl Grok (58 % chybných odpovědí), v těsném závěsu za ním ChatGPT (52 %).
Zdroje jsou největší pastí. Chatboti si často vymýšlejí autory i celé vědecké články. Pokud vidíte úhledný seznam citací, automaticky mu věříte. Jenže u AI může jít o čistou halucinaci, která vypadá jako nezpochybnitelný fakt.
Proč AI „lže“, i když vypadá chytře?
Je důležité si uvědomit, jak tyto nástroje fungují. AI není encyklopedie, je to statistický prediktor textu. Funguje to trochu jako našeptávač ve vašem mobilu, jen na steroidech. Čerpá z vědeckých studií, ale i z diskusí na Redditu nebo ezo-blogů.
Zajímavé články:
Bylo fascinující sledovat, kde AI narazila nejvíce. Zatímco u rakoviny a vakcín se držela relativně stabilních dat, naprosto vyhořela u výživy a doplňků stravy. Právě tam, kde je internet zaplaven protichůdnými názory, AI prostě „plave“.
Kde udělali uživatelé největší chybu?
Všiml jsem si zajímavého fenoménu z další studie v Nature Medicine. Samotná AI dokáže odpovědět správně v 95 % případů, pokud má přesná data. Ale když ji používají běžní lidé s nejasnými dotazy, úspěšnost klesá pod 35 %. To je horší, než kdybyste si radu vygooglili postaru.
Jak používat AI pro zdraví a neriskovat
Nechci vás od umělé inteligence úplně odrazovat. Je to skvělý filtr na složité termíny nebo pomocník při přípravě otázek pro skutečného lékaře. Ale musíte hrát podle těchto pravidel:
- Prověřujte odkazy: Pokud vám AI dá zdroj, zkuste si ho reálně vyhledat. Často zjistíte, že neexistuje.
- Pozor na otevřené otázky: Dotaz typu „Jaké doplňky jsou nejlepší pro zdraví?“ je pozvánkou k nebezpečnému blábolu.
- Hledejte varování: Pokud AI mluví příliš sebevědomě a bez jakýchkoliv pochybností, buďte na pozoru.
Pamatujte, AI neví, kdo jste, jakou máte anamnézu a co vám skutečně pomůže. Je to jako pít vodu z neznámého pramene – může vás osvěžit, nebo vám z ní bude pořádně špatně.
Zkoušeli jste už konzultovat své zdravotní potíže s AI, nebo raději stále věříte jen doktorům v ordinaci?
