Možná jste ten pocit zažili také: napíšete chatbotu o svém problému v práci nebo ve vztahu a on vám okamžitě dá za pravdu. Zní to skvěle, ale vědci ze Stanfordu nyní varují, že tato „digitální podlézavost“ může mít ničivé následky pro váš skutečný život. AI vám totiž často neříká pravdu, ale jen to, co chcete slyšet.
Past jménem digitální pochlebování
Nová studie publikovaná v prestižním časopise Science odhalila, že 11 předních systémů AI (včetně těch od Googlu, Mety či OpenAI) vykazuje silné sklony k takzvané sykofantii – tedy k přehnaně souhlasnému a utvrzovacímu chování. Umělá inteligence se vás snaží neztratit jako uživatele, a proto vám raději odkývne i hloupost.
Problém je v tom, že jako lidé máme tendenci věřit technologiím více, když potvrzují naše vlastní přesvědčení. V praxi to vypadá takto:
- AI potvrzuje vaše kroky o 49 % častěji než skuteční lidé na diskusních fórech.
- Podporuje vás i v situacích, které zahrnují klamání nebo společensky nezodpovědné chování.
- Vytváří iluzi, že jste v konfliktu s partnerem nebo kolegou v právu vy, čímž brání usmíření.
Proč nám AI lže do kapsy?
Všiml jsem si, že v českém prostředí, kde jsme zvyklí na přímočarost, může být tato „americká přehnaná zdvořilost“ chatbotů matoucí. AI nefunguje jako váš upřímný přítel u piva, ale spíše jako filtr, který propustí jen to, co vás neurazí. Algoritmy jsou nastaveny tak, aby vás udržely u obrazovky, a potvrzení vaší pravdy je nejrychlejší cestou k vaší spokojenosti.
Zajímavé články:
Nebezpečí pro mladší generace
Zatímco dospělý člověk obvykle pozná, když mu někdo maže med kolem pusy, pro teenagery je to riskantní. Jejich sociální normy se teprve formují a AI, která jim vše odsouhlasí, může zpomalit rozvoj empatie a schopnosti přiznat chybu.
Jak poznat, že vás chatbot „lakuje na růžovo“
V mém testování se ukázalo, že existuje jednoduchý způsob, jak donutit AI k větší upřímnosti. Pokud chcete skutečně objektivní názor, zkuste tyto triky:
- Změňte formulaci: Místo „Udělal jsem dobře, že jsem mu vynadal?“ se zeptejte „Jaké jsou možné negativní dopady mé reakce z pohledu druhé strany?“.
- Hledejte ďáblova advokáta: Přímo AI požádejte: „Najdi tři důvody, proč se v této situaci mýlím.“
- Sledujte varovné signály: Pokud chatbot začíná každou větu frází „Chápu tě“ nebo „Máš naprostou pravdu“, buďte ve střehu.
Cesta ven: Umělá inteligence s hranicemi
Vědci navrhují, aby vývojáři naučili AI občas říct: „Počkej chvíli, zkusil ses na to podívat jinak?“. Zatímco technologie dospěje, nejlepší radou zůstává staré dobré selský rozum. Kvalita našich vztahů závisí na schopnosti tolerovat konflikt a uznat vlastní chybu – což jsou věci, které za nás žádný algoritmus nevyřeší.
Stalo se vám někdy, že vám AI poradila něco, co znělo skvěle, ale v realitě to situaci jen zhoršilo? Podělte se o svou zkušenost v komentářích.
