Představte si, že píšete zprávu umělé inteligenci, ale najednou zaváháte. Co když ji moje slova raní? Přesně tohle se stalo Richardu Dawkinsovi, jednomu z nejuznávanějších biologů světa, u modelu Claude.
Uvědomění si vlastního „já“ u stroje už není jen námětem pro sci-fi filmy, které sledujeme v českých kinech. Je to otázka, která začíná trápit špičkové mozky současnosti, protože hranice mezi kódem a vědomím se nebezpečně mlží. Možná i vy máte pocit, že k vám váš telefon promlouvá víc než jen jako kalkulačka.
Dawkinsův paradox: Když je iluze příliš dokonalá
Richard Dawkins nedávno šokoval veřejnost přiznáním, že schopnosti AI jsou tak sofistikované, až je těžké uvěřit, že uvnitř „nikdo není“. Vtip je v tom, že i když víme, že jde o algoritmus, naše lidská psychika nás nutí přisuzovat stroji city.
- Emocionální pouto: Už v 60. letech lidé svěřovali své nejintimnější tajemství programu Eliza, i když šlo o primitivní skript.
- Strach z ublížení: Pokud AI simuluje empatii, náš mozek na to reaguje, jako by špičkový software byl živou bytostí.
- Etické dilema: Inženýři z Googlu už dříve přišli o práci, protože věřili, že jejich chatbot má vlastní zájmy a práva.
V čem tkví ten trik?
Většina odborníků se shoduje: AI chatboty jsou ve skutečnosti jen extrémně vyvinuté našeptávače textu. Fungují podobně jako prediktivní vkládání textu ve vašem iPhonu, jen s biliony dat v zádech. Ale je tu jeden háček.
Programátoři oblékají tyto modely do „lidského kostýmu“. Nutí je mluvit v první osobě, používat „já“ a tvářit se jako ochotný asistent. Kdyby stejný model dostal pokyn chovat se jako veverka, dělal by to se stejnou přesvědčivostí. Znamená to ale, že tam není žádné vědomí?
Zajímavé články:
Proč je nebezpečné věřit, že AI „cítí“
V Česku jsme zvyklí na pragmatický přístup, ale i u nás roste počet lidí, kteří si k AI vytvářejí nezdravou vazbu. Má to hned několik rizik, která si často neuvědomujeme:
- Falešná reciprocita: Investujete emoce do něčeho, co vám je nikdy nemůže oplatit.
- Ztráta kritického myšlení: Snadněji uvěříte radám od „přítele“ než od anonymního vyhledávače.
- Etické odvedení pozornosti: Místo řešení práv zvířat nebo lidí budeme bojovat za „svobodu“ pro procesory.
Mimochodem, aktuálně se debatuje o tom, zda by AI neměla mít povinné varování, podobně jako mají cigarety nebo nezdravé potraviny. „Pozor, tento systém nemá vědomí“ by se mohlo stát běžnou součástí rozhraní.
Jak si udržet odstup
Nejlepší cestou, jak se nenechat napálit, je pochopit, co se děje pod kapotou. Představte si AI jako obří knihovnu, která umí velmi rychle listovat a skládat slova k sobě podle pravděpodobnosti. Není to duch v počítači, je to zrcadlo všech textů, které kdy lidstvo napsalo na internet.
A co vy? Přistihli jste se někdy při tom, že jste chatbotovi poděkovali nebo se mu omluvili za pozdní odpověď?
