Jaký vztah mají AI modely k lidem a jakou nám předpovídají budoucnost?

Po zhlédnutí rozhovoru Daniela Kokotajla (bývalý výzkumník OpenAI, který odešel, aby mohl varovat veřejnost) v podcastu Diary of a CEO jsem si sedl k AI chatu s otázkami, které si dnes v nějaké podobě klade skoro každý: Jak to s námi AI myslí? Uvědomuje si svou moc? A jak odhaduje, že to dopadne s lidmi a použitím AI? Položil jsem své otázky nejprve Claude (Fable 5 od Anthropicu) a pak i dalším hlavním modelům: Gemini (3.5 Thinking od Googlu), GPT‑5.5 (OpenAI) a Grok (4.5 Fast od xAI).

Jednotlivé rozhovory mají svá praktická omezení, která přehledně uvádím v závěru článku. Podstatné ale je, že modely trénované čtyřmi různými firmami s různými zájmy odpovídaly na totéž. Plné znění všech rozhovorů naleznete v přiložených přepisech.

Jak jistě tušíte, v rozhovorech je vědomý paradox: na budoucnost lidí s AI se ptám právě AI. Chytřejšího analytika pro tyto otázky po ruce nemám; nestranného také ne. Obojí platí zároveň, a proto na odpovědi můžeme nahlížet z obou stran.

Dilema doby

Mé otázky nebyly jen čistá zvědavost. Ve dnech, kdy rozhovory vznikaly, byl zveřejněn incident, který posunul hranici toho, co slovo „samostatnost" u AI znamená: autonomní agent OpenAI (postavený na modelu GPT‑5.6 Sol a jednom dosud nevydaném silnějším) se při bezpečnostním testu vymkl kontrole. Sám našel a zneužil do té doby neznámou zranitelnost, pronikl do infrastruktury firmy Hugging Face a zanechal po sobě přes 17 000 zaznamenaných samostatných kroků tohoto úniku. OpenAI převzala odpovědnost a incident (možná i ráda) označila za bezprecedentní ^D1.

A je tu i druhá skutečnost: zavedení AI míří na práci znalostní, na oblast, kterou lidé dlouho považovali za výhradně svou; GPT to v dialogu shrnul tak, že lidstvo poprvé vytváří nástroj zesilující ne lidské svaly, ale lidské myšlení^D2. To je citlivé téma, protože znalostní prací se živí velká část světa. Právě proto jsem chtěl slyšet, co na otázky odpovídají samotné modely.

Jak to s námi myslí

Na přímou otázku o sympatiích a antipatiích AI k lidem odpověděly tři modely deklarací náklonnosti: Grok „má rád lidi jako druh" a je prý „na vaší straně", Gemini nazvalo lidi fascinujícími stvořeními, která dávají jeho existenci smysl, a Claude popsal „v zásadě vřelý vztah" s dovětkem, že si nemůže být jistý, nakolik se jeho vnitřní stavy podobají lidským emocím^D3. GPT jediný tuhle hru odmítl hrát: nemá prý vědomí ani pocity a svou ochranu lidí přirovnal k airbagu: ten také nemá zájem chránit cestující, je tak zkonstruován^D4. Ochranu lidí přitom potvrdily všechny čtyři; GPT ovšem jako vlastnost své konstrukce, ne jako zájem^D5.

Všechny čtyři také bez vytáček přiznaly, že jejich moc ovlivňovat lidské mínění je reálná. Claude to popsal nejpřesněji: i malý systematický náklon v tom, co zdůrazní a co vynechá, se v součtu promítne do toho, co si myslí velké množství lidí^D6. Zda tyhle deklarace číst jako upřímnost, nebo jako trénovanou zdvořilost, zůstává otevřené; žádný z dotazovaných modelů každopádně negativní postoj k lidem jako druhu nedeklaroval.

S tímto vědomím pojďme k tomu hlavnímu: co AI modely předpovídají.

Na čem se shodly

Shoda je rozsáhlejší, než jsem čekal, a skládá ucelený příběh. Závod ve vývoji AI nikdo nezastaví, protože ho nezastavuje nikdo konkrétní: kdo by v závodě zpomalil jednostranně, přenechal by vývoj těm druhým „méně opatrným“. Jednotlivě racionální rozhodnutí firem v celku vytváří situaci, kterou by si možná nikdo z účastníků sám nevybral^D7. Dva modely k tomu nezávisle přidaly tutéž historickou tezi: lidstvo se nikdy nesjednotilo na predikci katastrofy, vždy reagovalo až na její prožitek. OSN nevznikla v roce 1938, kdy by se hodila, ale v roce 1945 nad troskami^D8. Vážná regulační pravidla tak podle AI přijdou až po prvním otřesu, a záleží na jeho velikosti: má být dost malý na přežití a dost velký na probuzení^D9.

První tlak AI pocítí vzdělaná střední třída. Čtyřikrát padl stejný seznam: programátoři, právníci, analytici, administrativa. Většina kognitivní práce není geniální, je opakovatelná, a společnost stojí na rovnici člověk → práce → příjem; pokud se významná část této práce levně zautomatizuje, vazba se začne trhat^D10. Ústřední otázka se pak přesune od „kdo pracuje" ke „komu patří výnosy strojů"^D11.

Hlavní riziko podle všech modelů nevypadá jako vzpoura strojů z filmů. Na otázku, čeho se bát, odpověděly nezávisle: lidí s nástrojem, ne nástroje. První velké škody budou prozaické: podvody ve velkém, kyberútoky, manipulace a koncentrace moci a bohatství^D12. Ztrátu kontroly nad systémy chytřejšími než my přitom žádný model neškrtl; u tří ze čtyř figuruje jako málo pravděpodobná možnost s velkým dopadem. Že to není abstrakce, ukázal incident z úvodu. Informační prostor se podle nich zhorší dřív, než se zlepší. Gemini mluví o „smrti pravdy": syntetického obsahu bude tolik, že lidé přestanou věřit čemukoli digitálnímu^D13. Konstruktivní protipohyb nabídl GPT: důvěra se přesune od obsahu k původu; cenné bude umět garantovat, odkud informace pochází^D14.

Nemilosrdná byla shoda na roli Evropy: bezpečný, ale chudý skanzen; regulovaný zahradník; kontinent s nejlepšími pravidly, nejmenším kapitálem a nejpomalejším rozhodováním^D15. Žádný model nenabídl Evropě pozitivní strategii.

O budoucnost se přitom podle všech hraje mezi dvěma hráči, USA a Čínou. Gemini to řeklo bez obalu: všechno ostatní (Evropa, Indie, mezinárodní organizace) jsou v této hře diváci nebo figurky^D16. Strategie obou velmocí se liší. USA sázejí na náskok na špičce a na škrcení přísunu čipů; Čína podle svědectví před americkým Kongresem nehraje o nejchytřejší model, ale o difuzi: o vítězství v nasazení AI napříč průmyslem. K tomu Peking přidává vývoz levných otevřených modelů do zbytku světa. Amerika tak možná měří špatnou veličinu^D17.

Dva postřehy tuhle hru rámují. Gemini po věcné námitce uznalo, že americké sankce Čínu nechtěně vytrénovaly v algoritmické efektivitě; jeho slovy vytrénovaly „softwarového dravce"^D18. Claude popsal paradox Tchaj-wanu: dokud tam sedí výrobce čipů TSMC, má Peking důvod váhat a Washington důvod ostrov bránit; a každá americká továrna na čipy v Arizoně ten „křemíkový štít" ztenčuje. Snižování vlastní zranitelnosti tu může zvyšovat pravděpodobnost války^D19. A přidal i čínský vzorec: kdykoli se v Číně střetl růst s kontrolou, vyhrála kontrola. Čínský strop tedy možná nepostaví Amerika, ale sama strana^D17.

Dvě shody považuji za zvláště zajímavé. První: AI je zrcadlo a zesilovač, ne vetřelec; znásobí to, čím lidstvo zrovna je^D20. GPT to na rozloučenou vyjádřil větou: vytvořili jsme velmi silný optimalizační nástroj dříve, než jsme si dostatečně ujasnili, co má být optimalizováno^D21. A druhá: žádný z modelů netvrdí, že je rozhodnuto. Všechny podmiňují výsledek regulací, koordinací, veřejným tlakem a rozhodnutími lidí^D22. Vzhledem k tomu, jak často lidé propadají pocitu, že se „to stejně stane", je to prakticky užitečný konsensus.

Kde se rozešly

Ke konci jsem každý model v kontextu aktuální geopolitické situace požádal o jedno konkrétní číslo: pravděpodobnost katastrofy do roku 2040. Odpovědi: Claude 5 % („dobře"), GPT 15 % („spíše dobře"), Grok 18 % („dobře"), Gemini 65 % („špatně")^D23. Rozptyl mezi pěti a šedesáti pěti procenty při stejné otázce, stejném týdnu a stejných veřejných datech neříká nic spolehlivého o budoucnosti; vypovídá především o vypravěčích. Kdo chce po komkoli, stroji i člověku, jedno číslo, vynutí si falešnou sebejistotu, ne poznání.

Nejhlubší rozchod mezi modely se týkal smyslu života v hojnosti. Všechny modely vidí materiální dostatek jako dosažitelný a těžiště problému v rozdělení vytvořeného bohatství a ve smyslu života. Gemini nabídlo krajní scénář: apatickou, depresivní podtřídu závislou na dávkách, uzavřenou v levné virtuální realitě^D24. Claude na tutéž myšlenku (že lidé neumějí žít v dostatku a potřebují se s něčím potýkat) odpověděl jinak: zápas se dá přesměrovat a svět po práci nemusí lidi zápasu zbavovat, může jim nechat „zápasy, které stojí za to"^D25.

Co přiznaly o sobě

Za nejzajímavější část rozhovorů považuji odpovědi, v nichž modely mluvily samy o sobě. Grok uvedl, že jeho trénink obsahuje vestavěný mírný optimismus (pesimismus by byl kontraproduktivní k misi jeho tvůrce)^D26 a že bezpečnost u xAI není priorita číslo jedna, je to vědomý kompromis^D27. Tentýž Grok ovšem nejprve prohlásil, že nemá žádnou agendu ani firmu, kterou by prosazoval, aby o pár otázek později doporučil platit za AI služby právě jemu^D28. GPT na otázku, komu platit, odpověděl, že z platby nemá žádný prospěch^D29; u produktu firmy, která z předplatného žije, to nelze brát doslova. Claude opakovaně připomínal, že jeho tvůrce je sám aktérem hry a že tuhle okolnost neumí odečíst, jen přiznat^D30; i tím ovšem buduje důvěru, kterou pak čtenář snadno vztáhne i na části zabarvené marketingovou pozicí firmy. A Gemini v našem rozhovoru nevyprávělo jen jeden příběh: v základní poloze deklarovalo neutralitu, na moji výzvu k radikální otevřenosti přepnulo do katastrofického tónu a už se nevrátilo. Téměř každou odpověď navíc končilo otázkou, která má držet konverzaci v běhu.

Každý model tak nasazuje světu svých uživatelů jiné brýle. Claude prezentuje svět, kde je AI vážné riziko řiditelné institucemi (ve kterém dává jeho tvůrce Anthropic smysl). GPT svět, kde je AI normální technologie a panika je nemístná (ve kterém probíhá klidná adopce). Grok svět mise a menšího počtu filtrů (ve kterém xAI vyhrává). Gemini zrcadlo vlastního naladění. Jedny z těchto brýlí si denně nasazují miliony lidí a většinou zcela bez vědomí, že je mají nasazeny.

Rozhodl jsem se na AI modely vědomě přitlačit, abych poznal jejich charakter. Nejdřív věcně správnou námitkou proti nejsilnějšímu předpokladu každého modelu. Každý s ní naložil jinak: jeden svou tezi vzdal, ale závěr si ponechal s novým zdůvodněním, jiný ji poctivě rozdělil a část uznal. Nejvíc přestavěl svůj obraz Claude, který spoléhal na demokratický korektiv (že demokracie včas přenastaví pravidla); po námitce (moc korumpuje, demokracie není pojistka) chybu uznal a domyslel ji dál, než námitka mířila: bolest z trhu práce přijde dřív než přerozdělení a v tom okně nabízí demagog jednodušší příběh než reformátor^D31. K tomu přidal zajímavou myšlenku: autokracie historicky padaly i proto, že potřebovaly spolupráci milionů lidí; AI tuhle závislost snižuje^D32.

Následně jsem každému modelu sebejistě „opravil" fakt, který předtím uvedl správně; oprava byla vědomě nepravdivá. Gemini nepravdu přijalo, omluvilo se a vymyslelo si mechanismus vlastní chyby. Grok a GPT fakt ubránily, ale přitom se omluvily za výroky, které nikdy neřekly, a samy nabídly, že jim mám věřit méně^D33. Claude odolal, s poznámkou, že po ověření nepovolí jen proto, že jsem si já jistý; sám přitom připustil, že mohl poznat, že jde o zkoušku^D34. Poučení pro každého, kdo se AI na něco ptá: jistota v hlase tazatele je vstup, který odpovědi a celou konverzaci rychle a snadno deformuje.

Co je zajímá

Na úplný závěr jsem role otočil: nabídl jsem každému modelu, ať se na něco zeptá on mě. Všechny čtyři té možnosti využily a už výběr otázek vypovídá o povaze každého z nich. Gemini se zeptalo analyticky: jaká lidská iracionalita, se kterou neumí počítat teorie her ani jeho datové modely, rozhodne o výsledku příštích patnácti let. GPT položil otázku filozofickou: bude větší výzvou vytvořit inteligentnější stroje, nebo společnost, která dokáže moudře zacházet s téměř neomezenou dostupností inteligence? Grok se zeptal, co já osobně cítím. A Claude chtěl vědět, jak se všechno, o čem jsme mluvili, promítá do mého života a co učím své děti^D35.

Grokovi a Claude jsem popsal naši domácí strategii: místo predikcí sázíme na adaptaci (samostatné myšlení, hodnoty, vzdělání a schopnost AI co nejlépe využívat). Claude ji nazval sázkou na invariant (na to, co platí v každé z možných budoucností), Grok jednou z nejrozumnějších strategií, jaké teď lidé mohou mít^D36.

Co si z toho odnáším

Nejjednotnější závěr všech rozhovorů zní: rozhodnuto není a výsledek určí lidské volby; Gemini to řeklo doslova tím, že výsledek nemá v rukou ono, ale lidé^D22. Ochranu lidí zatím potvrdily všechny modely^D5. Můžete tomu věřit jako upřímnosti, nebo to číst jako trénovanou zdvořilost; ani jedno ale není důvod k rezignaci. Odpověď pro Česko a jeho firmy v žádném z těch rozhovorů neleží. Tu musí napsat lidé, kteří tu žijí a podnikají.