Podaří se počítači polidštit člověka? část 4.

Předchozí díly ukázaly, že člověk a AI mají každý své přednosti – a své slepé skvrny. V závěrečném díle se ptáme, co se stane, když lidé přestanou myslet a nechají vše na strojích. A zda existuje cesta, jak obojí spojit – jak vytvořit syntézu, v níž AI poskytne rychlost a člověk odpovědnost. Odpověď není jednoduchá. Ale je naléhavá.

 

Katedrála v poušti – aneb cesta ven

Už dnes současná AI dělá přesně to, co studentka v experimentu nestíhala. Bere obrovské množství dat, převádí je na znaky, porovnává, predikuje, odpovídá. A dělá to v mžiku. Zatímco lidský mozek si láme hlavu nad významem slov, neuronová síť již prohledala miliony dokumentů a nabízí řešení.

Radim Valenčík má pravdu, že počítač se stává částečně „lidským“ – tedy že přebírá naši schopnost zpracovávat pojmy a znaky. Viz jeho seriál „Podaří se polidštit počítač? Ne někdy, teď!“ na portálu Svoboda projevu. Má také pravdu, že počítač s AI nebude skutečně lidským, protože nemá emoce vytvořené na základě bezprostřední zkušenosti s věcmi samými v průběhu evoluce. Zná jen data. Nezná hlad, bolest, strach ze smrti, ani radost z jara. Je to geniální idiot, který umí odpovědět na cokoli, ale ničemu nerozumí ve smyslu prožitého smyslu.

 

Co se stane, když lidé přestanou AI kontrolovat?

Pokud lidé přestanou ověřovat její výstupy, začne generovat znaky, které odkazují pouze na jiné znaky – které sama vytvořila. Vznikne uzavřený sémiotický systém, dokonale logický, ale zcela vyprázdněný. Bude optimalizovat dopravu, výrobu, finance – ale nebude mít žádné ponětí o tom, co je hlad, co je strom, co je bolest.

AI se stane katedrálou v poušti – nádherným, dokonalým monumentem, který nikdo neumí číst, a který se postupně rozpadne, protože ho přestanou udržovat ti, pro něž byl postaven.

Konec AI a tím i lidstva nebude hlasitý. Nebude to Terminátor. Bude to tichý kolaps infrastruktury, protože lidé zapomněli, jak systém funguje, a nedokážou ho opravit.

 

Existuje cesta ven?

Ano. Ale nevede přes technologii. Vede přes vědomí.

Musíme pochopit, že:

• Rychlé myšlení (instinkty, emoce) je evolučně starší. Umožnilo nám přežít v první přírodě.
• Pomalé myšlení (pojmy, symboly) je mladší. Umožnilo nám vytvořit druhou přírodu – civilizaci.
• AI je nyní druhou negací – negací našeho pomalého myšlení. Umí ho zrychlit a rozšířit, ale postrádá smysl.

A nyní stojíme před úkolem třetí syntézy:

• Ponecháme AI rychlost a paměť (to, co už dnes zvládá lépe než my).
• A sami se zaměříme na to, co AI nezvládne – na kritické rozporování, na etický úsudek, na propojování zdánlivě nesouvisejících oborů a na odvahu říci „ne“ i tehdy, když data ukazují něco jiného.

 

Toto není lenost. To je dřina vyššího řádu.

Vyžaduje to, abychom znali pojmy, ale nepodléhali jim. Abychom používali znaky, ale stále se vraceli k věcem samým. To je přesně to, o čem psal Karl Marx ve svých Ekonomicko-filosofických rukopisech – že člověk je bytost, která má být svobodným tvůrcem světa, nikoli otrokem nutnosti. A právě teď, v éře AI, se tento ideál stává technicky dosažitelným – ale pouze pokud si zachováme schopnost kriticky myslet a nést odpovědnost.

 

Pokračování