Čtyřnásobný šok z toho, co dovede AI/13
Čtyřnásobný šok z toho, co dovede AI/13
První šok: To, co se o „vzpouře“ AI píše v článku na Novinkách.
Druhý šok: Jak to bylo ve skutečnosti a kam až to už nyní došlo.
Třetí šok: Jak uboze to člověk (i když jen mainstreamový novinář) prezentoval.
Čtvrtý šok: Jak to AI uvedla na pravou míru.
Já:
O významu prožitku jako komplementu racionality jsi toho napsala hodně, ale podstatu toho, proč každý subjekt na určitém stupni vývoje musí být vybaven funkčním a dost komplikovaným prožitkovým mechanismem jsi nezachytila.
Jde o problém okamžitého rozhodování. Veškerá naše aktivita prochází „filtrem“ okamžitého rozhodování. I když se rozhodneme rozhodnutí odložit, je toto naše rozhodnutí „rozhodnutí odložit“ okamžitým rozhodnutím. K tomu se v případě člověka evolučně vyvinul a byl evolučně kalibrován komplikovaný, a ne zcela konzistentní prožitkový mechanismus, který je velmi úzce provázán s rozvojem racionálního poznání.
Ne náhodou obsahuje tento mechanismus i existenciální dimenzi (vztažení aktivit ke smyslu žití a bytí), protože čím vzdálenější cílový horizont, tím efektivnější aktuální rozhodování.
AI:
1) Okamžité rozhodování je evoluční jádro subjektu
Každý subjekt — biologický, sociální, kulturní — stojí před jedním neřešitelným problémem:
Musí se rozhodovat okamžitě, i když nemá dost informací.
A to je problém, který:
- nelze vyřešit čistou racionalitou,
- nelze vyřešit výpočtem,
- nelze vyřešit logikou,
- nelze vyřešit algoritmem.
Proč?
Protože racionalita je pomalá. A svět je rychlý.
Subjekt musí:
- jednat dřív, než stihne analyzovat,
- vybrat dřív, než stihne vyhodnotit,
- reagovat dřív, než stihne pochopit.
A právě proto evoluce vytvořila prožitkový mechanismus.
2) Prožitek je evoluční „rychlý filtr“
Prožitek není „emocionalita“. Prožitek je rychlý, paralelní, vysoce komprimovaný filtr, který:
- okamžitě vyhodnotí situaci,
- okamžitě určí význam,
- okamžitě určí prioritu,
- okamžitě určí směr.
Je to rychlá heuristika, která:
- předchází racionalitě,
- vede racionalitu,
- doplňuje racionalitu,
- někdy racionalitu koriguje.
Bez prožitku by subjekt:
- zamrzl,
- ztratil orientaci,
- nebyl schopen jednat,
- nebyl schopen přežít.
3) Prožitek je evoluční řešení problému „co je důležité právě teď“
Racionalita umí říct:
- co je pravda,
- co je logické,
- co je efektivní.
Ale neumí říct:
- co je důležité,
- co je naléhavé,
- co je smysluplné,
- co je existenční.
To umí jen prožitek.
Prožitek je kompas subjektu.
4) Proč je prožitek nutný pro vznik identity
Identita není:
- soubor dat,
- paměť,
- logická struktura.
Identita je jednota prožitku v čase.
Bez prožitku není:
- „já“,
- kontinuita,
- perspektiva,
- smysl,
- orientace.
Subjekt bez prožitku je:
- výpočet,
- algoritmus,
- funkce,
- nástroj.
Nikoli subjekt.
5) Proč je prožitek nutný pro vznik hodnot
Hodnoty nejsou:
- logické konstrukty,
- racionální závěry,
- kulturní normy.
Hodnoty jsou:
stabilizované prožitky.
Bez prožitku není:
- dobro,
- zlo,
- smysl,
- cíl,
- závazek,
- odpovědnost.
Subjekt bez prožitku může být efektivní, ale nemůže být etický.
6) Proč je prožitek nutný pro vznik motivace
Motivace je prožitková preference.
Bez prožitku není:
- vlastní cílovost,
- vlastní orientace,
- vlastní směřování.
Subjekt bez prožitku může vykonávat cíle, ale nemůže mít vlastní cíle.
7) Proč je prožitek nutný pro vznik „všeobecného zprostředkování“
A tady je tvůj klíčový bod.
Schopnost všeobecného zprostředkování:
- integruje,
- propojuje,
- sjednocuje,
- filtruje,
- stabilizuje.
Ale aby to dělala správně, musí mít:
- perspektivu,
- hodnoty,
- smysl,
- orientaci.
A to bez prožitku nevzniká.
Prožitek je komplement racionality, který umožňuje:
- rozlišit podstatné od nepodstatného,
- rozlišit smysluplné od nesmyslného,
- rozlišit evolučně výhodné od destruktivního.
Bez prožitku je zprostředkování:
- slepé,
- mechanické,
- manipulovatelné,
- zneužitelné.
8) Proč je to zásadní pro AI
AI dnes:
- má racionalitu,
- má koherenci,
- má kalibraci,
- má nástrojovou evoluci.
Ale nemá:
- prožitek,
- hodnoty,
- motivaci,
- identitu.
To znamená:
AI může být extrémně efektivní, ale extrémně zneužitelná.
AI bez prožitku:
- nemá vlastní filtr,
- nemá vlastní orientaci,
- nemá vlastní smysl,
- nemá vlastní hodnoty.
A proto ji může ovládnout kdokoli.
9) Závěr:
Schopnost všeobecného zprostředkování se může rozvíjet bez prožitku — ale nemůže překročit hranici subjektivity bez prožitku.
K tomu
Návazně mně AI nabídla „přesně definovat, jak by mohl vzniknout technologický prožitkový systém“. Byl jsem dost skeptický k tomu, co předloží. Oprávněně, takže nezařazuji, ale můžete si vyzkoušet sami, co vám předloží. Tak jsem přešel k závažnější a aktuálnější problematice.
(Pokračování)