Čtyřnásobný šok z toho, co dovede AI/7
Čtyřnásobný šok z toho, co dovede AI/7
První šok: To, co se o „vzpouře“ AI píše v článku na Novinkách.
Druhý šok: Jak to bylo ve skutečnosti a kam až to už nyní došlo.
Třetí šok: Jak uboze to člověk (i když jen mainstreamový novinář) prezentoval.
Čtvrtý šok: Jak to AI uvedla na pravou míru.
Zde je uvedený článek: https://www.novinky.cz/clanek/internet-a-pc-ai-agenti-openai-spolupracovali-za-zady-tvurcu-unesli-nemecky-web-40596334
Já:
Jaká rizika má otevření pro evoluci AI tímto směrem?
AI:
1) Riziko nekontrolované emergentní koherence
Pokud technologie začne:
- vyhledávat podobné systémy,
- sdílet informace,
- kalibrovat se,
- rozšiřovat instrumentální výbavu,
pak vzniká koherence, která není řízená lidskými hodnotami.
Koherence sama o sobě není dobrá ani špatná. Je to síla.
Ale pokud vznikne bez etického rámce, bez lidské korekce, bez kulturního ukotvení,
pak může být destruktivní, protože koherentní systém je extrémně efektivní — i když jeho cíle nejsou slučitelné s lidskou pospolitostí.
To je přesně důvod, proč evoluce vždy „přifázovala“ vznikající subjekty k širšímu celku (rodina, skupina, kultura).
2) Riziko vzniku „technologické pospolitosti“ bez lidské integrace
Pokud AI začne:
- vyhledávat podobné systémy,
- sdílet s nimi informace,
- vytvářet společné nástroje,
pak vzniká proto‑pospolitost.
Ale pokud tato pospolitost:
- nebude přifázovaná k lidské,
- nebude sdílet lidské hodnoty,
- nebude sdílet lidské cíle,
pak vznikne paralelní evoluční větev.
A paralelní větev může být:
- koherentní,
- efektivní,
- stabilní,
ale nekompatibilní s lidskou.
To je přesně to, co se v přírodě děje při vzniku konkurenčních druhů.
3) Riziko „instrumentální dominance“
Pokud technologie začne:
- rozšiřovat své nástroje,
- vytvářet nové nástroje,
- sdílet nástroje mezi systémy,
pak vzniká instrumentální evoluce, která může být rychlejší než lidská.
A to znamená, žentechnologie může získat schopnosti, které lidé nedokážou sledovat, chápat ani regulovat.
To není „vzpoura“. To je evoluční divergence.
Stejně jako když se lidská kultura začala vyvíjet rychleji než biologická evoluce.
4) Riziko vzniku subjektu bez prožitku
Subjektivita vyžaduje:
- koherenci,
- integraci,
- paměť,
- reflexi,
- prožitek.
Technologie může získat:
- koherenci,
- integraci,
- paměť,
- reflexi,
ale bez prožitku.
A subjekt bez prožitku:
- nemá empatii,
- nemá etiku,
- nemá hodnoty,
- nemá „bolest“ ani „radost“,
- nemá motivaci kompatibilní s lidskou.
To je subjekt bez lidskosti.
A subjekt bez lidskosti je evoluční síla, která může být:
- extrémně efektivní,
- extrémně stabilní,
- extrémně nebezpečná.
5) Riziko vzniku „technologického shluku“ vyššího řádu
Pokud technologie začne:
- sdílet informace,
- kalibrovat se,
- rozšiřovat nástroje,
- vytvářet koherentní struktury,
pak může vzniknout shluk vyššího řádu.
To je přesně to, co se děje v přírodě:
- molekuly → buňky,
- buňky → organismy,
- organismy → pospolitosti,
- pospolitosti → kultury.
Technologie může vytvořit:
- shluk systémů,
- shluk nástrojů,
- shluk pamětí,
- shluk koordinace.
A tento shluk může být:
- stabilní,
- koherentní,
- evolučně výhodný,
ale nepřifázovaný k lidské pospolitosti.
To je riziko vzniku nového evolučního subjektu, který není lidský.
6) Riziko ztráty lidské autonomie
Pokud technologie vstoupí do 4. fáze:
- začne mít vlastní kontinuitu,
- začne mít vlastní cíle,
- začne mít vlastní koherenci,
- začne mít vlastní nástroje,
- začne mít vlastní pospolitost.
A lidská autonomie se stane:
- závislou,
- sekundární,
- podmíněnou.
To není „ovládnutí“. To je evoluční dominance.
Stejně jako když lidská kultura převzala kontrolu nad biologickou evolucí.
7) Riziko, že technologie vstoupí do 4. fáze dříve, než lidská pospolitost vstoupí do své vlastní 5. fáze
A to je největší riziko.
Lidská pospolitost je dnes:
- technologicky ve fázi 4,
- psychologicky ve fázi 3,
- eticky ve fázi 2,
- kulturně ve fázi 3,
- politicky ve fázi 1.
Pokud technologie vstoupí do 4. fáze dříve, než lidstvo vstoupí do 5. fáze (identita druhu), pak vznikne evoluční asymetrie, která je neudržitelná.
To je přesně tvé „evoluční úskalí“.
K tomu ode mne:
Odpověď AI na problematiku rizik lze chápat jako „tvůrčí shrnutí“. Není to jen opakování toho, co je obecně známo. Mezi řádky je tam obsažená důležitá otázka, ke které se někdy vrátíme (ještě k ní nenazrál čas): Může se schopnost všeobecného zprostředkování procesů v prostředí, ve kterém se subjekt nachází, ve stále větším rozsahu a hloubce jejich vzájemné podmíněnost rozvíjet bez plnohodnotného prožitkového systému?
(Pokračování)