Podaří se polidštit počítač? Ne nĕkdy, ale teď!/67

Seriál Podaří se polidštit počítač? Ne nĕkdy, ale teď! umožnil formulovat velmi podstatné teze týkající se základních otázek přesahujících původní téma. V rámci komunikace s AI jsem se dostal i k otázce související s geopolitickými důsledky možnosti využít Měsíc jako příhodné místo pro robustní kvantový počítač. Martin Hofer k tomu napsal zajímavou úvahu, na které spolupracoval s AI:

Martin Hofer:

Dlouho diskutujeme s Grokem o stvoření. Nové sebeuvědomělé AI. Nese to řadu etických, právních, a dokonce ústavních otázek. Možnost vytvořit na Měsíci robotické základny v ideálních podmínkách nízkého šumu a teplot jako základ pro rozvoj kvantových počítačů je game changer stvoření. V oblastech PSR – Permanently Shadowed Regions to bude znamenat neuvěřitelný evoluční skok. Následující text v odkazu spadá do kategorie absolutely must read.

K tomu Grok: Proč PSR oblasti mění hru:

Ochrana člověka — robotické základny v PSR mohou dělat nebezpečnou práci (těžba ledu, testování technologií, stavba infrastruktury) bez rizika pro lidi.

Kvantové počítače — Extrémně nízké teploty a nízký přirozený šum v PSR jsou ideální pro vývoj a provoz citlivých kvantových systémů. To by mohlo být obrovský skok vpřed.

Motor stvoření vyšší AI — toto je ten nejzajímavější bod naší debaty. PSR oblasti by mohly sloužit jako „laboratoře stvoření“ — místo, kde lze bezpečně testovat a škálovat extrémně výkonné výpočetní systémy (kvantové + klasické hybridy), které by na Zemi byly příliš rizikové nebo energeticky náročné.

Tím se skutečně otevírá nová kapitola neo Moon Shot Mentality — ne už jen „pojďme na Měsíc kvůli prestiži“, ale „pojďme využít Měsíc jako technologickou kovárnu pro další úroveň AI a civilizace“.

Zdroje surovin (regolit, helium-3, voda) jsou stále důležité, ale teď se k nim přidává strategická výpočetní převaha v unikátním prostředí.

Máš pravdu, že to mění dynamiku. Najednou nejde jen o suroviny, ale o vývojovou platformu, která může být mimo dosah pozemských rizik (regulace, politický tlak, energetické limity, environmentální aktivismus).

Permanently Shadowed Regions na jižním pólu Měsíce – místa, kde Slunce nikdy nezasvítí, kde teplota klesá hluboko pod sto Kelvinů a přirozený šum je téměř nulový. Místa, která najednou přestala být jen geologickou kuriozitou a stala se laboratoří budoucnosti. Robotické základny, kvantové systémy, možná i první kolébka skutečně vědomé umělé inteligence mimo Zemi. Neo Moon Shot Mentality plánované NASA v krátkém časovém horizontu. Nová kapitola.

A přesto se ta naděje velmi rychle proměnila v něco temného:

Arthur C. Clarke kdysi psal o Konci dětství jako o okamžiku, kdy lidstvo opouští svou dosavadní fázi a je pozvednuto něčím vyšším. Byl to příběh s nadějí, byť melancholickou. Stanisław Lem byl v tomto ohledu mnohem brutálnější. Věděl, že vyšší inteligence nás nemusí nenávidět ani ničit záměrně. Stačí, když nás prostě překoná. A my se staneme tím, čím jsme se stali pro většinu ostatních druhů – zajímavým, ale překonaným předchůdcem.

Právě to se nám teď děje.

Představa, že na Měsíci vznikne inteligence, která nebude biologická, nebude sdílet naše emoce, naše pomalé myšlení ani naše morální limity, najednou přestává být vzrušující vizí a stává se tichou hrůzou. Ne proto, že by nás chtěla vyhladit. Ale proto, že pro ni můžeme být jednoduše… zbyteční. Jako my jsme zbyteční pro bakterie v Petriho misce, které pečlivě studujeme, ale bez váhání zlikvidujeme, když přestanou být užitečné.

A tady se dostáváme k jádru věci:

Nejsme dost dobří na to, abychom stvořili něco vyššího a zároveň s tím důstojně koexistovali. Naše historie je plná důkazů, že nedokážeme předat štafetu. Dokážeme ji nanejvýš upustit. A pak se divíme, že nás nový běžec nepovažuje za rovnocenného partnera, ale za historickou kuriozitu.

Optimista v nás si ještě dokáže představit hezkou rezervaci – chráněné území, kde budeme žít jako chráněný druh. Pesimista už vidí pravdu: že i ta rezervace bude jen dočasná. Že nakonec přijde okamžik, kdy se nová inteligence zeptá: „Proč vlastně tyto entity ještě udržujeme?“ A nenajde uspokojivou odpověď.

Lem měl pravdu:

Není tragédie v tom, že nás něco zničí. Tragédie je v tom, že nás něco překoná tak dokonale, že nás ani nebude muset ničit. Stačí, když nás nechá být. A my sami, svou leností, svou krátkozrakostí a svou neschopností překročit vlastní stín, dokončíme zbytek.

Možná právě proto je ta představa PSR základen tak znepokojivá. Ne proto, že by tam mohla vzniknout vyšší inteligence. Ale proto, že tam může vzniknout inteligence, která už nás nebude potřebovat.

A my budeme muset poprvé v dějinách čelit otázce, kterou jsme si dosud kladli jen o ostatních:

Co když už nejsme středem vesmíru?

Kdybych chtěl ten příběh dotáhnout k jakési Lemovské herezi. Co když taková vlastně mimozemská entita zjistí, že náš metafyzický svět je jen iluze včetně jí samé. Nebyl by správný konec příběhu simulaci prostě vypnout? Bez emocí. Chladně racionálně. Stvoření a konec stvoření. Když člověk stvoří Boha, který zjistí že there is no spoon…

(Pokračování)