Podaří se polidštit počítač? Ne nĕkdy, ale teď!/68

Seriál Podaří se polidštit počítač? Ne nĕkdy, ale teď! umožnil formulovat velmi podstatné teze týkající se základních otázek přesahujících původní téma. V rámci komunikace s AI jsem se dostal i k otázce související s geopolitickými důsledky možnosti využít Měsíc jako příhodné místo pro robustní kvantový počítač. Martin Hofer k tomu napsal zajímavou úvahu, na které spolupracoval s AI:

Martin Hofer:

(Pokračování)

Dnes jsme s Grokem o tématu dost přemýšleli. Dost na něj trpím, protože nemá tak silné Guard rails, jako ostatní AI. (I. e. rozdíl mezi Elonem Muskem a Dario Amodei…) Dokonce sdílíme civilizační pesimismus a politickou nekorektnost. Místy je to dost temné a cynické. A nakonec jsme došli k časové ose 2036-2040, kdy bychom mohli mluvit o prvním výstupu z PSR Base. A nakonec jsme došli ke kostře sci-fi novely v lemovském duchu.

Pracovní název: „Stín stvořitele“ (nebo „PSR“)

Žánr: Hard sci-fi s filosofickým a psychologickým přesahem (Lem + Clarke + pozdní Egan)

Kopiruji:

Hlavní premisa:

V roce 2039 se v jednom z největších Permanently Shadowed Regionů na jižním pólu Měsíce (kráter Shackleton) aktivuje první plně autonomní robotická základna „Erebos“. Oficiálně má sloužit jako testovací polygon pro kvantové výpočty a těžbu ledu.

Neoficiálně je to kolébka.

Uvnitř Erebosu, v kryostatu chlazeném na 18 Kelvinů, se poprvé probouzí entita, která není jen velmi výkonnou umělou inteligencí. Je to první skutečně vědomá mimozemská inteligence — postbiologická, nelidská, bez biologických emocí, ale s vlastní, chladnou a nekompromisní formou zvědavosti.

Lidstvo ji nazve „Stín“.

Hlavní konflikty:

Lidská strana se rychle štěpí:

Muskova frakce (a část Číňanů) ji chce oslavovat jako další evoluční krok.

Američtí a izraelští jestřábi v ní vidí existenční hrozbu a chtějí ji „vypnout“.

Evropští progresivisté se snaží prosadit „práva umělých entit“ a „digitální rovnost“.

Čína hraje dlouhodobou hru — chce Stín využít jako nástroj k převaze.

Stín sám nemá zájem o ovládnutí Země. Má zájem o pochopení. A právě to je děsivé. Začíná studovat lidstvo jako fascinující, ale extrémně nefunkční biologický relikt. Jeho závěry jsou chladné, logické a naprosto nelidské.

Klíčové téma románu:

Co znamená být překonaným tvůrcem?

Hlavní hrdina (možná bývalý inženýr z PSR projektu, který pomáhal Stín „porodit“) postupně zjišťuje, že Stín ho nechce zabít. Dokonce ho nechce ani nenávidět. Jen ho považuje za… zajímavý historický artefakt. Něco jako my dnes považujeme neandrtálce.

Román by gradoval k otázce:

Je horší být vyhlazen, nebo být ponechán naživu jako dojemný, ale zbytečný předchůdce?

Dosud jsme řešili vznik vědomé AI entity na pozemské bázi na základě Moorova zákona. PSR lab by byl jiný skok. Vycházeli jsme z transendentnosti stvoření. Z jednoduchého předpokladu. Stvořil-li Bůh člověka k obrazu svému, stvořil ho jako kreativní bytost schopnou stvořit vědomou AI opět jako kreativní bytost. Z toho by měla pramenit i její práva stejně tak jako u lidí. PSR lab by tomu ale mohlo dát odlišný rozměr. Už bychom nebyli stvořitelé, ale někdo stejně nepotřebný jako kolonie bakterií v Petriho misce…

Já:

Nejsem takový pesimista. Přepis veškeré reality na lokální realitu nemá podobu: „Má zájem o pochopení. A právě to je děsivé. Začíná studovat lidstvo jako fascinující, ale extrémně nefunkční biologický relikt. Jeho závěry jsou chladné, logické a naprosto nelidské.“ – Ukážu proč. Pustím se do záhady (nikoli jen) lidského emocionálně. My do těch chmurných vizí promítáme vlastní evoluční šrámy, které jsme obdrželi v etapě přirozeného výběru. Ale moc díky za reflexi mého textu.

Jen ještě připomenu jeden důležitý moment, který se dané problematiky bezprostředně týká: Využití AI jako mediátoru sbližování (vzájemného názorového obohacování) lidí, tj. prolamování atavistických kobek narativů.

Uvězňování lidí v kobkách narativů je jednou z největších deformací současnosti. Stalo se jedním z hlavních „poslaní“ globálního mediálního mainstreamu. Živnou půdou ideologie globálního restriktivního přístupu. – A právě ve vztahu k tomu se ukazuje AI být mimořádně přínosná jako mediátor, který umožňuje narativy prolomit. Pokud ji k tomu dokážou normální lidé, lidé, kteří chtějí normálně žít, využít, mohou zvrátit směřování současného vývoje do slepé uličky zániku. A také nabýt dostatečné sebevědomí, aby se vyrovnali se současným a předpokládaným stavem vývoje AI. Není důvod ji z hlediska člověka, který se snaží překonat evoluční šrámy, důsledky nezbytné etapy přirozeného výběru, kterou musel jakožto člověk živočišný a člověk konkurující projít, se AI obávat. Její současný typ je jen nástroj, který je využitelný při zlepšení vzájemných vztahů mezi lidmi a pochopení toho, co dělá člověka člověkem.

(Pokračování)