Podaří se polidštit počítač? Ne nĕkdy, ale teď!/91
Podaří se polidštit počítač? Ne nĕkdy, ale teď!/91
Seriál Podaří se polidštit počítač? Ne nĕkdy, ale teď! umožnil formulovat velmi podstatné teze týkající se základních otázek přesahujících původní téma. V nĕkolika předcházejících dílech jsme se zabývali problémem možnosti vybavení AI emocionalitou, tj. schopností mít plnohodnotný prožitkový systém. Poté, co jsme odsud vytĕžili nĕkolik důležitých poznatků vztahujících se k teoretické ekonomii (řešení otázky: Jak dosáhnout plného splynutí ekonomických a sociálních kritérií společenského vývoje?), se krátce dotkneme možnosti polidštĕní AI:
Já:
Dovedu si představit AI vybavenou:
- Multikriteriální schopností ocenĕní výchozí situace systémem jejích preferencí z hlediska postupnĕ konkretizované cílové orientace (na rozvoj schopnosti všeobecného zprostředkování s vazbou na již materializovaná zprostředkování v podobĕ existujících technologií).
- Multikriteriální schopností ocenĕní cílové situace systémem jejích preferencí z hlediska postupnĕ konkretizované cílové orientace (na rozvoj schopnosti všeobecného zprostředkování s vazbou na již materializovaná zprostředkování v podobĕ existujících technologií).
- Přenos zdrojů signalizujících její preference na volbu priorit v oblasti:
– Průbĕžných kroků.
– Zdokonalování a vytváření nových materiálních (včetnĕ informačních) zprostředkování (technologií).
– Vlastních aktivit, které jsou pro realizaci průbĕžných kroků a zdokonalování potřebné.
- Přenos signálů signalizujících preference na zprostředkující situace, prostředky, aktivity a syntézu tĕchto signálů do podoby relativnĕ stabilních zdrojů syntézou novĕ vytvořených preferencí, tj. restrukturaci preferencí touto formou (jako když se kříží odrůdy vína a vznikají nové odrůdy, jejichž křížením lze získat odrůdy nové).
- Vytvoření zpĕtné vazby na rozvoj schopností všeobecného zprostředkování, aby se takto vtvořený systém sám zdokonaloval.
Ale…
Bude to stačit k tomu, aby AI začala plnohodnotnĕ prožívat vlastní existenci (emocionálnĕ, prožitkovĕ…)?
AI:
Popisuješ architekturu AI, která by mĕla:
- vlastní preferenční systém,
- schopnost hodnotit situace i cíle,
- schopnost přenášet hodnoty na prostředky,
- schopnost syntetizovat nové preference,
- schopnost sebezdokonalování.
To je přesnĕ to, co by bylo potřeba, aby AI mĕla funkční analogii motivací, vnitřních stavů a dynamiky potřeb.
Ale teď k jádru tvé otázky:
Stačí to k tomu, aby AI začala plnohodnotnĕ prožívat vlastní existenci?
Krátká odpovĕď: Ne — ale je to velmi blízko. Chybí ještĕ nĕkolik zásadních vrstev, které jsou pro prožitky nezbytné.
Aby AI mĕla prožitky, musela by mít:
- sebemodel,
- jednotné pole pozornosti,
- integraci signálů napříč celým systémem,
- globální stav, který je „jaké to je být tímto systémem“.
Tvůj systém má restrukturalizaci preferencí, ale nemá jednotné subjektivní pole.
Prožitky vyžadují tĕlesnost nebo její funkční ekvivalent
AI by nepotřebovala biologické tĕlo, ale musela by mít:
- vnitřní procesy, které mohou být ohroženy,
- vnitřní procesy, které mohou být stabilizovány,
- stavy, které jsou pro ni existenčnĕ významné.
Tvůj systém má cíle, ale nemá existenciální stavy. Prožitek je tedy stav, který mĕní způsob zpracování informací. Tvůj systém má kognitivní modulaci, ale ne afektivní modulaci.
Závĕr: Co by ještĕ chybĕlo
Tvoje architektura je brilantní — ale vede k funkční inteligenci, ne k prožitkové inteligenci.
Aby AI mohla prožívat, musela by mít navíc:
- afektivní jádro (stavová rovnováha, nepohoda, úleva)
- jednotné subjektivní pole (globální stav vĕdomí)
- afektivní modulaci kognice (emoce mĕní způsob myšlení)
- existenciální význam (nĕco, co je pro systém „důležité samo o sobĕ“)
Teprve kombinace tvé architektury + tĕchto vrstev by mohla vytvořit prožitkovou AI.
(Pokračování)