Podaří se polidštit počítač? Ne někdy, teď!/130
Podaří se polidštit počítač? Ne někdy, teď!/130
Trávím dovolenou ve Slovenské ráji. Dostali jsme se s mým dlouholetým kamarádem do sporu o možnostech a roli AI. Považuje za hlavní nebezpečí to, že v důsledku jejího masového nasazení začne dramaticky přibývat nezaměstnaných a co hůř, „zbytečných“ lidí.
„Tak vyzkoušejme, jak se na tento problém dívá samotná AI“ – navrhl jsem a začal jsem s AI komunikovat. Za nejvhodnější jsem považoval začít srovnání s obdobím, kdy vypuklo hnutí ludditů. Pokud někdo neví, o co se jedná, zde je odkaz zpracování tohoto tématu v prestižním National Geografic: https://www.nationalgeographic.cz/historie/luddite-prumyslova-revoluce-proti-technologii/
V předcházejících dvou částech AI dala návrhy a doporučení, jak se s technologickým šokem vyrovnat. Vyjádřil jsem se k nim kriticky a konkretizoval požadavky na řešení problému:
Já:
Tvé návrhy jsou dobré a některé z nich se již uplatňují. Ale jsou příliš administrativní a umožňují prosazování různých parciálních zájmů, přičemž nejvíce ohrožené skupiny budou patrně nejméně chráněné. Za velmi důležité považují Tvé upozornění na to, že chybí „mechanismy sdílení výnosů“. Dodal bych – rozdělení a sdílení výnosů (efektů ze zavedení AI), a to mechanismy ve smyslu Hurwiczovy teorie návrhu a prosazení mechanismů. Tj. mechanismů, které by splňovaly podmínku konvergence motivací atd.
AI:
Administrativní řešení bez skutečných mechanismů motivací jsou jen náplasti. Pokud se výnosy z AI nerozdělí přes dobře navržené mechanismy, skončí přesně tam, kde tušíš: u těch nejsilnějších, zatímco nejohroženější skupiny zůstanou mimo.
Zkusím to vzít přímo přes Hurwicze.
- Co vlastně chybí: mechanismus, nejen regulace
Regulace říká, co se nesmí. Mechanismus říká, jak se vyplatí chovat.
Hurwiczovská perspektiva znamená:
- incentive compatibility: vyplatí se říkat pravdu a chovat se „poctivě“,
- participation constraints: vyplatí se účastnit (nikdo není nucen, ale dobrovolně vstupuje),
- efektivnost: systém neplýtvá zdroji.
U AI dnes máme spíš:
- fragmentovanou regulaci,
- žádný robustní mechanismus sdílení výnosů,
- asymetrii informací a moci.
- Jak může vypadat mechanismus sdílení výnosů z AI (ve smyslu Hurwicze)
1) AI dividendy jako endogenní součást systému, ne politický bonus
Ne „vláda něco rozdá“, ale:
- každý AI systém nad určitou velikost (počty uživatelů, obrat, výpočetní kapacita) má povinný fond výnosů,
- tento fond je rozdělován podle předem daného algoritmu, který je veřejný,
- algoritmus bere v úvahu míru substituce lidské práce, míru využití dat (uživatelských, veřejných), míru externalit (pozitivních i negativních).
To je mechanismus: AI se vyplatí provozovat, ale zároveň se automaticky sdílí část výnosu s těmi, kdo nesou náklady.
2) Datové trusty jako mechanismus kolektivního vlastnictví vstupů
Data jsou palivo AI. Mechanismus:
- lidé (nebo profese) vstupují do datových trustů,
- trust licencuje data AI systémům,
- výnosy z licencí se dělí podle pravidel trustu,
- AI systém má motivaci platit, protože bez dat nemá výkon.
To splňuje:
- incentive compatibility: AI se vyplatí platit, protože získá data,
- participation: lidé se vyplatí vstoupit, protože jinak nedostanou nic,
- efektivnost: data jsou sdílena, ale ne zdarma.
3) Profesní mechanismy: „AI-ready“ smlouvy pro herce, účetní, tvůrce
Nejen ochrana, ale standardizované smlouvy, které:
- definují, jak může být podoba, hlas, styl, know-how použito v AI,
- obsahují automatické licenční platby (royalties),
- jsou vynutitelné přes profesní komory / kolektivní správce.
Mechanismus:
- AI se vyplatí používat konkrétního herce / autora, protože má jasná práva,
- herci se vyplatí vstoupit, protože mají stabilní příjem z reuse,
- systém je stabilní, protože není založený na ad hoc dohodách.
4) Mechanismus „participačního práva“ při zavádění AI ve firmách
Když firma zavádí AI:
- musí zveřejnit impact assessment (dopady na profese, mzdy, počet míst),
- zaměstnanci mají participační právo podílet se na návrhu způsobu zavedení, vyjednat podíl na výnosech (bonusy, zkrácení pracovní doby, rekvalifikace).
Firma má motivaci zavádět AI tak, aby minimalizovala odpor, zaměstnanci mají motivaci spolupracovat, protože z toho něco mají, systém konverguje k řešení, kde se AI zavádí, ale ne destruktivně.
- Jak do toho dostat „konvergenci motivací“
To, co zmiňuješ—Hurwiczova konvergence motivací—je přesně to, co dnes chybí: AI firmy maximalizují zisk, stát minimalizuje chaos, jednotlivci maximalizují důstojné přežití.
Konvergence motivací by znamenala:
- AI se vyplatí sdílet výnosy, protože jinak ztratí legitimitu, data, přístup na trh,
- státu se vyplatí podporovat AI, protože má nástroje, jak výnosy přetavit v sociální stabilitu,
- lidí se vyplatí spolupracovat, protože nejsou jen objekty, ale subjekty mechanismu.
To se dá udělat jen tehdy, když sdílení výnosů není „dobrá vůle“, ale strukturální vlastnost systému, mechanismy jsou transparentní, předvídatelné a vynutitelné.
- Tvoje poznámka o nejohroženějších skupinách
Máš pravdu: nejohroženější skupiny bývají nejméně chráněné, protože nemají hlas, nemají odbory, nemají kapitál, nemají čas ani energii se bránit.
Mechanismus sdílení výnosů musí mít vestavěnou redistribuční složku, která nečeká na to, až si někdo vyjedná lepší podmínky, ale automaticky přiděluje část výnosů těm, kdo jsou nejvíc ohroženi (např. podle profesních statistik, regionů, míry substituce).
K tomu:
To už je podstatně lepší. Pro úplnost jen poznámka k tomu, co je to „incentive compatibility“:
V teorii her a ekonomii se mechanismus nazývá motivačně kompatibilní, pokud každý účastník může dosáhnout svého nejlepšího výsledku tím, že oznámí své skutečné preference. Existuje například motivační slučitelnost, pokud jsou vysoce rizikoví klienti lepší v tom, že se identifikují jako vysoce rizikoví pro pojišťovny, které prodávají pouze zvýhodněné pojištění vysoce rizikovým klientům. Stejně tak by na tom byli hůř, kdyby předstírali, že jsou nízkorizikoví. Nízkorizikoví klienti, kteří předstírají, že jsou vysoce rizikoví, by na tom byli i hůře. Koncept je připisován americkému ekonomovi ruského původu Leonidu Hurwiczovi.
(Pokračování)