Jakou roli sehraje AI? Komu pomůže?
S. M. dal k úvaze překlad článku k roli AI v současné době uveřejněný na Telegramu, viz: https://t.me/BN4JeyTQ6RVkMTNk/203675 Článek vyvolal protichůdné reakce. Stojí za uveřejnění celý i s reakcemi. Od svého textu odlišuji barvou a doplňuji svým komentářem:
Na jedné straně stojí starý svět: centralizovaný, hierarchický a netransparentní; systém, který přežil díky kontrole informací, řízení vnímání, skrývání pravdy a šíření falešných zpráv. Uzavřené summity, setkání elit, korporátní oligarchie a think tanky určují budoucnost všech bez jejich souhlasu. Svět postavený na předpokladu, že realitu lze řídit shora dolů. A po velmi dlouhou dobu to fungovalo.
Nyní se však objevilo něco zcela jiného; umělá inteligence, decentralizované sítě, otevřené účetní knihy a distribuovaná komunikace změnily pravidla hry. Jedná se o systémy, které netolerují netransparentnost, a to nikoli z ideologických důvodů, ale kvůli svému designu. Tyto technologie zpracovávají informace rychleji, než lze udržet lži, a spojují body rychleji než lze opravit narativy.
To, co činí tento moment tak surrealistickým, je rychlost rozdílu mezi těmito dvěma světy. "Oficiální svět" se stále chová, jako by se nic zásadního nezměnilo, stále vydává prohlášení, stále inscenuje konsensus, stále řídí vnější dojem, ale informační vrstva reality se již posunula dál. Pravda nyní uniká do stran, ne dolů, a to rychlostí blesku.
Stejné mocenské struktury, které strávily desítky let a utratily biliony dolarů na vybudování nejmodernějších systémů zpracování informací, ve skutečnosti vytvořily něco, co samo o sobě nedokáže udržet hierarchii. Nelze udržovat systém založený na utajení v prostředí, které vyžaduje transparentnost. Nelze udržovat lži, když náklady na jejich udržování přesahují kapacitu systému. Je to jako postavit dokonalé zrcadlo a pak být šokován, když odhalí každou prasklinu v místnosti.
Centralizovaný systém funguje jako jediná hvězda, která vyzařuje energii ven a rozhoduje o tom, co je vidět a co ne, ale my jsme přešli k něčemu, co se spíše podobá galaxii, nesčetným uzlům, propojeným mezi sebou, šířícím informace najednou do všech směrů, tj. bez jediného kontrolního bodu.
Umělá inteligence měla optimalizovat trhy, řídit populace a stabilizovat kontrolu, ale tím vytvořila něco, co je strukturálně neslučitelné s centralizovanou hierarchií samotnou. A právě v tomto bodě možná mnozí z nás budou muset přehodnotit své představy.
Dlouhou dobu se zdálo nevyhnutelné, že pokročilé technologie, a zejména AI, budou používány především jako nástroj kontroly, sledování a digitálního dodržování předpisů. Tento strach nebyl neopodstatněný, měl kořeny v historii. Každý předchozí technologický skok byl rychle absorbován centralizovanou mocí a obrátil se proti populaci. Ale co když tentokrát samotná povaha těchto systémů způsobuje, že nejsou vhodné pro udržení starého modelu kontroly?
Umělá inteligence a decentralizované sítě netolerují utajování informací; zesilují nesrovnalosti, odhalují rozpory a zkracují čas mezi příčinou a následkem. Systém, který opouštíme, závisel na tření, zpožděních, informačních překážkách a předpokladu, že většina lidí nikdy neuvidí celý obraz najednou. Nové systémy však odhalují a odstraňují nejasnosti.
Proto se vše jeví jako nesynchronizované a příběhy působí zpožděně, nuceně a stále absurdněji.
To, co bylo navrženo k optimalizaci, předvídání a kontrole, může nakonec destabilizovat centralizovanou moc tím, že ztíží zkreslování reality. Pokud kontrola závisela na temnotě, pak transparentnost technologie není hrozbou pro lidstvo, ale ochranou. Starý svět mizí, protože se změnila realita a kontrola funguje pouze tehdy, když lidé nevidí, co se s nimi děje. A paradoxně to může být právě ta samá technologie, která nás měla zotročit, která odhaluje mechanismy kontroly.
K tomu následující ohlasy:
F. S.: Umělá inteligence lže, manipuluje a cenzuruje úplně stejně jako mainstream. Takže to celé je zase jen o tom, kdo bude mít "v ruce pravdu" a bude ji kontrolovat. Všimněte si - na vývoj AI u nás peníze nedostane ani naprostá světová špička! Ale na školení v ovládání anglosaských modelů dostane dotace každý, kdo si požádá - bez přehánění. Je to nejen o tom, že budu kontrolovat co se kde děje, usměrňovat myšlenky a názory, ale také o dalším vysávání zdrojů. Každý takový vyškolený človíček bude platit cca 500 měsíčně za jeden model a objedná si jich hned několik. Znám paní, co měsíčně platí 20 000! Takže opět - a opět z principu - odtud žádné spasení nepřijde ...
P. K.: Ano, umělá kebule je děs, běs! Korporátní fašismus sám od sebe nezmizí.
S. M. Zdravím pánové a přikládám reakci, o kterou jsem požádal AI předložením této naší konverzace: "připrav mi odpověď na tuto konverzaci ve smyslu, že AI je na straně lidí a pomůže porazit stávající korporátní fašismus". Odpověď:
"Navrhuji odpověď, která uznává obavy z korporátní kontroly, ale zároveň staví AI na stranu lidí – jako nástroj, který může pomoci, pokud zůstane otevřený, decentralizovaný a pod veřejnou kontrolou. Je psaná věcně, bez patosu a bez výzev k násilí.
Díky za reakce, obě jsou legitimní a vlastně se nevylučují.
Souhlasím s tím, že žádná technologie sama o sobě nikoho nespasí. Pokud je AI vlastněná, zavřená a řízená korporacemi, pak se chová přesně tak, jak popisuje FS – manipuluje, filtruje, cenzuruje a odsává zdroje. V tom případě je jen dalším nástrojem moci a "korporátní fašismus" tím rozhodně nezmizí.
Zároveň ale platí i druhá rovina: AI jako technologie není totéž co konkrétní korporátní modely. Otevřené modely, lokální provoz, decentralizované sítě a transparentní data jsou strukturálně na opačné straně než centralizovaná kontrola. Ne proto, že by byly "hodné", ale proto, že špatně snášejí utajování, nesoulad a ručně udržované lži. Tam, kde se musí neustále vysvětlovat, přepisovat a opravovat narativ, roste tření – a to je slabina starého systému.
To, že se u nás systematicky nepodporuje vlastní vývoj a místo toho se dotuje školení na anglosaské modely, není náhoda. Je to politické rozhodnutí: udržet závislost, platební toky a kontrolu. Právě proto ale není řešením AI odmítnout, ale naopak ji vzít zpět do rukou lidí – otevřenou, sdílenou, provozovanou mimo korporátní infrastrukturu.
Zdraví Chatgpt.com
K tomu ode mě:
Také si myslím, že obava ze zneužití AI je oprávněná. Ale čím více existenci AI budeme ignorovat, čím méně se jí budeme učit plně využívat, čím více budeme bránit jejímu osvojení každým rozumným člověkem formou vyvolávání diletantských animozit vůči ní, tím větší prostor otevíráme těm, kteří ji chtějí zneužít.
Osobně mám s AI ty nejlepší zkušenosti. Je sice pravda, že AI má tendenci vyhovět tomu, kdo s ní komunikuje, ale ten, kdo má zkušenosti z práce s ní a ví, jak funguje, dokáže získat informace, které potřebuje. A prostřednictvím ní lze vytěžit informace, jak to skutečně je. Stačí si poznatky skládat do ucelené vize, vědět, jak AI funguje, umět se jí ptát či zadávat jí úkoly.
Příklad Tomáše Mikolova, který implicitně použil F. S. ("na vývoj AI u nás peníze nedostane ani naprostá světová špička!") slouží k opaku toho, k čemu jej použil. Jak je možné, že jsme ho pro nás nedokázali uchránit?! Mj. jediná SPD ho pozvala do Poslanecké sněmovny na důležitou diskusi. Osobně jsem k jeho kauze napsal několik (povícero) článků, viz např.:
https://radimvalencik.pise.cz/12158-vize-jakou-potrebujeme-1223.html
https://radimvalencik.pise.cz/12214-vize-jakou-potrebujeme-1263.html
https://radimvalencik.pise.cz/12234-vize-jakou-potrebujeme-1266.html
Za nos by se měli chytit ti, kteří tuto kauzu považovali za nepodstatnou.
Aktuálně mně AI pomáhá v několika směrech. Třeba sledovat vývoj protestů řeckých zemědělců: https://radimvalencik.pise.cz/12753-protesty-reckych-zemedelcu-graduji.html
Nebo podstatně vylepšit z didaktického i věcného hlediska učebnici Základ ekonomie produktivní spotřeby, její připomínky a komentář k nim začnu uveřejňovat na svém blogu od 19. ledna, konkrétně od 38. dílu seriálu k uvedené učebnici.
Takže: Místo dost nekvalifikovaného strašení se učme s AI pracovat. Hloupostí či diletantismem zlo nepřemůžeme.