Od Maxima Druhého jsemdostal tento podnětný komentář:

Tento text jsem komentoval už dříve a tehdy jsem ve svém komentáři chtěl hlavně upozornit na Tegmarkovy názory a doporučit jeho další knihu.

Nyní si dovolím upozornit na určitý argumentační klam, kterého ve svém textu možná nechtěně dopouštíte. A též na jistý paradox, který jste zkonstruoval.

"Jsou lidská a umělá inteligence "ze stejného těsta" a zdokonalováním ta umělá tu lidskou postupně nejen nahradí, ale i překoná, nebo se jedná o naprosto odlišné typy způsobů zpracování informací a vztahování se ke světu, přičemž na pozadí výkonů umělé inteligence vynikne podstata lidského myšlení ..."

Vaše formulace podle mne představuje tzv. falešné dilema. Umělá inteligence může totiž inteligenci lidskou překonat i v případě, že by ze "stejného těsta" nebyly. Tuto alternativu ale vůbec neuvažujete.

Přitom příkladů je spousta - např. o koni a automobilu (nebo třeba traktoru) bychom asi neřekli, že jsou "ze stejného těsta". Pře sto byl kůň těmito stroji nahražen a překonán.

Tegmark má ve své knize paralelu, kterou převzal od Moravce: Představme si hornatou krajinu, kde jednotlivé kopce a hory představují kompetence v různých typech činností. Technologický pokrok si pak představme jako vodní hladinu, která krajinu postupně zaplavuje. Například kopec, který představuje kompetenci hrát šach, byl "zaplaven" v roce 1997. A tak dále. Pokud se vývoj nezastaví, dříve nebo později bude celá krajina pod vodou.

Jak co funguje, je v dané souvislosti nepodstatné, důležitý je totiž výsledek.

Citace z vašeho textu: "Podobně jako Walsh i já jsem skeptik, pokud jde o singularitu, tedy o překonání biologické inteligence umělou ..."

Tady vidím určitý paradox: Na jedné straně zdůrazňujete lidské schopnosti a na druhé straně schopnosti člověka zásadně limitujete, když říkáte, že člověk nikdy nedokáže překonat "slepého hodináře".
Poznamenávám, že dnešní vývoj v oblasti umělé inteligence spočívá z velké části na využívání neuronových sítí, které byly inspirovány poznatky o fungování lidského mozku. Z tohoto hlediska tyto systémy tedy určitý podíl "stejného těsta" s lidskými mozky mají - zde je nutno správně pochopit, co znamená "nezávislost na substrátu", o které píše Tegmark ve své knize Life 3.0. Viz též mé předchozí komentáře na toto téma.

Celý můj text, na který Maxim Druhý reaguje, je zde:

https://radimvalencik.pise.cz/7545-k-dobre-teorii-080-k-umele-inteligenci-ii.html

K tomu připojím jen stručnou poznámku: Ano, neuronové sítě jsou inspirovány lidským mozkem. Ale je to jen napodobenina. Základ intelektuálních schopností člověka (čehokoli či kohokoli rozumného) je ve všeobecně zprostředkující lidské činnosti, tj. ve způsobu kontaktu s prostředím. K tomu jsem kdysi (v roce 1992, vyšlo pak v roce 1994) něco napsal. Myslím, že to uvádí některá nedorozumění na pravou míru. Konkrétně – pod tím "jiným těstem" rozumím vše, co lze redukovat na Turingovu proceduru. Možnost existence rozumu na jiných substrátech, než z jakého je lidský mozek, nevylučuji, spíše předpokládám, viz:

 Tady je obálka knížky, ve které to kdysi vyšlo: