R OZ H OVO R

inteligence použitelná na detekci disidentů. To jsou všechno věci, které můžou

budoucnost výrazně ovlivnit. Jsem rád, že

kolegyně o stůl vedle biorizika řeší, i když

by to asi jen v  hodně extrémním případě

mohla být rizika existenční.

Co vlastně přesně myslíte existenčním

rizikem? Vyhynutí lidstva, návrat na nižší

civilizační úroveň?

a  rizikem, které vyhubí sto procent lidí.

Protože ten rozdíl není jen to jedno procento, ale celá budoucnost.

Přemýšlím, jestli existuje existenční riziko, při kterém by nikdo přímo nezemřel.

Třeba kdyby lidi někdo přesvědčil, že se

nemají množit. Všichni by nakonec zemřeli přirozenou smrtí.

Bostrom tomu dal jasnou definici: riziko,

které by znamenalo buď vyhynutí lidstva,

A  existenční riziko, po kterém by se lidstvo množilo dál, ale bez pokroku?

nebo trvalou ztrátu naprosté většiny jeho

potenciálu. Návrat na předchozí civilizační úroveň by tím rizikem nebyl, pokud

by se z toho šlo zase zvednout. Z tohohle

pohledu by jaderná válka sice byla tragédie, ale ve většině scénářů by nevyhubila

celé lidstvo. Je velký rozdíl mezi globální

katastrofou, která vyhubí 99 procent lidí,

To by mohla být ta stabilní totalita.

Současné totality nejsou moc stabilní –

diktátoři umírají, jsou pod nimi hierarchie, kterých se musí sami bát… Můžeme

si ale představit vývoj technologií, který

by dokázal tyhle struktury stabilizovat.

Další možnost je postupné nahrazení

homo sapiens třeba tím, že se začneme

hodně geneticky editovat a  vyvineme

se v  nové druhy. Zas je tu ta hodnotová

otázka, o co nám vlastně jde. Chceme zachovat lidstvo, nebo hodnoty, které má?

A  co si pod tím představit? Naivní odpověď je, že by se teď lidstvo usneslo na

hodnotách, které stojí za to zachovat. Ale

kdyby někdo něco takového udělal před

dvěma tisíci lety, asi by nám to z dnešního pohledu nepřišlo ideální. Asi bychom

tedy nechtěli zamrazit dnešní hodnoty,

protože dochází k  morálnímu pokroku.

Zřejmě bychom tedy chtěli zachovat vývoj – jenže pokud povolím, aby se hodnoty vyvíjely, otevřu prostor tomu nechat je

někým nebo něčím manipulovat. A to zas

nechci. Složitý problém!

Michal Kašpárek je šéfredaktor webu Finmag.cz 

a editor tištěného Finmagu. 

@kasparek