R OZ H OVO R
inteligence použitelná na detekci disidentů. To jsou všechno věci, které můžou
budoucnost výrazně ovlivnit. Jsem rád, že
kolegyně o stůl vedle biorizika řeší, i když
by to asi jen v hodně extrémním případě
mohla být rizika existenční.
Co vlastně přesně myslíte existenčním
rizikem? Vyhynutí lidstva, návrat na nižší
civilizační úroveň?
a rizikem, které vyhubí sto procent lidí.
Protože ten rozdíl není jen to jedno procento, ale celá budoucnost.
Přemýšlím, jestli existuje existenční riziko, při kterém by nikdo přímo nezemřel.
Třeba kdyby lidi někdo přesvědčil, že se
nemají množit. Všichni by nakonec zemřeli přirozenou smrtí.
Bostrom tomu dal jasnou definici: riziko,
které by znamenalo buď vyhynutí lidstva,
A existenční riziko, po kterém by se lidstvo množilo dál, ale bez pokroku?
nebo trvalou ztrátu naprosté většiny jeho
potenciálu. Návrat na předchozí civilizační úroveň by tím rizikem nebyl, pokud
by se z toho šlo zase zvednout. Z tohohle
pohledu by jaderná válka sice byla tragédie, ale ve většině scénářů by nevyhubila
celé lidstvo. Je velký rozdíl mezi globální
katastrofou, která vyhubí 99 procent lidí,
To by mohla být ta stabilní totalita.
Současné totality nejsou moc stabilní –
diktátoři umírají, jsou pod nimi hierarchie, kterých se musí sami bát… Můžeme
si ale představit vývoj technologií, který
by dokázal tyhle struktury stabilizovat.
Další možnost je postupné nahrazení
homo sapiens třeba tím, že se začneme
hodně geneticky editovat a vyvineme
se v nové druhy. Zas je tu ta hodnotová
otázka, o co nám vlastně jde. Chceme zachovat lidstvo, nebo hodnoty, které má?
A co si pod tím představit? Naivní odpověď je, že by se teď lidstvo usneslo na
hodnotách, které stojí za to zachovat. Ale
kdyby někdo něco takového udělal před
dvěma tisíci lety, asi by nám to z dnešního pohledu nepřišlo ideální. Asi bychom
tedy nechtěli zamrazit dnešní hodnoty,
protože dochází k morálnímu pokroku.
Zřejmě bychom tedy chtěli zachovat vývoj – jenže pokud povolím, aby se hodnoty vyvíjely, otevřu prostor tomu nechat je
někým nebo něčím manipulovat. A to zas
nechci. Složitý problém!
Michal Kašpárek je šéfredaktor webu Finmag.cz
a editor tištěného Finmagu.
@kasparek