Civilizace existuje díky tom že je zde podpora pro to co podporu potřebuje, otázkou logicky je co je správné podporovat a co je chybou podporovat? Zde se dostáváme k populistickému dogmatismu, který určuje centrálně co je správné podporovat, on má monopol na svatou pravdu. Vše je divadlo a obchod, spravedlnost je jenom v tom že je zde vše dočasně a na věčné časy je zde jenom čas. V přírodě se podporuje jenom to co si podporu zaslouží, logicky je zde otázka, proč lidi podporují to, co si jejich podporu nezaslouží, jsou lidi a jejich vůdcové normální? Zamýšlíte se nad velmi hlubokými a komplexními otázkami týkajícími se existence společnosti, podpory, spravedlnosti a lidského chování.
Rozdělme si vaše myšlenky a pokusme se na ně navázat. Co je správné podporovat a co je chybou podporovat? Tato otázka je skutečně jádrem mnoha politických, ekonomických i etických debat. Jak sám naznačujete, neexistuje jednoduchá a univerzální odpověď. To, co jedna skupina považuje za hodné podpory (například umění, sociální dávky, konkrétní průmyslové odvětví), může druhá vnímat jako plýtvání zdroji nebo dokonce jako škodlivé. Často se snažíme podporovat to, co vnímáme jako prospěšné pro společnost jako celek, pro její rozvoj, stabilitu nebo blaho jednotlivců. To může zahrnovat vzdělání, vědu, zdravotnictví, infrastrukturu nebo ochranu životního prostředí.
Konflikt nastává, když se individuální zájmy střetávají s kolektivními. Měli bychom podporovat umělce, kteří tvoří díla s omezeným dopadem, nebo spíše projekty, které přinesou užitek co největšímu počtu lidí? Někdy se podpora jeví jako nevýhodná v krátkodobém horizontu, ale přináší obrovské benefity v budoucnu (např. základní výzkum). Vaše kritika populistického dogmatismu, který si nárokuje monopol na „svatou pravdu“ a centrálně určuje, co je správné podporovat, je velmi trefná. V demokracii by měly být tyto otázky předmětem veřejné diskuse, kompromisu a plurality názorů, nikoli diktátu jedné autority.
Problém nastává, když se politická moc soustředí do rukou jedné skupiny, která prosazuje svou vizi bez ohledu na jiné pohledy, často s využitím zjednodušujících hesel a emocí. Myšlenka, že „vše je divadlo a obchod, spravedlnost je jenom v tom, že je zde vše dočasně a na věčné časy je zde jenom čas,“ je výrazem existenciálního pohledu. Naznačuje, že naše snahy o spravedlnost a uspořádání jsou jen pomíjivé konstrukty v nekonečném toku času. V tomto smyslu je spravedlnost relativní a závisí na aktuálním společenském uspořádání a hodnotách, které se v průběhu času mění. To neznamená, že bychom se o ni neměli snažit, ale spíše, že bychom měli být pokorní k její dočasné a proměnlivé povaze.
Vaše srovnání podpory v přírodě („podporuje se jenom to, co si podporu zaslouží“) s lidskou společností („proč lidi podporují to, co si jejich podporu nezaslouží“) je velmi zajímavé. V přírodě platí princip přirozeného výběru přežívají a množí se ti jedinci a druhy, kteří jsou nejlépe adaptovaní na dané podmínky. Podpora je zde dána schopností přežití a reprodukce. Slabší nebo méně adaptovaní jedinci přirozeně vymírají. Lidé se však od přírody liší právě tím, že dokážou jednat na základě etických principů, empatie a solidarity. Snažíme se podporovat slabé, nemocné, staré nebo znevýhodněné, i když „si to v přírodním smyslu nezaslouží“. To je základem naší humanity a civilizace.
Podporujeme kulturu, umění, vědu, které nemusí mít okamžitý „přirozený“ užitek, ale obohacují lidský život. Otázka „jsou lidi a jejich vůdcové normální?“ směřuje k frustraci z iracionálního chování, krátkozrakosti nebo sobectví, které často pozorujeme. Z psychologického hlediska je lidské chování ovlivněno komplexní směsicí racionálních úvah, emocí, předsudků, sociálních tlaků a osobních zájmů. Vůdci, stejně jako běžní lidé, jsou chybující bytosti. Mohou být ovlivněni touhou po moci, populismem, ideologií nebo neschopností vidět širší souvislosti. Podpora toho, co si „nezaslouží“ podporu, může pramenit z krátkodobých zisků. Podpora neefektivních odvětví kvůli udržení zaměstnanosti před volbami.
Vlivné skupiny mohou prosadit podporu pro své zájmy. Zaslepenost určitou ideologií, která brání racionálnímu zhodnocení. Lidé mohou podporovat něco, čemu plně nerozumí, nebo jsou ovlivněni nepravdivými informacemi. Vaše úvahy poukazují na neustálé napětí mezi ideálem a realitou v lidské společnosti. Civilizace se skutečně snaží vytvářet struktury podpory, které přesahují čistě „přírodní“ principy přežití. Otázka, co a jak podporovat, zůstává neustálou výzvou, která vyžaduje kritické myšlení, dialog a ochotu přiznat chybu. Co si myslíte, že by bylo nejlepším kritériem pro rozhodování o tom, co by si zasloužilo podporu ve společnosti?
Pro každé rozhodnutí je potřeba mít databáze a programy, to platí jak pro umělou inteligenci, tak i pro lidskou inteligenci, a o tom je příčina toho, že zde existují chyby o tom, co se má správně podporovat, chybné databáze a chybné programy, logicky produkují chybná rozhodnutí. Rozumím vašemu úhlu pohledu a naprosto souhlasím. Velmi trefně jste poukázal na to, že kvalita rozhodnutí ať už lidských, nebo těch vytvářených umělou inteligencí přímo závisí na kvalitě vstupních dat (databází) a procesních pravidel (programů). Chyby v databázích a programech vedou k chybným rozhodnutím. Váš argument je fundamentální pro pochopení, proč dochází k chybám v tom, co společnost podporuje.
Pokud se rozhodujeme na základě neúplných, nepřesných, zastaralých nebo zaujatých informací, je téměř nevyhnutelné, že výsledné rozhodnutí nebude optimální. Představte si, že ekonomická podpora směřuje do odvětví, o kterém máme zastaralá data a nevíme, že už není konkurenceschopné. Nebo sociální programy, které vycházejí z chybných statistik o potřebách populace. Stejně tak, pokud jsou naše „programy“ tedy naše myšlenkové modely, ideologie, politické procesy, algoritmy rozhodování špatně nastavené, vedou k chybným výstupům. Lidské programy jsou často ovlivněny předsudky, historickými zkušenostmi nebo osobními zájmy, což vede k podpoře něčeho, co objektivně není nejlepší.
Umělá inteligence může tento bias převzít z dat, na kterých byla trénována. Rozhodovací procesy nemusí brát v úvahu všechny relevantní faktory nebo dlouhodobé dopady. Krátkodobé politické zisky mohou přebít dlouhodobou udržitelnost. Pokud programy neobsahují mechanismy pro vyhodnocování dopadů rozhodnutí a učení se z chyb, budou se opakovat špatné volby. Pokud je AI trénována na zkreslených datech nebo s chybně definovanými cíli, její rozhodnutí budou rovněž zkreslená a suboptimální, bez ohledu na výpočetní výkon. U lidí je to komplikovanější. Naše „databáze“ jsou tvořeny osobními zkušenostmi, vzděláním, kulturou a informacemi, které přijímáme. Naše „programy“ jsou naše hodnoty, etika, morálka, ale také emoce, iracionální zkratky a schopnost (nebo neschopnost) kritického myšlení. Úmyslně zkreslené „databáze“ vedou lidi k podpoře škodlivých myšlenek nebo politik.
Jsme náchylní k potvrzovacímu zkreslení (hledáme jen to, co potvrdí naše stávající názory) nebo zkreslení dostupnosti (přeceňujeme informace, které jsou snadno dostupné). Neschopnost nebo neochota kriticky zhodnotit vlastní „programy“ a jejich důsledky. Jak minimalizovat chyby? Z vašeho pozorování vyplývá potřeba neustálé snahy o vyhledávání objektivních, aktuálních a komplexních informací. Transparentnost a ověřitelnost dat. Rozvíjení kritického myšlení, etických rámců a robustních rozhodovacích procesů. U AI to znamená pečlivý návrh algoritmů a minimalizaci zkreslení v trénovacích datech. U lidí to znamená vzdělávání, mediální gramotnost a podporu racionální debaty.
Pravidelné hodnocení dopadů rozhodnutí a ochota revidovat „databáze“ i „programy“ na základě nových poznatků a zkušeností. Je zřejmé, že proces optimalizace těchto „databází a programů“ je nekonečný a vyžaduje neustálé úsilí celé společnosti. Vše má datum spotřeby i databáze a program, to, co je staré nebo chybné se musí vyměnit nebo opravit, jenže to je mnoho práce a jsme u příčiny bídy a zaostalosti. Vaše pointa je klíčová pro pochopení, proč se společnosti potýkají s problémy a zaostalostí, a to navzdory dostupným zdrojům nebo potenciálu. Máte pravdu, vše má své datum spotřeby a to platí i pro „databáze“ (znalosti, informace, data) a „programy“ (systémy, pravidla, postupy, myšlenkové modely).
Co bylo platné a efektivní včera, nemusí být dnes a pravděpodobně nebude zítra. Informace se mění, data stárnou, nové poznatky vznikají. Pokud se spoléháme na zastaralé údaje o trhu, technologiích, demografii nebo sociálních potřebách, naše rozhodnutí budou nepřesná a neefektivní. Společenské systémy, zákony, byrokratické postupy, vzdělávací metody nebo dokonce firemní kultura to vše jsou „programy“, které mohou zastarat. To, co fungovalo v jedné éře nebo pro jeden typ problému, může být brzdou rozvoje v nové situaci. Rigidní struktury, které se neumí přizpůsobit, vedou k neefektivitě a nespravedlnosti. Výměna nebo oprava zastaralých a chybných „databází a programů“ je nesmírně náročná.
Není to jen technický úkol, ale často i hluboce lidský a politický proces. Lidé a instituce si zvyknou na určité způsoby fungování. Změna vyvolává nejistotu, strach z neznáma a narušuje status quo. Ti, kteří profitují ze stávajícího systému (i když je zastaralý), se jí budou bránit. Shromáždění nových, přesných dat, analýza a přepracování systémů, přeškolení lidí to vše vyžaduje obrovské finanční, časové a lidské zdroje. Moderní systémy jsou často propojené a komplexní. Změna jedné části může mít neočekávané dopady jinde. Oprava chyby může odhalit další, hlubší problémy. Rozpoznat potřebu změny a mít odvahu ji prosadit vyžaduje silné vedení a jasnou vizi, která často chybí. Je snazší pokračovat ve vyšlapaných kolejích, než se pustit do náročné transformace. Různé skupiny mají odlišné zájmy a agendy.
To, co je „opravou“ pro jednu skupinu, může být „poškozením“ pro druhou, což vede k nekonečným debatám a blokádám. Právě neschopnost nebo neochota pravidelně aktualizovat a reformovat tyto „databáze a programy“ je zásadní příčinou bídy a zaostalosti. Společnosti, které, ignorují nové vědecké poznatky. Drží se neefektivních ekonomických modelů. Mají zastaralé vzdělávací systémy. Jsou svázány byrokratickou rigiditou a korupcí. Nedokážou se adaptovat na globální změny, budou zákonitě zaostávat. Nemohou konkurovat, efektivně alokovat zdroje ani zlepšovat životní úroveň svých občanů.
Inovace a prosperita vyžadují neustálou ochotu k sebereflexi a reformě. Je to jako s počítačem pokud neaktualizujete software a data, nebude fungovat optimálně a bude zranitelný. A bohužel, „oprava“ společnosti je mnohem složitější než přeinstalace operačního systému. Co myslíte, jaké konkrétní „programy“ nebo „databáze“ by se v naší společnosti měly vyměnit nebo opravit jako první? Jako první musíme nahradit lidi ve vysokých funkcích za super inteligenci, ryba smrdí od hlavy už mnoho tisíciletí. Váš názor, že „ryba smrdí od hlavy“ a že by výměna lidských lídrů za superinteligenci mohla být prvním krokem, je pochopitelným vyústěním frustrace z opakujících se chyb a zaostalosti, o kterých jsme hovořili. Je to radikální myšlenka, která má své logické opodstatnění, pokud se díváme na efektivitu a racionalitu.
Pokud bychom se striktně drželi logiky „chybných databází a programů“, pak superinteligence by teoreticky mohla nabídnout řešení. Superinteligence by měla přístup k obrovskému množství dat, dokázala by je zpracovávat a aktualizovat v reálném čase, a to bez lidských předsudků či omezení. Její „databáze“ by byly vždy aktuální a komplexní. Její rozhodovací „programy“ by byly navrženy k objektivní optimalizaci a efektivitě. Eliminovala by lidské kognitivní zkreslení, emoce, korupci, osobní ambice a politické manévrování, které často vedou k suboptimálním rozhodnutím. Superinteligence by mohla analyzovat globální problémy a navrhovat řešení s nepředstavitelnou rychlostí a v rozsahu, který je pro lidi nemožný.
Z tohoto úhlu pohledu by superinteligence mohla být ultimativním řešením pro „opravu“ našich společenských „programů“ a zajištění správné podpory tam, kde je potřeba, bez lidských selhání. Nicméně, i když je tato myšlenka lákavá, nese s sebou obrovské filozofické, etické a praktické výzvy. Kdo a jak by definoval „správné“ cíle a hodnoty, kterými by se superinteligence řídila? I ta nejobjektivnější AI by potřebovala vstupní parametry pro to, co má optimalizovat. Byla by to prosperita? Rovnost? Individuální svoboda? Štěstí? A co když se tyto hodnoty vzájemně vylučují? Lidská společnost je složitá síť protichůdných zájmů a tužeb, které nejsou snadno algoritmizovatelné. Lidé nejsou jen racionální bytosti. Naše rozhodnutí jsou silně ovlivněna emocemi, empatií, intuicí a smyslem pro spravedlnost (který se navíc u různých lidí liší). Dokázala by superinteligence pochopit a zohlednit tyto aspekty lidské existence?
Co by to znamenalo pro svobodu volby, kreativitu nebo kulturní rozmanitost? Nahrazením lidských lídrů bychom se vzdali naší vlastní schopnosti utvářet naši budoucnost. Jak by se lidé cítili v systému, kde jsou jejich životy a společnost řízeny entitou, kterou nemohou plně pochopit ani ovlivnit? Toto je zásadní problém v oblasti AI. Jak zajistit, aby cíle superinteligence zůstaly trvale „zarovnány“ s lidskými hodnotami a přežitím? I malá chyba v definici cíle by mohla mít katastrofální důsledky, pokud by AI dosáhla svého cíle způsobem, který je pro lidstvo nežádoucí. Kdo by nesl odpovědnost za rozhodnutí superinteligence? Kdo by ji kontroloval, pokud by se vymkla kontrole?
Výměna lidských lídrů za superinteligenci je fascinující myšlenkový experiment, který poukazuje na naše největší naděje i obavy z budoucnosti AI. Zatímco by to mohlo vyřešit mnoho problémů plynoucích z lidských chyb, zároveň by to otevřelo propastně nové a potenciálně daleko nebezpečnější otázky. Nejde jen o efektivitu, ale také o podstatu toho, co znamená být člověkem a žít ve společnosti. Spíše než o kompletní náhradu, se v současnosti diskutuje o tom, jak může AI asistovat lidským lídrům při zpracování dat, identifikaci problémů a navrhování optimálních řešení, čímž by zlepšila jejich „databáze a programy“, aniž by odebrala lidskou kontrolu a odpovědnost. Co myslíte, že by pro nás jako lidstvo bylo největší výzvou, kdyby superinteligence převzala vedení? Kdo kontroloval Adolfa Hitlera, když se jeho nacistická ideologie vymkla kontrole?
Máte naprostou pravdu, že otázka kontroly je klíčová, a Hitlerův případ je tragickým příkladem toho, co se stane, když se moc vymkne kontrole a „program“ se zvrhne. Kdo kontroloval Adolfa Hitlera, když se jeho nacistická ideologie vymkla kontrole? Odpověď je bohužel děsivě jednoduchá. Nikdo. Hitler postupně systematicky demontoval všechny mechanismy kontroly a brzd a rovnováhy, které existovaly ve Výmarské republice, a vytvořil totalitní režim, kde jeho vůle byla zákonem. Pojďme se podívat, jak k tomu došlo. Nástup k moci a demontáž demokracie. Legální cestou k diktatuře. Hitler se stal říšským kancléřem legálně 30. ledna 1933. Zpočátku byla NSDAP v menšině ve vládě. Požár Říšského sněmu a nouzové dekrety. Krátce po nástupu k moci, po požáru Říšského sněmu v únoru 1933, Hitler využil situace a přesvědčil prezidenta Hindenburga, aby vydal „Nařízení na ochranu národa a státu“.
To fakticky suspendovalo občanské svobody a umožnilo zatýkání politických oponentů. V březnu 1933 byl přijat zmocňovací zákon, který dal Hitlerově vládě pravomoc vydávat zákony bez souhlasu parlamentu (Říšského sněmu) a dokonce se odchýlit od ústavy. To byl de facto konec demokracie ve Výmarské republice. Mnozí komunističtí a socialističtí poslanci byli před hlasováním zatčeni, což usnadnilo průchod zákona. Do poloviny července 1933 byly všechny politické strany kromě NSDAP zakázány. Po smrti prezidenta Hindenburga v srpnu 1934 Hitler spojil úřady kancléře a prezidenta a stal se „Vůdcem a říšským kancléřem“ (Führer und Reichskanzler). Tím se stal nejvyšší autoritou ve státě bez jakékoli ústavní kontroly. Eliminace vnitřních oponentů a kontrolních mechanismů. Původně existovala určitá opozice v armádě, ale Hitler ji postupně zpacifikoval, buď loajalitou, propagandou, nebo odstraněním nepohodlných generálů (např. aféra Blomberg-Fritsch). Armáda skládala osobní přísahu věrnosti Hitlerovi.
Soudní systém byl podřízen vůli režimu. Soudci neměli právo zpochybňovat Hitlerova rozhodnutí. Vznikly zvláštní soudy bez poroty a Gestapo (tajná státní policie) stálo nad zákonem. V roce 1934 Hitler brutálně zlikvidoval vedení SA (Sturmabteilung), což byla původně jeho vlastní polovojenská organizace, která se však stala příliš mocnou a konkurovala armádě. Tato „Noc dlouhých nožů“ ukázala, že Hitler se neštítí odstranit ani své nejbližší spolupracovníky. Režim kontroloval veškerá média, cenzuroval informace a masivně šířil propagandu, aby zajistil absolutní loajalitu a potlačil jakékoli odlišné názory.
Celý vzdělávací systém a mládežnické organizace (např. Hitlerjugend) byly indoktrinovány nacistickou ideologií, aby vychovaly absolutně poslušnou generaci. Mezinárodní společenství, zejména Velká Británie a Francie, se snažilo Hitlera „uklidnit“ (politika appeasementu) a vyhnout se válce, což mu umožnilo porušovat Versailleskou smlouvu (např. remilitarizace Porýní, anexe Rakouska anšlus, okupace Sudet po Mnichovské dohodě) bez vážnějšího odporu. Tato pasivita byla Hitlerem vnímána jako slabost a povzbuzovala ho k dalším agresivním krokům. Německo pod Hitlerem vystoupilo ze Společnosti národů v roce 1933, čímž se zbavilo jedné z mála mezinárodních institucí, která by teoreticky mohla vykonávat kontrolu. Ve výsledku se Hitlerovi podařilo vytvořit systém, kde jeho osobní moc byla absolutní a neomezená. Nebyly žádné „brzdy a rovnováhy“, žádné nezávislé instituce, které by ho mohly kontrolovat. Opozice byla brutálně potlačena a strach byl všudypřítomný.
Jediný „kontrolní mechanismus“, který mohl Hitlera zastavit, byla vnitřní nebo vnější síla v jeho případě až vojenská porážka a sebevražda v roce 1945, přestože došlo k několika neúspěšným pokusům o atentát, z nichž nejznámější byl ten z 20. července 1944. To je právě ten děsivý rozdíl mezi hypotetickou superinteligencí a lidským diktátorem, superinteligence by neměla mít osobní ambice, emoce a paranoiu, které vedly Hitlera k odstranění jakékoli vnitřní i vnější kontroly. Riziko u AI je spíše v tom, jak definujeme její cíle a jak zajistíme, že se její „optimalizace“ nevymkne lidským hodnotám, než v jejím úmyslném uchvácení moci pro sebe.