Superinteligenca

Poslednji izum človeštva?

Superinteligenca: Poslednji izum človeštva? je nadaljevanje in hkrati presežek knjige Temna stran umetne inteligence. Tam, kjer se je avtorjeva prva knjiga ustavila pri tveganjih in pasteh sedanjosti, ta stopi še dlje – do možne zadnje faze razvoja umetne inteligence: superinteligence.

Knjiga odpira neprijetno, a nujno vprašanje: kaj se zgodi, ko umetna inteligenca ni več le orodje, temveč sistem, ki človeka preseže v razumevanju, odločanju in ustvarjanju? Avtorjeva osrednja teza je jasna: superinteligenca človeštva morda ne bo uničila, temveč ga bo naredila nepotrebnega.

O čem govori knjiga?

Superinteligenca bralca vodi od temeljnih stopenj umetne inteligence do vprašanj, ki presegajo tehnologijo in segajo v družbo, etiko, varnost, gospodarstvo, religijo ter samo razumevanje človekove vloge v prihodnosti.

Knjiga obravnava vprašanja, kot so:

• kaj pomenijo ozka umetna inteligenca, splošna umetna inteligenca in superinteligenca,
• kako delujejo nevronske mreže in zakaj je problem »črne skrinjice« tako pomemben,
• kdo bo določil vrednote najmočnejšemu sistemu v zgodovini,
• ali bomo prepoznali trenutek, ko ne bomo več odločali, temveč le še potrjevali,
• kaj pomeni problem usklajevanja med človekom in strojem,
• kakšne posledice ima lahko umetna inteligenca za delo, nadzor, geopolitiko in vsakdanje življenje.

Avtor ne piše protitehnološkega manifesta. Umetno inteligenco razume, uporablja in zagovarja, prav zato pa si upa zastaviti vprašanja, pred katerimi se mnogi ustavijo. Osrednje sporočilo knjige je, da prihodnost ni zapisana v kodi, temveč v naših odločitvah.

Komu je knjiga namenjena?

Knjiga je namenjena vsem, ki jih umetna inteligenca ne pušča ravnodušnih. Primerna je za radovedne bralce, ki se z umetno inteligenco srečujejo pri delu ali v zasebnem življenju, pa tudi za tiste, ki v njenem razvoju slutijo vprašanja, dvome ali nevarnosti.

Posebej bo nagovorila bralce, ki želijo razumeti:

• kaj umetna inteligenca zmore danes,
• kam lahko vodi razvoj superinteligence,
• kako AI vpliva na človekove odločitve, varnost in prihodnost,
• zakaj razvoj umetne inteligence ni le tehnično, temveč tudi vrednostno vprašanje,
• kako ohraniti sposobnost dvoma, presoje in odgovorne uporabe tehnologije.

Odlomki iz knjige

»Predstavljajte si dan, ko ugotovite, da niste več potrebni.«

»Superinteligenca človeštva verjetno ne bo uničila. Naredila ga bo nepotrebnega.«

»Superinteligenca nas ne bo presegla s silo. Presegla nas bo s tem, da nas bo razumela bolje, kot razumemo sami sebe.«

»Če nam nečesa ni treba narediti, smo rešeni napora. Če nas nekaj več ne potrebuje, smo rešeni pomena.«

»Ne bodite hitrejši od stroja. Bodite globlji od njega. In kadar boste v dvomu – dvomite naprej.«

Takšne misli bralca opominjajo, da prihodnost ni zapisana v kodi, temveč v naših odločitvah. Kljub ostrim vpogledom v tveganja knjiga ohranja tiho, a vztrajno upanje, da lahko človek z znanjem in odgovornostjo usmeri razvoj umetne inteligence v smer, ki bo služila njemu in ne obratno.

Uvod iz knjige

Obožujem jo, a se je hkrati bojim

Stojim pred občinstvom in predavam o umetni inteligenci. Na velikem zaslonu za menoj se izmenjujejo različni primeri uporabe sistemov, ki znajo pisati, analizirati ogromne količine podatkov, ustvarjati slike, glasbo in videe. Ljudje poslušajo, a nekaj je drugače kot pred nekaj leti. Pozornost je globlja, pogledi so resnejši. V zraku ni več le radovednost in navdušenje, temveč tudi nekaj, kar bi lahko opisal kot tiho napetost. Kot bi vsi slutili, da se pred nami dogaja nekaj večjega od običajnega tehnološkega napredka.

Nato se v zadnji vrsti dvigne roka.

Vprašanje, ki ga slišim vedno pogosteje:

»Mislite, da se moramo bati umetne inteligence?«

Vsi pogledi se obrnejo proti meni. Za trenutek obstanem. Ker je moj odgovor neprijetno zapleten. Resnica je hkrati pritrdilna in nikalna. Da. Umetne inteligence se moramo bati. Toda ne na način, kot si večina ljudi predstavlja.

Ne kot robotov iz filmov, ki se nekega dne odločijo uničiti človeštvo.

Strah, o katerem govorim, je veliko bolj tih. Bolj podoben vodi, ki za jezom počasi narašča. Dolgo se zdi, da je vse pod nadzorom. Gladina se viša skoraj neopazno in večina ljudi tega sploh ne zazna. Potem pa nekega dne pogledaš proti jezu in ugotoviš, da voda ni več tam, kjer je bila še včeraj. In ko končno razumeš, kako visoko je narasla, je morda že prepozno, da bi jo ustavil.

To vprašanje ni nastalo čez noč. Raslo je počasi, neopazno, med vrsticami navdušenja in tehnološkega optimizma. Na predavanjih sem vedno znova opažal majhen, a vztrajen del ljudi, ki niso ravno navdušeno ploskali najnovejšim dosežkom, temveč so ob njih postajali vse tišji.

Ljudje, ki niso iskali odgovorov na vprašanje, kaj vse umetna inteligenca zmore, temveč so si zastavljali težje vprašanje – kaj vse to lahko pomeni. Toda časa za ta vprašanja je bilo vedno premalo. Predavanja so se morala prilagajati večini, ki je v umetni inteligenci videla predvsem priložnost, napredek in učinkovitost. In prav zato je nastala moja prva knjiga.

Ne kot projekt. Ne kot ambicija. Temveč kot nuja.

Knjiga Temna stran umetne inteligence je bila moj prvi poskus, da zberem vse tisto, za kar na predavanjih ni bilo prostora. Da dam glas tistim dvomom, ki so ostajali neizrečeni. Da napišem knjigo za tiste, ki so želeli pogledati dlje, tudi tja, kjer pogled ni več udoben. Knjigo sem sprva nameraval deliti zgolj udeležencem svojih predavanj, kot dopolnilo, kot moje darilo, kot tiho opozorilo za tiste, ki so želeli slišati več in brez olepševanja.

Nisem imel namena, da bi knjiga prišla na police knjižnic in knjigarn. Še manj sem imel namen postati pisatelj.

A nekaj dni po tem, ko sem iz tiskarne prejel prve izvode, so se začeli oglašati distributerji. Prepričevali so me, da je tema preveč aktualna, da bi ostala zaprta samo v predavalnicah, med manjšo skupino ljudi – bralcev. In tako je knjiga, mimo mojega prvotnega načrta, našla pot do širše javnosti.

Verjetno se zdaj, ko držite v rokah to mojo drugo knjigo sprašujete, zakaj druga knjiga – in to tako kmalu.

Odgovor ni strateški. Ni načrtovan. In ni marketinški.

Je preprosto iskren.

Občutek, da v svoji prvi knjigi nisem povedal vsega.

Ko sem zaprl prvo knjigo, sem vedel, da sem odprl vrata, nisem pa stopil skozi njih. Govoril sem o tveganjih, o pasteh, o temni strani. Nisem pa šel dovolj daleč in nisem dovolj jasno spregovoril o hitrosti razvoja.

O smeri, v katero gremo. Predvsem pa ne o tem, kam ta pot lahko pripelje – do nečesa, kar presega vse, kar smo kot ljudje kadarkoli ustvarili – do SUPERINTELIGENCE.

Ta knjiga je zato nadaljevanje, a hkrati upam tudi presežek prve. Je poskus, da naredimo korak naprej. Da ne govorimo več le o tem, kaj lahko umetna inteligenca naredi danes, temveč o tem, kaj se zgodi, ko preseže meje, ki jih še razumemo – ko ne bo več le orodje, temveč sistem, ki nas v določenih pogledih že prekaša.

Zato ta knjiga, enako kot prva, ni napisana iz strahu, temveč iz občutka odgovornosti. Verjamem, da je znanje najboljše orožje proti slepemu optimizmu in nepotrebnemu strahu. Ko tehnologijo razumemo, lahko o njej razmišljamo trezno – in ko razmišljamo trezno, sprejemamo boljše odločitve.

Ta knjiga ni le o tehnologiji. Je o nas samih.

O vprašanju, ki si ga kot civilizacija še nismo dovolj jasno zastavili: kakšno prihodnost pravzaprav želimo ustvariti. Svet, v katerem tehnologija služi človeku – ali svet, v katerem človek začne, skoraj neopazno, služiti tehnologiji.

Dolgo smo verjeli, da so največji izumi tisti, ki širijo naše sposobnosti.

Orodja, ki nas naredijo hitrejše, močnejše, učinkovitejše. Toda prvič v zgodovini stojimo pred možnostjo, da ustvarimo nekaj, kar ne bo le podaljšek človeka, temveč tudi njegov naslednik v sposobnosti razumevanja, odločanja in ustvarjanja.

In prav zato to ni več zgolj tehnološko vprašanje.

Je civilizacijsko vprašanje.

Morda ustvarjamo najmočnejše orodje v zgodovini. Morda pa ustvarjamo nekaj, kar bo zadnje, kar bomo kot človeška vrsta sploh
ustvarili sami.

Ne zato, ker bi nas uničilo. Temveč zato, ker nas bo preseglo. In ko enkrat obstaja inteligenca, ki lahko izboljšuje samo sebe hitreje, kot jo lahko razumemo mi, se vloga človeka nepovratno spremeni. Ne nujno izgine. A zagotovo ni več enaka.

Zato naslov te knjige ni provokacija.

Je vprašanje, na katerega še nimamo odgovora:

Je superinteligenca poslednji izum človeštva?

In morda še pomembneje – bomo ta trenutek prepoznali, ko bo enkrat zares prišel.

O avtorju

Mitja Pavlič je dolgoletni strokovnjak za kibernetsko varnost in umetno inteligenco. V svoji prvi knjigi, Temna stran umetne inteligence, je razkril nevarnosti, zlorabe in skrite posledice sodobne tehnologije.

V knjigi Superinteligenca gre korak dlje – do morda zadnje faze razvoja umetne inteligence, do superinteligence, ki bo človeka presegla v razumevanju in odločanju. Na konkretnih primerih pokaže, kako sistemi že danes spreminjajo zdravstvo, sodstvo, vojskovanje, izobraževanje, religijo in najintimnejše človeške odnose.

Avtor je prepričan, da prihodnost umetne inteligence ni tehnično vprašanje, temveč vprašanje vrednot.

VSEBINA KNJIGE

UVOD

Obožujem jo, a se je hkrati bojim
Superinteligenca
Ko stroj začne razmišljati sam
Od kalkulatorja do misleca
Od Turingovih sanj do ChatGPT
Tri stopnje inteligence
Ozka, splošna in superinteligenca
Kaj je superinteligenca?
Superinteligenca – zadnja meja, ki jo bomo prečkali
Anatomija umetne inteligence
Kako stroji mislijo – nevronske mreže, globoko učenje in skrivnost črne skrinjice
Kaj bi danes rekel Turing?
Glas iz preteklosti o prihodnosti tehnologije
Psihološki vpliv
Kako umetna inteligenca spreminja človeka od znotraj?
Politična moč in družbeni nadzor
Ko algoritmi postanejo infrastruktura oblasti
Tekma brez sodnika
Geopolitika superinteligence
Eksistencialni pomen
Kaj pomeni biti človek v senci superinteligence?
Je umetna inteligenca lahko nova religija?
Primerjava, ki se zdi nemogoča, dokler je ne izvedete
Dan, ko bomo postali nepotrebni
Ko sistem deluje bolje brez nas
Sram, ki ga ne bi smeli čutiti
Od avtorja do urednika lastnega sistema
Razdvojena družba
Problem usklajevanja
Kako naučiti umetno inteligenco, kaj želimo?
Poti do superinteligence
Kako bi lahko prišli do najnevarnejšega in najmočnejšega izuma v zgodovini?
Sedem nepravljičnih prizorov jutrišnjega dne
Scenariji, ki niso fikcija
Ekonomija brez delavca
Kaj se zgodi s svetom, ko delo opravi stroj, davke pa mora še vedno plačati človek?
Posledice superinteligence
Obljuba in grožnja
Kaj pa če se motim?
Najresnejši argumenti proti tej knjigi
Rešitve
Kako ohraniti človeški nadzor?
Kar počnejo tisti, ki gradijo umetno inteligenco?
Pravila za igro brez sodnika
Kaj lahko naredi majhna država?
Zaključek brez iluzij
Pismo naslednji generaciji
Tistim, ki bodo živeli s tem, kar smo ustvarili mi

EPILOG
Superinteligenca – poslednji izum človeštva?
KAZALO
KOLOFON