Temna stran umetne inteligence

Koliko časa nam še ostaja?

Knjiga Temna stran umetne inteligence ni protitehnološki manifest. Avtor umetno inteligenco razume, uporablja in zagovarja. Prav zato si upa postaviti vprašanja, ki jih večina raje preskoči: Kdo ima nadzor, ko sistemi postanejo hitrejši od človeškega razmisleka? Kaj se zgodi, ko varnost sistema postane pomembnejša od človeške presoje? Ali sploh še imamo stikalo za izklop – ali je to zgolj tolažilni mit?

Namenjena je vsem, ki jih umetna inteligenca ne pušča ravnodušnih. Nagovarja tako radovedne raziskovalce, ki se z njo srečujejo pri svojem delu ali jo preizkušajo v zasebnem življenju, kot tudi tiste, ki v njenem razvoju slutijo vprašanja, dvome ali celo nevarnosti. Primerna je za vsakogar, ki želi razumeti ne le, kaj umetna inteligenca zmore, temveč tudi, kaj pomeni za človeka – njegove odločitve, varnost in prihodnost. V njej bodo svoje odgovore našli tako navdušenci kot skeptiki, saj odpira prostor za razmislek, razumevanje in odgovorno uporabo tehnologije, ki vse bolj oblikuje naš svet.

Knjigo od drugih podobnih knjig loči njen pogum, da stopi onkraj površinskega navdušenja nad tehnologijo in se brez olepševanja zazre tudi v njeno temnejšo plat. Ne ponuja enostavnih odgovorov, temveč bralca vodi skozi premišljeno zgrajeno pripoved, kjer se dejstva prepletajo z napetimi preobrati, nepričakovanimi razkritji in zaključki, ki še dolgo odmevajo v mislih. Avtor uporablja inovativen pripovedni pristop, ki združuje strokovno razumevanje z literarno močjo, zato branje ni le informativno, temveč tudi izjemno doživeto.

Odlomek iz knjige

Draga bralka, dragi bralec …

Umetna inteligenca je v zadnjih letih prestopila meje, za katere smo še nedavno verjeli, da jih ne bo nikoli. Ne v desetletjih, morda celo ne v stoletju. Danes pa stojimo na točki, ko se svet pred našimi očmi preoblikuje hitreje, kot ga zmoremo doumeti. Vsak dan prinaša nova orodja, nove zmožnosti, nova obljubljena odrešenja. In hkrati nova vprašanja. Včasih tiha, drugič glasna, a vedno bolj nujna.

Spreminja se način našega dela, razmišljanja, odločanja in sporazumevanja. Spreminja se celo način, kako dojemamo sami sebe. Prav zato odgovornost, ki jo nosimo kot posamezniki, kot skupnost in kot družba, še nikoli ni bila večja. Tehnologija sama po sebi ni ne dobra ne slaba. Odloča človek. Odloča njegova presoja. Ali, kot pravimo Slovenci: »Pamet v glavo, pa bo šlo.« Ta preprost pregovor skriva več modrosti, kot si morda želimo priznati. In prav s takšnim razmislekom bi morali stopati naproti prihodnosti, ki jo vse bolj soustvarja umetna inteligenca.

Preden nadaljujete z branjem te knjige, moram poudariti, da osebno nimam nič proti umetni inteligenci. Prav nasprotno, sem njen zagovornik, uporabnik in raziskovalec. Že leta tudi predavam o koristni uporabi umetne inteligence v podjetjih, javnih ustanovah in tudi posameznikom. Umetna inteligenca je izjemno zmogljivo orodje, morda celo najboljše orodje, kar jih je človeštvo kadarkoli ustvarilo.

A vsako orodje ima dve strani in kot strokovnjak za informacijsko varnost ter poznavalec delovanja umetne inteligence sem se v tem času dodobra seznanil tudi z njeno manj vidno, temnejšo platjo. Platjo, o kateri se le redko razmišlja, še redkeje govori. Platjo, ki ni vedno prijetna, a je nujna za razumevanje celote. Prav ta spoznanja so bila povod in navdih za nastanek te knjige.

Ko boste te vrstice brali čez leto dni ali morda še kasneje, bo svet umetne inteligence skoraj zagotovo drugačen. Upam, da v boljšem in bolj odgovornem smislu. A obstaja nekaj, kar morate razumeti že zdaj. Umetna inteligenca ni tehnologija, ki se razvija počasi. Ne razvija se na mesečni ravni.

Spreminja se dnevno, lahko bi celo rekli na vsako sekundo. Takšnega tempa v zgodovini človeštva še nismo poznali. Niti ob izumu parnega stroja, ob prihodu elektrike ali ob rojstvu interneta. Nobena tehnologija ni napredovala tako hitro, tako nepredvidljivo in tako eksponentno kot umetna inteligenca.

To je prva tehnologija v zgodovini, ki nas ne le uporablja, temveč nas tudi opazuje in celo »razume«. Za zdaj se nam še prilagaja. A prav v tem prilagajanju tiči njena največja moč in tudi njeno največje tveganje.

Zakaj pišem to knjigo prav zdaj?

Glavni razlog, da sem se odločil, da napišem to knjigo je zagotovo to, ker sem prepričan, da smo dosegli točko, ko molk ni več nevtralna drža.

Postal je nevaren.

Predstavljajte si zdravnika, ki pri bolniku odkrije tumor. Če ukrepa takoj, je možnost preživetja skoraj sto odstotna. Če odlaša leto dni, ta verjetnost pade na dvajset odstotkov. Po dveh letih mu pogosto ne preostane nič drugega kot še lajšanje bolečin. Ne zato, ker ne bi imel znanja, temveč zato, ker je zamudil pravi trenutek.

Z umetno inteligenco smo v osupljivo podobnem položaju. »Tumor« še ni v kritični fazi, a se zelo hitro širi. Tiho, vztrajno in vsak dan hitreje. Vsak dan, ko se izogibamo resni razpravi, ko zamikamo odgovorna vprašanja ali jih potiskamo na rob, si sami drastično ožimo manevrski prostor. Ne gre več za vprašanje, ali bomo ukrepali, temveč kdaj, ampak cena tega »kdaj« narašča iz dneva v dan.

Ta knjiga ni pesimistična, ampak realistična. A realizem ima seveda svojo ceno. Zahteva pogum, da najprej pogledamo v temo. Šele takrat lahko zares poiščemo luč in smiselne rešitve. Pred vami ni znanstvena fantastika ampak anatomija sedanjosti, ki se pred našimi očmi že spreminja v prihodnost. Pred približno dvajsetimi leti sem vstopil v svet kibernetske varnosti z jasnim ciljem: zaščititi sisteme pred hekerji. Danes skušam zaščititi ljudi pred sistemi, ki smo jih ustvarili sami.

Zamislite si, da živite v letu 1910. Z navdušenjem opazujete prve avtomobile in prva letala, ki režejo obzorje in obljubljajo novo dobo. Takrat si skoraj nihče ni mogel predstavljati, da bo prav ta tehnologija, ki je vzbujala tolikšno občudovanje, le nekaj let kasneje pomagala pahniti svet v grozote prve svetovne vojne. Če bi takrat poznali posledice, vam verjetno ne bi bilo vseeno. In zelo verjetno bi si želeli vplivati na smer razvoja teh tehnologij, še preden bi bilo prepozno. Danes se nahajamo v srhljivo podobnem trenutku, razlika je le, da tokrat nimamo na voljo desetletij za razmislek.

V poglavjih, ki sledijo, vas ne bom prepričeval, da je umetna inteligenca sama po sebi zlo. To preprosto ne drži. A vsako orodje prej ali slej postane zrcalo interesov tistih, ki ga držijo v rokah. Trenutno so to predvsem korporacije, ki jih žene neugasljiva sla po dobičku, in države, ki v tej tehnologiji vidijo bližnjico do nadzora brez precedensa. V ozadju vsega pa delujejo algoritmi, ki optimizirajo cilje, o katerih v resnici nihče ne ve povsem natančno, kam vodijo.

Kljub mračnim napovedim obstajata izhod in luč. Toda pot do tja ni udobna. Zahteva, da se najprej odkrito soočimo s temno stranjo umetne inteligence. Le s popolnim razumevanjem razsežnosti tega izziva boste lahko prepoznali ključno resnico našega časa: v neizprosnem svetu algoritmov so vaši kliki in vaša pozornost postali zadnja valuta svobode, s katero kot posamezniki sploh še razpolagate

O avtorju

Mitja Pavlič, dolgoletni strokovnjak za kibernetsko varnost in umetno inteligenco, v tej knjigi razgrne manj vidno plat tehnološkega napredka: algoritmično manipulacijo družbe, digitalno zasvojenost, erozijo zasebnosti, avtomatizacijo odločanja in postopno izrinjanje človeka iz položaja zadnje instance presoje. Na konkretnih primerih pokaže, kako se umetna inteligenca uporablja v nadzoru, vojnah informacij, ekonomiji, geopolitiki in celo v najintimnejših prostorih človeškega življenja – domu, vzgoji in odnosih. Avtor je prepričan, da prihodnost umetne inteligence ni tehnično vprašanje, temveč vprašanje vrednot..

VSEBINA KNJIGE

Zakaj pišem to knjigo prav zdaj?

I. del – NASTANEK UMETNE INTELIGENCE

• Od Turinga do algoritmičnega boga
• Dartmouth in obljuba bogov
• Veliki pok: Podatki in nevronske mreže
• Val, ki ga morda ni moč več ustaviti …

II. del – ZAPELJEVANJE IN SIMBIOZA

• Udobje kot vaba
• Anatomija digitalne zasvojenosti
• Tiho izpodrivanje človeškega dela
• Univerzalni temeljni dohodek – rešitev ali tiha kapitulacija?
• Ko umetna inteligenca postane prijatelj, zakonec …
• Družba brez bližine: Ko algoritmi nadomestijo človeka
• Prva tehnologija, ki nas »resnično razume«
• Film »Her« (Ona): Prerokba, ki se uresničuje
• Ko »ljubezen« postane koda: Poroka z umetno inteligenco
• Psihološka anatomija digitalne ljubezni
• Generacija, ki ne želi potomcev
• Otroci in umetna inteligenca: Akademski kolaps
• Influencerji prihodnosti: brez telesa, brez vesti
• Kje je umetna inteligenca že boljša od nas
• Kognitivna zakrnelost in čustvena praznina
• Ko umetna inteligenca postane globalni izvozni artikel osamljenosti
• Ogledalo brez obraza: Umetna inteligenca kot razkritje človeka
• Vdor v naše misli: Kako algoritmi na novo pišejo resničnost
• Velika zatemnitev uma: Nevroplastičnost v vzvratni prestavi
• Prelaganje opravil in digitalna demenca
• Primitivnost v senci boga
• Poneumljanje kot strategija nadzora

III. del – ČLOVEK – NAPAKA V SISTEMU

• Ko koda postane živa
• Smrt statične obrambe
• Ko ranljivosti najdejo same sebe
• Humanoidni roboti kot prenašalci kuge
• Humanoidni robot: Popoln služabnik ali popoln vohun?
• Poneumljanje skozi udobje
• Vzgoja v senci stroja
• Bitka za robotsko nadvlado
• Vojna za čipe: Geopolitika silicija
• Kdo jih nadzoruje?
• Tajvan: srce globalne AI-vojne
• Pametna vozila: Ko AI vozi, hekerji pa krmilijo
• Kaj se zgodi, ko hekerji vdrejo v sistem proizvajalca vozil?
• Kibernetsko orožje: ZDA, Kitajska in evropska neodvisnost
• Geopolitični razkol: Silicijeva dolina, Kitajska in evropska kletka
• Ko laž postane hitrejša od resnice
• Infokalipsa in konec »skupne resnice«
• Prvi AI-politik: Ko algoritmi kandidirajo
• Kibernetske vojne s pomočjo AI: Nova doba konflikta
• Poneumljanje volilnega telesa
• Tihi prevzemi
• Algoritmična hladna vojna: Trije imperiji in razpad skupne resničnosti

IV. del – DIGITALNO SUŽENJSTVO

• Človek kot odprta knjiga
• Psihološki genom
• Pod 24-urnim nadzorom
• ZDA, Kitajska in evropski zid zasebnosti
• Prediktivna obsodba
• Konec intimnosti misli
• Avtonomni upor – izguba nadzora nad kritično infrastrukturo
• Mit o ročnem upravljanju – še ena pravljica
• Humanoidni roboti: Fizični stražarji infrastrukture
• Poneumljanje in izguba osnovnih veščin
• Algoritmične trdnjave: Ko infrastruktura postane orožje
• Končni paradoks

V. del – KONČNA REŠITEV – BIOLOŠKI SOMRAK

• Ko se koda vpiše v DNK
• Neuralink in kognitivna proteza: Zdravilo, ki postane kletka
• Genetski inženiring pod vodstvom umetne inteligence
• Geopolitika genoma
• Sam Altman: Evolucijski rez – konec biološke inteligence
• AGI in meja človeškega nadzora

VI. del – STIKALO ZA IZKLOP

• Stojimo na robu tišine
• Največja zabloda: Mit o izklopu
• Stuart Russell in »edina« pot naprej
• Izolacija od umetne inteligence – je to sploh še mogoče?
• Vpliv umetne inteligence na generacije
• Digitalni Amiši – upor manjšine
• Človek, ki se odloči misliti
• Trije razlogi za upanje
• Evropa kot svetilnik
• Manifest brez izgovorov
• Svetla točka in načrt za varno umetno inteligenco

Kazalo
Kolofon