Neksus
Naša težnja po klicanju sil, ki jih ne moremo nadzorovat, ne izvira iz individualne psihologije, temveč iz edinstvene oblike sodelovanja naše vrste v velikem številu. Glavna teza te knjige je, da človeštvo z ustvarjanjem velikih mrež sodelovanja pridobiva ogromno moč – vendar način kako so te mreže zgrajene, ljudi žene k nespametni rabi moči. Naš problem je torej v mreži. Še natančneje problem so informacije.
Naiven pogled je, da več informacij lahko reši vse. To je še posebno pomembno v dobi UI. UI bi lahko spremenila tok zgodovine naše vrste in evolucijo vseh življenjskih oblik. Na kratko za populizem so informacije orožje. Populistični pogled je, da so informacije moč.
Populistični pogled na informacije in družbo je presenetljivo marksističen, saj vse človeške interakcije vidijo kot boj za oblast med zatiralci in zatiranimi.
Človeške mreže
Kaj je informacija?
Resničnost vključuje objektivno raven z objektivnimi dejstvi, ki niso odvisna od prepričanja ljudi. Resničnost vsebuje tudi subjektivno raven s subjektivnimi dejstvi, kot so prepričanja in občutja različnih ljudi, vendar lahko tudi v tem primeru dejstva ločimo od napak.
Če na informacije gledamo kot na družbeno povezavo, laže razumemo številne vidike človeške zgodovine, ki begajo naivni pogled na informacije kot prikaz.
Informacije včasih predstavljajo resničnost, včasih pa ne. Vedno pa povezujejo. To je njihova temeljna lastnost.
Zgodbe: brezmejne povezave
Zgodbe oblikujejo vse odnose med velikimi slovenskimi skupinami, saj gradijo tudi identiteto teh skupin.
Zgodovine pogosto ne oblikujejo deterministična razmerja moči, temveč tragične napake, ki izvirajo iz vere v hipnotične, vendar škodljive zgodbe.
Za preživetje in uspeh morajo vse človeške informacijske mreže morajo hkrati početi dvoje: odkrivati resnico in ustvarjati red.
Človeške mreže so skozi generacije postajale vse močnejše, ne pa tudi vse modrejše.
Dokumenti: ugriz papirnatih trgov
Zgodbe si lahko zapomnimo, seznami pa nam povzročajo problem. Zato so tu pisni dokumenti. Moč potrebuje tako zgodbe kot sezname. Seznami zagotavljajo sredstva in orožje.
Birokracija je način, s katerim so ljudje v velikih organizacijah rešili problem priklica informacij ter tako ustvarili večje in močnejše informacijske mreže.
Mitologija in birokracija sta stebra vsake družbe velikega obsega.
Pismene birokracije so krepile centralizirano oblast na račun navadnih državljanov.
Napake: utvare o nezmotljivosti
V srcu vsake vere je fantazija o povezovanju z nadčlovekom in nezmotljivo inteligenco.
Svete knjige: kot sta Sveto Pismo in Koran, so tehnologija za obvoz človeške zmogljivosti; verstva knjige: kot so judaizem, krščanstvo in islam, pa so zgrajena okoli tega tehnološkega artefakta.
Postopoma so problemi razlage vse bolj prevešali tehtnico ravnovesja moči med sveto knjigo in Cerkvijo v korist slednje.
Poskusi s polaganjem avtoritete v nezmotljivo besedilo, s čimer bi obšli človeške zmogljivosti, nikoli niso bili uspešni.
Tiskarska revolucija v zgodnjenovoveški Evropi ponavadi velja za trenutek zmagoslavja v zgodovini informacijskih mrež; razklenila je primež, v katerem je Rimskokatoliška cerkev držala evropsko informacijsko mrežo.
Pregoni čarovnikov in čarovnic prikazujejo temno stran ustvarjanja informacijske sfere. Čarovniki in čarovnice so postali intersubjektivna resničnost. Tako kot denar so postali resnični z izmenjavo informacij o njih.
Znanstveno revolucijo je sprožilo odkritje nevednosti. Znanstvena kultura ni imela svete knjige niti ni trdila, da je kateri od njenih junakov nezmotljiv prerok, svetnik ali genij. Vsak znanstveni projekt se začne z zavračanjem sanj o nezmotljivosti in nadaljuje z oblikovanjem informacijske mreže, v kateri veljajo napake za neizogibne.
Znanost ima torej vgrajene korektivne mehanizme.
Medtem, ko so močni korektivni mehanizmi izjemno pomembni pri iskanju resnice, imajo visoko ceno pri ohranjanju reda. Močni korektivni mehanizmi ustvarjajo dvome, nesoglasja, spore in razkole ter spodkopavajo mite, ki družbeni red držijo skupaj. Red sam po sebi ni nekaj dobrega.
Odločitev: kratka zgodovina demokracije in totalitarizma
Diktatorske informacijske mreže so zelo centralizirane. In nimajo korektivnih mehanizmov.
Bistvena značilnost demokracija je domneva, da so vsi zmotljivi. Demokracija je torej razširjena informacijska mreža z močnimi korektivnimi mehanizmi.
Demokracija bi morala biti zapletena. Enostavnost je značilnosti diktatorskih informacijskih mrež, v katerih center narekuje vse, ljudje pa tiho ubogajo. Najuspešnejše demokratične institucije so pogosto birokratske pošasti.
Množične medije lahko opredelimo kot zmožnosti povezovanja milijonov ljudi, tudi kadar jih ločujejo velike razdalje. Prelomen korak v tej smeri je bil tiskarski stroj.
Časopisi so imeli zelo pomembno vlogo pri oblikovanju zgodnjih sodobnih demokracij, kot so bili Ulstrska zveza, Združeno kraljestvo na Britanskem otočju in ZDA.
Moramo se paziti tehnološkega determinizma in sklepanja, da je vzpon množičnih medijev pripeljal do vzpona demokracije velikega obsega. Množični mediji omogočajo demokracija velikega obsega, vendar je sami po sebi ne zagotavljajo. Omogočili so namreč tudi druge vrste režimov. Tudi režime totalitarizma velikega obsega.
Ukrajinski vodič v Černobilu je razlagal, da Američani odraščajo z mislijo, da vprašanja vodijo do odgovorov, da pa so Sovjetski državljani odraščali z mislijo, da vprašanja vodijo do težav.
Informacijski sistemi lahko z malo resnice in velik reda sežejo daleč.
Človeštvo vstopa v drugo četrtino 21. stoletja in osrednje vprašanje je, kako dobro bodo demokracije in totalitarni režimi obvladovali nevarnosti in priložnosti, ki se pojavljajo zaradi trenutne informacijske revolucije.
Do zdaj so se vse informacijske mreže za svoje delovanje opirale na človeške oblikovalce mitov in človeške birokrate. Zdaj pa bodo morali ljudje tekmovati z digitalnimi oblikovalci mitov, odločevalci in birokrati.
Neorganska mreža
Novi člani: v čem so računalniki drugačni od tiskarskih strojev
Novo informacijsko revolucijo so prinesli računalniki. Vzpon inteligentih strojev, ki se zmorejo odločati in snovati nove ideje pomeni, da se prvič v zgodovini moč odmika od ljudi.
Inteligenca in zavedanje nista isto. Inteligenca je zmožnost doseganja ciljev. Zavedanje je zmožnost doživljanja subjektivnih občutij.
Računalniki so vse zmogljivejši, zato je verjetno, da se bo pojavila popolnoma nova informacijska mreža.
Ljudje bodo postali manjšina v mrežah z računalniki.
V davčni literaturi neksus pomeni povezanost entitete z neko sodno oblastjo. Mark Kothenburger pravi, da bi morala definicija neksusa, temelječega na fizični navzočnosti, prilagoditi in vključiti tudi digitalno navzočnost v državi.
Vera v tehnološki determinizem je nevarna, ker ljudi odvezuje sleherne odgovornosti. Človeške družbe so informacijske mreže in izum novih informacijskih tehnologij seveda spremeni družbo. Vendar imamo ljudje še vedno veliko nadzora nad tempom, obliko in smerjo te revolucije – to pa pomeni, da imamo tudi veliko odgovornosti.
Vsako orodje je možno uporabiti na različne načine. Enako velja za nove tehnologije.
Neizprosno: mreža je vedno vklopljena
Ljudje smo vajeni, da nas opazujejo. Če nas opazujejo le ljudje, še vedno lahko imamo nekaj zasebnosti, saj morajo ljudje tudi spati. Prav tako ni deloval sistem, ki je večino ljudi spremenil v ovaduhe v vzhodni Evropi, ker ni bilo dovolj ljudi, da bi prebrali vsa poročila.
Računalniki s pomočjo UI lahko analizirajo gore podatkov, tako lastnih kot ostalih. Algoritmi so zelo dobri pri opazovanju.
Denar je bil zelo natančen mehanizem za zbiranje uspešnost. Status ali sloves pa je malo manj natančen. Toda algoritmi družbene verodostojnosti lahko tudi to spremenijo.
Dodatno nas lahko obremenjuje stalna vključenost mreže. Sistem popolnega nadzora lahko ustvari izkrivljeno razumevanje sveta in ljudi.
Zmotljivo: mreža se pogosto moti
Sovjetski režim je zgradil eno najmogočnejših informacijskih mrež v zgodovini.
V zgodovini smo prišli do prelomne točke, v kateri pomembne zgodovinske procese vsaj deloma sprožajo odločitve inteligence, ki ni človeška.
Platformam družbenih medijev manjkajo prav lastni korektivni mehanizmi.
Clausewitz pravi, da je vojna nadaljevanja politike z drugimi sredstvi. Vojna je politično orodje.
Problem usklajenosti je problem novih mrež, toda to problem je veliko starejši od računalniške revolucije. Že Clausewitz je govoril o tem, da je razumskost enako kot usklajevanje. Neusklajenost ciljev umetne inteligence lahko pripelje do katastrofe, spomnimo se Goethejevega Čarovnikovega vajenca in njegove težave z metlo, ki jo je samo aktiviral, ni pa jo znal ustaviti in Bostromovih sponk za papir.
Kako torej rešiti problem usklajevanja. Ljudje naj bi dali računalnikom cilje, ki so pozitivni za ljudi. Če je naše edino splošno pravilo, da mora biti vsako dejanja usklajeno z nekim višjim ciljem, po definiciji ne moremo razumno opredeliti končnega cilja. Kako naj potem računalniški mreži definiramo končni cilj.
Že Kant je poskušal opredeliti imanentno dobro.
Spori v zgodovini so povezani z opredelitvijo identitet.
Ljudje smo več deset tisoč let imeli vodilno vlogo na Zemlji, ker smo bili edini sposobni ustvarjati in vzdrževati intersubjektivne resničnosti, kot so gospodarske družbe, valute, bogovi in države, ter takšne entitete uporabljati za organiziranje sodelovanja v velikem obsegu. Zdaj bodo primerljive sposobnosti morda dobili računalniki.
Računalniška politika
Demokracija: se še znamo pogovarjati?
Zmotno je misliti, da je režim popolnega nadzora neizogiben zgolj zato, ker bi računalniki lahko omogočili njegov nastanek. Tehnologija je redko deterministična.
Temeljna načela, ki bi jim demokracije morale slediti, tudi v novih resničnostih računalniške dobe: dobrohotnost, decentralizacija, vzajemnost, omogočati spremembe in počitek.
Nadzor ni edina nevarnost, ki jo nove informacijske tehnologije predstavljajo za demokracijo. Druga nevarnost je ta, da bo avtomatizacija destabilizirala trg dela in da bo pritisk, ki bo zato nastal, spodkopal demokracijo.
Družba deluje preko zapletene mreže pravil, institucij in običajev, ki so se dolgo nabirali z izkušnjami. Nihče ne razume, kako so vsi povezani med sabo. Bodo konservativci pod udarom zaradi tempa sprememb.
Vzpon nedoumljive tuje inteligence spodkopava demokracijo. Če se čedalje več odločitev o življenju ljudi sprejema v polju neznanega, da jih volivci ne morejo razumeti in izpodbijati demokracija neha delovati.
Regulatorne institucije bodo morale analizirati algoritme in njihova odkritja prevajati v zgodbe, ki jih ljudje lahko razumemo, sicer algoritmov ne bodo mogle preverjati.
Kar velja za režime s popolnim nadzorom, velja tudi za sisteme družbene verodostojnosti – če jih lahko ustvarimo, to še ne pomeni, da jih tudi moramo.
Nova računalniška mreža lahko ustvari digitalni totalitarizem, lahko pa tudi digitalno anarhijo.
Večino zgodovine je bila demokracija velikega obsega neuresničljiva, ker informacijska tehnologija ni bila dovolj izpopolnjena za politične razprave velikega obsega. Zdajšnja ironija pa je ta, da demokracija morda ne bo uresničljiva, ker informacijska tehnologija postaja preveč izpopolnjena.
Totalitarizem: vsa moč algoritmom?
UI bi lahko tehnološko tehtnico prevesila v korist totalitarizma. Zdi se, da daje UI prednost koncentraciji informacij in odločanja na enem mestu.
Poskus koncentracije vse informacij in vse moči na enem mestu, kar je bila Ahilova peta totalitarnih režimov 20. stoletja, bo v dobi UI postal odločilna prednost.
V zelo centraliziranem sistemu je prevzem oblasti veliko preprostejši. In tu je tudi večje tveganje za avtokrate, da bi jih UI odstranila.
Slabotni notranji korektivni mehanizmi in nevarni močni podrejeni so od nekdaj šibka točka diktatorjev. Vzpon UI lahko te probleme zelo okrepi.
Silicijeva zavesa: svetovni imperij ali globalni razkol?
Če je industrijska revolucija pognala imperializem, lahko nova tehnološka revolucija sproži nov val imperializma, povezan z dvema vodilnima velesilama.
Tako kot so na začetku 19. stoletja pri gradnji železnic orala ledino zasebna podjetja, so bile tudi na začetku 21. stoletja prvi glavni tekmeci v tekmi UI zasebne korporacije. Toda po letu 2016 so tudi države dojele moč nove tehnologije. Vse so začele iskati svojo pot do izrabe nove tehnologije.
Smo v dobi podatkovnega kolonializma. Obvladovanje UI in podatkov bi lahko novim imperijem dalo tudi nadzor nad pozornostjo ljudi. Podatkovni kolonializem bi se lahko izrazil tudi s širjenjem sistemov družbene verodostojnosti.
Svet bi se lahko razdelil med dva digitalna imperija. PWC pravi, da bo nova tehnologija dodala svetovnemu gospodarstvu 15,7 bilijona dolarjev, toda 70 procentov tega bo šlo v ZDA in Kitajsko.
Digitalne tehnologije so spodbujale globalizacijo. Toda trend se obrača, sedaj je boj za razvoj tehnologije, boj nacionalnih interesov.
Oblikovanje in ohranjanje mednarodnih dogovorov o UI bo zahtevalo korenite spremembe v delovanju mednarodnega sistema.
Epilog
Politika je predvsem vprašanje prednostnih nalog.
Sposobni smo ustvariti uravnotežene informacijske mreže, ki bodo brzdale svojo moč, le samozadovoljstvu in brezupu se ne smemo prepustiti.
