(ODPRTO PISMO EVROPI) Naključja se ne dogajajo strojem

Spoštovane poslanke in poslanci Evropskega parlamenta,

počaščen sem, da so me organizatorji festivala Dnevi poezije in vina prosili, naj vam napišem pismo, čeprav sam niti ne verjamem v neposredno moč pisane besede. Odprta pisma, romani in pesmi spreminjajo svet le redko in običajno z zamudo.

Zato bom začel z avtorjema, ki jima je uspelo spremeniti svet – resda ne neposredno in ne takoj, vendar so se njune osebne drame, spretno pretvorjene v besede, na koncu izkazale za pomemben del velikih procesov, ki so resničnost spremenili na bolje.

Oscar Wilde je leta 1891 napisal esej Človeška duša v socializmu [1], ki ne govori veliko o duši in še manj o socializmu, kajti Wilde očitno ne o enem ne o drugem ni vedel kaj dosti. A to je osupljivo, in kot smo tega pri avtorju vajeni, izvrstno napisano besedilo o tehnoloških inovacijah, ki so takrat spreminjale svet in so ga v naslednjem stoletju še bolj spremenile.

Wilde opisuje svet, ki deluje z napakami – in to je verjetno izkušnja, ki je blizu vsakomur od nas –, hkrati pa je to svet, ki ga je mogoče popraviti. Tega se vsi dobro zavedamo, zlasti pa vi, spoštovane poslanke in poslanci Evropskega parlamenta, kajti za vas je popravljanje naše skupne resničnosti tako rekoč glavna poklicna naloga.

Vse do danes je bil človek do neke mere suženj strojev, zato je nekaj tragičnega v dejstvu, da je začel stradati, brž ko je iznašel stroje, ki naj bi opravljali njegovo delo, piše Wilde in ugotavlja, da bi morali stroji pripadati vsem, tako kot bi moral vsem pripadati prosti čas, ki smo ga kot družba pridobili z avtomatizacijo. Vsako neintelektualno delo, vsako monotono, dolgočasno delo, vsako delo z neprijetnimi rečmi, ki poteka v nemogočih razmerah, morajo opravljati stroji. Stroji morajo delati za nas v rudnikih in opravljati sanitarne storitve, kuriti kotle na parnikih, čistiti ceste in raznašati sporočila ob deževnih dnevih, skratka, početi vse, kar je utrudljivo in nevarno. […] Stroji bodo opravljali vse potrebno in neprijetno delo, medtem ko se bo človeštvo zabavalo in uživalo v kulturnem delovanju, v izdelovanju in branju lepih stvari ali zgolj v občudujočem in veselem opazovanju sveta.

~

Leta 1891 je bilo vse drugače. Ni bilo Evropske unije ali Evropskega parlamenta, moja država Poljska ni obstajala na zemljevidih – tako kot tudi ne številne druge države, katerih predstavniki danes sedijo v Bruslju. In Oscar Wilde je bil na prostosti. Toda prav leta 1891 je spoznal lorda Alfreda Douglasa, kar je privedlo do znamenitega procesa in obsodbe Wilda na dve leti prisilnega dela. Ti dogodki so dobro znani – vseeno pa danes ne vemo dobro, kakšno je bilo videti to prisilno delo. Vse to ima gotovo neposredno zvezo z Wildovim esejem. In s slavno Dickensovo povestjo, ki je pol stoletja starejša.

Ko pred božičem v pisarno Ebenezerja Stispuha prideta nabiralca prispevkov, ki zbirata denar za revne, ju skopuh vpraša, ali še vedno delujejo zapori, delavnice za reveže in samotežni mlini.

"Pa še kako, gospod."

"Ja, ker sem se po vaših prvih besedah že ustrašil, da je kaj ustavilo njihov koristni tek,« je rekel Stispuh. »To sem pa res zelo vesel." [2]

Viktorijanski sistem "varovanja" in "kaznovanja" je namreč temeljil na prisilnem delu. To so bila naporna in umazana opravila, na primer razpletanje starih ladijskih vrvi na posamezna vlakna, ki so jih nato zbijali skupaj in z njimi tesnili ladijske trupe, lomili kamenje ali drobili živalske kosti za gnojilo. Bilo pa je še nekaj hujšega: samotežni mlini, ki jih je omenil Stispuh, so bili nekakšna "teptalna kolesa" – valji s stopnicami, po katerih so hodili obsojenci in tako poganjali stroje z močjo lastnih mišic. Izumitelj "neskončnih stopnic" je bil William Cubitt, ki se je leta 1818 odločil izkoristiti moč obsojencev, "da ne bi lenarili". Zaporniki so bili med seboj ločeni s pregradami, tako da se niso mogli pogovarjati. Hodili so, zazrti v steno, po šest ali osem ur, po sistemu četrt ure dela in pet minut počitka. Taki samotežni mlini so se uporabljali za črpanje vode ali mletje žita, toda pogosto niso imeli nobenega uporabnega namena, saj so "mleli v prazno", kar je bila oblika dodatne kazni.

Tako je bil eden največjih umov svoje dobe, lord Paradoks, prisiljen delati kot vlečna žival (danes tudi izkoriščanje živali za takšno delo štejemo za etično sporno in okrutno dejanje). In tako je bil prikrajšan za možnost ustvarjanja. Tudi z gospodarskega vidika je bila to čista norost: ko je Wilde pisal za pisalno mizo, ko je predaval, je britanskemu gospodarstvu prinesel veliko več denarja kot takrat, ko je delal kot dvonožni poganjalec samotežnega mlina.

Zdi se, da si danes prav vse to prizadevamo storiti s človeško ustvarjalnostjo.

~

Ta misel ni edinstvena – pravzaprav je obratna od Wildove – in v zadnjem času jo je na podoben način izrazilo več ljudi. Ameriška pisateljica S. J. Sindu je rekla takole: "Za ustvarjanje umetnosti ne potrebujemo umetne inteligence. Umetno inteligenco potrebujemo za pisanje elektronskih sporočil, čiščenje hiše in dostavo živil, da bomo lahko ustvarjali več umetnosti." Poljska pisateljica Joanna Maciejewska pa je o tem dejala naslednje: "Rada bi, da umetna inteligenca namesto mene pere perilo in pomiva posodo, da bi lahko sama ustvarjala umetnost in literaturo, ne pa da umetna inteligenca namesto mene ustvarja umetnost in literaturo, zato da lahko sama perem in pomivam." Ti in številni podobni citati so se po spletu razširili kot krogi na vodi.

Dejstvo, da Evropska unija še ni pravno uredila vprašanja tako imenovane umetne inteligence, je po mojem mnenju ena največjih kulturnih groženj, s katerimi se soočamo. V nasprotju s tradicionalno cenzuro, preganjanjem in zapiranjem umetnikov namreč ne gre za delovanje kakega režima, temveč za globalen proces, katerega resnosti danes niti nismo zmožni doumeti.

Pri tem vidim dve glavni težavi: prvič, velike korporacije, ki izkoriščajo popustljivost zakonodajalcev, za delovanje svojih programov uporabljajo avtorsko zaščitena dela, nastala kot plod skrbnega in dolgotrajnega dela, ki ni poplačano. Vse to je videti kot tekoči trak, speljan v žitnice kmetov, ki sejejo in žanjejo v potu svojega obraza, potem pa se nekdo odloči, da bo njihovo delo prodajal po dampinških cenah. Noam Chomsky je naravnost povedal, da je to, čemur pravimo "umetna inteligenca", pravzaprav program, specializiran za plagiatorstvo.

In drugič, tisto, kar na koncu pride do bralcev, ni delo, temveč le njegova imitacija. UI namreč temelji na tem, kar je moj prijatelj pisatelj nekoč imenoval "pisanje književnosti po prvi izbiri": če je nekdo pijanec, ima rdeč nos, če je kuhar, je debel, če je starka, je grbasta. Pisanje literature po prvi izbiri se opira na stereotipe in pomanjkanje vsakršne domišljije – namesto Celanovega verza Črno mleko zore pijemo ga zvečer [3] nam ponudi dolgočasno različico: Vsako jutro pijemo belo mleko. Toda mehanizem prve izbire ima tudi etično razsežnost – krepi stereotipe, tudi tiste, ki so krivični, in jih povzdiguje na raven razodete postave; popolnoma se znebi moralnega razmisleka in odgovornosti za to, v kakšnem medsebojnem razmerju so besede. Omenjeni Noam Chomsky je v eseju Lažna obljuba ChatGPT-ja [4] skupaj s soavtorji na primeru vprašanja o preoblikovanju Marsa v Zemlji podoben planet pokazal, kako se ChatGPT odziva na etična vprašanja. Rezultate so primerjali z "banalnostjo zla", terminom, ki ga je Hannah Arendt uporabila pri opisu sodelovanja v velikem nacističnem genocidnem stroju. To ne vliva optimizma.

Književnost – in širše umetnost – je že od nekdaj način, kako se družbe pogovarjajo same s seboj, oblika kolektivnega razmišljanja, pogosto neprijetnega, ki razdira človekovo samozadovoljstvo in kvari dobro voljo. Njene vloge tako v avtoritarnih kot demokratičnih sistemih nikakor ni mogoče preceniti. In čeprav s pesmijo ni mogoče ustreliti tirana ali s knjigo nahraniti lačnih, je bilo pisanje v zadnjih dvesto letih v središču velikih procesov demokratizacije, socialno-ekonomskih sprememb in emancipacije zatiranih skupin.

Njena zamenjava s cenejšo imitacijo, ki nemoteno teče po verjetnih in dobro znanih povezavah, namesto da bi nam odstirala nepričakovano in nas vrgla iz ustaljenega ritma navad, bo imela katastrofalne posledice za našo kolektivno zavest. Človeški element – z vso svojo naključnostjo, ki izhaja iz človeške usode – je tisti, zaradi katerega nas umetnost nenehno preseneča in navdušuje. Tega besedila ne bi nikoli začel z Wildom in Dickensom, če ne bi po naključju prav jaz prevajal njunih dveh knjig, kar je v mojih mislih ustvarilo to posebno povezavo. Toda naključja se ne dogajajo strojem, njim se dogaja le statistika. Potrebujemo prepoved nepogodbene uporabe avtorsko zaščitenih del s strani umetne inteligence (z možnostjo, da imetniki pravic dajo takšno dovoljenje po načelu prostovoljne izbire in za ustrezno plačilo), preglednost uporabljenih virov in navsezadnje tudi odstranitev tistih izdelkov, ki so bili doslej ustvarjeni s kršenjem pravic.

Morda se vam bodo moje besede zdele fantastične ali utopične. Toda tu je treba spomniti na Wildove besede iz omenjenega eseja: "Zemljevida sveta, na katerem ni Utopije, ni vredno niti pogledati, saj na njem ni prav tiste dežele, na obalah katere človeštvo kar naprej pristaja. In ko človeštvo tam pristane, se razgleda naokoli in razpne jadra, ko zagleda boljšo deželo. Napredek je uresničitev niza utopij."

~

Prevedel Klemen Pisk.

[1] Oscar Wilde, Človeška duša v socializmu. De profundis, prevedel Uroš Gabrijelčič, Ljubljana: Mladinska knjiga, 1993.

[2] Charles Dickens, Božična pesem v prozi, prevedel Janko Moder, Maribor: Založba Obzorja, 1992.

[3] Paul Celan, Mrtvaška fuga, prevedel Niko Grafenauer.

[4] Noam Chomsky, Ian Roberts, Jeffrey Watumull, »The False Promise of ChatGPT«, The New York Times, 8. 3. 2023.

Odprto pismo Evropi je del projekta ArtAct, ki je sofinanciran iz programa Evropske unije Ustvarjalna Evropa.