Bliskovit razvoj umetne inteligence

Imenuje se ChatGPT in je sistem umetne inteligence podjetja OpenAI. Končno smo lahko sami preizkusili tehnologijo GPT-3, o kateri smo prej le brali ali gledali posnetke pogovorov z robotko Ameca. Bili smo navdušeni, občasno šokirani. Program zna smiselno odgovarjati na vprašanja, tudi kompleksna in strokovno zahtevna. Zna slovensko in zna se navezovati na prejšnja vprašanja in odgovore. Zna celo napisati pesem – resda pa je pri tem bolj impresiven v angleščini. Ker sem takrat pregledoval seminarske naloge študentov, sem teme treh najbolj primernih nalog vnesel v ChatGPT in ga "prijazno prosil", ali lahko napiše seminarske naloge. "Seveda, z veseljem!" je odgovoril program. Na moje veliko presenečenje sta bila dva njegova izdelka tako dobra, da sta bila na ravni študentskih, ena naloga (za katero sem mu sicer postavil štiri podvprašanja) pa je bila čisti presežek (ocena 10). Čeprav tekst ni bil prepisan iz nobenega vira, je bila vsebina strokovno brezhibna in je imela zelo jasno rdečo nit. Edina pomanjkljivost je bila, da si je ChatGPT kar "izmislil" literaturo, iz katere je povzemal. Ja, včasih si umetna inteligenca tudi kaj izmisli – prijel se je izraz, da halucinira.

Osebni zorni kot

Umetna inteligenca (UI) me fascinira od študentskih let. Moja diploma (1990) je ena prvih, ki ima v naslovu besedno zvezo umetna inteligenca. Na moje veselje sem pri njej sodeloval s pionirjem drugega vala razvoja UI, profesorjem Ivanom Bratkom. Vse od takrat spremljam razvoj UI in občasno sam sodelujem pri njem. Pred desetimi leti je kolega dr. Hristovski z Medicinske fakultete v Ljubljani vodil raziskavo, v kateri smo skupaj z Ameriško nacionalno knjižnico za medicino obdelali 120 milijonov stavkov iz povzetkov kar vseh znanstvenih člankov na področju biomedicine do leta 2012. S tehnologijami procesiranja naravnega jezika smo ustvarili pomenske relacije, na podlagi katerih je računalnik poiskal odgovore na strokovna vprašanja. Imeli smo kar nekaj uspehov, vendar je bilo tako težko postaviti kompleksno vprašanje (kot so vsa strokovna vprašanja), da sistem ni zaživel – ker smo ga znali uporabljati bolj ali manj le mi in doktorski študentje, ki smo jih trudoma naučili uporabe. Področje obdelave naravnega jezika je sicer vsako leto napredovalo in danes navedenih 120 milijonov stavkov zveni smešno malo. Kljub stalnemu razvoju pa v strokovnih krogih praktično nihče ni slutil ali napovedal tako silovitega preskoka v zmogljivosti in uporabnosti, kot smo mu priča prav zdaj.

Kaj zmore umetna inteligenca danes

Hitrost razvoja tehnologije je danes tako velika, da ji komaj sledimo. Marca se je pričela uporabljati nadgrajena verzija (GPT-4), ki je v moči sklepanja in razumevanja že veliko boljša od trojke – vsaj za faktor 10. ChatGPT ni več osamljen. Pojavila sta se Bing (Microsoft) in Bard (Google – vendar pa še ne deluje v Sloveniji), aprila pa še eno novo orodje za gradnjo lastnih UI-aplikacij Amazon Bedrock. Elon Musk je pravkar najavil, da bo investiral milijarde v "nezmotljivo" UI. Spletne storitve UI rastejo kot gobe po dežju. Če znaš postaviti pravo vprašanje, dobiš izjemno kvalitetne in poglobljene odgovore z navedbo pravih virov. Postavljanje dobrih vprašanj (angl. prompts) je postalo prava znanost in rodil se je nov profil izjemno iskanih in dobro plačanih strokovnjakov, ki se v angleščini imenujejo prompt engineers. Uveljavljenega slovenskega prevoda za to službo še ni – iščejo in oglašujejo se kar kot prompt inženirji.

Generativna umetna inteligenca, kot se imenuje družina računalniških aplikacij, v katere spada tudi ChatGPT, "zna" generirati vsebino. Zna povzeti 50 strani teksta in navesti zaključke ali pa sestaviti esej na podano temo. Samostojno zapiše zaključke sestanka (ki ga posluša) in smiselno odgovori na elektronsko pošto v vašem imenu. Razlaga zgodbe in tudi vice. Če se je UI pri preverjanju znanja še februarja odrezala nekoliko slabše od povprečnega študenta, je že v marcu z najvišjimi ocenami opravila zaključne izpite na mnogih ameriških univerzah, tudi strokovni izpit za zdravnika! Generira tudi umetne fotografije in slike na katerokoli temo v kateremkoli slikarskem stilu, prav tako naredi tudi realističen video (recimo namišljenega govora resnične osebe). Naredi celo 3D-objekt v inženirstvu ali računalniški igri. Sklada in izvaja glasbo – za katero tudi strokovnjaki ne ugotovijo, da je umetna. Presenetljivo, računalniški program napiše tudi drug računalniški program ali samostojno analizira surove podatke ter iz njih pripravi poslovno poročilo, grafe in trende.

Vse to naredi v delčku sekunde. Kako? Tako, da uporabi generativne modele, kot so na primer veliki jezikovni modeli, za statistično vzorčenje novih podatkov na podlagi nabora podatkov, ki so bili uporabljeni za njihovo ustvarjanje. Ti modeli se naučijo vzorcev v podatkih in jih nato uporabijo za ustvarjanje novih podatkov. Po domače: pisati se nauči tako, da obdela veliko besedil, "fotografirati" pa tako, da obdela veliko fotografij. Obdeluje jih z metodami tako imenovanega strojnega učenja in nevronskih mrež. Posebna dodana vrednost teh metod je, da z njimi lahko odkrijemo zakonitosti, ki se jih prej nismo zavedali.

Takšno je stanje UI maja 2023. Nekatere od zgoraj naštetih funkcij bodo kmalu vključene v novo verzijo MS Office. ChatGPT je najavil vtičnike za posamezna vsebinska področja in povezavo do drugih sistemov, kar bo zelo razširilo njegovo uporabnost (če bo dobil nalogo, ki je ne obvlada, jo bo dal rešiti drugemu sistemu, rešitev pa sam povezal in interpretiral). Jeseni se napoveduje že nova generacija UI, ki zna stvari izboljšati še za faktor 10 – in prinesti čisto nove, prelomne tehnologije. Ena od teh je koncept Auto GPT - ta uvaja inteligentne agente, ki samostojno sodelujejo in rešujejo celovite naloge ter se lahko tudi samostojno odločajo. Več inteligentnih programov se lahko "pogovarja" med seboj in rešuje različne naloge, recimo izdelave spletnih strani, marketinga, prodaje, naročil, odgovarjanja in podpore strankam ter razdelitve nalog ljudem (kadar zanje nima inteligentnih agentov).

Kaj bo tehnologija UI zmogla maja 2024, ne ve nihče, vsekakor pa veliko več kot danes.

Družba umetne inteligence

Prepričan sem, da nas z UI slej ko prej čakajo tektonske spremembe na družbeni ravni. Verjetno bodo večje, kot jih je povzročila vseprisotnost interneta in mobilne telefonije. Čeprav se zdi, da je Facebookova stava na metaverzum že izgubljena, lahko navidezna resničnost z integracijo UI spet ustvari "nov svet". Se še spomnite oglasa "Svet ni eden, svetova sta dva"?

Naslednje verzije UI bodo presegle potencial logičnega razmišljanja povprečnega človeka. Obvladale bodo kompleksnost – področje, kjer smo ljudje zelo omejeni. V znanosti namreč stvari vedno poenostavljamo, večinoma preveč. UI bo veliko manj poenostavljala, ker bo znala zaobjeti kompleksnost sistemske dinamike in "obvladati" več vplivov naenkrat, po možnosti nelinearnih, vzajemno interaktivnih in medsebojno soodvisnih (to so izjemno trdi orehi za znanost).

Izoblikovalo se je mnenje, da bo umetna inteligenca pomagala pri reševanju nekaterih največjih izzivov našega časa, kot so podnebne spremembe, zdravstveni problemi in varnost. Tej novi generaciji smo že dali ime transformativna umetna inteligenca, torej takšna, ki bo spreminjala svet. UI bo pomagala pri avtomatizaciji mnogih delovnih mest in izboljšanju učinkovitosti proizvodnje. Posledično bodo mnogi poklici ogroženi. Kateri točno, je še težko reči, vendar so dokumentirani primeri, ko je UI uspešno zamenjala tajnico, administratorja, ekonomistko, bančnega uslužbenca, pravnika, delavko za tekočim trakom, voznika, skladiščnika in natakarico (spol je zapisan v naključnem vrstnem redu). Na Kitajskem je uspešno zamenjala celo direktorja! Vse kaže, da ima UI potencial, da prevzame delovna mesta, pri katerih so potrebni ustvarjalnost, načrtovanje in analiza, pa tudi sinteza. Vedno več uspehov ima UI tudi na področju izobraževanja, saj lahko hitro in kakovostno oceni znanje učenca in prilagodi proces učenja tako, da kar najbolje ustreza njegovim specifičnim potrebam in lastnostim. V znanosti UI vse pogosteje nastopa kot samostojno orodje, ki je sposobno samo formulirati hipoteze ter jih potem tudi stestirati in tako avtonomno generirati nova znanstvena odkritja. V zgodovini znanosti je bilo to do včeraj popolnoma nepredstavljivo.

Umetna inteligenca v medicini

UI bo postopoma vplivala na vsa področja življenja. Kot primer predstavljam področje medicine.

Zgoraj nisem zapisal, da je UI že uspešno zamenjala zdravnika. Ker ga ni! Pač pa se v medicini UI uveljavlja kot svetovalka in pomočnica. Odkar je IBM-ov računalnik Watson leta 2011 zmagal v TV-kvizu in se je njegova razvojna ekipa posvetila medicinski uporabi, se je zgodilo nekaj večjih premikov. V diagnosticiranju redkih bolezni je UI že enakovredna najboljšemu specialistu. Uspešno interpretira diagnostične slike iz RTG, MRI in CT ter pomaga pri pisanju izvida. V vsakodnevni praksi se uporablja pri terapiji rakavih bolezni, najbolj razširjeno v radioterapiji. Pri razvoju zdravil pomaga tako, da analizira množice beljakovin in učinkovin in sestavlja morebitne kombinacije novih zdravil, za katere potem simulira delovanje v telesu (z napovedovanjem vpliva na zdravljenje in tudi stranskih učinkov). UI je v veliko pomoč pri spremljanju bolnika, naj bo to doma ali pa na intenzivni negi (in povsod vmes). Preko senzorjev spremlja stanje (recimo srčnega utripa, krvnega pritiska, vzorcev gibanja, tudi načina življenja nasploh) in opozarja bolnika, svojce ali pa zdravnika – odvisno od potrebe in konteksta. Ko ima informacije, zna UI hitro in kvalitetno povzeti trenutno stanje pacienta.

Zanimivo je, da UI lahko uspešno svetuje zdravniku tudi glede načina pogovora s pacientom – celo v vlogi psihološkega svetovanja in primernega izražanje empatije. UI dobiva pomembno vlogo tudi v psihoterapiji. Programi za izvajanje vedenjsko-kognitivne terapije uspešno delujejo že več kot deset let in pomagajo mnogim ljudem z različnimi psihičnimi težavami. UI v kombinaciji z navidezno resničnostjo se uporablja v rehabilitaciji in tudi pri premagovanju stresa in tesnobnosti ter soočenju s kronično bolečino in fobijami.

Na UI temeljijo nekateri novi pristopi v medicini, predvsem tako imenovana personalizirana medicina (v angleščini tudi precision medicine), kjer se zdravljenje prilagaja točno določenemu bolniku glede na njegovo genetsko sliko, individualno zdravstveno zgodovino in komorbidnosti ter glede na specifične potrebe bolnika. Pri tem UI analizira velike količine podatkov in upošteva kompleksnost, ki se jo je naučila obvladovati iz analize velikega števila prejšnjih primerov.

Digitalizacija v medicini ni pomembna le zaradi varnosti, transparentnosti in učinkovitosti zdravstvenega sistema (o čemer se zdaj veliko govori v okviru napovedane zdravstvene reforme), ampak tudi zaradi generiranja množice uporabnih podatkov, na podlagi katerih se bodo izboljševali procesi zdravljenja. Digitalizacija, skupaj z AI, ustvarja pogoje za bistveno bolj kvalitetno raziskovalno delo v medicini in tudi druga inovativna področja uporabe, ki se bodo pokazala šele v prihodnosti.

Ima pa UI v medicini tudi precej težav, ki se nanašajo predvsem na vprašanje, ali je zaupanja vredna. Največji oviri za uporabo UI v klinični praksi sta transparentnost in razložljivost. UI večinoma ne zna pojasniti, zakaj nekaj svetuje ali kako je prišla do določenega zaključka. Tretja velika težava so napake, ki jih dela UI. Ne glede na to, da se zanesljivost UI izboljšuje, bo vedno obstajala možnost napak. Pri uporabi UI je še veliko drugih etičnih zadržkov in ti so najbolj izraziti predvsem v medicini. Če omenimo še pomembnost osebnega odnosa med zdravnikom in pacientom, smo našteli glavne razloge, zaradi katerih UI v bližnji prihodnosti ne more nadomestiti zdravnika.

Etika uporabe UI

O etični spornosti UI prav zdaj poteka vroča debata. Vplivni ljudje na čelu z Elonom Muskom, Stevom Wozniakom in Yuvalom Noahom Hararijem​ ter več deset tisoč drugimi podpisniki (Future of Life Institute, podpise še zbirajo) pozivajo celo k začasni zaustavitvi razvoja UI, saj "obstaja velika nevarnost, da se UI uporabi v nasprotju z moralnimi, etičnimi in političnimi standardi zdrave družbe". Poziv je dosegel globalen odmev, čeprav je popolnoma jasno, verjetno tudi podpisnikom, da ideja poziva ne more biti uresničena. Umetna inteligenca ni od včeraj. "Včeraj" je doživela le zadnji veliki (zdi se, da največji do zdaj) preboj. Pionir UI je bil Alan Turing – genij in človek nesrečne usode (ki je največ med vsemi ljudmi prispeval k zmagi zaveznikov v drugi svetovni vojni - vir: Churchill in BBC) – prav na podlagi pionirskih idej o delovanju računalnika in UI.

Razvoj UI se eksponentno pospešuje vsaj zadnjih dvajset let in zato je njegova upočasnitev, kaj šele zaustavitev seveda utopična ideja, saj ne obstaja vzvod, ki bi lahko imel vpliv na stotine različnih razvojnih centrov. UI je že dolgo vpeta v naša življenja. Poganja jo digitalni odtis, ki ga uporabniki ustvarjamo z uporabo računalnikov in mobilnih telefonov. Google in Facebook iz zbranih podatkov z UI že dolgo ustvarjata psihološki profile uporabnikov, ki so njun glavni kapital. Poznata naše preference, interese, stališča, politično orientiranost, spolno usmerjenost, etično pripadnost in socialno mrežo. Oglase, ki jih gledamo, nam prav tako posreduje UI.

Glavna etična vprašanja razširjanja uporabe UI so varstvo podatkov, izguba zasebnosti ter diskriminacija in pristranskost. Če se UI uči na primerih (recimo odločanja o dodelitvi kredita ali o primernosti kandidata za službo), kjer so bili odločevalci pristranski, bo tudi UI pristranska. Sporno je tudi vprašanje odgovornosti. Ne vemo, kdo je odgovoren za napačno ali škodljivo odločitev, ki temelji na UI, niti niso znane poti do pravnega varstva v takšnem primeru. To so glavni razlogi, da še dolgo ne bomo videli popolnoma samovozečih avtomobilov.

Marca sta se na temo generativne UI oglasila tudi Slavoj Žižek (Artificial Idiocy, Project Syndicate) in Noam Chomsky (The False Promise of ChatGPT, The New York Times), oba s poglobljeno analizo sedanje in prihodnje vloge UI v družbi. Oba sta v maniri izjemne kritičnosti do UI predstavila pronicljiva svarila in potencialne grožnje UI za prihodnost človeka in družbe. Resnici na ljubo tako prvi kot drugi ne poznata prav dobro tehnologije, na kateri temeljita vsesplošna digitalizacija in umetna inteligenca, zato so nekateri njuni zaključki včasih nerelevantni.

Umetna inteligenca se lahko, tako kot vse druge tehnologije, seveda tudi zlorabi. Uporabi se lahko na primer za orkestriran vpliv na javno mnenje, manipulacijo (recimo volivcev – to smo že videli) in posege v svobodo državljanov (kar se z nadzorom na vsakem koraku že dogaja v nekaterih državah). Kot zanimivost naj povem, da je naštete pomisleke o UI izrekel prof. Ivan Bratko že pred desetletjem.

K naštetemu je treba dodati vsaj še popolnoma avtomatizirane vojaške sisteme, ko bi avtonomna orožja odločala o uporabi sile. Tudi na drugih področjih bo avtonomno odločanje UI zelo problematično, saj ni mogoče v celoti predvideti izidov. Tehnologija UI je brez dvoma tehnologija z visokim tveganjem.

Evropska komisija je objavila dokument Etične smernice za zaupanja vredno umetno inteligenco. Ta vsebuje priporočila, ki so strnjena v treh točkah: UI bi morala biti zakonita, UI bi morala biti etična in UI bi morala biti robustna - v smislu, da ne povzroča škode. Pri razvoju naj bi se sledilo etičnim načelom: spoštovanje človekove avtonomije, preprečevanje škode, pravičnost in razložljivost. To so sicer le smernice in priporočila, ki niso zavezujoči, in je zato malo verjetno, da bodo tudi udejanjeni. Moje stališče je, da bi Evropa morala več investirati v lasten razvoj UI, saj bomo sicer na tem področju podrejeni ZDA in Kitajski – prav tako kot smo podrejeni na področju informacijskih tehnologij nasploh. Do leta 2030 bo trg generativne UI vreden vsaj 110 milijard dolarjev (Grand View Research), pri čemer resnih igralcev iz Evrope ni radarju.

Odnos med človekom in UI

Ljudje intuitivno dojemamo pogovorno UI, še posebej pa humanoidne robote na antropomorfen način – to pomeni, da UI obravnavamo kot nekaj živega, kar deluje po svoji volji. UI pripisujemo tudi sposobnost čutenja in razumevanja ter z njo vzpostavljamo socialni odnos. Damo ji ime (kot mnogim stvarem v življenju, včasih tudi svojemu avtomobilu) in pričakujemo, da razume naše mentalno stanje. V razvoju UI obstaja posebna smer, to je usklajevanje (angl. alignment) z vrednotami in pričakovanji človeka. Razvoj bo slej ko prej prišel do točke, ko bodo roboti naši vsakdanji sopotniki in celo "prijatelji". Vizionarsko sta osebni odnos z robotom prikazala filma Her in Ich bin dein Mencsh.

Čeprav uporabnik sistema ChatGPT hitro pridobi občutek, da se pogovarja z nekom, ki ga razume, pa je pomembno poudariti, da je UI le stroj, ki z izračunavanjem generira najbolj primeren odziv na naša vprašanja in pozive (in mu za nas ni mar, saj nima čustev). Govori in piše se o prvih zametkih (samo)zavedanja računalnikov, vendar to nima pravega smisla. Računalniki se nikakor se ne morejo zavedati samih sebe v smislu fenomenalne zavesti. Še več – čeprav lahko pogovor z njimi teče smiselno in poglobljeno, računalniki ne "razumejo" pomena besed, ki jih uporabljajo. Računalniki računajo – pri tem pa so tako učinkoviti, da znajo simulirati inteligentnost in ustvarjalnost. Ali lahko takšnemu sistemu pripišemo dejansko inteligentnost, je vprašanje mnogih modernih filozofskih razprav, a nanj nimamo jasnega odgovora. Razprave zelo zapleta vedno bolj realna možnost, da simulacija inteligentnosti preseže človeku podobno inteligentnost in ustvari tako imenovano umetno superinteligenco. Čeprav že zdaj ni pravega soglasja o tem, kdaj (in koliko) je kdo inteligenten, bo treba veljavne opredelitve inteligentnosti ponovno premisliti. Kot zanimivost naj na tem mestu navedem, da se UI uspešno uporablja tudi pri analizi filozofskih problemov.

Pri uporabi UI je pomembno poznavanje okvirjev tehnologije - naravnost ključna pa je sposobnost kritičnega mišljenja in lastne presoje. Danes je kritično mišljenje pogoj za koristno in smiselno uporabo UI, v prihodnosti pa bo temelj za ohranitev avtonomije in svobode odločanja človeka.

Opomba: Dva stavka v tem prispevku je "napisala" umetna inteligenca. Kdo je njun avtor, ni prav jasno. Pošteno povedano – tudi jaz ne vem. Vprašal sem UI in dobil odgovor: "Jaz sem Microsoft Bing Chatbot in moje odgovore lahko uporabiš v svojem članku. Vendar pa ne obstaja avtor mojega teksta, saj sem jaz računalniški program in ne oseba." Hm, hvala, Bing!

Slednje me je močno spomnilo na citat iz enega od biserov svetovne literature: "Halo, Bing, kako brat?" Če kaj, trdim, da umetna inteligenca nikoli ne bo presegla ustvarjalnosti človeka, recimo Maxa Bunkerja! Če spadate v mlajšo generacijo in ne veste, o čem govorim, vprašajte Binga …

≈

Dr. Dejan Dinevski, UDIS, je profesor na Medicinski in Pedagoški fakulteti Univerze v Mariboru in predstojnik Inštituta za biomedicinsko informatiko in telemedicino