Podjetje Google je maja predstavilo dolgo pričakovano nadgradnjo svojega spletnega iskalnika, v katero je vključilo umetno inteligenco (AI). Uporabnikom, ki bodo iskali informacije v ZDA, je odslej na voljo funkcija, poimenovana AI pregledi (AI Overviews). V bistvu gre za to, da bodo Googlovi rezultati iskanja na vrhu strani ponujali povzetek, ki ga bo ustvarila AI, temu pa bodo sledili običajni rezultati iskanja, nanizani glede na njihovo relevantnost.
Toda že po nekaj dneh so uporabniki začeli poročati, da nova funkcija ponuja precej nenavadne, netočne in tudi zelo nevarne odgovore. Med njimi so, da je sir na pizzo mogoče pritrditi z lepilom, da je tek s škarjami v rokah koristen za srce in ožilje in da je nekdanji ameriški predsednik Barack Obama musliman. Pri Googlu so se takoj lotili odpravljanja teh napak, ki pa so po mnenju mnogih strokovnjakov neločljivi del tehnologije. Sundar Pichai, glavni direktor Googla, je te "halucinacije" označil za "nerešljivo težavo" in "del tehnologije". Podjetje je torej tiho priznalo napako in, tako kaže, omejilo število uporabnikov, ki se jim prikazujejo omenjeni predogledi.
Google se je upravičeno znašel na udaru kritik, ker je lansiral novo tehnologijo, ki očitno ni primerna za uporabo in utegne povzročiti škodo uporabnikom. Toda le redki so se vprašali, zakaj si je lahko ta tehnološki velikan sploh privoščil tako predrznost. Odgovor je preprost: ker je - če uporabimo besede Line Khan, predsednice Zvezne komisije za trgovino - prevelik, da bi mu moralo biti mar. Google nadzoruje približno 90 odstotkov globalnega trga spletnih iskalnikov in ne čuti skoraj nobenega pritiska zaradi konkurence. Na trg lahko uvede tudi nezanesljiv ali nevaren proizvod, pa se mu vseeno ni treba bati, da bo zaradi tega izgubil kupce, ker bodo raje kupili proizvode njegovih tekmecev.
Prav tako Google zaradi svoje tržne moči ni prav nič motiviran za ohranjanje kakovosti. Njegov spletni iskalnik v zadnjih letih deluje vse slabše, pri čemer prve zadetke vse pogosteje spodrivajo oglasi in vsiljene vsebine. Cory Doctorow je skoval izraz "podrekovljenje" (enshittification), s katerim bi lahko opisali prakso podjetij, da uporabnikom najprej ponudijo koristne in cenovno ugodne (ali celo brezplačne) storitve, takoj ko prevzamejo nadzor nad trgom, pa povišajo njihove cene in zmanjšajo njihovo kakovost. Primerov je ogromno: Amazon je postopoma zvišal provizije za prodajalce ter kupce istočasno zasul s še več sponzoriranimi zadetki, Instagram in Facebook, ki sta v lasti podjetja Meta, pa uporabnikom v vse večji meri vsiljujeta oglase, videe in druge vabe za klike, namesto verodostojnih novic ter obvestil prijateljev in svojcev.
Enak namen imajo "nadgradnje", kot je Googlov AI Overviews. Podjetja potem te načrtno in včasih drastične spremenjene izdelke prodajajo kot "inovacije", ki pa pogosto močno poslabšajo uporabniško izkušnjo.
Google še zdaleč ni edini monopolist, ki je na trg uvedel nedomišljen umetnointeligenčni izdelek. Podjetje Meta je na milijone uporabnikom Instagrama in Facebooka vsilila svoje nove umetnointeligenčne sisteme, čeprav si ti izmišljujejo dejstva in se izdajajo za ljudi. Februarja je začel klepetalnik ChatGPT podjetja OpenAI bljuvati neumnosti, pri čemer je med seboj pomešal več različnih jezikov. Microsoftovi inženirji so kritizirali svoje podjetje, ker je na trg uvedlo generator slik, ki temelji na tehnologiji podjetja OpenAI in ustvarja nasilne, seksualizirane in politično pristranske vsebine. Vsa podjetja so uporabila usmerjene rešitve, vendar ta pristop očitno ni primeren za tehnologijo, za katero se vedno bolj zdi, da je v osnovi nezanesljiva.
Monopolistična samovšečnost deloma poganja hiter razvoj generativne AI ter hkrati utrjuje tržno moč velikih tehnoloških podjetij, ki so na tak način prišli do ogromne količine podatkov, računalniške zmogljivosti, znanja in kapitala. Ti so jim omogočili, da so sploh lahko razvili velike jezikovne modele. Google in Meta uporabljata generativno AI za utrjevanje svojega digitalno-oglaševalskega duopola, medtem ko povpraševanje po večji računalniški zmogljivosti, ki ga poganja AI, Microsoftu in Amazonu še naprej zagotavlja popolni nadzor nad računalništvom v oblaku. Orodja AI oskrbujejo tudi podatkov lačne stroje teh podjetij za nadzor in manipulacijo. Ali imajo od tehnologije koristi tudi uporabniki, je postranskega pomena.
Rivalstvo med tehnološkimi podjetji, zlasti njihovo prerivanje za generativno AI, nekateri navajajo kot dokaz za konkurenčne pritiske znotraj industrije. Toda s tem argumentom ni mogoče pojasniti razlike med konkuriranjem "za trg" in konkuriranjem "na trgu". Tehnološki giganti morda dajejo vtis, da tekmujejo drug z drugim, vendar gre pri tem skoraj vedno za iluzijo. V bistvu se vsako podjetje trudi poglobiti obrambni jarek okoli svojega področja vpliva, rezultat česar je sicer napeto, vendar večinoma stabilno sobivanje. Tudi v redkih primerih neposredne konkurence, kot je denimo konkuriranje Microsofta in Googla na področju spletnih iskalnikov, ostajajo tržni deleži večinoma nespremenjeni.
Tehnološki velikani tekmujejo v enem samem kraljestvu
Večjo skrb vzbuja to, da današnji ekosistem AI prežema tajno dogovarjanje: velika tehnološka podjetja vse pogosteje sklepajo partnerstva, podobna donosnim dogovorom, kakršne je sklenil Google, da je ohranil svojo prevlado na trgu spletnih iskalnikov. Med njimi so tudi dogovor med Microsoftom in Meto, povezan z računalništvom v oblaku, nedavno objavljeno partnerstvo med podjetjema Apple in OpenAI ter Googlov načrt, da svoje umetnointeligenčne tehnologije vgradi v Samsungove telefone. Nekateri od teh dogovorov so že predmet preiskave protitrustovskih organov.
Tehnološki velikani tekmujejo v enem samem kraljestvu: vsi bi si radi zagotovili odobravanje vlagateljev in se izognili vzbujanju vtisa, da zaostajajo v umetnointeligenčni oboroževalni tekmi. Toda toksična kombinacija brezobzirnega boja za rast in zaviranja konkurence spodbuja nevarno in potratno uvajanje nepreverjenih tehnologij.
Zanemarljivo podžiganje konkurence med tehnološkimi monopolisti v upanju, da se bodo zaradi tega prisiljeni bolj osredotočiti na varnost in zanesljivost, ne bo zadostovalo. Nujen prvi korak je zavezujoča regulacija, kot je Akt EU o AI, ki bo omogočala, da ta podjetja pokličemo na odgovornost. In tudi oblikovalci politik bi morali biti bolj iznajdljivi pri uporabi orodij, ki jih imajo na voljo za spodbujanje pravih alternativ tehnološkim velikanom in s katerimi lahko poskrbijo, uporabniki ne bodo več nevede igrali vloge poskusnih zajčkov. Med drugim bi lahko uporabili protitrustovsko politiko ali investirali v podjetja, ki bi konkurirala sedanjim monopolistom na področju računalništva v oblaku in proizvodnje čipov.
Enako pomembno je, da inoviranje nehamo obravnavati kot nekaj, kar je samo sebi v namen, ne glede na to, kaj z njim dosežemo ali čigavim interesom služi. Namesto tega bi morali razviti bolj niansirano razumevanje tega, kako vlagatelji, vodilna podjetja in drugi vplivni akterji oblikujejo in upravljajo zgodbe o inoviranju. Le tedaj bo mogoča smiselna razprava o vlogi AI v naših družbah.
