Imamo nov praznik. Ni dela prost dan, je pa le praznik v pravem pomenu besede — nacionalni dan znanosti. Čudno, da smo ga dobili šele zdaj. Znanost je namreč eden od ključnih gradnikov civilizacije, človeštva in skupnosti. A zakaj bi nergali in se pritoževali? Imamo nacionalni dan znanosti in to je dobro.

Po novem bo skratka v koledarjih z rdečo barvo zapisan 10. november — dan, ko je leta 1819 umrl Žiga Zois. Po znamenitem raziskovalcu in mecenu, eni od ključnih osebnosti slovenskega razsvetljenstva, se sicer že dolgo imenujejo osrednje nagrade za dosežke v znanosti, a njihova podelitev je bila v preteklosti v senci drugih, “pomembnejših” državnih prireditev. Letos je bilo drugače: Gallusova dvorana, premier kot slavnostni govornik, konkreten kulturni program in neposredni prenos na nacionalni televiziji. Kot se za praznik spodobi.

“Dovolj heca, zdaj gre zares.”

Prireditev je bila absolutno na nivoju — iz vsebinskega zornega kota pa je mojo pozornost pritegnil naslednji detajl. Jernej Gašperin je bil v vlogi voditelja na neki točki soočen z vprašanji otrok in mladih: “Kaj, če bi človek živel toliko časa kot drevo?” — “Kakšna bi bila tableta za vse bolezni?” — "Kakšen bi moral biti avto, ki bi vozil samo na sončne celice?”

Njegovi odgovori so bili duhoviti, izrečeni v skoraj rokohitrski maniri ob spremljavi benda, strokovno gledano pa — kolikor lahko kot laik presodim — nadvse prepričljivi. Do zadnjega vprašanja. To pa se je glasilo: “Če ChatGPT ni človek, zakaj se obnaša kot človek?”

Bend je spet začel igrati svojo poskočno spremljevalno vižo, a ga je Gašperin ustavil. Resno in v povsem drugačnem tempu je izpovedal skoraj filozofsko refleksijo in jo zaključil s protivprašanjem, kaj dela nas, ljudi, človeške.

Fajn scenarij in izvrstna izvedba. Vseeno pa me je zbodla ta nenadna sprememba odrske temperature. Kot da bi rekli: “Dovolj heca, zdaj gre zares.”

Milan Kundera

Vprašanje, ali so znanost in tehnologija in z njima človeštvo prestopili Rubikon in šli tja, odkoder ni več povratka, je staro. Nelagodje ob razmahu umetne inteligence, ki odpira vprašanja uporabe, zlorabe, kontrole, resnice in razumevanja, je kot fenomen morda novo, dileme pa niso od včeraj. In kadar imamo opravka s klasičnimi vprašanji, se je ponavadi smiselno vrniti h klasikom.

Milan Kundera začne svoj roman Knjiga smeha in pozabe z naslednjo zgodbo:

“Februarja 1948 je komunistični vodja Klement Gottwald stopil na balkon praške baročne palače, da bi spregovoril stotisočglavi množici, ki se je zgrnila na Staromestni trg. To je bil prelomen trenutek v češki zgodovini. Usoden trenutek, kakršen se nameri le enkrat do dvakrat v tisoč letih. Gottwald je bil obdan s tovariši, tik ob njem je stal Clementis. Naletaval je sneg, grizel je mraz, Gottwald pa je bil razoglav. Skrbni Clementis je snel krzneno kučmo in jo posadil Gottwaldu na glavo.”

“Propagandni oddelek je v stotisočih izvodih razmnožil fotografijo balkona, na katerem Gottwald s kučmo na glavi in z ramo ob rami s tovariši govori ljudstvu. Na tem balkonu se je začela zgodovina komunistične Češke. Fotografijo je s plakatov, iz čitank in muzejev poznal vsak otrok.”

“Štiri leta pozneje so Clementisa obdolžili veleizdaje in obesili. Propagandni oddelek ga je brž izbrisal iz zgodovine in kajpak tudi z vseh fotografij. Odtlej stoji Gottwald na balkonu sam. Tam, kjer je stal Clementis, je videti le prazen zid palače. Od Clemetisa je ostala le kučma na Gottwaldovi glavi.”

Uničenje, izničenje

To je zgodba o tem, kako totalitarni režim zlorabi tehnologijo za uničenje in izničenje posameznika — ne samo njegove sedanjosti in prihodnosti, temveč tudi njegove preteklosti. V tem smislu je še danes prav tako strašljiva, kot je bila, ko jo je zapisal Kundera. Seveda pa dobi nove dimenzije, če jo primerjamo s časom, ki ga živimo.

Najprej je tu vprašanje kontrole, namena in logike. Pri zgodbi o kučmi na Gottwaldovi glavi so zadeve jasne: oblast uporablja tehnologijo za nadzor in vzdrževanje statusa quo. Tisti, ki sistem ogrožajo, so uničeni. Logika je tu transparentna. Čeprav so posledice za posameznika grozljive, sistem in njegove odločitve razumemo. In če jih razumemo, se lahko proti njim tudi borimo.

Kučma sveta

Potem je tu vprašanje tehnologije. Odkar obstaja fotografija, obstaja tudi fotomontaža in tako kot fotografija že od nekdaj beleži resnico, je hkrati sredstvo laži, manipulacije. V preteklosti je dobra fotografija zahtevala neko znanje, mojstrstvo, čas ... Isto je veljalo za fotomontažo. Kako izbrisati Clementisa? Češkoslovaška tajna služba je imela ekipo, specialiste, vrhunske kadre. Tehnologija je to omogočala, ampak si jo moral obvladati, do potankosti. Danes je z uporabo orodij umetne inteligence izbris človeka s fotografije nekaj, kar lahko stori vsak. Posegi v podobe ter tudi zvočne in video posnetke so lahko še precej bolj radikalni.

Tretja stvar pa je kučma. Komunistična oblast povojne Češkoslovaške je imela skoraj absolutno moč, vladala je nad sedanjostjo, usmerjala prihodnost in celo “popravljala” preteklost. Ni pa bila nezmotljiva. Kakšna stvar, kakšna malenkost se ji je lahko izmuznila. Tako kot ta kučma. Zdrs. Spodrsljaj. In ta spodrsljaj je ... — upanje. Ker če sistem ni popoln, če je zmotljiv, bo enkrat propadel. Zagotovo.

In svet, ki ga opisuje Milan Kundera, je propadel. Mi pa smo tu, kjer smo. In kaj je danes ta kučma? Kaj je naše upanje?

Črnogledo?

Botri orodij umetne inteligence so že večkrat z rahlo stisnjenimi zobmi priznali, da ne vedo natančno, kako in v katero smer se bo stvar razvijala. Da so sprožili proces, ki mu ne poznajo končne točke. Na tej točki se zazdi tista sprememba odrske temperature ob soočenju z vprašanjem umetne inteligence še kako na mestu. Ja, zdaj smo pa tam. Dovolj heca, zdaj gre zares. Ne soočamo se več s političnim sistemom, ki zlorablja tehnologijo. Ta za svoje rabote prej ali slej plača ceno. Opraviti imamo s tehnološkim sistemom brez odgovornosti, ki ga v celoti ne kontrolira nihče. Niti njegovi stvarniki in lastniki ne.

Kučma na Gottwaldovi glavi se je izmuznila sistemu, ki smo ga razumeli. Danes pa je sistem črna škatla. Black box, ki ga nihče, niti njegovi kreatorji — kaj šele njegovi uporabniki —, ne razume v celoti. Zato v njem ni več prostora za zdrs, za spodrsljaj. Ni več tiste špranje, skozi katero lahko pokuka resnica. Ni kučme na Gottwaldovi glavi. Ni upanja.

Črnogledo? Na pride mi na misel, da bi pridigal o koncu človeštva. Je pa dejstvo, da zadeve niso več takšne, kot so bile. Nekaj je drugače. In s tem “nekaj” se moramo naučiti živeti.