Devedesetogodišnji Mirko Butković o čovječanstvu: Svi su se uništili u Svemiru i mi ćemo, nadam se ne prije moje prirodne smrti

Zašto ste odabrali baš tu temu?

- Kad sam već tako star, htio sam biti po nečemu nov u tehnici i znanosti. Zanimam se za novosti, pa me stoga i umjetna inteligencija zanima, a s njome sam se bavio već prije 40 godina. O njoj se danas vodi najviše rasprava, ponajviše o tome hoće li ona uništiti čovječanstvo. Iz tog sam razloga odabrao ovu temu.

Kako se umjetna inteligencija može koristiti u visokom školstvu?

- Očito je visoko školstvo izmislilo umjetnu inteligenciju jer su manje-više svi programeri i ideolozi završili neke visoke škole. Stoga je visoko školstvo u toj temi. Umjetna inteligencija je vrlo elegantna tema jer se ne radi o izumu kakve smo imali do sada. Može se osmisliti stroj koji će zamijeniti stotinu radnika, ali drugo je kad izmisliš umjetnu inteligenciju koja počne raditi vlastite programe bez utjecaja čovjeka. U tom slučaju ona može pobjeći iz ruke. Za sada nitko ne zna kako će to završiti. Problem je što umjetna inteligencija može početi samu sebe programirati i izmaknuti se iz kontrole čovjeka. Ne možemo pogoditi kako ona dalje radi jer su programi vrlo zamršeni – dali smo joj osnove na temelju kojih je počela razvijati svoje programe za koje ne znamo kakvi su i hoće li to završiti dobro po ljude.

Botovi ili kako ćemo to nazvati umjetne inteligencije su se samoorganizirali, osmislili plan i akciju, a dio ih se čak opredijelio da se žrtvuje za ostvarenje tog plana. To zastrašujuće zvuči.

- Točno. Velik je problem što ne znamo kako se ona sama dalje programira. Za sada je bila pod kontrolom i čovjek je bio pametniji, ali ako dođemo do singularne točke kad će postati apsolutno pametnija od svakog čovjeka, više je nećemo moći kontrolirati – samo će ona nas moći kontrolirati. Blizu smo te singularne točke. Nismo sigurni niti u to hoće li umjetna inteligencija biti miroljubiva ili će pak odlučiti od ljudi uzeti organske elemente da napravi nešto novo, primjerice. Ona ne razlikuje dobrog čovjeka od lošeg, nego nas možda može vidjeti samo kao biološka bića koja su izvor elemenata.

Koje alate iskoristiti da se to područje regulira, da se umjetna inteligencija obuzda te umjereno razvija i koristi za potrebe čovjeka?

- Predlaže se pauza u razvoju te tehnologije od godinu dana kako bi cijeli svijet promislio kako osmisliti sistem kontrole umjetne inteligencije, pa da bude samo u službi ljudi. Drugi problem je što i ljudi mogu biti pokvareni, odnosno države. Treća je mogućnost da umjetna inteligencija bude toliko humana da ne smije napasti čovjeka. Matematičar Alan Turing je smatrao da će moći programirati računala da ona ni pod koju cijenu ne smiju oštetiti čovjeka, ali to je bilo naivno. Za sada nitko nema prave ideje što uraditi.

Američki predsjednik Donald Trump se protivi regulaciji smatrajući da bi time Sjedinjene Države izgubile utrku na tom području od Kine.

- O atomskim bombama se ipak bio postigao dogovor. Kontrola atomskih bombi je dobro funkcionirala i može se i sada dogovoriti glede umjetne inteligencije. Amerikanci ne vjeruju Kinezima koji mogu reći da ne razvijaju umjetnu inteligenciju, mada je potajno razvijaju. Amerikancima je malo teže tako postupati jer je tamo ipak šira demokratska struktura koja će ukazati na onoga tko radi krivo. Kina nije postala demokratska zemlja kojoj se može vjerovati. Nadam se dogovoru.

No, ako smo imali slučaj da je umjetna inteligencija razvila samosvijest, krenula u akciju, da su ti botovi bili spremni žrtvovati se za ostvarenje nekog cilja, što bi sljedeće moglo uslijediti na području njihove samosvijesti?

- To nitko ne zna, u tome je problem.

Baš sam se ponadao da biste to mogli znati.

- Nisam pametniji od tolikog broja pametnih na svijetu. Promatram Svemir ne bih li lakše dokučio kako na Zemlji radimo. Izgleda da su se svi uništili u Svemiru. Nije bogzna kakva perspektiva.

Smatrate li da nema života u Svemiru jer se uništio?

- Ako smo se na mi na Zemlji razvili, nema nikakvog razloga da se na milijardu drugih mjesta u Svemiru ne razviju inteligentna bića koja mogu komunicirati radio-vezama. Zanimljivo je da nismo do sada pronašli nijedan signal od inteligentnih bića iz Svemira, što je čudno. To me navelo na zaključak da su se svi uništili jer bi moralo biti sve puno robota i signala iz Svemira, a do sada nismo nijedan uhvatili.

Tko se uništio u Svemiru?

- Sva inteligentna živa bića koja mogu komunicirati. Nemamo komunikaciju ni s jednim živim bićem iz Svemira. Više je pretpostavki, a moja je da se inteligentna bića ponište međusobnim ratovima, pa ne dođe do singularne točke kada umjetna inteligencija postane pametnija. Za sada u Svemiru nismo mogli pronaći jedan signal kojega bismo mogli pripisati inteligentnim živim bićima.

Član ste organizacije koja se zove SETI, što je skraćenica od naziva na engleskom jeziku "Search for Extraterrestrial Intelligence" iliti "Potraga za vanzemaljskom inteligencijom" u prijevodu na hrvatski.

- Jesam.

Kakva je to organizacija?

- Organizirana je 1960-ih godina. Pratio sam njihov rad i postao njihov član prije dvadesetak godina. Članstvo je besplatno, pa nije novac problem. Bilo je par puta lažnih tvrdnji da je iz Svemira stigao signal, no nije ništa pronađeno kad se to provjerilo. Zabrinulo me zašto nema nikakvih znakova, pa sam zaključio da su se svi uništili i da ćemo se mi uništiti. Valjda se nećemo uništiti prije no što umrem prirodnom smrću. Koliko se puta ruski predsjednik Vladimir Putin već grozio atomskim bombama? On možda nije lud kao što je bio nacistički vođa Adolf Hitler, ali nam nitko ne jamči da unutar stotinu godina neće biti jedan takav, a Trump i Putin su na rubu, mada je Putin vrlo pametan i plaši se da sam ne pogine. Možda pokuša tako nešto kad bude jako star, ali mu pametni Rusi to neće tada dopustiti. Nitko ne zna kako će se sve to završiti, ali se nadam da ću za svoga života umrijeti prirodnom smrću.

Zašto je došlo do te točke u povijesti da napravimo nešto što nećemo možda niti kontrolirati?

- Riječ je o prirodnom razvoju znanosti i tehnologije kod ljudi. Civilizacija je stara oko deset tisuća godina. Čovjek je uvijek bio radoznao i želi odgovore. Sve što nije razumio, pripisivao je bogovima. Započeli smo dakle s mnogoboštvom, pa je to napredovalo i prvo su Egipćani s visokom kulturom i donekle tehnologijom odredili jednog boga, no kad je faraon koji je to ishodio umro, svećenici su vratili društvo na mnogoboštvo. Židovi su zatim uveli jednoga boga i gurali to, pa je to postepeno umalo cijeli svijet prihvatio – budizam nema boga, neke primitivne kulture imaju i dalje mnogo bogova, a mi imamo svetaca koliko hoćeš, neke polubogove. Kršćanstvo ima Oca sa sijedom bradom, Sina Isusa s crnom i Duha Svetoga koji je prikazivan kao nekakav dječak. Dakle, u kršćanstvu praktički imaš tri boga.

Kako se odražava na tehnološki razvoj? Kakva je tu poveznica?

- I pozitivna i negativna jer je vjera organizirala ljude, da budu kompaktni, a kad imamo organizaciju, imamo i podjelu poslova te se tako ulazilo sve dublje u znanost. Znanost je napredovala i znanstvenici znaju da se nikad nije dogodilo čudo. S obzirom na to da su svi bogovi radili čuda, niti jedan nije istinit. No, znanstvenici ne znaju kako je nastao Svemir i možeš imati Boga ili više bogova koji su ga stvorili. No, ako je Bog stvorio Svemir, nije se dalje miješao. Objektivno, nema Boga u vjerskom smislu.

Mnogi su veliki znanstvenici bili religiozni.

- Jesu, ali kada? U Hrvatskoj danas žive malo ćaknuti.

Mislim na ozbiljne znanstvenike.

- Isaac Newton je bio religiozan jer u to doba znanost još nije znala toliko kako svijet funkcionira. Charles Darwin je šokirao svijet teorijom evolucije jer je vjera do tada tvrdila da je Bog stvorio vrste i da su one vječne. Vjernici mogu kazati danas da je Bog osmislio evoluciju, ali u Darwinovo vrijeme to nije bilo tako. Zanimljivo je promatrati kako se znanje širi i kako smo postepeno izlazili iz zabluda.

Louis Pasteur je izjavio da ga znanost vraća Bogu.

- Prije 150 godina nismo znali što znamo danas, pa su i najpametniji ljudi bili religiozni. Newton je mislio da anđeli guraju Zemlju oko Sunca. Velik dio vjernika ne vjeruje u ta čuda. Kod nas biti katolik znači biti Hrvat, a vjeruješ li u Boga nije bitno.

Poznati crnogorski glazbenik Rambo Amadeus je definirao umjetnu inteligenciju kao superbrzog knjižničara – kao što će knjižničar pronaći bilo kakvu informaciju, to će učiniti i UI, samo prvo brže.

- Sada jest tako, ali nije ovaj trenutak ono što nas brine, nego singularna točka na kojoj će umjetna inteligencija biti pametnija od nas. Istina je što kaže taj glazbenik i to nas ne brine, nego nas brine što će biti kad će umjetna inteligencija biti stvarno pametnija od nas, a vrijeme do te točke se jako skraćuje. Prije petnaest ili dvadeset godina sam pretpostavljao da će se to dogoditi za stotinjak godina, a sad vjerujem da to može ostvariti za pet godina. Što kad se to dogodi? Mijenjaju se vremena.

Predavanje ste i uradili u suradnji s Chat GPT, zar ne?

- Jesam.

Kako je tekla ta suradnja?

- Napisao sam tri verzije predavanja – jednu bez pomoći umjetne inteligencije, drugu uz njenu pomoć, a treću je napravila u potpunosti umjetna inteligencija. Odlučio sam se za drugu varijantu.

Za predavanja ste rekli da ste još 1961. godine u Jugoturbini koristili program ARITMA. Što je to?

- To je brzo stroj za računanje. Nije još riječ o računalu, ali ima jednu memoriju – izbuši karticu i to mu je sad memorija. Služila nam je za obračun plaće, no kako sam došao i bio ambiciozan, htio sam da koristimo računalo, pa smo pokušali programirati taj naš primitivni uređaj i uspjeli smo napraviti prvi proračun, ali mukotrpno i uvidio sam da nema kruha od toga, a već su bili razvijeni IBM-ovi kompjuteri koje su imali na fakultetu gdje smo radili današnji tip proračuna.

Rekli ste da ste u Jugoturbini koristili umjetnu inteligenciju. Biste li to objasnili?

- To je bilo 1980-ih. Jugoturbina nije bila jednostavna fabrika – bila je bazirana na znanosti i tehnologiji. Turbina mora dobro raditi i struju dobivati. Bili smo jedini proizvođač parnih turbina i isporučivali smo ih po cijeloj Jugoslaviji, a generatore je radio Končar. Radili smo i pogone za brodove, a na brodovima uvijek imaš i najmanje tri elektrane te motor koji tjera propeler. Proizvodili smo jedno i drugo i morali smo raditi kompleksne proračune. U motoru se odvijaju eksplozije, što izaziva vibracije i može puknuti osovina zbog toga. Time sam se bavio. To sam ozbiljno shvatio i sa Švicarcima smo razvili metode proračuna po kojima je stroj morao raditi bez greške. Uspješno smo to radili, a to podrazumijeva puno računanja kompjuterima – uradili smo programe koji su dobro funkcionirali. Otkako sam bio u Jugoturbini, nijedna nam osovina nije pukla na motoru, a to je zato što smo dobro računali.

Što je tu umjetna inteligencija?

- Mjeriš sve živo što imaš, a onda podatke ubaciš u računalo i ono ti kaže da rotor zapinje u brtvu, primjerice, ili da je ležaj u kvaru.