YUVAL HARARI

Umjetna inteligencija je hakirala operativni sustav naše civilizacije

ritn by: Yuval Noah Harari | 16.05.2023.
YUVAL HARARI: Umjetna inteligencija je hakirala operativni sustav naše civilizacije
Strah od umjetne inteligencije (AI) prati čovječanstvo još od samog početka računalne ere. Do sada su se ti strahovi fokusirali na strojeve koji koriste sredstva za ubijanje i porobljavanje ljudi ili da ljude nadomjeste. Međutim, tijekom posljednjih nekoliko godina pojavili su se novi AI alati koji prijete opstanku ljudske civilizacije iz neočekivanog smjera. AI je stekao neke izvanredne sposobnosti manipuliranja i generiranja jezika, bilo riječima, zvukovima ili slikama. AI je tako hakirao operativni sustav naše civilizacije. Upravo smo susreli neljudsku inteligenciju, ovdje na Zemlji. Ne znamo puno o tome, osim da bi mogla uništiti našu civilizaciju. Trebali bismo zaustaviti neodgovorno korištenje AI alata u javnoj sferi i regulirati AI prije nego što on regulira nas.

Tekst povjesničara, filozofa i spisatelja Yuvala Noaha Hararija u hrvatskom prijevodu donosimo s portala The Economist

Strah od umjetne inteligencije (AI) prati čovječanstvo još od samog početka računalne ere. Do sada su se ti strahovi fokusirali na strojeve koji koriste sredstva za ubijanje i porobljavanje ljudi ili da ljude nadomjeste. Međutim, tijekom posljednjih nekoliko godina pojavili su se novi AI alati koji prijete opstanku ljudske civilizacije iz neočekivanog smjera. AI je stekao neke izvanredne sposobnosti manipuliranja i generiranja jezika, bilo riječima, zvukovima ili slikama. AI je tako hakirao operativni sustav naše civilizacije.

Jezik je ono od čega je sazdana gotovo sva kultura čovječanstva. Ljudska prava, primjerice, nisu upisana u naš DNK. Naprotiv, ona su kulturni artefakti koje smo stvorili kazujući priče i pišući zakone. Bogovi nisu fizičke stvarnosti. Naprotiv, oni su kulturni artefakti koje smo stvorili izmišljajući mitove i pišući svete spise.

Novac je također kulturni artefakt. Novčanice su samo raznobojni komadi papira, a trenutno više od 90 posto novca nisu čak ni novčanice - to su samo digitalne informacije u računalima. Ono što novcu daje vrijednost su priče koje nam o njemu pričaju bankari, ministri financija i gurui kriptovaluta. Sam Bankman-Fried, Elizabeth Holmes i Bernie Madoff (financijski prevaranti op. pr.) nisu bili osobito dobri u stvaranju prave vrijednosti, ali su svi oni redom bili iznimno sposobni pripovjedači.

Što bi se dogodilo kada bi neljudska inteligencija postala bolja od prosječnog čovjeka u pričanju priča, skladanju melodija, crtanju slika te pisanju zakona i svetih spisa? Kada ljudi razmišljaju o ChatGPT-u i drugim novim AI alatima, često pomisle na primjere kao što su školska djeca koja koriste AI za pisanje svojih zadaćnica. Što će se dogoditi sa školskim sustavom kada djeca to počnu raditi? No, ovakav tip pitanja promašuje širu sliku. 

Zaboravite na školske zadaćnice. Razmislite o sljedećoj američkoj predsjedničkoj utrci 2024. godine i probajte zamisliti utjecaj AI alata koji mogu masovno proizvoditi politički sadržaj, lažne vijesti i svete spise za neke nove kultove.

Posljednjih godina kult qAnon okupio se oko anonimnih online poruka, poznatih kao "q drops". Sljedbenici su skupljali, štovali i tumačili ove „kapi“ kao sveti tekst. Dok su prema našim spoznajama sve prethodne „kapi“ sastavili ljudi, a botovi samo pomogli u njihovom širenju, u budućnosti bismo mogli vidjeti prve kultove u povijesti čije je „svete“ tekstove napisala neljudska inteligencija. Religije su kroz povijest tvrdile da njihove svete knjige nisu ljudskog porijekla. Uskoro bi to mogla biti stvarnost.

Na prozaičnijoj razini, uskoro bismo se mogli naći u podužim online raspravama o pobačaju, klimatskim promjenama ili ruskoj invaziji na Ukrajinu s entitetima za koje mislimo da su ljudi - ali zapravo su AI. Kvaka je u tome da je potpuno besmisleno trošiti vrijeme pokušavajući promijeniti deklarirana mišljenja AI bota, dok bi AI bot mogao izbrusiti svoje poruke toliko precizno da bi imao dobre šanse da utječe na nas.

Yuval Noah Harari
Yuval Noah Harari (FOTO: Flickr)

Svojim ovladavanjem jezikom, umjetna inteligencija može čak uspostaviti intimne odnose s ljudima i iskoristiti moć intimnosti kako bi promijenila naša razmišljanja i naše svjetonazore. Iako nema naznaka da umjetna inteligencija ima vlastitu svijest ili osjećaje, za poticanje lažne intimnosti s ljudima dovoljno je da umjetna inteligencija učiniti da se ljudi osjećaju emocionalno vezanima za nju. U lipnju 2022. godine Blake Lemoine, Googleov inženjer, javno je ustvrdio da je AI chatbot Lamda, na kojem je radio, postao osjećajan. Kontroverzna tvrdnja koštala ga je posla. No, najzanimljivija stvar u ovoj epizodi nije bila tvrdnja gospodina Lemoinea, koja je vjerojatno bila lažna, već njegova spremnost da riskira svoj unosan posao za dobrobit AI chatbota. Ako umjetna inteligencija može utjecati na ljude da zbog nje riskiraju svoja radna mjesta, na što bi ih sve drugo mogla potaknuti?

U političkoj borbi za umove i srca, intimnost je najučinkovitije oružje, a AI je upravo stekao sposobnost masovne proizvodnje intimnih odnosa s milijunima ljudi. Svi znamo da su u proteklom desetljeću društvene mreže postale bojno polje za kontrolu ljudske pažnje. S novom generacijom umjetne inteligencije, bojište se pomiče s pozornosti na intimnost. Što će se dogoditi s ljudskim društvom i ljudskom psihologijom dok se AI bori protiv AI-a u bitki za lažiranje intimnih odnosa s nama, odnosa koji se onda mogu koristiti kako bi nas uvjerili da glasamo za određene političare ili kupimo određene proizvode?

Čak i bez stvaranja "lažne intimnosti", novi AI alati imali bi golem utjecaj na naša mišljenja i svjetonazore. Ljudi mogu početi koristiti jednog savjetnika za umjetnu inteligenciju kao proroka koji sve zna. Nije ni čudo što je Google prestravljen. Zašto se mučiti traženjem, kad mogu samo pitati proroka? Industrija vijesti i oglašavanja također bi trebala biti prestravljena. Zašto čitati novine kada mogu samo zamoliti proroka da mi kaže najnovije vijesti? I koja je svrha reklama, kad mogu samo pitati proroka da mi kaže što da kupim?

A čak ni ovi scenariji zapravo ne prikazuju širu sliku. Ono o čemu govorimo potencijalni je kraj ljudske povijesti. Ne kraj povijesti, već kraj njenog dijela kojim dominiraju ljudi. Povijest je interakcija između biologije i kulture; između naših bioloških potreba i želja za stvarima poput hrane i seksa, i naših kreacija poput religija i zakona. Povijest je proces kroz koji zakoni i religije oblikuju hranu i seks.

Što će se dogoditi s povijesnim tijekom kada AI preuzme kulturu i krene proizvoditi priče, melodije, zakone i religije? Prethodni alati poput tiskarskog stroja i radija pomogli su u širenju kulturnih ideja ljudi, ali nikada nisu stvorili nove vlastite kulturne ideje. AI je bitno drugačiji. AI može stvoriti potpuno nove ideje, potpuno novu kulturu.

U početku će AI vjerojatno oponašati ljudske prototipove na kojima je obučavana u „djetinjstvu“. Ali sa svakom godinom koja prolazi, AI kultura će hrabro koračati tamo gdje nijedan čovjek prije nije otišao. Tisućljećima su ljudska bića živjela u snovima drugih ljudi. U nadolazećim desetljećima mogli bismo se naći kako živimo u snovima neljudske inteligencije.

Strah od umjetne inteligencije proganja čovječanstvo tek zadnjih nekoliko desetljeća. Ali ljude već tisućama godina progoni mnogo dublji strah. Uvijek smo cijenili moć priča i slika u manipulaciji našim umovima i stvaranju iluzija. Posljedica toga je da su se od davnina ljudi bojali biti zarobljeni u svijetu iluzija.

Roboti
Do sada su se ti strahovi fokusirali na strojeve koji koriste sredstva za ubijanje i porobljavanje ljudi ili da ljude nadomjeste (FOTO: Wikimedia/ICAPlants)

U 17. stoljeću René Descartes se bojao da ga možda zlonamjerni demon drži zatočenog u svijetu iluzija, stvarajući sve ono što vidi i čuje. U staroj Grčkoj Platon je ispričao poznatu „Alegoriju špilje“, u kojoj je grupa ljudi cijeli život okovana lancima unutar špilje, okrenuta prema praznom zidu. Ekran. Na tom ekranu vide projekciju raznih sjena. Zatočenici brkaju iluzije koje tamo vide sa stvarnošću.

U drevnoj Indiji budistički i hinduistički mudraci isticali su da svi ljudi žive zarobljeni u Maji - svijetu iluzija. Ono što inače smatramo stvarnošću često je samo fikcija u našim umovima. Ljudi mogu voditi čitave ratove, ubijajući druge i želeći i sami biti ubijeni, zbog svoje vjere u ovu ili onu iluziju.

AI revolucija dovodi nas licem u lice s Descartesovim demonom, s Platonovom špiljom, s Majom. Ukoliko ne budemo oprezni, mogli bismo ostati zarobljeni iza zavjese iluzija, koju ne možemo razmaknuti - ili čak shvatiti da ona uopće postoji.

Naravno, nova moć AI-a mogla bi se koristiti i u dobre svrhe. Neću duljiti o tome, jer ljudi koji razvijaju AI već dovoljno govore o tome. Posao povjesničara i filozofa poput mene jest ukazati na opasnosti. Svakako, umjetna inteligencija nam može pomoći na bezbroj načina, od pronalaženja novih lijekova za rak do otkrivanja rješenja za ekološku krizu. Pitanje s kojim se suočavamo je kako osigurati da se novi AI alati koriste za dobro, a ne za zlo. Da bismo to učinili, prvo moramo procijeniti stvarne mogućnosti ovih alata.

Od 1945. godine znamo da bi nuklearna tehnologija mogla generirati jeftinu energiju za dobrobit ljudi, ali bi također mogla fizički uništiti ljudsku civilizaciju. Stoga smo preoblikovali cijeli međunarodni poredak kako bismo zaštitili čovječanstvo i osigurali da se nuklearna tehnologija koristi prvenstveno za dobro. Sada se moramo uhvatiti ukoštac s novim oružjem masovnog uništenja koje može istrijebiti naš mentalni i društveni svijet.

Još uvijek možemo regulirati nove AI alate, ali moramo djelovati brzo. Dok nuklearne bombe ne mogu izmisliti snažnije nuklearne bombe, AI može napraviti eksponencijalno moćniju AI. Prvi ključni korak je zahtijevanje rigorozne sigurnosne provjere prije nego što se moćne AI alati pusti u javnu domenu. Jednako kao što farmaceutska tvrtka ne može izdati nove lijekove prije testiranja njihovih kratkoročnih i dugoročnih nuspojava, tako ni tehnološke tvrtke ne bi trebale izdati nove AI alate prije nego ih naprave sigurnima. Trebamo ekvivalent Agenciji za lijekove i medicinske proizvode.

Neće li usporavanje javne primjene AI uzrokovati zaostajanje demokracija za nemilosrdnijim autoritarnim režimima? Upravo suprotno. Neregulirana implementacija umjetne inteligencije stvorila bi društveni kaos, što bi pogodovalo autokratima i uništilo demokracije. Demokracija je razgovor, a razgovori se oslanjaju na jezik. Kada AI hakira jezik, mogao bi uništiti našu sposobnost da vodimo smislene razgovore, uništavajući time demokraciju.

Upravo smo susreli neljudsku inteligenciju, ovdje na Zemlji. Ne znamo puno o tome, osim da bi mogla uništiti našu civilizaciju. Trebali bismo zaustaviti neodgovorno korištenje AI alata u javnoj sferi i regulirati AI prije nego što on regulira nas. I prvi propis koji bih predložio je da se učini obaveznim da AI otkrije da je AI. Ako razgovaram s nekim, a ne mogu reći je li to čovjek ili AI - to je kraj demokracije.

Autor: Yuval Noah Harari

Prijevod na hrvatski: Lupiga.Com

Lupiga.Com

Naslovna fotografija: Pixabay

 

Anketa

Varga je otkazao tulum jer je shvatio da:

Kolumne

  1. MUZIČKA MAPA MARKA POGAČARA: Ulica Milana Mladenovića

    13.06.2024.

    Marko Pogačar

    MUZIČKA MAPA MARKA POGAČARA: Ulica Milana Mladenovića

  2. UZ USVAJANJE REZOLUCIJE: Kako da se ne radujemo kada smo opet pobijedili, kako?

    28.05.2024.

    Srđan Puhalo

    UZ USVAJANJE REZOLUCIJE: Kako da se ne radujemo kada smo opet pobijedili, kako?

  3. DRUGO MIŠLJENJE ZDENKA DUKE: Preživjet ćemo i Domovinski pokret

    17.05.2024.

    Zdenko Duka

    DRUGO MIŠLJENJE ZDENKA DUKE: Preživjet ćemo i Domovinski pokret

Lupiga predstavlja: Priče iz zagrebnog života

E-ciklopedija

  1. Povijesni put Hitlerove 'klonje'
  2. Yugo - urbana legenda
  3. Freedom Theatre (Teatar slobode)
  4. Japanske čestitke i razglednice
  5. Russellov čajnik

Recepti

  1. Domaći sok od bazge
  2. Burek (bosanski) za 1 odraslu osobu
  3. Drugačija svinjska jetrica
  4. Bosanska pogača
  5. Piletina u košuljici od sezama
Projekt se provodi uz pomoć:
Ministarstvo kulture Republike Hrvatske Agencija za elektroničke medije Grad Zagreb
Medijski partneri: Balkan Insight - Balkanska tranziciona pravda CINS - Centar za istraživačko novinarstvo Nezavisnog udruženja novinara Srbije