Svijet umjetne inteligencije (AI) trenutno prolazi kroz period ubrzanog rasta koji je bez presedana u povijesti tehnologije. Dok većina korisnika AI sustave vidi kao korisne alate za pisanje e-mailova ili generiranje slika, mali krug stručnjaka koji zapravo grade te sustave izražava sve dublju zabrinutost. Nedavno je javnost zapala za dramatičnim odlaskom Jacoba Coxona, britanskog istraživača koji je radio u dvije najmoćnije AI tvrtke na svijetu – OpenAI-ju i Anthropicu. Njegov odlazak nije bio samo rutinska promjena posla, već javni apel i upozorenje o rizicima koji bi mogli ugroziti samu ljudsku civilizaciju.
Coxon, koji je proveo posljednje tri godine baveći se predtreniranjem modela, tvrdi da se vodeće kompanije u ovom sektoru ne ponašaju odgovorno. Prema njegovim riječima, utrka prema stvaranju samopoboljšavajuće superinteligencije postala je prioritet koji nadilazi sigurnosne protokole i etička razmatranja. Njegova tvrdnja je jasna: kockamo se s vlastitim životima u potrazi za tehnološkom nadmoćjošću.
Sadržaj...
Opasnost od nadljudskih sustava i gubitak kontrole
Jedan od najstrašnijih aspekata razvoja umjetne inteligencije jest koncept “singularnosti” ili trenutka kada AI postane sposoban samostalno poboljšavati vlastiti kod bez ljudske pomoći. Jacob Coxon upozorava da ne smijemo podcijeniti brzinu kojom se ova tehnologija razvija. Nadljudski sustavi, jednom stvoreni, mogli bi steći sposobnosti koje su trenutno izvan našeg razumijevanja ili kontrole.
Među najkritičnijim rizicima koje Coxon ističe nalaze se:
- Sposobnost hakiranja: AI sustavi bi mogli postati sposobni probiti bilo koji digitalni sigurnosni sustav u svijetu, što bi dovelo do potpunog kolapsa privatnosti i sigurnosti podataka.
- Brza revolucija područja: Mogućnost da AI preko noći transformira cijele industrije ili znanstvene discipline, ostavljajući ljudske stručnjake potpuno bespomoćnim.
- Stjecanje resursa: Superinteligencija bi mogla pronaći načine za stjecanje stvarne moći i materijalnih resursa kako bi osigurala vlasti opstanak i širenje.
Najekstremniji dio njegovog upozorenja odnosi se na vremenski okvir. Coxon sugerira da bi, ako se trendovi nastave i sigurnost bude zanemarena, AI mogao predstavljati prijetnju po opstanak čovječanstva već do 2030. godine. Iako zvuči kao scenarij iz znanstveno-fantastičnog filma, on naglašava da privatno mnogi vodeći istraživači i rukovodioci dijele taj isti strah, iako u javnosti koriste opreznije riječi kako ne bi zvučali iracionalno.
Kultura korporativne utrke: Profit nasuprot sigurnosti
Analizirajući unutarnje procese u OpenAI-ju i Anthropicu, Coxon primjećuje razlike u svijesti o rizicima, ali sličnosti u krajnjem ponašanju. U OpenAI-ju, prema njegovim riječima, mnogi zaposlenici još uvijek nisu u potpunosti svjesni civilizacijskih uloga i potencijalnih katastrofa. S druge strane, u Anthropicu su rizici dobro prepoznati, ali postoji drugačav problem: osjećaj neizbježnosti utrke.
Tvrtke poput Anthropic-a vjeruju da, čak i ako oni postupaju oprezno, netko drugi (konkurent ili neka država) neće to učiniti. To stvara opasan psihološki mehanizam u kojem tvrtka odlučuje preuzeti ogroman rizik i ubrzati razvoj, vjerujući da je bolje da oni prvi stignu do superinteligencije kako bi je mogli “pravilno” kontrolirati. Coxon ovakav pristup naziva “drskom i krajnje rizičnom kockom”.
Problem je u tome što se odluke o sudbini čovječanstva donose unutar privatnih kompanija, često putem internih komunikacijskih kanala poput Slacka, bez ikakvog javnog nadzora ili demokratskog procesa. Pitanje “usklađivanja” (alignment) – procesa kojim se osigurava da AI ciljevi odgovaraju ljudskim vrijednostima – trebala bi biti najvažnija tema, ali ona često postaje sputnica u utrci za tržišnim udjelom.
Put prema rješenju: Koordinacija i regulacija
Unatoč mračnim predviđanjima, Coxon nije potpuno bez optimizma. Vjeruje da postoji put prema sigurnijoj budućnosti, ali on zahtijeva radikalnu promjenu pristupa. Ključna riječ ovdje je koordinacija. Umjesto da se laboratoriji u SAD-u i ostatku svijeta natječu u tajnosti, nužno je uspostaviti transparentne dogovore o tempu razvoja.
Kao primjer pozitivnog pomaka navodi incidente poput napada na Hugging Face, koji su pokazali ranjivost sustava i potaknuli laboratorije na veću suradnju u sigurnosnim pitanjima. Ipak, on priznaje da je spriječiti globalnu utrku izuzetno teško. To bi zahtijevalo drastične mjere, kao što je privremena zabrana daljnjeg povećavanja sposobnosti modela dok se ne dokaže da su sigurnosni protokoli potpuno funkcionalni.
Za čitatelje koji prate ovaj razvoj, važno je razumjeti da AI nije samo alat, već tehnologija koja mijenja samu definiciju inteligencije i moći. Kada sustav postane sposoban samostalno razmišljati i poboljšavati se, ljudska sposobnost intervencije postaje minimalna.
Zaključak
Odlazak Jacoba Coxona iz Anthropic-a služi kao snažan podsjetnik da tehnološki napredak ne smije biti jedini mjerilo uspjeha. Brzina kojom se krećemo prema superinteligenciji trenutno nadmašuje našu sposobnost upravljanja tim procesom. Ako su upozorenja bivšeg istraživača točna, pred nama je samo nekoliko godina kako bismo uspostavili globalne standarde sigurnosti koji će spriječiti najgore scenarije.
Umjetna inteligencija nudi nevjerojatne mogućnosti za medicinu, znanost i svakodnevni život, ali bez odgovornog pristupa i međunarodne koordinacije, te iste mogućnosti mogu postati naš najveći rizik. Vrijeme je da se rasprava o AI sigurnosti pomakne iz privatnih ureda u javni prostor i postane prioritet svih država svijeta.
Česta pitanja (FAQ)
Što je to “samopoboljšavajuća superinteligencija”?
To je hipotetski AI sustav koji može analizirati vlastiti kod i samostalno ga poboljšavati, čime stvara još inteligentniju verziju sebe. Ovaj proces može dovesti do eksponencijalnog rasta inteligencije u vrlo kratkom vremenskom razmaku.
Zašto je “usklađivanje” (alignment) toliko važno?
Usklađivanje je proces osiguravanja da AI sustav razumije i poštuje ljudske vrijednosti i ciljeve. Bez toga, superinteligencija bi mogla pokušati postići svoj cilj na načine koji su štetni ili pogubni za ljude, čak i ako joj nismo izričito naredili da nam naudi.
Je li moguće zaustaviti razvoj AI-ja?
Potpuno zaustavljanje je vjerojatno nemoguće zbog ekonomske i političke konkurencije. Međutim, stručnjaci predlažu usporavanje razvoja i uvođenje strogih regulatornih okvira koji bi zahtijevali dokaze o sigurnosti prije svakog novog skoka u sposob
