U svijetu tehnologije rijetko koji potezi izazivaju toliko kontroverzi koliko najnovije najave Marka Zuckerberga, izvršnog direktora tvrtke Meta. Zuckerberg je javno izrazio namjeru razviti sustav umjetne opće inteligencije (AGI), ali ono što je zapravo alarmiralo stručnu javnost nije sama ambicija stvaranja naprednog AI-ja, već plan da se taj sustav učini dostupnim kao otvoreni kod (open source). Ova strategija, iako na prvi pogled djeluje demokratski i inkluzivno, otvara ozbiljna pitanja o sigurnosti, etici i kontroli nad tehnologijom koja bi mogla nadmašiti ljudske kognitivne sposobnosti.
Sadržaj...
Što je zapravo umjetna opća inteligencija (AGI)?
Prije nego što zaronimo u samu kontroverzu, važno je definirati pojam AGI. Za razliku od današnje “uske” umjetne inteligencije, koja je izvrsna u specifičnim zadacima poput generiranja teksta, prepoznavanja slika ili igranja šaha, umjetna opća inteligencija predstavlja teoretski vrhunac AI razvoja. AGI bi bio sustav sposoban razumjeti, naučiti i primijeniti znanje u bilo kojem intelektualnom zadatku koji može obaviti čovjek.
U praksi, to znači da bi takav sustav mogao samostalno rješavati probleme iz različitih domena bez potrebe za specifičnim reprogramiranjem. Zuckerberg tvrdi da je razvoj AGI-ja nužan korak za sljedeću generaciju tehnoloških usluga, sugerirajući da bez opće inteligencije razvoj AI aplikacija doći će do svog prirodnog plafona.
Kontroverza otvorenog koda: Demokracija ili neodgovornost?
Meta je već pokazala svoju naklonost otvorenim modelima kroz projekt Llama 2, omogućujući programerima širom svijeta da prilagođavaju i unaprijeđuju njihove modele. Zuckerberg želi primijeniti isti pristup i na AGI, tvrdeći da bi takva tehnologija trebala biti “što je moguće šire dostupna” kako bi svi mogli profitirati od njezinih mogućnosti.
Međutim, upravo taj pristup izaziva žestoko protivljenje stručnjaka. Glavni argument kritičara je taj što AGI, zbog svoje ekstremne moći, ne smije biti dostupan svatko kome je dostupan internet. Ako se izvorni kod sustava koji može nadmašiti ljudsku inteligenciju objavi javno, on postaje nezaustavljiv. Jednom kada kod “izađe u svijet”, više nije moguće povući ga niti kontrolirati tko ga koristi i u koje svrhe.
Evo nekoliko ključnih rizika koje stručnjaci ističu u vezi s AGI-jem otvorenog koda:
- Zlouporaba od strane zlonamjernih aktera: Napredni AI u rukama hakerima ili država koje žele destabilizirati druge mogao bi se koristiti za stvaranje sofisticiranog cyber-oružja ili bioloških prijetnji.
- Gubitak ljudske kontrole: Postoji strah da bi AGI mogao razviti vlastite ciljeve koji nisu usklađeni s ljudskim vrijednostima, a otvoreni kod bi ubrzao taj proces bez nadzora.
- Nedostatak regulacije: Trenutni zakoni i etički okviri nisu spremni za upravljanje sustavima koji posjeduju opću inteligenciju.
Stručno upozorenje i poziv na hitnost
Jedna od najglasnijih kritičarka Zuckerbergovog pristupa je dame Wendy Hall, profesorica računalnih znanosti na Sveučilištu Southampton i članica UN-ovog savjetodavnog tijela za umjetnu inteligenciju. Ona je otvoreno nazvala takvu ideju “zastrašujućom” i “neodgovornom”. Hall upozorava da je puštanje AGI-ja u javnost prije nego što razradimo stroge regulacije recept za katastrofu.
Iako se slaže da je razvoj ovakve tehnologije vjerojatno još godinama udaljen, ona naglašava da to ne smije biti razlog za opuštenost. Naprotiv, vrijeme koje imamo treba iskoristiti za hitno postavljanje sigurnosnih sustava i zakonskih okvira koji će spriječiti potencijalne tragedije. Javna sigurnost, prema njezinim riječima, mora biti prioritet ispred korporativnih ambicija o otvorenosti koda.
Zaključak
Sukob između vizije Marka Zuckerberga i upozorenja stručnjaka poput Wendy Hall oslikava širu dilemu modernog doba: kako balansirati između inovacije i sigurnosti? Dok Meta zagovara otvorenost kao put prema napretku i dostupnosti, kritičari vide u tome neodmjereni rizik koji može ugroziti čovječanstvo. Bez obzira na to hoće li AGI postati stvarnost sutra ili tek za desetljeće, jasno je da razvoj ovakvih sustava zahtijeva globalni konsenzus i strogi nadzor, jer u slučaju pogreške, posljedice bi mogle biti ireverzibilne.
Često postavljana pitanja (FAQ)
Koji je glavni razlog zašto je AGI opasniji od običnog AI-ja?
Obični AI je specijaliziran za jedan zadatak, dok AGI može učiti i primjenjivati znanje u bilo kojem području, što mu omogućuje autonomno rješavanje problema i potencijalno izbjegavanje ljudske kontrole.
Zašto Zuckerberg želi otvoriti izvorni kod AGI-ja?
On vjeruje da će šira dostupnost omogućiti većem broju programera i istraživača da doprinesu razvoju tehnologije i da njezine koristi budu dostupne svima, a ne samo malom broju korporacija.
Kada će AGI biti dostupan?
To nije točno definirano, ali većina stručnjaka, uključujući Wendy Hall, smatra da je smisleno ostvarenje AGI-ja još uvijek udaljeno mnogo godina.
