U doba ubrzanog tehnološkog napretka, umjetna inteligencija (AI) više nije samo alat za povećanje produktivnosti, već faktor koji može značajno utjecati na temelje svjetske ekonomije. Andrew Bailey, guverner Engleske središnje banke (Bank of England) i predsjednik Međunarodnog odbora za financijsku stabilnost (FSB), uputio je ozbiljno upozorenje ključnim ekonomskim odlučivama G20 skupine. Njegova poruka jasna je: napredni modeli umjetne inteligencije, poznati kao “granični” modeli (frontier AI), nose u sebi potencijal za destabilizaciju visoko povezanog globalnog financijskog sustava.
Ovaj trend zabrinutosti ne dolazi samo iz regulatornih krugova, već i iz samih laboratorija gdje se AI razvija. Stručnjaci upozoravaju da brzina kojom ova tehnologija napreduje može nadmašiti našu sposobnost kontrole i razumijevanja njezinih implikacija, što stvara novu razinu sistemskog rizika za bankovne sustave, tržišta kapitala i međunarodne prijenose novca.
Sadržaj...
Kibernetske prijetnje nove generacije i sistemska ranjivost
Jedan od najkritičnijih aspekata Baileyjevog upozorenja odnosi se na transformaciju kibernetskih prijetnji. Napredna umjetna inteligencija omogućuje hakerima i zlonamjernim akterima da kreiraju napade koji su brži, sofisticiraniji i masovniji nego ikada prije. Umjesto izoliranih incidenata, postoji rizik od koordiniranih napada koji se mogu munjevito širiti preko državnih granica, potkopavajući povjerenje u digitalne financijske transakcije.
Osim samih napada, postoji i problem strukturalne ovisnosti. Financijski sektor se u velikoj mjeri oslanja na mali broj dominantnih tehnoloških dobavljača usluga u oblaku i AI infrastrukture. Ova koncentracija moći stvara “točku jedinstvenog otkazivanja” (single point of failure) – ako jedan od tih velikih dobavljača doživi tehnički kolaps ili postane meta uspješnog napada, posljedice bi mogle biti katastrofalne za cijeli globalni sustav.
Bailey ističe da mnoge države i jurisdikcije još uvijek nemaju uspostavljene jasne protokole za upravljanje razvojem i primjenom ovih modela. Bez standardiziranih pravila, financijske institucije ostaju izložene rizicima koje ne mogu u potpunosti predvidjeti niti kontrolirati.
Tržišna volatilnost i opasnost od “AI mjehurića”
Osim izravnih tehničkih prijetnji, umjetna inteligencija utječe i na psihologiju tržišta. Trenutačni optimizam ulagača u potencijal AI tehnologije doveo je do značajnog rasta vrijednosti dionica tehnoloških kompanija. Međutim, ovaj optimizam često prati povećana upotreba financijske poluge (leverage) na tržištima obveznica i dionica.
Kombinacija visokih valuacija i agresivnog zadanja kapitala stvara ranjivost. Ako tržište doživi korekciju ili ako se ispostavi da AI ne donosi očekivani ekonomski povrat u predviđenom roku, može doći do brzog i snažnog pada vrijednosti imovine. Bailey upozorava da bi jedan veliki šok, ili kombinacija više manjih šokova, mogao istovremeno aktivirati više ranjivosti, što bi moglo dovesti do financijske krize širih razmjera.
Kako bismo bolje razumjeli gdje leže glavni rizici, možemo ih kategorizirati u sljedeći popis:
- Operativni rizici: Ovisnost o malom broju AI dobavljača i potencijalni zastoji u njihovim servisima.
- Kibernetski rizici: Automatizirani napadi koji koriste AI za pronalaženje ranjivosti u bankovnim sustavima u stvarnom vremenu.
- Tržišni rizici: Precijenjenost AI dionica i prevelika izloženost putem financijske poluge.
- Regulatorni rizici: Nedostatak usklađenih zakona između različitih država, što omogućuje “regulatornu arbitražu”.
Globalni odgovor: Od EU Akta do američkih okvira
Svijet polako počinje reagirati na ove prijetnje, iako se tempo regulacije često pokazuje sporijim od tempa tehnološkog razvoja. Europska unija prednjači u ovom procesu kroz AI Act, prvi sveobuhvatni zakon o umjetnoj inteligenciji. Ovaj zakon koristi pristup temeljen na riziku, gdje se određene primjene u financijama – poput procjene kreditne sposobnosti ili rizika u osiguranju – klasificiraju kao “visokorizične” i podliježu strogim zahtjevima transparentnosti i nadzora.
S druge strane, Sjedinjene Države primjenjuju nešto fleksibilniji pristup. Američko Ministarstvo financija predstavilo je dobrovoljni okvir za upravljanje rizicima, koji potiče institucije da same implementiraju sigurnosne standarde. Iako je dobrovoljan, ovaj okvir služi kao smjernica za odgovorno usvajanje tehnologije u sektoru financijskih usluga.
Međunarodni odbor za financijsku stabilnost (FSB), pod vodstvom Baileyja, također doprinosi razvoju dobrih praksi. Njihov konzultacijski izvještaj sadrži dvanaest ključnih preporuka koje se fokusiraju na:
- Kvalitetno upravljanje i nadzor unutar institucija.
- Strogo upravljanje rizicima tijekom faze razvoja AI modela.
- Ublažavanje rizika trećih strana (dobavljača).
- Jačanje kibernetske otpornosti sustava.
Zaključak
Umjetna inteligencija nudi nevjerojatne mogućnosti za optimizaciju financijskih usluga, ali njezina implementacija ne smije biti prepuštena isključivo tržišnim silama. Upozorenja guvernera Andrewa Baileyja i tisuća stručnjaka iz vodećih laboratorija poput OpenAI-ja i Google DeepMinda šalju jasnu poruku: bez međunarodne suradnje i stroge regulacije, AI može postati izvor nestabilnosti umjesto napretka.
Ključ uspjeha leži u ravnoteži između poticanja inovacija i zaštite sistemske stabilnosti. Financijske institucije moraju prestati promatrati AI samo kao alat za profit i početi ga tretirati kao potencijalni sistemski rizik koji zahtijeva stalni nadzor i proaktivno upravljanje.
Često postavljana pitanja (FAQ)
Što su “granični” modeli umjetne inteligencije (frontier AI)?
To su najnapredniji AI modeli koji pokazuju visoku razinu autonomije i sposobnosti rješavanja kompleksnih problema, često nadmašujući predviđanja svojih tvoraca u određenim područjima.
Zašto je financijski sektor posebno ranjiv na AI napade?
Zbog visoke međusobne povezanosti globalnih banaka i tržišta, te velike ovisnosti o digitalnoj infrastrukturi nekoliko velikih tehnoloških kompanija.
Kako EU AI Act utječe na bankarstvo?
On uvodi stroge kriterije za AI sustave koji se koriste za procjenu kreditne sposobnosti građana, zahtijevajući veću transparentnost i ljudski nadzor kako bi se spriječila diskriminacija i pogreške.
