U posljednjih nekoliko godina umjetna inteligencija prestala je biti samo tema znanstvenofantastičnih romana i postala je nevidljivi motor koji pokreće naš svakodnevni život. Od jednostavnih pretraživanja interneta i personaliziranih preporuka na društvenim mrežama, do složenih sustava za dijagnostiku u medicini, strojevi donose odluke koje izravno utječu na naše izbore i mogućnosti. No, uz taj tehnološki skok javlja se jedno od najvažnijih pitanja suvremenog doba: razumijemo li zapravo kako ti strojevi donose svoje odluke?
Pojam prozirnosti umjetne inteligencije ne odnosi se tek na javno objavljivanje programskog koda, što samo po sebi često nije dovoljno za razumijevanje sustava. Riječ je o sposobnosti ljudi da interpretiraju, objasne i provjere procese koji vode do određenog ishoda. Bez te prozirnosti, prepuštamo upravljanje kritičnim aspektima života sustavima čija logika ostaje skrivena, što otvara prostor za pogreške, predrasude i nedostatak odgovornosti.
Sadržaj...
Problem „crne kutije“ i složenost modernih modela
Većina današnjih naprednih sustava, posebice oni koji se temelje na dubokom učenju i neuronskim mrežama, funkcioniraju kao takozvane „crne kutije“. To je metafora za sustav u kojem vidimo što ulazi (podaci) i što izlazi (odluka), ali proces koji se događa između ta dvije točke ostaje potpuno nepoznat. Paradoks je u tome što čak i inženjeri i programeri koji su osmislili te modele ponekad ne mogu precizno odrediti zašto je umjetna inteligencija donijela specifičnu odluku u određenom trenutku.
Razlika u odnosu na starije tehnologije je ogromna. Raniji informatički sustavi temeljili su se na jasnim, logičkim pravilima: ako se dogodi određeni uvjet, sustav izvršava unaprijed definiranu radnju. Moderni modeli, nasuprot tome, uče iz kolosalnih količina podataka prepoznajući obrasce koje ljudski um često uopće ne može uočiti. To je posebno izraženo kod velikih jezičnih modela koji obrađuju milijarde parametara kako bi predvidjeli sljedeću riječ u rečenici ili generirali složene odgovore. Iako su ti rezultati često impresivni, nedostatak uvidnosti u samu logiku odlučivanja stvara rizike koje više ne možemo ignorirati.
Kada nedostatak prozirnosti postaje opasan?
Kada nam umjetna inteligencija preporuči film koji nam se na kraju ne svidi, gubitak prozirnosti nije kritičan. Međutim, situacija postaje ozbiljna kada se algoritmi koriste za donošenje odluka koje izravno utječu na ljudska prava, zdravlje i financijsku stabilnost. U takvim slučajevima, „vjerovanje stroju“ bez razumijevanja razloga može imati katastrofalne posljedice.
Evo nekoliko ključnih područja gdje je prozirnost apsolutno nužna:
- Financijski sektor i kreditne ocjene: Kada banka odbije zahtjev za zajam na temelju algoritamske ocjene, korisnik ima moralno, a često i zakonsko pravo znati točan razlog. Bez prozirnosti, osoba ne može ispraviti pogreške u svojim podacima niti razumjeti kako poboljšati svoj financijski status.
- Zdravstvena dijagnostika: U medicini, umjetna inteligencija može pomoći u prepoznavanju abnormalnih uzoraka na radiografskim snimkama ili MR-ovima. Ipak, liječnik ne smije slijepo vjerovati stroju; on mora razumjeti koji su parametri doveli do takve dijagnoze kako bi mogao potvrditi nalaz i odrediti ispravnu terapiju.
- Pravosuđe i sigurnost: Korištenje algoritama za procjenu rizika od ponovnog kažnjavanja ili u policijskim istragama nosi ogromne rizike. Ako sustav uči iz povijesnih podataka koji sadrže ljudske predrasude, on će te predrasude samo pojačati i legitimirati pod maskom „objektivne tehnologije“.
Put prema objašnjivoj umjetnoj inteligenciji
Kako odgovoriti na ove izazove? Rješenje leži u razvoju tzv. objašnjive umjetne inteligencije. Cilj ovog pravca je stvaranje modela koji su dizajn
