U proteklom razdoblju tehnološki gigant OpenAI predstavio je dva nova modela – o3 i o4‑mini – koji su se reklamirali kao vrhunac tehnološkog napretka. Iako su ovi sustavi pokazali izvanredne sposobnosti u kodiranju, matematici i drugim specifičnim zadacima, istovremeno su se suočili s ozbiljnim problemom koji je već bio prisutan u ranijim verzijama: halucinacije. U nastavku razmatramo što to znači za krajnje korisnike, za razvoj umjetne inteligencije i koje su moguće mjere za ublažavanje ovog fenomena.
Sadržaj...
Kako se razvijaju modeli i što je novo u o3 i o4‑mini
OpenAI je u posljednje vrijeme uvodio koncept tzv. „rezonirajućih modela“, koji se temelji na složenijim algoritmima za razmišljanje i donošenje zaključaka. Ovi modeli, uključujući o3 i o4‑mini, dizajnirani su da bolje razumiju kontekst i da generiraju odgovore koji se čine logički koherentnijima. Međutim, s povećanjem složenosti dolazi i povećanje rizika od izmišljanja informacija – tzv. halucinacija – koje se manifestiraju kao netočne ili potpuno izmišljene tvrdnje.
Interni testovi pokazuju da o3 i o4‑mini, unatoč većoj učinkovitosti u određenim područjima, imaju znatno veće stopa halucinacija u odnosu na starije modele poput o1, o1‑mini i o3‑mini. Na primjer, u testu PersonQA, koji mjeri točnost znanja o poznatim ličnostima, o3 je iznosio 33 % halucinacija, dok su o1 i o3‑mini iznosili 16 % i 14,8 % respektivno. O4‑mini je dosegao još višu stopu – 48 %. Ovi podaci ukazuju na to da skaliranje rezonirajućih modela može dovesti do povećanja netočnosti.
Problem halucinacija: što to znači za korisnike
Halucinacije predstavljaju ozbiljan izazov za sve koji se oslanjaju na generativne modele za donošenje odluka, istraživanje ili jednostavno dobivanje informacija. Kada model izmišlja podatke, korisnik može:
- Pristupiti netočnim ili zavaravajućim informacijama, što može dovesti do pogrešnih zaključaka.
- Izgubiti povjerenje u sustav, što otežava njegovo prihvaćanje u kritičnim područjima poput medicine, financija ili obrazovanja.
- Doći do situacija u kojima se netočne informacije šire i postaju netočne činjenice u širem kontekstu.
Za studente, istraživače i profesionalce, to znači da je potrebno dodatno provjeravati informacije dobivene od modela, a ne smatrati ih apsolutnom istinom. U kritičnim područjima, poput medicinskog dijagnostike ili financijskog savjetovanja, netočne informacije mogu imati ozbiljne posljedice.
Moguće mjere za ublažavanje halucinacija
Razvojni timovi i istraživači rade na različitim pristupima kako bi smanjili učestalost i ozbiljnost halucinacija. Neke od najčešćih strategija uključuju:
- Poboljšanje kvalitete podataka – filtriranje i prov
Leave a Comment