Integracija umjetne inteligencije u profesionalne radne procese donosi neuporedivu brzinu i efikasnost, no istovremeno otvara vrata novim, ozbiljnim rizicima. Jedan od najekstremnijih primjera zlouporabe, odnosno nepravilnog korištenja AI alata, dogodio se u pravosudnom sustavu Sjedinjenih Američkih Država. Odvjetnik iz Novog Meksika postao je predmet javne rasprave i sudskih sankcija nakon što je u službeni podnesak uključio potpuno izmišljene dokaze, svjedoke i policijske iskaze generirane putem ChatGPT-a.
Ovaj slučaj služi kao ozbiljno upozorenje svim stručnjacima koji koriste generativne modele jezika. Iako AI može pomoći u strukturiranju teksta ili sažimanju velikih količina podataka, oslanjanje na njega bez rigorozne provjere činjenica može dovesti do profesionalnog samobistva i pravnih posljedica. U pravnom kontekstu, gdje je točnost svake riječi presudna za sudbinu klijenta, “halucinacije” umjetne inteligencije više nisu samo tehnička zanimljivost, već opasnost koja može ugroziti pravičnost suđenja.
Sadržaj...
Detalji slučaja: Kako je došlo do pravne katastrofe
Glavni akter ovog incidenta, odvjetnik Stephen Aarons, zastupao je Oscara Reneeja Sandovala, koji je bio osuđen na doživotni zatvor zbog ubojstva majke svojih djece. Tijekom pripreme žalbe na presudu, Aarons je odlučio koristiti ChatGPT kako bi ubrzao proces obrade materijala. Svoj pristup obrazao je time da je AI-u dostavio računalno generirane transkripte suđenja i druge relevantne dokumente, očekujući da će alat proizvesti precizan i objektivan sažetak koji može direktno integrirati u svoj pravni podnesak.
Međutim, umjesto preciznog sažetka, umjetna inteligencija je generirala sadržaj koji je izgledao uvjerljivo, ali je bio potpuno lažan. U dokument koji je završio na stolu sudaca našli su se iskazi svjedoka koji u stvarnosti ne postoje, kao i detalji policijskih izvještaja koji nikada nisu zapisani. Jedan od najupadljivijih primjera izmišljene informacije bila je tvrdnja o odjeći koju je navodni počinitelj nosio u trenutku pucnjave – ChatGPT je precizno naveo da su to bile tamne hlače i bijela majica, iako takav opis nije postojao u bilo kojem službenom dokazu predmeta.
Sudska reakcija i sankcije za propust
Vrhovni sud Novog Meksika reagirao je strogo na ovaj propust. Sud je zaključio da je Aarons pokazao nedopustiv nedostatak profesionalne pažnje i odgovornosti prema svom klijentu. Glavna kritika nije bila usmjerena na samu upotrebu tehnologije, već na činjenicu da odvjetnik uopće nije provjerio točnost informacija koje je AI generirao prije nego što ih je predao sudu.
Kao rezultat toga, Stephen Aarons je suočio se s nekoliko posljedica:
- Novčana kazna: Sud ga je kaznio s 5000 dolara.
- Proglašenje nepoštovanjem suda: Zbog podnošenja lažnih informacija u službeni zapis.
- Disciplinski postupak: Slučaj je proslijeđen disciplinskom tijelu koje će dodatno ispitati njegovu profesionalnu podobnost i postupanje.
Iako je Aarons na saslušanju tvrdio da je riječ o “iskrenoj pogrešci” i da u trenutku korištenja alata nije u potpunosti razumio mehanizam AI halucinacija, sutkinja C. Shannon Bacon izrazila je nevjericu. Njezina je pozicija bila jasna: profesionalni odvjetnik mora biti svjestan ograničenja alata koje koristi, a povjerenje u “nepogrešivost” softvera u pravnom okviru je nedopustivo.
Što su zapravo AI halucinacije i zašto su opasne?
Pojam “halucinacija” u kontekstu velikih jezičnih modela (LLM) ne odnosi se na vizualne predstave, već na tendenciju AI-ja da generira informacije koje zvuče gramatički ispravno i uvjerljivo, ali su faktčki netočne ili potpuno izmišljene. To se događa jer AI ne “razmišlja” u smislu razumijevanja istine, već predviđa sljedeći najvjerojatniji token (riječ ili dio riječi) na temelju statističkih obrazaca iz ogromne količine podataka na kojima je treniran.
Kada AI naiđe na prazninu u podacima ili pokuša povezati informacije koje nisu povezane, on često “popunjava rupe” kako bi zadovoljio zahtjev korisnika za kompletnim odgovorom. U pravu, gdje se razlika između “bijele majice” i “plave majice” može biti ključna za presudu, ovakva statistička vjerojatnost postaje katastrofalna.
Praktični savjeti za sigurnu upotrebu AI-ja u profesionalnom radu
Da bi se izbjegli ovakvi scenariji, stručnjaci preporučuju stroge protokole provjere. Ako koristite AI za rad s kritičnim podacima, pridržavajte se sljedećih pravila:
- Nikada ne kopirajte direktno: Svi generirani citati, datumi, imena i pravni reference moraju biti ručno provjereni u izvornom dokumentu.
- Tražite izvore: Tražite od AI-ja da navede točan dio teksta ili stranicu iz kojeg je izvukao informaciju, ali i tada provjerite postoji li taj dio u stvarnosti.
- Koristite AI za strukturu, ne za činjenice: AI je izvrstan za organizaciju ideja, ispravljanje gramatike ili predlaganje strukture teksta, ali je nepouzdan kao primarni izvor činjenica.
- Kritički pristup: Uvijek pretpostavite da je AI pogriješio u detaljima dok ne dokažete suprotno.
Zaključak
Slučaj Stephena Aaronsa nije samo anegdota o tehnološkom propustu, već ozbiljna lekcija o granicama digitalne transformacije. Umjetna inteligencija može biti moćan asistent, ali nikada ne smije zamijeniti ljudski intelekt, profesionalni integritet i etičku odgovornost. Pravosudni sustav temelji se na istini i dokazima; uvođenje izmišljenih elemenata, bez obzira na to tko ih je generirao, narušava samu srž pravde.
Dok tehnologija napreduje, odgovornost korisnika raste. Ovaj incident podsjeća sve nas da je u eri AI-ja “provjera činjenica” (fact-checking) postala najvažnija vještina svakog modernog profesionalca. Za Oscara Reneeja Sandovala, klijenta u ovom slučaju, pogreška njegovog odvjetnika značila je dodatni stres u već i tako teškom pravnom procesu, što dodatno naglašava ljudsku cijenu tehnološke nepažnje.
Često postavljana pitanja (FAQ)
Pitanje: Može li ChatGPT namjerno lagati?
Odgovor: Ne, AI nema namjeru niti svijest. On ne “laže” u ljudskom smislu, već generira tekst koji statistički zvuči ispravno, čak i ako nije utemeljen na činjenicama. To je tehnički proces poznat kao halucinacija.
Pitanje: Jesu li drugi odvjetnici bili kažnjeni zbog sličnih propusta?
Odgovor: Da, postoji više zabilježenih slučajeva u SAD-u i drugim zemljama gdje su odvjetnici kaznjeni zbog citiranja nepostojećih sudskih presuda koje je generirao AI.
Pitanje: Kako mogu biti siguran da AI ne halucinira u mom tekstu?
Odgovor
