Povjerenje postaje ključno za poslovnu vrijednost umjetne inteligencije: zaposlenici najčešće odbacuju preporuke AI-ja kada sustav ne može objasniti kako je došao do odluke
Povjerenje u umjetnu inteligenciju postaje važan čimbenik njezine poslovne isplativosti. Pokazuje to novo globalno istraživanje koje je za SAS, globalnu kompaniju specijaliziranu za podatke i umjetnu inteligenciju, proveo IDC među 2.699 donositelja odluka u 28 zemalja. Organizacije koje prednjače u odgovornoj i pouzdanoj primjeni umjetne inteligencije imaju čak 15 puta veću vjerojatnost ostvariti visok povrat ulaganja u AI projekte.
Rezultati drugog godišnjeg izvješća Data and AI Impact Report: The New Economics of Trust pokazuju da razliku ne čini nužno tehnologija koju organizacije koriste, već način na koji njome upravljaju. Čak 62 % organizacija s razvijenim praksama pouzdane umjetne inteligencije prijavljuje značajan ili visok povrat ulaganja u AI, u usporedbi sa samo 4 % organizacija koje u tom području zaostaju. Organizacije s najrazvijenijim praksama pritom ostvaruju 1,85 puta veće koristi u 13 različitih područja poslovnih rezultata, uključujući rast prihoda, uštede troškova i korisničko iskustvo.
Pod pouzdanom umjetnom inteligencijom (trustworthy AI) podrazumijeva se AI koji je pouzdan, pravedan, siguran, usklađen s regulatornim zahtjevima te može jasno pokazati kako je došao do određene odluke. Istraživanje organizacije pritom promatra kroz pet područja: kvalitetu podataka i upravljanje podacima, upravljanje i nadzor AI modela, objašnjivost i pravednost, odgovornu politiku primjene AI-ja te reviziju i odgovornost.
Pitanje povjerenja postaje još važnije kako AI sustavi dobivaju veću autonomiju. Čak 97,2 % korisnika barem ponekad odlučuje ne slijediti preporuke umjetne inteligencije, a glavni razlog nije nužno procjena da je rezultat pogrešan, već činjenica da AI ne može objasniti kako je došao do svoje odluke. Istodobno, povjerenje pada sa 76 % kod generativne na 66 % kod agentske umjetne inteligencije, odnosno AI sustava koji mogu autonomnije planirati i izvršavati zadatke.
„Kad umjetna inteligencija funkcionira, njezin utjecaj može biti izniman“, ističe Bryan Harris, tehnički direktor SAS-a. „Međutim, poznato je da najsuvremeniji AI agenti na složenim zadacima mogu imati stope pogrešaka veće od 25 %, što je neprihvatljivo kada je riječ o donošenju odluka s visokim ulozima. Kako bi postigle točnost i dosljednost rezultata, organizacije moraju ugraditi stručno znanje u agentske tijekove rada, a ljude zadržati u središtu upravljanja i nadzora. Organizacije koje u tome uspiju smanjit će jaz u povjerenju i steći konkurentsku prednost.“
„Kako umjetna inteligencija postaje sve autonomnija, organizacije se suočavaju s novim izazovom – kako zadržati povjerenje u sustave koje ljudi ne razumiju u potpunosti“, ističe Chris Marshall, potpredsjednik IDC-a. „Naši nalazi pokazuju da snažniji nadzor, objašnjivost, odgovornost i kvalitetni podatkovni temelji postaju preduvjeti za uspješno širenje primjene umjetne inteligencije.“
AI koji ne može objasniti svoje odluke postaje poslovni rizik
Nedostatak povjerenja zaposlenika u odluke umjetne inteligencije jedna je od glavnih prepreka njezinoj uspješnoj primjeni. Kada zaposlenici ne razumiju na temelju čega je AI donio odluku, češće odbacuju njegove preporuke i ručno ih ispravljaju, što organizacije može stajati vremena, produktivnosti i profitabilnosti. Budući da kvaliteta odluka umjetne inteligencije ovisi o podacima na kojima se temelje, kvalitetni podatkovni temelji ključni su i za izgradnju povjerenja u rezultate AI-ja.
Pouzdana primjena AI-ja donosi bolje poslovne rezultate
Istraživanje pokazuje sve veću razliku između organizacija koje pouzdanoj umjetnoj inteligenciji daju prioritet i onih koje to ne čine. Organizacije koje ostvaruju najveću vrijednost od AI-ja ne koriste nužno drugačiju tehnologiju – ključna je razlika u načinu na koji njome upravljaju. Čak 85 % vodećih organizacija s razvijenim praksama pouzdane umjetne inteligencije ove godine povećava ulaganja u to područje za više od 10 %, čime dodatno povećavaju razliku u odnosu na organizacije koje zaostaju.
Slabi podatkovni temelji koče povrat ulaganja u AI
Unatoč ubrzanom razvoju umjetne inteligencije, mnoge organizacije AI još uvijek primjenjuju na nedovoljno razvijenoj ili zastarjeloj podatkovnoj infrastrukturi. Bez kvalitetnih podatkovnih temelja teško je osigurati transparentnost i mogućnost objašnjenja rezultata te učinkovito upravljati AI sustavima.
Samo 17,5 % organizacija ima potpuno optimiziranu podatkovnu infrastrukturu dovoljno zrelu za zahtjeve agentske umjetne inteligencije. Organizacije s optimiziranim podatkovnim temeljima imaju četiri puta veću vjerojatnost očekivati značajan povrat ulaganja od AI projekata te šest puta veću vjerojatnost zahtijevati kontrole kvalitete podataka i objašnjivosti potrebne za izgradnju povjerenja.
Razlike među industrijama
Istraživanje je provedeno među 2.699 donositelja odluka u 28 zemalja, a posebno su analizirani bankarstvo, osiguranje, sektor znanosti o životu i javni sektor. Rezultati pokazuju i razlike u načinu na koji pojedine industrije pristupaju umjetnoj inteligenciji.
U bankarstvu 85 % banaka koje prednjače u primjeni AI-ja već ima uspostavljene okvire za upravljanje umjetnom inteligencijom, u usporedbi s 29 % onih koje zaostaju. U javnom sektoru 41 % lidera planira u sljedećih godinu dana povećati ulaganja u pouzdanu umjetnu inteligenciju za više od 20 %. Istodobno je 23 % organizacija u sektoru znanosti o životu proširilo primjenu AI-ja na razinu cijele organizacije, što je najveći udio među promatranim sektorima.
Cjeloviti rezultati istraživanja dostupni su na stranici tvrtke SAS.
O tvrtki SAS
SAS je globalni lider u području podataka i umjetne inteligencije koji pomaže organizacijama da donose pouzdane odluke uz umjetnu inteligenciju kojoj mogu vjerovati. Desetljećima je SAS postavljao standarde za isporuku softvera koji donosi značajan utjecaj, uključujući detaljno stručno znanje o gospodarstvu, transparentnost i upravljanje. SAS vam pruža MOĆ ZNANJA®.
SAS i svi ostali nazivi proizvoda ili usluga tvrtke SAS Institute Inc. registrirani su zaštitni znakovi ili zaštitni znakovi tvrtke SAS Institute Inc. u SAD-u i drugim zemljama. ® označava registraciju u SAD-u. Ostali nazivi robnih marki i proizvoda zaštitni su znakovi njihovih povezanih tvrtki. Autorska prava © 2026 SAS Institute Inc. Sva prava pridržana.
FOTO: Photo by Steve A Johnson on Unsplash
