Čarobna moč AI: koristi, varnost in izzivi regulacije

Generativni modeli so del vsakdanjega dela, prevare z deepfake posnetki imajo resnične žrtve, Evropa pa ima prvi celovit zakon o AI na svetu. Ta že velja, čeprav ne povsem tako, kot se je sprva pričakovalo. Tukaj je, kaj se je v treh letih dejansko spremenilo in kaj to pomeni za prakso.

Koristi: premik od obljub k operativni uporabi

Seznam koristi AI se v zadnjih letih vsebinsko ni bistveno spremenil: avtomatizacija rutinskih opravil, podpora diagnostiki v medicini, optimizacija prometa, personalizacija ali pospeševanje raziskav. Spremenila pa se je stopnja, do katere so te koristi dejansko uvedene, s tem pa tudi narava vprašanja.

Pred tremi leti se je vprašanje glasilo: »Ali je to sploh uporabno?« Danes se glasi bolj: »Ali se splača?« Generativna orodja so se iz predstavitvenih različic premaknila v vsakdanjo prakso pri pisanju, kodi, podpori strankam in obdelavi dokumentov. To je resničen premik.

Hkrati so se pokazale tudi omejitve. Prihranek časa pri rutinskih opravilih je merljiv, vendar se korist hitro izgubi tam, kjer je treba rezultat temeljito preveriti. Strošek ni izginil, le premaknil se je iz ustvarjanja v preverjanje.

Pri uvajanju AI v proces zato nima smisla meriti samo tega, koliko časa prihrani model. Pomembneje je, koliko časa vzame celoten cikel, vključno s preverjanjem in popravki. Brez te številke je ROI uvedbe AI ocena, ne dejstvo.

vir: pixabay

Ko stvari uidejo izpod nadzora: kaj je ostalo od strahov

Prvotni koncept je omenjal superinteligenco, avtonomno orožje, kršitve zasebnosti, brezposelnost in pristranskost. Tri leta podatkov nam danes omogočajo, da te pomisleke razvrstimo glede na to, kaj se dejansko dogaja, in kaj ostaja predvsem špekulacija.

Največji in najbolje dokumentiran premik je zloraba AI za prevare. International AI Safety Report iz leta 2025 med resnična, ne hipotetična tveganja uvršča obsežne prevare, kibernetske napade in ustvarjanje seksualiziranih deepfake vsebin. Te najhuje prizadenejo predvsem ženske, otroke in druge ranljive skupine.

Poročilo tveganja naprednih sistemov deli v tri kategorije: zloraba, tehnične odpovedi in sistemska tveganja. Opozarja tudi na manipulacijo javnega mnenja med volitvami prek ciljanih dezinformacijskih kampanj.

Kibernetska varnost se je medtem iz teoretičnega tveganja premaknila v gospodarski problem prvega reda. Leta 2026 se je kibernetska negotovost uvrstila med najpomembnejša globalna tveganja v dvoletnem obdobju, čeprav ne med prvih pet. Za podjetja to pomeni, da ne gre le za IT-problem, temveč za operativno in finančno tveganje.

Deepfake ni več obroben pojav. V začetku leta 2026 je več držav začasno blokiralo dostop do generatorja Grok zaradi nekonsenzualnih deepfake vsebin. Indonezija, Malezija in Filipini so januarja 2026 omejili dostop, sama družba xAI pa je ustvarjanje slik omejila le na plačljive uporabnike. To je konkreten primer tveganja, ki je pred tremi leti obstajalo predvsem kot opozorilo.

Nasprotno pa superinteligenca in avtonomno orožje ostajata temi razprav brez jasno merljivega vpliva na običajno delovanje večine organizacij. Brezposelnost zaradi avtomatizacije je za zdaj bolj lokalna kot splošna. AI lahko avtomatizira del začetnega dela, vendar tehnične, procesne in pravne ovire še vedno zavirajo množično uvajanje. Grožnja torej obstaja, njen obseg pa ostaja odprto vprašanje, ne dokončano dejstvo.

Najpogostejše zlorabe: resničnost namesto seznama

Prvotno besedilo je kot možne oblike zlorabe navajalo dezinformacije, phishing, škodljivo programsko opremo, manipulacijo podatkov in kršitve zasebnosti. Tri leta pozneje so prve tri med njimi podprte z resničnimi primeri.

Lažni oglasi z zvezdniki za naložbene prevare so povzročili merljivo škodo. Avstralski regulator je že leta 2024 opozarjal na deepfake videoposnetke javnih osebnosti kot vabo za goljufive trgovalne platforme. Brazilski organi so leta 2025 razbili shemo, ki je uporabljala deepfake oglase z zvezdniki.

Phishing, ki ga poganjajo generativni modeli, je danes cenejši, hitrejši in prepričljivejši kot v preteklosti. Tudi zato se je kibernetsko tveganje uvrstilo med pomembne globalne grožnje.

Za praktično obrambo iz tega izhaja preprost sklep: največjega donosa danes ne prinaša spremljanje špekulativnih tveganj, temveč osnovna higiena proti phishingu in deepfake prevaram, ki jih poganja AI. Pri finančnih transakcijah identiteto preverjajte po drugem kanalu, bodite skeptični do »zvezdniških« naložbenih ponudb in ljudi usposabljajte za prepoznavanje bolj sofisticiranih napadov.

Regulacija: največja sprememba zadnjih let

Še pred tremi leti smo o regulaciji razmišljali kot o abstraktni možnosti. Evropska unija je medtem sprejela AI Act, prvi celovit pravni okvir za AI na svetu. Svet EU ga je formalno sprejel 21. maja 2024, veljati je začel 1. avgusta 2024, njegove obveznosti pa se uvajajo postopoma.

Pomemben pa je preobrat, ki je prišel v letih 2025–2026 in je šel proti prvotnim pričakovanjem. Mnogi so pričakovali zaostrovanje; namesto tega je prišel odlog dela rokov. Do konca leta 2025 je postalo jasno, da implementacija trči ob praktične in časovne omejitve. Evropska komisija je zato 19. novembra 2025 predstavila predlog Digital Omnibus on AI, ki je prinesel poenostavitve in odlog dela obveznosti za visokotvegane sisteme.

Konkretno to pomeni naslednje premike:

• Visokotvegani sistemi po Prilogi III (biometrija, kritična infrastruktura, izobraževanje, zaposlovanje, migracije, izvrševanje zakonodaje): obveznosti so se prestavile z 2. avgusta 2026 na 2. december 2027, torej za 16 mesecev.

• Sistemi, vgrajeni v izdelke (dvigala, igrače in podobno): pravila se bodo začela uporabljati od 2. avgusta 2028.

• Preglednost (člen 50): obveznost označevanja sintetične vsebine na strojno berljiv način se je za sisteme, dane na trg pred 2. avgustom 2026, prestavila na 2. december 2026, torej le za štiri mesece. Sama pravila o preglednosti začnejo veljati avgusta 2026.

Dodan je bil tudi nov prepovedni režim za sisteme, ki ustvarjajo nekonsenzualno spolno eksplicitno vsebino ali gradivo, ki prikazuje spolno zlorabo otrok, na primer aplikacije za »nudifikacijo«. To je neposreden odziv na zgoraj opisane primere deepfake vsebin.

Globe niso simbolične. Če AI sistem obdeluje osebne podatke v nasprotju z GDPR, zlasti pri biometriji ali prepoznavanju čustev, lahko sankcije dosežejo do 20.000.000 € ali 4 % svetovnega letnega prometa.

Kaj to pomeni za prakso

Odlog rokov ni razlog, da se priprave ustavijo. Je prej prostor, da se priprava izvede pravilno. Pravo tveganje ni v tem, da bi se pravila omilila. Niso se omilila, predvsem so se premaknila. Tveganje je v tem, da odlog organizacije uspava v nedejavnost in jih rok leta 2027 ujame nepripravljene.

Prvi praktični korak je inventura. Popišite, katere AI sisteme organizacija uporablja, kdo je zanje odgovoren, za katere namene služijo in ali kateri od njih spada v visokotvegano ali prepovedano kategorijo.

Merljiv rezultat te faze je preprost: seznam sistemov z dodeljeno kategorijo tveganja in datumom, od katerega zanje velja konkretna obveznost. Brez takšnega seznama se priprava na AI Act zlahka spremeni v splošno razpravo brez lastnika in roka.

Zaključek

V treh letih se je razprava o AI premaknila z ravni »kaj bi se lahko zgodilo« na raven »kaj se že dogaja in kaj storiti s tem«. Koristi so resnične, vendar je treba njihovo donosnost meriti na ravni celotnega delovnega cikla, ne izoliranega opravila.

Najresnejša tveganja so se izkazala za najbolj prizemljena: prevare, phishing in deepfake vsebine, ne superinteligenca. Regulacija, ki je bila leta 2023 le tema razprav, je danes veljaven zakon z odloženimi, a ne preklicanimi roki in z globami v desetih milijonih evrov.

Čarobna moč AI ostaja. Le da ima čarovnija danes navodila za uporabo, datum začetka uporabe in sankcijo za kršitev.