AI pri zaposlovanju in AI Act: kaj je prepovedano, kaj je „high risk" in čemu se izogniti #

Uporaba AI pri zaposlovanju danes ima smisel – prav nad veliko količino podatkov ima lahko ogromno dodano vrednost. Ima pa dva regulatorja. Prvi je GDPR: ureja, kje ležijo podatki kandidata in kakšno upravičenje sploh imate, da jih vnašate zunaj nadzora podjetja. Drugi, in veliko pomembnejši, je AI Act: ta ureja, kaj AI v procesu zaposlovanja ocenjuje. Nekatera uporaba je izrecno prepovedana, večina uporabnih funkcij sodi v kategorijo visokega tveganja (high risk) – smete jih uporabiti, a pod konkretnimi pogoji. Nekatere stvari, običajno delo z oglasi ali poročanje nad anonimiziranimi podatki, pa v high risk praviloma ne sodijo.

GDPR: kje ti podatki pravzaprav ležijo #

Podatkov kandidata ne morete kar naložiti v nek GPT, ki ga imate za dvajset dolarjev, in ga prositi za povzetek. Niti vanj vstaviti deset kandidatov v Excelu in pustiti, da oceni, kdo od njih je najboljši. Ocenjevanje kandidatov s chatbotom poleg tega po AI Act ni prepovedano, a je visoko tvegano – do tega še pridemo.

Z vidika GDPR gre za dve vprašanji: kje te podatke shranjujete in kakšno upravičenje imate, da jih vnašate zunaj nadzora podjetja. Shranjujejo jih brez debate vsi običajni chatboti. Drugače je s podjetji, ki uporabljajo na primer Copilot znotraj lastnega tenanta ali imajo lastne strežnike, kjer smejo obdelovati podatke podjetja in kjer je shranjevanje podatkov skladno z GDPR. Če to dovoljuje interni pravilnik podjetja, je to lahko v redu.

Občasno se sliši mnenje, da kandidatu vendar ne more biti moteče, če njegove podatke nekam naložite. To pa ne drži.

Vi kot upravljavec podatkov kandidata imate obveznosti, ki vam jih nalaga GDPR. Ne morete samovoljno shranjevati njegovih podatkov na mestu, ki ga nimate pod nadzorom in za katero ne morete dokazati, kje in pod kakšnimi pogoji se obdelujejo.

GDPR pri tem ne zahteva, da podatki ležijo izključno v EU – prenos v tretjo državo je mogoč na podlagi sklepa o ustreznosti ravni varstva, standardnih pogodbenih klavzul ali zavezujočih poslovnih pravil. Jedro problema ni „EU proti zunaj EU", ampak dokazan režim obdelave. In tega vam običajen chatbot za dvajset dolarjev ne da.

Povezane funkcije: Skladnost z GDPR in shramba v EU · Samodejna anonimizacija

Kaj je cilj AI Act #

Formalno je cilj AI Act varovanje zdravja, varnosti in temeljnih pravic. Pri zaposlovanju se to odraža zelo konkretno. Preden se lotite česarkoli z AI, si zato ponazorite eno poved – to je teza, h kateri se boste vračali pri vsaki posamezni funkciji:

AI Act ima za cilj zaščititi kandidata pred tem, da si AI o njem izmisli – torej halucinira – informacijo, ki ga bo v procesu zaposlovanja diskriminirala.

Pravni okvir: ne čakajte na kazen #

AI Act je neposredno uporabna uredba Evropske unije. Njegove obveznosti ne nastopijo hkrati in del njih je bil leta 2026 odložen (t. i. Digital Omnibus). Trenutno velja:

• 1. avgust 2024 – uredba je stopila v veljavo
• 2. februar 2025 – začele so veljati prepovedi izrecno prepovedanih praks
• 2. avgust 2025 – pravila za splošne modele AI (že veljajo)
• 2. december 2027 – obveznosti za visoko tvegane sisteme po Prilogi III, kamor sodi zaposlovanje in izbor kandidatov (premaknjeno s prvotnega avgusta 2026)

Datume uporabe določa člen 113 v besedilu po odlogu, ki ga je Svet EU sprejel junija 2026. Za zaposlovanje imate torej čas do 2. decembra 2027 – prepovedi iz člena 5 pa veljajo že zdaj.

In kako je s sprejemom v Sloveniji? Ker je AI Act uredba, se ne prenaša v nacionalni zakon kot direktiva in velja neposredno. Uredba EU o UI velja v Sloveniji neposredno; nacionalna ureditev nadzora se še dokončuje – preverite aktualno stanje. Same obveznosti iz uredbe s tem niso pogojene – veljajo po evropskih rokih zgoraj ne glede na nacionalni zakon.

Legitimno je seveda mogoče ugovarjati, da danes ni povsem jasno, kdo bi spoštovanje nadzoroval in kdo bi za kršitev nalagal kazen. A če ste podjetje, ki s podatki kandidatov ravna resno, se boste želeli zamisliti prej, preden vam bo kdo lahko naložil kazen.

Večina podjetij do danes nima izdelanih nobenih pravilnikov ali postopkov, kako zaposlovati skladno z AI Act. Če ste srednje veliko ali veliko podjetje, najprej vprašajte svoje pravnike, kako to delati pravilno.

Kaj je izrecno prepovedano #

AI Act prepoveduje le ozek, taksativen nabor praks (člen 5). Za zaposlovanje jih je relevantnih nekaj:

Mejno je socialno točkovanje (tč. c). Čisto zaposlovanje to običajno ni, a če bi orodje ocenjevalo kandidate po nepovezanem vedenju – recimo točkah z družbenih omrežij – in bi vodilo to v njihovo prikrajšanost, se to presoja od primera do primera.

Zato ločujte dve različni kategoriji: prepovedane prakse (ne smete jih sploh) in visoko tveganje (smete, a z obveznostmi). Večina tega, kar se danes pri zaposlovanju z AI počne, sodi v drugo.

Kaj je dovoljeno, a sodi v visoko tveganje #

High risk ne pomeni, da tega ne smete uporabiti. Pomeni, da so s tem povezane obveznosti – pod kakšnimi pogoji to smete uporabiti in kaj vse morate za to narediti.

Osnovne obveznosti uredba že določa; dopolnjujejo se predvsem tehnični standardi, metodologije in razlaga nadzora. Praktično to pomeni, da boste morali od ponudnika AI zahtevati navodila, kako sistem uporabljati, in imeti lastne pravilnike podjetja o tem, kako jih uporabljati, nadzorovati in kako nad njimi bdeti.

Računajte pa tudi s tem, kar uredba zahteva izrecno:

• Obvladovanje tveganj – pri visoko tveganem sistemu mora obstajati sistem obvladovanja tveganj ves čas njegovega življenjskega cikla (čl. 9); to je obveznost ponudnika, a kot uporabnik boste zanjo želeli dokazilo.
• Dokazljiv človeški nadzor – nadzor morate zaupati kompetentnim osebam (čl. 26 odst. 2); sistem sam mora biti zanj zasnovan (čl. 14).
• Spremljanje delovanja, hramba dnevnikov in nadzor vhodnih podatkov (čl. 26).
• Obvestiti kandidata, da proti njemu uporabljate visoko tvegan sistem (čl. 26 odst. 11), kot delodajalec pa tudi obvestiti predstavnike delavcev in prizadete delavce (čl. 26 odst. 7).
• Od ponudnika lahko pričakujete sistem z dokazano točnostjo, robustnostjo in kibernetsko varnostjo (čl. 15).

Ocena učinka na temeljne pravice (FRIA, čl. 27) se nasprotno ne uporablja povsod. Nanaša se na osebe javnega prava, na zasebne subjekte, ki opravljajo javne storitve, in na nekatere druge uporabnike. Običajen zasebni delodajalec, ki sistem za zaposlovanje uporablja sam zase, obveznosti FRIA praviloma nima – to je pogost nesporazum.

Vrhunska želja: „pomagaj mi izbrati kandidata" #

To je tisto, kar si vsi želimo. A AI naj ne sprejme same odločitve. Naj vam le pomaga in priskrbi podatke. Vi morate biti sposobni preveriti, da si AI ne izmišljuje, in šele vi kot ljudje odločate, kateri kandidat bo to.

Primer, na katerem boste to videli #

Recimo, da AI zna deset kandidatov označiti z oznakami tehnologij, ki jih obvladajo. Verjetno si boste rekli, da to vendar ni nič zapletenega – in da to zagotovo ne bo sodilo v kategorijo visokega tveganja. A predstavljamo si lahko situacijo, ko pri devetih od njih tehnologijo označi pravilno, pri desetem pa ne.

Isto bi se seveda lahko zgodilo človeku. A tu ne govorimo o človeku.

Govorimo o AI, ki naj avtomatizira in odloča namesto nas. In ta se v tem oziru ne sme zmotiti. Človek pa.

Pravno gledano AI Act brezhibnosti ne zahteva – zahteva obvladovanje tveganj, dokazano raven točnosti, robustnosti in kibernetske varnosti (čl. 15), človeški nadzor in možnost izhod zavrniti ali razveljaviti (čl. 14). Praktično pa to izpade enako: če izhoda ne preverite, prevzemate njegovo napako za svojo.

In zdaj si predstavljajte, da vi tega enega kandidata od desetih izločite, ker ga z oznako ni označilo. Prav tu tudi drobna funkcionalnost posega v diskriminacijo pri izboru. Zato je treba podatke preveriti.

In tu se s kmečko pametjo ponuja vprašanje: zakaj uporabljati AI za nekaj, kar bom tako ali tako moral iti preveriti, ali je ocenilo pravilno?

Profiliranje kandidatov #

Kakršnokoli profiliranje kandidatov sodi v kategorijo visokega tveganja. Uredba to pove izrecno: sistem, naveden v Prilogi III, ki izvaja profiliranje fizičnih oseb, je vedno visoko tvegan (čl. 6 odst. 3). Sámo zaposlovanje in izbor kandidatov je nato naveden v Prilogi III, točki 4 tč. a). Običajno gre za:

• „Oceni mi na podlagi njegovega življenjepisa in opisa delovnega mesta njegovo primernost za to pozicijo."
• „Oceni mi njegov življenjepis."
• „Primerjaj mi življenjepise kandidatov v okviru zaposlovanja."

Vse to je brez debate profiliranje. Naj temu rečete AI screening ali samodejno predizbiranje kandidatov, gre za ocenjevanje ljudi – torej profiliranje in s tem visoko tveganje, ne prepovedano prakso.

Povezane funkcije: Priporočila kandidatov za novo pozicijo · Točkovanje kandidatov · Analiza kandidata · AI sourcing na LinkedInu

Kaj v visoko tveganje praviloma ne sodi #

Obstajajo nasprotno uporabe AI pri zaposlovanju, ki v kategorijo high risk praviloma ne sodijo.

Delo z oglasi #

Ocenjevanje prevodov, preverjanje napak in tipkarskih napak, prepisovanje in ustvarjanje oglasov ali recimo analiza konkurenčnosti vašega oglasa.

Poročanje nad anonimiziranimi podatki #

Z AI se lahko pogovarjate nad svojimi podatki iz zaposlovanja. Tudi tu je seveda vprašanje, kje se ti podatki obdelujejo. Sam AI Act pa nima težav s tem, da se pogovarjate o anonimiziranih podatkih iz zaposlovanja: da vam svetuje, kako zaposlovanje izboljšati, kje je po zadnjih raziskavah treba spremeniti izkušnjo kandidatov, ali da si daste narediti lastno tabelo poročila.

Preprosto pridobivanje informacij #

Običajno parsanje življenjepisa: ugotoviti, kje so ime, priimek, telefon ali e-pošta. Tega ne bi štel za profiliranje kandidata, ampak le za iskanje informacij, ki so v življenjepisu že navedene – ničesar se jim ne dodaja.

Prepis razgovora – a pozor #

V visoko tveganje praviloma ne sodi niti čist prepis informacij, recimo z razgovora. Tu pa je treba biti previden: lahko je tam del, ki ni več le prepis, ampak kjer si model AI kaj „izmisli" ali doda – in s tem se to vrne v visoko tveganje.

Zato je treba pri vsaki posamezni funkciji obravnavati njeno konkretno uporabo – in prepustiti vašim pravnikom podjetja, da opredelijo, ali gre za high risk ali ne.

Povezane funkcije: AI prevod oglasa · Analiza konkurenčnosti oglasa · AI parsanje življenjepisa · AI chatbot nad poročanjem · Prepis spletnega razgovora

Vprašajte, ali je mogoče funkcije AI izklopiti #

To je praktično vprašanje, na katero se pri izbiri ATS pozablja. Vprašajte ponudnika, ali je funkcije AI, o katerih se dogovorite, mogoče popolnoma izklopiti – tako, da jih vaši kadrovniki sploh ne morejo uporabiti.

Dokler nimate pravilnikov podjetja o tem, kako AI pri zaposlovanju uporabljati, je možnost deaktivacije funkcije najpreprostejši način, kako odrezati tveganje. In ko pravilnike boste imeli, želite odločati vi – ne ponudnik namesto vas s tem, da funkcijo vklopi vsem.

Priporočilo za konec #

V tej uvodni fazi bi vsem kadrovnikom, ki želijo AI pri zaposlovanju uporabljati, priporočil, da so zelo previdni. Ne pravim, da tehnologij ne smejo preizkušati in jih uporabljati pri zaposlovanju. Pravim, da naj to počnejo z veliko previdnostjo – prav zaradi AI Act.

Kje si AI Act prebrati #

Ne zanašajte se na povzetke, niti na tega. Besedilo uredbe je javno:

• Uredba (EU) 2024/1689 – slovenski uradni tekst na EUR-Lex
• Stabilna povezava ELI (izbira jezika)
• Člen 5 – prepovedane prakse · Priloga III – visoko tvegani sistemi (neuradni vodnik, v angleščini)

← Nazaj na vodnik za izbiro ATS