Akt o umetni inteligenci in AI pismenost: kaj mora narediti podjetje

Kaj je Akt o umetni inteligenci

Akt o umetni inteligenci (Uredba (EU) 2024/1689, angleško EU AI Act) je evropska uredba, ki ureja razvoj in uporabo umetne inteligence. Kot uredba v Sloveniji velja neposredno. Slovenski Zakon o izvajanju uredbe o umetni inteligenci (ZIUDHPUI) ne dodaja novih obveznosti, ampak določa pristojne organe, nadzor ter prekrške in globe.

Večina obveznosti iz Akta zadeva ponudnike visoko tveganih sistemov, na primer AI za zaposlovanje ali odločanje o kreditih. Ena obveznost pa velja za skoraj vsako podjetje, ki AI uporablja pri delu: AI pismenost.

Časovnica

Kaj zahteva člen 4 po spremembi

Po spremembi z digitalnim omnibusom morajo ponudniki in uvajalci sistemov AI sprejeti ukrepe, ki podpirajo razvoj AI pismenosti njihovega osebja in drugih oseb, ki v njihovem imenu upravljajo ali uporabljajo sisteme AI. Pri tem upoštevajo:

• tehnično znanje, izkušnje, izobrazbo in usposobljenost teh ljudi;
• okoliščine, v katerih se sistemi AI uporabljajo;
• osebe ali skupine, na katere se uporaba AI nanaša.

Člen izrecno določa, da podjetju ni treba zagotoviti določene ravni AI pismenosti posameznika. Komisija in države članice morajo podjetja, zlasti mala in srednja, pri tem podpirati, Komisija pa objavlja praktične primere izpolnjevanja obveznosti.

Uvajalec je vsak, ki sistem AI uporablja pri poklicnem delu. Podjetje, katerega zaposleni s ChatGPT pišejo ponudbe ali povzemajo dokumente, je torej uvajalec.

Česa Akt ne zahteva

• certifikata ali izpita;
• predpisanega števila ur usposabljanja;
• merjenja znanja zaposlenih;
• zagotovila, da vsak zaposleni doseže določeno raven.

Šteje, da ste ukrepe sprejeli, da so prilagojeni vlogam in orodjem vaših ljudi in da jih lahko pokažete.

Kaj narediti v praksi: pet korakov

1. Popis rabe. Kdo AI že uporablja, s katerimi orodji, za katere naloge in s katerimi podatki.
2. Pravila. Katera orodja in računi so dovoljeni, kateri podatki ne sodijo v AI in kdo je odgovoren. Dovolj je dokument na eni do dveh straneh.
3. Usposabljanje po vlogah. Prodaja, administracija in vodstvo AI uporabljajo različno. Vsaka skupina naj vadi na svojih nalogah in v svojih orodjih.
4. Evidenca. Kdo se je usposobil, kdaj in o čem. S tem pokažete, da ste ukrepe sprejeli.
5. Posodabljanje. Ob novem orodju, novi vlogi ali novem zaposlenem ukrepe dopolnite.

Za tretji in četrti korak so namenjene AI delavnice, za vseh pet hkrati pa dvodnevno AI izobraževanje, pri katerem uredimo še orodja, dostope in pravilnik.

Visoko tvegani sistemi

Če podjetje uporablja visoko tvegan sistem AI, na primer za izbor kandidatov pri zaposlovanju, velja še člen 26. Ta zahteva, da je osebje, ki sistem uporablja, dovolj usposobljeno za človeški nadzor. Digitalni omnibus te obveznosti ni omilil.

Kdo izvaja nadzor v Sloveniji

• Inšpektorat za informacijsko družbo nadzira zagotavljanje AI pismenosti.
• AKOS je enotna kontaktna točka po Aktu in vodi vstopno točko za pomoč malim in srednjim podjetjem.
• Informacijski pooblaščenec nadzira prepovedane sisteme in nekatere visoko tvegane sisteme.
• Nadzor trga je skupaj razdeljen med pet organov: AKOS, Informacijski pooblaščenec, Banka Slovenije, Agencija za zavarovalni nadzor in Tržni inšpektorat.

Prekrške in globe določa ZIUDHPUI.

Vodnik povzema javno dostopne vire in ni pravni nasvet. Za presojo vašega primera se posvetujte s pravnikom.