AI orodja lahko pri delu pomagajo pri pisanju, povzemanju dokumentov, iskanju idej, pripravi osnutkov, razlagi podatkov in organizaciji nalog. Težava nastane, ko jih začnemo uporabljati kot neviden kanal za zaupne podatke ali kot avtoriteto, ki je ni treba preveriti.
Varna uporaba AI pri delu je zato manj vprašanje navdušenja nad tehnologijo in bolj vprašanje delovne discipline. Kaj smemo vnesti? Kaj moramo preveriti? Kdo odgovarja za končni rezultat? In kdaj mora človek ustaviti avtomatizacijo?
Kaj je glavno varnostno tveganje?
Največje tveganje ni samo to, da AI naredi napako. Tveganje je kombinacija treh stvari:
- v orodje vnesemo podatke, ki tja ne sodijo,
- rezultat uporabimo brez preverjanja,
- nihče v organizaciji ne ve, kdo je odgovoren za končno odločitev.
NIST AI Risk Management Framework poudarja upravljanje tveganj skozi oblikovanje, razvoj, uporabo in ocenjevanje AI sistemov. Za vsakdanjo rabo pri delu to pomeni, da AI ni ločen od delovnega procesa. Je del procesa, zato mora imeti pravila.
Katere podatke ne vnašamo brez premisleka?
Preden v AI orodje prilepite dokument, e-pošto, tabelo ali zapisnik, se vprašajte: ali bi te podatke lahko poslali zunanjemu izvajalcu brez pogodbe, dovoljenja in jasnega namena? Če je odgovor ne, jih ne vnašajte brez dodatnega preverjanja.
Zaupni podatki
Zaupni podatki so lahko poslovni načrti, ponudbe, pogodbe, ceniki, strategije, interna poročila, zapisniki sestankov, specifikacije izdelkov ali podatki o strankah. Tudi če dokument ni označen kot "zaupno", je lahko vsebinsko občutljiv.
Pri takšnih podatkih ni dovolj vprašati, ali je orodje priljubljeno. Preveriti je treba pogoje uporabe, podatkovno politiko, morebitno pogodbeno razmerje, nastavitve zasebnosti in notranja pravila podjetja.
Osebni podatki
Osebni podatki so informacije, s katerimi je mogoče neposredno ali posredno prepoznati posameznika. To so lahko imena, e-poštni naslovi, telefonske številke, podatki o zaposlenih, življenjepisi, zdravstveni podatki, ocene uspešnosti ali zapisi komunikacije s strankami.
Pri osebnih podatkih so poleg notranjih pravil pomembna tudi načela GDPR, med drugim zakonitost, poštenost, preglednost, omejitev namena, minimizacija podatkov, točnost, varnost in odgovornost upravljavca. Evropska komisija poudarja, da mora biti vrsta in količina obdelanih osebnih podatkov vezana na razlog obdelave in namen uporabe.
Ta članek ni pravni nasvet, vendar je varno izhodišče jasno: osebnih podatkov ne vnašamo v AI orodja, če nimamo jasne pravne podlage, namena, pogodbenih pogojev, tehničnih varoval in notranjih pravil.
Regulirane informacije
Nekatere informacije so občutljive zaradi panoge: zdravstvo, finance, zavarovalništvo, pravo, javni sektor, kadrovanje, izobraževanje ali varnost. Tam napaka AI ne pomeni samo slabega odgovora, ampak lahko vpliva na pravice, denar, zdravje ali ugled ljudi.
Pri takšnih primerih mora biti uporaba AI del uradnega procesa, ne osebna improvizacija zaposlenega.
Kako preveriti izhod AI?
AI odgovor je treba obravnavati kot osnutek, ne kot dokaz. Tudi če je slog dober in samozavesten, to še ne pomeni, da je vsebina pravilna.
Dejstva, številke in datumi
Najprej preverite trditve, ki jih je mogoče preveriti: številke, datume, imena oseb, imena podjetij, pravne navedbe, cene, tehnične specifikacije in citate. Pri teh elementih je tveganje napačnega odgovora posebej visoko, ker se napaka lahko skrije v lepo oblikovanem besedilu.
Če AI navede vir, ga odprite. Če vira ne najdete, trditve ne uporabite kot dejstvo. Če gre za aktualno informacijo, preverite datum objave.
Ton in kontekst
AI lahko napiše besedilo, ki je slovnično pravilno, vendar ne ustreza kontekstu. Lahko je preveč samozavestno, preveč prodajno, premalo previdno ali neprimerno za občutljivo situacijo.
Pri službeni uporabi preverite, ali besedilo spoštuje ton podjetja, pravila komunikacije, odnos do stranke in dejansko stanje primera.
Končna odgovornost človeka
AI ne prevzame odgovornosti za poslano e-pošto, odločitev, pogodbeni povzetek ali poročilo. Odgovornost ostane pri osebi ali organizaciji, ki rezultat uporabi.
Zato naj bo pravilo preprosto: AI lahko pomaga pripraviti osnutek, človek pa mora preveriti, razumeti in odobriti končni izdelek.
Kako postaviti notranja pravila?
Podjetje ne potrebuje nujno dolgega priročnika, da začne varno. Potrebuje pa jasna osnovna pravila, ki jih zaposleni razumejo.
Kdo sme uporabljati AI
Ni nujno, da imajo vsi zaposleni enake potrebe in enako raven dostopa. Nekateri uporabljajo AI za osnutke besedil, drugi za podatke, tretji za podporo uporabnikom ali razvoj kode. Pravila naj določijo, katera orodja so dovoljena, za katere naloge in pod kakšnimi pogoji.
Kaj je dovoljeno vnašati
To je najpomembnejši del pravil. Organizacija naj jasno loči:
- javne informacije,
- interne informacije,
- zaupne informacije,
- osebne podatke,
- posebej občutljive ali regulirane informacije.
Za vsako skupino naj bo jasno, ali se lahko vnaša v AI orodje, pod kakšnimi pogoji in v katero orodje.
Kdaj je potreben pregled
Nekateri izhodi so nizko tvegani, na primer predlog naslova za interno delavnico. Drugi zahtevajo pregled, na primer odgovor stranki, povzetek pogodbe, analiza podatkov ali besedilo za javno objavo.
Pravilo naj ne bo "AI je dovoljen" ali "AI je prepovedan", ampak: pri katerih nalogah je dovoljen, pri katerih je omejen in kje je potreben človeški ali strokovni pregled.
Kako AI uporabljati bolj varno in učinkovito
OpenAI v svojih navodilih za prompt engineering poudarja jasnost, specifičnost in iterativno izboljševanje navodil. To ni le trik za boljši odgovor, ampak tudi varnostno pravilo. Bolj jasno kot opišemo nalogo, manj prostora je za napačno razumevanje.
Namesto:
"Napiši odgovor stranki."
bolje:
"Pripravi osnutek odgovora stranki v mirnem in profesionalnem tonu. Ne dodajaj obljub, popustov ali pravnih trditev. Uporabi samo informacije iz spodnjega povzetka. Na koncu označi mesta, ki jih mora preveriti človek."
Dober prompt ne odpravi tveganja, ga pa lahko zmanjša. AI dobi jasnejše meje, uporabnik pa lažje vidi, kaj mora preveriti.
Praktičen kontrolni seznam pred uporabo AI pri delu
Preden uporabite AI rezultat v službenem kontekstu, preverite:
- Ali smem te podatke vnesti v izbrano orodje?
- Ali dokument vsebuje osebne, zaupne ali regulirane podatke?
- Ali sem orodju jasno povedal, kaj naj naredi in česa ne sme dodajati?
- Ali je rezultat osnutek ali končna vsebina?
- Ali sem preveril dejstva, številke, datume in vire?
- Ali rezultat ustreza tonu in pravilom organizacije?
- Ali je potreben pregled sodelavca, pravnika, varnostne osebe ali vodje?
- Ali je jasno, kdo odgovarja za končno uporabo?
Če pri katerem od teh vprašanj niste prepričani, je bolje ustaviti postopek in preveriti pravila.
Pogoste napake pri službeni uporabi AI
Prva napaka je lepljenje celih dokumentov v orodje brez razmisleka. Pogosto bi bilo dovolj vnesti anonimiziran povzetek ali izsek brez občutljivih podatkov.
Druga napaka je uporaba AI odgovora kot končnega izdelka. To je posebej tvegano pri pravnih, finančnih, kadrovskih, zdravstvenih in varnostnih temah.
Tretja napaka je odsotnost notranjih pravil. Če vsak zaposleni sam odloča, katero orodje bo uporabljal in kaj bo vanj vnesel, organizacija nima nadzora nad tveganjem.
Če želite izboljšati tudi navodila, preberite [Kako napisati dober prompt?](/umetna-inteligenca/kako-napisati-dober-prompt/); za regulativni okvir pa [Kaj je AI Act in zakaj je pomemben?](/regulativa/kaj-je-ai-act/).
Kaj si je smiselno zapomniti
AI orodja so lahko zelo uporabna pri delu, vendar morajo biti del odgovornega procesa. Najpomembnejše je, da zaupnih in osebnih podatkov ne vnašamo brez jasnih pravil, da rezultate preverjamo in da je odgovornost za končno uporabo vedno določena.
Varna uporaba AI ni strah pred tehnologijo. Je dobra delovna higiena: manj improvizacije, več jasnih pravil, boljši prompti in redno preverjanje rezultatov.
FAQ
Ali lahko v AI orodja vnašam zaupne podatke?
Ne brez jasnega dovoljenja, razumevanja pogojev uporabe in notranjih pravil organizacije. Pri zaupnih podatkih je varneje uporabiti anonimizirane povzetke ali odobrena orodja.
Kako preverim AI odgovor pred uporabo?
Preverite dejstva, številke, datume, vire, ton, kontekst in skladnost z notranjimi pravili. Pri pomembnih zadevah naj odgovor pregleda odgovorna oseba ali strokovnjak.
Ali je AI varna za delo z osebnimi podatki?
Uporaba AI pri osebnih podatkih je lahko dopustna samo v nadzorovanem okviru: z jasno pravno podlago, namenom obdelave, pogodbenimi pogoji, tehničnimi varovali, minimizacijo podatkov in notranjimi pravili. Brez tega osebnih podatkov ne vnašajte v AI orodja.
Kako naj podjetje določi pravila za AI?
Naj začne s seznamom dovoljenih orodij, vrst podatkov, dovoljenih nalog, prepovedanih uporab in primerov, kjer je obvezen človeški pregled.
Ali je AI dovolj zanesljiva za službeno uporabo?
Za osnutke, ideje, povzetke in pomoč pri delu je lahko uporabna. Ni pa dovolj zanesljiva za nepreverjene odločitve, posebej pri občutljivih ali visokotveganih primerih.
Kaj storiti, če AI naredi napako?
Napako popravite, preverite, zakaj je nastala, in po potrebi prilagodite navodila, postopek ali pravila. Če je napaka vplivala na stranko, dokument ali odločitev, jo obravnavajte kot del rednega upravljanja kakovosti.
