Nova pravila za razvoj, testiranje i korišćenje AI sistema u Srbiji
Nacrt novog zakona o zaštiti podataka o ličnosti Republike Srbije prvi put izričito uvodi veštačku inteligenciju u domaći zakonski okvir zaštite podataka.
I prema postojećim pravilima, obrada podataka korišćenjem algoritama, modela i automatizovanih sistema mora da bude zakonita, poštena i transparentna, ograničena na određenu svrhu i praćena odgovarajućim merama zaštite. Novi Nacrt, međutim, ide korak dalje. On posebno uređuje korišćenje podataka radi razvoja i testiranja sistema veštačke inteligencije, obradu u visokorizičnim AI sistemima, neposrednu komunikaciju ljudi sa AI sistemima, sisteme za prepoznavanje emocija, sintetički sadržaj i donošenje odluka bez ljudskog učešća.
Veštačka inteligencija se ipak ne pojavljuje samo u odredbama koje je neposredno pominju. Na razvoj i korišćenje AI sistema primenjuje se praktično čitav sistem zaštite podataka: pravni osnovi obrade, ograničenje svrhe, minimizacija i tačnost podataka, transparentnost, profilisanje, prava lica na koja se podaci odnose, automatizovano odlučivanje, procena uticaja, bezbednost, odgovornost rukovalaca i obrađivača, međunarodni prenosi i posebna pravila za policiju i druge nadležne organe.
Zbog toga se položaj AI u Nacrtu ne može sagledati samo kroz čl. 52. i 53. Potrebno je analizirati kako se posebne AI odredbe uklapaju u ostatak zakona, koje obaveze stvaraju za organizacije i kakvu zaštitu pružaju licima čiji se podaci koriste.
Zašto je veštačka inteligencija uvedena u Nacrt
Potreba da se obrada podataka korišćenjem veštačke inteligencije posebno uredi izričito je prepoznata u dokumentima koji prate Nacrt.
U Polaznoj osnovi za izradu novog zakona navodi se da je postojeći pravni okvir potrebno dopuniti odredbama koje se odnose na informacione tehnologije, video-nadzor, biometrijske podatke i veštačku inteligenciju. Kao jedan od ciljeva novog zakona posebno se navodi uređivanje obrade podataka o ličnosti koja se vrši korišćenjem veštačke inteligencije.
U Obrazloženju Nacrta razvoj i upotreba AI sistema prepoznati su kao poseban izazov zbog mogućnosti automatizovanog prikupljanja i analize velikih količina podataka, praćenja ponašanja fizičkih lica i njihovog profilisanja.
Takav pristup je opravdan. AI sistemi mogu koristiti podatke o korisnicima za treniranje i unapređivanje modela, povezivati informacije iz različitih izvora, izvoditi nove zaključke o pojedincima, klasifikovati ih ili rangirati i neposredno ili posredno uticati na odluke o zapošljavanju, kreditima, osiguranju, obrazovanju, socijalnim pravima, zdravstvenoj zaštiti ili postupanju organa vlasti. Posebne AI odredbe zato predstavljaju pokušaj da se opšta pravila zaštite podataka prilagode tehnologijama koje obrađuju velike količine podataka, funkcionišu sa različitim stepenom automatizacije i uključuju složen lanac učesnika — od razvijalaca modela i pružalaca infrastrukture do organizacija koje sistem koriste u konkretnom poslovnom ili javnom procesu.
Kada se Zakon primenjuje na AI sisteme
Zakon se ne primenjuje na određenu tehnologiju samo zato što je označena kao sistem veštačke inteligencije. Ključno pitanje je da li se njenim razvojem ili korišćenjem obrađuju podaci o ličnosti. Nacrt se primenjuje na obradu koja se u celini ili delimično vrši automatizovano, kao i na neautomatizovanu obradu podataka koji čine deo zbirke podataka ili su namenjeni takvoj zbirci. Njegovo teritorijalno dejstvo može obuhvatiti i određene rukovaoce i obrađivače koji nemaju sedište u Srbiji, ali obrađuju podatke u vezi sa aktivnostima na teritoriji Republike Srbije.
Podatak o ličnosti obuhvata svaki podatak koji se odnosi na određeno ili odredivo fizičko lice. U AI okruženju to nisu samo ime, adresa, broj telefona ili identifikacioni broj. Podaci o ličnosti mogu biti i korisnički nalozi, elektronski identifikatori, istorija korišćenja sistema, sadržaj komunikacije sa chatbotom, glasovni i video zapisi, podaci o lokaciji, tehnički logovi povezani sa korisnikom, procene koje sistem formira i zaključci o interesovanjima, ponašanju ili pouzdanosti.
Podatak može zadržati karakter podatka o ličnosti i kada ne sadrži ime osobe, ukoliko je lice moguće odrediti posredno, povezivanjem sa drugim raspoloživim informacijama.
Ovo je posebno značajno kod skupova podataka koji se koriste za treniranje i testiranje modela. Uklanjanje neposrednih identifikatora ne znači automatski da su podaci anonimni. Kombinacija starosti, lokacije, zanimanja, navika, zdravstvenih okolnosti ili drugih atributa može omogućiti ponovno prepoznavanje pojedinca.
Profilisanje kao centralna AI aktivnost
Nacrt definiše profilisanje kao obradu podataka kojom se procenjuju određena svojstva fizičkog lica, naročito radi analize ili predviđanja njegovog radnog učinka, ekonomskog položaja, zdravstvenog stanja, ličnih sklonosti, interesovanja, pouzdanosti, ponašanja, lokacije ili kretanja.
Mnogi AI sistemi upravo obavljaju ovakve funkcije, čak i kada se u njihovom nazivu ne koristi izraz „profilisanje".
Sistem koji rangira kandidate za posao, procenjuje kreditni rizik, predviđa verovatnoću prevare, određuje prioritet korisničkih zahteva, personalizuje ponudu ili procenjuje zdravstveni rizik može vršiti profilisanje u smislu Zakona.
Pravna kvalifikacija ne zavisi od toga kako je dobavljač nazvao proizvod, već od toga šta sistem stvarno radi sa podacima i kako se njegovi rezultati koriste.
Profilisanje ne mora uvek neposredno dovesti do odluke. Sistem može generisati ocenu, rang-listu ili preporuku koju potom koristi fizičko lice. Ipak, ako se rezultat odnosi na određenu osobu i utiče na način na koji se ona tretira, primenjuju se pravila zaštite podataka, transparentnosti, tačnosti i, u odgovarajućim slučajevima, automatizovanog odlučivanja.
Nedostatak (upućivanja na) definicije
Nacrt u posebnim odredbama koristi više pojmova karakterističnih za regulisanje veštačke inteligencije: sistem veštačke inteligencije; model veštačke inteligencije opšte namene; visokorizični AI sistem; sistem sa minimalnim rizikom; sistem za prepoznavanje emocija; sintetički sadržaj.
Ovi pojmovi, međutim, nisu definisani u članu 4, koji sadrži opšte definicije Zakona, niti je precizno određeno iz kog drugog propisa se njihovo značenje preuzima. Istina, Zakon o veštačkoj inteligenciji je u izradi, stoga ni ne možemo očekivati preteranu preciznost.
Ali, obaveze iz člana 53. zavise upravo od toga da li se određeni sistem smatra visokorizičnim, da li pripada kategoriji minimalnog rizika i da li je reč o sistemu koji neposredno komunicira sa fizičkim licem. Bez jasnih kriterijuma organizaciji može biti teško da pouzdano utvrdi koje obaveze ima, dok licu na koje se podaci odnose može biti teško da utvrdi na koje mere zaštite ima pravo. Potrebno je ispratiti ovakve detalje u daljem procesu.
Posebno zabrinjava kategorija „sistema sa minimalnim rizikom". Nacrt ne propisuje kriterijume na osnovu kojih se rizik smatra minimalnim, ko vrši tu procenu i da li se kvalifikacija odnosi na samu tehnologiju ili na konkretnu namenu sistema.
Isti model može se koristiti za interno sortiranje dokumenata, ali i za procenu kandidata za posao ili obradu zdravstvenih podataka. Rizik zato ne zavisi samo od tehničkih karakteristika sistema, već i od svrhe, konteksta, podataka koje koristi, lica na koja se odnosi i posledica koje njegovo korišćenje može proizvesti.
Ako od kvalifikacije sistema zavise obaveza procene uticaja, mišljenje Poverenika i druge mere zaštite, te kategorije moraju biti unapred odredive. Njihovo značenje ne bi smelo da zavisi od naknadnog i potencijalno različitog tumačenja svakog rukovaoca.
Radi pravne sigurnosti bilo bi potrebno definisati ove pojmove u samom Zakonu ili nedvosmisleno uputiti na poseban propis u kojem su definisani.
Osnovna načela zaštite podataka primenjuju se i na AI
Bez obzira na posebne odredbe o veštačkoj inteligenciji, svaki AI sistem kojim se obrađuju podaci o ličnosti mora poštovati opšta načela Zakona.
Podaci se moraju obrađivati zakonito, pošteno i transparentno. Moraju se prikupljati u određene, izričite i opravdane svrhe, a njihova dalja obrada ne sme biti nesaglasna sa tim svrhama. Podaci moraju biti primereni, bitni i ograničeni na ono što je neophodno, tačni i ažurni, čuvani samo onoliko dugo koliko je potrebno i zaštićeni odgovarajućim merama bezbednosti. Rukovalac je odgovoran za poštovanje ovih načela i mora biti sposoban da to dokaže.
Za AI sisteme ova načela imaju veoma konkretne posledice.
Načelo minimizacije znači da organizacija ne bi smela da koristi sve dostupne podatke samo zato što bi veća količina podataka potencijalno mogla poboljšati model. Potrebno je odrediti koje su kategorije podataka zaista potrebne za konkretnu svrhu razvoja ili primene.
Načelo tačnosti posebno je važno kod sistema koji klasifikuju, rangiraju ili procenjuju pojedince. Netačan ulazni podatak može dovesti do pogrešne procene konkretnog lica, ali i uticati na obrasce koje sistem primenjuje prema drugim licima.
Načelo ograničenja svrhe zahteva da organizacija jasno odredi zašto podatke koristi. Podaci prikupljeni radi pružanja jedne usluge ne mogu se automatski koristiti za razvoj potpuno drugačijeg AI proizvoda.
Načelo transparentnosti zahteva da lice dobije razumljive informacije o obradi, a ne samo opštu napomenu da organizacija koristi AI.
Načelo odgovornosti znači da organizacija mora dokumentovati svoje odluke, procene i mere. Nije dovoljno tvrditi da je sistem bezbedan, pouzdan ili usklađen. Potrebno je pokazati na osnovu čega je takav zaključak donet.
Pravni osnov za obradu podataka korišćenjem AI
Veštačka inteligencija sama po sebi nije pravni osnov za obradu podataka.
Organizacija koja razvija ili koristi AI sistem mora utvrditi jedan od pravnih osnova predviđenih Zakonom. To mogu biti pristanak, izvršenje ugovora, ispunjenje zakonske obaveze, zaštita životno važnih interesa, obavljanje poslova u javnom interesu ili legitimni interes rukovaoca ili trećeg lica.
Pravni osnov mora se utvrđivati za konkretnu svrhu obrade.
Pravni osnov koji omogućava pružanje osnovne usluge korisniku ne mora automatski obuhvatiti korišćenje njegovih podataka za treniranje novog modela. Saglasnost za personalizaciju sadržaja ne mora obuhvatiti profilisanje radi procene pouzdanosti. Zakonsko ovlašćenje organa vlasti da vodi određenu evidenciju ne znači nužno da organ može podatke iz te evidencije koristiti za razvoj AI sistema.
Kada se organizacija oslanja na legitimni interes, mora utvrditi koji konkretan interes želi da ostvari, da li je obrada neophodna za njegovo ostvarivanje i da li nad tim interesom pretežu prava i slobode lica.
Pri tome su posebno značajna razumna očekivanja lica, priroda odnosa sa rukovaocem, vrste podataka, obim obrade i moguće posledice. Kod obrade podataka maloletnika njihov položaj i interesi imaju povećanu težinu.
Dalja obrada podataka za novu AI svrhu
Razvoj AI sistema često se zasniva na podacima koji nisu prvobitno prikupljeni radi razvoja modela.
Kompanija može, na primer, želeti da koristi prethodne razgovore korisnika sa podrškom za treniranje asistenta, podatke o zaposlenima za razvoj sistema procene produktivnosti ili podatke pacijenata za razvoj modela koji predviđa zdravstvene rizike.
U takvoj situaciji mora se ispitati da li je nova svrha usklađena sa prvobitnom svrhom prikupljanja.
Nacrt predviđa da se pri ovoj proceni razmatraju veza između prvobitne i nove svrhe, okolnosti u kojima su podaci prikupljeni, odnos između rukovaoca i lica, priroda podataka, moguće posledice dalje obrade i postojanje zaštitnih mera, poput pseudonimizacije i kriptozaštite.
U AI kontekstu posebno je važno pitanje razumnih očekivanja.
Lice može razumno očekivati da se njegovi upiti koriste radi rešavanja konkretnog problema ili tehničkog unapređivanja iste usluge. To ne znači nužno da očekuje da se sadržaj komunikacije koristi za razvoj potpuno novog komercijalnog proizvoda, prosleđuje drugom dobavljaču ili kombinuje sa dodatnim izvorima radi profilisanja.
Saglasnost nove i prvobitne svrhe zato se ne može pretpostaviti samo zbog toga što obe aktivnosti uključuju podatke ili digitalnu tehnologiju.
Razvoj, testiranje i primena AI sistema prema članu 52.
Centralna odredba o korišćenju podataka za razvoj veštačke inteligencije nalazi se u članu 52. Nacrta.
Prema toj odredbi, obrada podataka o ličnosti u svrhu primene, uključujući razvoj i testiranje sistema veštačke inteligencije i modela veštačke inteligencije opšte namene, može se vršiti ako je u skladu sa prvobitnom svrhom za koju su podaci prikupljeni.
Izuzetno, obrada se može vršiti na osnovu legitimnog interesa rukovaoca ili trećeg lica koji preteže nad pravima i slobodama lica čiji se podaci obrađuju.
Ova odredba pokušava da odgovori na jedno od centralnih pitanja savremenog razvoja AI: pod kojim uslovima organizacija može koristiti postojeće podatke za razvoj, proveru ili unapređivanje sistema.
Član 52. ne bi trebalo razumeti kao opštu dozvolu da se svi prethodno prikupljeni podaci koriste za treniranje ili testiranje AI modela. Saglasnost nove i prvobitne svrhe mora se stvarno proceniti, dok oslanjanje na legitimni interes zahteva utvrđivanje konkretnog interesa, neophodnosti obrade i ravnoteže između tog interesa i prava lica.
Formulacija odredbe ipak nije dovoljno jasna u odnosu na opšta pravila Zakona. Nije izričito navedeno da član 52. ne zamenjuje opšte pravne osnove i da se i dalje primenjuju pravila o promeni svrhe, transparentnosti, posebno osetljivim podacima i drugim uslovima zakonite obrade.
Zbog toga postoji rizik da se član 52. u praksi tumači kao poseban i širok pravni osnov za AI razvoj. Takvo tumačenje bilo bi problematično, jer sama činjenica da organizacija razvija, testira ili primenjuje AI sistem ne može automatski opravdati ponovno korišćenje podataka prikupljenih u drugu svrhu.
Odredba bi bila pravno sigurnija kada bi izričito propisala da se primenjuje bez uticaja na ostale uslove zakonitosti obrade.
Obavezne mere zaštite tokom razvoja i testiranja
Rukovalac koji obrađuje podatke radi razvoja i testiranja AI sistema mora primeniti odgovarajuće tehničke, organizacione i kadrovske mere.
Nacrt posebno ističe minimizaciju podataka, pseudonimizaciju i anonimizaciju.
Minimizacija podataka podrazumeva da se koriste samo podaci potrebni za konkretan razvojni ili testni cilj. U praksi to može zahtevati uklanjanje atributa koji nisu potrebni, ograničavanje vremenskog perioda obuhvaćenog skupom, korišćenje odgovarajućeg uzorka umesto čitave baze ili ograničavanje pristupa podacima.
Pseudonimizacija podrazumeva odvajanje neposrednih identifikatora od drugih podataka i posebno čuvanje informacija koje omogućavaju ponovno povezivanje sa identitetom.
Anonimizacija zahteva da lice više ne bude određeno niti odredivo primenom razumnih sredstava.
U AI okruženju nije dovoljno samo ukloniti ime i prezime. Ponovna identifikacija može biti moguća na osnovu kombinacije lokacije, ponašanja, zaposlenja, starosti, sadržaja komunikacije ili drugih podataka. Više o tome kako proceniti da li su podaci zaista anonimni možete pročitati u EDPB smernicama o anonimizaciji.
Iako su ove mere važne, one ne mogu same po sebi nadomestiti prava lica. Minimizacija, pseudonimizacija i anonimizacija treba da smanje rizik obrade, ali ne predstavljaju automatsko opravdanje za široko ograničavanje individualnih prava koje sledi u nastavku člana 52.
Najspornije rešenje: široko ograničavanje prava prema članu 52.
Član 52. uspostavlja poseban režim ostvarivanja prava lica čiji se podaci koriste za primenu, razvoj i testiranje sistema veštačke inteligencije i modela veštačke inteligencije opšte namene.
Pravo na pristup i pravo na prigovor načelno ostaju dostupni, ali se mogu ograničiti ako bi njihovo ostvarivanje značajno otežalo postizanje svrhe obrade ili ako rukovalac nije u mogućnosti da identifikuje lice.
Istovremeno, Nacrt određuje da se na ovu obradu ne primenjuju prava na ispravku i dopunu podataka, ograničenje obrade, zaštitu u vezi sa automatizovanim donošenjem pojedinačnih odluka, brisanje i prenosivost podataka.
Ovo predstavlja najproblematičniji deo posebnog AI režima u Nacrtu. Široko ograničenje prava uvodi se upravo u oblasti u kojoj lice najčešće nema dovoljno informacija ni stvarnu kontrolu nad načinom na koji se njegovi podaci koriste.
Lice može da ne zna da su njegovi podaci uključeni u skup za razvoj ili testiranje, kojim su dobavljačima dostupni, koliko dugo se koriste i kakav uticaj mogu imati na ponašanje budućeg sistema. Uprkos tome, Nacrt mu unapred uskraćuje više osnovnih mehanizama kojima bi moglo da utiče na dalju obradu.
Ograničenje prava na pristup i prigovor
Pravo na pristup i pravo na prigovor nisu potpuno isključeni, ali kriterijumi za njihovo ograničavanje nisu dovoljno određeni.
Nije jasno šta predstavlja „značajno otežavanje" svrhe, ko to procenjuje, da li rukovalac mora da dokumentuje svoju procenu i da li se pravo može ograničiti samo delimično, umesto da se zahtev u celini odbije.
Posebno je važno razlikovati stvarnu nemogućnost identifikacije od situacije u kojoj rukovalac nije uspostavio sistem koji omogućava pronalaženje i izdvajanje relevantnih podataka.
Organizacija ne bi trebalo da se oslobodi obaveze postupanja po zahtevu samo zato što je svoju obradu projektovala na način koji ostvarivanje prava čini teškim. Suprotno tumačenje moglo bi podstaći upravo onu arhitekturu sistema koja nije prilagođena zaštiti podataka i pravima lica.
Isključenje prava na ispravku ugrožava i lice i kvalitet sistema
Posebno je teško opravdati potpuno isključenje prava na ispravku i dopunu podataka.
Načelo tačnosti zahteva da podaci budu tačni i, kada je to potrebno, ažurirani. Lice prema opštem režimu ima pravo da zahteva ispravku netačnih podataka koji se na njega odnose. Međutim, član 52. mu to pravo uskraćuje kada se podaci koriste za razvoj, testiranje ili primenu AI sistema.
Time nastaje napetost unutar samog Nacrta: rukovalac je dužan da obezbedi tačnost podataka, ali lice čiji su podaci netačni gubi jedno od najvažnijih sredstava da na netačnost ukaže i zahteva njeno otklanjanje.
Kod AI sistema posledice netačnih podataka mogu biti šire nego kod obične evidencije. Netačan podatak ne mora uticati samo na konkretnu osobu. Može uticati na obrasce koje sistem prepoznaje, na način na koji se model razvija i na buduće procene drugih lica.
Pravo na ispravku u AI kontekstu zato ne štiti samo individualni interes. Ono može doprineti i tačnosti, pouzdanosti i pravičnosti samog sistema.
Ako potpuno ostvarivanje prava u pojedinom slučaju zaista nije moguće, primerenije rešenje bilo bi omogućiti rukovaocu da ga ograniči uz dokumentovano obrazloženje i odgovarajuće mere zaštite, umesto da se pravo unapred ukine za sve obrade obuhvaćene članom 52.
Isključenje prava na brisanje ostavlja rukovaocu široku kontrolu nad trajanjem obrade
Član 52. propisuje da se podaci brišu nakon što se ispuni svrha njihove obrade korišćenjem AI sistema. Istovremeno, lice tokom trajanja te svrhe nema pravo da zahteva njihovo brisanje.
Na prvi pogled, obaveza brisanja nakon ispunjenja svrhe predstavlja važnu zaštitnu meru. Međutim, njena stvarna vrednost zavisi od toga, ko određuje svrhu, koliko ona traje i kada se smatra ispunjenom.
U praksi upravo rukovalac određuje razvojni ili testni cilj, obim podataka koji su mu potrebni i trenutak u kojem smatra da je svrha ostvarena. Ako lice nema pravo da zahteva brisanje, nema ni neposredno sredstvo da ospori zaključak rukovaoca da su njegovi podaci i dalje potrebni.
Razvoj i unapređivanje AI sistema mogu se predstaviti kao kontinuirani procesi bez jasno određenog završetka. Svrha kao što je „unapređivanje kvaliteta sistema" može praktično trajati sve dok se sistem koristi.
Nacrt ne zahteva da takva svrha bude vremenski ograničena, da rukovalac periodično preispituje njeno trajanje niti da posebno obrazloži zbog čega su isti podaci i dalje potrebni.
Dodatno, nije razrađeno kako se brisanje sprovodi kada se podaci nalaze u kopijama, skupovima za validaciju i testiranje, tehničkim logovima ili drugim izvedenim oblicima.
Bez prava lica da zahteva brisanje i bez jasnijih obaveza rukovaoca da ograniči i periodično preispituje trajanje svrhe, odluka o tome koliko dugo će se podaci koristiti ostaje gotovo u potpunosti na strani organizacije koja razvija ili koristi sistem.
Isključenje prava na ograničenje obrade uklanja blažu alternativu brisanju
Pravo na ograničenje obrade ima posebnu funkciju kada zakonitost, tačnost ili dalja potreba za podacima još nisu konačno utvrđene. Ono omogućava da se podaci privremeno sačuvaju, ali da se njihova aktivna upotreba obustavi dok se ne razjasni spor. To je naročito značajno kada lice osporava tačnost podataka ili zakonitost njihove upotrebe, ali trenutno brisanje nije moguće ili nije primereno.
Član 52., međutim, isključuje i ovo pravo.
Time se uklanja upravo ona mera koja bi mogla predstavljati uravnoteženo rešenje između interesa organizacije da sačuva podatke i interesa lica da spreči njihovu dalju upotrebu dok traje provera.
Ako lice tvrdi da su njegovi podaci netačni, nezakonito prikupljeni ili korišćeni u nesaglasnu svrhu, prema posebnom AI režimu nema pravo ni da zahteva njihovu ispravku, ni brisanje, ni privremeno ograničenje obrade.
Posebno je sporno isključenje zaštite od automatizovanih odluka
Član 52. isključuje i primenu prava u vezi sa automatizovanim donošenjem pojedinačnih odluka, uključujući zaštitu koju Nacrt inače obezbeđuje članom 62.
Prema opštem režimu, lice ima pravo da se na njega ne primenjuje odluka doneta isključivo automatizovanom obradom, uključujući profilisanje, ako takva odluka proizvodi pravne posledice ili na sličan način značajno utiče na njegov položaj.
U propisanim izuzecima rukovalac mora obezbediti najmanje ljudsko učešće, mogućnost lica da izrazi svoj stav i mogućnost osporavanja odluke.
Nije jasno zbog čega bi ove zaštitne mere trebalo potpuno isključiti samo zato što se podaci obrađuju u okviru razvoja, testiranja ili primene AI sistema.
Ako se podaci koriste isključivo u zatvorenom razvojnom okruženju i ne donosi se odluka o konkretnom licu, pravo iz člana 62. se ionako ne bi aktiviralo. Ako se, međutim, u fazi testiranja ili primene donosi odluka koja proizvodi pravne ili slične značajne posledice, potpuno isključenje zaštite postaje znatno teže opravdati.
Ova odredba dodatno komplikuje odnos čl. 52., 53. i 62. Rezultat je normativni okvir iz kojeg se ne može dovoljno jasno zaključiti kada lice ima pravo na ljudsku intervenciju, kada može da ospori odluku i kada su te zaštite potpuno isključene.
Kumulativni efekat ograničenja
Najveći problem člana 52. ne proizlazi samo iz isključenja jednog prava, već iz njihovog kombinovanog dejstva.
Posmatrana zajedno, ova ograničenja mogu lice istovremeno ostaviti bez mogućnosti da pristupi podacima, ospori njihovu tačnost, zaustavi dalju upotrebu, zahteva brisanje ili dobije ljudsku proveru odluke.
Istovremeno, rukovalac određuje svrhu obrade, bira podatke, kontroliše razvojni proces, procenjuje trajanje svrhe i primenjuje izuzetke od preostalih prava.
Takva raspodela ovlašćenja stvara izrazitu neravnotežu između organizacije i lica na koje se podaci odnose.
Posebno je problematično što Nacrt ne uspostavlja dodatni nezavisni mehanizam koji bi nadoknadio tako široko ograničavanje prava. Ne predviđa se obavezna prethodna odluka Poverenika, obavezno periodično preispitivanje ograničenja niti poseban postupak u kojem bi rukovalac morao da dokaže njegovu opravdanost.
Primerenije rešenje bilo bi da prava ostanu pravilo, a da se pojedino pravo može ograničiti samo ako rukovalac dokumentovano dokaže da bi njegovo ostvarivanje ozbiljno ugrozilo jasno određenu svrhu, da ne postoji blaža mera i da je ograničenje vremenski i sadržinski svedeno na najmanji potreban obim.
Takva odluka morala bi biti podložna nadzoru i periodičnom preispitivanju, uz dodatne mere zaštite interesa lica.
U sadašnjoj formulaciji član 52. polazi od pretpostavke da prava lica mogu predstavljati prepreku razvoju sistema, umesto da razvoj sistema mora biti organizovan tako da ta prava u najvećoj mogućoj meri ostanu ostvariva.
Posebni uslovi za korišćenje AI sistema prema članu 53.
Član 53. uređuje obradu podataka tokom korišćenja sistema veštačke inteligencije.
Nacrt razlikuje visokorizične AI sisteme, sisteme koji neposredno komuniciraju sa fizičkim licem, sisteme koji generišu sintetički audio ili video sadržaj, sisteme za prepoznavanje emocija, sisteme sa minimalnim rizikom i sisteme ili modele koji funkcionišu bez učešća fizičkog lica.
Ovakva struktura pokazuje nameru da se obaveze prilagode vrsti i riziku sistema. To je opravdan pristup, jer sistem koji interno sortira dokumente ne mora stvarati iste rizike kao sistem koji odlučuje o zapošljavanju, kreditu, socijalnom pravu ili policijskom postupanju.
Ipak, praktična primena ove podele zavisi od jasnog određivanja kategorija koje u Nacrtu trenutno nisu definisane.
Visokorizični AI sistemi i procena uticaja
Kod obrade podataka korišćenjem visokorizičnog AI sistema zahteva se procena uticaja obrade na zaštitu podataka o ličnosti.
Nacrt predviđa da ova procena može biti sastavni deo procene uticaja visokorizičnog AI sistema na osnovna prava i slobode koja će se sprovoditi u skladu sa posebnim zakonom. Na osnovu procene Poverenik daje mišljenje o obradi.
Povezivanje procene uticaja na zaštitu podataka sa širom procenom uticaja na osnovna prava može biti korisno. Rizici AI sistema često prevazilaze privatnost i mogu obuhvatiti diskriminaciju, dostojanstvo, pristup uslugama, pravičnost postupka i položaj zaposlenih ili drugih ranjivih grupa.
Međutim, Nacrt ne određuje detaljno odnos između dve procene.
Nije jasno kojim posebnim zakonom će šira procena biti uređena, ko će biti odgovoran za njenu izradu, koji elementi moraju biti obuhvaćeni, da li jedna procena može zameniti drugu i kako se dele obaveze kada različita lica razvijaju model i koriste ga u konkretnom sistemu.
Dodatna nejasnoća postoji u odnosu člana 53. sa opštim pravilima o prethodnom mišljenju Poverenika. Prema opštim odredbama, mišljenje Poverenika traži se kada procena pokaže da bi, uprkos primeni mera, preostali rizik i dalje bio visok.
Formulacija člana 53. može se razumeti i tako da Poverenik daje mišljenje o svakoj obradi u visokorizičnom AI sistemu.
Razlika između ova dva tumačenja je značajna. Jedno bi podrazumevalo obavezno uključivanje Poverenika u svaki visokorizični AI sistem, dok bi drugo zadržalo prethodno mišljenje samo za situacije u kojima rukovalac ne može dovoljno smanjiti rizik.
Ovaj odnos mora biti preciziran. Organizacije moraju unapred znati da li je mišljenje Poverenika redovan uslov za svaku visokorizičnu AI obradu ili dodatna mera samo kada preostali rizik ostane visok.
AI sistemi koji neposredno komuniciraju sa ljudima
Kada AI sistem neposredno komunicira sa fizičkim licem, lice mora biti obavešteno da je u interakciji sa takvim sistemom.
Obaveštenje mora biti jasno i pristupačno i pruženo najkasnije prilikom prve interakcije ili prvog izlaganja sadržaju. Pravilo se primenjuje i na modele veštačke inteligencije opšte namene.
Ova obaveza ima za cilj da spreči situaciju u kojoj lice veruje da komunicira sa čovekom, iako zapravo komunicira sa automatizovanim sistemom.
Obaveštenje da se koristi AI, međutim, nije dovoljno samo po sebi. Organizacija i dalje mora objasniti ko obrađuje podatke, u koju svrhu, na kom pravnom osnovu, koliko dugo se podaci čuvaju, da li se koriste za treniranje i kome se prosleđuju.
Nije dovoljno samo prikazati poruku da je odgovor generisala veštačka inteligencija ako korisnik nije obavešten šta se događa sa sadržajem njegovog razgovora.
Model opšte namene i konkretan AI sistem
Nacrt pojedine obaveze istovremeno vezuje za AI sisteme i modele veštačke inteligencije opšte namene.
U pravnoj analizi potrebno je, međutim, razlikovati model od konkretnog sistema ili aplikacije u kojoj se model koristi.
Model može predstavljati tehničku osnovu koja sama nema korisnički interfejs, ne određuje konkretnu svrhu obrade i ne komunicira neposredno sa fizičkim licem. Tek kada ga druga organizacija ugradi u određenu aplikaciju ili poslovni proces, nastaje konkretan sistem sa definisanom svrhom i posledicama.
Zbog toga nije jasno ko praktično treba da izvrši pojedine obaveze: razvijalac modela, pružalac platforme, organizacija koja ga integriše ili rukovalac koji određuje svrhu obrade.
Od podele odgovornosti zavisi ko može da promeni korisnički interfejs, označi sadržaj, omogući ljudsku intervenciju ili odgovori na zahtev lica.
Nacrt ne razjašnjava dovoljno kako se obaveze raspoređuju kada različita lica kontrolišu različite delove AI lanca.
Sistemi za prepoznavanje emocija
Nacrt zahteva da lice bude obavešteno kada je izloženo sistemu veštačke inteligencije za prepoznavanje emocija.
Takvi sistemi mogu pokušavati da zaključuju o emocionalnom ili mentalnom stanju na osnovu glasa, izraza lica, pokreta, načina komunikacije ili drugih znakova.
Obaveza informisanja je važna, ali ne znači da je svaka upotreba ovakvog sistema automatski dozvoljena.
Organizacija i dalje mora utvrditi pravni osnov, stvarnu neophodnost korišćenja sistema, posledice po lice, da li se obrađuju podaci o mentalnom ili zdravstvenom stanju, da li se rezultat koristi za profilisanje ili donošenje odluke i da li postoji manje invazivna alternativa.
Ako se, na primer, sistem koristi radi procene kandidata na razgovoru za posao, obaveštenje kandidata da se koristi AI ne rešava samo po sebi pitanje zakonitosti, tačnosti i opravdanosti takve procene.
Transparentnost je samo jedna od obaveza, a ne zamena za ostale uslove zakonite obrade.
Sistemi sa minimalnim rizikom
Za sisteme sa minimalnim rizikom Nacrt zahteva primenu odgovarajućih tehničkih, organizacionih i kadrovskih mera radi zaštite prava i sloboda lica.
Ova obaveza je opravdana, ali kategorija minimalnog rizika nije dodatno razrađena.
Oznaka „minimalni rizik" ne znači da se Zakon ne primenjuje. Ako sistem obrađuje podatke o ličnosti, rukovalac i dalje mora imati pravni osnov, poštovati načela obrade, informisati lica, obezbediti njihova prava i primeniti odgovarajuće mere bezbednosti.
Nivo rizika može uticati na intenzitet i vrstu mera, ali ne uklanja osnovne obaveze zaštite podataka.
Automatizovano odlučivanje bez ljudskog učešća
Član 53. propisuje da obrada podataka isključivo korišćenjem AI sistema, bez učešća fizičkog lica, nije dozvoljena ako može proizvesti štetne posledice po lice ili značajno uticati na njegov položaj.
Zabrana se odnosi i na modele veštačke inteligencije opšte namene.
Međutim, Nacrt već u članu 62. sadrži opšti režim automatizovanog donošenja pojedinačnih odluka.
Prema članu 62., lice ima pravo da se na njega ne primenjuje odluka doneta isključivo na osnovu automatizovane obrade, uključujući profilisanje, ako takva odluka proizvodi pravne posledice ili značajno utiče na njegov položaj.
Izuzeci postoje ako je odluka neophodna za zaključenje ili izvršenje ugovora, dozvoljena zakonom uz odgovarajuće zaštitne mere ili zasnovana na izričitom pristanku lica. Kod odluka zasnovanih na ugovoru ili pristanku rukovalac mora najmanje omogućiti učešće fizičkog lica, izražavanje stava i osporavanje odluke pred ovlašćenim licem rukovaoca.
Odnos člana 53. i 62. nije dovoljno jasan.
Član 62. određene automatizovane odluke dopušta pod propisanim uslovima. Član 53., međutim, zabranu AI obrade bez ljudskog učešća formuliše šire, a kao izuzetak navodi samo statističke, naučne i istorijske svrhe.
Dodatnu složenost stvara činjenica da član 52., za obradu koju uređuje, isključuje primenu prava u vezi sa automatizovanim donošenjem pojedinačnih odluka. Zbog toga se odnos čl. 52., 53. i 62. mora posmatrati kao celina.
Iz Nacrta se ne može dovoljno jasno zaključiti da li je odluka koja je dozvoljena prema članu 62. ipak zabranjena ako je doneta korišćenjem AI sistema, odnosno da li član 53. predstavlja stroži poseban režim ili je reč o unutrašnjoj neusaglašenosti odredaba.
Ovo je ozbiljan normativni problem. Od odgovora zavisi da li su određene potpuno automatizovane odluke u ugovornim odnosima, finansijama, osiguranju ili drugim oblastima dozvoljene ili zabranjene.
Nije svaki AI rezultat automatizovana odluka
Važno je razlikovati automatizovanu obradu, profilisanje, automatizovanu preporuku i odluku donetu isključivo automatizovano.
AI sistem može obraditi podatke i proizvesti preporuku, a da sam ne donese konačnu odluku. Pravila o isključivo automatizovanim odlukama primenjuju se kada odluka nema stvarno i delotvorno ljudsko učešće i kada proizvodi pravne ili slične značajne posledice.
Međutim, samo formalno prisustvo čoveka ne mora biti dovoljno da bi se odluka smatrala ljudskom.
Ako zaposleni rutinski potvrđuje preporuku sistema, nema dovoljno informacija da razume rezultat ili nema ovlašćenje da ga promeni, njegovo učešće može biti samo formalno.
Delotvorno ljudsko učešće trebalo bi da podrazumeva da ovlašćeno lice razume svrhu i ograničenja sistema, ima pristup relevantnim podacima, može prepoznati grešku ili neuobičajen rezultat i ima stvarno ovlašćenje da rezultat sistema promeni ili odbije.
Naučne, istorijske i statističke svrhe
Član 53. dozvoljava obradu podataka isključivo korišćenjem AI sistema, bez ljudskog učešća, kada se obrada vrši u statističke, naučne ili istorijske svrhe.
U AI praksi biće važno razlikovati stvarnu naučnu ili statističku svrhu od redovnog komercijalnog razvoja proizvoda.
Sama činjenica da se u razvoju modela koriste statističke metode ne znači da je svrha obrade statistička. Isto tako, označavanje internog razvoja kao „istraživanja" ne bi trebalo automatski da omogući primenu šireg izuzetka.
Odlučujuća mora biti stvarna svrha obrade, način korišćenja rezultata i postojanje odgovarajućih metodoloških i zaštitnih mera. U suprotnom, široko tumačenje izuzetka moglo bi omogućiti da se komercijalne aktivnosti predstavljaju kao istraživanje radi izbegavanja strožih pravila.
Transparentnost AI obrade
Pored posebne obaveze da se lice obavesti kada komunicira sa AI sistemom, primenjuju se i opšta pravila transparentnosti.
Kada postoji automatizovano donošenje odluka, uključujući profilisanje, lice mora biti obavešteno o postojanju takve obrade, načinu njenog sprovođenja, njenom značaju i očekivanim posledicama.
Kada podaci nisu dobijeni neposredno od lica, mora se pružiti i informacija o njihovom izvoru i o tome da li potiču iz javno dostupnih izvora.
Organizacija zato ne može obavezu transparentnosti svesti na navođenje da koristi algoritam ili AI tehnologiju.
Lice treba da može da razume u koju svrhu se sistem koristi, koje vrste podataka uzima u obzir, odakle podaci potiču, da li se vrši profilisanje, kakvu ulogu rezultat sistema ima u odlučivanju, kakve posledice mogu nastati, da li odluku proverava čovek i kako lice može ostvariti svoja prava.
Opšti tehnički opis sistema ili upućivanje na obimnu dokumentaciju bez jasnog objašnjenja ne bi trebalo smatrati dovoljnim.
Pravo na pristup i informacije o logici odluke
U okviru prava na pristup lice ima pravo da dobije svrsishodne informacije o logici automatizovane obrade, kao i o značaju i očekivanim posledicama takve obrade.
Ovo ne mora značiti da rukovalac mora dostaviti izvorni kod, kompletne parametre modela ili poslovnu tajnu.
Ipak, objašnjenje mora biti dovoljno konkretno da lice razume glavne razloge zbog kojih je sistem proizveo određeni rezultat.
Na primer, lice bi trebalo da može da sazna da je na procenu kreditnog rizika uticala istorija kašnjenja u plaćanju, odnos prihoda i obaveza ili drugi relevantni faktori. Nije dovoljno navesti da je odluka rezultat složenog matematičkog modela.
Pravo na informacije ne bi smelo da ostane formalno ispunjeno objašnjenjem koje je tehnički tačno, ali licu praktično ne omogućava da razume ili ospori odluku.
Sintetički i modifikovani sadržaj
Rukovalac ili obrađivač koji obrađuje podatke u AI sistemu ili modelu opšte namene koji generiše sintetički audio ili video sadržaj dužan je da označi da je sadržaj generisan ili modifikovan.
Ova obaveza ima značaj za zaštitu identiteta, sprečavanje obmane i prepoznavanje sadržaja koji može lažno prikazati izgled, glas ili ponašanje stvarne osobe.
Nacrt, međutim, izričito pominje samo audio i video sadržaj. Nije jasno zašto sintetičke slike, tekst i drugi oblici sadržaja nisu izričito obuhvaćeni, iako i oni mogu sadržati, imitirati ili pogrešno predstaviti podatke o ličnosti.
Takođe nije određeno na koji način se sadržaj označava. Bez minimalnih zahteva moguće je da oznaka formalno postoji, ali da je korisnik praktično ne uočava ili ne razume.
Dodatno pitanje odnosi se na raspodelu odgovornosti. Dobavljač modela može omogućiti generisanje sadržaja, druga organizacija kontrolisati korisnički interfejs, a krajnji korisnik doneti odluku o objavljivanju.
Nacrt ne razjašnjava dovoljno ko treba da postupi kada lice koje ima formalnu odgovornost za obradu nema tehničku kontrolu nad načinom označavanja sadržaja.
Posebno osetljivi podaci
Član 32. načelno zabranjuje obradu podataka kojima se otkrivaju rasno ili etničko poreklo, političko mišljenje, versko ili filozofsko uverenje, članstvo u sindikatu, genetski podaci, biometrijski podaci radi jedinstvene identifikacije, podaci o zdravlju, seksualnom životu ili seksualnoj orijentaciji, osim u posebno propisanim slučajevima.
Ova pravila primenjuju se i kada se takvi podaci koriste za treniranje ili testiranje modela.
Osetljivi podaci ne moraju biti neposredno uneti u sistem. AI može pokušati da ih izvede zaključivanjem iz drugih informacija.
Sistem može, na primer, zaključivati o zdravstvenom stanju iz ponašanja ili kretanja, političkim stavovima iz sadržaja koji lice prati ili emocionalnom i mentalnom stanju iz glasa i načina komunikacije.
Činjenica da zaključak može biti netačan ne znači da nema pravni značaj. U zavisnosti od sadržine, svrhe i načina upotrebe, takva informacija može predstavljati podatak o ličnosti, a moguće i posebno osetljiv podatak.
AI u radu i zapošljavanju
Nacrt ne sadrži poseban član posvećen AI sistemima za zapošljavanje, ali odredbe o obradi podataka u oblasti rada imaju neposredan značaj za njihovu upotrebu.
Ove odredbe mogu biti relevantne za sisteme koji rangiraju kandidate, procenjuju radni učinak ili utiču na odluke o napredovanju i prestanku radnog odnosa.
Kada sistem donosi ili suštinski određuje odluku koja pravno ili značajno utiče na kandidata ili zaposlenog, primenjuju se pravila o automatizovanom odlučivanju i ljudskom učešću.
Nacrt posebno ograničava korišćenje video-nadzora radi praćenja rada zaposlenih. Pre njegovog uvođenja moraju se razmotriti manje invazivne mere, dokumentovati razlozi i obavestiti zaposleni i odgovarajući predstavnici zaposlenih.
Poslodavac zato ne može zaobići pravila o nadzoru samo zato što se obrada predstavlja kao AI analitika, optimizacija procesa ili automatizovana procena učinka.
Istovremeno, Nacrt ne uvodi poseban režim za algoritamsko upravljanje zaposlenima, iako takvi sistemi mogu značajno uticati na njihov položaj i bez video-nadzora. Zaštita će zato u velikoj meri zavisiti od pravilne primene opštih pravila o profilisanju, transparentnosti, proceni uticaja i automatizovanim odlukama.
Video-nadzor, biometrija i AI analiza snimaka
AI sistemi koji analiziraju video-snimke istovremeno podležu pravilima o veštačkoj inteligenciji, video-nadzoru i biometrijskim podacima.
Nije dovoljno da postoji pravni osnov za postavljanje kamere. Ako se snimci dodatno koriste za prepoznavanje lica, ponašanja, emocija, kretanja ili drugih osobina, potrebno je posebno utvrditi svrhu AI analize, pravni osnov, kategorije podataka, period čuvanja, rizike po lica, potrebu za procenom uticaja i način informisanja.
AI analiza može značajno promeniti prirodu video-nadzora. Kamera koja samo beleži događaj nije isto što i sistem koji automatski identifikuje, prati ili klasifikuje lica koja se pojavljuju u njenom vidnom polju.
Zabrana daljinske, masovne i neselektivne biometrijske identifikacije
U delu Nacrta koji uređuje obradu koju nadležni organi vrše u posebne svrhe propisana je zabrana daljinske, masovne i neselektivne biometrijske identifikacije lica korišćenjem sistema video-nadzora.
Uvođenje takve zabrane predstavlja značajnu zaštitnu meru, naročito u kontekstu nadzora javnih prostora.
Ipak, formulacija otvara pitanje da li zabrana postoji samo kada su sva tri uslova istovremeno ispunjena: da je identifikacija daljinska, masovna i neselektivna.
Ako se veznik „i" tumači kumulativno, daljinska i masovna obrada koja se formalno smatra selektivnom mogla bi ostati izvan zabrane.
Pored toga, Nacrt ne definiše daljinsku, masovnu i neselektivnu identifikaciju, niti razlikuje identifikaciju u realnom vremenu od naknadne identifikacije.
Bez preciznijeg određenja, odredba koja na prvi pogled deluje kao snažna zabrana može u praksi imati znatno uži domet.
Ugrađena zaštita podataka
Član 67. zahteva da rukovalac, prilikom određivanja načina obrade i tokom same obrade, primenjuje odgovarajuće tehničke, organizacione i kadrovske mere.
Mere se određuju uzimajući u obzir prirodu, obim, okolnosti i svrhu obrade, nivo tehnoloških dostignuća, troškove i rizike po prava i slobode fizičkih lica. Posebno se ističu minimizacija, pseudonimizacija i obezbeđivanje da se podrazumevano obrađuju samo neophodni podaci. Mere se moraju preispitivati i ažurirati.
Za AI sisteme to znači da zaštita podataka ne može biti dodatak koji se razmatra tek nakon razvoja proizvoda.
Ona mora biti ugrađena u izbor i poreklo podataka, način njihovog prikupljanja, razvojnu arhitekturu, kontrolu pristupa, treniranje i testiranje, period čuvanja, korisnički interfejs, ljudsku proveru rezultata, ostvarivanje prava, praćenje rada sistema i upravljanje promenama.
Rukovalac, obrađivač i spoljni AI dobavljači
Organizacija koja koristi eksterni AI servis ne oslobađa se odgovornosti zato što nije sama razvila model.
Kada dobavljač obrađuje podatke isključivo prema uputstvima organizacije, može imati položaj obrađivača. Ako samostalno odredi novu svrhu ili bitne načine obrade, smatra se rukovaocem za takvu obradu.
Ovo je posebno relevantno kada AI dobavljač zadržava pravo da podatke korisnika koristi za treniranje sopstvenih modela, unapređivanje usluge ili druge sopstvene svrhe.
Uloge se ne određuju samo prema nazivu ugovora, već prema stvarnoj kontroli nad svrhom i načinom obrade.
Posebne AI odredbe Nacrta ne razrađuju dovoljno ovu raspodelu odgovornosti. To može predstavljati praktičan problem upravo kod složenih lanaca u kojima nijedan učesnik sam ne kontroliše model, podatke, interfejs i konačnu primenu sistema.
Evidencije, bezbednost i međunarodni prenosi
Opšte obaveze vođenja evidencija o radnjama obrade primenjuju se i na AI obradu.
Izuzetak za manje organizacije ne primenjuje se kada je obrada visokorizična, nije povremena ili obuhvata posebno osetljive podatke ili podatke o kažnjivim delima.
Nacrt ne uvodi poseban AI registar. Ipak, postojeće evidencije trebalo bi da omoguće identifikovanje svrhe AI obrade, relevantnih kategorija podataka, uključenih dobavljača, postojanja profilisanja ili automatizovanog odlučivanja i eventualnih međunarodnih prenosa.
Na AI sisteme primenjuju se i opšte obaveze bezbednosti, uključujući kontrolu pristupa, pseudonimizaciju, kriptozaštitu, reagovanje na incidente, rezervne kopije i kontinuitet obrade.
Korišćenje stranih AI servisa može uključivati međunarodni prenos podataka, uključujući situacije u kojima se podaci obrađuju na infrastrukturi u drugoj državi ili su dostupni podobrađivačima iz drugih država.
Svaki takav prenos moguć je samo uz ispunjenje zakonskih uslova.
Procena uticaja na zaštitu podataka
Procena uticaja obavezna je kada nova tehnologija, uzimajući u obzir prirodu, obim, okolnosti i svrhu obrade, verovatno proizvodi visok rizik po prava i slobode fizičkih lica.
Nacrt je posebno zahteva kod sistematske i sveobuhvatne automatizovane procene osobina fizičkog lica, uključujući profilisanje, kada se na osnovu nje donose odluke koje utiču na pravni položaj ili na sličan način značajno utiču na lice.
Procena je obavezna i kod obrade posebno osetljivih podataka ili podataka o kažnjivim delima u velikom obimu, kao i kod sistematskog nadzora javnog prostora u velikom obimu.
Procena mora sadržati opis obrade i svrhe, procenu neophodnosti i srazmernosti, identifikaciju i procenu rizika, mere za upravljanje rizikom, mehanizme zaštite prava i način dokazivanja usklađenosti.
Za AI sistem procena ne bi trebalo da se ograniči samo na tehničku zaštitu podataka. Potrebno je razmotriti poreklo i kvalitet podataka, mogućnost netačne klasifikacije, pogrešno profilisanje, transparentnost, posledice po ranjive grupe, delotvornost ljudskog nadzora i rizike povezane sa dobavljačem.
Procena uticaja nije jednokratni dokument. Mora se preispitivati kada se promeni svrha, model, skup podataka, način korišćenja, grupa lica ili nivo rizika.
AI koji koriste policija i drugi nadležni organi
Nacrt posebno uređuje obradu podataka koju nadležni organi vrše radi sprečavanja, istrage, otkrivanja ili gonjenja kažnjivih dela, izvršenja sankcija i zaštite od pretnji javnoj i nacionalnoj bezbednosti.
AI sistemi u ovom režimu mogu se koristiti za analizu baza podataka, povezivanje informacija iz različitih izvora, biometrijsku identifikaciju, procenu rizika, prepoznavanje obrazaca i profilisanje.
Kod obrade u posebne svrhe Nacrt zahteva da se, koliko je moguće, razlikuju podaci zasnovani na činjenicama od podataka zasnovanih na ličnim procenama.
Ovo je naročito važno kod AI sistema koji generišu procene rizika, verovatnoće ili povezanosti.
Rezultat sistema nije nužno činjenica. Ocena da je neko lice visokorizično ili da postoji velika verovatnoća određenog ponašanja predstavlja procenu koja može biti netačna. Ako se takva procena u evidenciji predstavlja kao činjenica, postoji rizik da se koristi u narednim postupcima bez odgovarajuće provere.
Automatizovane policijske odluke
Član 129. zabranjuje donošenje odluke isključivo na osnovu automatizovane obrade, uključujući profilisanje, ako odluka može proizvesti štetne pravne posledice ili značajno uticati na položaj lica.
Izuzetak je moguć samo kada je automatizovano odlučivanje zasnovano na zakonu i kada zakon propisuje odgovarajuće zaštitne mere, uključujući najmanje učešće fizičkog lica pod kontrolom rukovaoca.
Zabranjeno je profilisanje koje dovodi do diskriminacije na osnovu posebno osetljivih podataka.
Ova odredba predstavlja važnu zaštitu, ali njena delotvornost zavisi od kvaliteta ljudskog učešća.
Ovlašćeno lice mora imati dovoljno informacija i stvarno ovlašćenje da proveri, odbije ili promeni rezultat sistema. Automatsko potvrđivanje preporuke ne bi predstavljalo stvarni ljudski nadzor.
Nadležni organi takođe moraju voditi evidencije i logove automatizovanih sistema, uključujući podatke o unosu, izmenama, pristupu, otkrivanju, prenosu, upoređivanju i brisanju podataka.
Izuzeci povezani sa krivičnim gonjenjem
Član 53. predviđa izuzetke od pojedinih obaveza transparentnosti i označavanja sintetičkog sadržaja za sisteme namenjene otkrivanju i gonjenju učinilaca krivičnih dela.
Postojanje određenih izuzetaka u policijskom i krivičnom postupku može biti opravdano, naročito kada bi obaveštavanje unapred onemogućilo konkretnu istragu.
Ipak, formulacija je široka jer je izuzetak vezan za namenu sistema, a ne izričito za konkretnu, zakonom dozvoljenu i neophodnu upotrebu.
Sama činjenica da je proizvod namenjen otkrivanju krivičnih dela ne znači da je svako njegovo korišćenje zakonito niti da bi transparentnost u svakoj situaciji ugrozila istragu.
Pravno sigurnije rešenje bilo bi da se izuzetak primenjuje samo kada je konkretna obrada zasnovana na zakonu, neophodna i srazmerna i kada bi izvršenje određene obaveze stvarno ugrozilo legitimnu svrhu postupanja.
Nadzor i kazne
Poverenik ima ovlašćenja da nadzire primenu Zakona, pristupi podacima i informacijama potrebnim za nadzor, naloži usklađivanje obrade, ograniči ili zabrani obradu i primeni druge korektivne mere.
Delotvoran nadzor nad AI sistemima može zahtevati razumevanje stvarnog toka podataka, uloge modela, konfiguracije sistema, logova i načina na koji se rezultat koristi u praksi. Sam pregled formalnih politika i ugovora neće uvek biti dovoljan da se utvrdi zakonitost obrade.
Obrada podataka korišćenjem AI sistema suprotno čl. 52. i 53. izričito je propisana kao prekršaj. Za rukovaoca ili obrađivača koji je pravno lice predviđena je novčana kazna od 200.000 do 2.000.000 dinara. Prekršaj predstavlja i donošenje odluke sa pravnim ili sličnim značajnim posledicama isključivo na osnovu automatizovane obrade suprotno članu 62.
U Obrazloženju Nacrta navodi se da su kazne u postojećem sistemu nesrazmerno niske i nedovoljno odvraćajuće u odnosu na ozbiljnost mogućih povreda.
Ipak, fiksni maksimum od dva miliona dinara može predstavljati veoma različito opterećenje za malu domaću organizaciju i veliku međunarodnu tehnološku kompaniju.
Kod AI obrade velikog obima opravdano se postavlja pitanje da li je takva kazna dovoljno proporcionalna i odvraćajuća za najveće učesnike na tržištu.
Šta bi trebalo precizirati pre usvajanja Zakona
Najvažniji problem Nacrta nije to što pokušava da reguliše AI u okviru zaštite podataka, već to što su pojedine nove odredbe nedovoljno precizne, preširoke ili nisu potpuno usklađene sa ostatkom teksta.
Pre usvajanja zakona posebno bi trebalo:
Zaključak
Nacrt novog zakona o zaštiti podataka o ličnosti predstavlja važan i potreban pokušaj da se domaći pravni okvir prilagodi razvoju i sve široj primeni sistema veštačke inteligencije.
Pozitivno je što se obrada podataka tokom razvoja i testiranja AI sistema prvi put izričito prepoznaje kao posebna pravna situacija, što se uvode obaveze transparentnosti, procene uticaja, ljudskog učešća i označavanja određenog sintetičkog sadržaja i što se prepoznaju posebni rizici profilisanja, biometrijske identifikacije i automatizovanog odlučivanja.
Ipak, ambicija Nacrta nije u potpunosti praćena potrebnom normativnom preciznošću.
Tekst koristi pojmove i kategorije karakteristične za savremenu regulativu veštačke inteligencije, ali ih ne definiše niti jasno određuje njihov odnos sa ostatkom zakona. Kada od pravne kvalifikacije sistema zavise procena uticaja, obaveštavanje lica, mišljenje Poverenika ili druge zaštitne mere, takva nejasnoća neposredno utiče na obim prava i obaveza.
Najozbiljnije pitanje otvara član 52. Njime se pokušava urediti korišćenje podataka za razvoj i testiranje AI sistema, ali se istovremeno unapred isključuje čitav niz prava lica na koja se podaci odnose, bez pojedinačne procene da li bi ostvarivanje konkretnog prava zaista onemogućilo ili ozbiljno ugrozilo određenu svrhu.
Time se zaštita lica slabi upravo u oblasti u kojoj rukovaoci imaju najveću tehničku i informacionu prednost. Organizacija određuje svrhu, bira podatke, kontroliše proces razvoja i procenjuje kada je svrha ispunjena, dok lice ostaje bez više osnovnih mehanizama kontrole nad sopstvenim podacima.
Dodatnu pravnu nesigurnost stvaraju odnos čl. 52., 53. i 62., nejasan režim mišljenja Poverenika, nedovoljno razgraničene odgovornosti učesnika u AI lancu, široko formulisani izuzeci povezani sa krivičnim gonjenjem i moguće usko tumačenje zabrane biometrijske identifikacije.
Zbog toga najveći problem Nacrta nije to što pokušava da reguliše veštačku inteligenciju, već što na pojedinim mestima uvodi veoma značajne pravne posledice bez dovoljno preciznih definicija, jasnih granica i dosledno uređenih zaštitnih mehanizama.
Tehnološka složenost ne sme postati opravdanje za smanjivanje dostignutog nivoa prava, niti razvoj i inovacije mogu sami po sebi biti dovoljan razlog za široka i unapred određena odstupanja od osnovnih mehanizama zaštite podataka.
Kvalitet budućeg zakona zato se neće meriti brojem AI pojmova koje sadrži, već time da li su njegove odredbe jasne, međusobno usklađene, primenjive i sposobne da obezbede stvarnu, a ne samo deklarativnu zaštitu lica čiji se podaci koriste za razvoj i primenu sistema veštačke inteligencije.
Javna rasprava
U toku je javna rasprava o Nacrtu zakona o zaštiti podataka o ličnosti, koja će trajati u periodu od 30. jula do 10. septembra 2026. godine. Tekst Nacrta i prateća dokumentacija dostupni su na sajtu Ministarstva pravde.
Sugestije, predlozi, inicijative i komentari na tekst Nacrta zakona dostavljaju se Ministarstvu pravde putem elektronske pošte na e-mail adresu: konsultacije@mpravde.gov.rs ili na adresu: Ministarstvo pravde, Beograd, Nemanjina br. 22-26.