Probe algoritamske diskriminacije u Srbiji
Novi zakon o socijalnoj pomoฤi u Srbiji predviฤa prikupljanje velikog broja liฤnih podataka korisnika radi analiziranja putem algoritma. Proklamovani cilj je poboljลกanje raspodele sredstava. Meฤutim, do danas je viลกe od 22.000 osoba izgubilo pomoฤ, ne znajuฤi zbog ฤega

Prove-di-discriminazione-algoritmica-in-Serbia
ยฉ Song_about_summer/Shutterstock
Kada je u Srbiji, u martu 2022, stupio na snagu Zakon o Socijalnoj karti, mnogi su izrazili zabrinutost zbog potencijalnih posledica novih pravila po osobe kojima je potrebna socijalna pomoฤ. Od tada, viลกe od 22.000 osoba uklonjeno je iz sistema socijalne zaลกtite. Zabrinutost je oฤigledno bila opravdana.
Zakon predviฤa uvoฤenje registra za prikupljanje i obradu liฤnih podataka o korisnicima bilo koje vrste novฤane socijalne pomoฤi, u cilju procene njihove celokupne ekonomske situacije i eventualne preraspodele sredstava izdvojenih za ovu stavku u drลพavnom budลพetu. Radi utvrฤivanja socijalno-ekonomskog statusa korisnika, zakon uvodi sistem prikupljanja velikog broja liฤnih podataka, iz razliฤitih izvora, koje se unose u jedinstven registar da bi se, putem automatizovanog procesa donoลกenja odluka, utvrdilo da li i u kojoj meri odreฤena osoba ima pravo da nastavi primati pomoฤ.
Ovaj sistem izazvao je zabrinutost iz dva razloga. Prvi je vezan za odranije problematiฤnu situaciju po pitanju socijalne zaลกtite u Srbiji, koja bi trebalo da bude reformisana tako da obuhvata veฤi broj korisnika, uz poveฤanje iznosa socijalne naknade. ฤini se, meฤutim, da novi zakon teลพi preraspodeli postojeฤih sredstava i iskljuฤivanju jednog dela korisnika, umesto ukljuฤivanja novih.
Drugi razlog tiฤe se krลกenja odredbi o prikupljanju i obradi liฤnih podataka, kao i onih koje bi trebalo da zaลกtite graฤane od odluka donesenih putem automatizovanih sistema. Ovi sistemi ฤesto reprodukuju i pojaฤavaju diskriminaciju kojoj su izloลพene ranjive druลกtvene grupe, poput romske zajednice.
Mreลพa za ekonomska, socijalna i kulturna prava (ESCR-Net) โ koju ฤine Amnesty Internetional, A 11-Inicijativa za socijalna i ekonomska prava i Evropski centar za prava Roma โ nedavno je podnela pravno miลกljenje Ustavnom sudu Srbije u kojem se navode problematiฤni aspekti novog zakona.
Neinkluzivan sistem
Prema podacima inicijative A 11, u februaru 2022. (pre poฤetka primene novog zakona), broj korisnika novฤane socijalne pomoฤi iznosio je 211.266, dok je u avgustu 2022. taj broj smanjen na 189.036, dakle za 10,5 odsto.
Kako nam je objasnio Danilo ฤurฤiฤ, koordinator inicijative A 11, sistem je stupio na snagu samo u pojedinim gradovima jer brojni centri za socijalnu pomoฤ nemaju tehnologiju i sposobnosti potrebne za povezivanje u centralni registar. Dakle, postoji i problem vezan za troลกkove uvoฤenja i odrลพavanja ฤitavog sistema, koji je โ prema reฤima ฤurฤiฤa โ neodrลพiv.
U 11 od ukupno 15 gradova, za koje je A 11 dobila podatke, beleลพi se smanjenje broja korisnika, koje je u pojedinim sluฤajevima izraลพenije u odnosu na brojke na nacionalnom nivou (Ada -28,7%, Irig -28,8%). S druge strane, u nekim gradovima broj korisnika se poveฤao, ponekad znaฤajno (Leskovac +17,1%). โS obzirom da je funkcionisanje sistema netransparentno, nije jasno zbog ฤega su pojedini centri za socijalnu pomoฤ poveฤali broj korisnikaโ, istiฤe ฤurฤiฤ i dodaje: โU svakom sluฤaju, poveฤanje ne moลพe biti vezano za socijalnoj kartu buduฤi da ona centrima ne pruลพa moguฤnost da uvtrde ko joลก uvek ne prima pomoฤ i da eventualno ukljuฤe ove osobe u sistem zaลกtiteโ.
Kako objaลกnjava Radio Slobodna Evropa , u Srbiji meseฤna socijalna pomoฤ za pojedinca trenutno iznosi 10.385 dinara (88 evra). Ovaj iznos je ฤak niลพi u odnosu na prag od 12.695 dinara koji je utvrdila sama vlada kao minimum za izlazak iz apsolutnog siromaลกtva u 2020. Pored toga, prema podacima vlade, u Srbiji je u 2020. godini 6,9 odsto ukupnog broja stanovnika ลพivelo u apsolutnom siromaลกtvu, dakle neลกto manje od 475.000 osoba, ลกto je 2,5 puta viลกe od broja korisnika socijalne pomoฤi.
Jedan od razloga koji mogu dovesti do iskljuฤivanja iz sistema socijalne zaลกtite jeste sakupljanje i prodaja sekundarnih materijala, poput plastike, kartona i stakla, kojim se bave brojne osobe romske nacionalnosti, koje ฤine upravo najsiromaลกniju grupu stanovniลกtva. โPrilikom predaje materijala osobe moraju pokazati svoj JMBG, u suprotnom ne mogu biti plaฤeneโ, objaลกnjava Francesca Feruglio, koordinatorka mreลพe ESCR-Net, โna taj naฤin ovaj prihod, makoliko nizak, biva zabeleลพen i zavrลกava u centralnom registru Socijalne karte, ลกto u pojedinim sluฤajevima rezultira ukidanjem pomoฤi. To je potpuno nepravedno, imajuฤi u vidu celokupnu situaciju u kojoj ลพive ove osobeโ.
Sistemi automatske diskriminacije
Jedna od kritika na raฤun novog zakona tiฤe se automatizovanog procesa donoลกenja odluka koje snaลพno utiฤu na ลพivot graฤana, bez predviฤanja ikakve moguฤnosti ljudske intervencije u ฤitavom procesu. Naime, kada algoritam Socijalne karte napravi procenu odreฤenog sluฤaja ลกalje obavest lokalnom cenyru u kojem je dotiฤni korisnik zaveden. Meฤutim, lokalni funkcionar za procenu valjanosti odluke na raspolaganju ima vremenski period koji se smatra nedovoljnim, imajuฤi u vidu, izmeฤu ostalog, manjak zaposlenih.
Ministarstvo rada, u svojoj proceni uticaja zakona, tvrdi da su graฤani zaลกtiฤeni, s obzirom da uvek postoji moguฤnost da zaposleni u nadleลพnom uredu ili ministarstvu, na zahtev graฤana, ponovo obrade predmet i eventualno promene konaฤnu odluku. Meฤutim, u praksi โ kako objaลกnjava ฤurฤiฤ โ graฤani imaju โsamo 15 dana da podnesu ลพalbu na odluku, ลกto skoro niko ne ฤini, ฤesto zato ลกto ne znaju da na to imaju pravo, ili zato ลกto su nepismeni, odnosno nemaju potrebne alate da bi mogli reagovati. Stoga, jednostavno ฤekaju da proฤe ลกest meseci da bi mogli ponovo podneti zahtev za socijalnu pomoฤ. Ali ฤak i u sluฤaju da taj zahtev bude prihvaฤen, ipak se gubi ลกest meseci pomoฤi, a nikad se ne zna da li ฤe zahtev biti usvojen niti da li ฤe ponovo doฤi do ukidanja pomoฤiโ.
Biljana ฤorฤeviฤ, narodna poslanica iz pokreta Ne davimo Beograd, traลพila je od vlade veฤu transparentnost po pitanju funkcionisanja algoritma i broja osoba kojima je ukinuta pomoฤ nakon uvoฤenja socijalne karte. โOdgovorili su da ne postoji nikakav algoritam โ objaลกnjava ฤorฤeviฤ โ po njima sistem samo prikuplja podatke, a potom socijalni radnik pravi procenu. Svedoฤenja koja smo prikupili pokazuju da to nije taฤnoโ. I zaista, ako ne postoji algoritam, na osnovu ฤega Ministarstvo ลกalje obavesti centrima za socijalni rad? Priliฤno je jasno da se podaci obraฤuju, ali ne i po kojoj osnovi. โTraลพili smo i pristup kodu koji zapravo pokreฤe prikupljanje podataka โ dodaje ฤorฤeviฤ โ ali naลก zahtev je odbijen zbog โpitanja autorskih pravaโ i โnacionalne sigurnostiโโ.
Kada je reฤ o smanjenju broja korisnika, Ministarstvo nije objavilo taฤne podatke, objaลกnjavajuฤi da Srbija postepeno napreduje i da se ลพivotni uslovi graฤana se poboljลกavaju, tako da je sve manje potrebe za socijalnom pomoฤi. Iako je taฤno da se situacija po pitanju apsolutnog siromaลกtva u Srbiji blago poboljลกala tokom proteklih godina (ali je, prema podacima, ipak loลกija nego u periodu 2008-2009.), ostaje ฤinjenica da je potrebno poveฤati broj korisnika, meฤutim โpriliฤno je oฤigledno da zakon sluลพi za iskljuฤivanjeโ, kaลพe Biljana ฤorฤeviฤ.
โIznenaฤen sam ฤinjenicom da je procena uฤinka koju ju napravilo Ministarstvo tako loลกaโ, komentariลกe ฤanklaudio Malฤeri, vanredni profesor prava na Univerzitetu u Lajdenu. โPostoji odreฤeni konsenzus oko toga da ljudska intervencija u procesima donoลกenja odluka putem automatizovanih sistema mora biti โznaฤajnaโ. Ovde se niลกta sliฤno ne nazire. Pored toga, u sluฤaju sistema koji donose odluke u jednoj sekundi, procedura podnoลกenja ลพalbe morala bi biti pojednostavljena. U ovom sluฤaju se, meฤutim, primenjuju standardne procedure, koje su u suลกtini usmerene na uobiฤajene pravosudne postupke, sa svim onim ลกto to podrazumeva u smislu vremena i troลกkova. Nadalje, u tekstu zakona o socijalnoj karti piลกe da ovaj sistem moลพe imati posledice po ugroลพene pojedince i druลกtvene grupe. Tu bi onda trebalo da sledi spisak dodatnih mera zaลกtite: niลกta od ovoga nema u zakonu. Srbija je, izmeฤu ostalog, usvojila zakon o zaลกtiti liฤnih podataka po uzoru na odgovarajuฤu evropsku uredbu (GDPR), takoฤe je potpisala i ratifikovala Konvenciju Saveta Evrope 108+. Dakle, sigurno nije zaostala zemlja kada je reฤ o liฤnim podacima. Zakon o socijalnoj karti krลกi pravila koja je Srbija sama sebi postavilaโ.
Neograniฤeno prikupljanje podataka
Prema analizi koju je uradila inicijativa A 11, na osnovu zakona o socijalnoj karti prikuplja se do 135 vrsta liฤnih podataka iz razliฤitih izvora, ukljuฤujuฤi Centralni registar graฤana, Ministarstvo unutraลกnjih poslova, Poresku upravu, Fond za penzijsko i invalidsko osiguranje. Neki od podataka koje se prikupljaju veoma su problematiฤni, poput onih vezanih za etniฤku pripadnost (ฤlan 7 (1)(6)), dok neki drugi, poput onih o eventualnom posedovanju oruลพja, nemaju jasnu vezu s procenom socijalno-ekonomske situacije korisnika. โOd graฤana se traลพe informacije o etniฤkoj pripadnosti โ komentariลกe ฤurฤiฤ โ ali ne i o tome da li im je kuฤa prikljuฤena na elektriฤnu mreลพu i vodovodโ.
Postoji bojazan ฤe se zakon, mimo svojih proklamovanih ciljeva, na kraju pretvoriti u sistem profilisanja i masovnog nadzora korisnika. โI ovde โ nastavlja Malฤeri โ postoji rizik da doฤe do krลกenja srpskog zakona o zaลกtiti liฤnih podataka. Prikupljanje tolike koliฤina podataka koju predviฤa socijalna karta nije opravdano svrhom samog zakona. Izmeฤu ostalog, u ฤlanu 4, meฤu svrhama prikupljanja liฤnih podataja, navodi se โspreฤavanje siromaลกtva i otklanjanje posledica socijalne marginalizacijeโ. Meฤutim, svrhe prikupljanja, i po srpskom zakonu o podacima, moraju biti specifiฤne i precizne, ne mogu biti tako uopลกteneโ.
Pored pravnog miลกljenja koje je mreลพa ESCR-Net podnela Ustavnom sudu Srbije, narednih nedelja biฤe pokrenuta joลก jedna inicijativa na kojoj radi poslanica Biljana ฤorฤeviฤ. โAko najmanje 25 poslanika podnese zahtev Ustavnom sudu, ovaj je duลพan da se izjasni o dotiฤnom predmetu. Naลพalost, ne postoje jasno definisani vremenski rokovi, tako da Sud moลพe odluฤiti da unedogled odlaลพe pitanje. Ne moลพemo niลกta drugo do iskoristiti pravne alate koji su nam na raspolaganju. Sada je vaลพno zadrลพati paลพnju javnosti na ovom pitanjuโ. Ono ลกto brine Biljanu ฤorฤeviฤ jeste moguฤnost da centralni registar, kada bude ustanovljen, posluลพi kao osnova za nove vidove diskriminacije i marginalicazije u buduฤnosti.
Tag: