Probe algoritamske diskriminacije u Srbiji

Novi zakon o socijalnoj pomoฤ‡i u Srbiji predviฤ‘a prikupljanje velikog broja liฤnih podataka korisnika radi analiziranja putem algoritma. Proklamovani cilj je poboljลกanje raspodele sredstava. Meฤ‘utim, do danas je viลกe od 22.000 osoba izgubilo pomoฤ‡, ne znajuฤ‡i zbog ฤega

23/12/2022, Federico Caruso -

Prove-di-discriminazione-algoritmica-in-Serbia

ยฉ Song_about_summer/Shutterstock

Kada je u Srbiji, u martu 2022, stupio na snagu Zakon o Socijalnoj karti, mnogi su izrazili zabrinutost zbog potencijalnih posledica novih pravila po osobe kojima je potrebna socijalna pomoฤ‡. Od tada, viลกe od 22.000 osoba uklonjeno je iz sistema socijalne zaลกtite. Zabrinutost je oฤigledno bila opravdana.

Zakon predviฤ‘a uvoฤ‘enje registra za prikupljanje i obradu liฤnih podataka o korisnicima bilo koje vrste novฤane socijalne pomoฤ‡i, u cilju procene njihove celokupne ekonomske situacije i eventualne preraspodele sredstava izdvojenih za ovu stavku u drลพavnom budลพetu. Radi utvrฤ‘ivanja socijalno-ekonomskog statusa korisnika, zakon uvodi sistem prikupljanja velikog broja liฤnih podataka, iz razliฤitih izvora, koje se unose u jedinstven registar da bi se, putem automatizovanog procesa donoลกenja odluka, utvrdilo da li i u kojoj meri odreฤ‘ena osoba ima pravo da nastavi primati pomoฤ‡.

Ovaj sistem izazvao je zabrinutost iz dva razloga. Prvi je vezan za odranije problematiฤnu situaciju po pitanju socijalne zaลกtite u Srbiji, koja bi trebalo da bude reformisana tako da obuhvata veฤ‡i broj korisnika, uz poveฤ‡anje iznosa socijalne naknade. ฤŒini se, meฤ‘utim, da novi zakon teลพi preraspodeli postojeฤ‡ih sredstava i iskljuฤivanju jednog dela korisnika, umesto ukljuฤivanja novih.

Drugi razlog tiฤe se krลกenja odredbi o prikupljanju i obradi liฤnih podataka, kao i onih koje bi trebalo da zaลกtite graฤ‘ane od odluka donesenih putem automatizovanih sistema. Ovi sistemi ฤesto reprodukuju i pojaฤavaju diskriminaciju kojoj su izloลพene ranjive druลกtvene grupe, poput romske zajednice.

Mreลพa za ekonomska, socijalna i kulturna prava (ESCR-Net) โ€“ koju ฤine Amnesty Internetional, A 11-Inicijativa za socijalna i ekonomska prava i Evropski centar za prava Roma โ€“ nedavno je podnela pravno miลกljenje Ustavnom sudu Srbije u kojem se navode problematiฤni aspekti novog zakona.

Neinkluzivan sistem

Prema podacima inicijative A 11, u februaru 2022. (pre poฤetka primene novog zakona), broj korisnika novฤane socijalne pomoฤ‡i iznosio je 211.266, dok je u avgustu 2022. taj broj smanjen na 189.036, dakle za 10,5 odsto.

Kako nam je objasnio Danilo ฤ†urฤiฤ‡, koordinator inicijative A 11, sistem je stupio na snagu samo u pojedinim gradovima jer brojni centri za socijalnu pomoฤ‡ nemaju tehnologiju i sposobnosti potrebne za povezivanje u centralni registar. Dakle, postoji i problem vezan za troลกkove uvoฤ‘enja i odrลพavanja ฤitavog sistema, koji je โ€“ prema reฤima ฤ†urฤiฤ‡a โ€“ neodrลพiv.

U 11 od ukupno 15 gradova, za koje je A 11 dobila podatke, beleลพi se smanjenje broja korisnika, koje je u pojedinim sluฤajevima izraลพenije u odnosu na brojke na nacionalnom nivou (Ada -28,7%, Irig -28,8%). S druge strane, u nekim gradovima broj korisnika se poveฤ‡ao, ponekad znaฤajno (Leskovac +17,1%). โ€œS obzirom da je funkcionisanje sistema netransparentno, nije jasno zbog ฤega su pojedini centri za socijalnu pomoฤ‡ poveฤ‡ali broj korisnikaโ€, istiฤe ฤ†urฤiฤ‡ i dodaje: โ€œU svakom sluฤaju, poveฤ‡anje ne moลพe biti vezano za socijalnoj kartu buduฤ‡i da ona centrima ne pruลพa moguฤ‡nost da uvtrde ko joลก uvek ne prima pomoฤ‡ i da eventualno ukljuฤe ove osobe u sistem zaลกtiteโ€.

Kako objaลกnjava Radio Slobodna Evropa , u Srbiji meseฤna socijalna pomoฤ‡ za pojedinca trenutno iznosi 10.385 dinara (88 evra). Ovaj iznos je ฤak niลพi u odnosu na prag od 12.695 dinara koji je utvrdila sama vlada kao minimum za izlazak iz apsolutnog siromaลกtva u 2020. Pored toga, prema podacima vlade, u Srbiji je u 2020. godini 6,9 odsto ukupnog broja stanovnika ลพivelo u apsolutnom siromaลกtvu, dakle neลกto manje od 475.000 osoba, ลกto je 2,5 puta viลกe od broja korisnika socijalne pomoฤ‡i.

Jedan od razloga koji mogu dovesti do iskljuฤivanja iz sistema socijalne zaลกtite jeste sakupljanje i prodaja sekundarnih materijala, poput plastike, kartona i stakla, kojim se bave brojne osobe romske nacionalnosti, koje ฤine upravo najsiromaลกniju grupu stanovniลกtva. โ€œPrilikom predaje materijala osobe moraju pokazati svoj JMBG, u suprotnom ne mogu biti plaฤ‡eneโ€, objaลกnjava Francesca Feruglio, koordinatorka mreลพe ESCR-Net, โ€œna taj naฤin ovaj prihod, makoliko nizak, biva zabeleลพen i zavrลกava u centralnom registru Socijalne karte, ลกto u pojedinim sluฤajevima rezultira ukidanjem pomoฤ‡i. To je potpuno nepravedno, imajuฤ‡i u vidu celokupnu situaciju u kojoj ลพive ove osobeโ€.

Sistemi automatske diskriminacije

Jedna od kritika na raฤun novog zakona tiฤe se automatizovanog procesa donoลกenja odluka koje snaลพno utiฤu na ลพivot graฤ‘ana, bez predviฤ‘anja ikakve moguฤ‡nosti ljudske intervencije u ฤitavom procesu. Naime, kada algoritam Socijalne karte napravi procenu odreฤ‘enog sluฤaja ลกalje obavest lokalnom cenyru u kojem je dotiฤni korisnik zaveden. Meฤ‘utim, lokalni funkcionar za procenu valjanosti odluke na raspolaganju ima vremenski period koji se smatra nedovoljnim, imajuฤ‡i u vidu, izmeฤ‘u ostalog, manjak zaposlenih.

Ministarstvo rada, u svojoj proceni uticaja zakona, tvrdi da su graฤ‘ani zaลกtiฤ‡eni, s obzirom da uvek postoji moguฤ‡nost da zaposleni u nadleลพnom uredu ili ministarstvu, na zahtev graฤ‘ana, ponovo obrade predmet i eventualno promene konaฤnu odluku. Meฤ‘utim, u praksi โ€“ kako objaลกnjava ฤ†urฤiฤ‡ โ€“ graฤ‘ani imaju โ€œsamo 15 dana da podnesu ลพalbu na odluku, ลกto skoro niko ne ฤini, ฤesto zato ลกto ne znaju da na to imaju pravo, ili zato ลกto su nepismeni, odnosno nemaju potrebne alate da bi mogli reagovati. Stoga, jednostavno ฤekaju da proฤ‘e ลกest meseci da bi mogli ponovo podneti zahtev za socijalnu pomoฤ‡. Ali ฤak i u sluฤaju da taj zahtev bude prihvaฤ‡en, ipak se gubi ลกest meseci pomoฤ‡i, a nikad se ne zna da li ฤ‡e zahtev biti usvojen niti da li ฤ‡e ponovo doฤ‡i do ukidanja pomoฤ‡iโ€.

Biljana ฤorฤ‘eviฤ‡, narodna poslanica iz pokreta Ne davimo Beograd, traลพila je od vlade veฤ‡u transparentnost po pitanju funkcionisanja algoritma i broja osoba kojima je ukinuta pomoฤ‡ nakon uvoฤ‘enja socijalne karte. โ€œOdgovorili su da ne postoji nikakav algoritam โ€“ objaลกnjava ฤorฤ‘eviฤ‡ โ€“ po njima sistem samo prikuplja podatke, a potom socijalni radnik pravi procenu. Svedoฤenja koja smo prikupili pokazuju da to nije taฤnoโ€. I zaista, ako ne postoji algoritam, na osnovu ฤega Ministarstvo ลกalje obavesti centrima za socijalni rad? Priliฤno je jasno da se podaci obraฤ‘uju, ali ne i po kojoj osnovi. โ€œTraลพili smo i pristup kodu koji zapravo pokreฤ‡e prikupljanje podataka โ€“ dodaje ฤorฤ‘eviฤ‡ โ€“ ali naลก zahtev je odbijen zbog โ€˜pitanja autorskih pravaโ€™ i โ€˜nacionalne sigurnostiโ€™โ€.

Kada je reฤ o smanjenju broja korisnika, Ministarstvo nije objavilo taฤne podatke, objaลกnjavajuฤ‡i da Srbija postepeno napreduje i da se ลพivotni uslovi graฤ‘ana se poboljลกavaju, tako da je sve manje potrebe za socijalnom pomoฤ‡i. Iako je taฤno da se situacija po pitanju apsolutnog siromaลกtva u Srbiji blago poboljลกala tokom proteklih godina (ali je, prema podacima, ipak loลกija nego u periodu 2008-2009.), ostaje ฤinjenica da je potrebno poveฤ‡ati broj korisnika, meฤ‘utim โ€œpriliฤno je oฤigledno da zakon sluลพi za iskljuฤivanjeโ€, kaลพe Biljana ฤorฤ‘eviฤ‡.

โ€œIznenaฤ‘en sam ฤinjenicom da je procena uฤinka koju ju napravilo Ministarstvo tako loลกaโ€, komentariลกe ฤanklaudio Malฤ‘eri, vanredni profesor prava na Univerzitetu u Lajdenu. โ€œPostoji odreฤ‘eni konsenzus oko toga da ljudska intervencija u procesima donoลกenja odluka putem automatizovanih sistema mora biti โ€˜znaฤajnaโ€™. Ovde se niลกta sliฤno ne nazire. Pored toga, u sluฤaju sistema koji donose odluke u jednoj sekundi, procedura podnoลกenja ลพalbe morala bi biti pojednostavljena. U ovom sluฤaju se, meฤ‘utim, primenjuju standardne procedure, koje su u suลกtini usmerene na uobiฤajene pravosudne postupke, sa svim onim ลกto to podrazumeva u smislu vremena i troลกkova. Nadalje, u tekstu zakona o socijalnoj karti piลกe da ovaj sistem moลพe imati posledice po ugroลพene pojedince i druลกtvene grupe. Tu bi onda trebalo da sledi spisak dodatnih mera zaลกtite: niลกta od ovoga nema u zakonu. Srbija je, izmeฤ‘u ostalog, usvojila zakon o zaลกtiti liฤnih podataka po uzoru na odgovarajuฤ‡u evropsku uredbu (GDPR), takoฤ‘e je potpisala i ratifikovala Konvenciju Saveta Evrope 108+. Dakle, sigurno nije zaostala zemlja kada je reฤ o liฤnim podacima. Zakon o socijalnoj karti krลกi pravila koja je Srbija sama sebi postavilaโ€.

Neograniฤeno prikupljanje podataka

Prema analizi koju je uradila inicijativa A 11, na osnovu zakona o socijalnoj karti prikuplja se do 135 vrsta liฤnih podataka iz razliฤitih izvora, ukljuฤujuฤ‡i Centralni registar graฤ‘ana, Ministarstvo unutraลกnjih poslova, Poresku upravu, Fond za penzijsko i invalidsko osiguranje. Neki od podataka koje se prikupljaju veoma su problematiฤni, poput onih vezanih za etniฤku pripadnost (ฤlan 7 (1)(6)), dok neki drugi, poput onih o eventualnom posedovanju oruลพja, nemaju jasnu vezu s procenom socijalno-ekonomske situacije korisnika. โ€œOd graฤ‘ana se traลพe informacije o etniฤkoj pripadnosti โ€“ komentariลกe ฤ†urฤiฤ‡ โ€“ ali ne i o tome da li im je kuฤ‡a prikljuฤena na elektriฤnu mreลพu i vodovodโ€.

Postoji bojazan ฤ‡e se zakon, mimo svojih proklamovanih ciljeva, na kraju pretvoriti u sistem profilisanja i masovnog nadzora korisnika. โ€œI ovde โ€“ nastavlja Malฤ‘eri โ€“ postoji rizik da doฤ‘e do krลกenja srpskog zakona o zaลกtiti liฤnih podataka. Prikupljanje tolike koliฤina podataka koju predviฤ‘a socijalna karta nije opravdano svrhom samog zakona. Izmeฤ‘u ostalog, u ฤlanu 4, meฤ‘u svrhama prikupljanja liฤnih podataja, navodi se โ€˜spreฤavanje siromaลกtva i otklanjanje posledica socijalne marginalizacijeโ€™. Meฤ‘utim, svrhe prikupljanja, i po srpskom zakonu o podacima, moraju biti specifiฤne i precizne, ne mogu biti tako uopลกteneโ€.

Pored pravnog miลกljenja koje je mreลพa ESCR-Net podnela Ustavnom sudu Srbije, narednih nedelja biฤ‡e pokrenuta joลก jedna inicijativa na kojoj radi poslanica Biljana ฤorฤ‘eviฤ‡. โ€œAko najmanje 25 poslanika podnese zahtev Ustavnom sudu, ovaj je duลพan da se izjasni o dotiฤnom predmetu. Naลพalost, ne postoje jasno definisani vremenski rokovi, tako da Sud moลพe odluฤiti da unedogled odlaลพe pitanje. Ne moลพemo niลกta drugo do iskoristiti pravne alate koji su nam na raspolaganju. Sada je vaลพno zadrลพati paลพnju javnosti na ovom pitanjuโ€. Ono ลกto brine Biljanu ฤorฤ‘eviฤ‡ jeste moguฤ‡nost da centralni registar, kada bude ustanovljen, posluลพi kao osnova za nove vidove diskriminacije i marginalicazije u buduฤ‡nosti.

Tag:

Commenta e condividi

La newsletter di OBCT

Ogni venerdรฌ nella tua casella di posta