Įsivaizduokite situaciją: pateikiate paraišką vartojimo paskolai gauti, o neigiamą atsakymą gaunate per kelias sekundes. Arba jūsų gyvenimo aprašymas, idealiai tinkantis darbo pozicijai, atmetamas net nepasiekęs personalo skyriaus vadovo akių. Šiandien tai nėra mokslinė fantastika – tai kasdienybė, kurioje dominuoja algoritminis sprendimų priėmimas. Tačiau ką daryti, kai kompiuterio kodas klysta arba veikia neskaidriai? Ar įmanoma pateikti skundą algoritmui?
Lietuvoje ir visoje Europos Sąjungoje vartotojų teisės skaitmeninėje erdvėje tampa vis svarbesnės. Augantis pasitikėjimas dirbtiniu intelektu (DI) ir automatizuotomis sistemomis verslui suteikia greitį, tačiau vartotojams dažnai palieka „juodosios dėžės“ efektą – situaciją, kai sprendimo logika lieka paslaptyje. Šiame straipsnyje analizuosime, kaip veikia algoritminis sprendimų priėmimas, kokias teises jums suteikia Bendrasis duomenų apsaugos reglamentas (BDAR) ir kaip veiksmingai parengti skundą, jei manote, kad algoritmas jus diskriminavo ar priėmė neteisingą sprendimą.
Kas yra algoritminis sprendimų priėmimas ir kodėl tai svarbu?
Algoritminis sprendimų priėmimas (ASP) – tai procesas, kurio metu matematiniai modeliai ir duomenų apdorojimo taisyklės naudojamos siekiant įvertinti asmenį, numatyti jo elgseną arba priimti konkrečius sprendimus. Tai apima viską: nuo kredito reitingo nustatymo iki diagnozių medicinoje ar net policijos patruliavimo maršrutų planavimo.
Pagrindinė problema kyla tada, kai sprendimai priimami visiškai automatizuotai, t. y. be jokio žmogaus įsikišimo. Nors algoritmai teoriškai turėtų būti objektyvūs, jie dažnai paveldi savo kūrėjų šališkumą arba remiasi istoriškai ydingais duomenimis. Pavyzdžiui, jei algoritmas mokomas naudojant duomenis iš laikotarpio, kai tam tikros grupės patyrė diskriminaciją, jis tiesiog „išmoks“ šią diskriminaciją tęsti skaitmeniniu pavidalu.
Pagrindinės rizikos vartotojui:
- Skaidrumo trūkumas: Dažnai sunku suprasti, kodėl buvo priimtas būtent toks sprendimas.
- Diskriminacija: Algoritmai gali netyčia (arba tyčia) grupuoti žmones pagal lytį, amžių ar gyvenamąją vietą, net jei tai teisiškai draudžiama.
- Klaidų kaina: Duomenų įvedimo klaida arba neteisinga interpretacija gali lemti finansinius nuostolius ar prarastas karjeros galimybes.
Teisinis pagrindas: BDAR 22 straipsnis kaip jūsų skydas
Lietuvos piliečius, kaip ir visus ES gyventojus, gina Bendrasis duomenų apsaugos reglamentas (BDAR). Svarbiausias įrankis kovoje su „beširdžiais“ algoritmais yra 22 straipsnis. Jame nurodyta, kad asmuo turi teisę, kad jam nebūtų taikomas sprendimas, pagrįstas tik automatizuotu duomenų tvarkymu, jei tas sprendimas sukelia jam teisines pasekmes arba daro panašų didelį poveikį.
Tai reiškia, kad jei bankas atmetė jūsų paraišką naudodamas tik programinę įrangą, jūs turite tris fundamentalias teises:
- Teisė reikalauti žmogaus įsikišimo: Galite prašyti, kad jūsų bylą peržiūrėtų realus darbuotojas.
- Teisė išreikšti savo požiūrį: Turite galimybę pateikti papildomus argumentus, kurių algoritmas neįvertino.
- Teisė užginčyti sprendimą: Galite oficialiai nesutikti su gautu rezultatu ir reikalauti jį pakeisti.
Svarbu pažymėti, kad ši apsauga netaikoma, jei sprendimas yra būtinas sutarčiai sudaryti arba yra leidžiamas įstatymų, tačiau net ir tokiais atvejais įmonė privalo užtikrinti minimalias apsaugos priemones ir skaidrumą.
Kada verta pateikti skundą?
Ne kiekvienas algoritminis sprendimas yra pagrindas skundui. Pavyzdžiui, jei „Netflix“ rekomenduoja jums filmą, kuris jums nepatinka, tai nėra teisinių pasekmių sukeliantis veiksmas. Tačiau skundą verta apsvarstyti šiais atvejais:
1. Finansinės paslaugos ir draudimas
Jei jums buvo padidinta draudimo įmoka arba atmestas kreditas remiantis neaiškiais kriterijais (pavyzdžiui, jūsų draugų socialiniuose tinkluose elgsena ar gyvenamojo rajono statistika), tai gali būti laikoma nesąžiningu praktikavimu.
2. Darbo rinka ir atrankos
Daugelis didžiųjų įmonių naudoja automatizuotas CV atrankos sistemas. Jei įtariate, kad sistema atmeta jūsų kandidatūrą dėl amžiaus, lyties ar kitų saugomų savybių, turite teisę reikalauti paaiškinimo apie naudojamus algoritminius filtrus.
3. Viešasis sektorius ir socialinės pašalpos
Valstybės institucijos vis dažniau naudoja rizikos vertinimo modelius nustatant, kam priklauso parama. Klaidos čia gali turėti dramatiškų pasekmių žmogaus pragyvenimui, todėl bet koks neigiamas automatizuotas sprendimas turėtų būti vertinamas kritiškai.
Praktinis gidas: kaip parengti ir pateikti skundą
Jei nusprendėte, kad algoritminis sprendimas pažeidė jūsų teises, procesas susideda iš kelių etapų. Rekomenduojama laikytis šios sekos, kad jūsų pretenzija būtų teisiškai svari.
1 žingsnis: Informacijos rinkimas ir prašymas paaiškinti
Pirmiausia turite kreiptis į duomenų valdytoją (įmonę ar įstaigą) su prašymu pateikti informaciją apie tai, kaip buvo priimtas sprendimas. Pagal BDAR 15 straipsnį, jūs turite teisę žinoti apie „logiką, kuria grindžiamas automatinis duomenų tvarkymas“. Jums nebūtina matyti paties kodo, tačiau įmonė privalo paaiškinti pagrindinius kriterijus paprasta kalba.
2 žingsnis: Kreipimasis į Duomenų apsaugos pareigūną (DAP)
Kiekviena didesnė organizacija privalo turėti asmenį, atsakingą už duomenų saugą. Jei pradinis klientų aptarnavimo skyriaus atsakymas jūsų netenkina, rašykite tiesiogiai DAP. Jų užduotis yra užtikrinti, kad įmonė laikytųsi įstatymų, todėl jie dažnai į skundus žiūri rimčiau nei pardavimų vadybininkai.
3 žingsnis: Formalus skundas Valstybinei duomenų apsaugos inspekcijai (VDAI)
Jei įmonė atsisako bendradarbiauti arba jų paaiškinimas nepagrįstas, kitas kelias – VDAI. Tai pagrindinė institucija Lietuvoje, prižiūrinti, kaip laikomasi BDAR. Skundas gali būti pateikiamas elektroniniu būdu per jų oficialią svetainę.
Skunde nurodykite:
- Tikslų sprendimo laiką ir pobūdį.
- Faktą, kad sprendimas buvo (tikėtina) automatizuotas.
- Kokią žalą ar nepatogumus šis sprendimas jums sukėlė.
- Įrodymus apie jūsų bandymus spręsti problemą tiesiogiai su įmone.
4 žingsnis: Vartotojų teisių apsaugos tarnyba
Jei algoritminis sprendimas susijęs su nesąžiningomis sutarties sąlygomis arba vartotojų diskriminacija, lygiagrečiai galima kreiptis į Valstybinę vartotojų teisių apsaugos tarnybą (VVTAT).
Dirbtinio intelekto aktas: nauja apsaugos era
Kalbant apie algoritminį sprendimų priėmimą, negalima pamiršti naujojo ES Dirbtinio intelekto akto (DI akto). Tai pirmasis pasaulyje išsamus DI reguliavimas, kuris įveda griežtas taisykles „aukštos rizikos“ sistemoms. Prie tokių priskiriamos sistemos, naudojamos švietime, įdarbinime, teisėsaugoje ir prieigoje prie pagrindinių privačių bei viešųjų paslaugų.
DI aktas suteikia vartotojams dar daugiau svertų. Pavyzdžiui, aukštos rizikos sistemų kūrėjai privalės užtikrinti žmogaus vykdomą priežiūrą (human oversight) ne tik kaip galimybę pasiskųsti, bet kaip integralią sistemos veikimo dalį. Tai reiškia, kad ateityje skundai dėl algoritmų taps dar labiau pagrįsti technine dokumentacija, kurią įmonės privalės kaupti.
Dažniausios klaidos rašant skundą dėl algoritmo
Nors pyktis dėl neteisingo sprendimo yra suprantamas, emocingas skundas retai pasiekia tikslą. Štai ko reikėtų vengti:
- Vagumas: Nesakykite „sistema mane diskriminuoja“. Sakykite „sistema priėmė neigiamą sprendimą per 2 sekundes, neatsižvelgdama į mano pateiktus papildomus pajamų dokumentus, o tai pažeidžia BDAR 22 straipsnį“.
- Techninių terminų perteklius: Jums nereikia būti programuotoju. Fokusas turėtų būti į teisinę jūsų duomenų tvarkymo pusę, o ne į tai, kokią programavimo kalbą įmonė naudoja.
- Terminų ignoravimas: Skundą pateikite kuo greičiau po to, kai sužinojote apie sprendimą. Kai kurios įmonės duomenis saugo ribotą laiką, todėl vėliau gali būti sunku atsekti algoritmo veikimo logiką jūsų konkrečiu atveju.
Skaidrumas kaip vertybė: ką turėtų daryti verslas?
Šis straipsnis skirtas ne tik vartotojams, bet ir verslo atstovams, siekiantiems išvengti skundų bangos. Geriausias būdas apsisaugoti nuo teisinių ginčų – įdiegti skaidrumo principą nuo pat sistemos kūrimo pradžios.
Lietuvos įmonėms rekomenduojama atlikti poveikio duomenų apsaugai vertinimą (PDAV), jei jos planuoja naudoti automatizuotą sprendimų priėmimą. Be to, aiški komunikacija su klientu – nurodymas, kad sprendimą priima algoritmas, ir paprasta instrukcija, kaip jį užginčyti – kuria pasitikėjimą ir mažina konfliktų riziką.
Apibendrinimas: ar mes galime nugalėti mašiną?
Algoritminis sprendimų priėmimas nėra neklystanti dievybė. Tai įrankis, kurį sukūrė žmonės, ir kuris privalo tarnauti žmonėms. Lietuva, būdama moderni skaitmeninė valstybė, turi visą reikiamą teisinę bazę, kad apsaugotų savo piliečius nuo algoritminės savivalės.
Svarbiausia prisiminti: už kiekvieno automatizuoto „ne“ stovi teisinė prievolė paaiškinti kodėl. Naudokitės savo teise klausti, reikalaukite žmogaus įsikišimo ir nebijokite ginti savo privatumo bei teisingumo. Algoritmai gali būti greiti, bet teisingumas reikalauja žmogaus atidumo.
Jei šiandien gavote pranešimą, kuris atrodo neteisingas ir „suformuotas automatiškai“, nusišypsokite – jūs ką tik sužinojote, kad turite visas priemones tai pakeisti.