ShutterstockKodėl veido atpažinimo technologijos yra šališkos?
Dirbtinis intelektas (DI) šiuolaikinėje visuomenėje dažnai tapatinamas su sprendimų priėmimo objektyvumu. Tai sukuria klaidingą įspūdį, kad ši technologija yra atspari klaidoms, kurias daro žmonių akys ir protas, bei yra neutrali tada, kai žmonės įprastai remiasi vidiniais įsitikinimais ar stereotipais. Vis dėlto DI nėra visiškai savarankiškas algoritmas, verčiau žmogaus sukurtų kodų rinkinys, apimantis žmogiškas taisykles, požiūrį ir, žinoma, žmogiškas klaidas. DI pagrindu veikiančios veido atpažinimo technologijos – puikus to pavyzdys.
Veido atpažinimo technologijos – biometrinės sistemos, kurias viešieji subjektai (pavyzdžiui, teisėsaugos institucijos) ir privačios įmonės dažnai naudoja autentifikavimo (tikrinimo), identifikavimo ir skirstymo į kategorijas tikslais. Autentifikuodama sistema jau turimą informaciją sulygina su jai pateiktu veidu ir nustato, ar tai yra tas pats asmuo. Su šia funkcija susiduriame, pavyzdžiui, kai norime atrakinti savo išmanųjį įrenginį ar pateikiame pasą oro uoste automatiniuose pasienio patikros varteliuose. Asmens identifikavimo galimybė pasitelkiant veido atpažinimo technologijas palengvina tokių institucijų kaip policija funkcijų įgyvendinimą, leidžia operatyviai nustatyti įtariamųjų tapatybę. Identifikavimo metu asmens biometrinis profilis lyginamas su turima informacija (fotografija pasų, vairuotojo pažymėjimų duomenų bazėje) ir veido atpažinimo technologija suranda artimiausią atitikmenį. Pagal biometrinius duomenis taip pat galima nustatyti žmogaus lytį, amžių ar rasę. Nustačius veide emociją asmuo gali būti identifikuojamas kaip taikus ar agresyvus. Teigiama, kad veido biometriniai duomenys gali padėti atskleisti net ir žmogaus politines pažiūras ar seksualinę orientaciją.
Vis dėlto veido atpažinimo technologijas viešosioms funkcijoms vykdyti pasitelkiant vis daugiau valstybių, pastebėta, kad neretai nepakankamai apgalvotas DI panaudojimas veda prie „skaitmeninės diskriminacijos“ fenomeno, kurio pirmtakas – šališkumas. DI šališkumas iš esmės reiškia sistemingą palankumą ar diskriminaciją asmenų ar jų grupių atžvilgiu sprendimų priėmimo procese. Pavyzdžiui, JAV buvo pastebėtas veido atpažinimo technologijų netikslus veikimas bei šališkumas juodaodžių asmenų atžvilgiu, ir vadovaudamosi netiksliais šių technologijų pateiktais duomenimis teisėsaugos institucijos jau ne kartą yra neteisėtai sulaikiusios nekaltus asmenis. Kyla klausimas, kodėl, nors šališkumą asocijuojame su žmogaus prigimtimi ir šaltakraujai algoritmai perima šią nepageidautiną savybę?
