Veido atpažinimas neproporcingai kenkia spalvotiems žmonėms, moterims – New Hampshire Bulletin

Veido atpažinimas neproporcingai kenkia spalvotiems žmonėms, moterims – New Hampshire Bulletin

Veido atpažinimo technologija suteikia mūsų vyriausybei, įmonėms ir asmenims precedento neturinčios galios sekti ir registruoti kiekvieną mūsų žingsnį – kur mes garbiname, ieškome terapijos, lankomės pas sveikatos priežiūros paslaugų teikėją, protestuojame, susitinkame su draugais ir dar daugiau. Tai yra, kai jis veikia taip, kaip reklamuojama.

Nors veido atpažinimo technologija iš esmės yra įrankis, leidžiantis vyriausybėms sukurti visą stebinčią stebėjimo būseną, praktiškai ši technologija pasižymi šokiruojančiu klaidų lygiu, kuris stulbinančiu dažniu klaidingai identifikuoja juodaodžius ir rudus vyrus ir moteris. Šios klaidos turi realių pasekmių.

Technologijos kišimasis į privatumą ir tikslumo trūkumai leidžia suprasti, kad Naujasis Hampšyras turėtų uždrausti veido atpažinimą – ir, laimei, mūsų įstatymų leidėjai turi galimybę tai padaryti.

Atstovų rūmų įstatymo projektas 1447, antradienį svarstomas NH House Transporto komitete, uždraus Naujojo Hampšyro valstijos agentūroms naudoti šią pavojingą technologiją. Raginame įstatymų leidėjus ir vyr. Chrisas Sununu paremti šį teisės aktą.

Vis dar nesate tikri? Pradėkime nuo jo klaidų lygio.

2018 m. MIT tyrimų grupė nustatė, kad ši technologija gana gerai veikė analizuojant baltųjų vyrų veidus, bet suklydo daugiau nei vieną iš trijų kartų klasifikuojant juodaodžių moterų veidus. Nuo tada tyrimai po tyrimo buvo prieita prie panašių išvadų, įskaitant vieną iš Nacionalinio standartų ir technologijų instituto, kuriame nustatyta, kad dauguma algoritmų klaidingai atitiko juodaodes moteris 10–100 kartų dažniau nei baltaodžius vyrus ir klaidingai suderino baltaodes moteris. nuo dviejų iki 10 kartų dažniau nei baltaodžiai vyrai.

Šis klaidų lygis netgi buvo taikomas Kongreso nariams. Atliekant veido atpažinimo įrankio ACLU testą, 28 Kongreso nariai buvo klaidingai suderinti su nuotraukų duomenų baze. Ir, kaip matėme kituose tyrimuose, klaidingos rungtynės neproporcingai paveikė spalvotus įstatymų leidėjus. Nors spalvoti įstatymų leidėjai sudarė 20 procentų visų Kongreso narių, jie sudarė 39 procentus klaidingų atitikmenų.

Šios klaidingos atitikties gali pakenkti realiam pasauliui. Pavyzdžiui, juodaodis Robertas Williamsas buvo sulaikytas Detroito policijos priešais jo žmoną ir dvi mažametes dukteris ant priekinės pievos ir 30 valandų praleido kalėjimo kameroje, nes algoritmas padarė klaidingą atitiktį. Nors policija vėliau pripažino klaidą, žalos nepavyko ištaisyti.

Žiniasklaidos pranešimų dėka žinome, kad dar mažiausiai du juodaodžiai buvo neteisingai areštuoti dėl netikrų rungtynių. Tačiau tikrasis šios žalos mastas lieka nežinomas, nes beveik trūksta vyriausybės skaidrumo šios technologijos atžvilgiu.

Ir vyriausybės nesiliauja su teisėsauga. Dabar matome, kad jo technologija su gerai dokumentuotais trūkumais naudojama mokyklose ir viešuosiuose būstuose.

Dabar skirkite akimirką ir įsivaizduokite, kad ši technologija veikė taip, kaip nurodyta: net ir tada tai vis dar yra pilietinių laisvių košmaras. Šios technologijos derinimas su esamais stebėjimo kamerų tinklais leidžia vyriausybei vieno mygtuko paspaudimu stebėti ir saugoti visus mūsų viešuosius judėjimus.

Tai nėra teorinis susirūpinimas: Kinija diegia šią technologiją, kad galėtų stebėti savo gyventojų judėjimą, įskaitant tai, kaip dažnai ir kur žmonės meldžiasi, ir jų socialinius bei profesinius kontaktus.

Toks masinis ir visiškas stebėjimas Naujajame Hampšyre neturi reikalo.

Šis draudimas būtų grindžiamas svarbiu pirmuoju žingsniu, kurį mūsų valstybė žengė 2016 m., kai buvo uždrausta naudoti veido atpažinimo technologiją ieškant vaizdo įrašų, surinktų iš policijos kūno kamerų.

Raginame įstatymų leidėjus paremti HB 1447. Pats laikas suvaldyti šią didelę grėsmę Granite Staters.

Leave a Comment

Your email address will not be published.