Pētījums: algoritms, kas ir "neobjektīvs pret melniem" aiz slikta ieslodzīto recidīvisma prognozēm

Algoritmi ir tikpat neobjektīvi kā cilvēki, kas tos dara. Izmeklēšana ProPublica konstatēja, ka Northpointe, algoritma veidotāji, kas mēģina paredzēt ieslodzīto varbūtību izdarīt citu noziegumu, prognozē, ka melnādainie cilvēki ir daudz biežāk izdarījuši noziegumu pēc izkāpšanas no baltajiem cilvēkiem.

Algoritms izveido “riska novērtējumu” ieslodzītajiem. To izmanto visā valstī, lai vadītu cietuma atbrīvošanas datumus. Pēc vairāk nekā 7000 cilvēku datu analīzes Browardas apgabalā Floridā, rasistisko algoritmu realitāte ir skaidra: melnie apsūdzētie gandrīz divas reizes biežāk nekā baltie apsūdzētie ieguva prognozi par cita nozieguma izdarīšanu.

Analīze tika kontrolēta tādiem mainīgajiem lielumiem kā dzimums un krimināls. Tomēr, melnādainie tika prognozēti kā 77% lielāka iespēja izdarīt vardarbīgu noziegumu nākotnē un 45% varētu izdarīt jebkādus turpmākus noziegumus. Tāpat satraucoši ir tas, ka tikai 20 procenti no Northpointe prognozēm par to, kas izdarīs turpmākus vardarbīgus noziegumus, ir precīzi.

Northpointe izmanto 137 jautājumus, lai spriestu par nozieguma izdarītāju potenciālu. Tā kā ProPublica ziņo, jautājumi neizraisa jautājumu par sacīkstēm. Daži jautājumi tomēr var būt saistīti.

Jautājumu piemēri ir: „Vai viens no jūsu vecākiem jebkad tika nosūtīts uz cietumu vai cietumu?” Un „Cik bieži jūs cīnījāties skolā?” Ir arī jā / nē jautājumi, piemēram, „izsalcis ir tiesības citi faktori ietver izglītības līmeni un to, vai personai ir darbs.

ProPublica sīki izklāsta precīzas metodes, kā viņi piekļuva un analizēja Northpointe datus skaidrojošā rakstā, un Northpointe nosūtīja vēstuli ProPublica, norādot, ka uzņēmums “nepiekrīt, ka to analīzes rezultāti vai apgalvojumi, kas izteikti, pamatojoties uz to analīze ir pareiza vai ka tie precīzi atspoguļo modeļa piemērošanas rezultātus. ”

ProPublica rezultāti, ja ne neticami pārsteidzoši, ir saistīti. Riska novērtējumi tiek izmantoti, lai saprastu un noteiktu obligāciju summas; deviņās valstīs tie pat ietekmē sodu.

Tehnoloģija nav gala risinājums katrai problēmai, jo īpaši ņemot vērā tehnoloģiju, ir tikpat kļūdaina kā cilvēki, kas to dara.