Hinahalagahan ng Programa ng Karaniwang Computer ang Recidivism bilang Mahina bilang Mga Tao

$config[ads_kvadrat] not found

Ang Mga Panganib Na Dulot ng Malware at Computer Virus EPP ICT 4

Ang Mga Panganib Na Dulot ng Malware at Computer Virus EPP ICT 4
Anonim

Tulad ng isang propesyonal na chef o isang siruhano sa puso, isang algorithm sa pag-aaral ng machine ay kasing ganda lamang ng pagsasanay na natatanggap nito. At habang lumalawak ang mga algorithm at naghahatid ng mga desisyon para sa mga tao, natutuklasan namin na marami sa kanila ay hindi nakatanggap ng pinakamahusay na edukasyon, tulad ng gayahin nila ang lahi ng tao at biases na nakabatay sa kasarian at lumikha ng mga bagong problema.

Para sa mga kadahilanang ito, partikular na may kinalaman sa maraming mga estado, kabilang ang California, New York, at Wisconsin, gumamit ng mga algorithm upang mahulaan kung saan ang mga tao ay magkakaroon ng mga krimen muli pagkatapos na sila ay nakulong. Kahit na mas masahol pa, ito ay hindi kahit na tila sa trabaho.

Sa isang papel na inilathala sa Miyerkules sa journal Mga Paglago sa Agham, isang pares ng mga siyentipiko ng computer sa Dartmouth College ang natagpuan na ang isang malawakang ginagamit na programa ng computer para sa predicting recidivism ay hindi mas tumpak kaysa sa ganap na hindi pinag-aralan na mga sibilyan. Ang program na ito, na tinatawag na Pagproseso sa Pamamahala ng Pagkakasala para sa Alternatibong mga Pananagutan, ay pinag-aaralan ang 137 iba't ibang mga kadahilanan upang matukoy kung gaano man malamang na ang isang tao ay magkasala ng isa pang krimen pagkatapos na palayain. Ang COMPAS ay isinasaalang-alang ang mga kadahilanan tulad ng paggamit ng sangkap, panlipunang paghihiwalay, at iba pang mga elemento na maaaring magresulta sa pag-receptivism ng mga kriminologist, pagraranggo ng mga tao bilang mataas, katamtaman, o mababang panganib.

At sigurado, ang pagtataya sa peligro ay mahusay. Bakit hindi magkaroon ng higit na data upang matulungan ang mga korte na matukoy kung sino ang mas malaking panganib? Ngunit kung ano ang natuklasan ng mga siyentipiko sa computer na Dartmouth na si Julia Dressel at Hany Farid na ang mga hindi pinag-aralang mga indibidwal ay tama na hinuhusgahan ang residivism na panganib na halos pareho ang katumpakan ng COMPAS, na nagpapahiwatig na ang diumano'y kapangyarihan ng algorithm ay hindi talaga doon.

Sa isang pagsubok na kasama lamang ang isang maliit na bahagi ng impormasyon na ginagamit ng COMPAS (pitong kadahilanan sa halip na 137, at hindi kasama ang lahi), isang pangkat ng mga tao na boluntaryo sa internet, na baka walang pagsasanay sa kriminal na pagtatasa ng panganib, sinusuri ang mga ulat ng kaso. Tama nilang tinantiya ang recidivism ng isang tao na may 67 porsiyento katumpakan, kumpara sa 65 porsiyento kawastuhan ng COMPAS.

Maghintay ng ilang sandali upang maubusan ang mga iyon. Ang mga di-sinanay na mga tao sa web ay mas mahusay na mag-aral kung ang isang tao ay babalik sa bilangguan kaysa sa tool na literal na dinisenyo upang mahulaan kung ang isang tao ay babalik sa bilangguan. At mas malala pa ito. Kapag nagdadagdag ka ng isang lahi ng akusado, ang mga false-positive at false-negative rate ng boluntaryo ay nasa loob lamang ng ilang porsyento na punto ng COMPAS's. Kaya hindi lamang ang COMPAS hindi na mahusay sa predicting recidivism, ito ay tulad ng madaling kapitan ng sakit sa panlahi bias bilang mga tao ay. Magkano para sa malamig na lohika ng mga computer.

Ang mga mananaliksik ay gumawa ng isang linear na modelo na tumutugma sa prediksyon na rate ng COMPAS na may dalawang kadahilanan lamang: edad at bilang ng mga nakaraang mga paniniwala. Lamang upang maging malinaw, hula na ito ay magiging hindi patas, ngunit ito ay nagpapakita lamang kung paano flawed Compas ay.

At habang ang pananaliksik na ito ay bago, ang mga big takeaways na ipinapatupad nito ay hindi. Sa isang pagsisiyasat sa 2016, ProPublica napag-alaman ng mga reporters na hindi lamang ang COMPAS ang hindi kapani-paniwala, ito ay talagang sistematikong kampi laban sa mga Aprikanong Amerikano, ang patuloy na rating ng mga itim na tao bilang mas mataas na panganib kaysa sa mga puti na nakagawa ng mas malubhang krimen. Sana, ang bagong pananaliksik na ito ay tutulong sa paghandaan ang paraan para sa mga proseso ng pagtatasa ng panganib ng juster sa sistema ng hustisyang kriminal.

Ang katotohanan na ang COMPAS ay walang silbi sa pinakamainam at malalim na pinapanigal sa pinakamabigat na nagmumungkahi na ang mga pagtatasa ng panganib na nakabatay sa computer ay maaaring lumalim sa mga kawalang-katarungan na dapat itaguyod ng sistema ng hustisya.Dahil ang mga marka ng pagtatasa ng panganib ay maaaring ilapat sa anumang hakbang ng proseso ng hustisya sa krimen, kabilang ang pagtatakda ng bono ng isang tao, pagtukoy kung binigyan sila ng parol, at sa ilang mga estado, kahit na para sa pagpapasiya ng pangungusap ng isang tao, ang pananaliksik na ito ay nagpapahiwatig ng isang muling suriin ang paggamit ng COMPAS at iba pang mga programa.

$config[ads_kvadrat] not found