A.I. Research Institute Ipinapakita Paano Gumawa ng Responsableng Algorithm

$config[ads_kvadrat] not found

Artificial intelligence & algorithms: pros & cons | DW Documentary (AI documentary)

Artificial intelligence & algorithms: pros & cons | DW Documentary (AI documentary)
Anonim

Ang Institute ng Pananaliksik AI Ngayon ay naglathala ng mga bagong rekomendasyon para sa responsableng pagpapatupad ng mga algorithm sa pampublikong globo sa Miyerkules.Ang kanilang payo ay nakatuon sa isang puwersang gawain na nabuo ng Konseho ng Lungsod ng New York noong Enero na nag-aaral ng paggamit ng gobyerno ng artipisyal na katalinuhan.

AI Ngayon ang ulat, Algorithmic Impact Assessments: Patungo sa Accountable Automation sa Public Agencies, binabalangkas ang pangangailangan para sa transparency pagdating sa pag-deploy ng mga algorithm. Ang mga algorithm ay may malaking epekto sa ating pang-araw-araw na buhay, ngunit ang kanilang epekto kung minsan ay hindi napapansin. Dahil ang mga ito ay inihurnong sa imprastraktura ng social media at mga platform ng video, halimbawa, madaling malimutan na ang mga programa ay madalas na matukoy kung anong nilalaman ang pinupukaw sa mga gumagamit ng internet. Ito ay lamang kapag may naganap na mali, tulad ng isang video ng teorya ng pagsasabwatan na umaabot sa tuktok ng nagte-trend na listahan ng YouTube, na sinusuri namin ang mga automated na pamamaraan ng desisyon na hugis ng mga karanasan sa online.

At ang mga algorithm ay hindi limitado sa mga platform ng internet. Ang mga institusyon ng gubyerno ay lalong umaasa sa mga algorithm, sa mga larangan mula sa edukasyon hanggang sa hustisyang kriminal. Sa isang perpektong mundo, ang mga algorithm ay mag-aalis ng mga bias ng tao mula sa mga mahihirap na desisyon, tulad ng pagtukoy kung o hindi ang isang bilanggo ay dapat bigyan ng parol. Sa pagsasagawa, gayunpaman, ang mga algorithm ay kasing epektibo lamang ng mga taong gumagawa ng mga ito.

Halimbawa, ang pagsisiyasat ng ProPublica nagpakita na ang mga algorithm sa pagtatasa ng panganib na ginagamit sa mga courtroom ay may bias ng lahi. Upang mas malala ang bagay, marami sa mga algorithm na ginamit sa pampublikong sektor ay pribadong pag-aari, at ang ilang mga kumpanya ay tumangging ibahagi ang code na pinagbabatayan ng kanilang software. Iyan ay imposible na maunawaan kung bakit ang mga tinatawag na "itim na kahon" na mga algorithm ay nagbabalik ng ilang mga resulta.

Isang potensyal na solusyon na inaalok ng AI Now? Pagtatasa ng Epekto ng Algorithmic. Ang mga pagsusuri ay nagtataguyod ng isang pamantayan ng kumpletong transparency, ibig sabihin na ang mga ahensya ng gobyerno na gumagamit ng mga algorithm ay kailangang mag-patalastas kung kailan at paano nila ginagamit ang mga ito. "Ang iniaatas na ito sa pamamagitan ng kanyang sarili ay magiging isang mahabang paraan patungo sa pagpapadanak ng liwanag kung saan ang mga teknolohiya ay ipinakalat upang maglingkod sa publiko, at kung saan ang pananaliksik sa pananagutan ay dapat na nakatutok," sabi ng ulat.

Ang isang patakaran ng pagiging bukas na nakapaligid na mga algorithm ay magbubukas din ng pinto para sa mga mamamayan na suriin at protesta ang kanilang paggamit. Gusto mo ba ng isang algorithm na magbibigay sa iyo ng isang marka ng pagtatasa ng panganib batay sa mga kadahilanan sa labas ng iyong kontrol, lalo na kapag ang iskor ay makakatulong matukoy kung ikaw ay pupunta sa bilangguan? Siguro oo siguro hindi. Alinmang paraan, mahalagang malaman kung ano mismo ang mga variable na sinusuri ng algorithm.

Bukod dito, inirerekomenda ng AI Now ang isang legal na pamantayan para sa mga tao na mag-lobby laban sa mga hindi patas na algorithm.

Halimbawa, kung nabigo ang isang ahensiya na ibunyag ang mga system na makatwirang naaayon sa saklaw ng mga gumagawa ng mga awtomatikong desisyon, o kung pinapayagan nito ang mga vendor na gumawa ng mga barko sa lihim na kalakalan sa kalakalan at sa gayon ay humaharang ng makabuluhang pag-access ng system, ang publiko ay dapat magkaroon ng pagkakataon na itaas ang mga alalahanin sa isang ahensya ng pangangasiwa ng ahensiya, o direkta sa isang hukuman ng batas kung ang ahensiya ay tumangging iwasto ang mga problemang ito pagkatapos ng pampublikong panahon ng komento.

Ang mga rekomendasyon ay mahalagang pigsa sa isang overarching na utos: Kung gumagamit ka ng mga algorithm, huwag maging malilim tungkol dito.

Basahin ang buong ulat dito.

$config[ads_kvadrat] not found