Weaponizing Machine Learning Against ISIS Will Tangle Military Chains of Command

Ang bawat tao sa internet ay nagkaroon ng isang mahusay na oras sa Tay, Twitter robot ng Microsoft na naging isang racist Holocaust denier sa isang bagay ng ilang oras (pagkatapos ay bumalik at ginawa ito muli). Ang kumpanya ay lumikha ng isang pampublikong relasyon flap - higit pang mga pangyayari kaysa sa isang kalamidad - habang nagbibigay sa publiko ng isang bagay na aralin sa mga kalamangan at kahinaan ng pag-aaral ng machine: Automation maaari pakinabangan ng mga pattern sa kamangha-manghang epekto sa bilis, ngunit ang mga resulta ay predictably mahirap upang mahulaan.

Tulad ng madalas ang kaso, ang militar ay isang maagang adopter ng teknolohiya ng automation. Ito ay - isang beses - na humahantong sa pagsingil patungo sa pag-aaral ng machine at din sinusubukan desperately upang panatilihin up. Ang isa sa mga pangunahing lugar ng focus para sa Pentagon ay mga autonomous na robot at kung paano sila makikipagtulungan sa mga tao - isang R2D2-style na robot wingman, halimbawa. Ngunit sa linggong ito, binabalangkas ng Deputy Secretary of Defense Robert Work ang isa pang gawain para sa A.I.: open-source data crunching.

"Kami ay tiyak na tiyak na ang paggamit ng malalim na pag-aaral ng machine ay upang payagan sa amin upang magkaroon ng isang mas mahusay na pag-unawa sa ISIL bilang isang network at mas mahusay na pag-unawa tungkol sa kung paano i-target ito nang tumpak at humantong sa pagkatalo nito," sinabi Kalihim Work, ayon sa Website ng DoD. Ayon sa ulat na iyon, Trabaho, na nagsasalita sa isang kaganapan na inorganisa ng Poste ng Washington, ay nagkaroon ng kanyang epiphany habang nanonood ng isang kumpanya ng Silicon Valley tech na nagpapakita ng "isang makina na kinuha sa data mula sa Twitter, Instagram at maraming iba pang pampublikong mapagkukunan upang ipakita ang Hulyo 2014 Flight Malaysia Airlines 17 shoot-down sa real time."

Ang mga pribadong kumpanya at tagapagpatupad ng batas ay nagsisikap na magkaroon ng kahulugan ng "malaking data" sa loob ng mahabang panahon. Ngunit ang militar ay may isang kalamangan: mapagkukunan. Gayundin, nakakuha sila ng access sa mga inuri na materyales.

Ang pamahalaan ng U.S. ay tila handa na pusta na ang mga algorithm ng software ay maaaring mag-uri-uriin sa pamamagitan ng napakalaking dami ng data na naroon upang matukoy ang mga target ng ISIS na kung hindi man ay maiwasan ang mga ito, at makita at maputol ang mga plots bago maisagawa ng mga tagaplano. Sinisikap ng gobyerno na pag-aralan ang social media upang mahulaan ang laki ng online protests. Walang tanong na ang makina-pag-aaral ay magbibigay ng mga analyst ng katalinuhan na nagtataas ng kapangyarihan upang magkaroon ng kahulugan ng yaman ng magagamit na impormasyon sa mundo. Ngunit kapag ang katalinuhan na iyon ay naging batayan kung saan nakuha ang isang nakamamatay na welga, ang mga isyu sa etika ay nagiging mas kumplikado, kahit na tila tapat sila.

Bagaman mabilis na sinabi ng Trabaho na ang Pentagon ay hindi "magtalaga ng nakamamatay na awtoridad sa isang makina," na nananatiling dulo ng laro. Sa ngayon, ang mga tao ay mananatili "sa loop," habang ang jargon ay napupunta. Subalit tulad ng sinuman na tumingin sa isang iPhone para sa isang ulat ng panahon kapag nakatayo sa tabi ng isang window alam, ang mga relasyon na mayroon kami sa aming mga aparato at software ay hindi simple. Kami ay may kapansanan na mapagkatiwalaan at madaling ginambala ng mga isyu ng UI.

"Ang pag-automate bias," ang pagkahilig para sa mga tao na lumayo sa mga machine, ay nagpapakita ng isang malinaw at lalong kasalukuyang panganib. Ang go-to example na ilarawan ang hindi pangkaraniwang bagay na ito ay kapag ang iyong telepono ay nagsasabi sa iyo na kumuha ng isang ruta sa paglalakbay na alam mo ay mali ngunit ginagawa mo rin ito, pagpapalagay na dapat alam ng telepono ang isang bagay na hindi mo ginagawa. Ito ay isang karaniwang problema sa konteksto ng hindi militar. Gayunpaman, kung ano ang lumalabas na Pentagon ay lumalakas na mas malapit, ang mga ulat ng banta na binubuo ng artipisyal na katalinuhan. Hindi namin alam ang anumang bagay tungkol sa potensyal na pagiging epektibo ng programang ito bukod sa mahirap na ipatupad ng mga tao.

Sa isang 2001 na papel sa pagtingin sa estudyante at mga propesyonal na piloto at pag-aalis ng bias, natagpuan ng mga mananaliksik na "sa mga sitwasyon kung saan ang tamang impormasyon ay magagamit upang i-cross check at tuklasin ang mga anomalya sa automation, ang mga error rate na humigit-kumulang 55% ay dokumentado sa parehong populasyon." na ang pagdaragdag ng isang karagdagang teammate ng tao ay hindi nagpapagaan ng problema.

Sa katulad na paraan, ang isang pag-aaral ng MIT mula sa nakaraang taon ay medyo nakakagambala na natagpuan na ang mga manlalaro ng computer at video game ay may "mas mataas na likas na kakayahan sa sobrang pag-aautomat." Iyon ay maaaring mangahulugan na ang mas maraming oras na ginugol namin sa pagtingin sa aming mga screen, mas pinagkakatiwalaan namin ang nakikita namin. Muli, ang problema ay hindi sa mga sistema na ginagamit namin, ngunit sa paraan na ginagamit namin ang mga ito. Ang kasalanan ay wala sa ating mga bituin, kundi sa ating sarili.

Ang malaking data ay mananatiling promising. Ang pag-aaral ng machine ay nananatiling promising. Ngunit kapag nagpapayo sa mga tao ang mga machine, ang mga resulta ay predictably unpredictable. Ang pagbabago ba ng Tay sa isang neo-Nazi misogynist ay nangangahulugan na ang Twitter ay napopoot sa mga Judio at kababaihan? Mahirap malaman, ngunit medyo malamang na hindi. Kapag hindi namin maintindihan ang proseso sa pamamagitan ng kung paano naging mga output ang mga input, nagsusumikap kami upang harapin ang mga resulta sa isang makatuwiran na paraan. Na inilalagay ang Pentagon sa isang kagiliw-giliw na posisyon. Ang mga programming ba ng mga tao ay ang software ng pag-aaral ng machine ng militar na magiging mga mag-order ng mga airstrike? Hindi iyan kung paano gumagana ang kadena ng utos, ngunit ang mga tanikala ng command ay nahihirapan kapag nakakuha ng teknolohiya.