Deepfakes Sigurado Walang Pareha para sa Pag-aaral ng Machine - Narito Bakit

Ang isang bagong anyo ng maling impormasyon ay nakahanda na kumalat sa pamamagitan ng mga online na komunidad habang ang mga kampanya ng halalan sa kalagitnaan ng 2018 ay napainit. Tinatawag na "deepfakes" pagkatapos ng pseudonymous online account na nagpopolarized ng pamamaraan - na maaaring napili ang pangalan nito dahil ang proseso ay gumagamit ng isang teknikal na pamamaraan na tinatawag na "malalim na pag-aaral" - ang mga pekeng video na mukhang napaka makatotohanang.

Sa ngayon, ang mga tao ay gumamit ng malalim na mga video sa pornograpiya at pangungutya upang ipakita na ang mga sikat na tao ay gumagawa ng mga bagay na hindi nila normal. Ngunit ito ay halos ilang mga deepfakes ay lilitaw sa panahon ng kampanya, na purporting upang ilarawan ang mga kandidato na nagsasabi ng mga bagay o pagpunta lugar ang tunay na kandidato ay hindi.

Dahil ang mga pamamaraan na ito ay bago, ang mga tao ay nagkakaroon ng suliranin na nagsasabi ng pagkakaiba sa pagitan ng mga tunay na video at mga video ng malalim. Ang aking trabaho, kasama ang aking kasamahan na si Ming-Ching Chang at ang aming Ph.D. mag-aaral Yuezun Li, ay natagpuan ang isang paraan upang mapagkakatiwalaan sabihin tunay na mga video mula sa deepfake video. Ito ay hindi isang permanenteng solusyon, dahil ang teknolohiya ay magpapabuti. Ngunit ito ay isang panimula, at nag-aalok ng pag-asa na ang mga computer ay maaaring makatulong sa mga tao sabihin ang katotohanan mula sa fiction.

Ano ang isang "Deepfake," Anyway?

Ang paggawa ng malalim na video ay tulad ng pagsalin sa pagitan ng mga wika. Ang mga serbisyo tulad ng Google Translate ay gumagamit ng pag-aaral ng machine - pagtatasa ng computer ng libu-libong mga teksto sa maraming wika - upang makita ang mga pattern ng paggamit ng salita na ginagamit nila upang lumikha ng pagsasalin.

Gumagana ang mga algorithm ng deepfake sa parehong paraan: Gumagamit sila ng isang uri ng sistema ng pag-aaral ng makina na tinatawag na isang malalim na neural network upang suriin ang mga paggalaw ng mukha ng isang tao. Pagkatapos ay tinutulak nila ang mga larawan ng mukha ng ibang tao na gumagawa ng mga analogous na paggalaw. Ang paggawa nang mabisa ay lumilikha ng isang video ng target na taong lumilitaw na gawin o sasabihin ang mga bagay na ginawa ng pinagmulang tao.

Bago sila makapagtrabaho ng maayos, ang mga malalim na neural network ay nangangailangan ng maraming impormasyon sa pinagmulan, tulad ng mga larawan ng mga tao na pinagmumulan o target ng pagpapanggap. Ang mas maraming mga imahe na ginagamit upang sanayin ang isang deepfake algorithm, mas makatotohanang ang digital na pagpapanggap ay magiging.

Detecting Blinking

Mayroon pa ring mga kakulangan sa bagong uri ng algorithm na ito. Ang isa sa mga ito ay may kinalaman sa kung paano ang simulate ang mga mukha magpikit - o hindi. Ang malulusog na pang-adultong mga tao ay kumikislap sa pagitan ng bawat dalawa at 10 segundo, at ang isang blink ay tumatagal sa pagitan ng ika-sampung at apat na-ikasampung segundo. Iyon ang magiging normal na makita sa isang video ng isang taong nagsasalita. Ngunit hindi kung ano ang nangyayari sa maraming malalim na video.

Kapag ang isang deepfake algorithm ay sinanay sa mga larawan sa mukha ng isang tao, umaasa ito sa mga larawan na magagamit sa internet na maaaring magamit bilang data ng pagsasanay. Kahit na para sa mga taong madalas na nakunan ng litrato, ilang mga larawan ang magagamit online na nagpapakita ng kanilang mga mata sarado. Hindi lamang mga larawan tulad ng bihirang iyon - dahil ang mga mata ng mga tao ay bukas sa halos lahat ng oras - ngunit hindi karaniwang inilalabas ng mga photographer ang mga larawan kung saan ang mga mata ng mga pangunahing paksa ay isinara.

Kung walang pagsasanay na mga larawan ng mga tao na kumikislap, ang mga algorithm ng malalim ay mas malamang na lumikha ng mga mukha na normal na blink.Kapag tinitingnan natin ang pangkalahatang rate ng kumikislap at ihambing ito sa likas na hanay, natagpuan namin na ang mga character sa malalim na mga video ay kumurap ng maraming mas madalas sa paghahambing sa mga totoong tao. Ang aming pananaliksik ay gumagamit ng machine learning upang suriin ang pagbubukas ng mata at pagsasara sa mga video.

Tingnan din ang: Hollywood ay Hindi Magtatapon ng mga Asian-American na Bituin, ngunit A.I. Maari sa Pag-aaral ng Machine

Nagbibigay ito sa amin ng isang inspirasyon upang makita ang mga malalim na video. Sa dakong huli, nagkakaroon kami ng paraan upang makita kung ang tao sa video ay kumikislap. Upang maging mas tiyak, ini-scan nito ang bawat frame ng isang video na pinag-uusapan, nakita ang mga mukha nito, at pagkatapos ay awtomatikong tinutukoy ang mga mata. Pagkatapos nito ay gumagamit ng isa pang malalim na neural network upang matukoy kung ang nakitang mata ay bukas o sarado, gamit ang hitsura ng mata, mga tampok na geometric, at kilusan.

Alam namin na ang aming trabaho ay sinasamantala ng isang kapintasan sa uri ng data na magagamit upang sanayin ang mga algorithm ng deepfake. Upang maiwasan ang pagbagsak ng biktima sa isang katulad na kapintasan, sinanay namin ang aming system sa isang malaking library ng mga larawan ng parehong bukas at sarado na mga mata. Ang pamamaraan na ito tila gumagana nang maayos, at bilang isang resulta, nakamit namin ang higit sa 95-porsiyento rate ng pagtuklas.

Hindi ito ang pangwakas na salita sa pagtuklas ng mga deepfake, siyempre. Ang teknolohiya ay mabilis na nagpapabuti, at ang kumpetisyon sa pagitan ng pagbuo at pagtuklas ng mga pekeng video ay kahalintulad sa laro ng chess. Sa partikular, ang kumikislap ay maaaring idagdag sa malalim na mga video sa pamamagitan ng pagsasama ng mga imahe ng mukha na may mga closed eye o paggamit ng mga sequence ng video para sa pagsasanay. Ang mga taong gustong malito ang publiko ay magiging mas mahusay sa paggawa ng mga maling video - at kami at ang iba pa sa komunidad ng teknolohiya ay kailangang patuloy na makahanap ng mga paraan upang makita ang mga ito.

Ang artikulong ito ay orihinal na na-publish sa The Conversation ni Siwei Lyu. Basahin ang orihinal na artikulo dito.