Ang mga mananaliksik ay nagmumula sa Utak ng Tao upang Gumawa ng Low-Power Neural Network

$config[ads_kvadrat] not found

Logistic Regression (C1W2L02)

Logistic Regression (C1W2L02)
Anonim

Ang mga neural network - o mga artipisyal na replika ng utak ng tao - hayaan ang mga siyentipiko at inhinyero na isagawa ang pagtatasa na kukuha ng edad ng mga tao. Maaari silang magbuhos sa walang katapusang mga talahanayan ng data at ituro ang mga pagkakaiba sa mga larawan na hindi napapansin ng mga tao.

Mayroon silang isang sagabal kahit na: Ang pinakamahusay na mga neural nets sa laro ay gumagamit ng isang hindi kapani-paniwala na halaga ng enerhiya upang gawin ang kanilang trabaho.

"Ilang taon na ang nakalilipas sinubukan ng IBM na gayahin ang aktibidad ng utak ng isang pusa sa isang supercomputer at natapos nila ang pag-ubos ng megawatts ng kapangyarihan," sabi ng researcher ng Purdue University na si Abhronil Sengupta Kabaligtaran. "Ang biyolohikal na utak ng tao ay kumakain kahit saan malapit na magkano. Ito ay hindi isang direktang one-to-one paghahambing sa isang neural network, ngunit ito ay dapat magbigay sa iyo ng isang pagtatantya ng kung paano kapangyarihan-gutom computing system ay."

Ang Sengupta at isang koponan ng mga siyentipiko ng computer sa Purdue University at ang Institute of Electrical and Electronics Engineers (IEEE) ay dumating sa isang paraan upang makakuha ng mga neural network upang ubusin ang mas kaunting enerhiya habang ginagawa pa rin ang trabaho ng kick-ass. Ang isang papel na kanilang na-post sa preprint site na arXiv ay nagpapaliwanag kung paano kinuha nila ang inspirasyon mula sa utak ng tao at ipinatupad ang kanilang ideya upang payagan ang kanilang neural net upang ubusin ang halos 11 beses na mas mababa enerhiya kaysa sa tradisyonal na mga sistema ay.

Ang kanilang diskarte ay gumagamit ng spiking neural network, o SNN. Hindi tulad ng kanilang mga katapat, ang mga sistema ng computational ay sumasalamin sa mga biological neuron mas tumpak.

Ang mga pamantayan ng neural nets ay binubuo ng libu-libong nodes na ginagamit upang gumawa ng mga desisyon at paghuhusga tungkol sa data na iniharap sa kanila. Ang output mula sa mga ito ay depende sa kung ano ang kasalukuyang iniharap, habang ang SNN output ay depende sa nakaraang stimuli pati na rin. Ang mga node sa isang SNN ay gagana lamang kapag ang isang antas ng pampasigla ay naabot. Kaya sa halip na Patuloy pagpasa ng data sa iba pang mga node, ang mga node ng SNN ay pumasa lamang sa impormasyon kapag sila kailangan.

Ito ay karaniwan nang nagmumula sa isang higanteng gastos sa enerhiya dahil ang karamihan sa mga sistemang ito ay ginawa gamit ang tinatawag na komplementaryong teknolohiyang metal-oksido-semikonduktor, o CMOS. Ginagawa ng tech na iyon ang lahat ng mga chips sa iyong laptop at ginagamit bilang mga bloke ng gusali para sa mga neural network. Para sa kanilang pag-aaral ang pangkat ng mga mananaliksik ay nagtagod ng CMOS tech at nagtayo ng isang SNN na ginawa nang ganap sa mga memristor.

Maikling para sa "memory resistors," ang mga de-koryenteng pagtutol ng memristors ay depende sa kung magkano ang singil sa kuryente sa pamamagitan nito sa nakaraan. Kaya hindi tulad ng CMOS tech, ito ay magagawang "matandaan" kung ano ang pumasa sa pamamagitan nito bago, na kung saan ay kung ano mismo ang nodes sa SNNs kailangang gawin.

Ang mga resulta ng pag-aaral ay nagpakita na ang mga memristors gayahin ang biological neuron medyo na rin. Nakikipag-usap sila sa isa't isa gamit ang mga spike, o maikling pagsabog ng enerhiya, kumpara sa isang patuloy na daloy ng kapangyarihan. Ang memristor-SNN ay may bahagyang pagbawas sa katumpakan kapag ginagamit ito para sa pag-uuri ng imahe kumpara sa mga CMOS counterparts nito, ngunit kinuha ito ng isang bahagi ng karaniwang pamantayan ng mga neural nets.

Bago ang pag-aaral na SNN na ito ay ang pinakamalapit na bagay sa isang artipisyal na utak ng tao na mayroon kami, ngunit ang malaking halaga ng kapangyarihan na kinuha nila upang gamitin ay nakansela ang ilan sa kanilang mga benepisyo. Kung ang ibang mga siyentipiko ay maaaring magtaguyod ng mga neural network na nakapag-iimbak ng kapangyarihan, maaari itong pahintulutan ang mga ito na gumawa ng higit pa sa mas kaunting enerhiya at lumalapit sa kanila upang maunawaan kung paano magtiklop ang biological na utak.

$config[ads_kvadrat] not found