Ang OpenAI ng Elon Musk ay Maaaring Maging Muscle para sa Ligtas na Artipisyal na Pag-intindi sa Pananaliksik

Sa katapusan ng linggo, ang Elon Musk, Sam Altman, at iba pang mga Bigwigs sa Silicon Valley ay di-inaasahang inihayag ang paglulunsad ng OpenAI, isang di-nagtutubong kumpanya na naglalarawan ng layunin nito bilang: "upang isulong ang digital na katalinuhan sa paraan na malamang na makikinabang sa sangkatauhan sa kabuuan, na hindi nalilimutan ng pangangailangan upang makabuo ng pinansiyal na pagbabalik."

"Dahil ang aming pananaliksik ay libre mula sa mga obligasyong pinansyal, maaari naming mas mahusay na nakatuon sa positibong epekto ng tao. Naniniwala kami na A.I. ay dapat na isang extension ng mga indibidwal na kalooban ng tao at, sa espiritu ng kalayaan, bilang malawak at pantay na ipinamamahagi hangga't maaari."

Mayroong dalawang pangunahing takeaways mula sa patalastas na ito. Ang una ay ang Musk at kumpanya ay nakikita A.I. pananaliksik ngayon bilang masyadong makitid na nakatutok sa pagkamit ng panandaliang praktikal na halaga, at nais nilang tulungan itulak ang mga endeavors na kumukuha ng mas malawak, komprehensibong diskarte sa pagbuo ng A.I. mga sistema. Ang ikalawa, mas nakayayamot na takeaway ay na ang Musk ay nababahala pa rin tungkol sa potensyal ng A.I. na gumawa ng pinsala kung tayo ay bumuo at nagpapakilala ng mga kalahating inihurnong sistema. Ang dati ay tinatawag na A.I. "Ang aming pinakamalaking banta sa pag-iiral" at iminungkahi na ang pangangasiwa sa pangangasiwa ay maaaring kinakailangan upang maiwasan ang mga potensyal na panganib. Maaaring maging isang paraan ng OpenAI ang pangangasiwa na iyon nang walang pangangailangan para sa isang pederal na asong tagapagbantay.

Ano ang ginagawa ng Musk at ng kanyang mga kasamahan na iba sa ginawa ng iba. Pagkatapos ng lahat, open source A.I. ay walang bago. Ginawa ng Google ang kanilang sariling A.I. software open source noong nakaraang buwan at ito ay naging pantay standard na pamamaraan. Ngunit sa isang endowment na $ 1 bilyon, ang OpenAI ay isa sa mga pinakamalaking organisasyon na nagtatrabaho sa A.I. pananaliksik, at medyo madali ang pinakamalaking hindi pangkalakal. Ang layunin nito ay upang gawing pampubliko ang mga resulta nito at ang lahat ng mga patent nito ay libre sa royalty. Mayroon silang isang karot at isang stick at nais nilang gamitin ito upang patnubayan ang isang industriya.

Ang ideya ay ang paggamit ng OpenAI bilang isang uri ng panimbang sa mas malalaking korporasyon, mga pribadong laboratoryo ng pananaliksik, at kahit na mga pamahalaan ng mundo na may di-kapanipaniwalang halaga ng pera at mga mapagkukunan upang ibuhos sa kanilang sariling A.I. pananaliksik na maaaring hindi mapagmahal sa mga layunin ng magiliw, at sa halip ay maaaring humantong sa mga teknolohiya na may kasuklam-suklam na mga application. Ang mga mananaliksik na nagtatrabaho sa OpenAI ay karaniwang magpapatuloy sa 'friendly' A.I., nang walang presyur upang ipakita ang mga agarang resulta. Maaaring magkaroon ng mas malaking konsiderasyon para sa mga tampok sa kaligtasan at disenyo na maaaring hilig ng mga pribadong negosyo na huwag pansinin. Hindi magkakaroon ng puting tore kung saan lamang pumili ng ilang kontrol sa landas ng A.I. pag-unlad. Ito ay magiging isang maligayang pagdating sa lahat ng tao.

Sa isang pakikipanayam sa Backchannel, Binibigyang diin din ni Musk ang pagnanais na gumawa ng iba't ibang uri ng A.I. mga sistema. "Gusto namin A.I. upang maging laganap, "sabi niya. "Sa tingin namin marahil marami ay mabuti."

Mahalaga iyan, sapagkat ito ay marahil ang pangunahing dahilan na gusto ni Musk at Altman na demokratisahin ang A.I. Naniniwala sila na ang pinakamahusay na uri ng A.I. - ang uri na makikinabang sa sangkatauhan sa isang positibong paraan nang hindi lumilikha ng mga overlord ng robot - ang uri na nagsisilbing "pagpapalawig ng indibidwal na kalooban ng tao," ayon sa inilalagay ng Musk. Patuloy niyang sinabi:

"Tulad ng sa isang A.I. extension ng iyong sarili, tulad na ang bawat tao ay mahalagang symbiotic sa AI kumpara sa AI pagiging isang malaking gitnang katalinuhan na uri ng isang iba pang. Kung iniisip mo kung paano mo ginagamit, sabihin, mga application sa internet, nakuha mo ang iyong email at nakuha mo ang social media at may apps sa iyong telepono - epektibo silang gumawa ng higit sa tao at hindi mo iniisip ang mga ito bilang pagiging iba, sa tingin mo sa kanila bilang isang extension ng iyong sarili. Kaya sa antas na maaari nating gabayan ang AI sa direksyong iyon, gusto nating gawin iyon. At natagpuan namin ang isang bilang ng mga tulad ng pag-iisip engineer at mga mananaliksik sa AI field na pakiramdam katulad."

Talaga, ang paningin ng OpenAI para sa A.I. Ang pananaliksik ay isang desentralisadong komunidad na tumutulong upang maugnay ang mga tao sa isa't isa at sa mundo mismo.

Ang musk ay hindi pa nakabalangkas kung paano nila maiiwasan ang pananaliksik sa loob ng OpenAI mismo - o repurposed ng mga grupo sa labas - mula sa pagpunta sa isang mapanganib na direksyon. At mayroong ibang bagay na karapat-dapat sa tala dito: Ang mga bukas na sistema ng pagbubukas lamang ang may kabuluhan kung ang data na ginagamit upang bumuo ng mga algorithm sa makina ng pag-aaral ay malayang ibinabahagi. May isang intelligent na sistema matuto kung paano maging matalino, at para gawin ito, kailangang matuto mula sa data at karanasan. Ito ay tulad ng pagtatayo ng isang dam - kailangan mo ang parehong mga blueprints (ang algorithm) at ang mga materyales sa gusali (ang data) upang gumawa ng isang bagay na hihinto sa tubig.

Iyon ang dahilan kung bakit ang mga tao ay limitado pa sa kung ano ang maaari nilang gawin sa Google's TensorFlow - wala pa silang data na mayroon ang Google. At maliban kung ang mga pakikipagtulungan na binuo ng OpenAI ay nagpapahintulot ng libreng access sa parehong data ang mga in-house na mga mananaliksik ay nagtatrabaho sa, ang pananaw ng Musk ay hindi kinakailangang maisasakatuparan - o hindi man lamang sa paraan na itinataguyod niya ito.

Ang Musk, Altman, at ang iba pang founder ng OpenAI ay nagsimula ng isang bagay na magkakaroon ng napakalaking impluwensya sa paglago ng A.I. mula dito sa labas. Kasabay nito, kailangan nilang maging tuwiran sa kanilang pangako sa pagkandili ng isang open source community na pananaliksik, na nangangahulugan ng pagiging pampubliko tungkol sa kanilang mga plano para sa di-nagtutubong kumpanya, at pagiging handang ibahagi ang data. Kung hindi man, ang OpenAI ay hindi magkano ang pagkakaiba sa mga kompanya ng kawan na idinisenyo sa pagsama-samahin.