Paano Pwedeng Makaiwas sa New Center ng UC Berkeley ang isang A.I. Apocalypse

Idinagdag lamang ng University of California Berkeley ang pangalan nito sa isang lumalagong listahan ng mga kagalang-galang na institusyon na nagtatrabaho upang maiwasan ang malevolent artipisyal na katalinuhan mula sa pagsira sa sangkatauhan. Ang bagong Center for Human-Compatible Artificial Intelligence, inihayag Lunes, ay sinadya upang matiyak na A.I. ay nananatiling kapaki-pakinabang, at din upang maiwasan ang isang A.I. pahayag.

Sariling Berkeley ni A.I. ang dalubhasang, Propesor Stuart Russell, ay nangunguna sa pangangahas. Ang Programa ng Open Philanthropy ay nagbigay ng isang $ 5.5 milyon na grant sa Center, at ang iba naman ay nakuha rin. Maraming iba pang mga eksperto mula sa Berkeley, Cornell University, at sa University of Michigan ang magsisilbing punong-punong tagapagsuri.

Sinabi ni Cornell Propesor Bart Selman Kabaligtaran tungkol sa Center, A.I.s na namin dapat takot, at kung bakit ang sanlibutan ay marahil ay hindi nauwi sa impiyerno sa isang handbasket - pa.

Ano ang inaasahan mong matupad sa Center for Human-Compatible A.I.?

Ang mga sentro ay isang bagong pag-unlad. Ang mga tao ay namumuhunan - ang Future of Life Institute, halimbawa, ay may isang pamumuhunan mula sa Elon Musk, mula sa Tesla - upang harapin ang mga katanungan tungkol sa kinabukasan ng buhay, at posibleng pagbabanta sa hinaharap ng buhay at lipunan. Ang bagong sentro sa Berkeley ay isa pang halimbawa ng naturang instituto.

Ito ay inspirasyon ng pagbabago ng papel na ginagampanan ng artificial intelligence at computing sa ating lipunan. Ang mga teknolohiyang ito ay lumilipat sa ating lipunan, at magkakaroon ng epekto sa atin. Ang mga institute ay may upang dalhin ang mga mananaliksik magkasama upang pag-aralan ang mga posibleng negatibong epekto, o kung paano tiyakin na walang mga negatibong epekto.

Ang tunay na pamagat ng Center ay nagpapahiwatig na ang A.I. at ang sangkatauhan ay likas na hindi tugma. Iyan ba ang iyong pananaw?

Iyan ang unang reaksyon ng mga tao, na ang mga bagay na ito ay maaaring hindi magkatugma. Talagang naniniwala kami na, nang may maayos na pag-iingat, at tamang mga alituntunin at pananaliksik, maaari tayong maayos ang mga interes at tiyakin na kapaki-pakinabang ang mga teknolohiyang ito. A.I. ang teknolohiya ay may matinding positibong panig, at ang layunin ng lipunan ay upang matiyak na mananatili tayo sa positibong panig. Ang mga mananaliksik na kasangkot sa institute ay naniniwala na ito ay magagawa.

Kung maaari kang magpatibay ng isang pananaw ng doomsayer, ano ang magiging hitsura ng pinaka-malamang na sitwasyon ng Araw ng Paghuhukom sa A.I.-na?

Ang isang malinaw na panganib ay isang militar na pag-unlad ng artipisyal na katalinuhan, isa na maaaring humantong sa isang A.I.-armas lahi lahi sa pagitan ng mga bansa: Autonomous na armas, nagsasarili drones na sundin ang kanilang sariling mga utos, na binuo ng iba't ibang mga bansa na pagalit sa bawat isa. Iyan ang pinaka-kongkretong panganib na nakikita ko. Sa tingin ko A.I. na binuo para sa mga self-driving na sasakyan, halimbawa - para sa regular na mga tungkulin sa lipunan - ay magiging kapaki-pakinabang. Ngunit ang aspetong militar ay isang nakakabahala.

Iyan na ba ang isang mapanganib na labanan?

Ang mga bansa ay talagang isinasaalang-alang ang isyung ito. Sa isang tiyak na kahulugan, ito ay isang mahirap na labanan: Ang militar ay itinutulak ang pasulong upang bumuo ng A.I. teknolohiya. Ngunit, nagkaroon ng mga kasunduan - halimbawa, ang biological weapons ay marahil ang pinaka-kilalang kaso - kung saan ang mga bansa sa ilang mga punto ay nagpasya na ito ay makikinabang sa lahat ng mga bansa hindi upang bumuo ng biological weapons sa isang malaking sukat. Inaasahan namin na ang mga bansa ay mapagtanto na ang downside, para sa lahat, ay masyadong malaki upang pumunta sa isang lahat-out A.I. armas lahi.

Kung ang magkabilang panig ay bumuo ng teknolohiyang ito, walang sinuman ang mauna.

Mayroon bang anumang bagay na dapat kong malaman tungkol sa Sentro, o tungkol sa malupit na A.I. sa pangkalahatan?

Mahalagang magbigay ng positibong panig. Madali na bigyan ng diin ang mga panganib - at, siyempre, iyan ay bahagi kung bakit itinatag ang mga sentro na ito - ngunit mahalaga din na ituro na napakarami ng mga mananaliksik na ang panganib na ito ay mapapamahalaan, at ang mga upsides ay magiging napakalaking.

Ibinigay mo na ang pananaw ng katapusan ng mundo. Ano ang ilang mga posibleng positibong paggamit ng A.I. na talagang nasasabik ka?

Ang mga positibong panig ay isang lipunan kung saan tayo ay tinutulungan ng teknolohiyang ito. Ang sabay-sabay na pagsalin ng pagsasalita - sa pagitan ng Tsino at Ingles, halimbawa - kung saan ang mga tao ay maaari lamang makipag-usap, na parang nagsasalita sila ng katutubong wika, sa bawat isa sa buong mundo. Pag-aalaga ng matatanda: Ang mga tao ay maaaring manatili hangga't gusto nila sa kanilang tahanan, dahil mayroon silang robot assistant ng bahay na nakatutulong sa kanila na mabuhay nang malaya.

Iyon ay marahil ay may isang medyo dramatikong epekto sa buhay sa pangkalahatan - sa abot ng trabaho, at kung ano ang aming prioritize.

Oo. Mayroong debate sa trabaho, na kung saan ay isang uri ng isang hiwalay na debate na nagaganap. Magkakaroon ng sapat na mapagkukunan upang suportahan ang lahat, kaya't may isyu kung paano namin tinitiyak na lahat ng mga benepisyo mula sa mga pagpapaunlad. Magkakaroon ng re-realization kung ano ang ibig sabihin ng trabaho, kung anong uri ng trabaho ang gagawin ng mga tao. Ngunit sa prinsipyo, ang mga tao ay magkakaroon ng higit na kalayaan, at mas maraming oras upang gawin ang mga aktibidad na kanilang tinatamasa, dahil ang mga machine ay makakatulong sa maraming iba pang mga pangmundo, trabaho -type ng mga bagay. Kakailanganin ng ilang oras, ngunit naniniwala kami na ang lipunan ay aangkop, at dahan-dahan na isama ang mga pagbabagong ito.

Ang panayam na ito ay na-edit para sa kalinawan at kaiklian.