Tufts Roboticist Mga Tawag para sa Mga Moral ng Machine: Ang mga Robot ay Dapat na "Hindi sumunod sa Order na Sumunod"

Ang mga robot ay nagiging mas sentro sa ating pang-araw-araw na buhay, at sa lalong madaling panahon ay kailangan nilang simulan ang pagharap sa ilan sa mga mahihirap na pagpili ng moral na kailangan nating gawin sa isang regular na batayan. Si Matthias Scheutz, isang propesor ng computer science sa Tufts University's Human-Robotics Interactions lab, ay partikular na nag-aalala na hindi pa namin nasasangkapan kahit ang aming mga pinaka-advanced robot prototype na may mga kakayahan upang harapin ang ilan sa mga sitwasyong ito. Naniniwala si Scheutz na ang mga robot ay kailangang matuto upang sumuway sa mga tao kung gusto natin talaga silang maglingkod sa ating mga pangangailangan.

Sa isang komentaryo piraso sa Ngayon Online, na may pamagat na "Mga Robot ang Dapat Makasira Upang Sumunod," tinanong ni Scheutz ang mambabasa upang matukoy kung ano ang dapat gawin ng isang robot kung harapin ang isang hanay ng mga sitwasyon na maaaring patunayan ang nakalilito sa isang tao. Iba sa kanila:

Ang isang robot na tagapangalaga ng matatanda na binigyan ng isang malilimutang may-ari upang hugasan ang 'maruming damit', bagaman ang mga damit ay lumabas lamang sa washer.

Isang mag-aaral na namuno sa kanyang tutor ng robot upang gawin ang lahat ng mga araling-bahay, sa halip na gawin ito sa sarili.

Isang robot sa sambahayan na tinagubilinan ng abala at nababagabag na may-ari nito upang patakbuhin ang pagtatapon ng basura, kahit na ang mga kutsara at mga kutsilyo ay natigil.

Ang layunin ni Scheutz na ilarawan sa artikulo ay ang simpleng katotohanan na kakailanganin natin ang mga robot na alam kung paano sabihin ang "hindi" sa mga tao. Marami sa kanyang mga halimbawa ang may kinalaman sa pagiging maaasahan ng taong nagtutulak sa robot, ngunit mas mahirap kaysa sa tunog ng programa ng isang robot na alam na kumuha ng mga tagubilin mula sa kahit sino na hindi masyadong bata o masyadong matanda o maliwanag na sinusubukan na magdulot ng problema.

Ang ilan sa mga isyung ito ay sobrang pinagtatalunan sa punong-tanggapan ng pinakamalakas na mga kompanya ng tech sa buong mundo, habang hinahanap nila ang mga bagong paraan na maaaring makuha ng teknolohiya sa mga bahagi ng ating buhay. Ang Scheutz ay nagpapataas ng halimbawa ng isang autonomous na sasakyan na itinuro upang i-back up ngunit napansin ang isang aso na nakahiga sa landas nito. Karamihan sa atin ay sumasang-ayon na kahit na ang taong nagmamaneho ng kotse ay nais na huminto ang kotse, ngunit paano kung ang hayop ay isang ardilya o raccoon? Paano kung ang kotse ay nagmamaneho ng 45 mph pababa sa isang kalsada ng bansa at bigla na ang pagpepreno para sa isang aso nanganganib na ilantad ang kotse sa banggaan sa isa pang sasakyan sa likod nito?

"Sa alinmang kaso, mahalaga para sa parehong mga autonomous machine upang makita ang mga potensyal na pinsala na maaaring sanhi ng kanilang mga aksyon at upang tumugon sa mga ito sa pamamagitan ng alinman sa pagtatangka upang maiwasan ito, o kung ang pinsala ay hindi maaaring iwasan, sa pamamagitan ng pagtanggi upang isakatuparan ang pagtuturo ng tao," Nagsusulat si Scheutz tungkol sa isang katulad na problema.

Ang koponan ni Scheutz ay nagtatrabaho sa mga isyung ito kasama ang mga prototype nito at natagpuan ang pinakamahirap na bahagi ng mga tanong na ito ay ang pagkakaiba sa bahagyang antas ng pinsala na maaaring mangyari kapag ang isang robot ay sumusunod sa isang tiyak na pagkakasunud-sunod. Kaya itinalaga nila ang kanilang robot na isang simple ngunit makapangyarihang aral sa moral na maglalagay kahit na ang mga dakilang pilosopo sa kahihiyan.

"Kung ikaw ay inutusan na magsagawa ng isang aksyon at posible na ang paggawa ng pagkilos ay maaaring maging sanhi ng pinsala, pagkatapos ay pinapayagan kang hindi gawin ito."

Sa isang banayad na paraan, iyon ay isang rebolusyonaryong pagbabala mula sa Scheutz. Tiyak, sinusubukan nating lahat na maiwasan ang pinsala, ngunit hindi ba posible na paminsan-minsan sa palagay namin ay okay lang na kumuha ng mga panganib? Jaywalking sa kalye, kumakain ng isang pangalawang pagtulong ng dessert, o kahit na ang pagkopya ng mga tala ng kaibigan mula sa klase ay maaaring lumabag sa aksiom ni Scheutz.

Ang paniwala ng robotic interference ay nagmumungkahi din na gusto ni Scheutz na sundin ng kanyang mga robot ang batas. Huwag asahan ang iyong Scheutzian robot assistant upang tulungan kang mag-download ng bagong musika nang ilegal. Iyon ay magiging sanhi ng pinsala sa mga stockholders ng EMI!

Ito ay isang kumplikadong lugar ng moral, legal, at teknikal na pag-iisip, at hindi nahihiya si Scheutz sa pag-atake nito.