Ang Rapid Advance ng A.I. Dapat Maging Nakakatakot Kung Nagbabayad ka ng Atensyon

Pagdating sa pagtukoy ng mga banta ng eksistensyang ibinabanta ng mga makabagong teknolohiya, ang mga tanyag na imahinasyon ay nagpahayag ng mga pangitain ng Terminator, Ang matrix, at Ako, Robot - dystopias pinasiyahan sa pamamagitan ng mga overlord robot na maningning na tagumpay at puksain ang mga tao en masse. Sa ganitong mga teorya na futures, ang isang kumbinasyon ng sobrang katalinuhan at masasamang intensyon ay humantong sa mga computer upang puksain o alipinin ang sangkatauhan.

Gayunpaman, ang isang bagong pag-aaral ay nagpapahiwatig na ito ay magiging banal na mga aplikasyon ng A.I. na hahantong sa malubhang kahihinatnan sa lipunan sa loob ng susunod na mga taon. Ang ulat - "Malisyosong Paggamit ng Artipisyal na Katalinuhan" - na isinulat ng 26 na mga mananaliksik at mga siyentipiko mula sa mga piling unibersidad at mga think-tank na nakatuon sa tech, nagbabalangkas ng mga paraan na kasalukuyang A.I. ang mga teknolohiya ay nagbabanta sa ating pisikal, digital, at pampulitika na seguridad. Upang maihatid ang kanilang pag-aaral sa pokus, ang pananaliksik na pangkat ay tumitingin lamang sa teknolohiya na umiiral na o may pananaw sa loob ng susunod na limang taon.

Ang natuklasan ng pag-aaral: A.I. malamang na mapalawak ng mga sistema ang mga umiiral na pagbabanta, ipakilala ang mga bago at baguhin ang katangian ng mga ito. Ang sanaysay ng ulat ay na ang mga teknolohikal na pagsulong ay gagawing mas madali at mas kapaki-pakinabang ang mga tiyak na kasalanan. Sinasabi ng mga mananaliksik na ang mga pagpapabuti sa A.I. ay magbabawas ng dami ng mga mapagkukunan at kadalubhasaan na kinakailangan upang isakatuparan ang ilang mga pag-atake sa cyber, epektibong pagbaba ng mga hadlang sa krimen:

Ang mga gastos ng pag-atake ay maaaring mas mababa sa pamamagitan ng scalable paggamit ng mga sistema ng AI upang makumpleto ang mga gawain na karaniwang nangangailangan ng paggawa ng tao, katalinuhan at kadalubhasaan. Ang isang natural na epekto ay upang mapalawak ang hanay ng mga aktor na maaaring magsagawa ng partikular na pag-atake, ang rate kung saan maaari nilang isagawa ang mga pag-atake na ito, at ang hanay ng mga potensyal na target.

Ang ulat ay gumagawa ng apat na rekomendasyon:

1 - Ang mga tagabigay ng polisiya ay dapat makipagtulungan nang malapit sa mga teknikal na mananaliksik upang siyasatin, pigilan, at mapawi ang mga potensyal na nakahahamak na paggamit ng AI.

2 - Ang mga mananaliksik at mga inhinyero sa artipisyal na katalinuhan ay dapat gumawa ng malubhang paggamit ng kalikasan ng kanilang trabaho nang sineseryoso, na nagpapahintulot sa misuseelated na pagsasaalang-alang upang maimpluwensyahan ang mga prayoridad na pananaliksik at mga pamantayan, at maagap na maabot ang mga kaugnay na aktor kapag ang nakakahamak na mga application ay nakikinita.

3 - Ang mga pinakamahuhusay na kasanayan ay dapat makilala sa mga lugar ng pananaliksik na may mas mature pamamaraan para sa pagtugon sa mga alalahanin ng dual-paggamit, tulad ng seguridad sa computer, at na-import kung naaangkop sa kaso ng AI.

4 - Aktibong nagsisikap na palawakin ang hanay ng mga stakeholder at mga eksperto sa domain na kasangkot sa mga talakayan sa mga hamong ito

Paano A.I. maaaring gumawa ng mga kasalukuyang pandaraya nang mas matalinong: Halimbawa, ang pag-atake ng phishing na sibat, kung saan ang mga artista ay nagpapakita bilang kaibigan, miyembro ng pamilya, o kasamahan sa target upang makakuha ng tiwala at pagkuha ng impormasyon at pera, ay banta na. Ngunit ngayon, nangangailangan sila ng isang makabuluhang paggasta ng oras, lakas, at kadalubhasaan. Tulad ng A.I. ang mga sistema ay nagdaragdag sa pagiging sopistikado, ang ilan sa mga aktibidad na kinakailangan para sa isang pag-atake ng phishing ng sibat, tulad ng pagkolekta ng impormasyon tungkol sa isang target, ay maaaring awtomatiko. Ang isang phisher ay maaaring mamuhunan ng makabuluhang mas mababa enerhiya sa bawat grift at target ng mas maraming mga tao.

At kung magsisimula ang scammers upang maisama ang A.I. sa kanilang mga online grifts, maaari itong maging imposible upang makilala ang katotohanan mula sa simulation. "Habang lumalaki ang AI, ang mga nakakumbinsi na chatbots ay maaaring magtamo ng tiwala ng tao sa pamamagitan ng pag-uugali ng mga tao sa mas mahabang dialogue, at marahil ay malamang na magbalatkayo sa paningin bilang ibang tao sa isang video chat," sabi ng ulat.

Nakita na namin ang mga kahihinatnan ng video na binuo ng machine sa anyo ng Deepfakes. Habang ang mga teknolohiyang ito ay nagiging mas madaling ma-access at madaling gamitin, ang mga mananaliksik ay nag-aalala na ang mga masasamang aktor ay magpapakalat ng mga gawa-gawa ng mga larawan, video, at mga file na audio. Ito ay maaaring magresulta sa mga matagumpay na kampanya sa paninirang-puri na may mga pampulitikang paggalaw.

Higit pa sa keyboard: At ang mga potensyal na malfeasance ay hindi limitado sa internet. Habang lumalawak tayo patungo sa pag-aampon ng mga autonomous na sasakyan, ang mga hacker ay maaaring magpatupad ng mga halimbawa ng paniniwalang upang linlangin ang mga nagmamaneho sa sarili na mga kotse upang maipakita ang kanilang kapaligiran. "Ang isang imahe ng isang stop sign na may ilang mga pixel ay nagbago sa mga tiyak na paraan, na kung saan ang mga tao ay madaling makilala bilang pa rin ng isang imahe ng isang stop sign, maaaring gayon pa rin ay misclassified bilang isang bagay na iba pa sa pamamagitan ng isang sistema ng AI," sabi ng ulat.

Kabilang sa iba pang mga pagbabanta ang mga autonomous drone na may pinagsamang facial recognition software para sa mga layunin sa pag-target, nag-coordinate ng mga pag-atake ng DOS na gayahin ang pag-uugali ng tao, at mga automated, hyper-personalized na mga kampanyang disinformation.

Inirerekomenda ng ulat na isinasaalang-alang ng mga mananaliksik ang mga potensyal na nakahahamak na application ng A. habang ang pagbubuo ng mga teknolohiyang ito. Kung ang mga tamang panukala ay hindi inilalagay, maaaring mayroon na tayong teknolohiya upang sirain ang sangkatauhan, walang kinakailangang mga killer robot.