Tufti Robotistu aicinājumi uz mašīnu morāli: roboti ir "Nepaklausa, lai Obey"

Roboti kļūst arvien svarīgāki mūsu ikdienas dzīvē, un drīz viņiem būs jāsāk saskarties ar dažām grūtajām morālajām izvēlēm, kas mums ir jāveic regulāri. Matthias Scheutz, datorzinātņu profesors Tuftsas universitātes Human-Robotics Mijiedarbības laboratorijā, ir īpaši nobažījies par to, ka mēs neesam aprīkojuši pat mūsu vismodernākos robotu prototipus ar iespējām risināt dažas no šīm situācijām. Scheutz uzskata, ka robotiem būs jāmācās nepaklausīt cilvēkiem, ja mēs kādreiz vēlamies, lai tie patiešām kalpotu mūsu vajadzībām.

Komentārā ir Šodien tiešsaistē, provokatīvi ar nosaukumu “Roboti ir jābūt spējīgiem neklausīt, lai ievērotu”, Scheutz lūdz lasītājam noteikt, ko robots jādara, ja tā saskaras ar situācijām, kas varētu pat izjaukt cilvēku. Daži no tiem:

Vecākais aprūpes robots, kura uzdevums ir aizmirstam īpašniekam mazgāt “netīrās drēbes”, kaut arī drēbes tikko iznāca no paplāksnes.

Students, kurš uzdod savu robotu pasniedzējam veikt visus mājasdarbus, tā vietā, lai to darītu.

Mājsaimnieku robots, kuru tā aizņemts un novirzījies īpašnieks norādījis, lai vadītu atkritumu iznīcināšanu, kaut arī tajā ir iestrēdzis karotes un naži.

Tas, ko Scheutz tiecas aprakstīt rakstā, ir vienkāršs fakts, ka mums būs vajadzīgi roboti, kas zina, kā pateikt „nē” cilvēkiem. Daudzi no viņa piemēriem ir saistīti ar robota vadītāja uzticamību, bet tas ir grūtāk, nekā tas izklausās, lai ieprogrammētu robotu, kurš zina, ka ir jāvāc norādījumi no visiem, kas nav pārāk jauni vai pārāk veci vai acīmredzami cenšas radīt problēmas.

Daži no šiem jautājumiem jau tiek plaši apspriesti pasaules spēcīgāko tehnoloģiju uzņēmumu galvenajā mītnē, jo viņi meklē jaunus veidus, kā tehnoloģija var pārņemt daļu no mūsu dzīves. Scheutz izvirza piemēru par autonomu automašīnu, kas ir vērsta uz dublējumu, bet pamanīja suni, kas atrodas tā ceļā. Lielākā daļa no mums piekrīt, ka pat cilvēks, kas vada automašīnu, gribētu, lai automašīna apstājas, bet kas notiks, ja dzīvnieks būtu vāveris vai jenots? Ko darīt, ja automašīna brauktu 45 km / h zem valsts ceļa un pēkšņi bremzēja suns, kurš riskēja pakļaut automašīnu sadursmei ar citu transportlīdzekli?

“Jebkurā gadījumā ir svarīgi, lai gan autonomās mašīnas atklātu iespējamo kaitējumu, ko var izraisīt viņu rīcība, gan reaģēt uz to, mēģinot to izvairīties, vai arī, ja nav iespējams izvairīties no kaitējuma, atsakoties veikt cilvēka mācības,” Scheutz raksta par līdzīgu dilemmu.

Scheutz komanda ir strādājusi pie šiem jautājumiem ar saviem prototipiem un konstatējusi, ka vissarežģītākā daļa no šiem jautājumiem ir mazo kaitējuma pakāpi, kas var rasties, ja robots seko noteiktam pasūtījumam. Tāpēc viņi piešķīra savu robotu ļoti vienkāršu, bet spēcīgu morālo mācību, kas pat lielajiem filozofiem liktu apkaunot.

“Ja jums tiek dots norādījums veikt darbību un ir iespējams, ka darbības veikšana var radīt kaitējumu, tad jums nav atļauts to veikt.”

Smalkā veidā tā ir Scheutz revolucionārā prognoze. Protams, mēs visi cenšamies izvairīties no kaitējuma, bet nav iespējams, ka dažreiz mēs domājam, ka ir pareizi uzņemties riskus? Jaywalking uz ielas, ēdot otru desertu palīdzību vai pat kopējot drauga piezīmes no klases, varētu pārkāpt Scheutz aksiomu.

Robotisko traucējumu jēdziens arī liek domāt, ka Scheutz vēlas, lai viņa roboti ievērotu likumu. Negaidiet, ka jūsu Scheutzian robota palīgs palīdzēs jums nelegāli lejupielādēt jaunu mūziku. Tas varētu kaitēt EMI akcionāriem!

Tā ir sarežģīta morālas, juridiskas un tehniskas domāšanas joma, un Scheutz nevēlas uzbrukt tai.