Muskuss, Wozniak, Hawking, citi ģēniji ir pretrunā ar autonomajiem ieročiem

Vairākus gadu desmitus AK-47 ir bijusi daudzu putekļainu pasaules vietu nogalināšanas mašīna, jo tā ir lēta, izturīga un visuresoša. Šie paši faktori, kas apgalvo, ka parakstījušies atklātā vēstulē, kas tika izdota pirmdien no Dzīvības institūta nākotnes, ir iemesls, kāpēc autonomie ieroči ir bīstami. Bet tas, kas atdala mākslīgā intelekta ieročus no Kalashnikova, ir tāds, ka autonomā mašīna var “atlasīt un iesaistīt mērķus bez cilvēka iejaukšanās”, kas nepareizās rokās varēja izdarīt zvērības daudz lielākus nekā jebkura neskaidra šautene.

Parakstītāji paraksta savu darbu. Kā cilvēki, mēs kopumā esam daudz labāk reaģēt nekā domāšana. Lielākie spēlētāji ir bijuši lēni, lai pazeminātu mūsu kodolieročus (un autonomu dronu veidošana, domāšana iet, prasītu daļu no mašīnas, kas tiek veidota, lai izveidotu nuke); citur, sauszemes mīnām joprojām ir desmitgades kaujas. Kad tehnoloģija kļuva par revolucionizētu karadarbību - vai tas bija šaujampulveris vai jūras dreadnoughts vai bagātināts urāns - gandrīz nekad nav bijis ne bijusi ieroču sacensība.

FLI veic atšķirību starp šodienas droniem, kurus mēs vadām no attāluma ar cilvēka rokām, un robots ir ieslēgts un atstājis savas slepkavības ierīces. Pēdējais radītu globālu AI ieroču sacīkstes, ko apgalvo FLI, un kā liecina Kalashnikova vēsture, nebeidzas labi:

Tas būs tikai laika jautājums, kamēr tie parādīsies melnajā tirgū un teroristu rokās, diktatori, kas vēlas labāk kontrolēt savu iedzīvotāju, karavīri, kas vēlas veikt etnisko tīrīšanu, utt. Autonomie ieroči ir ideāli piemēroti tādiem uzdevumiem kā slepkavības, destabilizējoši tautas, mazinot iedzīvotāju skaitu un selektīvi nogalinot konkrētu etnisko grupu. Tāpēc mēs uzskatām, ka militāras AI ieroču sacensības nebūtu labvēlīgas cilvēcei. Ir daudz veidu, kā AI var padarīt kaujas laukus drošākus cilvēkiem, īpaši civiliedzīvotājiem, neradot jaunus līdzekļus cilvēku nogalināšanai.

Tas ir smags sūds. Un aiz šī brīdinājuma nosaukumi nav jūsu „Sky-Mill-Sky-Sky-Spot” - tie ir radītāji, inženieri, zinātnieki un filozofi, kas ir palīdzējuši veidot mūsdienu tehnoloģiju. Šādi nosaukumi ir: Apple Steve Wozniak, Skype Jaan Tallinn, Harvard fiziķis Lisa Randall, kurš ir AI pētnieku un robotu speciālists, tostarp Stuart Russell, Barbara J. Grosz, Tom Mitchell, Eric Horvitz - aktrise Talulah Riley, Noam Chomsky, Stīvens Hokings.

Hawking pēdējā laikā ir mazliet pesimistisks, atkārtojot arī viņa prognozes par draudiem, kas rodas, sastopoties ārpuszemes dzīvē. Viņš arī atbildēs uz jautājumiem par šo vēstuli un tehnoloģijas nākotni Reddit šonedēļ - mēs, iespējams, nespēsim kontrolēt naidīgus ārvalstniekus, bet mēs varam likt „zinātniekiem šo tehnoloģiju priekšgalā, lai saglabātu cilvēcisko faktoru viņu inovāciju priekšā un centrā. ”

Arī vēstulei varat pievienot savu vārdu.