Kā UC Berkeley jaunais centrs varētu novērst A.I. apokalipse

Kalifornijas Universitāte, Berkeley, vienkārši pievienoja savu nosaukumu arvien cienījamu iestāžu sarakstam, kas strādā, lai novērstu ļaunprātīgu mākslīgo intelektu no cilvēces iznīcināšanas. Tās jaunais cilvēka savietojamā mākslīgā intelekta centrs, kas paziņots pirmdien, ir paredzēts, lai nodrošinātu, ka A.I. joprojām ir izdevīga, kā arī novērst A.I. apokalipse.

Berkelejas paša A.I. eksperts, profesors Stuart Russell, ir vadošais uzņēmums. Atvērtais filantropijas projekts piešķīra Centram 5,5 miljonus ASV dolāru lielu dotāciju, bet citi arī tika saspiesti. Vairāki citi eksperti no Berkelejas, Kornela universitātes un Mičiganas Universitātes kalpos kā līdzfinansējuma izmeklētāji.

Kornela profesors Bart Selman teica Apgrieztā par centru, A.I.s, ka mēs vajadzētu bailes, un kāpēc pasaule, visticamāk, nav ceļā uz elli ar roku grozu - vēl.

Ko jūs cerat paveikt ar cilvēka saderības centru A.I.?

Šie centri ir salīdzinoši jauna attīstība. Cilvēki veic ieguldījumus - piemēram, Dzīvības nākotnes institūtam ir ieguldījums no Teslas Elona Muskusa, lai risinātu jautājumus par dzīves nākotni un iespējamiem draudiem dzīves un sabiedrības nākotnei. Jauns centrs Berkelejā ir vēl viens šāda institūta piemērs.

To iedvesmoja mākslīgā intelekta un skaitļošanas mainīgā loma mūsu sabiedrībā. Šīs tehnoloģijas virzās uz mūsu sabiedrību un ietekmēs mūs. Šie institūti ir kopā, lai apvienotu pētniekus, lai izpētītu iespējamo negatīvo ietekmi vai kā nodrošināt negatīvu ietekmi.

Centra nosaukums liecina, ka A.I. cilvēce ir nesavietojama. Vai tas ir jūsu viedoklis?

Tā ir pirmā reakcija cilvēkiem, ka šīs lietas varētu būt nesaderīgas. Mēs patiešām ticam, ka, ievērojot atbilstošus piesardzības pasākumus un pareizas vadlīnijas un pētījumus, mēs patiešām varam saskaņot intereses un nodrošināt, ka šīs tehnoloģijas ir izdevīgas. A.I. tehnoloģijām ir milzīgas pozitīvas puses, un sabiedrības mērķis ir nodrošināt, lai mēs paliktu pozitīvās pusēs. Institūtā iesaistītie pētnieki uzskata, ka tas ir iespējams.

Ja jūs varētu pieņemt doomsayer perspektīvu, kā izskatās visticamākais A.I.

Skaidrs risks būtu mākslīgā intelekta militārā attīstība, kas varētu novest pie A.I.-ieroču ieroču sacīkstes starp valstīm: autonomi ieroči, autonomi droni, kas seko savām komandām, kuras attīstījušas dažādas valstis, kuras ir naidīgas viena pret otru. Tas ir visprecīzākais risks, ko es redzu. Es domāju, ka A.I. piemēram, par regulāru lomu sabiedrībā, būs ļoti izdevīga. Taču militārais aspekts ir satraucošs elements.

Vai tas jau ir kalnā cīņa?

Valstis faktiski apsver šo jautājumu. Zināmā mērā tā ir kalnā cīņa: militārie centieni attīstīt A.I. tehnoloģijas. Taču ir bijuši nolīgumi, piemēram, bioloģiskie ieroči, iespējams, ir vispazīstamākais gadījums, kur valstis kādā brīdī nolēma, ka tas dos labumu visām valstīm ne attīstīt bioloģiskos ieročus. Mēs ceram, ka valstis sapratīs, ka negatīvie, ikvienam, ir pārāk lieli, lai nonāktu pie visiem. ieroču sacīkstes.

Ja abas puses attīsta šo tehnoloģiju, neviens nav priekšā.

Vai ir kaut kas cits, kas man būtu jāzina par centru vai par ļaunprātīgu A.I. vispār?

Ir svarīgi dot pozitīvu pusi. Ir viegli uzsvērt riskus - un, protams, tas ir daļēji iemesls, kāpēc šie centri ir izveidoti, bet ir svarīgi arī norādīt, ka daudzi pētnieki uzskata, ka šis risks ir pārvaldāms, un ka tas būs milzīgs.

Jūs jau esat devis doomsday perspektīvu. Kādi ir potenciālie pozitīvie A.I. vai jūs patiešām esat sajūsmā?

Pozitīvās puses būs sabiedrība, kurā mums palīdzēs šī tehnoloģija. Vienlaicīgas runas tulkojumi, piemēram, starp ķīniešu un angļu valodu, kur cilvēki var sarunāties, it kā viņi runātu savā dzimtajā valodā, savā starpā visā pasaulē. Vecāka gadagājuma cilvēku aprūpe: cilvēki var palikt tik ilgi, cik viņi vēlas savā mājā, jo viņiem ir mājsaimniecības palīga robots, kas palīdz viņiem dzīvot neatkarīgi.

Tas, iespējams, radīs diezgan dramatisku ietekmi uz dzīvi kopumā - ciktāl tas attiecas uz nodarbinātību un to, ko mēs piešķiram prioritātei.

Jā. Ir debates par nodarbinātību, kas notiek kā atsevišķa diskusija. Būs pietiekami daudz līdzekļu, lai atbalstītu ikvienu, tāpēc pastāv jautājums, kā mēs nodrošinām, ka visi gūst labumu no šiem notikumiem. Būs atkārtota izpratne par to, ko nozīmē strādāt, kādu darbu cilvēki darīs. Taču principā cilvēkiem būs lielāka brīvība un vairāk laika, lai veiktu darbības, ko viņi dara, jo mašīnas palīdzēs daudziem citiem ikdienišķākiem, darbu - veida lietas. Tas prasīs kādu laiku, bet mēs uzskatām, ka sabiedrība pielāgosies un lēnām iekļaus šīs izmaiņas.

Šī intervija ir rediģēta, lai nodrošinātu skaidrību un īsumu.