Elons Musks OpenAI var būt muskuļš drošai mākslīgā intelekta izpētei

Nedēļas nogalē Elon Musks, Sam Altman un citi Silīcija ieleja negaidīti paziņoja par bezpeļņas uzņēmuma OpenAI atklāšanu, kas apraksta savu mērķi kā: “veicināt digitālo inteliģenci tādā veidā, kas visticamāk sniegtu labumu visai cilvēcei kopumā; neierobežo vajadzība radīt finansiālu atdevi. ”

„Tā kā mūsu pētījumi nav finansiāli saistoši, mēs varam labāk koncentrēties uz pozitīvu ietekmi uz cilvēku. Mēs uzskatām, ka A.I. vajadzētu būt atsevišķu cilvēku gribu paplašināšanai un brīvības garam pēc iespējas plašāk un vienmērīgāk. ”

Šim paziņojumam ir divi galvenie atteikumi. Pirmais ir tas, ka muskuss un uzņēmums redz A.I. pētniecība šobrīd ir pārāk šaura, lai sasniegtu īstermiņa praktisko vērtību, un viņi vēlas palīdzēt virzīt uz priekšu centienus, kas īsteno plašāku, visaptverošu pieeju A.I. sistēmas. Otrs, vairāk aizsegs ceļš ir tas, ka muskuss joprojām ir nobažījies par A.I. Muskuss iepriekš ir nosaukts par A.I. “Mūsu lielākais eksistenciālais drauds” un ierosināja, ka regulatīvā uzraudzība varētu būt nepieciešama, lai novērstu iespējamās briesmas. OpenAI varētu būt veids, kā nodrošināt šo uzraudzību bez federālās sardzes.

Kas ir muskuss un viņa kolēģi, kas atšķiras no tā, ko citi ir darījuši. Galu galā, atvērtā koda A.I. nav nekas jauns. Google izveidoja savu A.I. atvērtā koda programmatūru pagājušajā mēnesī, un tā ir kļuvusi par diezgan standarta procedūru. Bet ar 1 miljardu ASV dolāru lielu summu OpenAI jau ir viena no lielākajām organizācijām, kas strādā pie A.I. pētniecība un diezgan viegli lielākais bezpeļņas uzņēmums. Tās mērķis ir padarīt savus rezultātus publiski pieejamus un visus patentus bez atlīdzības. Viņiem ir burkāns un nūjiņa, un viņi plāno to izmantot, lai vadītu nozari.

Ideja ir izmantot OpenAI kā sava veida atsvaru lielākām korporācijām, privātajām pētniecības laboratorijām un pat pasaules valdībām, kurām ir neticami daudz naudas un resursu, lai ielietu savās A.I. pētījumi, kas var nebūt veltīti draudzīgiem mērķiem, un tie var novest pie tehnoloģijām ar nežēlīgiem lietojumiem. Pētnieki, kas strādā ar OpenAI, pamatā turpinās „draudzīgu” A.I., bez spiediena, lai parādītu tūlītējus rezultātus. Drošības un dizaina iezīmes var būt lielākas, jo privātie uzņēmumi varētu būt ignorēti. Nebūs balts tornis, kur tikai daži no tiem kontrolē A.I. ceļu. attīstību. Tas būs labs pasaule ikvienam.

Intervijā ar Backhannel Muskuss arī uzsver vēlmi veikt plašu A.I. sistēmas. „Mēs vēlamies A.I. plaši izplatīts, ”viņš saka. "Mēs domājam, ka daudzi ir labi."

Tas ir svarīgi, jo tas, iespējams, ir galvenais iemesls, kāpēc muskuss un Altman vēlas demokratizēt A.I. Viņi tic vislabākajam A.I. - tas, kas labvēlīgi ietekmēs cilvēci, neradot robotu virsniekus, ir tāds veids, kas darbojas kā „individuālās cilvēka gribas paplašināšana”, kā Musks to izvirza. Viņš turpina teikt:

“Tāpat kā A.I. sevis paplašināšana tā, ka katra persona būtībā ir simbiotiska ar AI, nevis AI ir liela centrālā izlūkošana, kas ir cita veida. Ja jūs domājat par to, kā jūs lietojat, piemēram, lietojumprogrammas internetā, jums ir jūsu e-pasts un jums ir sociālie mediji un lietotnes jūsu tālruņos - viņi efektīvi padara jūs pārcilvēcīgu un jūs nedomājat par tiem kā ja jūs esat citi, jūs domājat par tiem kā sevis paplašinājumu. Tātad, ciktāl mēs varam vadīt AI šajā virzienā, mēs vēlamies to darīt. Un mēs esam atraduši vairākus līdzīgi domājošus inženierus un pētniekus AI jomā, kuri jūtas līdzīgi. ”

Būtībā OpenAI redzējums par A.I. pētniecība ir decentralizēta kopiena, kas palīdz savienot cilvēkus ar vienu un otru pasauli.

Muskuss vēl nav aprakstījis, kā tas novērsīs, ka pētījumi OpenAI pašos apstākļos - vai arī ārējo grupu repurponēti - nebūtu bīstami. Un šeit ir kaut kas cits, kas ir vērts atzīmēt: Atvērtā koda sistēmas ir jēgas tikai tad, ja dati, kas tiek izmantoti, lai izveidotu mašīnas mācīšanās algoritmus, ir brīvi kopīgi. Inteliģentai sistēmai ir jābūt mācīties kā būt inteliģentam, un tam tas ir jāmācās no datiem un pieredzes. Tas ir kā aizsprostu veidošana - jums ir vajadzīgi gan rasējumi (algoritms), gan būvmateriāli (dati), lai faktiski padarītu kaut ko tādu, kas apturētu ūdeni.

Tieši tāpēc cilvēki joprojām ierobežo to, ko viņi var darīt ar Google TensorFlow - viņiem vēl nav datu, kas ir Google rīcībā. Un, ja sadarbība, kas izbūvēta no OpenAI, neļauj brīvi piekļūt tiem pašiem datiem, ar kuriem strādā pētnieki, muskusa redzējums ne vienmēr būs realizēts - vai vismaz ne tā, kā viņš to veicina.

Muskuss, Altmans un pārējie OpenAI dibinātāji ir sākuši kaut ko, kam būs milzīga ietekme uz A.I. no šejienes. Tajā pašā laikā tām būs jābūt tiešām saistošām veicināt atvērtā pirmkoda pētniecības kopienu, kas nozīmē būt publiskam par saviem plāniem bezpeļņas uzņēmumam un vēlas dalīties ar datiem. Pretējā gadījumā OpenAI nebūs daudz atšķirīga no ganāmpulku kompānijām, kuras bija paredzētas ganāmpulkam.