OpenAI: Elona Musksa Bijušais uzņēmums atrodas uz jauna A.I. Era

OpenAI, bezpeļņas organizācija, kas pētījusi mākslīgo intelektu, ko kopīgi dibināja Elons Musks 2016. gadā, ir guvusi lielus panākumus - pat pēc tam, kad Musks šķīrās starp domstarpībām par tās virzienu. Pētnieki ir izstrādājuši sistēmas, kas var spēlēt spēles, rakstīt ziņu rakstus un pārvietot fiziskos objektus ar revolucionāro veiklības līmeni.

OpenAI ir radījusi pretrunas ar savu pētījumu. Pagājušajā nedēļā tā paziņoja par valodas modeļa GTP2 izstrādi, kas var radīt tekstus ar ierobežotiem uzvedumiem. Ņemot vērā cilvēka rakstveida uzvedumu “Miley Cyrus tika noķērts veikaliem no Abercrombie un Fitch Holivudas bulvārī,” sistēma radīja ticamu pilnīgu stāstu, kas turpinājās ar „19 gadus vecais dziedātājs tika noķerts kamerā, kas tika pavadīta no veikala sargi. ”

Tā arī izveidoja šo sākotnējo stāstu par vienradzību runāšanu, pamatojoties uz īsu uzvedni:

„Es neesmu bijis cieši saistīts ar OpenAI vairāk nekā gadu un man nav vadības vai valdes pārraudzības,” Musks nedēļas nogalē komentēja čivināt. „Man bija jākoncentrējas uz sāpīgi lielu skaitu inženiertehnisko un ražošanas problēmu risināšanu Teslā (īpaši) un SpaceX. Arī Tesla sacentās par dažiem tādiem pašiem cilvēkiem kā OpenAI, un es nepiekrītu dažiem, ko OpenAI komanda vēlējās darīt. Pievienojiet to, ka viss ir labāks, un tas bija tikai labāks. ”

Uzņēmums sākotnēji šķita ideāls veids, kā muskuss, lai sasniegtu savus mērķus izmantot A.I. cilvēces labā. Uzņēmējs agrāk ir brīdinājis par „fundamentālo risku” civilizācijai, ko rada super viedās mašīnas, mudinot valdības regulēt „kā mēs ēdam, narkotikām, lidmašīnām un automašīnām”.

Muskuss solīja $ 10 miljonus, lai sāktu uzņēmumu, un tās misijas paziņojumā galvenā uzmanība pievērsta „ceļam uz drošu mākslīgo vispārējo inteliģenci”.

Nav grūti saprast, kā salīdzinoši neliels skaits cilvēku varētu izmantot programmas, kas veido tādus stāstus kā OpenAI izpilddirektors Gregs Brokmans, lai ietekmētu mazāk saprātīgas sabiedrības viedokli.

OpenAI darbinieks izdrukāja šo AI rakstīto paraugu un ievietoja to pārstrādes tvertnē: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb), 2019. gada 14. februāris

„Sakarā ar mūsu bažām par tehnoloģijas ļaunprātīgām lietojumprogrammām, mēs neatbrīvojam apmācīto modeli,” uzņēmums blogā paskaidroja. „Kā atbildības atklāšanas eksperiments mēs atbrīvojam daudz mazāku modeli, lai pētnieki varētu eksperimentēt, kā arī tehnisko dokumentu.”

Paziņojums izraisīja bažas, ka tehnoloģiju varētu izmantot, lai radītu viltus ziņas. Analytics Indija brīdināja, ka gaidāmajās Indijas vēlēšanās šogad A.I. varētu izjaukt demokrātijas procesu. OpenAI paši pētnieki apgalvo, ka kopā ar pētījumiem par sintētisko audio un video ražošanu, “plašai sabiedrībai būs jākļūst skeptiskākam tekstam, ko viņi atrod tiešsaistē.”

Ryan Lowe, A.I. zinātnieks un bijušais OpenAI intern, apkopoja draudus tādai programmai, kāda tā tiek izmantota, lai īsumā izveidotu viltus ziņas vidējā postā:

.. Automātiska sistēma varētu: (1) ļaut sliktiem dalībniekiem, kuriem nav resursu, lai pieņemtu darbā tūkstošiem cilvēku, izmantot plašas dezinformācijas kampaņas; un (2) krasi palielināt informācijas kampaņu apjomu, ko jau īsteno valsts dalībnieki.

Ne visi OpenAI pētījumi ir izrādījušies tik pretrunīgi. Dactyl, kas tika atklāts 2018. gada jūlijā, var pielāgoties reālajai fizikai, lai manipulētu ar objektiem reālajā pasaulē. Robota roka ir ļoti sarežģīta, ar 24 brīvības pakāpēm, bet sistēma var viegli pārvietot objektus tikai, izmantojot trīs RGB kameras un robota rokas koordinātas.

Robota roka izmanto vispārējas nozīmes pastiprināšanas mācību algoritmus, ko izmanto, lai uzvarētu cilvēkus video spēlēs. „OpenAI Five” komanda saskārās ar profesionālu komandu Dota 2 Sistēma tika apmācīta 180 gadu vērtībā, izmantojot lielisku 128 000 procesoru kodolu un 256 grafikas procesorus. Kaut arī tas pārspēja cilvēka ex-profesionāļu komandu un „Twitch” spēlētājus, tas neizdevās pret profesionāliem spēlētājiem.

Muskuss izmantoja Dota 2 spēles, lai pievērstu uzmanību Neuralinkam, viņa plānam radīt simbiotiskas attiecības ar A.I. piesaistot cilvēka smadzenes un izvairoties no robota pārņemšanas:

Liels darbs @OpenAI. Nepieciešams neironu interfeiss, lai ļautu cilvēka / AI simbiozei.

- Elon Musk (@elonmusk) 2018. gada 6. augustā

Savā teksta ģeneratora paziņojumā OpenAI teica, ka plāno apspriest savu plašāku stratēģiju sešu mēnešu laikā. Uzņēmums cer, ka tas izraisīs niansētu diskusiju par mākslīgā intelekta briesmām, kas varētu izvairīties no dažiem muskusa paredzētiem katastrofu scenārijiem. Tomēr pat uzņēmums atzīst, ka „nav pārliecināts, ka teksta ģeneratora ieturēšana“ ir pareizais lēmums šodien ”. Ar divām galvenajām struktūrām, kas brīdina par AI briesmām, ir maz ticams, ka likumdevējiem būs viegli laiku risinājumu izstrādē.