“Šī persona nepastāv” Radītājs atklāj savas vietnes rāpojošās izcelsmes stāstu

Phillip Wang ir 33 gadus vecais programmatūras inženieris, kas ir atbildīgs par mākslīgā intelekta dzinēja izveidi. Šī persona nepastāv, ka nesen ieguva vīrusu. Katru reizi, kad lapa tiek atjaunota, algoritms, kas pazīstams kā ģeneratīvs sacīkstes tīkls (GAN) (ko sākotnēji kodēja Nvidia), padara hiper-reālistiskus pilnīgi viltotu cilvēku portretus.

Šis triks tika izstrādāts, lai pievērstu uzmanību A.I. aizvien pieaugošajai pilnvarai prezentēt kā reālus attēlus, kas ir pilnīgi mākslīgi. Bet kā Wang stāsta Apvērsts, šim triks ir sekas, kas izplatās tālu tālāk, “hei, paskatieties uz šo īsto viltoto personu.” Sabiedrībā, kurā attēli un attēli ir standarta aizstājēji „pierādījumiem”, GAN - automatizējot darbu, kas reiz bija nepieciešams, lai veiktu rūpīgu darbu attēlveidošanas ekspertu daļa - drīz ļaus ikvienam sniegt „pierādījumus”, ka jebkura iedomājama persona darīja iedomājamu lietu.

„Es būtībā esmu savā dzīves vietā, kur es piekrītu, ka super-inteliģence būs reāla, un man vajag veltīt savu atlikušo dzīvi,” viņš skaidro. „Reakcija runā par to, cik daudz cilvēku ir tumsā par A.I. un tās potenciālu. ”

Vietne skāra akordu. Bijušais Uber-programmatūras inženieris saka, ka kopš tā uzsākšanas šī persona nepastāv, ir apmeklējusi aptuveni 4,2 miljonus reižu, kas nav slikti vienreizējai vietnei, kas sākotnēji tika ievietota slēgtā Facebook grupā. Sākotnēji Wang to izmantoja kā veidu, kā pārliecināt dažus draugus pievienoties neatkarīgajam A.I. pētījumi, ko viņš pašlaik strādā. Bet dienas laikā viņš nolēma, ka plašāka auditorija varētu gūt labumu no GAN potenciāla apgūšanas. Viņš teica, ka reakcija atgādina, cik svarīgi ir informēt cilvēkus par to, kā šāda veida tehnoloģijas varētu būt gan revolucionāras, gan bīstamas.

Kāpēc viltotas sejas pārstāv biedējošu izrāvienu

Wang vietne izmanto Nvidia StyleGAN algoritmu, kas tika publicēts pagājušā gada decembrī. Pēc viņa domām, potenciāls svārstās no noderīga, bet ikdienišķa (domājiet: zobu vainaga implantācijas racionalizēšana) līdz tālejošākajai, piemēram, ļaujot iztēloties pilnīgi jaunas molekulas, kas kalpo nākotnes narkotikās. Taču šī revolucionārā tehnoloģija padarīs maldināšanu un nepatiesu informāciju vieglāku nekā jebkad agrāk.

Iemesls, kāpēc lietojuma gadījumi ir tik daudzšķautņaini, ir daudz, daudz veidu, kā piemērot GAN, kurus apmāca, novietojot divus tīklus viens pret otru: ģeneratoru un diskriminētāju. Ģeneratoram tiek piešķirti reāli attēli, kurus tas mēģina atjaunot pēc iespējas labāk, bet diskriminētājs iemācās atšķirt fiktīvus attēlus un oriģinālus. Pēc miljoniem pēc miljoniem mācību nodarbību algoritms attīsta pārcilvēcīgas spējas, lai radītu kopiju attēlus, kas tika apmācīti.

Tā ir tāda pati metode, kas rada deepfakes vai datorizētus attēlus, kas pārklāti ar esošajiem attēliem vai videoklipiem un kurus bieži izmanto, lai virzītu viltus ziņu stāstus vai citus mānus.

Un, lai gan Wang ir pārsteigts par inovācijām, ko tas radīs daudziem uzņēmumiem, viņš arī vēlas, lai cilvēki vairāk apzinātos iespējamos zaudējumus, ko tas varētu radīt.

Piemēram, neērts aktieris varēja izplatīt GAN radītu video vai attēlu, kas attēlo viltus notikumus, lai rosinātu nemierus, protestus vai citas potenciāli vardarbīgas reakcijas tiešsaistē.

Tā kā šis process ir automatizēts, visiem būtu nepieciešama piekļuve grafikas apstrādes blokiem (GPU) vai grafikas kartēm, kas nodrošina mašīnas mācīšanos, un datu kopums, lai sāktu viltošanu, piemēram, pulksteņa.

Ilgākā laika posmā, kamēr StyleGANs spēj radīt fotoattēlus no cilvēkiem, kuri nekad nav bijuši, šo attēlu runāšana un dabiskā kustība ir tikai pāris soļi aiz tā. Par laimi Wang atzīmē, ka vienkārši informēšana par GAN padarīs cilvēkus mazāk jutīgus pret viņu. Paaugstināta izpratne mums visiem atvieglos baudīt 3D grafikas uzlabojumus un medicīnas StyleGAN visticamāk.

„Es tikai ceru, ka mana demonstrācija palielinās izpratni. Tie, kas nezina, ir visneaizsargātākie pret šo tehnoloģiju, ”teica Wang. “Uz sāniem, A.I. patiesi būs daudz labas šai pasaulei. ”

Nosūtiet e-pastu autoram: [email protected]