A.I. Virdžīnijas eksperts Dignum: Ratiņu problēma rāda, kāpēc mums ir vajadzīga pārredzamība

$config[ads_kvadrat] not found

when you have sex with mum

when you have sex with mum
Anonim

Mākslīgajam intelektsi ir nepieciešama pārredzamība, lai cilvēki to varētu paturēt, pētnieks apgalvoja. Vašingtonas Tehnoloģiju universitātes asociētais profesors Virdžīnijs Dignums piektdien paziņoja Ņujorkas universitātes auditorijai, ka, ja mēs nesaprotam, kāpēc mašīnas darbojas tā, kā tās dara, mēs nevarēsim spriest par saviem lēmumiem.

Dignum atsaucās uz zinātnes rakstnieka un pētnieka David Berreby stāstu Psiholoģija šodien: “Pierādījumi liecina, ka tad, kad cilvēki strādā ar mašīnām, viņi jūtas mazāk sajūsmā par aģentūru nekā viņi strādā, strādājot vienatnē vai ar citiem cilvēkiem.”

„Trolejbola problēma”, paskaidroja Dignum, ir joma, kurā cilvēki var likt akli ticēt mašīnai, lai izvēlētos pareizo rezultātu. Jautājums ir par to, vai pārslēgt sviru uz hipotētisku bēguļojošu vilcienu tā, lai tas nogalinātu vienu personu piecu vietā. Cilvēki sagaida, ka mašīnas risinās problēmu pēc iespējas racionālākā veidā. Tomēr tas ne vienmēr varētu notikt, un pārredzamība palīdzētu izskaidrot, kā iekārta nonāca pie sava lēmuma.

„Tas nav tikai ļoti dziļa, neironu tīkla notikumu ķēde, ko neviens nevar saprast, bet gan padarīt šos paskaidrojumus tā, lai cilvēki to saprastu,” viņa teica.

A.I. kas padara tās darbību skaidru, ir joma, kurā DARPA ir pētījusi. Aģentūra augustā publicēja paziņojumu, ka tā meklē komandas, kas interesējas par izskaidrojamo A.I. projekti, kas pazīstami kā XAI. Šīs sistēmas palīdzēs pētniekiem saprast, kāpēc A.I. pieņēmusi lēmumu, kas deva lielāku rīcības brīvību, lai izlemtu, ko darīt ar iegūto informāciju, nevis akli uzticēties mašīnai.

Ar mašīnas apguvi Dignum atzīmēja, ka pārredzamība ir svarīgāka nekā jebkad agrāk. „Mēs nevaram sagaidīt, ka sistēmas, un jo īpaši mašīnmācības mašīnas, mācīsies un to visu zinās,” viņa teica.„Mēs negaidām, ka mūsu autovadītāji, braucot, pilnībā izprot satiksmes noteikumus. Daudzās valstīs viņi izmanto šīs “L” plāksnes, lai parādītu: „Es esmu mācīšanās, attaisnojos par kļūdām, ko es varētu izdarīt.” ”AI skatīšanās, izpratne par to, kā runa ir par dažiem lēmumiem un darbojas, pamatojoties uz apturēt mašīnas, kas joprojām mācās, no sliktu lēmumu pieņemšanas.

$config[ads_kvadrat] not found