Lūk, kā mēs varam apturēt nākotnes Rogue A.I. no Imitating HAL 9000

Kā mēs pārtraucam nākotni A.I. no nepakļaušanās rīkojumiem un izvēloties iet savu ceļu? Tas var izklausīties no zemes gabala 2001: Kosmosa Odissija, bet viens eksperts apgalvo, ka tas ir kaut kas, kas mums jau ir jāsāk domāt. Protams, mēs varētu izslēgt Google meklēšanas algoritmu, ja tas kādreiz būtu negodīgi, bet, saskaroties ar finansiālām un juridiskām sekām, var būt vieglāk pateikt, nekā izdarīt. Nākotnē, kad mēs augsim atkarīgi no progresīvākām A.I., tas varētu izrādīties neiespējami.

“Šis algoritms nav apzināti izstrādāts pati ir neiespējami pārstartēt vai izslēgt, bet tā ir attīstījusies tā, lai tā būtu, ”teica Stuart Armstrong, pētnieks Cilvēku nākotnes institūtā Pirate Summit 2016 trešdien. Tas nozīmē, ka izmaiņas ar nejaušu rezultātu varētu būt grūti novērst, un tā var nebūt pirmā A.I. atrasties šādā situācijā.

Īzaka Asimova risinājums bija trīs likumi par robotiku, kuru grūti kodētas idejas, piemēram, nerada kaitējumu cilvēkiem. Problēma ir tā, ka kaitējums ir diezgan subjektīvs un atvērts interpretācijai. Cilvēki vairāk strādā pie vērtībām, piemēram, saprotot, ka ir slikti nodarīt kaitējumu un interpretēt situāciju, nekā strādāt pie kāda stingra principa, ka viņiem nekad nevajadzētu kaitēt.

„Tā ir šāda problēma, ka cilvēki tagad daudz vairāk vēlas izmantot mašīnas mācīšanos, lai iegūtu vērtības, nevis mēģinātu tos kodēt šajā tradicionālajā veidā,” sacīja Armstrongs. „Vērtības ir stabilas tādā veidā, ka citas lietas nav A.I. Vērtības pašas sevi aizstāv. ”

Bet pat šajās situācijās ir svarīgi veidot A.I. lai tās varētu pārtraukt darboties. Droša pārtraukšana ļauj veikt drošas politikas izmaiņas, kas var novērst neparedzētas sekas, ko rada apgūtās vērtības. Ja HAL 9000 kādreiz mēģināja apturēt pod lūšu durvju atvēršanu, ir svarīgi noteikt, ka A.I. vērtības ir sajauktas un iejaucas bez sistēmas bezsaistes.