DARPA ir nolēmusi, ka vēlas patiesi saprast A.I.

Pentagons vēlas uzzināt, kas izraisa mākslīgā intelekta ķeksīti. Aizsardzības uzlaboto pētījumu projektu aģentūra (DARPA) ceturtdien paziņoja, ka tā ir ļoti ieinteresēta izskaidrojamā A.I. projekti, kas pazīstami kā XAI. Ziņas ir strauja izlidošana aģentūrai, kas iepriekš bija noteikusi A.I. efektivitāte, nevis faktiski izprot, kā sistēmas pieņem lēmumus.

DARPA vēlas atbalstīt A.I. projektiem, kas gala lietotājam skaidri parādīs, kāpēc kaut kas noticis. Piemēram, DARPA vēlas, lai izlūkošanas analītiķi saprastu, kādēļ ieteikumi ir viņu A.I. tos nosūta. Ja cilvēks analītiķis meklē A.I. izvēlētajiem datiem, viņiem jāsaprot, kāpēc dators šos datus ievietoja priekšā, nevis kaut ko citu. A. A. tāpat kā aģentūras finansētajā Cyber ​​Grand Challenge būtu jāveido pārredzamāk, bet DARPA paziņojumā teikts, ka tā ņems vērā dažādas lietotāja saskarnes (tas neļauj pārāk daudz informācijas par to, kā XAI projektam vajadzētu būt izskaidrot sevi.)

Kopsavilkumi par potenciālajiem projektiem ir paredzēti līdz 1. septembrim, un DARPA paredz pētniekiem vairāku apbalvojumu piešķiršanu. Tie ietver iepirkuma līgumus un sadarbības līgumus, bet aģentūra nepiešķir dotācijas. Aģentūra meklē arī komandas, kas var veikt pētījumus kā A.I. vajadzētu izskaidrot sevi; citiem vārdiem sakot, pētniekiem ir jāizpēta A.I. tāpat psihologi pēta, kā cilvēka prāts apstrādā informāciju dažādos apstākļos.