Kāpēc mēs joprojām uzticamies Amazon? Kā Big Tech milži nespēja aizsargāt sabiedrību

Amazon, iespējams, gaidīja daudz sabiedrības uzmanības, kad tā paziņoja, kur tā izveidos savu jauno mītni, bet, tāpat kā nesen, daudzas tehnoloģiju kompānijas, iespējams, nav paredzējusi, cik negatīva būs atbilde. Amazones izvēlētajās Ņujorkas un Virdžīnijas teritorijās vietējie politiķi neļāva uzņē- mumam apsolītajiem nodokļu maksātāju finansētajiem centieniem. Žurnālisti visā politiskajā spektrā ieņēma darījumus - un sociālie mediji piepildījās ar Ņujorkas un Virginianu balsīm, kas apņemas pretoties.

Līdzīgi atklāsmes, ko Facebook izmantoja antisemītiskajai sazvērestības teorijai, lai mazinātu tās kritiķu leģitimitāti, norāda, ka tā vietā, lai mainītu, Facebook drīzāk iet uz aizvainojošu. Pat tad, kad Amazon un Apple īsi parādīja savas akciju tirgus vērtības 1 triljonu ASV dolāru apmērā, tehnoloģiju vadītāji tika izvilkti pirms kongresa, cīnījās, lai konsekventi ieņemtu nostāju pret naida runu, saņēma nozveju, aptverot seksuālus pārkāpumus, un redzēja viņu pašu darbiniekus, kas protestēja par biznesa darījumiem.

Dažās aprindās tas tiek uzskatīts par sabiedrības uzticības zudumu tehnoloģiju uzņēmumiem, kas solīja pārtaisīt pasauli - sociāli, videi un politiski - vai vismaz tikpat neapmierināti ar to, kā šie uzņēmumi ir mainījuši pasauli. Taču tehnoloģiju uzņēmumiem ir jādara daudz vairāk, nekā atgūt sabiedrības uzticību; viņiem ir jāpierāda, ka viņi ir pelnījuši to pirmajā vietā - kas, kad tie tika ievietoti tehnoloģiju kritikas un skepticisma vēstures kontekstā, viņiem nebija.

Raugoties prom no problēmām

Lielie tehnoloģiju uzņēmumi izmantoja savu projektu izstrādi neskaidri utopiskā, pozitīvi skanīgā lingo, kas aizēno politiku un sabiedrisko kārtību, pārspējot partizānismu un - ērti - izvairoties no pārbaudes. Google atgādināja saviem darbiniekiem: „Vai neesat ļauns.” Facebook strādāja, lai „padarītu pasauli atvērtāku un savienotāku.” Kas varētu iebilst pret šiem ideāliem?

Zinātnieki brīdināja par šādu platformu briesmām ilgi pirms daudzu viņu dibinātāju dzimšanas. 1970. gadā sociālais kritiķis un tehnoloģijas vēsturnieks Lūiss Mumfords prognozēja, ka mērķis, ko viņš dēvēja par “datoru”, būtu „sniegt un apstrādāt bezgalīgu datu daudzumu, lai paplašinātu lomu un nodrošinātu enerģijas sistēmas dominēšanu. "Tajā pašā gadā feministu domātāja Dže Freemena seanss esot brīdinājis par raksturīgo spēku nelīdzsvarotību, kas palika sistēmās, kas, šķiet, padarīja ikvienu vienlīdzīgu.

Līdzīgi, 1976. gadā, datorzinātnieks Džozefs Weizenbaums prognozēja, ka turpmākajās desmitgadēs cilvēki nonāks briesmās, jo viņi arvien vairāk ir atkarīgi no necaurredzamām tehniskām sistēmām. Kopš tā laika ir izdoti neskaitāmi līdzīgi brīdinājumi, tostarp svarīga nesenā stipendija, piemēram, informācijas zinātnieks Safiya Noble pētījums par to, kā Google meklē replikāciju rasu un dzimumu aizspriedumos un mediju zinātnieka Siva Vaidhantana paziņojumā, ka “problēma ar Facebook ir Facebook.”

Tehnoloģiju uzņēmumi ir spēcīgi un bagāti, bet to novēršanas dienas var beigties. Šķiet, ka amerikāņu sabiedrība sāk aizdomāt, ka tehnoloģiju giganti bija nesagatavoti un, iespējams, nevēlējušies uzņemties atbildību par instrumentiem, kurus viņi izlaida pasaulē.

Pēc 2016. gada ASV prezidenta vēlēšanām joprojām pastāv bažas par to, ka Krievijas un citas ārvalstu valdības izmanto jebkuru pieejamo sociālo mediju platformu, lai sētu nesaskaņas un neapmierinātību visā pasaulē.

Facebook joprojām nav atrisinājis problēmas saistībā ar datu privātumu un pārredzamību, kas izraisīja Cambridge Analytica skandālu. Čivināt ir vēlamais megafons prezidentam Donaldam Trumpam un mājvieta satraucošiem vardarbīgas naida runas daudzumiem. Amazon korporatīvo biroju nākotne veidojas kā daudzpusēja trakule starp ievēlētajām amatpersonām un cilvēkiem, kurus viņi it kā pārstāv.

Vai tas ir nezināšana vai Naivete?

Aplūkojot pašreizējo situāciju ar tehnoloģiju kritiku vēsturi, nav grūti secināt, ka tehnoloģiju uzņēmumi ir pelnījuši krīzes, ar kurām viņi saskaras. Šie uzņēmumi aicina cilvēkus uzticēt viņiem savus e-pasta ziņojumus, personas datus, tiešsaistes meklēšanas vēstures un finanšu informāciju tādā mērā, ka daudzi no šiem uzņēmumiem ir lepni tout, ka viņi labāk pazīst cilvēkus, nekā viņi paši zina. Viņi veicina jaunākās sistēmas, tostarp „viedos skaļruņus” un “viedās kameras”, lai nodrošinātu to, ka var novērot, ka lietotāju pamošanās brīdis - un arī miega brīži - tiek pārraudzīti, vairāk informācijas ievadot savos naudas algoritmos.

Tomēr šķietami neizbēgami šie uzņēmumi turpina pierādīt, cik uzticami viņi patiesībā ir, noplūda dati, dalās personiskajā informācijā un nespēj novērst Datorurķēšana, jo tie lēnām aizpilda pasauli ar satraucošu tehno-paranoiju, kas ir vērts „Black Mirror. ”

Tehnoloģiju uzņēmumu atbildes uz katru jaunu atklāsmi atbilst standarta modelim: Pēc skandāla parādīšanās iesaistītais uzņēmums izsaka trauksmi, ka kaut kas noticis nepareizi, sola izmeklēt, un sola darīt labāku nākotnē. Daži laiki, nedēļas vai pat mēneši - vēlāk, uzņēmums atklāj, ka skandāls bija tiešs rezultāts, kā sistēma tika izstrādāta, un izbēga nožēlota izpildvaras, lai paustu sašutumu par destruktīvo, izmantojot viņu sistēmai atrastos sliktos cilvēkus. neatzīstot, ka problēma ir pati sistēma.

Zuckerberg pats teica ASV Senātam 2018. gada aprīlī, ka Kembridžas Analytica skandāls viņam bija mācījis: „mums ir pienākums ne tikai dot cilvēkiem instrumentus, bet gan pārliecināties, ka šie rīki tiek izmantoti labam.” izveidojot vairāku miljardu dolāru uzņēmumu.

Atjaunošana no kreisās puses

Jebkuras tehnoloģijas izmantošana - no naža līdz datoram - rada riskus, bet tehnoloģisko sistēmu apjoma un sarežģītības dēļ šo risku apmērs palielinās. Tehnoloģija ir noderīga tikai tad, ja cilvēki to var droši izmantot tādā veidā, kur ieguvumi ir lielāki par briesmām, un ja viņi var justies pārliecināti, ka viņi saprot un pieņem potenciālos riskus. Pirms pāris gadiem, Facebook, Twitter un Google, iespējams, bija parādījušies vairumam cilvēku kā labvēlīgas komunikācijas metodes, kas atnesa vairāk sabiedrības, nekā tās atņēma. Bet ar katru jaunu skandālu un bungled reakciju, arvien vairāk cilvēku redz, ka šie uzņēmumi rada nopietnas briesmas sabiedrībai.

Kā vilinoši, kā tas var būt vērsts uz pogas “izslēgts”, nav viegla risinājuma. Tehnoloģiju milži ir kļuvuši par daļu no ikdienas dzīves materiāla simtiem miljonu cilvēku. Ieteicams, ka cilvēki vienkārši pamet, ir vienkārši, bet nespēj atpazīt, cik daudz cilvēku ir kļuvuši par šīm platformām - un kā ieslodzītie var justies aizvien nepanesamākā situācijā.

Tā rezultātā cilvēki pērk grāmatas par to, cik slikti Amazon ir - pasūtot tos Amazon. Viņi veic Google meklēšanu rakstos par to, cik daudz informācijas Google zina par katru atsevišķu lietotāju. Viņi tweet par to, cik daudz viņi ienīst čivināt un publicē Facebook rakstus par Facebook jaunāko skandālu.

Tehnoloģiju uzņēmumi var atrasties aizvien vairāk saasinājušās lietotāju bāzes dēļ, jo to platformas izplatās neapmierinātībā tālāk un plašāk nekā iespējams agrāk. Vai arī viņi var izlemt, ka viņi paši sevi mainīs, izjaucot sevi, pārvēršot dažas kontroles uz savu lietotāju demokrātiskajiem lēmumiem un uzņemoties atbildību par kaitējumu, ko viņu platformas un produkti ir darījuši pasaulei. Tomēr līdz šim, šķiet, nozare nav gājusi tālāk par piedāvātajiem atveseļošanās paņēmieniem, turpinot darbu kā parasti. Cerams, ka tas mainīsies. Bet, ja pagātne ir jebkurš ceļvedis, tas droši vien nenotiks.

Šis raksts sākotnēji tika publicēts Zachary Loeb sarunā. Lasiet oriģinālo rakstu šeit.