Netflix-dokumentaren The Social Dilemma af Jeff Orlowskis burde være “must see” for alle.

Den gennemgår på fornemste vis, hvad der ligger bag den verden, vi alle er koblet sammen i  gennem vores brug af sociale medier og digitale platforme som Facebook og Google. Den giver desuden en vigtig skelnen mellem det onde og det gode – intentionen om at hacke menneskers adfærd og at skabe et univers af muligheder. Hvor alt det dårlige også er muligt, og det grænseløse bliver – netop grænseløst.

Dokumentaren giver et blik indefra

I dokumentaren møder vi flere tidligere ansatte ved platforme som Google, Twitter og Facebook, og vi får et indblik i den bevægelse, der sker fra begejstring til bekymring, fra alle verdens muligheder til alle verdens problematikker – problematikker, man ikke nødvendigvis havde forudset men heller ikke har ageret for at stoppe, da man blev opmærksomhed på dem.

Kort resumé:

Dokumentaren er bygget over over et række interviews med de tidligere ansatte, der i et letforståeligt sprog fortæller om den proces, de har været en del af. Fra dengang, de forskellige platforme blev opfundet og udviklet til de udfordringer, vi taler om i dag blev synlige for de medvirkende. I dokumentaren følger vi den udvikling via en slags tidslinje, hvor de tidligere ansattes erfaringer sættes ind som vidnedsbyrd på hvert dilemma eller periode. For eksempel, da Tristan Harris, der i nullerne var ansat hos Google, pludselig fik øje på, at han sammen med sin virksomhed var medskaber af en udvikling, hvor folk kun have fokus rettet mod telefoner og skærme. På det tidspunkt var udviklingen ikke nået det stadie, den er i dag. Her arbejdede platformene på at skabe gode brugeroplevelser, der ville sikre brugernes interesse, men brugeroplevelserne betød, at folk blev optaget af skærmene på en måde, ingen havde regnet med. Og dog. For de tidligere ansatte fortæller også i dokumentaren om de øjeblikke, hvor den massive udbredelse af eksempelvis Facebook skulle udnyttes til omsætning, og hvordan algoritmerne blev udtænkt til, at vi skulle bruge mest mulig tid på platformene. Hvordan techvirksomhederne eksperimenterede og programmerede og lagde et fundament for den situation vi er i i dag. For at visualiere udsagn fra de medvirkende, mixer dokumentaren jævnligt til dels en familie med de klassiske dilemmaer – som at en teenager bruger sin telefon hele tiden og dels til en form for maskinrum, hvor to personer skal forestille at udtænke snedige planer for at manipulere med et menneske, man også følger.

Ved at vise, hvad de vælger at eksponere ham for og hans reaktion herpå, forsøger denne del af dokumentaren er gøre det, der i dag er svært at måle og se, til noget håndgribeligt. Et forsøg på at vise algoritmens programmering fysisk. Men desværre er scenerne for konspiratoriske – selv om det gennemgående tema netop er, hvordan tech-giganterne leger med vores hjerner og deraf eksistens.

Måske netop fordi, det er så svært at visualisere en algoritme, er denne del af dokumentaren lidt søgt. Man sidder måske ligefrem med lidt vantro – så nederdrægtig er systemet vel ikke? Her skyder dokumentaren måske i virkeligheden sig selv i foden. For alle interviews og de mange års erfaring fra techindustrien, der er samlet i dokumentaren synliggør, at algoritmerne er værre end det forkølede forsøg på at vise det. Vi bliver manipuleret. Nogle vil sige serviceret. Spørgsmålet er, om der er forskel.

Kilderne menneskeliggør i sig selv pointen alene ved deres erfaring

De medvirkende er personer som Baiey Richardson fra Instagran, Jeff Seibert fra Twitter, Aza Raskin fra Firefox og Mozilla, og Tristan Harris fra Google, der nu er grundlægger af Center for Humane Society.

Vi hører om deres etiske overvejelser men frem for alt det faktuelle problematikker, som vi løbende over de senere år har diskuteret i brudstykker i forbindelse med både vaner, afhængighedsteser, manipulation, trivsel, demokrati og ekkokamre.

Her er nogle af de vigtigste pointer:

Vi bliver programmeret til øget tilstedeværelse. Via algoritmer, som skal få os til at blive lidt længere, bliver vi alle manipuleret til at anvende de digitale platforme mere end vi måske har godt af. Vi bliver hele tiden eksponeret for noget, der skal afledes os fra det fysiske. Det kan være noget, vi interesserer os for eller nogen, vi interesserer os for. Dårlige nyheder. Vi ved, at de får os til at dvæle længere og måske endda isolere os foran skærmen. Den programmering er ikke baseret på etiske overvejelser men økonomiske. Jo længere tid, vi bruger på digitale platforme, jo flere penge tjener platformene, så de kan sælge din opmærksomhed til markedsføring.

Der er ikke styr på misinformationerne. Vi vidste det egentlig godt. Men der er ingen styr på de informationer, der tilgår os via de sociale platforme eller den påvirkning, vi får hver i sær. Selv om mange forsøger at moderere, så ser det ikke ud til at virke tilstrækkeligt. Hvor platformene i starten blev anset som en mulighed for demokratisk debat og oplysning, er det blevet markant, at det også er en mulighed for at dele misinformation af mere eller mindre skadelig karakter. Der er heller ikke styr på den skade, vi kan forvolde hinanden gennem den magt vi hver i sær har med vores mobiltelefon og digitale ytringsmulighed.

Ekkokamre når dit feed ikke ligner mit. Vi er alle personligt digitaliseret med de sociale medier, og vi får mere af det, vi allerede har vist interesse for. Dermed har vi fjernet os fra det fælles udgangspunkt, og hvis vi så samtidig tror, at andre får de samme informationer, så kan vi opnå en forståelse af at selv utrere synspunkter eller usande historier er sande, fordi vi eksponeres for dem og ikke har en fælles referenceramme. I særlig slem grad er de ekkokamre, hvor man møder hatecrime eller radikalisering.

Etikken, der forsvandt er hele den overordnede problematik. Den var der måske aldrig, men den udviklede sig heller ikke undervejs, viser interviewsene med de mange personer, der har oplevet udviklingen indefra. Jeff Seibert fra Twitter bliver afbildedet fra en optagelse af en høring, at de ikke forventede noget af dette, da de skabte twitter for 12 år siden. Det er lidt gennemgående i The Social Dilemma og måske endda et af de største dilemmaer i det hele taget når det kommer til udviklingen. Nemlig at det ikke var meningen. Hvad kan vi så bruge det til? Vi kan bruger den viden til at forstå situationen anderledes. At de store tech-giganter ikke nødvendigvis havde den agenda, at vi skulle stå misinformerede, modløse, ensomme og afhængige tilbage her 16 år efter det første sociale medie for alvor vandt indpas i vores liv.

Vi er produktet. Når noget er gratis, er du produktet. Det har over en kort årrække udviklet sig til at være børnelærdom, men i dokumentaren bliver det fint illustreret ved, at kilderne fortæller, hvordan de selv var med til at udvikle den teknologi, der gør, at giganterne lever fedt af vores tilstedeværelse. Det er vores data, vores digitale spor, det vi gør, skriver, deler og bruger tid på, der betyder, at vi kan blive solgt videre. Det er med andre ord første gang i verdenshistorien, hvor en hel verdens befolkning er et produkt, som få store virksomheder lever af. Vi er benzinen, der driver verdens rigeste virksomheder.

De ved alt og selvfølgelig gør de det. Hvis du søger på symptomer på stress, ved Google, du har stress, før du selv aner det. De ved, hvornår du slukker, tænder, hvilken musik, du hører, og hvor ofte du skændes med din kæreste på Messenger. Vi findes alle i en digital kopi et sted derude.

Og alle oplysninger er med til at forme din fremtid ud fra en algoritme.

Alt er programmeret. Når du gør A vil du blive ledt til B. En digital vej er foruddefineret, mens du måske bevarer en tro på, at du selv bestemmer, om du går til højre eller venstre. Men en forprogrammeret algoritme har valgt for dig. Måske endda hvis du vælger at “snyde” den.

Algoritmen er udtænkt af mennesker, men som årene går, er den også automatiseret. Vi kan via vores tilstedeværelse på vores foretrukne platforme få ændret vores liv, tilgang, følelser eller vidensniveau. En af de vigtigste pointer er nemlig, hvordan en succes, der skal koble mennesker og udvikle muligheden for samtaler og demokrati ender med faktisk at afvikle begge dele. Alene fordi man ikke fra starten ikke har forstået den magt, der kunne ligge i opfindelsen, og at man – da man måske begyndte at få en indikation af det, stadig ikke var villig til at ændre på det. Spørgsmålet er, om det ville have ændret mange milliarder at have gjort det, tænkt det ind, kommunikeret det? (etiske overvejelser)

Derfor er The Social Dilemma både nyt og gammelt nyt

Den afgørende udvikling får vi et indblik i fra Tristan Harris, der i øvrigt også er en af de ledende skikkelser i modstanden mod tech-giganternes udvikling og dominans og stifter af Center for Human Society. Han beskriver, hvordan han på et tidspunkt bliver opmærksom på den negative udvikling – afvikling af det menneskelige og laver en udførlig rapport til toppen i Google – en rapport, der kortvarigt vækker opsigt for derefter blot at forsvinde i glemslen og den videre udvikling.

Tristan Harris stiller selv den tese, at vi alle er forheksede, men at vi blot skal vide det.

Den viden har The Social Dilemma været med til at gøre tilgængelig. Og den er relevant for alle brugere – unge som gamle.

Forledes spurgte en elev på en ungdomsuddannelse mig, om det ikke var bedre, at vi ændrede tingenes tilstand hos Tech-giganterne end at advare de unge.

Til de kunne jeg kun svare, at i den ideelle verden, var det bedst, at vi kunne regulere og ændre tingenes tilstand. Men mens nogle arbejder på det, så er viden om metoder og konsekvenser afgørende for dig som bruger her og nu.

Forfatter til indlægget:

Lykke Møller Kristensen

0 replies

Leave a Reply

Want to join the discussion?
Feel free to contribute!

Leave a Reply

Your email address will not be published. Required fields are marked *