Sådan kaster ‘big data’ os ind i uvidenheden
I den humanitære sektor taler man om, hvordan flere data giver bedre beslutningsgrundlag og udvisker usikkerhed og risici. Virkeligheden er dog en anden. Flere data – og kvantificeringen, der følger med – betyder nemlig tværtimod mere uvidenhed – mere viden, der skubbes væk, ikke bruges eller sættes i spil. Uvidenhed er derfor blevet et stærkt politisk redskab: Det er de humanitære aktører, der bestemmer, hvilken information der bliver til data, og hvilke data der efterfølgende bliver til viden – og dermed intervention.
”Efter de havde taget mine data, printede de en kvittering ud. Jeg gik tilbage til mit telt og kiggede på papiret og lagde mærke til, at der øverst var et afkrydsningsfelt, som personen i centret havde markeret som ’Ja’ uden nogensinde at spørge mig. Det gav dem lov til at dele mine data med Myanmar. Jeg blev så vred, da jeg så det, men jeg havde allerede givet dem mine data, og jeg havde brug for nødhjælpen, så jeg vidste ikke, hvad jeg kunne gøre ved det”. Sådan forklarede en rohingya-flygtning, hvordan det var at få registreret biografiske og biometriske data af FN’s Højkommissariat for Flygtninge (UNHCR) i en flygtningelejr i Bangladesh i 2021.
Igennem de sidste fem år har UNHCR registreret mere end 900.000 rohingya-flygtninge i bangladeshiske lejre og indsamlet personlige og biometriske data – fra fotografier til fingeraftryk og irisscanninger – før man gav livsnødvendig hjælp. Sensitive data blev dog ikke kun delt med den bangladeshiske regering, men videregivet til myndighederne i Myanmar, det land, hvis militær og befolkning havde udført en massakre – grænsende til folkedrab – mod mindretallet. UNHCR benægtede fejl under dataindsamlingen og mente, at rohingya-flygtningene var blevet bedt om at give skriftligt ‘informeret samtykke’ til, at deres data blev delt med myndighederne i Bangladesh og Myanmar med henblik på mulig repatriering. Alle på nær én af de flygtninge, som Human Rights Watch havde talt med, fortalte dog at de videregav fortrolige oplysninger til UNHCR’s medarbejdere mundtligt og derefter fik udleveret en kvittering på engelsk.
Sagen viser, hvordan fremkomsten af nye teknologier, der udnytter kunstig intelligens (AI), maskinlæring og algoritmer, fundamentalt forandrer humanitært arbejde.
Dataficeringen’, digitaliseringen og teknologiseringen af det humanitære arbejde har ikke mindst betydet en udvidelse af humanitære aktørers evne til at indsamle, analysere og præsentere data og information. Udviklingen bygger på en forestilling blandt de humanitære organisationer om, at ny teknologi kan gøre dem i stand til at tage bedre og mere effektive beslutninger, der kan begrænse risici og usikkerhed. I virkeligheden er det langtfra tilfældet. Snarere end at ’lukke ned’ for mulige risici øger udviklingen uvidenhed og usikkerhed. For udviklingen gør kun beslutningerne mere – ikke mindre – komplekse.
Det, vi ved, vi ikke ved, og det, vi ikke ved, vi ikke ved
I 2002 blev USA’s forsvarsminister, Rumsfeld, latterliggjort, da han i forbindelse med Irak-krigen forsøgte at skelne mellem known unknowns og unknown unknowns. Men der var noget interessant ved det kryptiske citat. I forskningen har vi nemlig igennem lang tid diskuteret spørgsmål om uvidenhed og usikkerhed under begreber som risks, uncertainty, og unknowing – tre begreber, der forholder sig meget forskelligt til viden.
Risiko handler grundlæggende om fremtidige udfordringer; de ting, vi kender til, og som vi ved kan ske, men hvor vi er i tvivl om, hvorvidt/hvornår de indtræder. Risici forstås typisk som forhold, vi kan sandsynliggøre og kvantificere, så vi både kan overskue dem og måske endda kontrollere, hvorvidt de bliver til virkelighed. Vi har ofte data om, hvordan udfordringerne ser ud, og hvilke potentielle effekter de kan medføre. Det har ført til et hav af systemer vedrørende risikohåndtering – risk reduction, due diligence, ISO-standarder (globale standarder udviklet af internationale standardiseringsorganisationer) og lignende værktøjer, der alle sammen arbejder ud fra en forståelse af, at risici kan forudsiges og derfor forhindres.
Træder vi lidt højere op på uvidenhedsskalaen, har vi usikkerhed eller uncertainty, som det hedder med et bedre ord på engelsk. Usikkerhed forstås som regel som tvivl eller tvetydighed om fremtiden, der kan blokere eller forsinke handling. Usikkerhed er derfor knyttet til risici, men handler også om tilgængeligheden, pålideligheden og relevansen af de data og den information, man har adgang til. Er den mangelfuld, stiger graden af usikkerhed. For at mindske usikkerheden forsøger humanitære aktører typisk at indsnævre deres ansvarsområder ved fx at specialisere, opdele eller standardisere deres aktiviteter. På den måde ses usikkerhed – ligesom risici – som noget, der kan reduceres gennem planlægning.
Uvidenhed – den tredje kategori – er endnu mere kompleks. Uvidenhed lever så at sige i grænselandet mellem, hvad vi ved og ikke ved. Med andre ord bevæger grænserne for uvidenhed sig konstant – fordi ny viden medfører ny uvidenhed. Uvidenheden er refleksiv og dermed radikalt forskellig fra vores opfattelse af risiko og usikkerhed. Ikke mindst fordi uvidenhed ikke kan kontrolleres eller begrænses ved hjælp af planlægning eller mere data. Iboende i uvidenhed er nemlig tesen om, at ny viden fører til flere ubekendte og derfor mere uvidenhed. På den måde er uvidenhed bundet til både grænser og grænseløshed: Den angiver en grænse for, hvad vi ved, men fordi vi konstant får ny viden, ændres denne grænse konstant.
Det lyder måske langhåret, men det handler om, at man som organisation kan bruge ny teknologi til at indsamle så mange data og så meget information, man vil – i troen på, at det vil lukke mængden af usikkerhed ned og dermed sikre så effektive beslutninger som muligt – men i virkeligheden vil man udvide sin reelle uvidenhed med hvert nyt stykke viden, man indsamler eller organiserer.
Uvidenhedsperspektivet er ikke mindst vigtigt, fordi beslutninger i humanitære situationer handler om at konstruere grader af viden og sikkerhed (og dermed uvidenhed og usikkerhed), fordi viden bruges til at planlægge, legitimere og dokumentere humanitære indsatser.
Konkret kan man tale om flere forskellige specifikke former for uvidenhed. Lad os kigge på en af de mest udbredte – strategisk uvidenhed. Den handler om de valg, der kan være forbundet med at vide og – måske vigtigere – ikke at vide. Det kan eksempelvis bruges til at mobilisere uvidenhed på en måde, så man som organisation eller person står uden for ansvar. ’Det vidste vi ikke’ er et taktfast forsvar for alverdens handlinger eller mangel på samme. Uvidenhed kan altså være en strategi til at beskytte interesser, i praksis udført ved bevidst at undgå bestemte former for viden, der kan kompromittere ens interesser. Man beslutter simpelthen ikke at udføre visse former for vidensindsamling – en form for selektiv uvidenhed, hvor man vælger at forblive uvidende.
Viden og uvidenhed er altså strategiske og politiske forhold, der kan bruges aktivt til at beskytte interesser eller fralægge sig ansvar.
Viden og uvidenhed i humanitære organisationer
Der er som sådan ikke noget nyt ved kvantificering i det humanitære samarbejde. Der er altid blevet talt, regnet, registreret – men mulighederne i big data for indsamling, analyse og præsentation af data – understøttet af maskinlæring, algoritmer og kunstig intelligens – muliggør i dag, at ’dataficeringsprocesser’ og digitale infrastrukturer gennemsyrer humanitære interventioner rundtom i verden. Man kan overvåge områder i realtid, kortlægge krisesituationer eller registrere og spore individer og grupper af mennesker gennem biometriske datapunkter, som vi hørte om det i rohingya-eksemplet, der åbnede denne artikel.
I dag spiller data derfor ikke bare en strukturerende, men en afgørende rolle i nødhjælpsarbejdet, og effektive humanitære reaktioner afhænger af viden, der erhverves gennem fortolkning af data og information. ’Dataficeringen’ af den humanitære branche har dog nået et niveau, hvor informationsstyringen kan komme til at fremstå som selve formålet med visse humanitære aktiviteter. Vi ved, at ’dataficering’ ofte medfører en centralisering af viden, der skubber andre og typisk mere lokale former for viden i baggrunden, i troen på at data er både objektive og eviggyldige.
Som sagt bidrager ’dataficering’ til at øge uvidenheden indbygget i humanitære operationer og øger dermed sandsynligheden for problematiske udfald for de mennesker, som humanitære aktører forsøger at hjælpe.
Da FN’s generalsekretær, António Guterres, i 2020 introducerede FN’s nye datastrategi, understregede han, at data nu er udgangspunktet for stort set alle aspekter af FN’s arbejde med fred og sikkerhed, menneskerettigheder og bæredygtig udvikling. Datastrategiens vision er, at FN skal opbygge et samlet dataøkosystem, der kan maksimere udbyttet af de store mængder tilgængelige data, fordi det understøtter mere effektive FN-indsatser i verdens brændpunkter. Men datastrategien er blot et eksempel på, hvordan big data har spredt sig til at understøtte politikker og strategier i den humanitære sektor. Og hvordan big data er i gang med at omforme kernen i det humanitære imperativ.
Datarelationer er menneskelige relationer
Big data bruges til at præsentere humanitære organisationer som ansvarlige og professionelle, fordi kvantificerbare data virker mere objektive og neutrale. Men processen med at skabe mening ud af store mængder data medfører komplekse risici og niveauer af usikkerhed, som flytter grænserne for uvidenhed.
Gruppen af aktører, der er involveret i indsamling og analyse af humanitære data, er blevet udvidet i takt med ’dataficeringen’ af den humanitære indsats. Foruden ikkestatslige organisationer (NGO’er) og stater omfatter kredsen ikke mindst startups og private virksomheder. Selvom nogle optimistisk beskriver, hvordan denne afhængighed forener den private og den humanitære sektor, peger andre på, at motiverne bag indsamlingen af data kan variere fra sektor til sektor og ikke altid har sårbare menneskers interesser i centrum. Som vi har været inde på, italesætter den humanitære branche i stor stil indsamling og analyse af data som en metode til at forbedre gennemsigtighed og øge ansvarlighed. Men der er både kommercielle og politiske incitamenter til at indsamle store mængder data. Det er dét, der ligger i informationskapitalisme, og som nogle gange endda også ligner en form for datakolonialisme – de stærkt ulige forhold mellem nord og syd omkring, hvordan og hvem der indhenter data, samt hvad de bruges til.
Da amerikanerne forlod Kabul i 2021, efterlod de et stort antal våben, køretøjer – og biometriske ID-kameraer, der faldt i Talibans hænder. Kameraerne var blevet brugt til at registrere og identificere lokale afghanere, der samarbejdede med den internationale koalition. Evnen til at tjekke, hvem der var på ’amerikanernes side’, blev nu med et et redskab, der kunne bruges til at identificere afghanere, der i Talibans øjne var forrædere. På den måde blev et teknologisk redskab brugt til at minimere risici for amerikanerne pludselig til et livsfarligt spil om afghanske civile liv.
Det er altså vigtigt at forstå, at i disse nye landskaber er magthierarkier dybt forbundet til dataindsamling og -brug. Det afspejler sig i spørgsmål som: Hvor vil data blive lagret? Hvem skal have adgang til dem? Hvad skal data bruges til? Og bliver de nogensinde slettet?
Begrebet datakolonialisme forbinder nutidig produktion og indsamling af humanitære data til den historiske kolonialismes rovdriftspraksis. Sådan et perspektiv understreger, hvordan data ikke er en naturressource, der bare kan trækkes frit fra verden, og at der ikke eksisterer ’rådata’, der bare flyder rundt og nemt kan indsamles, uden at det for alvor vedrører nogen. Tværtimod er datarelationer i deres kerne menneskelige relationer, og indsamling af data reflekterer fundamentalt set møder mellem interesser. Også selvom disse bliver så forankrede i hverdagen i humanitære situationer, at der sjældent stilles spørgsmål ved dem. Når data skal fortolkes eller bruges, så skal de organiseres og struktureres for blive meningsfulde for både mennesker og algoritmer. Det betyder, at behandlingen af data er en konstant konstruktion af både viden og uvidenhed. På den måde er de, der bearbejder data, også med til at skabe dataene igennem den måde, de indsamler, fortolker og præsenterer på. Det begynder allerede i indsamlingsfasen, hvor bias hos dem, der fx formulerer spørgsmål, nemt kan skabe en form for tunnelsyn, hvor kun bestemte former for viden registreres, og andre udelades.
Et eksempel her er kunstig intelligens og udviklingen af apps til sundhedsspørgsmål, inklusive blandt humanitære aktører. Her ser vi ofte, at race- eller kønsmæssige bias og skævheder i de medicinske datasæt, som man baserer sig på, når man programmerer, betyder, at visse patientgrupper favoriseres frem for andre. På samme måde ved vi, at mange digitale enheder fungerer dårligere på mørklødet hud og er mindre effektive til at diagnosticere sygdomme, simpelthen fordi de datasæt, de baserer sig på, ikke har en høj nok diversitet. Det er altså ikke tilstrækkeligt at basere sig på medicinske undersøgelser og datasæt fra det globale nord (som ofte tilmed primært er udført med mandlige deltagere), hvis man skal forstå og tilfredsstille de sundhedsmæssige behov for eksempelvis ugandiske kvinder i det globale syd.
Vi ser ofte også, at dataindsamlingsprocesser fastholder ulige relationer (af magt, information, adgang) mellem dem, der indsamler data, og dem, der frivilligt eller ej leverer deres private og sensitive oplysninger. Når du står i en flygtningelejr og har desperat brug for nødhjælp, er du ikke ligefrem i en situation, hvor du nemt kan reflektere over eller være kritisk mod dem, der potentielt kan hjælpe dig.
Endelig fører behandling (fx filtrering, kodning, rensning) af data til specifikke formål sjældent til sletning af eksisterende data. Det øger potentialet for misbrug, samtidig med at det understreger uligheder i databehandlingsindsatsen – databehandling er en teknisk opgave, der kræver specialiseret viden, hvor de, hvis data det drejer sig som, ofte ikke har en stemme i, hvordan deres data behandles – selvom det er dem, der vil lide under konsekvenserne af eventuelle misforståelser eller misbrug.
Og når først data er indsamlet, er det uhyre vanskeligt at slette dem igen. I stedet vil data cirkulere gennem institutionelle eller organisatoriske netværk, bevidst eller ubevidst.
Præsentation er politik
Efter at data er blevet behandlet – med den konstruktion af viden og uvidenhed, der tydeligvis følger med det – skal de præsenteres. Præsentation af data er – på samme måde som behandlingen – også konstant komplekse processer, hvor det skal besluttes, hvilke data der præsenteres hvordan og med hvilke formål.
Dertil kommer, at præsentation af data i denne kontekst grundlæggende handler om at tilskynde bestemte former for handling – og derfor er en yderst politisk proces.
Konkret stoler humanitære aktører i stigende grad på data, der fremstår som kvantificerede repræsentationer af kriser. Disse repræsentationer bruges ofte til at anskueliggøre både dybden af en specifik krise, behovet for hjælp og den igangværende humanitære indsats. Men det er ofte uklart, hvordan visse typer data er valgt over andre. På den måde giver disse repræsentationer humanitære aktører mulighed for strategisk at beslutte, hvilke informationer der skal medtages (og måske vigtigere, hvilke der udelades), og hvordan de valgte data præsenteres.
Det illustrerer ikke mindst nytten af det, vi har beskrevet som strategisk uvidenhed, hvor komplekse situationer bliver reduceret til simple præsentationer med henvisning til den humanitære aktørs ekspertise. Derved kan known unknowns og unknown unknowns bruges og genskabes i humanitære interventioner som en kraftfuld form for magt – det er den humanitære aktør, der bestemmer, hvad der tæller som data og dermed, hvor grænsen mellem viden og uvidenhed går.
Et eksempel er kort (fx luftfotos, geodata, digitale mockups o.lign.), der i et lettilgængeligt format bruges til at illustrere komplekse humanitære katastrofer ved at sammensætte dokumentation af krisens omfang og spredning. Disse kort præsenterer sig selv som nøjagtige og objektive billeder af virkeligheden, men de vil altid være projektioner fra et bestemt perspektiv. Kort er netop en stiliseret præsentation af et udsnit af virkeligheden, hvor det, som ikke vises på kortet, skubbes længere væk fra offentlighedens blik. Den slags visuel datapræsentation af kriser viser, hvad vi mener, når vi taler om den stærke kobling mellem data og politisk handling.
Det gælder ikke kun humanitære aktører, men også private virksomheder, NGO’er og statslige institutioner i det voksende univers af aktører med adgang til humanitære data. I Yemen udgiver World Food Program (WFP) såkaldte Emergency Dashboards, der ved hjælp af et farveskema af nuancer, som spænder fra lysegrøn til mørkerød, fungerer som lettilgængelige visuelle opdateringer om alvoren af den humanitære krise. Det tjener også til at dokumentere WFP’s indsats for at afhjælpe den afbildede krise og visualisere behovet for finansiering til at fortsætte den humanitære intervention.
Et andet eksempel er brugen af kort til at give overblik over flygtningelejre. Disse kort er ofte meget ordnede og nærmest kunstigt organiserede afbildninger af lejre, der i virkeligheden har andre geografier og strukturer. Man kan spørge, hvorfor disse kort er skabt i første omgang, hvis de ikke kan bruges til at finde vej i lejren. Men som skematiske oversigtsbilleder kan de kommunikere, hvor og hvordan den humanitære organisation selv er til stede. Samtidig fortæller de en historie om kontrol, organisering og bureaukratisering på vegne af de humanitære organisationer.
Præsentation af data kan være et strategisk valg, der aktivt bruges til at skabe et billede af humanitære kriser og interventioner over for offentligheden og over for dem, der finansierer indsatserne. Visualiseringen af humanitære kriser er omhyggeligt udvalgte stykker af fortolket virkelighed, der præsenteres som objektive og nærmest naturgivne. Denne objektivitet understøttes af graden af kompleksitet i data bag visualiseringerne, der vanskeligt kan gennemskues af modtageren. Derudover er datapunkter ofte fraværende, spredt gennem flere kilder eller findes i tabeller og fodnoter, der undgår offentlighedens blik.
Den nye teknologi er ved at forandre det humanitære imperativ om, hvad det vil sige at hjælpe mennesker i nød, hvorfor og hvordan det bør gøres. I den humanitære sektor taler man om, hvordan flere data giver bedre beslutningsgrundlag og udvisker usikkerhed og risici. Virkeligheden er dog en anden. Flere data – og kvantificeringen, der følger med – betyder nemlig tværtimod mere uvidenhed – mere viden, der skubbes væk, ikke bruges eller sættes i spil. Uvidenhed er derfor blevet et stærkt politisk redskab: Det er de humanitære aktører, der bestemmer, hvilken information der bliver til data, og hvilke data der efterfølgende bliver til viden – og dermed intervention.
DIIS Eksperter
