Guldspaden Nominerad 2021

Fördel Big Tech - maktspel om artificiell intelligens i Europa

Tillbaka
Nominerad till Guldspaden 2021 i kategorin Studentspaden Se bidrag: Bidrag (.zip, 0.6 MB) Kategori Studentspaden Deltagare Alina Yanchur Camille Schyns Greta Rosén Fondahn Sarah Pilz Förutom ovanstående deltog följande personer Brigitte Alfter, handledare JMG (magisterprogrammet i undersökande journalistik). Koert Debeuf & Matthew Tempest, redaktörer EUobserver. Publiceringsdatum 2021-08-23 och 2021-11-03 Var publicerades jobbet? EUobserver

BESKRIV KORTFATTAT VAD GRÄVET AVSLÖJAT

Grävet har avslöjat hur Big Tech-bolagen försökt påverka EU:s arbete med ta fram lagstiftning kring artificiell intelligens. Vi har presenterat data, detaljer från mötesprotokoll och berättelser från expertgrupper som visar att Big Tech är en dominerande aktör i den politiska processen i Bryssel – både formellt och informellt. Vi har också kunnat påvisa att den politik som EU-kommissionen presenterat upprepar många av de argument som näringslivet lagt fram under lobbymöten. Slutligen har vi kunnat dokumentera fall där algoritmer åsamkat människor skada och identifierat hur EU-förslaget inte nödvändigtvis skulle kunna parera denna skaderisk.

PÅ VILKET SÄTT ANSER DU ATT GRÄVET UPPFYLLER KRITERIERNA FÖR EN GULDSPADE?

Med hjälp av öppen data, offentliga handlingar och förstahandskällor har vi målat upp en tydlig bild av en specifik lagstiftningsprocess som inte granskats förut, där den ojämna maktbalansen mellan techbolag och civilsamhälle tidigare fortgått i det dolda. Granskningen gör upp med algoritmernas ogenomskinlighet, och belyser i vems intresse dessa system utvecklas och används, vilka som gynnas av (av)regleringen av artificiell intelligens i Europa och hur EU planerar att hantera de konsekvenser som införandet av algoritmiskt beslutsfattande kan innebära. Genom att belysa denna politiska process anser vi att artikelserien ger läsaren nödvändig kunskap för att kunna påverka sin egen digitala framtid. Serien ger också läsaren tillgång till tidigare inte publicerat material, som presenteras både med statistik och med engagerande och konkreta exempel från verkliga livet. Maktspelen i Bryssel kan upplevas som långt bort från vår vardag och vi har försökt att minska det avståndet. Som grupp har vi visat på ihärdig motivation att fortsätta trots hinder. Vi har argumenterat i månader med EU-byråkrater på högsta nivå för att få ut begärda dokument och analyserat hundratals interna handlingar. Trots att gruppmedlemmarna befann sig i olika länder och att arbetet ofta fick ske från hemmakontor på grund av Corona-restriktioner såg vi möjligheterna som detta innebar. Även om vi var studenter kunde vi nu ta oss till EU:s presskonferenser digitalt. Och våra olika hemmabaser innebar att vi kunde prata med källor från flera länder och förstå lagförslagets påverkan från en mängd olika perspektiv. Projektet har därför också visat på kraften i gränsöverskridande journalistik och värdet av ett internationellt team – och möjligheterna detta skapar för att producera artiklar som är relevanta både i Sverige och resten av EU. Efter att ha arbetat intensivt tillsammans i flera månader har vi under utredningens gång också vuxit samman till en enhet som fortsätter att göra research ihop från våra olika håll i Europa.

HUR UPPSTOD URSPRUNGSIDÉN TILL PROJEKTET?

Artificiell intelligens är en så kallad "horisontell teknik" med möjliga tillämpningar i nästan alla delar av samhället. Detta gör EU:s ansträngningar med att reglera AI historiska – och något som spås få konsekvenser för hela den europeiska befolkningen. Lagförslaget innebär enorma ekonomiska incitament för techbolagen. Men samtidigt har det under de senaste åren kommit rapporter om negativa påföljder av användningen av artificiell intelligens för medborgerliga rättigheter. Vi upplevde därför att ämnet var viktigt att belysa. Vi visste även att Big Tech mobiliserat stort i Bryssel under de senaste åren. Samtidigt skrevs det väldigt lite i media om just lobbyismen kring artificiell intelligens, speciellt när det kom till undersökande journalistisk bevakning. Med tanke på detta, och i och med att EU:s lagförslag skulle presenteras under tidsramarna för vårt magisterprojekt, såg vi en möjlighet och ett läge för att fylla ett tomrum.

VILKA ARBETSMETODER TILLÄMPADES?

Vi använde oss även av datajournalististiska metoder för att ta reda på vem som haft tillgång till kommissionärerna och deras medarbetare under arbetet med lagförslaget. Med hjälp av web-scraping av öppna möteskalendrar, dataanalys och visualisering kunde vi presentera statistik över mötena som EU-kommissionen hållit med lobbyister. Vi såg då snabbt en underrepresentation av civilsamhälle, fackliga organisationer och forskare. Vi konfronterade även Kommissionens talespersoner med statistiken. Genom en begäran av allmänna handlingar från EU-kommissionen kunde vi samtidigt analysera vidare vad som sagts under mötena med lobbygrupper, företag och icke-statliga organisationer. Vi begärde ut mötesanteckningar, email och dokument från mötena och tog del av kring 200 dokument. Vi genomförde samtidigt en dokumentanalys av offentligt material och följde förändringar som skett i AI-regleringen under resan från idé till vitbok till lagförslag. Med hjälp av ståndpunktsdokument, intervjuer och pressreleaser kunde vi även göra en tidslinje och analys av reaktioner och åsikter från näringsliv och civilsamhälle i samband med de olika publiceringarna från EU-håll. Parallellt med detta analyserade vi mötesanteckningar, medlemslistor och dokument producerade av den fristående expertgruppen som gett kommissionen råd i AI-frågor. Vi kunde kartlägga gruppens kopplingar till näringslivet och civilsamhället och föra statistik över detta. Genom intervjuer med medlemmar (från olika länder och varierande sektorer) fick vi även inblick i diskussionerna som förts och situationerna som uppstått under gruppens möten. Vi ville även belysa hur en möjlig AI-reglering skulle kunna komma att påverka människors liv. Ett område som EU-kommissionen utpekar som “högrisk” är algoritmer i offentlig sektor. Näringslivsrepresentanter å andra sidan har hävdat att ett ökat användande av algoritmer i offentlig sektor är önskvärt och lobbat för att producenter själva ska kunna kontrollera att de uppfyller kommande säkerhetskrav. Därför intervjuade vi Roger Derikx i Nederländerna om ett fall där misstag från en statlig algoritm påverkat flertalet livssituationer. Totalt gjorde vi också kring 50 intervjuer och bakgrundsintervjuer med experter, forskare, politiker, tjänstemän och representanter från civilsamhället från olika länder om lobbying, AI, digitala rättigheter och EU-politik (främst från EU, men även från USA). Utöver detta följde vi också i presskonferenser, event och föreläsningar som hölls i anslutning till publicerandet av Kommissionens AI-förslag i april 2021. Vi tog även kontakt med de teknikföretag och lobbygrupper som figurerat i möten och expertgruppen. Vissa valde att ge en skriftlig kommentar.

VILKA KÄLLOR ANVÄNDES?

- EU-kommissionärenas offentliga möteskalendrar (statistik insamlad med web-scraping) - EU-kommissionens Öppenhetsregister - Mötesanteckningar, email och dokument rörande möten mellan EU-kommissionen och intresseorganisationer/lobbygrupper, förvärvade genom begäran av allmän handling från EU-kommissionen. - Mötesanteckningar från sammanträden i Kommissionens “High Level Expert Group on Artificial Intelligence”, dokument och råd framtagna av expertgruppen, samt intervjuer med flera medlemmar av gruppen - Källor inifrån Kommissionen - Kommissionens talespersoner, sk Spokespeople’s service -EU-kommissionens förslag 2021/0106 (COD) till en förordning om Artificiell Intelligens, samt EU-kommissionens vitbok om Artificiell Intelligens - Roger Derikx, vars historia belös hur algoritmer direkt kan påverka människors livsöden - Representanter från icke-statliga organisationer med fokus på digitala rättigheter och big tech-lobbyism - Juridiskt sakkunniga inom digital lagstiftning - Europaparlamentariker från flera olika länder - Ståndpunktsdokument från näringsliv och civilsamhälle - Pressmedelande från lobbygrupper - Bakgrundsintervjuer med politiskt sakkunniga, akademiker, experter och journalister aktiva inom frågor rörande AI och/eller lobbyism

VILKA PROBLEM UPPSTOD?

Det var en utmaning att hitta konkreta exempel där människor kunde dela med sig av hur deras liv påverkas av AI. Inte för att det inte sker, utan för att i många fall vet vi inte om när våra myndighetsbeslut tagits med hjälp av AI eller vårt CV granskats av en algoritm. Samtal och intervjuer med representanter för organisationer som arbetar dagligen med digitala rättigheter bekräftade att algoritmers påverkan ofta är oerhört svår att bevisa. Till slut hittade vi med hjälp av sociala medier ett konkret fall i Nederländerna. En annan utmaning var att få tillgång till allmänna handlingar. EU-institutioner måste lämna ut handlingar inom 15 dagar (30 dagar i exceptionella fall). Trots detta tog det flera månader innan vi fick ta del av dokumenten vi begärt ut – och i vissa fall väntar vi fortfarande på att handlingar ska lämnas ut. Detta försvårande och försenade vårt arbete, till exempel när det kom till att analysera vad som sades under möten mellan EU-kommissionärer och lobbyister. Vi fick vara ihärdiga och trycka på i flera månader – och samtidigt bygga oss en helhetlig bild genom intervjuer, genom att odla källor inom EU-bubblan och genom de öppna källor och dokument som fanns tillgängliga.

VAD ANSER DU VIKTIGAST?

1. “Computer says No: How the EU's AI laws cause new injustice” https://euobserver.com/investigations/152695 2. “How Big Tech dominates EU's AI ethics group” https://euobserver.com/investigations/153386 Detta är en serie i två delar. I den första delen dokumenteras lobbyismen i antal möten med Kommissionen. Här visas den ojämna spelplanen mellan företagsintressen och företrädare för civilsamhället. Dessutom visar Roger Derikxs historia vilken inverkan det politiska beslutsfattandet och lobbyverksamheten har på EU-medborgarnas vardag långt bortom Bryssel. I den andra delen av serien undersöks Big Techs nätverk av inflytande. Genom att titta på EU-kommissionens expertgrupp för artificiell intelligens – särskilt de finansiella banden till Big Tech som experter från den akademiska världen och tankesmedjor hade – granskas de mer subtila sätten på vilka företagsintressena påverkar EU:s politiska process.

HUR MYCKET TID SPENDERADE NI?

Kursen för magisterprojektet varade i 10 veckor. Utöver detta arbetade vi kvällar och helger med grävet i cirka två månader innan kursens början, vid sidan av journalistikstudier. Efter att kursen tagit slut och vi lämnat in projektet arbetade vi under ett antal veckor med att pitcha och redigera artiklarna för publicering i EUobserver.

VILKA REAKTIONER HAR ARBETET FÅTT?

Avslöjandet har lett till uppmärksamhet för frågan både på sociala medier och i rapporter från organisationer såsom Global Witness, Access Now, European Digital Rights, Corporate Europe Observatory, Statewatch och Alter-EU. I oktober höll organisationen Journalism Arena en diskussion om "Datadilemman", där en gruppmedlem bjöds in för att presentera vår granskning. Innehållet i artiklarna diskuterades inom ramen för panelen "When data hurt the vulnerable". Det lagförslag som EU-kommissionen har lagt fram kommer nu att diskuteras av Europaparlamentet och ministerrådet. I vår undersökning beskrevs det enorma inflytande och de lobbystrategier som de stora teknikföretagen använde för att se till att förordningen skulle vara i linje med några av deras viktigaste intressen, inklusive beslutet att inte förbjuda kontroversiella tillämpningar av artificiell intelligens och att främja artificiell intelligens i den offentliga sektorn för att påskynda införandet av tekniken i hela Europa. Tillgången till denna information kommer att göra det möjligt för medlemsstaternas företrädare och Europaparlamentariker att diskutera och ifrågasätta några av de viktiga antaganden och punkter som finns i lagförslaget.

HAR PROJEKTET ANMÄLTS TILL PO, GRANSKNINGSNÄMNDEN ELLER ANNAN INSTANS?

Nej