Forskarporträtt av Katja de Vries
Katja de Vries forskar om rättsinformatik och Artificiell Intelligens (AI). I sin forskning undersöker hon implikationerna av skapande AI inom ramen för Europarätten med beröringspunkter på cyberbrott och immaterialrätt, samt dataskydd och yttrandefrihet.
Katja de Vries har en spännande bakgrund. Hon genomförde tre masterprogram parallellt vid Leiden universitet i Nederländerna: i civilrätt, kognitiv psykologi och filosofi. Därtill kompletterade hon sin utbildning med en juristexamen från Oxford Universitet. Vid denna tid började ”big data”-eran och frågor om hur den ska hanteras på ett juridiskt korrekt sätt.
Under Katjas studier i kognitiv psykologi utvecklade hon ett stort intresse för statistik, vilket ledde till en doktorsavhandling i rättsinformatik med titeln: Machine learning/informational fundamental rights. Making of sameness and difference (de Vries, 2016). Sedan dess har Katja forskat på juridiska och sociala implikationer av AI och maskininlärning på integritet, dataskydd och diskriminering.
En av Katjas forskningsämne är den allmänna dataskyddsförordningen eller GDPR (General Data Protection Regulation) som reglerar behandlingen av personuppgifter inom EU och som har varit i kraft sedan 2018.
- Dataskyddsförordningen adresserar ett jätteviktigt dilemma: hur kan man nyttja personuppgifternas ekonomiska och samhälleliga värden utan att hamna i ett digitalt fängelse där allt vi gör utvärderas av staten och stora företag? frågar Katja.
- Det har blivit ett mycket aktuellt problem under coronaviruspandemin när olika appar utvecklas för att följa spridningen av sjukdomen, vilket väcker etiska, politiska och juridiska frågor, fortsätter hon. Vem litar vi på mest? Stora företag? Myndigheter? Staten?
Samtidigt är det lätt att uppleva dataskyddsförordningen som en stor byråkratifälla som skapar stor frustration i vardagen. Personuppgifter finns överallt, hela tiden, och att uppfylla alla dataskyddsförordningens krav tar tid och energi, säger hon.
- Jag kan själv också bli frustrerad över att man inte bara kan ta en bild på mitt barns förskola, eller att jag är tvungen att ge samtycke till behandling av mina uppgifter hela tiden, säger Katja. Som forskare, företag eller myndighet kan det kännas begränsande att man ska uppfylla GDPR krav. Det är därför inte så konstigt att många försöker att komma undan från dataskyddsförordningens reglering genom att anonymisera personuppgifter. När en lag konfronteras med verkligheten blir det alltid spännande, det utmanar lagens betydelse. En rättsregel kan verka enkel på pappret, men sedan kommer det ny teknologi som lagstiftaren inte hade förutsett eller fiffiga tricks för att undvika regleringen och då framkallas svåra, nästan filosofiska frågor, säger Katja.
Ett bra exempel är anonymisering av personuppgifter. Det är inte alls självklart när en uppgift är tillräckligt anonymiserat för att falla utom dataskyddförordningens tillämpningsområde. Även om något inte verkar uppenbart knuten till en identifierbar person, gäller dataskyddsförordningen om man kan re-identifiera någon med lite detektivarbete. Det finns många stora företag och myndigheter som strävar efter att komma så nära gränsen som möjligt för att behålla så mycket information som möjligt utan att uppgifterna kan kvalificeras som personliga. En del av min forskning undersöker hur AI och maskininlärning har blivit ett verktyg för att förbättra anonymisering.
De kommande åren ska Katja undersöka rättsimplikationerna av kreativ AI – vad innebär det?
- Tills nyligen användes AI och maskininlärning mest för att klassificera och sortera personer, objekt, transaktioner eller celler inom medicinen. Med kreativ AI finns nu möjlighet att skapa syntetiska data och komponera övertygande nya variationer på befintliga mönster (så kallade ”deepfakes”), som till exempel anonymiserade data, ansikten som inte existerar, falska videor, nya konstverk, vilket bildar nya perspektiv, nya uppmaningar. Detta är ett nytt fokusområde för mig! säger Katja.
Kreativ AI utmanar flera juridiska områden som exempelvis straffrätt när falskt material används mot en person menar Katja. Det finns ganska mycket uppmärksamhet kring hur kreativ AI kan underlätta skapandet av ”fake news” och underminera demokratin. Men faran inom det privata livet är kanske större än för demokratin. Journalister eller andra organisationer lägger resurser på att verifiera nyheter, men vem skyddar den privata personen som är utpressad eller mobbad på sociala medier, undrar hon? Där finns det mindre skydd. Frågan är när man kan kvalificera publikation av syntetiskt bildmaterial som förtal eller förolämpning.
Kreativ AI kan användas på olika område och har implikationer inom olika rättsområden. Det skrämmer inte Katja. Tvärtom! Hon är van med att prata med icke-jurister. Hon har samarbetat i många tvärvetenskapliga projekt och kommer att fortsätta göra så. Vissa inom generativ AI pratar om maskin-kreativitet och maskin-fantasi. På samma sätt som kreativ AI förvandlar verkligheten — mer eller mindre beroende på vilka parametrar som används, och där en bild är inte längre är ett bevis — behöver vi också ändra vårt sätt att betrakta data och information, avslutar Katja.