En introduktion til dilemmaer og GDPR i mødet med kunstig intelligens
Kunstig intelligens er ikke længere noget, der kun findes i forskningslaboratorier eller science fiction-film. Det er værktøjer, vi bruger hver dag – når vi søger på Google, får anbefalinger på Netflix eller skriver med ChatGPT. Men jo mere AI fylder i vores hverdag og på vores arbejdspladser, jo vigtigere bliver det at stille spørgsmålet: Bruger vi det her ansvarligt?
Etik handler om, hvad vi bør og ikke bør gøre. Når vi taler om AI-etik, handler det om de valg, vi træffer, når vi bygger, bruger eller stoler på kunstig intelligens. Det er ikke et fjernt filosofisk emne – det er noget, der berører helt konkrete situationer i vores arbejde og hverdag.
Når man begynder at arbejde med AI, støder man hurtigt på spørgsmål, der ikke har enkle svar.
AI-modeller lærer af data, og hvis dataene afspejler skævheder i samfundet, kan AI'en videreføre og forstærke dem.
Et rekrutteringsværktøj trænet på CV'er fra en mandsdomineret branche kan ende med automatisk at give mænd højere score – uden at nogen har bedt om det.
Hvem har ansvaret, hvis AI'en tager fejl? Læreren, der bruger et AI-værktøj til at vurdere elevopgaver? Lægen, der får en diagnose foreslået af en algoritme? Virksomheden, der har udviklet værktøjet?
Ansvarsfordelingen er sjældent klar – og det er noget, vi som brugere skal være opmærksomme på.
Mange AI-systemer er "sorte bokse". De giver et svar, men ikke en forklaring.
Det er problematisk, når beslutningerne har konsekvenser for mennesker – ved fx boliglån, jobansøgninger eller sociale ydelser. Vi har som mennesker krav på at forstå, hvorfor en afgørelse falder ud, som den gør.
Når en AI skriver en tekst eller laver et billede, hvem ejer det så?
Og er det i orden, at AI-modeller er trænet på materiale fra forfattere, journalister og kunstnere, der ikke har givet samtykke? Der pågår i øjeblikket flere retssager om netop dette spørgsmål.
Når AI'en kan svare på alt, hvor meget tænker vi så selv?
Risikerer vi at miste evnen til at vurdere kilder, formulere os selvstændigt eller løse problemer uden hjælp? Det er en bekymring, vi især skal være opmærksomme på, når børn og unge vokser op med disse værktøjer.
AI gør det nemt at skabe overbevisende falske billeder, videoer og tekster.
Det udfordrer vores grundlæggende tillid til, hvad vi ser og hører – og det stiller nye krav til vores evne til at være kildekritiske.
GDPR gælder, så snart der behandles personoplysninger – og det gør AI-systemer ofte. Det stiller nogle konkrete krav, man som bruger og virksomhed skal være opmærksom på.
Man må ikke putte personoplysninger ind i en AI-tjeneste, bare fordi det er praktisk.
Der skal være et lovligt grundlag – samtykke, kontrakt, legitim interesse eller lignende. Det gælder også, selvom man "bare" lige vil have hjælp til en mail eller et notat.
Data må kun bruges til det formål, de blev indsamlet til.
Har man en kundeliste til fakturering, må man ikke uden videre lade en AI analysere kundernes adfærd – det er et nyt formål, og det kræver et nyt grundlag.
Brug kun de oplysninger, der er nødvendige.
Når man beder ChatGPT om hjælp til en mail, skal CPR-numre og andre følsomme oplysninger ikke med, hvis det ikke er nødvendigt. Mindre er mere – også af hensyn til datasikkerheden.
Mange AI-tjenester – ChatGPT, Gemini, Copilot – sender data til servere uden for EU.
Det stiller krav til, hvilke databehandleraftaler og overførselsgrundlag der skal være på plads. Som virksomhed kan man ikke bare antage, at det er i orden.
Hvis en AI træffer afgørelser, der har retsvirkning eller væsentlig betydning for en person, har personen ret til menneskelig indgriben, til at få en forklaring og til at gøre indsigelse.
Det står i GDPR artikel 22 – og det er en helt central regel i AI-sammenhæng.
Folk har ret til indsigt i, sletning af og berigtigelse af deres oplysninger – også dem, der ligger i AI-systemer.
Det kan være teknisk svært at efterleve, når data først er blevet en del af en model. Men det fritager ikke for ansvaret.
Som supplement til GDPR trådte EU's AI-forordning i kraft i 2024 og rulles gradvist ud frem mod 2027.
Den klassificerer AI-systemer efter risiko og stiller særlige krav til "højrisiko-AI" – fx inden for uddannelse, ansættelse og myndighedsudøvelse.
AI er hverken godt eller dårligt i sig selv – det er et værktøj. Men det er et værktøj med en rækkevidde, vi ikke har set magen til før, og som rammer ind i meget følsomme områder af vores liv.
At forstå etikken og reglerne handler ikke om at sige nej til AI. Det handler om at sige ja på en måde, hvor vi bevarer vores dømmekraft, vores rettigheder og vores ansvar over for de mennesker, vi arbejder for og med.