Europa-parlamentet har vedtaget deres version af AI Act, der er nu går videre til medlemslandene.
Næste skridt i EU’s initiativer til at regulere teknologibranchen er nu taget. EU har i flere år arbejdet på at få en lovpakke på plads, der kan sætte retningslinjer og bestemmelser for kunstig intelligens og deraf afledte teknologier.
Arbejdet begyndte i 2021 og har nu resulteret i en færdig udgave af den såkaldte AI Act. Der er blevet sat turbo på arbejdet i de seneste måneder, hvor vi har set en større bølge af såkaldt generativ AI og store sprogmodeller, der blandt andet har resulteret i ChatGPTs voldsomme popularitet.
Europaparlamentet har nu meddelt, at det har vedtaget en næsten færdig version af AI Act efter længere tids kommissions- og udvalgsarbejde. Lovpakken bliver nu sendt til medlemslandene, der får mulighed for at gøre indsigelser, inden loven endelig vedtages.
Loven kan dog få en hel del større konsekvenser for adskillige måder, AI bliver brugt på i dag. Den mest kontroversielle af disse er formentlig AI-drevet ansigtsgenkendelse i forbindelse med overvågning. Det bliver simpelthen helt forbudt i den nye lovpakke, og det gælder også skabelsen af databaser med ansigter hentet fra internettet eller tidligere optaget overvågningsmateriale.
”Minority Report” bliver forbudt
Forbuddet gælder altså ikke ansigtsgenkendelse for at låse din telefon op, men kun i overvågningssammenhænge. Det er ikke bare kontroversielt, fordi den slags ansigtsgenkendelse generelt er upopulært, men fordi adskillige medlemslande allerede anvender denne teknologi, både til kriminalitetsforebyggelse og -efterforskning. I lovpakken kan AI-baseret, biometrisk analyse kun anvendes ved efterfølgende undersøgelser, og det kræver en dommerkendelse.
En rapport fra 2021 udfærdiget på vegne af en række medlemmer af Europaparlamentet viste at 11 EU-lande, heriblandt de store lande Tyskland, Frankrig og Italien, brugte biometriske genkendelsessystemer til efterforskninger. Rapporten viste også, at 8 yderligere lande var på vej med lignende initiativer. Spørgsmålet er derfor, om forbuddet i lovpakken overlever.
Det vil heller ikke være muligt, ikke engang for kommercielle virksomheder, at kategorisere folk baseret på biometriske registreringer af for eksempel køn, race, etnicitet, m.v. Det bliver også forbudt at forsøge at måle folks emotionelle tilstand gennem AI-baseret analyse af kamerasignaler.
Endelig kan de, som håber på en ’Minority Report’-agtig fremtid godt glemme den. Såkaldt prædiktiv lovhåndhævelse (teknisk set kaldet predictive policing), hvor AI’er forsøger at gætte hvor det vil være mest optimalt at indsætte politiindsatser i en nær fremtid, bliver forbudt – i hvert fald når det gælder benyttelse af profileringer, geografisk lokation, eller tidligere kriminel adfærd.
Gennemsigtighed og risikovurdering
Udenfor kriminalitetsområdet kræver den nye lovpakke, at de såkaldte ”foundation models”, altså nye, grundlæggende AI-modeller, skal registreres i en EU-administreret database, før de kan markedsføres i EU-landene. I forbindelsen med registreringen skal virksomhederne bag modellerne foretage en vurdering af potentielle risici i forhold til sundhed, sikkerhed, rettigheder, miljøet, samt demokratiet.
Materiale lavet med generativ AI, herunder tekst fra ChatGPT eller Bing Chat, billeder fra f.eks. DALL-E og Midjourney, samt de kommende tekst-til-video-modeller, skal markeres som værende lavet med AI. Firmaerne bag skal også sikre, at illegalt materiale ikke bliver lavet med disse teknologier. Endelig skal virksomhederne også offentliggøre detaljerede opsummeringer af potentielt copyrightet materiale, der er blevet brugt til træning af AI’erne.
