EU AI Act i praksis

Et system, der med en vis grad af selvstændighed kan udlede resultater — for eksempel tekst, anbefalinger, scorer eller forudsigelser — ud fra det input, det får. Almindelig regelbaseret software er ikke automatisk et AI-system.

Eksempel: Et regneark, der lægger tal sammen, er ikke et AI-system. Et værktøj, der selv scorer og rangerer ansøgere, kan være det.

Den, der udvikler et AI-system eller får det udviklet og bringer det på markedet eller i brug under eget navn eller varemærke.

Eksempel: En dansk softwarevirksomhed, der sælger sit eget AI-værktøj til kunder.

Den virksomhed eller organisation, der anvender et AI-system under sin myndighed. Mange danske virksomheder er idriftsættere, når medarbejderne bruger et eksternt AI-system i arbejdet.

Eksempel: Et revisionsfirma, hvor medarbejderne bruger ChatGPT til udkast til kundebreve.

Importøren bringer et AI-system fra et land uden for EU på EU-markedet. Distributøren gør et system tilgængeligt uden at være udbyder eller importør.

Eksempel: En forhandler, der videresælger et amerikansk AI-værktøj til danske kunder.

De færdigheder, den viden og den forståelse, der gør det muligt at bruge AI på et informeret grundlag og være bevidst om muligheder, risici og mulig skade.

Eksempel: En medarbejder, der ved, at AI kan finde på ting, og derfor tjekker tal og henvisninger, før de sendes videre.

Anvendelser, som forordningen forbyder — for eksempel visse former for manipulation, udnyttelse af sårbarhed, social scoring og bestemte former for følelsesgenkendelse på arbejdspladsen.

Eksempel: Et system, der scorer medarbejdere socialt på tværs af sammenhænge.

AI-systemer i bestemte anvendelsesområder eller som sikkerhedskomponent i regulerede produkter, hvor forordningen stiller skærpede krav. Om et konkret system er omfattet, kræver en konkret vurdering.

Eksempel: Et system, der rangerer jobansøgere, ligger i et område, der kan være omfattet.

Krav om at gøre det klart, at man interagerer med AI, eller at indhold er kunstigt genereret eller manipuleret.

Eksempel: En chatbot, der fortæller kunden, at den er en AI-assistent.

Når et AI-system producerer indhold, der lyder rigtigt, men er forkert eller opdigtet.

Eksempel: AI opfinder en paragraf eller en kilde, der ikke findes.

Skævhed i data, model eller brug, der kan føre til systematisk dårligere resultater for bestemte grupper.

Eksempel: Et rekrutteringsværktøj, der nedprioriterer ansøgere med huller i cv'et.

Tendensen til at stole for meget på maskinens svar og undlade at kontrollere det.

Eksempel: En medarbejder godkender AI's forslag uden at læse det igennem.

At et menneske reelt kan forstå, efterprøve, tilsidesætte eller stoppe AI'ens resultat, før det får virkning.

Eksempel: En leder læser og retter AI's udkast til en afskedigelsesbegrundelse.

Enhver oplysning om en identificeret eller identificerbar fysisk person.

Eksempel: Navn, e-mail, cv, kundenoter, optagelse af et møde.

Blandt andet helbred, race og etnisk oprindelse, religion, fagforening, seksuelle forhold og biometri til identifikation. Kræver særligt grundlag.

Eksempel: En sygemelding, der kopieres ind i et AI-værktøj.

Den dataansvarlige bestemmer formål og midler. Databehandleren behandler oplysninger på den dataansvarliges vegne — typisk leverandøren.

Eksempel: Virksomheden er dataansvarlig; AI-leverandøren er ofte databehandler.

Den skriftlige aftale, der skal være på plads, når en databehandler behandler personoplysninger for dig.

Eksempel: Aftalen du accepterer, når virksomheden tager et AI-værktøj i brug.

En analyse af, hvilke risici en behandling udgør for personer. Kan være nødvendig, når en behandling sandsynligvis indebærer høj risiko.

Eksempel: Før I tager et AI-værktøj i brug, der vurderer medarbejdere.

AI-værktøjer, medarbejdere bruger i arbejdet, uden at organisationen har godkendt eller kender dem.

Eksempel: En medarbejder bruger sin private AI-konto til kundedata.

Organisationens samlede oversigt over, hvilke AI-systemer der bruges, til hvad, af hvem og med hvilke data.

Eksempel: Et regneark med ét system pr. række og en ansvarlig for hver.

De aftaler, roller, procedurer og dokumenter, der styrer, hvordan organisationen bruger AI.

Eksempel: AI-politik, godkendelsesproces, hændelseslog og årligt review.