EU AI Act (2024) — risikobaseret regulering

It A · STX · A-niveau · Digital dannelse og samfund

💻 EU AI Act (2024) — risikobaseret regulering

EU AI Act = verdens første omfattende AI-regulering. Vedtaget af EU-Parlamentet marts 2024. Træder gradvist i kraft 2024-2027. Risikobaseret tilgang med 4 niveauer:

1.

Uacceptabel risiko (forbudt): social scoring (kinesisk-stil), realtids-biometrisk identifikation i offentlige rum (med smalle undtagelser), manipulation af sårbare grupper, prediktiv politi-AI.

2.

Høj risiko (strengt reguleret): kritisk infrastruktur, uddannelse (eksamens-AI, optagelse), HR (rekruttering), retshåndhævelse, grænsekontrol, retsprocesser, demokratiske processer. Krav: dokumentation, menneskelig overvågning, gennemsigtighed, robusthed, EU-database-registrering.

3.

Begrænset risiko (transparency-krav): chatbots skal annoncere sig som AI, deepfakes skal mærkes, generel-purpose AI (GPAI) som ChatGPT skal levere teknisk dokumentation, copyright-respekt.

4.

Minimal risiko (ufri): spamfiltre, AI i computerspil. Frivillige adfærdskodekser.

Generel-purpose AI (GPAI): foundation models som GPT-4, Claude, Gemini. Krav skala efter "systemic risk" (>10²⁵ FLOPs træning).

Bøder: op til €35 mio. eller 7% af global omsætning (højeste).

Implementering: AI Office i EU-Kommissionen. National tilsyn (Datatilsynet i DK).

Sammenligning

USA = markedsbaseret, mindre regulering. Kina = statslig kontrol, social-stabilitet-fokus.

Brussels Effect: EU-regulering bliver de facto global standard (som GDPR).

Kritik: kvælende innovation? Stor virksomheder har ressourcer til comp

Læringsmål

• Redegøre for den risikobaserede tilgang i EU AI Act
• Give eksempler på AI-systemer i forskellige risikokategorier
• Diskutere konsekvenser af reguleringen for virksomheder

Sådan kan du arbejde med emnet

• Beskriv EU AI Acts fire risikokategorier (uacceptabel, høj, begrænset, minimal)
• Giv et eksempel på et AI-system i kategorien "høj risiko" og forklar, hvad det kræver af virksomheden
• Diskutér, hvad EU AI Act betyder for en dansk softwarevirksomhed, der udvikler AI-systemer

Arbejd iterativt med prototyper og dokumentation. Test, evaluér og dokumentér.