EU AI Act (2024) — risikobaseret regulering

Kommunikation og IT A · HTX · A-niveau · AI og maskinlæring

EU AI Act (2024) — risikobaseret regulering

EU's AI-forordning (AI Act, vedtaget 2024) er verdens første store lovgivning, der regulerer kunstig intelligens. Den er central, når man arbejder med AI i Kommunikation og IT.

Den risikobaserede tilgang: AI-systemer inddeles efter, hvor stor risiko de udgør:

• Uacceptabel risiko (forbudt): fx social scoring og visse former for biometrisk masseovervågning.
• Høj risiko (strenge krav): AI i fx sundhed, rekruttering, kritisk infrastruktur — kræver dokumentation, gennemsigtighed og menneskeligt tilsyn.
• Begrænset risiko (oplysningskrav): fx chatbots — brugeren skal vide, at de taler med en AI.
• Minimal risiko: fx spamfiltre — stort set fri brug.

Hvorfor er det vigtigt?

• Det handler om etik, ansvar og rettigheder: gennemsigtighed, ikke-diskrimination og databeskyttelse (kobler til GDPR).
• Som udvikler/kommunikatør skal du kende rammerne for, hvad man må og bør med AI.

AI Act gør abstrakte AI-etiske diskussioner konkrete: regler, der påvirker, hvordan virksomheder og udviklere må bruge AI i praksis.

Læringsmål

• Forklare den risikobaserede tilgang i EU AI Act og dens fire niveauer
• Give eksempler på AI i hver risikokategori
• Forklare krav til høj-risiko-AI (gennemsigtighed, tilsyn, dokumentation)
• Koble AI Act til etik, databeskyttelse (GDPR) og rettigheder
• Vurdere konsekvenser af reguleringen for udviklere og virksomheder

Sådan kan du arbejde med emnet

• Hvad er EU AI Act?
• Hvilke AI-systemer er forbudte i EU?
• Hvad er forskellen på høj og begrænset risiko?

Træningsforslag

• Kategorisér: Tag tre AI-systemer du kender og placér dem i risikokategorier.
• Etik-debat: Diskutér et høj-risiko-eksempel — er reglerne passende?

Typiske faldgruber

• At tro AI Act forbyder al AI — de fleste systemer er lav/minimal risiko.
• At forveksle AI Act (AI-regulering) med GDPR (databeskyttelse) — de supplerer hinanden.