Etisk brug af AI og data

Informationsteknologi C · HHX · C-niveau · IT-sikkerhed og digital dannelse

💻 Etisk brug af AI og data

Kunstig intelligens og dataindsamling giver enorme muligheder — men rejser også vigtige etiske spørgsmål, som både brugere, udviklere og virksomheder må forholde sig til.

Bias (skævhed) i AI

AI-systemer lærer ud fra de data, de trænes på. Hvis træningsdataene afspejler skævheder fra den virkelige verden (fx kønsmæssig eller etnisk skævhed i ansøgningsdata), vil AI-systemet ofte gentage og forstærke disse skævheder — eksempelvis i ansøgningssystemer, ansigtsgenkendelse eller kreditvurderinger.

Privatliv og overvågning

AI gør det muligt at analysere enorme mængder persondata — adfærd, lokation, ansigter, stemmer. Det rejser spørgsmål om, hvor grænsen går mellem nyttig personalisering og uønsket overvågning.

Deepfakes og misinformation

Kunstig intelligens kan i dag skabe overbevisende falske billeder, lyd og video ("deepfakes"), som kan bruges til at sprede misinformation, svindel eller chikane — en stigende udfordring for samfundet.

Ansvar og gennemsigtighed

• Hvem har ansvaret, hvis en AI-model træffer en forkert eller skadelig beslutning?
• Gennemsigtighed: bør brugere have ret til at vide, om de taler med en AI eller et menneske, og hvordan en afgørelse er truffet?
• Lovgivning: EU's AI-forordning (AI Act, 2024) forsøger netop at sætte rammer for, hvilke former for AI der er tilladte, og hvilke der er forbudte (fx visse former for masseovervågning)

Etisk brug i praksis

Etisk brug af AI handler om at stille sig selv spørgsmål som: Er det fair? Er det gennemsigtigt? Respekterer det privatlivet? Kunne det skade nogen? — både som bruger af AI-værktøjer og som kommende medarbejder, der måske selv skal være med til at udvikle eller indføre dem.

Læringsmål

• Forklare hvad bias i AI-systemer er, og hvordan det kan opstå
• Diskutere spændingsfeltet mellem personalisering og overvågning
• Beskrive hvad deepfakes er, og hvilke samfundsmæssige udfordringer de skaber
• Reflektere over ansvar og gennemsigtighed ved brug af AI i virksomheder og samfund

Sådan kan du arbejde med emnet

• Diskutér et etisk problem ved at bruge AI til at træffe beslutninger om mennesker, fx ansøgninger
• Giv et eksempel på, hvordan bias i træningsdata kan føre til uretfærdige resultater fra en AI
• Diskutér hvilket ansvar en virksomhed har, når den bruger kundedata til at træne en AI-model

Træningsforslag

• Find et konkret eksempel på bias i et AI-system (fx i nyhederne) og analysér, hvordan det kan være opstået
• Diskutér i grupper: bør virksomheder være forpligtet til at fortælle, når man kommunikerer med en chatbot?
• Lav en kort liste med "etiske tjekspørgsmål", man kunne stille, før man tager et nyt AI-værktøj i brug