Naturlig sprogbehandling (NLP)

It A · STX · A-niveau · AI og maskinlæring

💻 Naturlig sprogbehandling (NLP)

NLP (Natural Language Processing) = AI-felt der lader computere forstå + producere menneskeligt sprog.

Klassiske opgaver:

1.

Tekst-klassifikation — spam/ikke-spam, sentiment (positiv/negativ), emne-kategori.

2.

Named Entity Recognition (NER) — find personer, steder, organisationer i tekst.

3.

Sentiment-analyse — er en tweet positiv/negativ/neutral?

4.

Maskin-oversættelse — Google Translate, DeepL.

5.

Tekst-resumé — automatisk forkortning.

6.

Spørgsmål-svar — Siri, Alexa.

7.

Talegenkendelse — speech-to-text.

8.

Tekst-generering — GPT, ChatGPT.

9.

Stavekontrol + grammatik — Word's autocorrect, Grammarly.

Klassiske teknikker (før 2017):

• (a) Tokenization — opdel tekst i ord/tegn.
• (b) Stemming + lemmatization — "running"/"runs" → "run". Tatcher reducerer ord til base.
• (c) Bag-of-Words — tæl ord, ignorér rækkefølge. Simpel + effektiv for klassifikation.
• (d) TF-IDF (Term Frequency × Inverse Document Frequency) — vægt sjældne ord højere.
• (e) n-grams — sekvenser af 2-3 ord.
• (f) Naive Bayes + SVM — ML-modeller på TF-IDF-features.

Word embeddings (2013): Word2Vec, GloVe — repræsentér ord som 300-dim vektorer. Berømt: "King" - "Man" + "Woman" = "Queen". Forbedrede dramatisk NLP.

Transformer-revolutionen (2017+): paper "Attention is All You Need" af Google. Kernekoncept: self-attention — hvert ord ser på alle andre ord i sætningen samtidigt. Tillader parallel træning + lange afhængigheder. **BER

Læringsmål

• Redegøre for centrale opgaver inden for naturlig sprogbehandling
• Give eksempler på NLP-anvendelser som oversættelse og sentiment-analyse
• Forklare hvordan tekst omdannes til data en model kan bruge

Sådan kan du arbejde med emnet

• Forklar, hvad tokenisering, stemming og lemmatisering er i NLP
• Beskriv, hvad TF-IDF er, og hvad det bruges til i tekst-klassifikation
• Diskutér, hvad der er forskellen på regelbaseret NLP og transformer-baseret NLP (BERT, GPT)

Arbejd iterativt med prototyper og dokumentation. Test, evaluér og dokumentér.