Neurale netværk og deep learning (overblik)

It A · STX · A-niveau · AI og maskinlæring

💻 Neurale netværk og deep learning (overblik)

Kunstigt neuralt netværk (ANN) efterligner hjernen.

Struktur:

• Input-lag: features (fx pixels af et billede).
• Skjulte lag: matematiske transformationer.
• Output-lag: prediction (klasse, tal).

Neuron-formel: output = aktiveringsfunktion(Σ(vægt·input) + bias).

Aktiveringsfunktioner: ReLU, Sigmoid, Tanh, Softmax.

Træning:

1. Forward pass: data → output.

2. Loss-funktion sammenligner med korrekt svar.

3. Backpropagation: beregn gradienter.

4. Gradient descent: opdater vægte for at minimere loss.

Deep learning = neurale netværk med mange skjulte lag (>3).

Arkitekturer:

• CNN (Convolutional Neural Network): billedgenkendelse. Filtre + pooling.
• RNN/LSTM: sekvensdata (tekst, lyd, tidsserier).
• Transformer: moderne NLP. GPT, BERT, Claude bruger transformers.

Milestones:

• 1958: Perceptron (Rosenblatt).
• 2012: AlexNet vinder ImageNet → deep learning revolution.
• 2017: Transformer-arkitekturen (Vaswani et al., "Attention is All You Need").
• 2022: ChatGPT lancerer (GPT-3.5).
• 2024: GPT-4o, Claude 3.5, Gemini 1.5.

Centrale begreber

• Input-lag: features (fx pixels af et billede).
• Skjulte lag: matematiske transformationer.
• Output-lag: prediction (klasse, tal).
• CNN (Convolutional Neural Network): billedgenkendelse. Filtre + pooling.
• RNN/LSTM: sekvensdata (tekst, lyd, tidsserier).
• Transformer: moderne NLP. GPT, BERT, Claude bruger transformers.
• 1958: Perceptron (Rosenblatt).
• 2012: AlexNet vinder ImageNet → deep learning revolution.

Læringsmål

• Redegøre for opbygningen af et neuralt netværk: lag, neuroner, vægte
• Forklare grundprincippet i deep learning
• Give eksempler på anvendelser af neurale netværk

Sådan kan du arbejde med emnet

• Beskriv, hvad et neuralt netværk er: inputlag, skjulte lag, outputlag, aktivationsfunktion
• Forklar, hvad backpropagation er, og hvad der justeres under træning
• Diskutér, hvad der gør deep learning velegnet til billedgenkendelse frem for traditionelle algoritmer

Arbejd iterativt med prototyper og dokumentation. Test, evaluér og dokumentér.