Lektion 7.2

Künstliche Intelligenz und maschinelles Lernen

19 min Lesezeit

Ein Spamfilter soll Mails sortieren. Die Regel „Mails mit dem Wort Gewinn sind Spam“ erwischt viele, trifft aber auch die Mail der Lehrerin über den Wettbewerbsgewinn, und Spammer ändern ihre Texte. Noch schwerer ist es, einem Programm per Regeln zu erklären, wie eine Katze auf einem Foto aussieht.

Beim maschinellen Lernen schreibst du keine Regeln. Das Programm bekommt Beispiele und stellt seine Regeln selbst ein. Hier siehst du, wie das bei einem Neuron, einem Netz und beim Gruppieren von Daten abläuft.

Definition

Lernarten, Trainings- und Testdaten

Beim überwachten Lernen haben die Beispiele ein Ergebnis (Label), etwa ein Foto mit der Beschriftung „Katze“. Das Modell lernt die Zuordnung. Ist das Ergebnis eine Klasse, heißt die Aufgabe Klassifikation, ist es eine Zahl, heißt sie Regression. Beim unüberwachten Lernen gibt es keine Labels, das Modell sucht selbst Struktur, zum Beispiel Gruppen (Clustering). Beim bestärkenden Lernen probiert ein Agent Aktionen in einer Umgebung aus und bekommt Belohnungen oder Strafen. Er lernt, welche Aktionen langfristig am meisten Belohnung bringen.

Die Beispiele werden aufgeteilt. Die Trainingsdaten dienen dazu, die Parameter des Modells einzustellen. Die Testdaten kennt das Modell nicht, an ihnen misst man, wie gut es auf neuen Daten arbeitet. Passt ein Modell sehr gut auf die Trainingsdaten, aber schlecht auf die Testdaten, hat es die Beispiele auswendig gelernt (Überanpassung), statt zu verallgemeinern.

Definition

Perzeptron und Delta-Lernregel

Ein Perzeptron ist ein einzelnes künstliches Neuron. Es multipliziert jede Eingabe xix_i mit einem Gewicht wiw_i, addiert einen Bias bb und gibt 1 aus, wenn die Summe größer als 0 ist, sonst 0. Damit trennt es die Eingaben durch eine Gerade (allgemein eine Hyperebene) in zwei Klassen.

Die Delta-Lernregel passt Gewichte und Bias nach jedem Trainingsbeispiel an. Dabei ist tt die richtige Ausgabe, yy die Ausgabe des Perzeptrons und η\eta die Lernrate, ein kleiner positiver Wert. Ist y=ty = t, bleibt alles gleich. Bei einem Fehler verschieben sich die Gewichte so, dass er kleiner wird. Man geht alle Beispiele mehrfach durch, jeder Durchgang heißt Epoche.

wi←wi+η (t−y) xib←b+η (t−y)w_i \leftarrow w_i + \eta\,(t - y)\,x_i \qquad b \leftarrow b + \eta\,(t - y)
Beispiel

Ein Lernschritt

Ein Perzeptron hat w1=0,4w_1 = 0{,}4, w2=−0,2w_2 = -0{,}2, b=0,1b = 0{,}1 und die Lernrate η=0,5\eta = 0{,}5. Eingabe ist (x1,x2)=(1,1)(x_1, x_2) = (1, 1), die richtige Ausgabe ist t=0t = 0.

Summe: 0,4−0,2+0,1=0,3>00{,}4 - 0{,}2 + 0{,}1 = 0{,}3 > 0, also y=1y = 1. Der Fehler ist t−y=−1t - y = -1. Neue Werte:

w1=0,4+0,5⋅(−1)⋅1=−0,1w_1 = 0{,}4 + 0{,}5 \cdot (-1) \cdot 1 = -0{,}1, w2=−0,2−0,5=−0,7w_2 = -0{,}2 - 0{,}5 = -0{,}7, b=0,1−0,5=−0,4b = 0{,}1 - 0{,}5 = -0{,}4.

Kontrolle: −0,1−0,7−0,4=−1,2<0-0{,}1 - 0{,}7 - 0{,}4 = -1{,}2 < 0, also y=0y = 0. Jetzt stimmt die Ausgabe. Trennt eine Gerade die Daten, findet das Verfahren nach endlich vielen Schritten passende Werte. Die Punkte (0,0),(1,1)(0,0), (1,1) gegen (0,1),(1,0)(0,1), (1,0) (XOR) trennt keine Gerade, ein einzelnes Perzeptron lernt sie nicht.

Definition

Neuronales Netz, Aktivierungsfunktion, Forward Propagation und Kostenfunktion

Ein neuronales Netz ordnet Neuronen in Schichten: Eingabeschicht, eine oder mehrere verdeckte Schichten, Ausgabeschicht. Jedes Neuron berechnet z=∑wixi+bz = \sum w_i x_i + b und gibt φ(z)\varphi(z) weiter. φ\varphi heißt Aktivierungsfunktion. Die harte Schwelle des Perzeptrons eignet sich dafür nicht, weil sie sich nicht sinnvoll ableiten lässt. Üblich sind die Sigmoidfunktion σ(z)=11+e−z\sigma(z) = \frac{1}{1 + e^{-z}} mit Werten zwischen 0 und 1 und ReLU max⁡(0,z)\max(0, z). Mit nichtlinearer Aktivierung lernt ein Netz mit verdeckter Schicht auch XOR.

Die Forward Propagation rechnet eine Eingabe Schicht für Schicht bis zur Ausgabe yy durch. Die Kostenfunktion misst, wie weit die Ausgaben von den Sollwerten tt abweichen, hier als mittlerer quadratischer Fehler über nn Beispiele. Lernen heißt: Gewichte finden, für die EE klein ist.

E=1n∑k=1n(yk−tk)2E = \frac{1}{n} \sum_{k=1}^{n} (y_k - t_k)^2
Definition

Backpropagation

Backpropagation berechnet mit der Kettenregel, wie stark EE von jedem einzelnen Gewicht abhängt, also die partielle Ableitung ∂E∂w\frac{\partial E}{\partial w}. Man rechnet dabei rückwärts von der Ausgabe zur Eingabe. Danach verschiebt man jedes Gewicht ein Stück gegen diese Steigung (Gradientenabstieg), so dass EE sinkt:

w←w−η ∂E∂ww \leftarrow w - \eta \, \frac{\partial E}{\partial w}
Beispiel

Ein kleines Netz durchrechnen

Zwei Eingaben, ein verdecktes Neuron mit ReLU (Gewichte v1=0,5v_1 = 0{,}5, v2=0,25v_2 = 0{,}25, Bias −0,5-0{,}5) und ein Ausgabeneuron ohne Aktivierung (Gewicht w=2w = 2, Bias 0,10{,}1). Eingabe (1,2)(1, 2), Sollwert t=1t = 1. Berechne die Ausgabe, den Fehler und einen Gradientenschritt für ww mit η=0,5\eta = 0{,}5.

Forward Propagation: z=0,5⋅1+0,25⋅2−0,5=0,5z = 0{,}5 \cdot 1 + 0{,}25 \cdot 2 - 0{,}5 = 0{,}5, das verdeckte Neuron gibt h=max⁡(0,0,5)=0,5h = \max(0, 0{,}5) = 0{,}5 weiter, die Ausgabe ist y=2⋅0,5+0,1=1,1y = 2 \cdot 0{,}5 + 0{,}1 = 1{,}1. Fehler: E=(1,1−1)2=0,01E = (1{,}1 - 1)^2 = 0{,}01.

Backpropagation für ww: Äußere Ableitung 2(y−t)=0,22(y - t) = 0{,}2, innere Ableitung ∂y∂w=h=0,5\frac{\partial y}{\partial w} = h = 0{,}5. Also ∂E∂w=0,2⋅0,5=0,1\frac{\partial E}{\partial w} = 0{,}2 \cdot 0{,}5 = 0{,}1 und wneu=2−0,5⋅0,1=1,95w_{\text{neu}} = 2 - 0{,}5 \cdot 0{,}1 = 1{,}95.

Kontrolle: y=1,95⋅0,5+0,1=1,075y = 1{,}95 \cdot 0{,}5 + 0{,}1 = 1{,}075 und E=0,0752=0,005625E = 0{,}075^2 = 0{,}005625, kleiner als vorher. In der Praxis passt man alle Gewichte zugleich an.

Definition

Clustering mit k-Means und Regression

k-Means teilt Daten ohne Labels in kk Gruppen. Die Zahl kk legst du vorher fest. Ablauf: Wähle kk Startzentren. Ordne jeden Punkt dem nächsten Zentrum zu. Setze jedes Zentrum auf den Mittelwert seiner Punkte. Wiederhole Zuordnen und Mitteln, bis sich keine Zuordnung mehr ändert.

Bei der linearen Regression sagst du eine Zahl voraus. Du suchst die Gerade y=ax+by = a x + b, für die der mittlere quadratische Fehler zu den Messpunkten am kleinsten ist. Es ist dieselbe Kostenfunktion wie oben.

Beispiel

k-Means mit k = 2

Daten auf einer Zahlengeraden: 1, 2, 3, 9, 10, 11. Startzentren sind 1 und 2.

Runde 1: Die 1 liegt am Zentrum 1. Die Punkte 2, 3, 9, 10, 11 liegen näher an 2. Neue Zentren: 1 und (2+3+9+10+11):5=7(2 + 3 + 9 + 10 + 11) : 5 = 7.

Runde 2: Mit den Zentren 1 und 7 gehören 1, 2 und 3 zum ersten Zentrum (Abstand 0, 1, 2 gegen 6, 5, 4), 9, 10 und 11 zum zweiten. Neue Zentren: 2 und 10.

Runde 3: Die Zuordnung bleibt gleich, das Verfahren endet mit {1,2,3}\{1, 2, 3\} und {9,10,11}\{9, 10, 11\}.

Definition

Hyperparameter

Parameter wie Gewichte und Bias lernt das Modell. Hyperparameter legt der Mensch vor dem Training fest: die Lernrate, die Zahl der Schichten und Neuronen, die Aktivierungsfunktion, die Zahl der Epochen, bei k-Means die Zahl kk. Eine zu große Lernrate lässt den Fehler springen, eine zu kleine macht das Training langsam. Zum Vergleichen von Einstellungen nimmt man einen dritten Datensatz, die Validierungsdaten, damit die Testdaten unberührt bleiben.

Definition

Bias, Erklärbarkeit und ethische Fragen

Ein Modell übernimmt die Muster seiner Daten, auch ungerechte. Dieser Bias (Verzerrung) entsteht, wenn Gruppen in den Daten zu selten vorkommen oder frühere Entscheidungen widerspiegeln. Ein Bewerbungssystem, das mit den Entscheidungen der letzten Jahre trainiert wurde, kann dieselben Gruppen bevorzugen wie damals.

Erklärbarkeit fragt, warum ein Modell so entschieden hat. Einen Entscheidungsbaum kannst du lesen, ein Netz mit sehr vielen Gewichten kaum (Black Box). Betrifft die Entscheidung Menschen, etwa bei Kredit oder Diagnose, braucht man Nachvollziehbarkeit. Ethische Fragen: Wer haftet für Fehler? Welche Daten dürfen verwendet werden? Welche Entscheidungen bleiben bei Menschen?

Definition

Large Language Models nutzen

Ein Large Language Model (LLM) ist ein neuronales Netz, das mit sehr großen Textmengen darauf trainiert wurde, das nächste Textstück vorherzusagen. Es erzeugt flüssigen Text, kann aber Falsches überzeugend formulieren (Halluzination).

Beim Nutzen beschreibst du Aufgabe und gewünschtes Format im Prompt genau und gibst Beispiele mit. Du prüfst die Antwort: Fakten gegen Quellen, Code durch Tests. Du gibst keine personenbezogenen oder vertraulichen Daten ein, solange unklar ist, wie der Anbieter sie verwendet. Du kennzeichnest die Nutzung und beachtest die Regeln der Schule.

Häufige Fehler

Hohe Genauigkeit auf den Trainingsdaten reicht

„Das Modell erkennt 99 % der Trainingsbeispiele, also ist es sehr gut.“

Richtig ist

Entscheidend ist die Leistung auf Daten, die das Modell nicht gesehen hat. Ein Modell kann die Trainingsdaten auswendig lernen und auf neuen Daten schlecht sein.

Häufige Fehler

Ein Sprachmodell schlägt die Antwort nach

„Das LLM sucht die Antwort in einer Datenbank, also stimmt sie.“

Richtig ist

Ein LLM berechnet eine wahrscheinliche Fortsetzung des Textes. Das klingt oft richtig, kann aber falsch sein. Die Antwort braucht eine Prüfung an anderer Stelle.

Zusammenfassung

  • Überwachtes Lernen nutzt Beispiele mit Label (Klassifikation, Regression), unüberwachtes sucht Struktur (Clustering), bestärkendes lernt aus Belohnungen.

  • Trainingsdaten stellen das Modell ein, Testdaten messen, ob es verallgemeinert. Gute Trainings- und schlechte Testwerte zeigen Überanpassung.

  • Das Perzeptron summiert gewichtete Eingaben plus Bias. Die Delta-Lernregel ändert Gewichte um eta mal Fehler mal Eingabe.

  • Ein Netz rechnet per Forward Propagation, misst den Fehler mit einer Kostenfunktion und senkt ihn per Backpropagation und Gradientenabstieg.

  • k-Means gruppiert Punkte um Mittelwerte, lineare Regression passt eine Gerade an Messpunkte an. Hyperparameter legt der Mensch fest.

  • Bias, mangelnde Erklärbarkeit und offene Verantwortung sind Risiken. Ein LLM erzeugt wahrscheinlichen Text, den man prüfen muss.

Übungen

Aufgabe 1Multiple Choice

Ein Modell erkennt 99 von 100 Trainingsbildern richtig, aber nur 62 von 100 Testbildern. Was zeigt das?

Aufgabe 2Numerisch

Ein Perzeptron hat w1 = 0,5, w2 = 0,5 und b = -2, die Lernrate ist 0,1. Eingabe (2, 1), richtige Ausgabe t = 1. Wie groß ist w1 nach dem Lernschritt?

Aufgabe 3Numerisch

k-Means mit k = 2 auf den Daten 2, 4, 10, 12. Startzentren sind 2 und 12. Wo liegt nach dem ersten Zuordnen und Mitteln das neue Zentrum der Gruppe, die mit 12 gestartet ist?

Aufgabe 4Numerisch

Ein Netz hat ein verdecktes Neuron mit ReLU (Gewichte 0,5 und 0,25, Bias -0,5) und ein Ausgabeneuron ohne Aktivierung (Gewicht 2, Bias 0,1). Welche Ausgabe y liefert es für die Eingabe (0, 1)?

Aufgabe 5Freitext

Eine Bank trainiert ein Modell mit ihren Kreditentscheidungen der letzten 20 Jahre. Nenne ein Risiko und eine Maßnahme dagegen.