Künstliche Intelligenz und maschinelles Lernen
Ein Spamfilter soll Mails sortieren. Die Regel „Mails mit dem Wort Gewinn sind Spam“ erwischt viele, trifft aber auch die Mail der Lehrerin über den Wettbewerbsgewinn, und Spammer ändern ihre Texte. Noch schwerer ist es, einem Programm per Regeln zu erklären, wie eine Katze auf einem Foto aussieht.
Beim maschinellen Lernen schreibst du keine Regeln. Das Programm bekommt Beispiele und stellt seine Regeln selbst ein. Hier siehst du, wie das bei einem Neuron, einem Netz und beim Gruppieren von Daten abläuft.
Lernarten, Trainings- und Testdaten
Beim überwachten Lernen haben die Beispiele ein Ergebnis (Label), etwa ein Foto mit der Beschriftung „Katze“. Das Modell lernt die Zuordnung. Ist das Ergebnis eine Klasse, heißt die Aufgabe Klassifikation, ist es eine Zahl, heißt sie Regression. Beim unüberwachten Lernen gibt es keine Labels, das Modell sucht selbst Struktur, zum Beispiel Gruppen (Clustering). Beim bestärkenden Lernen probiert ein Agent Aktionen in einer Umgebung aus und bekommt Belohnungen oder Strafen. Er lernt, welche Aktionen langfristig am meisten Belohnung bringen.
Die Beispiele werden aufgeteilt. Die Trainingsdaten dienen dazu, die Parameter des Modells einzustellen. Die Testdaten kennt das Modell nicht, an ihnen misst man, wie gut es auf neuen Daten arbeitet. Passt ein Modell sehr gut auf die Trainingsdaten, aber schlecht auf die Testdaten, hat es die Beispiele auswendig gelernt (Überanpassung), statt zu verallgemeinern.
Perzeptron und Delta-Lernregel
Ein Perzeptron ist ein einzelnes künstliches Neuron. Es multipliziert jede Eingabe mit einem Gewicht , addiert einen Bias und gibt 1 aus, wenn die Summe größer als 0 ist, sonst 0. Damit trennt es die Eingaben durch eine Gerade (allgemein eine Hyperebene) in zwei Klassen.
Die Delta-Lernregel passt Gewichte und Bias nach jedem Trainingsbeispiel an. Dabei ist die richtige Ausgabe, die Ausgabe des Perzeptrons und die Lernrate, ein kleiner positiver Wert. Ist , bleibt alles gleich. Bei einem Fehler verschieben sich die Gewichte so, dass er kleiner wird. Man geht alle Beispiele mehrfach durch, jeder Durchgang heißt Epoche.
Ein Lernschritt
Ein Lernschritt
Ein Perzeptron hat , , und die Lernrate . Eingabe ist , die richtige Ausgabe ist .
Summe: , also . Der Fehler ist . Neue Werte:
, , .
Kontrolle: , also . Jetzt stimmt die Ausgabe. Trennt eine Gerade die Daten, findet das Verfahren nach endlich vielen Schritten passende Werte. Die Punkte gegen (XOR) trennt keine Gerade, ein einzelnes Perzeptron lernt sie nicht.
Neuronales Netz, Aktivierungsfunktion, Forward Propagation und Kostenfunktion
Ein neuronales Netz ordnet Neuronen in Schichten: Eingabeschicht, eine oder mehrere verdeckte Schichten, Ausgabeschicht. Jedes Neuron berechnet und gibt weiter. heißt Aktivierungsfunktion. Die harte Schwelle des Perzeptrons eignet sich dafür nicht, weil sie sich nicht sinnvoll ableiten lässt. Üblich sind die Sigmoidfunktion mit Werten zwischen 0 und 1 und ReLU . Mit nichtlinearer Aktivierung lernt ein Netz mit verdeckter Schicht auch XOR.
Die Forward Propagation rechnet eine Eingabe Schicht für Schicht bis zur Ausgabe durch. Die Kostenfunktion misst, wie weit die Ausgaben von den Sollwerten abweichen, hier als mittlerer quadratischer Fehler über Beispiele. Lernen heißt: Gewichte finden, für die klein ist.
Backpropagation
Backpropagation berechnet mit der Kettenregel, wie stark von jedem einzelnen Gewicht abhängt, also die partielle Ableitung . Man rechnet dabei rückwärts von der Ausgabe zur Eingabe. Danach verschiebt man jedes Gewicht ein Stück gegen diese Steigung (Gradientenabstieg), so dass sinkt:
Ein kleines Netz durchrechnen
Ein kleines Netz durchrechnen
Zwei Eingaben, ein verdecktes Neuron mit ReLU (Gewichte , , Bias ) und ein Ausgabeneuron ohne Aktivierung (Gewicht , Bias ). Eingabe , Sollwert . Berechne die Ausgabe, den Fehler und einen Gradientenschritt für mit .
Forward Propagation: , das verdeckte Neuron gibt weiter, die Ausgabe ist . Fehler: .
Backpropagation für : Äußere Ableitung , innere Ableitung . Also und .
Kontrolle: und , kleiner als vorher. In der Praxis passt man alle Gewichte zugleich an.
Clustering mit k-Means und Regression
k-Means teilt Daten ohne Labels in Gruppen. Die Zahl legst du vorher fest. Ablauf: Wähle Startzentren. Ordne jeden Punkt dem nächsten Zentrum zu. Setze jedes Zentrum auf den Mittelwert seiner Punkte. Wiederhole Zuordnen und Mitteln, bis sich keine Zuordnung mehr ändert.
Bei der linearen Regression sagst du eine Zahl voraus. Du suchst die Gerade , für die der mittlere quadratische Fehler zu den Messpunkten am kleinsten ist. Es ist dieselbe Kostenfunktion wie oben.
k-Means mit k = 2
k-Means mit k = 2
Daten auf einer Zahlengeraden: 1, 2, 3, 9, 10, 11. Startzentren sind 1 und 2.
Runde 1: Die 1 liegt am Zentrum 1. Die Punkte 2, 3, 9, 10, 11 liegen näher an 2. Neue Zentren: 1 und .
Runde 2: Mit den Zentren 1 und 7 gehören 1, 2 und 3 zum ersten Zentrum (Abstand 0, 1, 2 gegen 6, 5, 4), 9, 10 und 11 zum zweiten. Neue Zentren: 2 und 10.
Runde 3: Die Zuordnung bleibt gleich, das Verfahren endet mit und .
Hyperparameter
Parameter wie Gewichte und Bias lernt das Modell. Hyperparameter legt der Mensch vor dem Training fest: die Lernrate, die Zahl der Schichten und Neuronen, die Aktivierungsfunktion, die Zahl der Epochen, bei k-Means die Zahl . Eine zu große Lernrate lässt den Fehler springen, eine zu kleine macht das Training langsam. Zum Vergleichen von Einstellungen nimmt man einen dritten Datensatz, die Validierungsdaten, damit die Testdaten unberührt bleiben.
Bias, Erklärbarkeit und ethische Fragen
Ein Modell übernimmt die Muster seiner Daten, auch ungerechte. Dieser Bias (Verzerrung) entsteht, wenn Gruppen in den Daten zu selten vorkommen oder frühere Entscheidungen widerspiegeln. Ein Bewerbungssystem, das mit den Entscheidungen der letzten Jahre trainiert wurde, kann dieselben Gruppen bevorzugen wie damals.
Erklärbarkeit fragt, warum ein Modell so entschieden hat. Einen Entscheidungsbaum kannst du lesen, ein Netz mit sehr vielen Gewichten kaum (Black Box). Betrifft die Entscheidung Menschen, etwa bei Kredit oder Diagnose, braucht man Nachvollziehbarkeit. Ethische Fragen: Wer haftet für Fehler? Welche Daten dürfen verwendet werden? Welche Entscheidungen bleiben bei Menschen?
Large Language Models nutzen
Ein Large Language Model (LLM) ist ein neuronales Netz, das mit sehr großen Textmengen darauf trainiert wurde, das nächste Textstück vorherzusagen. Es erzeugt flüssigen Text, kann aber Falsches überzeugend formulieren (Halluzination).
Beim Nutzen beschreibst du Aufgabe und gewünschtes Format im Prompt genau und gibst Beispiele mit. Du prüfst die Antwort: Fakten gegen Quellen, Code durch Tests. Du gibst keine personenbezogenen oder vertraulichen Daten ein, solange unklar ist, wie der Anbieter sie verwendet. Du kennzeichnest die Nutzung und beachtest die Regeln der Schule.
Hohe Genauigkeit auf den Trainingsdaten reicht
Hohe Genauigkeit auf den Trainingsdaten reicht
„Das Modell erkennt 99 % der Trainingsbeispiele, also ist es sehr gut.“
Entscheidend ist die Leistung auf Daten, die das Modell nicht gesehen hat. Ein Modell kann die Trainingsdaten auswendig lernen und auf neuen Daten schlecht sein.
Ein Sprachmodell schlägt die Antwort nach
Ein Sprachmodell schlägt die Antwort nach
„Das LLM sucht die Antwort in einer Datenbank, also stimmt sie.“
Ein LLM berechnet eine wahrscheinliche Fortsetzung des Textes. Das klingt oft richtig, kann aber falsch sein. Die Antwort braucht eine Prüfung an anderer Stelle.
Zusammenfassung
Überwachtes Lernen nutzt Beispiele mit Label (Klassifikation, Regression), unüberwachtes sucht Struktur (Clustering), bestärkendes lernt aus Belohnungen.
Trainingsdaten stellen das Modell ein, Testdaten messen, ob es verallgemeinert. Gute Trainings- und schlechte Testwerte zeigen Überanpassung.
Das Perzeptron summiert gewichtete Eingaben plus Bias. Die Delta-Lernregel ändert Gewichte um eta mal Fehler mal Eingabe.
Ein Netz rechnet per Forward Propagation, misst den Fehler mit einer Kostenfunktion und senkt ihn per Backpropagation und Gradientenabstieg.
k-Means gruppiert Punkte um Mittelwerte, lineare Regression passt eine Gerade an Messpunkte an. Hyperparameter legt der Mensch fest.
Bias, mangelnde Erklärbarkeit und offene Verantwortung sind Risiken. Ein LLM erzeugt wahrscheinlichen Text, den man prüfen muss.
Übungen
Ein Modell erkennt 99 von 100 Trainingsbildern richtig, aber nur 62 von 100 Testbildern. Was zeigt das?
Ein Perzeptron hat w1 = 0,5, w2 = 0,5 und b = -2, die Lernrate ist 0,1. Eingabe (2, 1), richtige Ausgabe t = 1. Wie groß ist w1 nach dem Lernschritt?
k-Means mit k = 2 auf den Daten 2, 4, 10, 12. Startzentren sind 2 und 12. Wo liegt nach dem ersten Zuordnen und Mitteln das neue Zentrum der Gruppe, die mit 12 gestartet ist?
Ein Netz hat ein verdecktes Neuron mit ReLU (Gewichte 0,5 und 0,25, Bias -0,5) und ein Ausgabeneuron ohne Aktivierung (Gewicht 2, Bias 0,1). Welche Ausgabe y liefert es für die Eingabe (0, 1)?
Eine Bank trainiert ein Modell mit ihren Kreditentscheidungen der letzten 20 Jahre. Nenne ein Risiko und eine Maßnahme dagegen.