Automatisierung heißt: Ein technisches System erledigt eine Aufgabe ganz oder teilweise selbstständig, die vorher Menschen erledigt haben. Informatiksysteme, also vernetzte Hardware, Software und Daten, sind heute in fast allen Bereichen im Einsatz:

Digitalisierung bezeichnet die Umstellung von Arbeit, Kommunikation und Dienstleistungen auf digitale Daten und vernetzte Systeme. Ihre Folgen sind gemischt:

• Arbeitswelt: Manche Tätigkeiten fallen weg oder verändern sich, besonders gleichförmige. Neue entstehen, etwa in Wartung, Betreuung und Datenanalyse. Wie sich die Zahl der Stellen insgesamt entwickelt, hängt vom Beruf ab und wird diskutiert.
• Alltag: Dienste sind rund um die Uhr erreichbar, dafür werden mehr Daten über uns gesammelt.
• Gesellschaft: Wer Zugang und Kenntnisse hat, profitiert mehr als andere. Man spricht von einer digitalen Kluft.

Ein Algorithmus ist eine eindeutige Schrittfolge zur Lösung eines Problems. Algorithmen gab es lange vor dem Computer: Der euklidische Algorithmus für den größten gemeinsamen Teiler ist über 2000 Jahre alt, und auch das schriftliche Rechnen ist einer.

Heute laufen Algorithmen millionenfach pro Sekunde und meist unsichtbar. Sie ordnen Suchergebnisse, berechnen Routen und Preise, wählen Beiträge in sozialen Netzwerken aus und treffen eine Vorauswahl bei Bewerbungen. Neu ist ihre Reichweite: Sie entscheiden über viele Menschen, und oft sieht niemand genau hin.

Einige Schritte, die die Informatik geprägt haben (die Jahre sind Richtwerte, vieles entstand in mehreren Schritten):

Automatisierte Systeme sind schnell und genau, aber nur innerhalb ihrer Aufgabe:

• Sie kennen nur, was programmiert wurde oder in den Trainingsdaten vorkam. Bei Unvorhergesehenem entscheiden sie oft falsch.
• Sie verstehen Bedeutung nicht wie Menschen. Ihnen fehlen Gespür für den Einzelfall und ein Gewissen.
• Sie sind nur so gut wie ihr Ziel. Ein Empfehlungssystem, das nur die Verweildauer maximiert, erfüllt sein Ziel perfekt, auch wenn es Nutzern schadet.
• Verantwortung lässt sich nicht an die Maschine abgeben.

Alan Turing schlug 1950 einen Test für die Frage "Können Maschinen denken?" vor. Beim Turing-Test führt eine Prüferin schriftliche Gespräche mit zwei Gegenübern, die sie nicht sieht: einem Menschen und einer Maschine. Kann sie nicht zuverlässig sagen, wer die Maschine ist, hat die Maschine den Test bestanden. Der Test misst, ob eine Maschine menschliches Verhalten nachahmen kann. Ob sie versteht, was sie sagt, misst er nicht: Eine Maschine kann überzeugende Antworten aus Mustern in sehr vielen Texten erzeugen, ohne je erlebt zu haben, wovon sie schreibt.

In einem maschinellen Entscheidungsprozess leitet ein System aus Daten eine Entscheidung oder Empfehlung ab, zum Beispiel bei der Kreditwürdigkeit, bei der Vorauswahl von Bewerbungen oder bei der Notbremse eines Autos. Man unterscheidet:

• Entscheidungsunterstützung: Das System schlägt vor, ein Mensch entscheidet.
• Vollautomatische Entscheidung: Das System entscheidet ohne Mensch.

Je größer die Folgen für einen Menschen sind, desto wichtiger ist, dass jemand eingreifen kann und die Entscheidung begründet und anfechtbar ist. Die Datenschutz-Grundverordnung sieht deshalb vor, dass niemand grundsätzlich allein einer automatisierten Entscheidung mit erheblicher Wirkung unterworfen sein soll. Es gibt Ausnahmen.

Abhängigkeit: Je mehr Abläufe an Informatiksystemen hängen, desto größer der Schaden bei einem Ausfall, etwa durch Stromausfall oder einen Angriff auf ein Krankenhaus. Auch Fähigkeiten gehen verloren, zum Beispiel Orientierung ohne Navigationssystem. Dagegen helfen Notstrom, Datensicherungen und geübte Notfallverfahren ohne Rechner.

Ökologisch: Rechner, Netze und Rechenzentren brauchen Strom, die Herstellung braucht Rohstoffe, alte Geräte werden zu Elektroschrott. Digitales kann auch Ressourcen sparen, etwa Videokonferenzen statt Reisen. Wird ein System pro Vorgang sparsamer, aber viel häufiger genutzt, kann der Gesamtverbrauch trotzdem steigen.

Ökonomisch: Automatisierung senkt Kosten und steigert die Produktion. Es entstehen neue Geschäftsmodelle wie Plattformen, und wenige große Anbieter gewinnen viel Marktmacht.

Wenn Entscheidungen automatisiert werden, entstehen Fragen, die Technik allein nicht beantwortet:

• Verantwortung: Wer haftet bei einem Fehler: Entwickler, Betreiber oder Nutzerin?
• Fairness: Benachteiligt das System Gruppen, etwa durch Stellvertretermerkmale?
• Transparenz: Können Betroffene nachprüfen, warum so entschieden wurde?
• Macht und Teilhabe: Wer legt die Ziele fest, wer profitiert, wer verliert?

Ethik fragt, was richtig ist, nicht nur, was möglich ist.