AI¶
Künstliche Intelligenz (AI, englisch Artificial Intelligence; deutsch auch KI) ist das Gebiet, das sich mit dem Bau von Systemen befasst, die Aufgaben erledigen, die üblicherweise mit menschlicher Intelligenz verbunden werden, etwa Sprache verstehen, Bilder erkennen, planen und schlussfolgern. Der Begriff erscheint erstmals in einem auf den 31. August 1955 datierten Antrag von John McCarthy, Marvin Minsky, Nathaniel Rochester und Claude Shannon für einen Sommer-Workshop, der 1956 am Dartmouth College stattfand.
Die frühe AI-Forschung war von symbolischen Ansätzen geprägt: handgeschriebene Regeln, Logik und Expertensysteme. Die Fortschritte des letzten Jahrzehnts beruhen dagegen fast vollständig auf Machine Learning, insbesondere auf tiefen neuronalen Netzen, die mit großen Datenmengen trainiert werden. Dieser Teil folgt dieser Entwicklungslinie.
Inhalt¶
- Neuronale Netze & Deep Learning: vom Perzeptron zu tiefen Netzen, Backpropagation und die logistische Regression als einzelnes Neuron.
- Transformer: der Attention-Mechanismus und die Architektur hinter modernen Sprachmodellen.
- Sprachmodelle: BERT und GPT, Pretraining, Fine-Tuning und RLHF.
- Neuere Entwicklungen: multimodale Modelle, Retrieval-Augmented Generation, Agenten, Reasoning-Modelle und Diffusionsmodelle.
Eine kurze Zeitleiste¶
| Jahr | Meilenstein |
|---|---|
| 1956 | Dartmouth Summer Research Project on Artificial Intelligence |
| 1958 | Frank Rosenblatt veröffentlicht das Perzeptron |
| 1986 | Rumelhart, Hinton und Williams zeigen, dass Backpropagation in mehrschichtigen Netzen nützliche innere Repräsentationen lernt |
| 2012 | AlexNet gewinnt den ImageNet-Wettbewerb zur Bildklassifikation mit großem Abstand und löst den Deep-Learning-Boom aus |
| 2017 | Die Transformer-Architektur wird in „Attention Is All You Need“ vorgestellt |
| 2018 | GPT und BERT zeigen das großskalige Vortrainieren von Transformern auf Text |
| 2022 | InstructGPT und ChatGPT: Sprachmodelle, die mit Reinforcement Learning from Human Feedback (RLHF) darauf abgestimmt sind, Anweisungen zu befolgen |
| 2024 | Reasoning-Modelle, die mit bestärkendem Lernen darauf trainiert sind, lange Ketten von Zwischenschritten zu erzeugen |
AI, Machine Learning, Deep Learning
Deep Learning ist ein Teilgebiet des Machine Learning, das wiederum ein Teilgebiet der AI ist.
Wie es weitergeht¶
Dieser Teil schließt den Lernpfad ab. Das Glossar fasst die wichtigsten Begriffe aus allen drei Teilen zusammen.