Der entscheidende Baustein hinter heutigen Sprachmodellen ist die Transformer-Architektur (2017 von Google vorgestellt): Sie erlaubt einem Modell, jedes Wort in Bezug zu jedem anderen Wort im Satz zu setzen, statt Text nur von links nach rechts zu lesen. Genau das macht Large Language Models wie GPT so gut darin, Kontext über lange Texte hinweg zu behalten. Beim Training passt das Netz Millionen bis Milliarden Gewichte schrittweise an, indem es die Differenz zwischen vorhergesagtem und tatsächlichem nächstem Wort minimiert.
Deep Learning treibt heute fast alles an, was du unter moderner KI kennst: Gesichtserkennung im Smartphone, Spracherkennung bei Siri, automatische Übersetzung bei DeepL, Bilderzeugung bei Midjourney. Für ein Unternehmen ist Deep Learning selten direkt sichtbar, es steckt als Motor in Tools, die man einkauft oder integriert, etwa ein Chatbot oder eine Bilderkennungs-API.
Der Nachteil von Deep Learning: Es braucht enorme Rechenleistung und Trainingsdaten, das Training großer Modelle kostet Millionen Euro an Grafikkarten-Zeit. Und die Entscheidungswege im Netz sind für Menschen kaum nachvollziehbar — man sieht das Ergebnis, nicht die genaue Begründung, was Deep Learning zur klassischen Blackbox macht.



