Das Herzstück moderner KI-Modelle, eine revolutionäre neuronale Netzwerkarchitektur, die besonders effizient bei der Verarbeitung sequentieller Daten ist. Transformer nutzen einen Mechanismus namens “Selbstaufmerksamkeit”, um Beziehungen zwischen allen Elementen einer Sequenz zu erfassen. Diese Architektur hat die Entwicklung von Sprachmodellen dramatisch verbessert und wird zunehmend auch in anderen Bereichen eingesetzt.