Encoder

Ein Encoder ist ein grundlegendes Bauteil in vielen neuronalen Netzwerkarchitekturen (wie Autoencodern oder Transformern). Seine Aufgabe ist es, rohe, komplexe Eingabedaten (wie einen englischen Satz oder ein Bild) aufzunehmen und in eine kompakte, abstrakte interne Repräsentation (Feature Vector oder Embedding/Kontext-Vektor) umzuwandeln ('zu encodieren').

Diese Repräsentation enthält idealerweise alle wichtigen Informationen über den Inhalt, aber in komprimierter, mathematischer Form. Bei einer Übersetzung (Seq2Seq) liest der Encoder den deutschen Satz und speichert die Bedeutung als Vektor. Der 'Decoder' nimmt dann diesen Vektor und generiert daraus den englischen Satz. In Modellen wie BERT wird nur der Encoder-Teil genutzt, um Textverständnis für Klassifikationen zu erlangen.