BERT

BERT (Bidirectional Encoder Representations from Transformers) ist ein 2018 von Google vorgestelltes Sprachmodell. Anders als rein autoregressive Modelle betrachtet BERT den Kontext eines Wortes in beide Richtungen gleichzeitig. Es wurde vor allem für Aufgaben wie Textklassifikation, Suche und Frage-Antwort genutzt und prägte eine Generation von Sprach-KI.