Grouped-Query Attention (GQA)

GQA lässt mehrere Abfragegruppen gespeicherte Schlüssel und Werte früherer Token teilen.