Atención de consultas agrupadas
La atención de consultas agrupadas (Grouped-Query Attention, GQA) permite que varios grupos de atención compartan información guardada de tokens anteriores.
La atención de consultas agrupadas (Grouped-Query Attention, GQA) permite que varios grupos de atención compartan información guardada de tokens anteriores.