Key-Value Cache (KV-Cache)

Der KV-Cache speichert Informationen bereits verarbeiteter Token zur Wiederverwendung.