PagedAttention

Speicherverwaltungsansatz für KV-Caches beim LLM-Serving.

Ausführlich im Dossier: KI-Systemarchitektur verständlich erklärt