osukhoroslov
29f3f50a1a
Replace the generic emphasis note with a structured, section-by-section reading order and clarify the central question around strict serializability. Remove the unused "additional reading" placeholder from the remaining seminar files.
31 lines
1.9 KiB
Markdown
31 lines
1.9 KiB
Markdown
# 16. Efficient Memory Management for Large Language Model Serving with PagedAttention
|
||
|
||
[К списку семинаров](README.md) · [Общие правила](../seminars.md) · [Расписание](../schedule.md)
|
||
|
||
- **Дата:** 1 марта 2027 года, 18:10
|
||
- **Статья:** [Efficient Memory Management for Large Language Model Serving with PagedAttention](https://arxiv.org/pdf/2309.06180)
|
||
- **Центральный вопрос:** как страничная организация KV-кэша меняет использование памяти, пакетирование запросов и пропускную способность LLM-сервинга?
|
||
|
||
## Участники
|
||
|
||
| Роль | Участник |
|
||
|---|---|
|
||
| Автор 1 | Битюков Павел |
|
||
| Автор 2 | Лубсанов Дмитрий |
|
||
| Автор 3 | Разухин Александр |
|
||
| Рецензент | Широковских Александр |
|
||
| Археолог 1 | Заварин Александр |
|
||
| Археолог 2 | Подхватилин Григорий |
|
||
| Исследователь | Балабекян Андрей |
|
||
| Практик | Поливин Никита |
|
||
|
||
## Маршрут чтения и акценты
|
||
|
||
По умолчанию основной текст читается полностью. Нужно отделить механизм PagedAttention от планировщика vLLM, понять причины фрагментации KV-кэша, а также проверить нагрузки, baselines, метрики и границы переноса результатов на современные модели и аппаратные платформы.
|
||
|
||
## Выбранные дополнительные тезисы
|
||
|
||
| После блока | Автор тезиса | Формулировка |
|
||
|---|---|---|
|
||
| — | — | — |
|