Files
nis2/seminars/16-2027-03-01-pagedattention.md
T

31 lines
1.9 KiB
Markdown
Raw Normal View History

2026-09-06 19:26:12 +03:00
# 16. Efficient Memory Management for Large Language Model Serving with PagedAttention
[К списку семинаров](README.md) · [Общие правила](../seminars.md) · [Расписание](../schedule.md)
- **Дата:** 1 марта 2027 года, 18:10
- **Статья:** [Efficient Memory Management for Large Language Model Serving with PagedAttention](https://arxiv.org/pdf/2309.06180)
- **Центральный вопрос:** как страничная организация KV-кэша меняет использование памяти, пакетирование запросов и пропускную способность LLM-сервинга?
## Участники
| Роль | Участник |
|---|---|
2026-09-14 22:48:08 +03:00
| Автор 1 | Битюков Павел |
| Автор 2 | Лубсанов Дмитрий |
| Автор 3 | Разухин Александр |
| Рецензент | Широковских Александр |
| Археолог 1 | Заварин Александр |
| Археолог 2 | Подхватилин Григорий |
| Исследователь | Балабекян Андрей |
| Практик | Поливин Никита |
2026-09-06 19:26:12 +03:00
## Маршрут чтения и акценты
По умолчанию основной текст читается полностью. Нужно отделить механизм PagedAttention от планировщика vLLM, понять причины фрагментации KV-кэша, а также проверить нагрузки, baselines, метрики и границы переноса результатов на современные модели и аппаратные платформы.
## Выбранные дополнительные тезисы
| После блока | Автор тезиса | Формулировка |
|---|---|---|
| — | — | — |