osukhoroslov
66d8abdc40
Remove unused post-seminar sections from all seminar cards and update README descriptions to reflect the narrower scope of the cards. Add the project preferences form link to project.md and replace preliminary team roster wording with finalized rosters.
33 lines
2.0 KiB
Markdown
33 lines
2.0 KiB
Markdown
# 16. Efficient Memory Management for Large Language Model Serving with PagedAttention
|
||
|
||
[К списку семинаров](README.md) · [Общие правила](../seminars.md) · [Расписание](../schedule.md)
|
||
|
||
- **Дата:** 1 марта 2027 года, 18:10
|
||
- **Статья:** [Efficient Memory Management for Large Language Model Serving with PagedAttention](https://arxiv.org/pdf/2309.06180)
|
||
- **Центральный вопрос:** как страничная организация KV-кэша меняет использование памяти, пакетирование запросов и пропускную способность LLM-сервинга?
|
||
|
||
## Участники
|
||
|
||
| Роль | Участник |
|
||
|---|---|
|
||
| Автор 1 | Битюков Павел |
|
||
| Автор 2 | Лубсанов Дмитрий |
|
||
| Автор 3 | Разухин Александр |
|
||
| Рецензент | Широковских Александр |
|
||
| Археолог 1 | Заварин Александр |
|
||
| Археолог 2 | Подхватилин Григорий |
|
||
| Исследователь | Балабекян Андрей |
|
||
| Практик | Поливин Никита |
|
||
|
||
## Маршрут чтения и акценты
|
||
|
||
По умолчанию основной текст читается полностью. Нужно отделить механизм PagedAttention от планировщика vLLM, понять причины фрагментации KV-кэша, а также проверить нагрузки, baselines, метрики и границы переноса результатов на современные модели и аппаратные платформы.
|
||
|
||
**Дополнительное чтение к подготовке:** пока не назначено.
|
||
|
||
## Выбранные дополнительные тезисы
|
||
|
||
| После блока | Автор тезиса | Формулировка |
|
||
|---|---|---|
|
||
| — | — | — |
|