| DC Field | Value | Language |
|---|
| dc.contributor.author | Дичковский, В. А. | - |
| dc.contributor.author | Ковалёв, М. В. | - |
| dc.coverage.spatial | Минск | en_US |
| dc.date.accessioned | 2025-11-28T06:41:34Z | - |
| dc.date.available | 2025-11-28T06:41:34Z | - |
| dc.date.issued | 2025 | - |
| dc.identifier.citation | Дичковский, В. А. Оценка производительности программ для локального запуска больших языковых моделей / В. А. Дичковский, М. В. Ковалёв // Информационные технологии и системы 2025 (ИТС 2025) : материалы Международной научной конференции, Минск, 19 ноября 2025 / Белорусский государственный университет информатики и радиоэлектроники ; редкол.: Л. Ю. Шилин [и др.]. – Минск, 2025. – С. 49–50. | en_US |
| dc.identifier.uri | https://libeldoc.bsuir.by/handle/123456789/62153 | - |
| dc.description.abstract | В данном докладе представлен сравнительный анализ трёх популярных локальных решений для работы с LLM - vLLM, Ollama и Llama.cpp. Для оценки производительности программ при генерации ответов использовались следующие метрики: время до первого токена, сквозная задержка , задержка между токенами, скорость генерации и количество запросов в секунду. | en_US |
| dc.language.iso | ru | en_US |
| dc.publisher | БГУИР | en_US |
| dc.subject | материалы конференций | en_US |
| dc.subject | видеокарты | en_US |
| dc.subject | языковые модели | en_US |
| dc.subject | производительность | en_US |
| dc.subject | бенчмаркинг | en_US |
| dc.title | Оценка производительности программ для локального запуска больших языковых моделей | en_US |
| dc.type | Article | en_US |
| Appears in Collections: | ИТС 2025
|
