llama.cpp и революция MTP: как ускорить генерацию локальных LLM в два раза

Представь, что ты деплоишь свою модель машинного обучения в пятницу вечером, а скорость генерации токенов оставляет желать лучшего. Знакомая ситуация? Проект llama.cpp, ставший стандартом де-факто дл…