Запуск языковых моделей локально: как Janus на Go и Vulkan меняет правила игры

Введение: эволюция локального инференса LLM Пока вы читаете эту статью, ваш очередной Docker-контейнер с Python и PyTorch наверняка качает гигабайты зависимостей только для того, чтобы запустить про…