Как использовать Tensorflow Model Garden для видения и НЛП
13 августа 2025 г.Обзор контента
- Модели модели сада
- Официальные модели
- Исследовательские модели
- Обучающие экспериментальные рамки
- Специализированные операции ML
- Тренировочные петли с орбитой
Tensorflow Model Garden обеспечивает реализацию многих современных моделей машинного обучения (ML) для визуальной и естественной обработки (NLP), а также инструментов рабочего процесса, позволяющие быстро настраивать и запустить эти модели на стандартных наборах данных. Независимо от того, хотите ли вы сравнить производительность для известной модели, проверить результаты недавно выпущенных исследований или расширить существующие модели, модельный сад может помочь вам продвинуть свои исследования и приложения ML.
Модельный сад включает в себя следующие ресурсы для разработчиков машинного обучения:
- Официальные моделиДля видения и НЛП, поддерживаемого инженерами Google
- Исследовательские моделиОпубликовано как часть исследовательских работ
- Обучающие экспериментальные рамкиДля быстрого, декларативной тренировочной конфигурации официальных моделей
- Специализированные операции MLдля обработки видения и естественного языка (NLP)
- Модельная петля обученияУправление с орбитой
Эти ресурсы создаются для использования с основной структурой TensorFlow и интеграции с вашими существующими проектами разработки TensorFlow. Модельные садовые ресурсы также предоставляются в соответствии соткрытый исходный кодЛицензия, чтобы вы могли свободно расширить и распространять модели и инструменты.
Практические модели ML имеют вычислительно интенсивную обучение и запуск, и могут потребоваться ускорители, такие как единицы графической обработки (графические процессоры) и подразделения по обработке тензоров (TPU). Большинство моделей в модельном саду были обучены большим наборам данных с использованием TPU. Тем не менее, вы также можете тренировать и запускать эти модели на процессорах GPU и процессоров.
Модели модели сада
Модели машинного обучения в модельном саду включают полный код, чтобы вы могли тестировать, тренироваться или повторно обучить их для исследований и экспериментов. Модельный сад включает в себя две основные категории моделей:официальные моделииисследовательские моделиПолем
Официальные модели
АОфициальные моделиРепозиторий-это коллекция современных моделей, с акцентом на видение и обработку естественного языка (NLP). Эти модели реализованы с использованием API высокого уровня Thurnsorflow 2.x. Модельные библиотеки в этом репозитории оптимизированы для быстрой производительности и активно поддерживаются инженерами Google. Официальные модели включают в себя дополнительные метаданные, которые вы можете использовать для быстрого настройки экспериментов с использованием модельного садаОбучающие экспериментальные рамкиПолем
Исследовательские модели
АИсследовательские моделиРепозиторий - это сбор моделей, опубликованных в качестве кодовых ресурсов для исследовательских работ. Эти модели реализованы с использованием как Tensorflow 1.x, так и 2.x. Модельные библиотеки в папке исследования поддерживаются владельцами кодов и исследовательским сообществом.
Обучающие экспериментальные рамки
Структура эксперимента по модельной тренировке сада позволяет быстро собирать и запускать учебные эксперименты, используя его официальные модели и стандартные наборы данных. Обучающая структура использует дополнительные метаданные, включенные в официальные модели Model Garden, чтобы позволить вам быстро настраивать модели, используя модель декларативного программирования. Вы можете определить учебный эксперимент, используя команды Python вБиблиотека модели Tensorflowили настройка обучения с использованием файла конфигурации YAML, как этопримерПолем
Обучающая структура используетtfm.core.base_trainer.ExperimentConfigв качестве объекта конфигурации, который содержит следующие объекты конфигурации верхнего уровня:
runtime: Определяет аппаратное обеспечение обработки, стратегия распространения и другие оптимизации производительностиtask: Определяет модель, учебные данные, убытки и инициализациюtrainer: Определяет оптимизатор, тренировочные петли, циклы оценки, резюме и контрольные точки
Для получения полного примера с использованием модельной рамки эксперимента по тренировке сада см.Классификация изображений с модельным садомУчебник. Для получения информации о рамках учебного эксперимента, ознакомьтесь сTensorflow Models DocumentationПолем Если вы ищете решение для управления тренировочными циклами для ваших модельных тренировочных экспериментов, проверьтеОрбитаПолем
Специализированные операции ML
Модельный сад содержит много операций Vision и NLP, специально предназначенных для выполнения самых современных моделей, которые эффективно работают на графических процессорах и TPU. Просмотрите Docs API библиотеки библиотеки Vision Models TensorFlowВидные операцииПолем Просмотрите модели TensorFlow Models NLP API DOCSОперации НЛППолем Эти библиотеки также включают в себя дополнительные функции утилиты, используемые для обработки данных, обучения и выполнения моделей NLP.
Тренировочные петли с орбитой
Есть два варианта по умолчанию для обучения моделей TensorFlow:
- Используйте кера высокого уровняModel.fitфункция Если ваша модель и процедура обучения соответствуют предположениям кераса '
Model.fit(Инкрементный градиент спуск на партиях данных) Метод Это может быть очень удобным. - Напишите индивидуальный петлю обученияс керами, илибезПолем Вы можете написать индивидуальную тренировочную петлю с низкоуровневыми методами тензора, такими как
tf.GradientTapeилиtf.functionПолем Тем не менее, этот подход требует большого количества кода шаблона и ничего не делает для упрощения распределенного обучения.
Орбита пытается предоставить третий вариант между этими двумя крайностями.
Орбита - это гибкая, легкая библиотека, предназначенная для того, чтобы облегчить написание индивидуальных тренировочных петлей в Tensorflow 2.x, и хорошо работает с модельным садомОбучающие экспериментальные рамкиПолем Орбита обрабатывает общие задачи обучения модели, такие как сохранение контрольно -пропускных пунктов, запуск модельных оценок и настройка сводного письма. Он плавно интегрируется сtf.distributeи поддерживает работу на разных типах устройств, включая процессоров, графический процессор и оборудование TPU. Инструмент орбита такжеоткрытый исходный кодТаким образом, вы можете расширить и адаптироваться к своим потребностям в обучении моделей.
Руководство по орбите доступноздесьПолем
Примечание:Вы можете настроить, как Keras API выполняет обучение. В основном вы должны переопределитьModel.train_stepметод или использованиеkeras.callbacksнравитьсяcallbacks.ModelCheckpointилиcallbacks.TensorBoardПолем Для получения дополнительной информации о изменении поведенияtrain_step, проверьте
Первоначально опубликовано на
Оригинал