Открой для себя набор инструментов Sony для сжатия моделей (MCT) на выставке YOLO VISION 2023. Преодолевай проблемы краевого ИИ, демистифицируй квантование и изучай возможности развертывания в реальном времени. Присоединяйся к нам на пути от исследований к реализации.
На мероприятии YOLO VISION 2023 (YV23), проходившем в кампусе Google for Startups в Мадриде, был представлен уникальный состав докладчиков, отобранных из числа представителей ИИ-сообщества. Среди них был Амир Серви, менеджер Sony по продуктам Edge Deep Learning, который выступил с проникновенной презентацией о преодолении разрыва между исследованиями ИИ и реальным временем, где раскрыл чудеса инструментария Sony Model Compression Toolkit (MCT).
Опыт Амира Серви в области искусственного интеллекта и технологий сияет, создавая основу для познавательного исследования методов сжатия моделей и квантования, адаптированных для эффективного развертывания Edge.
Амир подробно остановился на проблемах развертывания моделей ИИ на пограничных устройствах, особо отметив препятствия, связанные с ограниченными ресурсами и аппаратными ограничениями. Во время своего выступления он представил Sony's Model Compression Toolkit (MCT), инструмент с открытым исходным кодом, легко интегрируемый в PyTorch и TensorFlow.
Амир раскрыл впечатляющие возможности MCT. От аппаратно-ориентированного квантования до самых современных алгоритмов и автоматизации поиска параметров - MCT предстал как универсальный инструментарий, готовый справиться со сложностями развертывания реального ИИ.
Амир демистифицировал техники квантования, предложив заглянуть в мир PTQ, GPTQ и их впечатляющих результатов. Аудитория восхитилась успехом PTQ со смешанной точностью и замечательными показателями сжатия, достигнутыми для этой Ultralytics YOLOv8 модель.
В двух словах, доклад Амира осветил путь между исследованиями в области ИИ и реализацией в реальном времени. Совместная работа углубила наше понимание и оставила нас вдохновленными возможностями, которые MCT привносит в постоянно развивающуюся область машинного обучения с использованием моделей YOLO .
Следи за обновлениями, ведь мы продолжаем разгадывать тайны искусственного интеллекта вместе с такими лидерами индустрии, как Амир Серви!
Любопытно узнать больше? Смотри полный текст выступления здесь!
Начни свое путешествие с будущим машинного обучения
