ИИ преобразует различные отрасли, товары и фундаментальные функции. Тем не менее глубокие нейронные сети потребляют чрезмерное количество ресурсов в виде памяти, вычислительной мощности и энергии. Чтобы обеспечить широкое распространение ИИ, он должен эффективно работать на конечных устройствах, соблюдая строгие ограничения по мощности и тепловому режиму. Такие техники, как квантование и сжатие, играют ключевую роль в решении этих проблем.

На этом вебинаре менеджер по продуктам Sony Амир Серви расскажет тебе о наборе инструментов Sony Model Compression Toolkit для квантования и ускорения моделей глубокого обучения для эффективного развертывания на границе. Ты узнаешь, как сделать то же самое для своей собственной модели! Что ты узнаешь:

- Наши последние исследования в области методов квантования и их реализация в практическом продукте

- Важность аппаратно-ориентированного сжатия для выводов на границе

- Как инженеры и исследователи могут реализовать эти техники с помощью Sony MCT

Недавние достижения в области компьютерного зрения значительно продвинулись благодаря внедрению архитектуры трансформаторов и удобных абстракций для предварительного обучения, тонкой настройки и выводов в библиотеке 🤗 transformers. В этом выступлении ты познакомишься с новейшими моделями зрения на основе трансформаторов, изучишь утилиты, доступные в библиотеке 🤗 transformers, и предложишь практическое понимание философии, лежащей в ее основе.

Устал от длинных очередей на кассах магазинов? Наша интеллектуальная система управления очередью - вот ответ! Присоединяйся к нам и получишь пошаговое руководство о том, как создать такую систему с помощью OpenVINO и YOLOv8. Мы проведем тебя через процесс интеграции этих мощных инструментов с открытым исходным кодом, чтобы разработать комплексное решение, которое можно развернуть в среде розничных касс. Ты узнаешь, как оптимизировать приложение, чтобы добиться выдающейся производительности. Будь ты опытным разработчиком или новичком в области ИИ, на этой сессии ты получишь практические советы и лучшие практики по созданию интеллектуальных систем с помощью OpenVINO. К концу презентации у тебя будут знания и ресурсы для создания собственного решения.

В эпоху, определяемую стремительным развитием искусственного интеллекта (ИИ), ориентироваться в этическом ландшафте этой технологии - первостепенная задача. На этой сессии Моника распутает запутанную паутину этических дилемм, которые сопровождают преобразующую силу ИИ. От решения вопросов предвзятости и справедливости до изучения прозрачности, подотчетности и глубокого влияния ИИ на общество Моника представит идеи, которые прольют свет на этические соображения, связанные с ИИ.

Этот доклад - твоя возможность получить фундаментальное понимание этических проблем и ответственности, связанных с ИИ. Моника вооружит тебя знаниями, которые необходимы всем, кто занимается разработкой ИИ, принятием решений или формированием политики.

Фундаментальные модели могут быть требовательны к вычислениям GPU и могут не подойти для приложений реального времени, особенно если ты хочешь масштабировать миллионы автономных точек продаж. Но мы используем преимущества метода, называемого дистилляцией знаний, когда мы помещаем наши базовые модели для сложных задач, таких как аннотации, и переносим эти знания в более мелкие и экономически эффективные модели. Это позволяет нам ускорить процесс аннотирования до 90 раз по сравнению с традиционным человеческим маркированием.

Пссс. Хочешь услышать секрет? Что, если я скажу тебе, что активное обучение не обязательно должно быть трудным. Что если бы существовал... легкий способ? Тебе повезло. Этот доклад покажет тебе, как именно реализовать конвейер активного обучения с помощью Data Engine от DagsHub. И 90% конвейера можно запустить прямо в Jupyter Notebook или в Google Colab! К концу доклада ты получишь информацию, необходимую для того, чтобы превратить свой существующий проект в проект, использующий активное обучение для эффективного и быстрого улучшения метрик твоих моделей!

Использование инструментов с открытым исходным кодом в YOLOv8 поможет тебе быстро запустить свой следующий проект по ИИ зрения. Существуют репозитории изображений с открытым исходным кодом, библиотеки, помогающие автоматизировать маркировку данных, инструменты для отслеживания или подсчета, а также серверы для развертывания твоих моделей. Узнай, как использовать их вместе с YOLOv8 для создания твоего следующего приложения.

Ожидается, что продолжающаяся глобальная гонка за большими и лучшими системами искусственного интеллекта (ИИ) окажет глубокое влияние на общество и окружающую среду, изменив рынки труда, разрушив бизнес-модели и создав новые структуры управления и благосостояния общества, которые могут повлиять на глобальный консенсус в отношении путей борьбы с изменением климата. Однако нынешние системы ИИ обучаются на предвзятых наборах данных, которые могут дестабилизировать работу политических агентств, влияющих на принятие решений по смягчению последствий изменения климата и адаптации к ним, и нарушить социальную стабильность, что потенциально может привести к переломным событиям в обществе. Таким образом, разработка менее предвзятой системы ИИ, которая отражала бы как прямое, так и косвенное влияние на общество и планетарные проблемы, является вопросом первостепенной важности.

Квантование моделей машинного обучения (ML) может привести к значительному уменьшению размера модели, а также к снижению задержки вычислений за счет снижения требований к пропускной способности. При развертывании на аппаратных вариантах, эффективно поддерживающих целочисленные вычисления, прирост производительности может быть еще более значительным. Однако квантование иногда может привести к неприемлемому снижению точности. В этом докладе мы представим обзор методов эффективного квантования моделей YOLOv8 , что делает их отличным выбором для различных приложений краевого ИИ в реальном времени. Мы также представим класс моделей YOLOv8 с функцией активации ReLU6, которые показывают отличные результаты квантования после обучения на различных архитектурах моделей и наборах данных. Наконец, мы проиллюстрировали, как квантованные модели могут быть развернуты на различных аппаратных средствах, таких как CPU, Edge TPU и Orca (ускоритель ИИ HW от DeGirum), используя простые API.

Ultralytics - это дом для передовых, самых современных моделей компьютерного зрения для таких задач, как классификация изображений, обнаружение объектов, сегментация изображений и оценка позы. Weights & Biases - это платформа MLOps, разработанная разработчиками, которая при интеграции с рабочим процессом Ultralytics позволяет нам легко управлять экспериментами, контрольными точками моделей и визуализировать результаты экспериментов в понятной и интуитивной манере. На этой сессии мы рассмотрим, как можно эффективно улучшить наши рабочие процессы в области компьютерного зрения с помощью Ultralytics и Weights & Biases.

Узнай, как мы создали PatentPT, продвинутое решение на основе языковых моделей, которое значительно расширяет возможности патентного поиска и взаимодействия. Презентация предлагает практические советы по тонкой настройке и развертыванию больших языковых моделей и использованию агентов памяти корпоративного уровня для автозаполнения патентов, генерации рефератов и формул, а также проведения расширенных функций патентного поиска с использованием богатого патентного корпуса. Мы расскажем тебе, как разработать подобное решение, используя передовое озеро Deep Lake компании Activeloop, базу данных для ИИ, модели LLM с открытым исходным кодом, оборудование Habana Gaudi HPU и API для выводов LLM от Amazon Sagemaker.

Мы проведем тебя по архитектурным чертежам и всем шагам, которые мы предприняли для создания решения - от обучения нашей LLM-модели и ее тонкой настройки, создания пользовательских функций и развертывания поисковых API.

Если ты практикующий ИИ-специалист, ищущий практические руководства по доработке LLM, юрист, заинтересованный в использовании ИИ для патентного поиска, или просто любопытный о будущем решений с использованием ИИ, наш доклад позволит тебе взглянуть на процесс и потенциал использования LLM в специализированной области. Присоединяйся к нам, так как мы поделимся своим опытом создания пользовательских приложений на базе LLM с использованием Deep Lake, базы данных для ИИ для больших и малых компаний.