AI는 다양한 분야, 상품, 기본 기능을 혁신하고 있습니다. 그럼에도 불구하고 심층 신경망은 메모리, 연산 능력, 에너지 측면에서 과도한 리소스를 소비합니다. AI의 광범위한 채택을 위해서는 최종 사용자 디바이스에서 엄격한 전력 및 열 제약을 준수하면서 효율적으로 작동해야 합니다. 양자화 및 압축과 같은 기술은 이러한 문제를 완화하는 데 중추적인 역할을 합니다.

이 웨비나에서는 소니의 제품 매니저인 아미르 서비(Amir Servi)가 효율적인 엣지 배포를 위해 딥러닝 모델을 정량화하고 가속화하는 소니의 모델 압축 툴킷에 대해 설명합니다. 자신의 모델에 대해서도 동일한 작업을 수행하는 방법을 배울 수 있습니다! 학습 내용

- 양자화 기술에 대한 최신 연구와 실용적인 제품으로의 구현

- 엣지 추론을 위한 하드웨어 인식 압축의 중요성

- 엔지니어와 연구원이 소니 MCT를 통해 이러한 기술을 구현하는 방법

최근 컴퓨터 비전의 발전은 트랜스포머 아키텍처의 도입과 🤗 트랜스포머 라이브러리에서 사전 학습, 미세 조정 및 추론할 수 있는 사용자 친화적인 추상화의 도입으로 크게 촉진되었습니다. 이 강연에서는 최신 트랜스포머 기반 비전 모델에 대한 개요를 제공하고, 🤗 트랜스포머 라이브러리에서 사용할 수 있는 유틸리티를 살펴보고, 그 이면의 철학에 대한 실용적인 인사이트를 제공합니다.

매장 계산대의 긴 줄에 지치셨나요? 저희의 지능형 대기열 관리 시스템이 해답입니다! OpenVINO 및 YOLOv8 을 사용하여 이러한 시스템을 만드는 방법에 대한 단계별 튜토리얼에 참여하세요. 이러한 강력한 오픈 소스 도구를 통합하여 소매점 결제 환경에 배포할 수 있는 엔드투엔드 솔루션을 개발하는 과정을 안내해 드립니다. 뛰어난 성능을 달성하기 위해 애플리케이션을 최적화하는 방법을 배우게 됩니다. 이 세션에서는 숙련된 개발자이든 AI를 처음 접하는 개발자이든 관계없이 OpenVINO 을 사용하여 지능형 시스템을 구축하기 위한 실용적인 팁과 모범 사례를 제공합니다. 프레젠테이션이 끝나면 여러분은 자신만의 솔루션을 구축할 수 있는 지식과 리소스를 갖게 될 것입니다.

인공지능(AI)의 급속한 발전으로 정의되는 이 시대에는 이 기술의 윤리적 환경을 탐색하는 것이 무엇보다 중요합니다. 이 세션에서 모니카는 AI의 혁신적 힘에 수반되는 윤리적 딜레마의 복잡한 그물망을 풀어낼 것입니다. 편견과 공정성 문제부터 투명성, 책임성, AI가 사회에 미치는 심오한 영향에 이르기까지, 모니카는 AI를 둘러싼 윤리적 고려 사항을 조명하는 인사이트를 제공할 것입니다.

이 강연은 AI와 관련된 윤리적 도전과 책임에 대한 근본적인 이해를 얻을 수 있는 기회입니다. AI 개발, 의사 결정 또는 정책 수립에 종사하는 모든 사람에게 필수적인 지식을 제공할 것입니다.

기초 모델은 GPU 계산이 까다로울 수 있으며, 특히 수백만 개의 자율 구매 포인트를 확장하려는 경우 실시간 애플리케이션에는 적합하지 않을 수 있습니다. 하지만 저희는 지식 증류라는 방법을 활용하여 주석과 같은 복잡한 작업을 위한 기초 모델을 만들고 이 지식을 더 작고 비용 효율적인 모델로 옮깁니다. 이를 통해 사람이 직접 라벨을 붙이는 것보다 최대 90배 빠른 속도로 주석 처리 속도를 높일 수 있습니다.

Pssst. 비밀을 알려드릴까요? 능동적 학습이 어렵지 않다고 말씀드리면 어떨까요? 쉬운 방법이 있다면 어떨까요? 운이 좋으세요. 이 강연에서는 DagsHub 의 데이터 엔진을 사용하여 능동형 학습 파이프라인을 구현하는 방법을 정확하게 보여드릴 것입니다. 그리고 파이프라인의 90%는 Jupyter Notebook 또는 Google Colab에서 직접 실행할 수 있습니다! 강연이 끝나면 기존 프로젝트를 능동형 학습을 사용하여 모델의 메트릭을 효율적이고 빠르게 개선하는 프로젝트로 전환하는 데 필요한 정보를 얻게 될 것입니다!

YOLOv8 에서 오픈 소스 도구를 사용하면 다음 비전 AI 프로젝트를 빠르게 시작하고 실행할 수 있습니다. 오픈 소스 이미지 저장소, 데이터 라벨링 자동화에 도움이 되는 라이브러리, 추적 또는 카운팅을 위한 도구, 모델 배포를 위한 서버가 있습니다. 다음 애플리케이션을 구축하기 위해 YOLOv8 에서 이러한 도구를 사용하는 방법을 알아보세요.

더 크고 더 나은 인공지능(AI) 시스템을 위한 글로벌 경쟁은 고용 시장을 변화시키고, 비즈니스 모델을 혼란에 빠뜨리며, 기후 행동 경로에 대한 글로벌 합의에 영향을 미칠 수 있는 새로운 거버넌스와 사회 복지 구조를 가능하게 함으로써 사회와 환경에 중대한 영향을 미칠 것으로 예상됩니다. 그러나 현재의 AI 시스템은 편향된 데이터 세트로 학습되어 기후 변화 완화 및 적응 결정에 영향을 미치는 정치 기관을 불안정하게 만들고 사회적 안정을 저해하여 잠재적으로 사회적 혼란을 야기할 수 있습니다. 따라서 사회에 미치는 직간접적인 영향과 지구적 과제를 모두 반영하는 덜 편향된 AI 시스템을 적절히 설계하는 것이 가장 중요한 문제입니다.

머신러닝(ML) 모델을 정량화하면 모델 크기가 크게 줄어들 뿐만 아니라 대역폭 요구 사항이 낮아져 추론 대기 시간이 단축될 수 있습니다. 정수 연산을 효율적으로 지원하는 하드웨어 옵션에 배포하면 성능이 훨씬 더 크게 향상될 수 있습니다. 그러나 양자화는 때때로 허용할 수 없는 정확도 저하로 이어질 수 있습니다. 이 강연에서는 다양한 실시간 엣지 AI 애플리케이션에 적합한 YOLOv8 모델을 효율적으로 정량화하는 방법에 대한 개요를 소개합니다. 또한 다양한 모델 아키텍처와 데이터 세트에서 우수한 훈련 후 양자화 결과를 보여주는 ReLU6 활성화 기능을 갖춘 YOLOv8 모델 클래스를 소개합니다. 마지막으로, 간단한 API를 사용하여 양자화된 모델을 CPU, 에지 TPU, Orca(DeGirum의 AI HW 가속기)와 같은 다양한 하드웨어 옵션에 배포하는 방법을 설명합니다.

Ultralytics 는 이미지 분류, 객체 감지, 이미지 분할, 포즈 추정 등의 작업을 위한 최첨단 컴퓨터 비전 모델의 본거지입니다. Weights & Biases 는 개발자 우선의 MLOps 플랫폼으로, Ultralytics 워크플로우와 통합하면 실험, 모델 체크포인트, 실험 결과를 통찰력 있고 직관적인 방식으로 쉽게 관리하고 시각화할 수 있습니다. 이 세션에서는 Ultralytics 및 Weights & Biases 을 사용하여 컴퓨터 비전 워크플로를 효과적으로 강화할 수 있는 방법을 살펴봅니다.

특허 검색 및 상호 작용 기능을 크게 향상시키는 고급 언어 모델 솔루션인 PatentPT를 개발한 방법을 알아보세요. 이 프레젠테이션에서는 대규모 언어 모델을 미세 조정 및 배포하고 엔터프라이즈급 메모리 에이전트를 활용하여 특허를 자동 완성하고, 초록과 청구항을 생성하고, 풍부한 특허 코퍼스를 사용하여 고급 특허 검색 기능을 수행하는 방법에 대한 실용적인 인사이트를 제공합니다. 최첨단 Activeloop의 Deep Lake, AI용 데이터베이스, 오픈 소스 LLM 모델, Habana Gaudi HPU 하드웨어, Amazon Sagemaker의 LLM 추론 API를 사용하여 유사한 솔루션을 개발하는 방법을 안내해 드립니다.

아키텍처 청사진과 LLM 모델 훈련 및 미세 조정, 사용자 지정 기능 생성, 검색 API 배포 등 솔루션을 구축하기 위해 취한 모든 단계를 안내해 드립니다.

LLM 미세 조정에 대한 실용적인 가이드를 찾고 있는 AI 실무자, 특허 검색에 AI를 활용하는 데 관심이 있는 법률 전문가, 또는 단순히 AI 강화 솔루션의 미래에 대해 궁금해하는 사람이라면 이 강연에서 전문 분야에서 LLM을 사용하는 과정과 잠재력을 엿볼 수 있습니다. 크고 작은 기업을 위한 AI용 데이터베이스인 Deep Lake로 구동되는 맞춤형 LLM 기반 앱을 구축하는 여정을 함께 공유해 보세요.