AI는 다양한 분야와 상품, 기본 기능을 혁신하고 있습니다. 그럼에도 불구하고 심층 신경망은 메모리, 연산 능력, 에너지 측면에서 과도한 리소스를 소비합니다. AI의 광범위한 도입을 위해서는 최종 사용자 디바이스에서 엄격한 전력 및 열 제약을 준수하면서 효율적으로 작동해야 합니다. 양자화 및 압축과 같은 기술은 이러한 문제를 완화하는 데 중추적인 역할을 합니다.

이 웨비나에서는 소니의 제품 매니저인 아미르 서비가 효율적인 엣지 배포를 위해 딥러닝 모델을 정량화하고 가속화하는 소니의 모델 압축 툴킷에 대해 안내합니다. 자신의 모델에 대해서도 동일한 작업을 수행하는 방법을 배울 수 있습니다! 학습 내용

- 양자화 기술에 대한 최신 연구와 이를 실용적인 제품으로 구현한 사례

- 엣지 추론을 위한 하드웨어 인식 압축의 중요성

- 엔지니어와 연구원이 소니 MCT를 통해 이러한 기술을 구현하는 방법

최근 컴퓨터 비전은 트랜스포머 아키텍처의 도입과 🤗 트랜스포머 라이브러리에서 사전 훈련, 미세 조정 및 추론을 위한 사용자 친화적인 추상화의 도입으로 크게 발전했습니다. 이 강연에서는 최신 트랜스포머 기반 비전 모델에 대한 개요를 제공하고, 🤗 트랜스포머 라이브러리에서 사용할 수 있는 유틸리티를 살펴보고, 그 이면에 있는 철학에 대한 실질적인 인사이트를 제공합니다.

매장 계산대의 긴 줄에 지치셨나요? 저희의 지능형 대기열 관리 시스템이 해답입니다! OpenVINO YOLOv8 사용하여 이러한 시스템을 만드는 방법에 대한 단계별 튜토리얼에 참여하세요. 이 강력한 오픈 소스 도구를 통합하여 소매점 결제 환경에 배포할 수 있는 엔드투엔드 솔루션을 개발하는 과정을 안내해 드립니다. 뛰어난 성능을 달성하기 위해 애플리케이션을 최적화하는 방법을 배우게 됩니다. 이 세션에서는 숙련된 개발자이든 AI를 처음 접하는 개발자이든 상관없이 OpenVINO 사용하여 지능형 시스템을 구축하기 위한 실용적인 팁과 모범 사례를 제공합니다. 프레젠테이션이 끝나면 자신만의 솔루션을 구축할 수 있는 지식과 리소스를 갖추게 될 것입니다.

인공지능(AI)의 급속한 발전으로 정의되는 이 시대에는 이 기술의 윤리적 환경을 탐색하는 것이 무엇보다 중요합니다. 이 세션에서 모니카는 AI의 혁신적인 힘에 수반되는 윤리적 딜레마의 복잡한 그물망을 풀어낼 것입니다. 편견과 공정성 문제부터 투명성, 책임성, AI가 사회에 미치는 심오한 영향에 이르기까지 모니카는 AI를 둘러싼 윤리적 고려 사항을 조명하는 인사이트를 제공할 것입니다.

이 강연은 AI와 관련된 윤리적 도전과 책임에 대한 근본적인 이해를 얻을 수 있는 기회입니다. 모니카는 AI 개발, 의사 결정 또는 정책 수립에 종사하는 모든 사람에게 필수적인 지식을 제공할 것입니다.

파운데이션 모델은 GPU 연산이 많이 소요될 수 있으며, 특히 수백만 개의 자율 구매 포인트를 확장하려는 경우 실시간 애플리케이션에는 적합하지 않을 수 있습니다. 하지만 저희는 지식 증류라는 방법을 활용하여 주석과 같은 복잡한 작업을 위한 기초 모델을 만들고 이 지식을 더 작고 비용 효율적인 모델로 옮깁니다. 이를 통해 사람이 직접 라벨을 붙이는 것보다 최대 90배 빠른 속도로 주석 처리 속도를 높일 수 있습니다.

Pssst. 비밀을 알려드릴까요? 능동적 학습이 어렵지 않다고 말씀드리면 어떨까요? 쉬운 방법이 있다면 어떨까요? 운이 좋으세요. 이 강연에서는 DagsHub 데이터 엔진을 사용하여 능동형 학습 파이프라인을 구현하는 방법을 정확하게 보여드립니다. 그리고 파이프라인의 90%는 주피터 노트북이나 Google Colab에서 직접 실행할 수 있습니다! 강연이 끝나면 기존 프로젝트를 능동형 학습을 사용하여 모델의 메트릭을 효율적이고 빠르게 개선하는 프로젝트로 전환하는 데 필요한 정보를 얻게 될 것입니다!

YOLOv8 함께 오픈 소스 도구를 사용하면 다음 비전 AI 프로젝트를 빠르게 시작하고 실행하는 데 도움이 될 수 있습니다. 오픈 소스 이미지 저장소, 데이터 라벨링 자동화에 도움이 되는 라이브러리, 추적 또는 카운팅을 위한 도구, 모델 배포를 위한 서버가 있습니다. YOLOv8 함께 이러한 도구를 사용하여 다음 애플리케이션을 구축하는 방법을 알아보세요.

더 크고 더 나은 인공지능(AI) 시스템을 위한 전 세계적인 경쟁은 고용 시장을 변화시키고 비즈니스 모델을 혼란에 빠뜨리며 기후 행동 경로에 대한 글로벌 합의에 영향을 미칠 수 있는 새로운 거버넌스와 사회 복지 구조를 가능하게 함으로써 사회 및 환경에 중대한 영향을 미칠 것으로 예상됩니다. 그러나 현재의 AI 시스템은 편향된 데이터 세트로 학습되어 기후 변화 완화 및 적응 결정에 영향을 미치는 정치 기관을 불안정하게 만들고 사회적 안정을 해쳐 잠재적으로 사회적 혼란을 초래할 수 있습니다. 따라서 사회와 지구에 미치는 직간접적인 영향을 모두 반영하는 덜 편향된 AI 시스템을 적절히 설계하는 것이 가장 중요한 문제입니다.

머신 러닝(ML) 모델을 정량화하면 모델 크기가 크게 줄어들 뿐만 아니라 대역폭 요구 사항이 낮아져 추론 대기 시간이 단축될 수 있습니다. 정수 연산을 효율적으로 지원하는 하드웨어 옵션에 배포하면 성능이 훨씬 더 크게 향상될 수 있습니다. 그러나 양자화는 때때로 용납할 수 없는 정확도 저하로 이어질 수 있습니다. 이 강연에서는 다양한 실시간 에지 AI 애플리케이션에 적합한 YOLOv8 모델을 효율적으로 양자화하는 방법에 대한 개요를 소개합니다. 또한 다양한 모델 아키텍처와 데이터 세트에서 뛰어난 훈련 후 양자화 결과를 보여주는 ReLU6 활성화 기능을 갖춘 YOLOv8 모델 클래스를 소개합니다. 마지막으로, 간단한 API를 사용하여 양자화된 모델을 CPU, 에지 TPU, Orca(DeGirum의 AI HW 가속기) 등 다양한 하드웨어 옵션에 배포하는 방법을 설명합니다.

Ultralytics 이미지 분류, 물체 감지, 이미지 분할, 포즈 추정과 같은 작업을 위한 최첨단 컴퓨터 비전 모델의 본고장입니다. 가중치 Weights & Biases 개발자를 위한 MLOps 플랫폼으로, Ultralytics 워크플로와 통합하면 실험을 쉽게 관리하고, 체크포인트를 모델링하고, 실험 결과를 통찰력 있고 직관적인 방식으로 시각화할 수 있습니다. 이 세션에서는 Ultralytics Weights & Biases 사용하여 컴퓨터 비전 워크플로를 효과적으로 강화할 수 있는 방법을 살펴봅니다.

특허 검색 및 상호 작용 기능을 크게 향상시키는 고급 언어 모델 솔루션인 PatentPT를 어떻게 만들었는지 알아보세요. 이 프레젠테이션에서는 대규모 언어 모델을 미세 조정 및 배포하고 엔터프라이즈급 메모리 에이전트를 활용하여 특허를 자동 완성하고, 초록과 청구항을 생성하고, 풍부한 특허 코퍼스를 사용하여 고급 특허 검색 기능을 수행하는 방법에 대한 실용적인 인사이트를 제공합니다. 최첨단 Activeloop의 Deep Lake, AI용 데이터베이스, 오픈 소스 LLM 모델, 하바나 가우디 HPU 하드웨어, Amazon Sagemaker의 LLM 추론 API를 사용하여 유사한 솔루션을 개발하는 방법을 안내해 드립니다.

LLM 모델 교육 및 미세 조정, 사용자 지정 기능 생성, 검색 API 배포 등 솔루션 구축에 필요한 아키텍처 청사진과 모든 단계를 안내해 드립니다.

LLM 미세 조정에 대한 실용적인 가이드를 찾고 있는 AI 실무자, 특허 검색에 AI를 활용하는 데 관심이 있는 법률 전문가, 또는 단순히 AI 강화 솔루션의 미래에 대해 궁금해하는 사람이라면 이 강연에서 전문 분야에서 LLM을 사용하는 과정과 잠재력을 엿볼 수 있습니다. 크고 작은 기업을 위한 AI용 데이터베이스인 Deep Lake로 구동되는 맞춤형 LLM 기반 앱을 구축하는 여정을 함께 공유해 보세요.