AI đang chuyển đổi nhiều lĩnh vực, hàng hóa và chức năng cơ bản. Tuy nhiên, mạng nơ-ron sâu tiêu thụ quá nhiều tài nguyên về bộ nhớ, sức mạnh tính toán và năng lượng. Để đảm bảo AI được áp dụng rộng rãi, AI phải hoạt động hiệu quả trên các thiết bị của người dùng cuối, tuân thủ các ràng buộc nghiêm ngặt về công suất và nhiệt. Các kỹ thuật như lượng tử hóa và nén đóng vai trò quan trọng trong việc giảm thiểu những thách thức này.

Trong hội thảo trực tuyến này, giám đốc sản phẩm của Sony, Amir Servi, sẽ hướng dẫn bạn sử dụng Bộ công cụ nén mô hình của Sony để lượng tử hóa và tăng tốc các mô hình học sâu nhằm triển khai hiệu quả tại biên. Bạn sẽ học cách thực hiện tương tự cho mô hình của riêng mình! Những gì bạn sẽ học:

- Nghiên cứu mới nhất của chúng tôi về kỹ thuật lượng tử hóa và việc triển khai nó vào sản phẩm thực tế

- Tầm quan trọng của nén nhận biết phần cứng để suy luận trên cạnh

- Các kỹ sư và nhà nghiên cứu có thể triển khai các kỹ thuật này thông qua Sony MCT như thế nào

Những tiến bộ gần đây trong thị giác máy tính đã được thúc đẩy đáng kể nhờ sự ra đời của kiến trúc máy biến áp và các phép trừu tượng thân thiện với người dùng để huấn luyện trước, tinh chỉnh và suy ra trong thư viện máy biến áp 🤗. Bài nói chuyện này cung cấp tổng quan về các mô hình thị giác dựa trên máy biến áp mới nhất, khám phá các tiện ích có sẵn trong thư viện máy biến áp 🤗 và đưa ra những hiểu biết thực tế về triết lý đằng sau nó.

Bạn đã chán ngán với những hàng dài chờ đợi tại quầy thanh toán bán lẻ? Hệ thống Quản lý hàng đợi thông minh của chúng tôi chính là câu trả lời! Hãy tham gia cùng chúng tôi để được hướng dẫn từng bước về cách tạo ra một hệ thống như vậy bằng cách sử dụng OpenVINO Và YOLOv8 . Chúng tôi sẽ hướng dẫn bạn quy trình tích hợp các công cụ nguồn mở mạnh mẽ này để phát triển giải pháp đầu cuối có thể triển khai trong môi trường thanh toán bán lẻ. Bạn sẽ học cách tối ưu hóa ứng dụng để đạt được hiệu suất vượt trội. Cho dù bạn là nhà phát triển có kinh nghiệm hay mới làm quen với AI, buổi học này sẽ cung cấp các mẹo thực tế và phương pháp hay nhất để xây dựng hệ thống thông minh bằng cách sử dụng OpenVINO . Đến cuối bài thuyết trình, bạn sẽ có kiến thức và nguồn lực để xây dựng giải pháp của riêng mình.

Trong kỷ nguyên được định nghĩa bởi những tiến bộ nhanh chóng trong trí tuệ nhân tạo (AI), việc điều hướng bối cảnh đạo đức của công nghệ này là tối quan trọng. Trong phiên này, Mónica sẽ làm sáng tỏ mạng lưới phức tạp của những tình huống khó xử về mặt đạo đức đi kèm với sức mạnh biến đổi của AI. Từ việc giải quyết sự thiên vị và công bằng đến khám phá tính minh bạch, trách nhiệm giải trình và tác động sâu sắc của AI đối với xã hội, Monica sẽ cung cấp những hiểu biết sâu sắc làm sáng tỏ những cân nhắc về mặt đạo đức xung quanh AI.

Buổi nói chuyện này là cơ hội để bạn có được hiểu biết cơ bản về những thách thức và trách nhiệm đạo đức liên quan đến AI. Mónica sẽ trang bị cho bạn kiến thức cần thiết cho bất kỳ ai tham gia vào quá trình phát triển AI, ra quyết định hoặc hình thành chính sách.

Các mô hình nền tảng có thể đòi hỏi khắt khe về mặt GPU tính toán và có thể không phù hợp với các ứng dụng thời gian thực, đặc biệt là nếu bạn muốn mở rộng quy mô hàng triệu Điểm mua hàng tự động. Nhưng chúng tôi tận dụng phương pháp được gọi là chưng cất kiến thức, trong đó chúng tôi đặt các mô hình nền tảng của mình cho các tác vụ phức tạp như chú thích và chuyển kiến thức này thành các mô hình nhỏ hơn và tiết kiệm chi phí hơn. Điều này cho phép chúng tôi tăng tốc quá trình chú thích của mình nhanh hơn tới 90 lần so với việc dán nhãn truyền thống của con người.

Pssst. Bạn có muốn nghe một bí mật không? Nếu tôi nói với bạn rằng học tập chủ động không nhất thiết phải khó thì sao. Nếu có... một cách dễ dàng thì sao? Bạn thật may mắn. Bài nói chuyện này sẽ chỉ cho bạn chính xác cách triển khai một đường ống học tập chủ động bằng cách sử dụng DagsHub 's Data Engine. Và 90% đường ống có thể chạy trực tiếp trong Jupyter Notebook hoặc trên Google Colab! Đến cuối buổi nói chuyện, bạn sẽ có thông tin cần thiết để chuyển đổi dự án hiện tại của mình thành dự án sử dụng phương pháp học tập chủ động để cải thiện số liệu mô hình của bạn một cách hiệu quả và nhanh chóng!

Sử dụng các công cụ nguồn mở với YOLOv8 có thể giúp bạn triển khai dự án AI tầm nhìn tiếp theo của mình một cách nhanh chóng. Có các kho lưu trữ hình ảnh nguồn mở, thư viện giúp tự động hóa việc dán nhãn dữ liệu, các công cụ theo dõi hoặc đếm và máy chủ để triển khai các mô hình của bạn. Tìm hiểu cách sử dụng chúng với YOLOv8 để xây dựng ứng dụng tiếp theo của bạn.

Cuộc chạy đua toàn cầu đang diễn ra để có các hệ thống trí tuệ nhân tạo (AI) lớn hơn và tốt hơn dự kiến sẽ có tác động sâu sắc đến xã hội và môi trường bằng cách thay đổi thị trường việc làm, phá vỡ các mô hình kinh doanh và cho phép các cấu trúc quản trị và phúc lợi xã hội mới có thể ảnh hưởng đến sự đồng thuận toàn cầu đối với các lộ trình hành động vì khí hậu. Tuy nhiên, các hệ thống AI hiện tại được đào tạo trên các tập dữ liệu thiên vị có thể làm mất ổn định các cơ quan chính trị tác động đến các quyết định giảm thiểu và thích ứng với biến đổi khí hậu và gây tổn hại đến sự ổn định xã hội, có khả năng dẫn đến các sự kiện lật đổ xã hội. Do đó, việc thiết kế phù hợp một hệ thống AI ít thiên vị hơn phản ánh cả tác động trực tiếp và gián tiếp đến xã hội và các thách thức của hành tinh là một câu hỏi có tầm quan trọng tối cao.

Lượng tử hóa các mô hình học máy (ML) có thể dẫn đến giảm đáng kể kích thước mô hình cũng như giảm độ trễ suy luận do yêu cầu băng thông thấp hơn. Khi triển khai trên các tùy chọn phần cứng hỗ trợ tính toán số nguyên hiệu quả, hiệu suất tăng có thể thậm chí còn ấn tượng hơn. Tuy nhiên, lượng tử hóa đôi khi có thể dẫn đến sự suy giảm độ chính xác không thể chấp nhận được. Trong bài nói chuyện này, chúng tôi trình bày tổng quan về các phương pháp lượng tử hóa hiệu quả YOLOv8 các mô hình khiến chúng trở thành lựa chọn tuyệt vời cho nhiều ứng dụng AI cạnh thời gian thực. Chúng tôi cũng giới thiệu một lớp YOLOv8 các mô hình có hàm kích hoạt ReLU6 cho thấy kết quả lượng tử hóa sau đào tạo tuyệt vời trên nhiều kiến trúc mô hình và tập dữ liệu. Cuối cùng, chúng tôi minh họa cách các mô hình lượng tử hóa có thể được triển khai trên nhiều tùy chọn phần cứng như CPU, Edge TPU và Orca (bộ tăng tốc AI HW của DeGirum) bằng cách sử dụng các API đơn giản.

Ultralytics là nơi lưu trữ các mô hình thị giác máy tính tiên tiến, hiện đại phục vụ cho các nhiệm vụ như phân loại hình ảnh, phát hiện đối tượng, phân đoạn hình ảnh và ước tính tư thế. Weights & Biases là nền tảng MLOps dành cho nhà phát triển đầu tiên khi được tích hợp với Ultralytics quy trình làm việc, cho phép chúng ta dễ dàng quản lý các thí nghiệm, mô hình điểm kiểm tra và trực quan hóa kết quả của các thí nghiệm theo cách sâu sắc và trực quan. Trong phiên này, chúng ta sẽ khám phá cách chúng ta có thể tăng cường hiệu quả các quy trình làm việc về thị giác máy tính của mình bằng cách sử dụng Ultralytics Và Weights & Biases .

Tìm hiểu cách chúng tôi tạo ra PatentPT, một giải pháp mô hình ngôn ngữ tiên tiến giúp tăng cường đáng kể khả năng tìm kiếm và tương tác bằng sáng chế. Bài thuyết trình cung cấp những hiểu biết thực tế về việc tinh chỉnh và triển khai các mô hình ngôn ngữ lớn và tận dụng các tác nhân bộ nhớ cấp doanh nghiệp để tự động hoàn thành bằng sáng chế, tạo tóm tắt và khiếu nại, và thực hiện các chức năng tìm kiếm bằng sáng chế nâng cao bằng cách sử dụng kho dữ liệu bằng sáng chế phong phú. Chúng tôi sẽ hướng dẫn bạn cách phát triển một giải pháp tương tự bằng cách sử dụng Deep Lake tiên tiến của Activeloop, Cơ sở dữ liệu cho AI, các mô hình LLM nguồn mở, phần cứng HPU Habana Gaudi và API suy luận LLM của Amazon Sagemaker.

Chúng tôi sẽ hướng dẫn bạn qua các bản thiết kế kiến trúc và tất cả các bước chúng tôi đã thực hiện để xây dựng giải pháp – từ đào tạo mô hình LLM và tinh chỉnh nó, tạo các tính năng tùy chỉnh và triển khai API tìm kiếm.

Cho dù bạn là một học viên AI đang tìm kiếm hướng dẫn thực tế về tinh chỉnh LLM, một chuyên gia pháp lý quan tâm đến việc tận dụng AI để tìm kiếm bằng sáng chế hay chỉ đơn giản là tò mò về tương lai của các giải pháp tăng cường AI, bài nói chuyện của chúng tôi sẽ cung cấp cái nhìn thoáng qua về quy trình và tiềm năng sử dụng LLM trong một lĩnh vực chuyên biệt. Hãy tham gia cùng chúng tôi khi chúng tôi chia sẻ hành trình xây dựng các ứng dụng tùy chỉnh chạy bằng LLM được hỗ trợ bởi Deep Lake, Cơ sở dữ liệu AI dành cho các công ty lớn và nhỏ.