AI đang chuyển đổi các lĩnh vực, hàng hóa và chức năng cơ bản khác nhau. Tuy nhiên, mạng lưới thần kinh sâu tiêu thụ quá nhiều tài nguyên về bộ nhớ, sức mạnh tính toán và năng lượng. Để đảm bảo việc áp dụng rộng rãi AI, nó phải hoạt động hiệu quả trên các thiết bị của người dùng cuối, tuân thủ các hạn chế nghiêm ngặt về năng lượng và nhiệt. Các kỹ thuật như lượng tử hóa và nén đóng một vai trò quan trọng trong việc giảm thiểu những thách thức này.

Trong hội thảo trực tuyến này, giám đốc sản phẩm của Sony, Amir Servi, sẽ hướng dẫn bạn Bộ công cụ nén mô hình của Sony để định lượng và tăng tốc các mô hình học sâu để triển khai biên hiệu quả. Bạn sẽ học cách làm tương tự cho mô hình của riêng bạn! Những gì bạn sẽ học:

- Nghiên cứu mới nhất của chúng tôi về kỹ thuật lượng tử hóa và thực hiện nó thành một sản phẩm thực tế

- Tầm quan trọng của nén nhận biết phần cứng để suy luận trên cạnh

- Làm thế nào các kỹ sư và nhà nghiên cứu có thể thực hiện các kỹ thuật này thông qua Sony MCT

Những tiến bộ gần đây trong thị giác máy tính đã được thúc đẩy đáng kể bởi sự ra đời của kiến trúc máy biến áp và sự trừu tượng thân thiện với người dùng để đào tạo trước, tinh chỉnh và suy luận trong 🤗 thư viện máy biến áp. Buổi nói chuyện này cung cấp một cái nhìn tổng quan về các mô hình tầm nhìn dựa trên máy biến áp mới nhất, khám phá các tiện ích có sẵn trong 🤗 thư viện máy biến áp và cung cấp những hiểu biết thực tế về triết lý đằng sau nó.

Mệt mỏi với hàng dài khi thanh toán bán lẻ? Hệ thống quản lý hàng đợi thông minh của chúng tôi là câu trả lời! Tham gia với chúng tôi để được hướng dẫn từng bước về cách tạo một hệ thống như vậy bằng cách sử dụng OpenVINO và YOLOv8. Chúng tôi sẽ hướng dẫn bạn qua quá trình tích hợp các công cụ nguồn mở mạnh mẽ này để phát triển giải pháp đầu cuối có thể được triển khai trong môi trường thanh toán bán lẻ. Bạn sẽ học cách tối ưu hóa ứng dụng để đạt được hiệu suất vượt trội. Cho dù bạn là nhà phát triển có kinh nghiệm hay mới sử dụng AI, phiên này sẽ cung cấp các mẹo thiết thực và thực tiễn tốt nhất để xây dựng các hệ thống thông minh bằng cách sử dụng OpenVINO. Đến cuối bài thuyết trình, bạn sẽ có kiến thức và tài nguyên để xây dựng giải pháp của riêng mình.

Trong thời đại được xác định bởi những tiến bộ nhanh chóng trong trí tuệ nhân tạo (AI), điều hướng bối cảnh đạo đức của công nghệ này là điều tối quan trọng. Trong phiên này, Mónica sẽ làm sáng tỏ mạng lưới phức tạp của những tình huống khó xử về đạo đức đi kèm với sức mạnh biến đổi của AI. Từ việc giải quyết sự thiên vị và công bằng đến khám phá tính minh bạch, trách nhiệm giải trình và tác động sâu sắc của AI đối với xã hội, Monica sẽ cung cấp những hiểu biết sâu sắc làm sáng tỏ những cân nhắc đạo đức xung quanh AI.

Buổi nói chuyện này là cơ hội để bạn có được sự hiểu biết cơ bản về những thách thức và trách nhiệm đạo đức liên quan đến AI. Mónica sẽ trang bị cho bạn kiến thức cần thiết cho bất kỳ ai tham gia phát triển AI, ra quyết định hoặc hình thành chính sách.

Mô hình nền tảng có thể được yêu cầu về mặt GPU tính toán và có thể không phù hợp với các ứng dụng thời gian thực, đặc biệt nếu bạn muốn mở rộng hàng triệu Điểm mua hàng tự trị. Nhưng chúng tôi tận dụng phương pháp gọi là chắt lọc kiến thức, nơi chúng tôi đặt các mô hình nền tảng của mình cho các nhiệm vụ phức tạp như chú thích và chuyển kiến thức này thành các mô hình nhỏ hơn và hiệu quả về chi phí. Điều này cho phép chúng tôi tăng tốc quá trình chú thích nhanh hơn tới 90 lần so với ghi nhãn truyền thống của con người.

Pssst. Bạn muốn nghe một bí mật? Điều gì sẽ xảy ra nếu tôi nói với bạn rằng học tập tích cực không phải là khó khăn. Điều gì sẽ xảy ra nếu có... Một cách dễ dàng? Bạn thật may mắn. Bài nói chuyện này sẽ chỉ cho bạn chính xác cách triển khai một quy trình học tập tích cực bằng cách sử dụng DagsHub'Công cụ dữ liệu. Và 90% quy trình có thể chạy trực tiếp trong Jupyter Notebook hoặc bật Google Colab! Đến cuối buổi nói chuyện, bạn sẽ có thông tin cần thiết để chuyển đổi dự án hiện tại của mình thành một dự án sử dụng học tập tích cực để cải thiện hiệu quả và nhanh chóng các chỉ số mô hình của bạn!

Sử dụng các công cụ mã nguồn mở với YOLOv8 có thể giúp bạn thiết lập và chạy dự án AI tầm nhìn tiếp theo của mình một cách nhanh chóng. Có kho lưu trữ hình ảnh nguồn mở, thư viện để giúp tự động hóa việc ghi nhãn dữ liệu, các công cụ để theo dõi hoặc đếm và máy chủ để triển khai các mô hình của bạn. Tìm hiểu cách sử dụng chúng với YOLOv8 để xây dựng ứng dụng tiếp theo của bạn.

Cuộc đua toàn cầu đang diễn ra cho các hệ thống trí tuệ nhân tạo (AI) lớn hơn và tốt hơn dự kiến sẽ có tác động xã hội và môi trường sâu sắc bằng cách thay đổi thị trường việc làm, phá vỡ các mô hình kinh doanh và cho phép các cấu trúc quản trị và phúc lợi xã hội mới có thể ảnh hưởng đến sự đồng thuận toàn cầu về các lộ trình hành động khí hậu. Tuy nhiên, các hệ thống AI hiện tại được đào tạo dựa trên các bộ dữ liệu thiên vị có thể gây bất ổn cho các cơ quan chính trị, tác động đến các quyết định giảm thiểu và thích ứng với biến đổi khí hậu và làm tổn hại đến sự ổn định xã hội, có khả năng dẫn đến các sự kiện bùng nổ xã hội. Do đó, thiết kế phù hợp của một hệ thống AI ít thiên vị hơn, phản ánh cả tác động trực tiếp và gián tiếp đến xã hội và thách thức hành tinh là một câu hỏi có tầm quan trọng tối cao.

Việc lượng tử hóa các mô hình học máy (ML) có thể dẫn đến giảm đáng kể kích thước mô hình cũng như giảm độ trễ suy luận do yêu cầu băng thông thấp hơn. Khi được triển khai trên các tùy chọn phần cứng hỗ trợ tính toán số nguyên một cách hiệu quả, mức tăng hiệu suất có thể còn ấn tượng hơn. Tuy nhiên, lượng tử hóa đôi khi có thể dẫn đến sự suy giảm không thể chấp nhận được về độ chính xác. Trong bài nói chuyện này, chúng tôi trình bày tổng quan về các phương pháp để lượng tử hóa hiệu quả YOLOv8 các mô hình làm cho chúng trở thành một lựa chọn tuyệt vời cho các ứng dụng AI cạnh thời gian thực khác nhau. Chúng tôi cũng giới thiệu một lớp học YOLOv8 các mô hình có chức năng kích hoạt ReLU6 hiển thị kết quả lượng tử hóa sau đào tạo tuyệt vời trên nhiều kiến trúc mô hình và bộ dữ liệu khác nhau. Cuối cùng, chúng tôi minh họa cách các mô hình lượng tử hóa có thể được triển khai trên nhiều tùy chọn phần cứng như CPU, TPU biên và Orca (bộ tăng tốc AI HW của DeGirum) bằng cách sử dụng các API đơn giản.

Ultralytics là ngôi nhà cho các mô hình thị giác máy tính tiên tiến, hiện đại cho các nhiệm vụ như phân loại hình ảnh, phát hiện đối tượng, phân đoạn hình ảnh và ước tính tư thế. Weights & Biases là một nền tảng MLOps đầu tiên dành cho nhà phát triển mà khi được tích hợp với một Ultralytics Quy trình làm việc, cho phép chúng tôi dễ dàng quản lý các thử nghiệm, lập mô hình điểm kiểm tra và trực quan hóa kết quả thử nghiệm của mình một cách sâu sắc và trực quan. Trong phần này, chúng ta sẽ khám phá cách chúng ta có thể tăng cường hiệu quả quy trình làm việc thị giác máy tính của mình bằng cách sử dụng Ultralytics và Weights & Biases.

Tìm hiểu cách chúng tôi tạo ra PatentPT, một giải pháp mô hình ngôn ngữ tiên tiến giúp tăng cường đáng kể khả năng tìm kiếm và tương tác bằng sáng chế. Bài thuyết trình cung cấp những hiểu biết thực tế về tinh chỉnh và triển khai các mô hình ngôn ngữ lớn và tận dụng các tác nhân bộ nhớ cấp doanh nghiệp để tự động hoàn thành bằng sáng chế, tạo tóm tắt và khiếu nại, đồng thời thực hiện các chức năng tìm kiếm bằng sáng chế nâng cao bằng cách sử dụng kho bằng sáng chế phong phú. Chúng tôi sẽ hướng dẫn bạn cách phát triển một giải pháp tương tự bằng cách sử dụng Deep Lake tiên tiến của Activeloop, Cơ sở dữ liệu cho AI, các mô hình LLM nguồn mở, phần cứng HPU Habana Gaudi và API suy luận LLM của Amazon Sagemaker.

Chúng tôi sẽ hướng dẫn bạn qua các bản thiết kế kiến trúc và tất cả các bước chúng tôi đã thực hiện để xây dựng giải pháp - từ đào tạo mô hình LLM của chúng tôi và tinh chỉnh nó, tạo các tính năng tùy chỉnh và triển khai API tìm kiếm.

Cho dù bạn là một học viên AI đang tìm kiếm hướng dẫn thực tế về tinh chỉnh LLM, một chuyên gia pháp lý quan tâm đến việc tận dụng AI để tìm kiếm bằng sáng chế hay chỉ đơn giản là tò mò về tương lai của các giải pháp nâng cao AI, bài nói chuyện của chúng tôi cung cấp một cái nhìn thoáng qua về quy trình và tiềm năng của việc sử dụng LLM trong một lĩnh vực chuyên ngành. Hãy tham gia cùng chúng tôi khi chúng tôi chia sẻ hành trình xây dựng các ứng dụng hỗ trợ LLM tùy chỉnh được cung cấp bởi Deep Lake, Cơ sở dữ liệu về AI cho các công ty lớn và nhỏ.