CPU

Vai trò trong AI và Học máy

CPU là bộ xử lý đa năng được thiết kế để xử lý nhiều tác vụ khác nhau theo trình tự và nhanh chóng. Các đặc điểm chính bao gồm tốc độ xung nhịp, xác định số lệnh có thể thực hiện mỗi giây và số lõi, cho phép thực hiện song song nhiều tác vụ. Mặc dù CPU hiện đại có nhiều lõi, nhưng chúng thường không song song lớn như GPU.

Trong quy trình làm việc AI/ML, CPU đóng vai trò thiết yếu đối với:

• Vận hành hệ thống: Chạy hệ điều hành, quản lý tài nguyên hệ thống và điều phối toàn bộ quy trình công việc.
• Tiền xử lý dữ liệu: Các tác vụ như tải tập dữ liệu , làm sạch dữ liệu, chuyển đổi và tăng cường thường liên quan đến logic phức tạp và các hoạt động tệp phù hợp với CPU. Nhiều bước trong việc chuẩn bị dữ liệu cho các mô hình như Ultralytics YOLO phụ thuộc rất nhiều vào CPU xử lý. Tìm hiểu thêm về việc chuẩn bị dữ liệu cho các dự án thị giác máy tính .
• Nhiệm vụ tuần tự: Thực hiện các phần của đường ống ML không dễ song song hóa, chẳng hạn như một số logic điều khiển hoặc các bước thuật toán cụ thể.
• Suy luận trên một số thiết bị nhất định: Chạy suy luận cho các mô hình nhỏ hơn hoặc trên các thiết bị không có bộ tăng tốc AI chuyên dụng ( Edge AI ). Nhiều ứng dụng triển khai các mô hình ở các định dạng như ONNX hoặc sử dụng thời gian chạy như OpenVINO của Intel để hiệu quả CPU suy luận. Ultralytics các mô hình hỗ trợ xuất sang nhiều định dạng khác nhau phù hợp với CPU triển khai, hãy kiểm tra tài liệu xuất mô hình của chúng tôi để biết chi tiết.
• Quản lý mô hình: Các tác vụ liên quan đến triển khai và phục vụ mô hình thường chạy chủ yếu trên CPU.

CPU so với GPU Và TPU

Sự khác biệt chính nằm ở kiến trúc và mục tiêu tối ưu hóa.

• CPU: Được tối ưu hóa để thực hiện các tác vụ đa dạng, thường là tuần tự, có độ trễ thấp. Chúng có một vài lõi mạnh mẽ. Hãy coi chúng như những trình quản lý đa năng xử lý nhiều loại công việc khác nhau một cách nhanh chóng, lần lượt hoặc một vài công việc cùng lúc. Các nhà sản xuất CPU lớn như Intel và AMD liên tục cải thiện hiệu suất và hiệu quả cốt lõi.
• GPU: Được tối ưu hóa cho các phép tính song song lớn, thông lượng cao, đặc biệt là các phép toán ma trận và vectơ phổ biến trong Học sâu . Chúng có hàng nghìn lõi đơn giản hơn. Lý tưởng để đào tạo các mô hình lớn và suy luận hiệu suất cao.
• TPU: Phần cứng tùy chỉnh của Google được thiết kế riêng để tăng tốc khối lượng công việc ML, đặc biệt là những khối lượng công việc được xây dựng bằng TensorFlow . Chúng cung cấp hiệu suất và hiệu quả cao cho các loại tính toán mạng nơ-ron cụ thể.

Trong khi việc đào tạo các mô hình học sâu lớn như YOLOv10 nhanh hơn đáng kể trên GPU hoặc TPU, CPU là không thể thiếu đối với toàn bộ hệ thống và các tác vụ cụ thể trong vòng đời ML. Hiểu được vai trò của CPU giúp tối ưu hóa toàn bộ hệ thống AI, từ khâu chuẩn bị dữ liệu đến triển khai trên nhiều nền tảng khác nhau, bao gồm các thiết bị biên có hạn chế về tài nguyên như Raspberry Pi .

Ví dụ về AI/ML trong thế giới thực sử dụng CPU

1. Tiền xử lý ngôn ngữ tự nhiên (NLP): Phân tích văn bản, thực hiện trích xuất/phân loại từ vựng và xây dựng danh sách từ vựng cho các mô hình NLP thường là CPU - các tác vụ bị ràng buộc do bản chất tuần tự và phụ thuộc vào các hoạt động chuỗi phức tạp và tra cứu. Các công cụ như trình phân tích cú pháp của Hugging Face thường tận dụng CPU hiệu quả cho các bước này.
2. Phát hiện bất thường trong Nhật ký hệ thống: Phân tích chuỗi sự kiện hoặc nhật ký hệ thống để phát hiện các mẫu bất thường thường liên quan đến các hệ thống dựa trên quy tắc hoặc các mô hình ML đơn giản hơn (như SVM hoặc Random Forest ) có thể chạy hiệu quả trên CPU để giám sát thời gian thực mà không cần phần cứng chuyên dụng. Điều này rất quan trọng đối với khả năng quan sát hệ thống .