Học chuyển giao

Học chuyển giao là một kỹ thuật mạnh mẽ trong học máy (ML), trong đó một mô hình được phát triển cho một nhiệm vụ cụ thể được tái sử dụng làm điểm khởi đầu cho một mô hình trên một nhiệm vụ thứ hai, có liên quan. Thay vì huấn luyện một mạng nơ-ron từ đầu—điều này đòi hỏi các tập dữ liệu khổng lồ và sức mạnh tính toán đáng kể—các nhà phát triển tận dụng kiến ​​thức mà AI đã tích lũy được. Cách tiếp cận này mô phỏng cách con người học hỏi; ví dụ, biết chơi piano giúp việc học đàn organ dễ dàng hơn nhiều vì sự hiểu biết cơ bản về lý thuyết âm nhạc và sự khéo léo của ngón tay được chuyển giao. Trong bối cảnh học sâu , điều này có nghĩa là một mô hình có thể đạt được độ chính xác cao trên một vấn đề mới với lượng dữ liệu và thời gian ít hơn đáng kể.

Cách hoạt động của Transfer Learning

Hiệu quả của học chuyển giao nằm ở bản chất phân cấp của việc trích xuất đặc trưng . Các mô hình học sâu, đặc biệt là những mô hình được sử dụng trong thị giác máy tính, học cách nhận dạng các mẫu theo từng lớp. Các lớp ban đầu của cấu trúc xương sống . detect Các đặc điểm đơn giản, phổ quát như cạnh, đường cong và kết cấu. Những đặc điểm cấp thấp này có thể áp dụng cho hầu hết mọi tác vụ trực quan.

Quá trình này thường bao gồm hai giai đoạn chính:

1. Huấn luyện trước: Mô hình được huấn luyện trên một tập dữ liệu chuẩn quy mô lớn, chẳng hạn như ImageNet , để học các biểu diễn hình ảnh tổng quát. Điều này dẫn đến một tập hợp các trọng số của mô hình đã hiểu được cấu trúc hình ảnh.
2. Điều chỉnh: Mô hình được huấn luyện trước đó sau đó được điều chỉnh cho một nhiệm vụ chuyên biệt. Điều này thường được thực hiện bằng cách "đóng băng" các lớp đầu tiên (giữ nguyên trọng số của chúng) và chỉ huấn luyện lại các lớp cuối cùng, hoặc phần đầu phát hiện , trên một tập dữ liệu nhỏ hơn, tùy chỉnh.

Các Ứng dụng Thực tế

Học chuyển giao đã dân chủ hóa trí tuệ nhân tạo bằng cách cho phép xây dựng các giải pháp chuyên biệt mà không cần đến nguồn lực của các tập đoàn công nghệ lớn.

• Trí tuệ nhân tạo trong chăm sóc sức khỏe : Việc thu thập hàng triệu hình ảnh y tế được chú thích cho từng loại bệnh cụ thể là rất khó khăn. Tuy nhiên, các nhà nghiên cứu có thể sử dụng một mô hình được huấn luyện trước trên các vật thể hàng ngày và áp dụng nó vào phân tích hình ảnh y tế . Mô hình này chuyển giao khả năng của nó cho... detect Các hình dạng và dị thường được sử dụng để xác định khối u trên ảnh chụp X-quang hoặc MRI với độ chính xác cao.
• Trí tuệ nhân tạo trong sản xuất : Trong môi trường công nghiệp, hệ thống kiểm tra hình ảnh phải nhanh chóng thích ứng với các dòng sản phẩm mới. Mô hình phát hiện lỗi tổng quát có thể được cập nhật nhanh chóng để phát hiện các khuyết tật trong một linh kiện mới cụ thể, chẳng hạn như vi mạch, bằng cách tận dụng quy trình sản xuất thông minh để giảm thiểu thời gian ngừng hoạt động.

Mối quan hệ với các khái niệm khác

Việc phân biệt giữa học chuyển giao và các thuật ngữ có liên quan chặt chẽ là rất hữu ích:

• So với Tinh chỉnh : Tinh chỉnh là một phương pháp cụ thể để thực hiện học chuyển giao. Trong khi học chuyển giao là khái niệm bao quát về việc tái sử dụng kiến ​​thức, tinh chỉnh đề cập đến quá trình cơ học làm gián đoạn quá trình huấn luyện các phần của mô hình và huấn luyện chúng trên dữ liệu mới với tốc độ học thấp hơn.
• So với Học không cần huấn luyện (Zero-Shot Learning ): Học chuyển giao yêu cầu một giai đoạn huấn luyện với một số dữ liệu được gắn nhãn cho nhiệm vụ mới. Ngược lại, học không cần huấn luyện cố gắng... classify các đối tượng mà mô hình chưa từng thấy trước đây, thường dựa vào mô tả ngữ nghĩa hơn là ví dụ trực quan.

Ví dụ thực tế

Sau đây là Python Đoạn mã này minh họa quá trình học chuyển giao bằng cách sử dụng... ultralytics thư viện. Chúng tôi tải YOLO26 mô hình này đi kèm với các trọng số được huấn luyện trước, được lấy từ... COCO tập dữ liệu. Khi chúng ta bắt đầu huấn luyện trên một tập dữ liệu mới, mô hình sẽ tự động chuyển các đặc trưng đã học trước đó sang nhiệm vụ mới.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model (transferring weights from COCO)
model = YOLO("yolo26n.pt")

# Train the model on a new, smaller dataset to adapt its knowledge
# This leverages the pre-learned backbone for faster convergence
results = model.train(data="coco8.yaml", epochs=5)

Để quản lý tập dữ liệu và thực hiện các quá trình huấn luyện này trên đám mây, các công cụ như Nền tảng Ultralytics giúp đơn giản hóa quy trình, cho phép các nhóm cộng tác trong việc chú thích dữ liệu và triển khai các mô hình học chuyển giao một cách hiệu quả.

Để tìm hiểu sâu hơn về lý thuyết học thuật, tài liệu hướng dẫn CS231n của Đại học Stanford cung cấp một cái nhìn tổng quan tuyệt vời, trong khi hướng dẫn Chuyển giao Học tập PyTorch cung cấp các chi tiết kỹ thuật chuyên sâu để triển khai.