Máy vectơ hỗ trợ (SVM)

Support Vector Machine (SVM) là một thuật toán học máy có giám sát mạnh mẽ chủ yếu được sử dụng cho các tác vụ phân loại, nhưng nó cũng có thể được áp dụng cho hồi quy và phát hiện ngoại lệ. Về bản chất, mô hình SVM tìm cách tìm ra ranh giới tối ưu phân tách các lớp khác nhau trong dữ liệu của bạn. Ranh giới này, được gọi là siêu phẳng, được chọn để tối đa hóa biên độ hoặc khoảng cách giữa siêu phẳng và các điểm dữ liệu gần nhất từ mỗi lớp. Sự tập trung vào tối đa hóa biên độ này là điều khiến SVM đặc biệt hiệu quả trong việc khái quát hóa, nghĩa là chúng hoạt động tốt trên dữ liệu chưa được biết đến.

SVM hoạt động như thế nào

Về bản chất, SVM hướng đến mục tiêu tìm ra siêu phẳng tốt nhất để chia một tập dữ liệu thành các lớp riêng biệt. Hãy tưởng tượng bạn có hai nhóm điểm dữ liệu được vẽ trên một đồ thị và bạn muốn vẽ một đường thẳng để phân tách chúng. Một SVM không chỉ vẽ bất kỳ đường thẳng nào; nó tìm ra đường thẳng xa nhất so với các điểm gần nhất của cả hai nhóm. Những điểm gần nhất này được gọi là vectơ hỗ trợ và chúng đóng vai trò quan trọng trong việc xác định siêu phẳng và do đó, ranh giới quyết định.

SVM rất linh hoạt và có thể xử lý cả các vấn đề phân loại tuyến tính và phi tuyến tính. Đối với dữ liệu có thể tách tuyến tính, một đường thẳng đơn giản (ở dạng 2D) hoặc siêu phẳng (ở dạng chiều cao hơn) là đủ. Tuy nhiên, đối với các tập dữ liệu phi tuyến tính phức tạp hơn, SVM sử dụng một kỹ thuật gọi là thủ thuật kernel. Kỹ thuật này cho phép chúng ánh xạ dữ liệu một cách ngầm định vào các không gian chiều cao hơn, tại đó siêu phẳng tuyến tính có thể tách các lớp một cách hiệu quả mà không thực sự thực hiện phép biến đổi tốn kém về mặt tính toán. Các kernel phổ biến bao gồm kernel tuyến tính, đa thức và hàm cơ sở xuyên tâm (RBF), mỗi kernel phù hợp với các loại phân phối dữ liệu khác nhau.

Sự liên quan và ứng dụng

SVM được đánh giá cao trong học máy do tính mạnh mẽ và hiệu quả của chúng trong không gian có nhiều chiều. Chúng đặc biệt hữu ích khi xử lý các tập dữ liệu phức tạp, trong đó có một biên độ phân tách rõ ràng giữa các lớp nhưng ranh giới lại phức tạp. Mặc dù các mô hình học sâu mới hơn đã trở nên phổ biến trong nhiều lĩnh vực, SVM vẫn có liên quan và thường được ưu tiên trong các tình huống với:

• Tính đa chiều cao : SVM hoạt động tốt ngay cả khi số lượng tính năng lớn hơn nhiều so với số lượng mẫu. Điều này không giống như một số thuật toán khác có thể gặp khó khăn với dữ liệu thưa thớt, đa chiều.
• Khoảng cách phân tách rõ ràng : Khi có sự phân tách rõ ràng giữa các lớp, SVM có thể tìm ra ranh giới hiệu quả, thường vượt trội hơn các bộ phân loại khác.
• Nhu cầu về khả năng diễn giải : Mặc dù không có khả năng diễn giải như cây quyết định, SVM minh bạch hơn mạng nơ-ron phức tạp. Các vectơ hỗ trợ cung cấp thông tin chi tiết về điểm dữ liệu nào là quan trọng nhất đối với phân loại.

SVM đã được ứng dụng trong nhiều lĩnh vực khác nhau, bao gồm:

• Phân loại hình ảnh : Trong thị giác máy tính, SVM có thể được sử dụng cho các tác vụ phân loại hình ảnh . Ví dụ, chúng có thể phân loại hình ảnh thành các danh mục như mèo và chó hoặc các loại đối tượng khác nhau được phát hiện bởi các mô hình Ultralytics YOLO .
• Phân loại văn bản và tài liệu : SVM có hiệu quả trong xử lý ngôn ngữ tự nhiên cho các tác vụ như phân tích tình cảm, phát hiện thư rác và phân loại các bài báo. Chúng có thể xử lý các không gian đặc trưng có chiều cao phổ biến trong dữ liệu văn bản.
• Chẩn đoán y khoa : Trong chăm sóc sức khỏe, SVM được sử dụng để phân tích hình ảnh y khoa nhằm phân loại hình ảnh y khoa, chẳng hạn như xác định tế bào ung thư trong hình ảnh chụp X-quang hoặc chẩn đoán bệnh dựa trên dữ liệu bệnh nhân.
• Tin sinh học : SVM được sử dụng để phân loại trình tự, dự đoán cấu trúc protein và phân tích biểu hiện gen trong nghiên cứu tin sinh học.

Ưu điểm và hạn chế

SVM có một số ưu điểm sau:

• Hiệu quả trong các không gian có chiều cao : Như đã đề cập, SVM hoạt động hiệu quả trong các không gian có nhiều tính năng.
• Hiệu quả về bộ nhớ : Chúng sử dụng một tập hợp con các điểm đào tạo (vectơ hỗ trợ) trong hàm quyết định, giúp chúng có hiệu quả về bộ nhớ.
• Các hàm hạt nhân đa năng : Thủ thuật hạt nhân cho phép SVM mô hình hóa ranh giới quyết định phi tuyến tính một cách hiệu quả.

Tuy nhiên, SVM cũng có những hạn chế:

• Độ phức tạp về mặt tính toán : Việc đào tạo có thể tốn nhiều công sức tính toán, đặc biệt là với các tập dữ liệu lớn, mặc dù các kỹ thuật như Tối ưu hóa tối thiểu tuần tự (SMO) giúp giảm thiểu vấn đề này.
• Điều chỉnh tham số : Việc lựa chọn hạt nhân và siêu tham số như tham số chính quy (C) và tham số hạt nhân có thể ảnh hưởng đáng kể đến hiệu suất và yêu cầu điều chỉnh cẩn thận, thường thông qua các kỹ thuật như điều chỉnh siêu tham số .
• Không mang tính xác suất cố hữu : SVM đưa ra nhãn lớp, nhưng ước tính xác suất đòi hỏi hiệu chuẩn bổ sung, không giống như các mô hình xác suất như hồi quy logistic hoặc Naive Bayes.

Ví dụ thực tế

1. Nhận dạng khuôn mặt : SVM được sử dụng trong các hệ thống nhận dạng khuôn mặt để phân loại các đặc điểm khuôn mặt và xác định cá nhân. Với một tập dữ liệu hình ảnh khuôn mặt, SVM có thể được đào tạo để phân biệt giữa các khuôn mặt khác nhau, tạo thành cơ sở cho hệ thống nhận dạng khuôn mặt được sử dụng trong các ứng dụng bảo mật hoặc nhận dạng cá nhân.

2. Phát hiện email spam : SVM có hiệu quả cao trong việc lọc email spam. Bằng cách đào tạo SVM về các tính năng được trích xuất từ nội dung email và siêu dữ liệu, chẳng hạn như tần suất từ, tiêu đề email và thông tin người gửi, mô hình có thể phân loại chính xác email đến là spam hoặc không phải spam, tăng cường bảo mật email và trải nghiệm của người dùng.

Tóm lại, Support Vector Machines là một thuật toán học máy mạnh mẽ và linh hoạt, phù hợp với phân loại và các nhiệm vụ khác, đặc biệt là trong các thiết lập đa chiều hoặc khi có biên độ phân tách rõ ràng giữa các lớp. Mặc dù chúng có thể không phải là công nghệ học sâu mới nhất, nhưng hiệu quả và nền tảng lý thuyết của chúng đảm bảo sự liên quan liên tục của chúng trong lĩnh vực trí tuệ nhân tạo.