K-Nearest Neighbors (KNN)

Il K-Nearest Neighbors (KNN) è un algoritmo di apprendimento automatico semplice ma potente, utilizzato per compiti di classificazione e regressione. La sua funzione principale è quella di prevedere la classe o il valore di un punto dati in base ai "k" punti dati più vicini nello spazio delle caratteristiche. Il KNN è noto per la sua semplicità ed efficacia nel gestire i problemi di classificazione, in particolare con i set di dati in cui il confine decisionale non è lineare.

Come funziona K-Nearest Neighbors

Il KNN opera memorizzando tutti i punti dati disponibili e, quando è richiesta una previsione, identifica i "k" vicini più prossimi al punto di domanda. L'algoritmo determina quindi la classe più comune (per la classificazione) o il valore medio (per la regressione) tra questi vicini come predizione.

• Metrica della distanza: la scelta della metrica della distanza è fondamentale in KNN. Le metriche più comuni sono le distanze euclidee, di Manhattan e di Minkowski. Questa metrica determina il modo in cui viene misurata la "vicinanza" dei punti dati.

• Scelta di 'k': La scelta del valore appropriato di 'k' è fondamentale per le prestazioni del modello. Un valore di "k" piccolo rende il modello più sensibile al rumore, mentre un "k" grande può semplificare eccessivamente il perimetro decisionale, perdendo potenzialmente modelli sottili.

• Complessità computazionale: Il KNN richiede il calcolo delle distanze tra il punto interrogato e tutti gli altri punti del set di dati, il che lo rende computazionalmente intenso all'aumentare delle dimensioni del set di dati. Questa caratteristica può rendere difficile l'utilizzo di KNN con dataset di grandi dimensioni senza un'ottimizzazione.

Applicazioni di KNN

1. Riconoscimento delle immagini: Il KNN è in grado di classificare le immagini in base ai valori di intensità dei pixel. Nella computer vision, viene utilizzato per individuare modelli in set di immagini confrontando le nuove immagini con quelle precedentemente categorizzate.

2. Sistemi di raccomandazione: Sfruttando i dati di interazione tra utente e articolo, KNN identifica utenti o articoli simili per fornire raccomandazioni. Questa tecnica è comunemente utilizzata nelle piattaforme di e-commerce per suggerire prodotti basati sul comportamento storico e sulle preferenze dell'utente.

3. Diagnosi sanitaria: Il KNN aiuta a prevedere le condizioni dei pazienti confrontando i dati dei nuovi pazienti con quelli esistenti delle cartelle cliniche storiche, aiutando la diagnosi e la pianificazione del trattamento.

Esempi del mondo reale

• Rilevamento delle frodi: Gli istituti finanziari utilizzano KNN per rilevare le transazioni fraudolente identificando gli schemi tipici delle frodi in base alla cronologia delle transazioni passate.

• Previsione dei prezzi delle azioni: In finanza, il KNN viene applicato per prevedere i prezzi delle azioni analizzando le tendenze passate e identificando modelli storici simili per prevedere i movimenti futuri.

Vantaggi e svantaggi

• Pro:

  • Implementazione semplice senza la necessità di una fase di formazione del modello.
  • Non è necessaria alcuna regolazione dei parametri del modello, a parte la decisione di "k" e della metrica della distanza.
  • Si comporta bene con i dataset più piccoli e con i problemi di classificazione multiclasse.

• Cons:

  • Alto costo computazionale durante la fase di previsione.
  • Sensibile alle caratteristiche irrilevanti o ridondanti, poiché tutte le caratteristiche contribuiscono allo stesso modo.
  • Il rapido degrado delle prestazioni con l'aumento della dimensionalità, noto come "maledizione della dimensionalità".

Concetti correlati e alternative

• Clustering K-Means: Mentre KNN viene utilizzato per la classificazione, K-Means Clustering è un algoritmo di apprendimento non supervisionato che raggruppa i dati in cluster basati sulla somiglianza delle caratteristiche.

• Macchina vettoriale di supporto (SVM): A differenza di KNN, SVM è un modello di apprendimento supervisionato che trova l'iperpiano nello spazio delle caratteristiche che meglio separa le diverse classi. Per saperne di più sulle Macchine Vettoriali di Supporto.

• Alberi decisionali: Questi modelli creano un grafico ad albero di decisioni per aiutare la classificazione. Per saperne di più sugli alberi decisionali.

Per le applicazioni pratiche e la distribuzione, esplora le funzionalità di Ultralytics HUB, una piattaforma che consente di addestrare e distribuire facilmente modelli di apprendimento automatico come KNN e altri. Visita Ultralytics HUB per sfruttare le soluzioni no-code per i tuoi progetti di AI.

Per capire come il KNN si inserisce all'interno di attività di apprendimento automatico più ampie, esplora l'apprendimento supervisionato e altri concetti di apprendimento automatico correlati.