Apprentissage à quelques coups

Comment fonctionne l'apprentissage à quelques coups

L'idée centrale du FLS est d'exploiter les connaissances antérieures d'un ensemble de données vaste et diversifié pour apprendre rapidement de nouvelles tâches connexes. Au lieu d'apprendre à classer directement des catégories spécifiques, le modèle apprend une représentation plus générale des données ou apprend à comparer des points de données. Les approches les plus courantes sont les suivantes :

• Apprentissage basé sur des métriques : Ces méthodes apprennent une fonction de distance ou une métrique de similarité pour comparer quelques images "d'appui" étiquetées avec des images "d'interrogation" non étiquetées. L'image d'interrogation se voit alors attribuer la classe de l'image de support la plus similaire. Les réseaux siamois, qui apprennent à déterminer si deux images appartiennent à la même classe, et les réseaux prototypiques, qui apprennent une représentation prototype pour chaque classe dans l'espace métrique, sont des exemples populaires de cette approche.
• Apprentissage basé sur l'optimisation : Souvent associée au méta-apprentissage (ou "apprendre à apprendre"), cette approche permet de former le processus d'optimisation d'un modèle lui-même. L'objectif est de développer un modèle capable d'adapter rapidement ses paramètres à une nouvelle tâche en quelques étapes de descente de gradient. Un algorithme influent dans ce domaine est le méta-apprentissage agnostique (MAML).
• Apprentissage basé sur la mémoire : Ces modèles utilisent un composant de mémoire externe pour stocker les informations provenant des quelques exemples disponibles. Lorsqu'un nouvel exemple est présenté, le modèle extrait les informations pertinentes de sa mémoire pour faire une prédiction. Le concept est similaire au fonctionnement des algorithmes k-NN (k-Nearest Neighbors).

Apprentissage à la petite semaine et concepts connexes

Il est important de distinguer le FLS des autres paradigmes d'apprentissage qui traitent des données limitées :

• Apprentissage à partir de zéro (ZSL): Le ZSL est plus extrême que le FLS, car il exige d'un modèle qu'il reconnaisse des classes qu'il n'a jamais vues pendant la formation, en utilisant uniquement des descriptions sémantiques ou des attributs de haut niveau. Le FLS nécessite au moins un exemple, alors que le ZSL n'en nécessite aucun.
• Apprentissage unique (One-Shot Learning, OSL) : L'OSL est une variante spécifique du FSL dans laquelle le modèle reçoit exactement un exemple étiqueté pour chaque nouvelle classe. Il s'agit du scénario le plus difficile dans le cadre de l'apprentissage ponctuel.
• Apprentissage par transfert: Le FLS est une forme d'apprentissage par transfert, mais les deux ne sont pas identiques. L'apprentissage par transfert traditionnel consiste souvent à prendre un modèle pré-entraîné sur un grand ensemble de données comme ImageNet et à l'affiner sur un nouvel ensemble de données plus petit. L'apprentissage par transfert est spécifiquement conçu pour les scénarios dans lesquels le nouvel ensemble de données est extrêmement petit (par exemple, moins de 10 exemples par classe). Vous pouvez découvrir comment des modèles comme Ultralytics YOLO11 utilisent des poids pré-entraînés pour l'apprentissage par transfert dans notre documentation sur l'entraînement des modèles.

Applications dans le monde réel

Le FLS est particulièrement utile dans les domaines spécialisés où les données sont rares.

1. Diagnostic des maladies rares en imagerie médicale : Pour les maladies rares, il n'est souvent pas possible de collecter des milliers de scans de patients pour l'entraînement des modèles. Avec la FLS, un modèle pré-entraîné sur un vaste ensemble d'images médicales courantes peut être adapté pour identifier les signes d'une maladie rare en utilisant seulement une poignée de cas confirmés. Cela accélère le développement d'outils de diagnostic pour l'analyse d'images médicales.
2. Détection des défauts dans l'industrie : Dans le secteur de la fabrication, une nouvelle ligne de produits peut présenter des défauts uniques et peu fréquents. Au lieu d'interrompre la production pour collecter des milliers d'exemples de défauts, un modèle de FLS pour la détection d'objets peut être rapidement entraîné avec quelques échantillons afin d'automatiser le contrôle de la qualité, d'améliorer l'efficacité et de réduire les déchets. Des plateformes comme Ultralytics HUB peuvent aider à gérer de tels ensembles de données spécialisées et à accélérer le déploiement des modèles.

Défis et orientations futures

Malgré ses promesses, la FLS est confrontée à des défis importants. Le principal obstacle est la prévention de l'ajustement excessif, car le modèle peut facilement mémoriser les quelques exemples au lieu d'apprendre à généraliser. Les performances du modèle peuvent également être très sensibles à la qualité et à la représentativité des exemples de support fournis.

Les recherches en cours, menées par des institutions telles que l'université de Stanford, Google AI et Meta AI, se concentrent sur la création d'algorithmes de méta-apprentissage plus robustes et sur une meilleure exploitation des techniques d'apprentissage non supervisé ou auto-supervisé pour le pré-entraînement. La combinaison de ces approches vise à construire des systèmes d'IA plus flexibles et plus économes en données, en repoussant les limites de ce qui est possible dans des environnements où les données sont limitées. Des cadres avancés comme PyTorch et TensorFlow fournissent les outils nécessaires aux chercheurs pour explorer ces méthodes de pointe.