Transformateur

Comment fonctionnent les transformateurs

L'innovation principale de Transformers est le mécanisme d'auto-attention. Contrairement aux RNN, qui traitent les entrées de manière séquentielle (un élément après l'autre) et peuvent avoir des difficultés avec les longues séquences en raison de problèmes tels que la disparition des gradients, les Transformers peuvent prendre en compte toutes les parties de la séquence d'entrée simultanément. Cette capacité de traitement parallèle accélère considérablement la formation sur le matériel moderne comme les GPU de sociétés telles que NVIDIA.

Alors que les réseaux neuronaux convolutifs (CNN) typiques se concentrent sur les caractéristiques locales grâce à des filtres de taille fixe effectuant une convolution, le mécanisme d'attention permet aux Transformers de capturer les dépendances à longue portée et les relations contextuelles sur l'ensemble de l'entrée. Cette capacité à comprendre le contexte global est cruciale pour les tâches impliquant des relations complexes, qu'il s'agisse de texte ou de patchs d'images utilisés dans les transformateurs de vision (ViT).

Pertinence et impact

Les transformateurs sont devenus la base de nombreux modèles d'IA de pointe en raison de leur efficacité à capturer le contexte et à traiter de longues séquences. Leur nature parallélisable a permis l'entraînement de modèles massifs avec des milliards de paramètres, tels que GPT-3 et GPT-4 développés par OpenAI, conduisant à des percées dans le domaine de l'IA générative. Cette évolutivité et ces performances ont permis aux Transformers de jouer un rôle central dans les progrès réalisés dans diverses tâches d'IA, stimulant ainsi l'innovation dans la recherche et l'industrie. De nombreux modèles populaires de Transformer, comme BERT, sont facilement disponibles sur des plateformes telles que Hugging Face et mis en œuvre à l'aide de cadres tels que PyTorch et TensorFlow, souvent intégrés dans des plateformes MLOps comme Ultralytics HUB.

Applications dans le domaine de l'IA et de la ML

Les transformateurs sont très polyvalents et alimentent de nombreuses applications IA :

• Grands modèles linguistiques (LLM): Alimenter des modèles comme ChatGPT pour des tâches complexes de compréhension et de génération de langage.
• Traduction automatique: Des services comme Google Translate utilisent des modèles basés sur des transformateurs pour une traduction de haute qualité entre les langues.
• Résumés de textes: Condenser des documents volumineux en résumés concis.
• Analyse des sentiments: Déterminer le ton émotionnel derrière les données textuelles.
• Chatbots et assistants virtuels: Permettre des conversations plus naturelles et plus conscientes du contexte.
• Transformateurs de vision (ViTs): Application de l'architecture Transformer aux tâches visuelles.
• Classification des images: Catégorisation des images en fonction de leur contenu à l'aide de caractéristiques globales.
• Détection d'objets: Identifier et localiser des objets dans des images, comme on le voit dans des modèles tels que RT-DETR. Certains modèles proposent des dorsales basées sur des transformateurs. Tu peux explorer des comparaisons techniques comme RTDETRv2 vs YOLOv5.
• Analyse d'images médicales: Aider à la détection d'anomalies dans les scanners, contribuer aux progrès de l'IA dans le domaine de la santé.
• Génération de séquences en biologie: Modélisation des structures protéiques et des séquences génomiques.

Transformateur vs. autres architectures

Il est utile de distinguer les transformateurs des autres architectures de réseaux neuronaux courantes :

• Transformateurs contre RNN : Les RNN traitent les données de manière séquentielle, ce qui les rend adaptés aux données de séries temporelles, mais les rend susceptibles d'oublier des informations antérieures dans de longues séquences(problème du gradient de disparition). Les transformateurs traitent les séquences en parallèle en utilisant l'auto-attention, en capturant les dépendances à long terme plus efficacement et en s'entraînant plus rapidement sur du matériel parallèle(GPU).
• Transformateurs et CNN : Les CNN excellent dans l'identification de motifs locaux dans des données en grille (par exemple, les pixels d'une image) à l'aide de filtres convolutifs. Ils sont très efficaces pour de nombreuses tâches de vision telles que celles abordées par Ultralytics YOLO d'Ultralytics. Les transformateurs, en particulier les ViT, divisent les images en patchs et utilisent l'auto-attention pour modéliser les relations entre eux, capturant potentiellement mieux le contexte global mais nécessitant souvent plus de données et de ressources informatiques, en particulier lors de l'entraînement du modèle. Les architectures hybrides, qui combinent des fonctionnalités CNN avec des couches Transformer, visent à tirer parti des forces des deux, comme on le voit dans certaines variantes deRT-DETR . Le choix dépend souvent de la tâche spécifique, de la taille de l'ensemble de données et des ressources informatiques disponibles.