Un modèle de fondation (foundation model) est un modèle d'intelligence artificielle massif, pré-entraîné sur des quantités colossales de données générales, qui sert de base à une multitude d'applications spécialisées. C'est l'équivalent d'un socle sur lequel on construit des solutions sur mesure.
La particularité des modèles de fondation est qu'ils ne sont pas conçus pour une tâche unique. GPT-4, Claude, Gemini, Llama ou Mistral sont des modèles de fondation : ils peuvent écrire, coder, traduire, analyser, résumer — tout cela avec le même noyau.
Le paradigme traditionnel de l'IA consistait à entraîner un modèle spécifique pour chaque tâche. Les modèles de fondation ont inversé cette logique : un seul modèle généraliste, adaptable à tout via le fine-tuning, le prompt engineering ou le RAG.
Caractéristiques : - Entraînés sur des données massives (To : téraoctets de texte, milliards d'images) - Architecture Transformer - Centaines de milliards de paramètres - Capacités émergentes (apparition de compétences non explicitement programmées)
L'émergence des modèles de fondation a démocratisé l'accès à l'IA. Une startup peut aujourd'hui exploiter une capacité intellectuelle équivalente à des années de R&D pour quelques centimes par requête.
Vous réfléchissez à la stratégie IA de votre entreprise ? Parlons-en ensemble.