Comprendre la distillation en IA pour pour éclairer le débat sur le pillage

·

·

Serveurs d’intelligence artificielle échangeant des flux de données colorés, illustrant une distillation entre un grand modèle et un modèle plus compact dans une ambiance tendue.
Résumer cet article avec :

La distillation est devenue un cas d’école de l’intelligence artificielle. C’est une technique d’optimisation utile, mais qui bascule vite dans l’abus lorsqu’elle sert à exploiter les concurrents sans autorisation. En juillet 2026, l’administration américaine accuse la start-up chinoise Moonshot AI d’avoir puisé dans les réponses du modèle Claude d’Anthropic pour bâtir le sien. Pour comprendre pourquoi la même pratique peut être « légale » ou « vol », il faut revenir à son fonctionnement.


La distillation, un transfert du savoir d’un modèle géant vers un modèle compact

La distillation consiste à faire apprendre à un petit modèle ce qu’un grand modèle sait déjà. D’un côté, un « enseignant » coûteux et puissant. De l’autre, un « élève » rapide, léger, facile à déployer.

Un duo entre enseignant et élève, pensé comme une pédagogie

Dans l’architecture classique de l’IA, un modèle de langue peut dépasser des milliards de paramètres. Cette masse lui donne de la force brute, mais elle le rend aussi lent et coûteux à interroger. La distillation ajoute une couche d’ingénierie : entraîner un réseau plus petit à imiter le raisonnement du réseau plus grand. Pour la conception, prototype hardware généré par IA propose un premier jet entièrement généré par IA.

L’image de départ est simple. Pour apprendre un cours, un étudiant peut lire un manuel de 1 000 pages. Il y passera du temps et risque surtout d’y laisser son énergie. Un professeur, lui, en tire un guide condensé, et l’élève travaille à partir de ce résumé. C’est l’ambition de la distillation : transmettre une part du savoir du « professeur » à l’« élève », sans lui faire absorber toute la matière initiale.

Ingénieur en IA devant un grand écran montrant un schéma abstrait de transfert de connaissances d’un modèle massif vers un modèle plus petit.
La distillation repose sur un schéma enseignant-élève pour transférer le savoir d’un modèle géant vers un modèle compact.

Ce que l’élève copie : pas seulement les réponses, mais une logique

La subtilité de la technique tient au fait que l’élève ne reçoit pas seulement les résultats finaux. Dans un apprentissage classique, on fournit au modèle une bonne réponse : telle image représente un chat, telle phrase relève d’un texte juridique. La distillation ajoute un niveau de précision.

L’enseignant produit des distributions de probabilités pour chaque réponse. Une image n’est pas simplement « chat » : elle peut être identifiée à 70 % comme un chat et à 15 % comme un chien. Cette répartition est parfois appelée « soft labels ». Elle traduit le doute, la nuance et le raisonnement du grand modèle. L’élève les imite, ce qui lui permet d’apprendre les liens entre les idées et les erreurs à éviter, pas seulement le résultat final.

De vraies données chiffrées : la technique apporte des performances élevées

En pratique, la méthode tient ses promesses. Selon une synthèse de GOV.UK, la distillation permet de conserver de 80 % à 95 % des qualités du modèle enseignant, y compris avec une fraction de sa taille. Un exemple souvent cité est DistilBERT, distillé à partir de BERT. Ce modèle conserve environ 95 % des performances de BERT tout en étant deux fois plus rapide.

La méthode a été formalisée en 2015 par Geoffrey Hinton, Oriol Vinyals et Jeff Dean. L’objectif était déjà clair : permettre le déploiement de capacités avancées dans des environnements où un très grand réseau ne peut pas tourner. Un smartphone, un routeur, une application de traitement local : autant d’usages concernés par cette « compression intelligente ».

L’industrie y trouve un double intérêt. D’abord, la baisse des coûts d’inférence : il est moins cher de faire tourner un modèle compact. Ensuite, la latence diminue. Un modèle distillé, installé sur un simple appareil, répond localement sans passer par un serveur centralisé. C’est ce qui explique les offres « mini » ou « flash » de nombreux grands modèles de langage.

De l’usage interne de la distillation à l’extraction à grande échelle

Si la distillation est d’abord un outil d’optimisation, elle devient vite « un peu trop facile » lorsqu’elle s’appuie sur un service public appartenant à un concurrent. La frontière tient moins à la technique elle-même qu’au consentement et à l’ampleur des requêtes.

La distillation légitime et le pillage : une question d’autorisation

Une entreprise qui possède un modèle massif peut créer une version réduite pour son propre produit. Elle n’a pas besoin de demander d’autorisation pour un modèle qu’elle a déjà. Dans la recherche comme dans la mise en production, c’est un geste classique.

Le problème apparaît quand l’opération vise un service privé. Les mots « model stealing » ou « model extraction », en anglais, désignent la pratique consistant à interroger massivement une API pour analyser les réponses et les réutiliser dans son entraînement. Aucune copie de code n’est effectuée. Le savoir-faire passe uniquement par les sorties publiques. La frontière tient alors à l’autorisation et à l’échelle. Pour le scraping piloté par IA, notre test de ScrapeGraphAI détaille ce que l’outil tient vraiment.

CritèreDistillation légitimeDistillation contestée
Accès au modèleLe modèle appartient à l’entité qui distilleAccès via l’API d’un concurrent
AutorisationPrévue contractuellementHors champ des conditions d’utilisation
VolumeModéré, selon l’objectifMillions de requêtes automatisées
UsageDéploiement sur un équipement localConcurrent commercial direct

Le cas Moonshot AI : 24 000 faux comptes pour traquer Claude

Le cas le plus récent met en scène la start-up chinoise Moonshot AI. D’après Anthropic, la société à l’origine du modèle Claude, Moonshot aurait utilisé 24 000 comptes frauduleux pour extraire des réponses du modèle concurrent mis à disposition. L’information a aussitôt retenu l’attention du gouvernement américain, qui y voit une forme de pillage industriel.

Anthropic a fait état de 16 millions d’échanges générés illicitement par trois laboratoires chinois, dont DeepSeek, Moonshot et MiniMax. Il ne s’agirait pas de quelques heures passées à tester une API, mais de la construction, à grande échelle, d’un corpus d’entraînement pratiquement gratuit, soutiré à des concurrents qui ont, eux, investi lourdement dans l’entraînement.

Responsables politiques réunis devant de grands écrans montrant une IA abstraite avec des signaux d’alerte rouges et des symboles de sécurité.
Les modèles distillés peu encadrés posent des risques de sécurité qui poussent les autorités à envisager des mesures de rétorsion et de régulation.

Une équation économique impossible : 6 millions contre 2 milliards de dollars

Les conséquences économiques sont directes. Le laboratoire chinois DeepSeek aurait entraîné son modèle R1 pour environ 6 millions de dollars de coûts de calcul, soit près de 5 millions d’euros. Le modèle GPT-5, par comparaison, aurait nécessité, selon différentes sources, un coût de formation évalué à plus de 2 milliards de dollars, soit environ 1,7 milliard d’euros.

Le résultat est pourtant frappant : avec la distillation, des équipes peuvent atteindre un niveau de compétence élevé avec un budget de calcul très inférieur à celui du laboratoire qui l’a formé. En d’autres termes, une entreprise dominante qui a investi plusieurs milliards d’euros en recherche peut voir un rival produire un modèle proche à partir de simples réponses extraites d’une API. Washington y voit une attaque économique et un contournement des restrictions technologiques géopolitiques.

Le droit d’auteur ne rend pas la question plus simple

Sur le plan juridique, le dossier est déséquilibré. Pour démontrer un « vol », il faut d’abord identifier un objet protégeable. Or les sorties d’une IA se situent sur un terrain fondamentalement différent de celui du code source ou des bases de données traditionnelles.

Des sorties d’IA qui ne sont pas forcément protégées par le droit d’auteur

Plusieurs spécialistes rappellent que les sorties générées par une IA ne sont généralement pas considérées comme protégeables par copyright. Elles résultent d’un processus automatique et ne portent pas la marque d’un auteur humain identifiable. Le plagiat classique ne s’applique donc pas tel quel. On peut réutiliser une phrase, une fonction ou un morceau de code, mais extraire un comportement statistique n’équivaut pas à recopier un texte mot à mot.

La plainte en propriété intellectuelle devient donc plus fragile. Le « savoir-faire » copié est invisible. Il est caché dans des paramètres, des distributions, des choix de rédaction. Il n’est pas copié ligne à ligne. Cela ne veut pas dire que tout est légal, mais la qualification juridique du détournement est loin d’être la même que celle d’un vol de code source.

Le cas des CGU : une violation de contrat et non pas encore un délit

Le terrain le plus solide pour un plaignant est celui des Conditions Générales d’Utilisation (CGU). La plupart des services d’IA concernés interdisent explicitement l’exploitation de leurs réponses pour entraîner un modèle concurrent. En créant autant de faux comptes et en interrogeant le modèle à un volume massif, une entreprise viole, sans contestation, son engagement contractuel.

Mais la frontière juridique demeure. Une violation de CGU est-elle un « vol » en droit pénal ? Dans de nombreux systèmes, c’est une faute contractuelle. Elle peut entraîner une résiliation du service ou une demande de dommages et intérêts, mais elle ne se transforme pas automatiquement en contrefaçon ou en extorsion. Peu de jurisprudence, à ce stade, permet de trancher un cas d’espèce à l’échelle d’un « pillage ».

L’ironie écœurante de la propriété intellectuelle dans l’IA

Le débat moral mérite d’être mené sans hypocrisie. Aujourd’hui, les grands modèles que leurs créateurs protègent si fermement ont été entraînés sur des milliards de textes et d’images présents sur le web, bien souvent sans le consentement des auteurs. Les entreprises qui les commercialisent dénoncent, elles, le téléchargement à grande échelle de livres, d’articles de presse et d’œuvres protégées.

Rien n’est simple. Le dossier de la propriété intellectuelle reste délicat. D’un côté, des créateurs réclament une rémunération pour des contenus existants. De l’autre, des journalistes et des laboratoires demandent que leurs travaux ne soient pas entraînés à leur place. La différence tient surtout au degré de technicité et à la portée commerciale. Une entreprise qui entraîne sur le web peut se retrancher derrière l’idée de « fair use ». Une collecte massive via des robots n’a pas le même objet : elle n’a jamais été pensée comme un usage légitime.

Des risques de sécurité et le coup de semonce réglementaire

Le cas de la distillation touche aussi à une fragilité précise : la sécurité des modèles. Un modèle distillé à partir d’un grand réseau n’hérite pas forcément de toutes les « valeurs » ou de tous les « garde-fous » installés par son parent.

Le piège des modèles sans « garde-fous »

Les IA commerciales sont souvent équipées de mécanismes d’alignement : elles refusent de produire des contenus dangereux, haineux ou illégaux. Ces mécanismes sont parfois externes, parfois intégrés aux nuances apprises au moment de la formation. Lorsqu’un modèle est distillé à grande échelle, il copie les réponses, mais pas toujours les contraintes sous-jacentes. Il peut reproduire les éléments utiles d’un système tout en perdant une partie de sa protection.

Le risque est donc triple : un modèle performant, moins coûteux, mais incapable de détecter des demandes malveillantes. Hors France et en Europe, un système distillé dans un cadre contesté peut perpétuer des biais de fonctionnement sans les « filtres » de sécurité juridiques et éthiques espérés.

Le coup de semonce économique de la liste noire

Face à cette menace, le Trésor américain envisage de placer Moonshot AI sur sa liste noire commerciale. La mesure serait potentiellement lourde : elle interdirait à des entreprises américaines de commercer avec la start-up ou de lui fournir des composants clés. Ce n’est pas une condamnation pénale définitive, mais un usage du levier économique existant en matière de sécurité nationale.

Elle confirme que l’enjeu n’est pas seulement privé. Pour Washington, la distillation massive de modèles chinois est un symbole du contournement des restrictions commerciales sur les puces. Si des modèles performants peuvent obtenir des coûts bien plus faibles en exploitant les API des leaders, le rapport de force technologique change sensiblement.

La vitesse de la législation ne suit pas encore la vitesse des requêtes

La réglementation laisse encore une fenêtre. Les tribunaux, les gouvernements et les commissions accusent du retard face à la capacité technique d’extraire un modèle. La frontière entre une bonne idée et une appropriation illégale ne se règle pas par la seule technique.

Les juridictions de nombreux pays, dont la France et l’Italie au sein de l’UE, travaillent à définir un cadre pour les données d’entraînement. Elles devront déterminer si les réponses d’une IA constituent une « œuvre » au sens du droit d’auteur, si l’usage massif via l’API relève de la concurrence déloyale, et surtout comment protéger l’intérêt public sans déséquilibrer l’activité des entreprises.

La question de la propriété des sorties d’une intelligence artificielle ne fait que commencer. Une vidéo, une chanson ou un fichier de raisonnement produit par une IA peut déjà circuler en millions de copies. La distillation se présente comme le cas le plus exposé : une technique utile, mais aussi indiscrète. Reste une question : quelle quantité de savoir peut circuler entre les machines sans que quelqu’un en paie le prix original ?


Sur le même Thème :

Laisser un commentaire

Trop d’infos IA ?

Inscrivez-vous à la newsletter pour recevoir un résumé hebdomadaire directement dans ta boite email (et rien d’autre)