Aller au contenu principal
Making DigitalMaking Digital
Note technique

Agent IA en production : pourquoi le palier gratuit lâche dès le deuxième utilisateur

En bref

Un agent IA en production peut tomber en panne dès que deux personnes l'utilisent, car le quota gratuit d'un fournisseur de modèle est partagé par projet et non par utilisateur. Les erreurs de type 429 apparaissent surtout lors des pics. Il faut donc prévoir une file d'attente, des reprises temporisées et, pour un usage professionnel, un palier payant.

Un assistant qui répond parfaitement quand vous le testez seul peut se mettre à échouer dès que deux collègues s'en servent en même temps. C'est le constat d'un article publié sur Medium : les offres gratuites des modèles de langage seraient généreuses pour un utilisateur et brutales pour deux. L'auteur y décrit quatre changements qui ont ramené son agent à zéro réponse échouée. Nous n'avons pas pu en lire le détail, mais le mécanisme est bien documenté ailleurs, et il concerne tout agent IA en production.

Pourquoi un quota gratuit se divise-t-il entre utilisateurs ?

Imaginez un robinet qui ne débite qu'un certain volume par minute, puis un volume maximal par jour. Une seule personne ne le remarque jamais. Deux personnes qui remplissent leur carafe au même moment, si.

Les fournisseurs fonctionnent ainsi. OpenAI mesure ses limites en requêtes par minute, requêtes par jour et "tokens", les morceaux de texte que le modèle lit et écrit. La première limite atteinte bloque la requête. Surtout, ces limites sont fixées pour une organisation ou un projet, pas pour chaque utilisateur. Chez Google, elles s'appliquent par projet et non par clé d'API : multiplier les clés dans un même projet n'ajoute aucune capacité.

Ce n'est pas propre à un éditeur. C'est de l'arithmétique.

Ce qui se passe quand la limite est atteinte

Le fournisseur répond par une erreur 429, qui veut dire "trop de demandes". Prenons une PME de négoce dont deux commerciaux demandent à l'assistant de résumer leurs mails à 9 h. Chacun a l'impression de peu consommer, mais le total peut dépasser la limite pendant quelques secondes. L'un des deux reçoit alors une erreur.

Deux pièges aggravent la situation. Selon OpenAI, les requêtes échouées comptent dans la limite par minute : réessayer aussitôt peut empirer les choses. Et un pic bref suffit, même si la moyenne d'usage reste très basse. Une montée en charge trop rapide peut aussi déclencher une erreur 429 sous les quotas officiels.

Les parades à prévoir

La première est une file d'attente, comme un guichet : les demandes patientent au lieu d'arriver toutes ensemble.

La deuxième est la reprise temporisée. L'agent réessaie après un délai croissant, auquel on ajoute un peu d'aléatoire pour que plusieurs reprises ne repartent pas au même instant. OpenAI conseille de respecter l'en-tête Retry-After quand il est fourni (le temps d'attente suggéré par le serveur), de plafonner le nombre de tentatives et de ne jamais réessayer une erreur de quota ou de facturation.

Pour les tâches non urgentes, comme le tri de documents la nuit, l'API "Batch" d'OpenAI traite les demandes en différé et échappe aux limites synchrones.

Reste le repli vers un second fournisseur. Un montage décrit par RoboRhythms en mai 2026 combine un plafond interne à 80 % du quota et un disjoncteur : après des erreurs répétées, on bascule ailleurs pendant 60 secondes. Mais les consignes données au modèle ne se transposent pas telles quelles. Le repli peut donc dégrader la qualité sans prévenir personne.

Le palier gratuit suffit-il pour une PME ?

Pour un prototype, oui.

Pour un usage quotidien, on se heurte à trois limites. Il n'offre aucun engagement de disponibilité. Ses plafonds changent souvent : RoboRhythms annonçait en mai 2026 15 requêtes par minute et 1 500 par jour pour Gemini 2.5 Flash, mais ces chiffres, non vérifiés, sont vite périmés. Enfin, selon ce même site, les données du palier gratuit de Gemini peuvent servir à l'entraînement, Mistral Experiment est réservé au prototypage et Cohere gratuit exclut l'usage commercial.

Côté coût, Google indique que le passage au premier palier payant demande une facturation active et est généralement immédiat.

Les paliers suivants dépendent des sommes déjà dépensées. Nous n'avons trouvé ni tarif comparable ni test indépendant mesuré : le coût réel dépend de votre volume. RoboRhythms suggère de passer au payant dès que plus de 5 % des requêtes déclenchent le disjoncteur, un repère utile mais propre à ce site.

Avant de mettre l'agent en service

Testez à plusieurs, pas seul : faites-le utiliser par plusieurs personnes au même moment et regardez les erreurs. Mesurez le taux de 429 et la longueur de la file. Passez à un palier payant dès que des données clients circulent. Prévoyez enfin une consigne claire pour le jour où le fournisseur ne répond plus : l'agent doit le dire, pas inventer.

C'est le genre de cadrage que nous posons quand nous concevons un agent IA sur mesure, y compris pour des entreprises de la région, autour d'Aix-en-Provence et en Provence. La question du coût se traite en parallèle, comme l'explique notre article sur la réduction du coût d'une application IA. Pour relier l'agent à vos outils, voyez aussi comment le connecter à ses logiciels métier. La documentation d'OpenAI sur les limites détaille les erreurs et les reprises.

À retenir
  • Les quotas gratuits sont partagés par projet ou organisation, pas par utilisateur : à deux, la marge disparaît vite.
  • Les pics courts provoquent des erreurs 429 même quand la moyenne d'usage est faible.
  • File d'attente, reprises temporisées et surveillance du taux d'erreurs sont à prévoir avant la mise en service.
  • Pour des données clients, un palier payant est préférable aux offres gratuites.

Questions fréquentes

Que veut dire l'erreur 429 sur une API d'IA ?

C'est le code qui signifie "trop de demandes". Le fournisseur refuse la requête parce qu'une limite (par minute, par jour ou en volume de texte) est atteinte. Il faut alors attendre avant de réessayer.

Créer plusieurs clés d'API permet-il d'augmenter le quota ?

Pas toujours. Selon la documentation de Google, les limites s'appliquent par projet et non par clé : plusieurs clés dans le même projet n'ajoutent aucune capacité.

Peut-on utiliser une offre gratuite avec des données clients ?

Mieux vaut l'éviter. Selon RoboRhythms, les données du palier gratuit de Gemini peuvent servir à l'entraînement, et certaines offres gratuites sont réservées au prototypage ou à un usage non commercial. Vérifiez les conditions de chaque fournisseur.

Un second fournisseur en secours règle-t-il le problème ?

Il aide, mais les consignes données au modèle ne sont pas portables d'un fournisseur à l'autre. Le repli peut donc dégrader la qualité des réponses sans que personne ne s'en aperçoive.

Making Digital

Nous connectons les logiciels des PME, automatisons leurs tâches répétitives et créons des assistants IA, depuis 2010. Nos articles partent de nos projets réels.

Notre parcours
Une question sur ce sujet ?

Parlons-en 30 minutes.

Vous saurez si votre problème se règle, comment, et en combien de temps. Sans engagement.