Coûts des API d’IA : comment ne pas exploser sa facture

Une entreprise nous appelle parce que sa facture d’IA est passée de 180 € à 4 200 € en un mois. Aucun changement de tarif, aucun pic d’usage particulier : une modification de code a fait passer l’historique complet de conversation à chaque requête au lieu des trois derniers échanges.

Les factures qui dérapent ne sont presque jamais un problème de prix. Ce sont des problèmes de conception, et ils se corrigent en quelques jours.

Comprendre ce que vous payez

Vous payez le texte qui entre et le texte qui sort, comptés en unités appelées jetons — grossièrement, un mot courant vaut un à deux jetons en français.

Deux constats en découlent, et ils sont contre-intuitifs.

L’entrée coûte moins cher que la sortie à l’unité, mais elle représente souvent l’essentiel de la facture, parce qu’on envoie beaucoup et qu’on reçoit peu. Un assistant documentaire envoie couramment 6 000 jetons de contexte pour produire 250 jetons de réponse.

Le coût par appel est dérisoire ; c’est le volume qui compte. Un centime par requête paraît négligeable jusqu’à ce que quarante personnes en fassent trois cents par jour.

Les cinq mécanismes qui font déraper une facture

1. Le contexte envoyé à chaque fois

Le coupable numéro un. On envoie l’intégralité de l’historique, ou vingt passages documentaires « au cas où », à chaque requête.

Le correctif : ne transmettre que ce qui est nécessaire. Sur un assistant documentaire, passer de vingt passages à cinq — après un réordonnancement qui sélectionne les meilleurs — réduit fortement le coût sans dégrader la qualité, souvent en l’améliorant. C’est le mécanisme décrit dans notre article sur les assistants RAG.

2. L’absence de cache sur les instructions

La plupart des applications envoient les mêmes deux mille jetons d’instructions système à chaque requête. Les fournisseurs proposent des mécanismes de mise en cache qui facturent cette partie à tarif réduit lorsqu’elle est réutilisée.

Le correctif : placer la partie stable — instructions, exemples, documents de référence — en tête de requête et activer le cache. C’est une modification de quelques heures pour un gain permanent.

3. Le modèle surdimensionné

Utiliser le modèle le plus capable pour classer une demande en trois catégories, c’est prendre un camion pour livrer une lettre.

Le correctif : router selon la tâche. Un modèle léger pour classer, extraire, reformuler ; le modèle capable pour raisonner, synthétiser, rédiger. La différence de tarif entre les gammes se compte en facteurs, pas en pourcentages.

4. Les appels en cascade

Un agent qui enchaîne huit étapes fait huit appels, chacun transportant le contexte accumulé des précédents. Le coût croît alors de façon quadratique avec le nombre d’étapes.

Le correctif : limiter le nombre d’étapes, résumer le contexte entre les étapes plutôt que de l’accumuler, et poser un plafond d’itérations. C’est aussi ce qui évite les boucles infinies — le sujet de notre article sur les agents IA.

5. L’absence de garde-fous

Aucune limite par utilisateur, aucun plafond de compte, aucune alerte. Une boucle mal écrite en production peut alors consommer un budget mensuel en une nuit.

L’ordre dans lequel optimiser

Ces trois leviers, appliqués ensemble, divisent couramment une facture par trois à cinq sans perte de qualité mesurable. Nous les appliquons systématiquement avant d’envisager quoi que ce soit d’autre.

Les optimisations plus fines — quantification, modèles auto-hébergés, traitement par lots — n’ont de sens qu’à des volumes élevés, et elles introduisent une charge opérationnelle qu’il faut savoir assumer.

Le bon indicateur : le coût par action utile

Suivre le coût mensuel total ne dit rien. Suivre le coût par action métier réussie dit tout.

Exemples : coût par dossier traité, coût par réponse validée sans reprise, coût par document extrait correctement. Ce chiffre se compare à ce que coûtait l’action avant, en temps humain — et c’est le seul argument qui tient en comité budgétaire.

Sur un cas d’usage sain, on obtient couramment un coût par action de quelques centimes contre plusieurs euros de temps humain économisé. Le débat sur le tarif de l’API s’arrête alors de lui-même.

Une facture d’IA qui inquiète est presque toujours le symptôme d’un système qui envoie trop, trop souvent, au modèle le plus cher. Ce n’est pas un problème de fournisseur, c’est un problème d’ingénierie — donc réparable.

Le contrôle en trois questions

À poser à votre équipe ou à votre prestataire, une fois par trimestre :

1. Combien de jetons partent en moyenne par requête, et pourquoi ? Si personne ne sait, c’est le premier chantier.
2. Quelle proportion des requêtes bénéficie du cache ? En dessous de 50 % sur une application à instructions stables, il y a un gain immédiat.
3. Quelles tâches utilisent le modèle le plus cher, et l’ont-elles vraiment mérité ? Un test comparatif d’une journée suffit à trancher.