FinOps de l'inférence : reprendre le contrôle du coût au token avant que le budget IA ne double

Le rapport State of FinOps 2026 de la FinOps Foundation place l’IA en tête des priorités des équipes FinOps, avec le suivi et l’allocation des coûts IA comme chantier numéro un. Ce n’est pas une mode : c’est le symptôme d’un décalage structurel. Les cadres de facturation cloud que nous avons mis dix ans à industrialiser reposent sur une unité stable — l’heure de calcul, le Go stocké, le Go transféré. L’inférence, elle, se facture au token, à la requête, ou à l’heure GPU réservée, trois unités qui ne se convertissent pas mécaniquement l’une dans l’autre et dont aucune ne correspond à une transaction métier.

Ajoutez que l’inférence pèse désormais autour de 55 % des budgets d’infrastructure IA — devant l’entraînement — et que les modèles de raisonnement facturent des tokens de réflexion qui n’apparaissent pas dans la sortie, et vous obtenez un poste de dépense en croissance rapide, difficile à prévoir, et presque impossible à imputer sans instrumentation dédiée.

Pourquoi l’IA casse le modèle FinOps classique

Trois ruptures, concrètes.

L’unité de facturation est un produit du modèle, pas de l’infrastructure. Une même requête utilisateur coûte 1 ou 40 selon le modèle routé, la longueur du contexte injecté et le nombre d’itérations de l’agent. La variable de coût est déplacée du dimensionnement (décision d’infrastructure, mensuelle) vers le runtime (décision applicative, à chaque requête). Les leviers FinOps traditionnels — rightsizing, réservations, arrêt des ressources inactives — ne couvrent qu’une fraction du problème.

La granularité de la facture ne descend pas au niveau…