Quotas & limites

Chaque compte dispose de limites de consommation. Ces limites sont configurées par l'administration de la plateforme. Elles sont de 2 types : limites par token et limites par requête. Vous pouvez consulter les limites par token et par requête pour chaque modèle en cliquant ici.

Limites par token

Dans Albert API, les limites par tokens sont exprimées en tokens par minute (TPM) et par jour (TPD). Vous pouvez consulter les limites par token pour chaque modèle en cliquant ici.

Qu'est ce qu'un token ?

Un token est une unité de mesure de la consommation des LLM. Un token correspond à un mot ou une partie de mot.

Exemple :

• "Albert" → 1 token
• "centraliser" → 2 tokens ("centr" et "aliser")

La ponctuation est comptabilisée comme un token !

Le tokenizer, c'est-à-dire l'algorithme permettant de transformer le texte en tokens, est généralement celui du modèle utilisé. Sur Albert API, pour que toutes les requêtes soient comptabilisées dans les mêmes conditions, nous utilisons un tokenizer opensource, Tiktoken o200k_base.

Vous pouvez tester le tokenizer sur des textes sur ce simulateur.

Comment sont comptabilisés les tokens ?

Les tokens sont comptabilisés uniquements sur des endpoints suivants : /v1/chat/completions, /v1/embeddings et /v1/rerank. Ils sont comptabilisés différement selon les endpoints.

• /v1/chat/completions

  Les tokens sont comptabilisés uniquement sur les messages de la requête, pas les tokens générés par le modèle.

  Voici un exemple de requête qui est comptabilisée comme 37 tokens:

  {
      "model": "openweight-large",
      "messages": [
          {
              "role": "system",
              "content": "Tu es un assistant de chat qui répond à des questions." → 12 tokens
          },
          {
              "role": "user",
              "content": "Bonjour, comment allez-vous ?" → 6 tokens
          }
          {
              "role": "assistant",
              "content": "Je vais bien, merci pour votre question." → 9 tokens
          }
          {
              "role": "user",
              "content": "Quel est votre nom ?" → 5 tokens
          }
          {
              "role": "assistant",
              "content": "Je m'appelle Albert." → 5 token
          }
      ]
  }

• /v1/embeddings

  Les tokens sont comptabilisés uniquement sur les inputs de la requête.

  Voici un exemple de requête qui est comptabilisée comme 23 tokens:

  {
      "model": "openweight-embeddings-large",
      "input": [
          "Albert API est un outil de IA open source.", → 10 tokens
          "Il est développé par la communauté de l'IA open source." → 13 tokens
      ]
  }

• /v1/rerank

  Les tokens sont comptabilisés uniquement sur le query et les documents de la requête.

  Voici un exemple de requête qui est comptabilisée comme 33 tokens:

  {
      "model": "openweight-rerank-large",
      "query": "Albert API est un outil de IA open source.", → 10 tokens
      "documents": [
          "Albert API est un outil de IA open source.", → 10 tokens
          "Il est développé par la communauté de l'IA open source." → 13 tokens
      ]
  }

Limites par requête

Dans Albert API, les limites par requêtes sont exprimées en requêtes par minute (RPM) et par jour (RPD). Vous pouvez consulter les limites par requête pour chaque modèle en cliquant ici.

Qu'est ce qu'une requête ?

Une requête est un appel à un endpoint d'Albert API. Les requêtes sont comptabilisées uniquement sur les endpoints qui appellent un modèle :

• /v1/chat/completions
• /v1/embeddings
• /v1/rerank
• /v1/audio/transcriptions
• /v1/ocr

Consulter sa consommation

Il y a 2 façons de consulter sa consommation :

• via le Playground Albert API sur la page Usage
• via l'API en appelant l'endpoint GET /v1/me/usage

  curl -X GET "https://albert.playground.etalab.gouv.fr/v1/me/usage" \
  -H "Authorization: Bearer $API_KEY"

Dépassement de limites

Lorsque le trafic ou les tokens dépassent les plafonds configurés pour votre compte, l’API peut répondre 429 Too Many Requests (détail dans le corps ou les en-têtes selon la version). Stratégie recommandée : backoff exponentiel, respect éventuel d’un en-tête Retry-After, et réduction du parallélisme.

⚠️ À vérifier — Codes HTTP exacts (429 vs autre) et format du detail pour les dépassements sur l’instance Albert : consulter la page de l’endpoint Me : page de l’endpoint Me

Quotas “tarifs” (par famille de modèles)

En complément de vos limites propres au compte (champ limits dans GET /v1/me/info), la page officielle Tarifs et limites fournit une vue indicative par type de modèle et par niveau d’accès (expérimentation vs production).

Tarifs et limites

Famille de modèles (ex.)	Accès	RPM	RPD	TPM	TPD
openai/gpt-oss-120b (chat)	expérimentation	10	1000	128 000	1 280 000
openai/gpt-oss-120b (chat)	production	50	5000	246 000	Illimité
mistralai/Mistral-Small-* / Ministral-* (chat)	expérimentation	50	1000	128 000	2 460 000
mistralai/Mistral-Small-* / Ministral-* (chat)	production	100	50 000	246 000	illimité
Qwen/Qwen3-Coder-* (code)	expérimentation	50	1000	128 000	2 460 000
Qwen/Qwen3-Coder-* (code)	production	100	50 000	246 000	illimité
deepseek-ai/DeepSeek-V4-Flash (code)	expérimentation	50	illimité	246 000	illimité
deepseek-ai/DeepSeek-V4-Flash (code)	production	50	illimité	246 000	illimité
openai/whisper-large-v3 (audio)	expérimentation	50	1000	illimité	illimité
openai/whisper-large-v3 (audio)	production	100	5000	illimité	illimité
BAAI/bge-m3 (embeddings)	expérimentation	500	50 000	illimité	illimité
BAAI/bge-m3 (embeddings)	production	2000	200 000	illimité	illimité
Qwen/Qwen3-VL-* (embeddings)	expérimentation	50	1000	illimité	illimité
Qwen/Qwen3-VL-* (embeddings)	production	100	50 000	illimité	illimité
BAAI/bge-reranker-v2-m3 (rerank)	expérimentation	500	50 000	illimité	illimité
BAAI/bge-reranker-v2-m3 (rerank)	production	2000	200 000	illimité	illimité
lightonocr-2-1b (ocr)	expérimentation	50	1000	128 000	2 460 000
lightonocr-2-1b (ocr)	production	100	50 000	246 000	illimité

⚠️ À vérifier — la page “tarifs” peut évoluer. Les compteurs Limit dans GET /v1/me/info restent la source de vérité opérationnelle.

Budget (UserInfo.budget)

• Valeur numérique — enveloppe budgétaire restante ou autorisée selon les règles plateforme (coûts agrégés).
• null — d’après la spec, budget illimité côté modèle de données (cela ne supprime pas d’éventuelles limites techniques limits).

Qui configure les limites ?

Les champs limits, budget, priority et droits associés sont fixés par l’administration de la plateforme (ou les mécanismes internes liés à votre compte organisationnel). Ils ne sont en général pas modifiables par simple appel public documenté ici.

⚠️ À vérifier — Interprétation monétaire précise du budget, fenêtres temporelles des compteurs (tpd, rpd) et comportement lorsque plusieurs limites entrent en conflit : demander la fiche d’exploitation à votre référent ou consulter les engagements contractuels.

Pour suivre la consommation réelle : Usage & facturation.