> For the complete documentation index, see [llms.txt](https://guides.ia.numerique.gouv.fr/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://guides.ia.numerique.gouv.fr/guides/guide-dinstallation-des-llms-2024.md).
# Guide d'installation des LLMs (2024)
{% hint style="danger" %}
Ce guide a été rédigé en 2024. Nous le maintenons ici pour valoriser ce travail de grande qualité et en accord avec les principes de transparence de la vie publique, mais la nature et l'usage des LLMs ont grandement évolué depuis son écriture.
{% endhint %}
**Développé dans le cadre de la troisième saison du Programme 10% d’Etalab**, en partenariat entre plusieurs administrations, ce guide accompagne les techniques pour la mise en production d’un modèle adapté à leur besoin au sein de l'État.
Il propose des recommandations concrètes sur le **choix des modèles**, les **infrastructures nécessaires**, les **techniques de fine-tuning**, d’**évaluation et de déploiement**, tout en abordant les **aspects environnementaux et financiers liés à l’utilisation des LLM**.
Aller vers le guide
{% hint style="info" %}
#### Ce guide est particulièrement adapté si vous êtes :
* Un datascientist au sein d'un service de l'État
* Un ingénieur ou architecte de la donnée
* Un développeur au sein d'une équipe produit qui veut intégrer l'IA dans son service
{% endhint %}
#### Ce que couvre le guide en bref
* l’infrastructure minimale pour faire tourner un LLM
* benchmarking des “principaux” LLM
* exemple d’utilisation dans un cas simple (cas d’utilisation dit “fil rouge”) sous forme de tutoriel
* finetuner un modèle LLM
* quantizer un modèle LLM
* Evaluer un LLM
* mettre en production un modèle LLM
* une bibliographie concise et non exhaustive
* d’autres exemples plus complexes de cas d’utilisation dans l’administration
* une approximation du coût environnemental et financier des différents LLM
#### Ce que ne couvre pas (encore) ce guide
* les fondements théoriques de l’optimisation
* cas spécifique d’une administration
* comment débiaiser un LLM
---
# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.
## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.
Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:
```
GET https://guides.ia.numerique.gouv.fr/guides/guide-dinstallation-des-llms-2024.md?ask=&goal=
```
`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.
Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.