64 gigaoctets de mémoire cherchent du travail. Intellectuel, de préférence.

Il suffit de lire quelques guides sur l’intelligence artificielle à la maison pour avoir assez vite l’impression que la première étape consiste à acheter une carte graphique. Puis on découvre qu’il vaudrait mieux en acheter une autre. Puis qu’il faudra une nouvelle alimentation pour la faire fonctionner. À ce stade, on a envie de fermer le navigateur : au départ, vous vouliez simplement essayer de discuter avec un modèle, pas remonter votre ordinateur et revoir le budget familial.

Pendant ce temps, sous le bureau, il y a une machine tout à fait convenable.

Elle a peut-être déjà quelques années. C’est peut-être une ancienne station de travail, achetée à l’époque pour des tâches sérieuses. Certains ont même conservé un serveur : deux processeurs, beaucoup de mémoire, un boîtier métallique qui inspire le respect. Avant, il faisait tourner les services du bureau. Aujourd’hui, il fait surtout tourner ses propres ventilateurs.

C’est tout de même dommage. L’ordinateur fonctionne, il possède 32, 64, voire 128 gigaoctets de mémoire. Tout cela serait-il vraiment inutile pour un modèle de langage sans une carte graphique coûteuse ?

Non, pas du tout. Et c’est là que l’histoire devient intéressante.

On peut faire fonctionner des modèles de langage sur le processeur, en utilisant la mémoire vive ordinaire. Des logiciels comme llama.cpp prennent en charge les calculs sur CPU. Il faut que le modèle choisi soit compatible avec la version du logiciel utilisée, mais cette possibilité a depuis longtemps dépassé le stade des belles démonstrations. Documentation de llama.cpp

On dit parfois « faire tourner un modèle en RAM », et c’est un raccourci commode. Seulement, la mémoire ne calcule rien toute seule. Elle stocke les poids du modèle et les données de travail, tandis que le processeur effectue les opérations. Un peu comme un garde-manger et un cuisinier : un grand garde-manger est utile, mais sa seule présence ne suffit pas à préparer le dîner.

D’ailleurs, une connexion permanente à Internet n’est pas indispensable pour discuter ainsi avec un modèle. Une fois ses fichiers téléchargés, il peut fonctionner localement, à condition que l’application elle-même ne fasse pas appel au cloud ou à des outils externes. Internet a déjà livré quelques gigaoctets ; il peut maintenant prendre un peu de repos.

Tout cela semble encourageant, mais regardons plutôt ce qu’ont obtenu les personnes qui ont réellement essayé.

Nous avons trouvé plusieurs exemples publiés. Nous n’avons pas reproduit ces mesures nous-mêmes : les résultats qui suivent sont donc ceux de leurs auteurs, avec leur matériel, leurs logiciels et leurs réglages.

Dans cette sélection, le deuxième exemple me plaît particulièrement. Un processeur de 2013, de la DDR3, une vieille station de travail : tout ce qu’on écarte facilement d’un revers de la main quand on parle d’IA moderne. Et quelqu’un a tout simplement décidé d’essayer.

Le troisième exemple joue, bien sûr, dans une autre catégorie. Rien que sa mémoire vive prend plus de place dans mon imagination que tout le projet initial de cet article. Mais il n’est absolument pas nécessaire de commencer avec un tel serveur. Pour apprendre à nager, on n’a tout de même pas besoin de louer l’océan Atlantique.

Autre précision : il ne faut pas lire ces lignes comme un concours entre processeurs. Les modèles sont différents, les logiciels aussi, tout comme les conditions de mesure. Ce serait aller un peu vite que de déclarer le vieux Xeon vainqueur du Ryzen simplement parce qu’un chiffre est plus élevé dans une ligne du tableau.

En revanche, on voit bien une chose : l’absence de carte graphique récente ne signifie pas que l’expérience est impossible. Même la DDR3, apparemment, ne se transforme pas en citrouille le jour de la sortie de la DDR5.

Revenons maintenant à une situation plus familière. Imaginons que vous ayez un ordinateur avec 64 gigaoctets de RAM. Vous ouvrez un catalogue de modèles, trouvez un fichier d’environ 60 gigaoctets et vous dites : voilà, c’est presque exactement la bonne taille. Il restera même un peu de place.

Là, je ralentirais tout de même un peu.

Le système d’exploitation ne va pas déménager. Le navigateur reste lui aussi, avec tous ces onglets que vous lirez un jour, c’est promis, mais pas aujourd’hui. Et le logiciel qui fait tourner le modèle aura également besoin d’espace pour travailler.

En plus des poids, les tampons de travail et les données de la conversation en cours occupent de la mémoire. Pour de nombreux modèles, une part importante de ces données correspond au cache KV : des résultats intermédiaires conservés pour éviter de refaire une partie des calculs sur le texte déjà lu. Sa taille dépend de l’architecture du modèle, de la longueur du contexte et des réglages. Explication du cache KV

La taille du fichier sur la page de téléchargement est donc une information utile, mais elle ne répond pas à elle seule à la question « de combien de mémoire aurai-je besoin ? ».

Dans cette même expérience avec le HP Z420, l’auteur donne une comparaison parlante : le fichier du modèle représente environ 29,3 GB, tandis que la mémoire du processus, mesurée en RSS, atteint environ 34,8 GB. Et ce n’est pas encore la consommation de l’ordinateur entier. Il ne faut pas transformer l’écart entre ces chiffres en supplément universel, mais le principe est bien visible. Mesures de l’auteur

On aimerait évidemment une règle simple : « gardez tant de gigaoctets de côté, et tout ira bien ». Ce serait pratique. Mais une courte conversation avec un petit modèle et un long document traité par un tout autre modèle ne demandent pas la même marge.

On peut au moins partir d’un plan facile à comprendre. Prenons un budget indicatif de 64 GiB, dans les unités de notre calculateur, et répartissons-le ainsi :

C’est bien un exemple, pas une consigne valable pour tous les ordinateurs. Huit gigaoctets pour les données de travail peuvent représenter une marge généreuse dans un cas et être insuffisants dans un autre. Mieux vaut observer la consommation de votre propre système, puis estimer le cache et les autres besoins pour le modèle et la tâche choisis.

Remarquez la dernière ligne. Il reste de la place libre, et c’est très bien ainsi. On ne décerne pas de médaille pour une RAM occupée à cent pour cent.

Si la mémoire commence à manquer, le système peut transférer une partie des données sur le disque. Cela permet parfois de poursuivre le travail, mais des échanges permanents avec le disque peuvent transformer la conversation en correspondance très lente. Le processus peut aussi s’arrêter faute de mémoire. Un SSD est utile pour charger le modèle, mais mieux vaut ne pas compter sur lui comme substitut équivalent à la RAM.

Bien, la question de la capacité est réglée. Supposons que le modèle tienne en mémoire avec de la marge. Pourquoi peut-il quand même répondre lentement ?

C’est ici que le processeur revient dans la conversation, après avoir surtout été question de gigaoctets.

Le CPU doit effectuer de nombreuses opérations et récupérer en mémoire les données nécessaires. Son architecture, les instructions qu’il prend en charge, ses fréquences, son cache, son nombre de cœurs et la manière dont le logiciel exploite tout cela ont leur importance.

Avec les cœurs, il est particulièrement facile de conclure trop vite. Huit, c’est bien ; seize, c’est mieux ; trente-deux, ce serait donc encore deux fois plus rapide ?

Des cœurs supplémentaires sont parfois réellement utiles. Mais si les calculs sont limités par le transfert des données depuis la mémoire, certains threads attendront. Et un nombre trop élevé de threads peut même dégrader les résultats : les développeurs de llama.cpp le signalent expressément. Recommandations des développeurs

Trente-deux cuisiniers autour d’une seule planche à découper, c’est une équipe impressionnante. Cela ne veut simplement pas dire que le déjeuner sera prêt plus tôt.

Pour la mémoire, c’est un peu la même histoire. On a l’habitude de demander quelle quantité est installée, mais pour le modèle, il faut aussi savoir à quelle vitesse le processeur peut en extraire les données.

DDR3, DDR4 ou DDR5 ne décrivent donc qu’une partie de la situation. La vitesse réelle de la mémoire et le nombre de canaux utilisés comptent aussi. Et quatre barrettes ne signifient pas forcément quatre canaux : tout dépend de la plateforme et de l’installation des modules. La bande passante est liée à la vitesse de transfert, à la largeur de l’interface et au nombre de canaux. Explication d’Intel

C’est pourquoi une ancienne plateforme de serveur peut parfois se montrer plus intéressante que ne le laisse supposer son année de sortie. L’organisation de sa mémoire peut lui donner certains avantages. Elle peut aussi présenter des inconvénients qui n’apparaîtront qu’au lancement d’un logiciel précis.

Avec deux processeurs, il faudra également faire un peu plus ample connaissance. Chacun possède généralement sa propre mémoire locale, et l’accès à la mémoire du processeur voisin a un coût plus élevé. C’est ce qu’on appelle NUMA. L’utilité du second CPU dépend de la façon dont le logiciel répartit les calculs et les données. Documentation d’Intel

Un deuxième cuisinier vient d’arriver dans notre cuisine, avec son propre garde-manger. Bonne nouvelle. Sauf que, parfois, il doit traverser la cour pour aller chercher les ingrédients.

Il n’est pas nécessaire de maîtriser tous ces détails avant le premier lancement. Mais il est utile de les garder à l’esprit lorsque les résultats ne suivent soudain plus le joli calcul « deux fois plus de processeurs, deux fois plus rapide ».

Il y a encore une chose qu’on peut facilement prendre pour une panne.

Vous posez une question, le logiciel ne dit rien. Les ventilateurs tournent. Toujours rien à l’écran.

Le modèle est peut-être simplement encore en train de lire votre demande. Avant de générer une réponse, il doit traiter le texte reçu, et une courte question ne demande pas le même travail qu’un contrat de cinquante pages joint au message.

Revenez un instant à la première ligne de notre tableau. La génération avançait à 7,2 tokens par seconde, mais il s’est écoulé presque cent secondes avant le premier token. Ces chiffres ne se contredisent pas : ils décrivent des étapes différentes.

Pour comparer, il faut donc regarder à la fois le délai avant le début de la réponse et la vitesse de génération qui suit. Dans llama-bench, le traitement du texte d’entrée et la génération sont mesurés séparément. Description des mesures

Une longue réponse prendra naturellement du temps elle aussi. Si le modèle propose un mode de raisonnement, il peut générer des tokens supplémentaires avant sa réponse finale. C’est parfois utile. Parfois, vous avez simplement besoin de retrouver une date de livraison dans un courriel, et le modèle lance déjà un colloque philosophique sur la nature du temps.

Alors, par où commencer pour ne pas passer toute la première soirée à attendre ?

Je choisirais un petit modèle instruct dans un format quantifié pris en charge, et je lui confierais une tâche courte et familière. Parmi les pistes à explorer : Qwen3.5-4B et Phi-4-mini, avec ses 3,8 milliards de paramètres. Vous pourrez ensuite essayer la catégorie 7–8B pour voir si un modèle plus grand apporte un avantage dans votre propre travail. Toutes ces options figurent dans les catalogues des logiciels qui permettent de lancer les modèles. Qwen3.5-4B, Phi-4-mini, Qwen3-8B

Pour un premier essai, vous pouvez envisager Q4_K_M, si ce type de fichier est pris en charge, puis comparer avec un autre niveau de précision. La quantification réduit le volume des poids, mais peut avoir un effet sur les réponses. L’importance et la visibilité de cet effet dépendent du modèle et de la tâche. Documentation sur la quantification

Et n’ayez aucune gêne à utiliser un petit modèle sur un ordinateur doté de beaucoup de mémoire. L’ordinateur ne le prendra pas mal. Si le modèle accomplit bien le travail demandé, les gigaoctets libres peuvent tranquillement rester libres.

Les modèles MoE sont également intéressants pour les propriétaires de machines généreuses en mémoire. Pour chaque token traité, ils n’utilisent qu’une partie des experts, ce qui permet de réduire la charge de calcul par rapport à un modèle dense d’une taille totale comparable. Mais il faut tout de même stocker l’ensemble des poids.

Par exemple, Qwen3.6-35B-A3B annonce environ 35 milliards de paramètres au total, dont 3 milliards actifs. Du point de vue de la mémoire, ce n’est pas un petit modèle 3B ; du point de vue de la charge de calcul, on ne peut pas non plus l’assimiler automatiquement à un modèle dense classique de 35B. Fiche du modèle

Les experts travaillent à tour de rôle, mais personne n’a quitté l’appartement.

Le plus utile, au début, est sans doute d’imaginer quelques tâches dont vous êtes capable d’évaluer le résultat. Demander le résumé d’un court document. Extraire des noms, des dates et des montants d’un courriel. Poser une question dont vous connaissez déjà la bonne réponse.

Commencez avec un contexte court, une demande à la fois et une longueur de réponse limitée. Observez combien de temps vous avez attendu, combien de mémoire il reste et, surtout, si le résultat vous a aidé.

Puis changez une seule chose : le modèle, la précision des poids, la longueur du contexte ou le nombre de threads. Vous comprendrez peu à peu ce qui influence réellement votre système. Si vous changez tout à la fois, l’expérience ressemblera à une séance familiale de réaménagement du salon : c’est différent, mais plus personne ne se souvient de ce qui avait motivé le changement.

Faire tourner un modèle sur CPU a de vraies limites. Les gros documents et les longs raisonnements demandent de la patience. Répondre à de nombreux utilisateurs en même temps représente une autre charge que celle d’une personne seule devant son ordinateur à la maison. Un vieux serveur peut consommer une quantité appréciable d’électricité et le faire savoir avec le bruit d’un avion au décollage.

Mais pour travailler tranquillement sur des textes, extraire des données, réaliser de petites automatisations ou découvrir l’IA locale, la machine que vous possédez déjà mérite au moins un essai.

C’est précisément le rôle de notre calculateur : vous aider à estimer les besoins en mémoire et à choisir quelques options pour commencer. Il ne délivre pas de certificat de vitesse et ignore à partir de quelle seconde d’attente vous commencez à tapoter des doigts sur le bureau.

Après quelques soirées, vous retiendrez peut-être un petit modèle qui accomplit bien une tâche précise. Vous trouverez peut-être un MoE adapté. Ou vous constaterez peut-être que, pour vos besoins, une carte graphique reste nécessaire. Cela arrive aussi, et ce n’est pas pour autant que l’expérience est un échec.

Au moins, vous saurez désormais quelle amélioration vous allez payer.

Et si vous trouvez le bon modèle, votre vieil ordinateur aura un nouveau travail. Je l’imagine mis au rebut il y a quelques années, ramené à la maison, installé sous le bureau — et le voilà maintenant qui aide à analyser des documents.

Pour un serveur, c’est une reconversion plutôt réussie.

Jusqu’ici, sa fiche de poste disait seulement : « Faire du bruit ».