IA locale : mon PC gamer recyclé vs le Mac mini à la mode

Ma vieille tour gamer prenait la poussière. Aujourd'hui elle est dans le garage, au frais, et elle me fait économiser une centaine d'euros par mois. Je ne vais pas te vendre le tuto « l'IA locale c'est gratuit » : je te montre le montage exact, le calcul réel, et surtout pour qui ça ne sert strictement à rien.

La facture qui dérape pendant que tu dors

Le point de départ, ce n'est pas la technique. C'est la facture.

Pendant des mois, j'avais mon abonnement cloud à 20 € par mois. Puis j'en ai eu marre de redire la même chose à Claude tous les jours. J'ai commencé à coder mes propres interfaces, mon assistant, et à automatiser : analyse de posts, recherche de clients, analyse de contenu, veille, SEO. Tout ce dont j'ai besoin pour mes business.

J'ai mis 20 € de crédit sur la plateforme API. Épuisé en quelques semaines. Un mois plus tard, avec toutes les automatisations empilées, je claquais 20 € en moins d'une semaine.

Le truc vicieux, c'est que tu ne le vois pas venir. Tu crées une automatisation, tu vas dormir, elle travaille tranquillement. Le lendemain tu en crées une deuxième. Tu empiles, avec dans la tête : « de toute façon je paye seulement quand je l'utilise ». Sauf qu'au final, tu l'utilises tout le temps.

Un appel, c'est quelques centimes. Multiplie par le nombre d'automatisations, par le nombre d'exécutions par jour, par 30 jours. Ça va très vite.

Le seul truc que j'avais bien fait dès le départ

J'avais construit un dashboard de suivi. Je loguais chaque action, chaque appel, chaque coût. Ça m'a permis de voir en quelques jours que je saignais.

Si tu montes un projet qui appelle des API externes : construis ton dashboard de coûts avant d'empiler les features. Logue tout, garde tous tes événements.

Deux raisons :

1. Ce qui fait ton résultat, c'est ce que tu encaisses moins ce que tu dépenses. Sans le deuxième chiffre, tu pilotes à l'aveugle.
2. Un dashboard te montre où actionner un levier. Sans lui, tu coupes au hasard.

C'est le genre de chose que personne ne fait dans un projet qui tourne en local depuis six mois. Et c'est exactement ce qui explose au premier vrai utilisateur.

Levier n°1 : descendre en gamme de modèle (avant de sortir la CB)

Face à la facture, j'avais trois options :

• Réduire le nombre d'actions → impossible, c'est justement ce qui produit de la valeur.
• Réduire le contexte → j'avais pas envie de réponses à moitié lues.
• Descendre en gamme de modèle → énorme levier.

Passer d'Opus à Sonnet, de Sonnet à Haiku. Petit modèle, petit prix, petite facture. J'ai repris chacune de mes actions une par une pour lui coller le bon modèle. La facture est redescendue.

Fais ça avant tout le reste. C'est gratuit, ça prend une après-midi, et ça t'évite peut-être d'acheter du matériel.

Sauf que dans mon cas, je continuais à automatiser. J'ai compris que le problème allait revenir dans trois mois. Deux choix : accepter de dépenser beaucoup, ou changer de modèle économique.

Pourquoi 90 % de mes tâches n'ont pas besoin de Claude

Ce que je fais la plupart du temps, c'est ça : je prends du texte, je demande de le lire, d'en sortir le thème, éventuellement un résumé orienté.

Je mets toujours un contexte énorme sur mon business et sur ce que je veux en sortie. Mais l'intelligence réellement nécessaire est limitée. Ce n'est pas de la stratégie, c'est du tri.

J'ai testé plusieurs modèles en local sur la tour. La qualité était largement comparable à ce que me sortait un petit modèle cloud. Et surtout : je pouvais me permettre des modèles un peu plus gros, plus lents.

C'est là qu'est la clé. La majorité de mes tâches d'analyse n'ont pas besoin d'un résultat en temps réel. Une tâche qui met trois minutes ne me pose aucun problème quand elle tourne à 3h du matin. Toute la puissance de calcul que me vend Claude, sur ces tâches-là, je la paye pour rien.

Je n'ai donc pas remplacé Claude. J'ai viré 90 % des appels à Claude.

L'entonnoir inversé

Imagine un entonnoir à l'envers. Je fais toutes mes petites analyses en local, pas cher, en volume. Dès que quelque chose devient intéressant, je l'envoie à Claude. Au lieu de tout faire passer par Claude en espérant que ça sorte propre.

Ma règle, tu peux la copier telle quelle :

Si le résultat va être réanalysé ou renvoyé à une autre IA derrière → local. Si je veux quelque chose de définitif → Claude.

Rien que te poser cette question sur chacune de tes automatisations peut diviser ta facture. Sans acheter une seule ligne de matériel.

Le seul chiffre qui décide de ta config : la VRAM

Maintenant le concret. Et là il y a un truc que la moitié des tutos passent sous silence, et c'est ce qui fait que ta config va ramer.

Ma carte : une 5080 avec 16 Go de VRAM.

Ce chiffre décide de tout. Pas ta RAM. Pas ton CPU. Pas ton SSD. La VRAM.

Comment un modèle remplit ta carte

Quand tu vois un modèle noté avec un nombre de milliards de paramètres, il y a un calcul (lié à la quantification) pour estimer ce qu'il va occuper en VRAM.

Prends un modèle 26B : il va charger autour de 15 Go. Sur une carte de 16, il te reste 1 Go.

Et c'est là que le piège se referme.

Parce que pour répondre, le GPU ne charge pas que le modèle. Il charge :

• le modèle
• ton contexte système (ta cible, ton business, tes consignes)
• ton prompt réel (un article, un transcript, une conversation)
• les calculs intermédiaires pendant la génération

Tout ça, ça peut manger 1, 2, jusqu'à 5 Go selon la taille de ce que tu envoies.

Si ton modèle occupe déjà 15 Go sur 16, tu débordes. Et quand tu débordes, ça part sur le CPU.

Le CPU a besoin de 40, 50, 60 fois plus de temps pour traiter la même quantité d'information. Ta réponse instantanée devient une réponse en trois minutes, et tu ne comprends pas pourquoi ça a « brusquement ralenti ».

La règle de dimensionnement

• Tu veux une réponse instantanée → le modèle et ton contexte doivent tenir dans la carte graphique.
• Tu acceptes une réponse lente (traitement de nuit, batch) → tu peux laisser déborder un peu sur le CPU. Un peu.

Petite astuce : demande à une IA quels modèles sont adaptés à ta config exacte et à ton usage. Mais vérifie toujours : elles sont systématiquement en retard sur les sorties de modèles.

Et si tu n'as pas de carte graphique du tout — on y vient plus bas, et la réponse ne va pas te plaire.

L'archi dans mon garage

Rien de sophistiqué. Trois machines sur mon réseau privé :

• La tour gamer (le muscle) : Ubuntu Server, Ollama, l'orchestrateur.
• Un vieux MacBook (le cerveau) : allumé H24, il porte mes interfaces et mon assistant.
• Mon PC de tous les jours : je consomme tout ça comme des interfaces.

Tailscale : être chez moi même en vacances

Ma contrainte : je voulais pouvoir utiliser tout ça depuis l'extérieur. Hôtel, vacances, déplacement.

J'ai installé Tailscale. Ça crée une petite porte vers mon réseau privé. Mon laptop en déplacement fait passer ses requêtes réseau par la machine de la maison. Résultat : je suis chez moi même à distance.

Le vrai gain, ce n'est pas juste l'accès. C'est que je peux consommer mon IA locale comme une API, exactement comme je consommerais une API cloud, en gardant toutes mes interfaces accessibles.

L'orchestrateur et la file d'événements

Je n'ai créé qu'une seule entrée sur la machine IA. Un serveur qui démarre tout seul quand la tour s'allume : mon orchestrateur.

Il récupère tous les événements. Un petit Redis tourne à côté et sert de file : « analyse ce post », « génère ce résumé », « traite ce transcript ». L'orchestrateur empile, puis résout un par un, peu importe le temps que ça prend.

MacBook (H24)
  └─ interfaces + assistant
        └─ événement → Redis (file)
                        └─ orchestrateur → Ollama → modèle

Et le détail qui change tout : quand la pile est vide, la machine s'éteint au bout de quelques minutes.

Wake on LAN : le détail qui rend l'économie réelle

Si ta tour gamer reste allumée H24, ta conso électrique explose et tout ce raisonnement s'effondre.

Le vieux MacBook pilote la config gamer. Au moindre besoin, il envoie un Wake on LAN — un réveil par le réseau. La tour démarre, traite la pile, s'éteint.

Le cerveau est toujours actif. Les muscles dorment quand on n'en a pas besoin.

Attention : sur les cartes mères anciennes, la compatibilité Wake on LAN est plus capricieuse. À vérifier avant d'acheter d'occasion.

Ubuntu Server, pas Windows

Je vais te faire gagner le temps que j'ai perdu.

Au début, la tour était sous Windows. J'ai passé des heures à essayer de maintenir des process en vie, à faire en sorte qu'ils redémarrent tout seuls après un réveil, à gérer les mises à jour qui coupent tout. Une catastrophe.

J'ai tout effacé et installé Ubuntu Server. Configuré en une après-midi. Plus jamais touché.

Les vrais chiffres

Électricité :

• Le MacBook allumé H24 : entre 20 et 30 € sur l'année. Les processeurs Apple gèrent très bien l'énergie au repos.
• La tour au repos : quelques watts.
• Total estimé du montage : 50 à 70 € par an.

API :

• Avant : environ 20 € par semaine, parfois en quelques jours.
• Maintenant : environ 20 € tous les deux mois.

Pas besoin de sortir la calculette longtemps. Sur mon volume de requêtes, c'est très largement rentable.

Mais.

Le vrai sujet : pour qui ça ne sert à rien

Il y a un gouffre entre le tuto « l'IA locale c'est gratuit » et la réalité.

Dans mon cas ça valait le coup, parce que j'avais déjà la tour, et parce que mon volume est élevé et va continuer à monter. Mais franchement : s'il s'agit de monter tout ça au lieu de payer 20 € par mois, paye les 20 € par mois.

Le contexte matériel actuel

Une carte graphique neuve type 5080 tourne autour de 1200-1300 €. Nvidia est quasi seul sur le marché avec une architecture très optimisée pour l'IA. AMD arrive, mais les prix seront salés aussi.

Sur l'occasion, les cartes avec 16 Go sont très demandées, précisément à cause de ça. On trouve du 400 à 600 € sur des 5070 ou certaines séries 40 d'occasion.

Les analystes annoncent une pénurie qui dure en 2027 et probablement 2028. Ça ne va pas se détendre demain.

Donc : ne te lance là-dedans que si tu as un usage solide ou une config qui traîne dans un coin.

Carte graphique d'occasion ou Mac mini ?

C'est la question du moment, surtout avec les nouvelles générations Apple qui font mécaniquement baisser le prix des M4.

La force des Mac, c'est la RAM unifiée : la mémoire est partagée entre CPU et GPU. Un Mac mini 32 Go peut donc charger 32 Go de modèle, là où ma carte plafonne à 16.

Mes tests, sur la même tâche :

La carte est nettement plus rapide. Le Mac mini est nettement plus capacitaire.

L'arbitrage réel

• Si ton modèle dépasse un tout petit peu ta VRAM → la carte graphique reste plus rentable.
• Si ton modèle dépasse largement → le Mac mini prend le dessus, parce qu'une carte qui déborde massivement sur le CPU ne sert plus à rien.

Autre critère souvent oublié : le Mac mini n'est pas évolutif. Une carte graphique, tu peux l'ajouter, la mettre en parallèle, la réutiliser dans une autre config, la revendre. Le Mac mini, c'est ce que tu as acheté, pour toujours.

Et les configurations à 64 ou 128 Go permettent effectivement de charger de très gros modèles. Mais il faut en avoir l'usage. Vu le prix, si tu n'as pas un business sérieux derrière qui tourne dessus tous les jours, autant payer une API. Un Mac mini 128 Go, ça ne se rentabilise pas avec trois automatisations de veille.

Mon conseil concret

Avant de te ruer sur le Mac mini à la mode : regarde l'occasion côté cartes graphiques, ou vérifie ce que tu as déjà.

Gemma 3 26B remplace déjà beaucoup de choses et tourne très bien sur 16 Go de VRAM. Une carte 16 Go + un PC avec au moins 16 Go de RAM, tu fais déjà des choses très intéressantes.

Fais ton calcul, simplement : si tu économises 100 € par mois, une carte d'occasion à 500-600 € est amortie en six mois. Si tu économises 15 € par mois, tu es en train de dépenser 600 € pour te faire plaisir.

(Il existe aussi de la location de GPU en ligne. Ça coûte très cher dès que l'usage devient régulier.)

La moitié la plus importante n'est pas dans la config

Tout ce que je viens de décrire, c'est le matériel. C'est la partie visible, celle qui fait de belles vignettes.

L'autre moitié, et de loin la plus importante, est dans le MacBook : mon assistant. Il connaît tout de mon activité, et j'ai codé chacun de mes outils moi-même.

Ma méthode a toujours été la même : à chaque fois que je me surprenais à poser deux ou trois fois la même question, à refaire la même interaction avec Notion, à répéter le même besoin — je le codais dans l'assistant.

Sans cet assistant, ma config gamer n'a aucun intérêt. Une IA locale sans automatisations à alimenter, c'est un chatbot lent dans ton garage.

Et c'est là qu'est le vrai enseignement de ce montage : le problème n'était presque jamais technique. C'était un problème de périmètre et de coût par tâche. J'ai commencé à empiler des automatisations sans jamais me demander laquelle méritait un modèle à 15 € le million de tokens et laquelle méritait un modèle qui tourne la nuit sur une carte de 2021.

Le matériel n'a fait que rendre ce tri définitif.

Si ton projet tourne chez toi depuis des mois et que tu n'as aucune idée de ce qu'il coûtera par utilisateur en production, c'est exactement le même trou. Tu ne le verras pas tant que tu n'auras pas construit le dashboard.