Sommaire7 parties
Une IA locale est un modèle d'intelligence artificielle installé sur un ordinateur ou un serveur de votre entreprise. Vos documents ne quittent pas vos locaux pour être traités. Longtemps réservée aux grands groupes, cette option devient accessible aux PME, grâce à des modèles ouverts plus compacts et à du matériel plus abordable. Le modèle se télécharge souvent gratuitement ; le coût porte sur le matériel, l'installation et la maintenance, à évaluer au cas par cas. Pragvio accompagne les PME de Charente-Maritime et de Charente dans ce choix.
Le sujet monte depuis quelques mois, et vous allez sans doute en entendre parler souvent. Voici ce qu'il recouvre, sans jargon.
IA en ligne, IA locale : la différence
Quand vous utilisez ChatGPT, Claude ou Le Chat de Mistral, votre texte part sur les serveurs du fournisseur, qui le traite et renvoie la réponse. Le modèle tourne chez lui, sur des machines très puissantes. Vous payez un abonnement ou à l'usage.
Avec une IA locale, le modèle est téléchargé et installé chez vous. Il tourne sur votre matériel. Vos questions et vos documents restent sur votre réseau. Pas d'abonnement au modèle, mais du matériel à acheter et à entretenir.
Pourquoi le sujet arrive maintenant
Deux choses ont changé récemment. D'abord, plusieurs éditeurs publient désormais des modèles à « poids ouverts » : on peut les télécharger et les installer librement, selon leur licence. Mistral AI, l'entreprise française fondée à Paris en 2023, en publie notamment plusieurs, de tailles différentes.
Ensuite, les modèles de taille moyenne sont devenus nettement meilleurs. Il y a peu, un modèle capable de tourner sur un poste de travail donnait des résultats décevants. Aujourd'hui, pour des tâches courantes, ça devient utilisable en entreprise. Les meilleurs modèles d’IA en ligne d’il y a 6 mois sont aujourd’hui à la portée des IA locales installables sur un simple PC. L’écart se resserre.
Ce qu'on peut faire en local aujourd'hui
Les usages qui marchent le mieux sont ceux qui demandent de lire et de reformuler plutôt que de raisonner longuement :
résumer un document ou un compte rendu ;
classer des mails ou des pièces ;
extraire des informations d'un document (dates, montants, références) ;
chercher une réponse dans vos documents internes ;
rédiger un premier jet à partir de notes.
Les tâches complexes, les longs raisonnements ou les gros volumes traités en même temps restent plus confortables avec les grands modèles en ligne. Pour la génération de code, cela reste à jour encore trop juste généralement. Pour le moment, cependant.
Pour qui ça a du sens
L'IA locale intéresse d'abord les entreprises qui manipulent des documents qu'elles ne veulent pas voir sortir : cabinets d'expertise, professions juridiques et de santé, bureaux d'études, entreprises sous accord de confidentialité avec leurs donneurs d'ordre.
Elle peut aussi convenir quand la connexion Internet n'est pas fiable, ou quand le volume d'usage est régulier et prévisible, ce qui rend un coût fixe plus intéressant qu'un paiement à l'usage.
Une réflexion préalable avant d’installer
« Local » ne veut pas dire « sans effort ». Il est nécessaire de choisir le bon modèle, le bon matériel, sécuriser l'accès, tester la qualité sur vos documents, puis maintenir l'ensemble. Le modèle est souvent gratuit à télécharger ; le reste a un coût. Les règles d'accès et de conservation des données restent aussi à fixer, même en local : l'article agent IA et données clients fait le tour de ces questions. Et si un jour vous avez besoin de passer à un modèle plus récent et plus performant, le même travail est demandé.
Il existe aussi des solutions intermédiaires : un modèle ouvert hébergé chez un hébergeur français, ni chez vous ni chez un grand fournisseur américain. Pour beaucoup d'entreprises, c'est un bon compromis.
Questions fréquentes
Faut-il un ordinateur spécial ?
Pour un usage simple et une seule personne, un poste récent bien équipé peut suffire. Pour plusieurs utilisateurs, il faut en général un serveur dédié. Le dimensionnement se fait au cas par cas.
Une IA locale est-elle aussi performante que ChatGPT ?
Sur les tâches les plus complexes, non. Sur les tâches courantes d'une entreprise, l'écart se réduit nettement et devient souvent acceptable. A vrai dire, l’écart est imperceptible sur la plupart des taches courantes.
Est-ce gratuit ?
Le modèle l'est souvent. Le matériel, l'installation, la sécurité et la maintenance ne le sont pas.
Par où commencer
Faites la liste des documents que vous hésitez aujourd'hui à confier à un outil en ligne, et des usages que vous en feriez. Si cette liste est longue, l'IA locale mérite d'être étudiée pour votre entreprise.
Je suis basé à Saintes et j'accompagne les PME sur leurs automatisations IA, y compris dans le choix de l'endroit où les modèles tournent. Le premier échange dure 30 minutes et il est offert : décrivez-moi les documents que vous voulez traiter, et nous regardons quelle option a du sens.