Ensuite, vous pouvez couper le Wi-Fi : l’IA continue de répondre, et vos questions ne quittent pas votre ordinateur. On parle d’« IA locale » ou d’« IA hors ligne ». Elle est un peu moins puissante que les grands services en ligne, mais elle rend de vrais services, surtout pour les documents privés. Voyons comment c’est possible, ce qu’il faut comme matériel, et ce qu’on peut en attendre.
Comment une IA peut-elle marcher hors ligne ?
Quand vous utilisez un assistant en ligne, votre question part sur Internet jusqu’à de gros ordinateurs installés dans des centres de données. C’est là que se trouve le « cerveau » de l’IA, c’est-à-dire le modèle : un très gros fichier qui contient tout ce que l’IA a appris pendant son entraînement. La réponse est calculée là-bas, puis renvoyée sur votre écran.
L’idée de l’IA locale est simple : au lieu d’aller chercher le cerveau à distance, on le copie chez soi. Concrètement :
- un logiciel installé sur l’ordinateur sert de fenêtre de discussion, comme une application ordinaire ;
- un modèle téléchargé, de quelques gigaoctets en général, fait le travail de réflexion ;
- les calculs se font sur le processeur, la carte graphique ou un processeur dédié à l’IA (NPU) de votre machine.
Internet n’est nécessaire qu’au départ, pour installer le logiciel et télécharger le modèle. Ensuite, tout se passe dans votre ordinateur. Pour comprendre plus en détail ce qu’est un modèle, lisez l’IA générative expliquée simplement.
Pourquoi utiliser une IA sans Internet ?
On pourrait se dire : pourquoi s’embêter, puisque les assistants en ligne sont gratuits et plus puissants ? Il y a pourtant de bonnes raisons.
- La confidentialité. Vos documents ne sont envoyés à aucun service en ligne. C’est l’argument principal : un relevé bancaire, un dossier médical, un contrat de travail ou les données de vos clients restent chez vous.
- L’absence de connexion. Dans le train, sur un chantier, dans une maison de campagne mal couverte, l’IA reste disponible.
- Pas d’abonnement. Une fois le logiciel et le modèle installés, il n’y a rien à payer chaque mois. Il existe des logiciels et des modèles gratuits.
- La stabilité. Le modèle que vous avez téléchargé ne change pas du jour au lendemain. Il répond de la même façon tant que vous ne le remplacez pas.
Ce dernier point est souvent sous-estimé. Un service en ligne peut modifier ses règles, ses limites ou son fonctionnement. Votre IA locale, elle, reste telle que vous l’avez installée.
Ce qu’il faut comme ordinateur
C’est la question qui revient le plus. La réponse honnête : cela dépend de la taille du modèle. Un petit modèle tourne sur beaucoup d’ordinateurs récents. Un gros modèle demande une machine solide. Voici les repères qui comptent.
- La mémoire vive (RAM). C’est le critère numéro un. Le modèle doit tenir en mémoire pendant qu’il travaille. Avec peu de mémoire, on se limite aux petits modèles.
- L’espace disque. Chaque modèle occupe plusieurs gigaoctets. Prévoyez de la place si vous voulez en essayer plusieurs.
- La carte graphique. Elle accélère beaucoup les calculs, mais elle consomme et fait chauffer un portable.
- Le NPU. Certains ordinateurs portables récents contiennent un processeur dédié à l’IA, appelé NPU. Il consomme peu et reste silencieux. Mais il faut un logiciel capable de s’en servir, sinon il reste inutilisé.
Sur ce dernier point, beaucoup de propriétaires de PC récents ne savent même pas qu’ils ont un NPU, ni qu’il dort la plupart du temps. Notre guide Réveillez le NPU de votre PC explique comment vérifier votre machine et le mettre au travail.
Ce qu’une IA locale sait faire (et ne sait pas faire)
Soyons clairs : une IA qui tient dans votre ordinateur est moins puissante que les plus grands modèles en ligne, qui tournent sur des milliers de machines. Mais pour beaucoup de tâches du quotidien, la différence se sent peu.
Elle s’en sort bien pour :
- résumer un document ou un long courrier ;
- reformuler un texte, corriger les fautes, changer le ton d’un message ;
- répondre à des questions sur vos propres fichiers (notes, factures, comptes rendus) ;
- recopier le contenu d’une photo de ticket ou de document dans un tableau, avec certains modèles ;
- vous aider à trier vos idées ou préparer une liste.
Elle est plus limitée pour :
- l’actualité : sans Internet, elle ne connaît que ce qu’elle a appris avant d’être publiée ;
- les raisonnements longs et complexes, où les grands modèles en ligne gardent l’avantage ;
- la vitesse sur un ordinateur modeste : la réponse peut s’écrire lentement.
Et comme toute IA, elle peut se tromper avec assurance. Les réflexes de vérification restent les mêmes qu’en ligne.
Le grand intérêt : travailler sur vos documents privés
C’est là que l’IA locale prend tout son sens. Nous conseillons de ne jamais coller certaines informations dans un chat en ligne (voir l’IA et vos données). Avec une IA locale, la situation change : vos fichiers restent sur votre disque.
Vous pouvez par exemple demander à l’IA de parcourir un dossier de documents et de répondre à partir de leur contenu. On parle parfois de « deuxième cerveau » : un assistant qui connaît vos notes, vos procédures, vos archives, et qui vous retrouve une information en quelques secondes.
Exemple de demande à une IA locale, avec des documents fictifs :
« Voici trois comptes rendus de réunion de l’association des Jardins du Moulin (janvier, mars et mai). Faites-moi la liste des décisions prises, avec la date de chacune, puis indiquez les sujets restés sans décision. Si une information n’apparaît pas dans les documents, écrivez “non mentionné” au lieu de l’inventer. »
La même demande fonctionne avec un assistant en ligne, mais là, les comptes rendus ne sortent pas de votre ordinateur. Pour un usage avec des documents vraiment sensibles, c’est une différence importante. Le guide Deuxième cerveau montre comment organiser cela pas à pas.
Est-ce compliqué à mettre en place ?
Moins qu’il y a quelques années. Les logiciels actuels s’installent comme n’importe quelle application, et proposent de télécharger un modèle en quelques clics. Il n’est pas nécessaire de savoir programmer.
Les difficultés sont ailleurs :
- Choisir un modèle adapté à sa machine. Trop gros, il sera lent ou ne démarrera pas. Trop petit, il répondra mal.
- Bien utiliser le matériel. Sans le bon réglage, un portable peut chauffer et vider sa batterie, alors qu’un NPU ferait le travail tranquillement.
- Relier l’IA à vos documents sans tout mélanger, et de façon à pouvoir vérifier d’où vient chaque réponse.
- Télécharger depuis des sources sérieuses. Comme pour tout logiciel, évitez les sites douteux et les liens reçus par message.
Ce sont ces étapes que nos guides détaillent, avec des captures et des réglages testés. La rubrique IA locale de la bibliothèque regroupe les guides consacrés à ce sujet.
Questions fréquentes
Une IA locale est-elle vraiment gratuite ?
Il existe des logiciels et des modèles gratuits. Le seul coût est votre matériel, et un peu d’électricité. Vérifiez toujours la licence d’utilisation, surtout pour un usage professionnel.
Mes données sont-elles totalement protégées ?
Les calculs se font sur votre machine, donc vos documents ne sont pas envoyés à un service d’IA en ligne. Mais la sécurité de l’ordinateur lui-même reste importante : mots de passe, mises à jour, sauvegardes.
Mon ordinateur est-il assez puissant ?
Un ordinateur récent avec une bonne quantité de mémoire vive fait tourner des petits modèles. Un portable équipé d’un NPU peut le faire en restant silencieux, à condition d’utiliser un logiciel compatible.
Et sur un téléphone ?
Certains smartphones récents réalisent déjà une partie des tâches d’IA directement sur l’appareil. Mais pour travailler sur vos propres documents, l’ordinateur reste aujourd’hui le plus confortable.
L’IA locale remplace-t-elle les assistants en ligne ?
Pas forcément. Beaucoup de personnes utilisent les deux : l’assistant en ligne pour les questions générales et l’actualité, l’IA locale pour les documents privés.