Pendant longtemps, je n'ai pas hésité à coller un contrat dans ChatGPT, à télécharger un rapport confidentiel pour en demander un résumé, ou à saisir une proposition client dans un outil d'IA cloud. Puis un jour, je me suis enfin arrêté et j'ai lu les conditions d'utilisation (que je survolais distraitement depuis des années) et j'ai réalisé : ces fichiers quittaient mon appareil pour se retrouver, au moins temporairement, sur les serveurs d'un tiers. Curieusement, j'ai découvert qu'un ancien collègue avait déjà abordé ce sujet. Ne confiez pas d'informations confidentielles à ChatGPT.Ce désagrément m'a incité à chercher une meilleure solution.
J'ai découvert AnythingLLM, une application de bureau gratuite et open source qui permet de créer un assistant IA entièrement personnalisé à partir de vos propres documents, et ce, directement sur votre appareil. Elle est devenue l'une des Applications d'IA open source que j'utilise quotidiennementVoici à quoi ressemblait réellement la transformation.
Liens rapides
L'installation et la configuration d'AnythingLLM ne prennent que quelques minutes.
Il vous indique précisément où vos données sont stockées avant même que vous ne commenciez.
Une fois le fichier d'installation obtenu, double-cliquez dessus ; l'assistant prendra alors le relais. Durant l'installation, il téléchargera automatiquement les composants nécessaires : les bibliothèques CUDA d'Ollama si vous possédez une carte graphique NVIDIA compatible – un processus dont vous apprécierez la simplicité une fois compris. Que sont les cœurs CUDA et comment améliorent-ils la puissance de calcul globale ? FFProbe est utilisé pour le traitement multimédia et Meeting Assistant pour les fonctionnalités audio. L'installation est entièrement automatisée. De l'installation à l'affichage du panneau de configuration principal, le processus complet a pris moins de cinq minutes.
Une fois AnythingLLM ouvert, l'un des premiers éléments affichés est un écran de gestion des données et de confidentialité ; il est fortement conseillé de le lire. Il y est clairement indiqué que vos formulaires et conversations sont uniquement accessibles sur votre appareil, que le texte du document est intégré de manière privée grâce à l'outil AnythingLLM Embedder intégré, et que vos vecteurs sont stockés localement via LanceDB. Si vous avez déjà cherché… Qu’est-ce qu’une base de données vectorielle et comment améliore-t-elle l’intelligence artificielle ?Vous constaterez que le fait de laisser ce composant entièrement hors ligne est un atout majeur pour la protection de votre vie privée. Il n'y a pas de boutons d'activation/désactivation, et les options de désactivation sont bien cachées dans les paramètres. Par défaut, tout reste local.
Immédiatement après la présentation de la confidentialité, AnythingLLM vous guide à travers son écran de préférences LLM. La liste des fournisseurs pris en charge est exhaustive : côté cloud, on retrouve OpenAI, Anthropic, Azure OpenAI, Gemini, Groq et bien d’autres. Côté infrastructure locale, on compte notamment Ollama, LM Studio, LocalAI, KoboldCPP, Dell Pro AI Studio, Microsoft Foundry Local et Docker Model Runner. L’option par défaut « AnythingLLM » intègre un exécuteur de modèles local basé sur Ollama, ce qui vous permet de télécharger des modèles comme Phi-4 de Microsoft (9.1 Go) ou Qwen3 d’Alibaba (0.6 Blo, soit seulement 600 Mo) directement depuis l’application, sans aucune configuration supplémentaire.
Si votre ordinateur ne possède pas de carte graphique dédiée (GPU), ce n'est pas un problème. Se connecter à l'API Groq vous donne accès à des modèles d'inférence rapides comme le Llama 3 70B à un coût quasi nul ; une simple clé API suffit pour les utiliser. Vous pouvez changer de fournisseur à tout moment dans les paramètres, vous n'êtes donc pas limité à l'option choisie lors de la configuration. J'ai commencé par utiliser le fournisseur local pour les tests — le Phi-3 3.8B m'a agréablement surpris par son efficacité pour les questions-réponses sur des documents sur un ordinateur portable de milieu de gamme — puis je suis passé à Groq pour les tâches plus exigeantes où la vitesse était primordiale.
Une fois configuré, AnythingLLM transforme vos documents personnels en un assistant IA spécialisé.
Vos fichiers s'expriment à nouveau de manière plus claire.
Le tableau de bord vous accueille avec une liste de vérification pour bien démarrer et une barre latérale contenant déjà un espace de travail virtuel appelé « Mon espace de travail ». Les espaces de travail sont au cœur de l'organisation chez AnythingLLM : chacun est un environnement autonome où vos documents et vos conversations coexistent. Imaginez chaque espace de travail comme une pièce distincte : une pour les contrats clients, une autre pour les recherches internes et une troisième pour vos notes personnelles. Les documents peuvent être partagés entre les espaces de travail si nécessaire, mais ils restent indépendants, préservant ainsi la pertinence et la précision des réponses de l'IA.
Ajouter des documents à l'espace de travail est simple grâce au glisser-déposer. AnythingLLM prend en charge les documents Word, les fichiers texte brut, les fichiers CSV, les feuilles de calcul, les fichiers audio et même les PDF, de la même manière que… NotebookLM l'utilise pour transformer n'importe quel fichier PDF en une conversation interactive.Le panneau d'importation comprend également un champ « Récupérer le site web ». Pour récupérer une page web ou une ressource en ligne, il suffit de coller l'URL ; le contenu sera alors automatiquement extrait. Une fois le fichier importé, AnythingLLM le traite, en divisant le texte et en stockant les vecteurs localement. Un fichier PDF standard de dix pages est traité en quelques secondes seulement.
Les agents et les ordres de police biaisés transforment AnythingLLM en bien plus qu'un simple moteur de recherche intelligent.
C'est là que ça devient vraiment passionnant.
AnythingLLM est doté de fonctionnalités d'agent qui vont au-delà des simples questions-réponses sur les documents. Il effectue la saisie. @agent Dans la conversation, vous pouvez activer un agent IA capable d'effectuer des tâches de recherche d'outils : recherches web, recherches approfondies et actions inter-applications. Des compétences personnalisées pour cet agent sont disponibles via le Hub communautaire AnythingLLM, dont la bibliothèque s'enrichit constamment. La fonctionnalité de commande slash vous permet de créer et d'enregistrer des modèles d'invites pour les tâches répétitives, comme la synthèse de notes de réunion dans un format uniforme, la formulation de réponses par e-mail sur un ton spécifique ou l'extraction automatique de champs précis à partir de documents téléchargés.
Pour aller plus loin, une extension de navigateur permet d'interagir avec votre instance AnythingLLM depuis n'importe quelle page web, et une intégration GPTLocalhost intègre l'assistant directement dans Microsoft Word. Les équipes ayant besoin d'un accès partagé peuvent opter pour la version Docker, qui offre la prise en charge multi-utilisateurs, le contrôle d'accès basé sur les rôles et la gestion des listes blanches. L'application de bureau est largement suffisante pour un usage personnel, mais il est bon de savoir qu'une configuration pour les équipes est disponible.
Bienvenue dans la révolution de l'IA qui vous est destinée (population : vous)
En optant pour AnythingLLM, j'ai cessé de considérer l'IA comme un service que je loue et j'ai commencé à la percevoir comme un outil qui m'appartient. Mes documents restent sur mon disque dur, mes requêtes demeurent privées et je dispose désormais d'un assistant numérique qui comprend véritablement mon contexte, et pas seulement celui d'Internet.
