Aide · IA locale

Utiliser Fintusk avec une IA installée sur votre ordinateur

Ce que fait l'option 3

Le copilote et les analyses rédigées de Fintusk utilisent un modèle d'IA installé sur votre ordinateur au lieu de l'IA hébergée par Fintusk.

Où c'est traité
Questions posées à l'IA, contexte financier envoyé à l'IA, réponsesSur votre ordinateur, par le modèle local. Fintusk ne reçoit pas le contenu des échanges.
Fichier FEC importé, indicateurs calculésStockés dans votre espace Fintusk, comme avec les autres options.
Rapport que vous choisissez de partagerStocké chez Fintusk pour être consultable via le lien.

Les règles du copilote s'appliquent aussi en local : n'utiliser que les chiffres fournis, citer ses chiffres, marquer « Hypothèse à vérifier », dire quand une donnée manque. Un petit modèle les respecte moins bien qu'un grand : relisez ses réponses.

Limites actuelles

Matériel conseillé

Modèle (Ollama)TéléchargementMémoire graphiqueRemarque
llama3.1:8b4,7 Go8 GoBon compromis, recommandé
mistral:7b4,1 Go8 GoLéger
qwen2.5:7b4,4 Go8 GoMultilingue
gemma2:9b5,4 Go10 Go
mistral-nemo:latest7,1 Go12 GoMeilleur en français
llama3.1:70b40 Go48 GoStation de calcul

Sans carte graphique, le modèle tourne sur le processeur : cela fonctionne, mais les réponses sont nettement plus lentes.

Installation avec Ollama (recommandé)

Ollama doit autoriser Fintusk à l'appeler : c'est le réglage OLLAMA_ORIGINS. N'autorisez que https://app.fintusk.fr, et non *, qui ouvrirait votre modèle à n'importe quel site web.

Windows

  1. Télécharger et installer Ollama : ollama.com/download
  2. Dans PowerShell :
    ollama pull llama3.1:8b
    setx OLLAMA_ORIGINS "https://app.fintusk.fr"
  3. Quitter Ollama (clic droit sur l'icône près de l'horloge, « Quit Ollama »), puis le relancer depuis le menu Démarrer. Le réglage n'est pris en compte qu'au redémarrage.

macOS

  1. Télécharger et installer Ollama : ollama.com/download
  2. Dans le Terminal :
    ollama pull llama3.1:8b
    launchctl setenv OLLAMA_ORIGINS "https://app.fintusk.fr"
  3. Quitter Ollama (icône dans la barre des menus), puis le relancer.

Linux

curl -fsSL https://ollama.com/install.sh | sh
ollama pull llama3.1:8b
sudo systemctl edit ollama.service
#   ajouter :
#   [Service]
#   Environment="OLLAMA_ORIGINS=https://app.fintusk.fr"
sudo systemctl daemon-reload
sudo systemctl restart ollama

Configuration dans Fintusk

  1. Paramètres, onglet LLM / IA, Option 3 — IA locale, sur votre ordinateur.
  2. Type : Ollama. Adresse : http://localhost:11434/v1. Modèle : celui téléchargé (llama3.1:8b).
  3. Cliquer Tester la connexion. Au premier test, le navigateur demande l'autorisation d'accéder aux appareils du réseau local : acceptez. Résultat attendu : « Connecté ».
  4. Cliquer Enregistrer. Le diagnostic affiche « Mode résolu : IA locale (ce poste) ».

Pour revenir à l'IA hébergée : choisir l'option 1 et enregistrer.

Autres logiciels

Dépannage

Message dans FintuskCause probableSolution
« Pas de réponse de l'IA locale… réseau local »La demande d'autorisation du navigateur n'a pas été acceptée à tempsAccepter la demande, puis relancer le test. Si elle a été refusée : icône à gauche de l'adresse, Paramètres du site, « Réseau local », Autoriser.
« IA locale injoignable… »Modèle non lancé, ou OLLAMA_ORIGINS absentVérifier qu'Ollama tourne (ollama list), que OLLAMA_ORIGINS vaut https://app.fintusk.fr, puis redémarrer Ollama.
« Seule une IA installée sur cet ordinateur est prise en charge… »Adresse d'un autre serveurUtiliser http://localhost:PORT/v1 sur l'ordinateur où le modèle est installé.
« Adresse incorrecte… /v1 »Chemin /v1 manquant, ou serveur non compatible OpenAIUtiliser l'adresse se terminant par /v1.
Réponses lentesModèle trop gros pour la machineChoisir un modèle plus petit (mistral:7b).

Vérification rapide en ligne de commande (doit lister le modèle) :

curl http://localhost:11434/v1/models

Une question sur l'installation ?

Écrivez-nous, nous vous aidons à configurer votre poste.

contact@fintusk.fr