Questions fréquentes sur l’IA en entreprise

Séparez « connaissance » et « documents ». Les documents sont les PDF, les fichiers Word, les recueils de procédures ; la connaissance est la plus petite unité, à l’intérieur, qui puisse être retrouvée et rattachée à sa source. Le travail consiste à : dédupliquer, identifier les versions, découper à la bonne granularité, définir les limites de refus. Verser des PDF dans une base vectorielle revient à ne rien faire.

Dans mon expérience, 80 % des cas ne sont pas un problème de modèle mais l’une de ces trois causes : les extraits retrouvés sont incomplets ou d’une mauvaise version, personne n’a défini ce qu’est une réponse correcte, et personne n’entretient le système après la mise en production. Les 20 % restants relèvent des limites réelles du modèle.

Ne changez pas de modèle trop vite. Vérifiez dans l’ordre : la granularité du découpage, la pertinence des extraits retrouvés, la consigne « dire je ne sais pas en cas de doute », les conflits de version. Ces quatre étapes règlent la plupart des cas ; changer de modèle est le dernier recours.

Cela dépend de la taille du modèle. 7B–8B en quantification Q4 demande environ 5 Go de mémoire vidéo : une carte de 12 Go suffit. 14B en Q4 demande environ 9 Go — une carte de 12 Go le fait, mais avec un contexte limité. Pour une Q&A interne en entreprise moyenne, 7B–14B suffit généralement ; inutile de viser des dizaines de milliards de paramètres d’emblée.

14B en Q4_K_M (environ 9 Go) fonctionne, le reste étant laissé au contexte — gardez la fenêtre de contexte sous 8K. Pour un contexte plus long, redescendez à 7B.

Cela doit être écrit au contrat. Ma méthode : définir la limite de « refus obligatoire », transférer à un humain tout ce qui la dépasse, et tracer chaque réponse. La responsabilité suppose de savoir quand et quoi le système a répondu : la journalisation est donc incontournable.

La conformité commence par un rôle clair : information et orientation uniquement, jamais de diagnostic, jamais de substitution au jugement médical. Toute question portant sur un cas précis doit être refusée et renvoyée vers un médecin. Je verrouille cette limite dès la construction de la base.

Cela dépend du désordre de vos connaissances. Le diagnostic est gratuit et me permet ensuite de chiffrer précisément. Ordre de grandeur : construire une base pour un scénario de complexité moyenne se compte en dizaines de milliers, avec un réglage continu facturé au mois. Tout devis établi sans diagnostic est suspect.

Prélevez 50 à 100 questions métier réelles, faites annoter les réponses de référence par des humains, puis mesurez quatre indicateurs : exactitude factuelle, taux de citation correcte, taux de refus attendu, volume de relecture manuelle. L’essentiel est que ces mesures soient reproductibles : un autre exécutant doit trouver les mêmes chiffres.

Non. Le rangement fait partie de ma prestation, et je sais quelle structure le rend exploitable. Si vous rangez vous-mêmes au préalable, il y a de fortes chances que ce soit à refaire.

Selon la sensibilité des données. Procédures internes, dossiers clients, savoir-faire non public : en local. Requêtes générales sur des informations publiques : l’API cloud est plus économique. Le mélange est fréquent : connaissances sensibles en local, compréhension générale dans le cloud.

Le rapport de diagnostic arrive en 2 à 3 jours et indique aussitôt où sont les problèmes. Après 4 à 6 semaines de construction de la base, les indicateurs s’améliorent nettement. Mais rester précis est un travail de longue haleine qui demande un entretien mensuel.