Évaluer une solution d'automatisation documentaire par un pilote
Un pilote d'automatisation documentaire doit se conclure par une décision que l'on peut défendre devant la finance, la DSI et les personnes qui font le travail aujourd'hui. Il faut pour cela une situation de départ mesurée avant le test, un jeu réservé que le fournisseur ne voit jamais, une vérité terrain annotée par votre équipe, des erreurs classées par conséquence avant la notation du premier document, un taux de traitement sans intervention avec son dénominateur, et un coût par document qui compte le temps de contrôle et les erreurs échappées. Ce guide donne le protocole, la grille de notation, la grille de gravité, le tableau de décision et un compte rendu chiffré.
- Publié le
- Mis à jour le
- Temps de lecture
- 21 min
- Auteur
- L'équipe Mirage Metrics
Périmètre : l'évaluation de toute solution qui lit des documents de gestion et écrit leurs données dans un système, en logistique, construction, industrie et distribution. Neutre vis-à-vis des fournisseurs, sauf une section, à part en fin de page, sur la façon dont Mirage mène ses propres pilotes. Ni prix ni taux de référence : chaque seuil vient ici de votre propre situation de départ.
En bref
- Adapté à
- Un directeur des opérations, un sponsor financier, un responsable SI ou ERP et un responsable de processus qui évaluent un ou plusieurs fournisseurs sur un flux documentaire.
- Ce qu'il faut fournir
- Deux semaines de relevés de temps de l'équipe, quelques centaines de documents réels tirés du flux récent, deux personnes pour les annoter, un environnement de test du système cible, et le coût d'une erreur critique dans votre activité.
- Ce qui s'automatise
- Le passage du fournisseur sur le jeu réservé et le fonctionnement en parallèle produisent les sorties ; la notation contre la vérité terrain se fait dans un tableur une fois la grille de gravité écrite.
- Ce qui reste validé par une personne
- Écrire le périmètre et la grille de gravité, annoter la vérité terrain et trancher les désaccords, fixer les seuils, prendre la décision go/no-go.
- Quand l'approche ne suffit pas
- Quand le flux change pendant le pilote (nouvel ERP, équipe réorganisée), quand le volume est trop faible pour mesurer quoi que ce soit (quelques documents par semaine), ou quand personne ne porte la décision.
Le plan du pilote, semaine par semaine
Sept semaines, dans un ordre qui compte plus que la durée. La mesure de départ vient en premier : une fois le système du fournisseur en route, plus personne ne mesure l'ancienne façon de faire. Le jeu réservé est annoté avant que le fournisseur ne paramètre quoi que ce soit, pour que la vérité terrain ne puisse pas s'aligner sur sa sortie. Le passage à l'aveugle précède le fonctionnement en parallèle, pour que les chiffres notés viennent de documents que le fournisseur n'a jamais vus. La semaine en parallèle teste ensuite ce qu'un jeu figé ne peut pas tester : le volume réel, les délais, les nouveaux émetteurs et la file de contrôle en charge.
| Quand | Ce qui se passe | Qui | Livrable |
|---|---|---|---|
| Semaine 0 | Rédiger la charte du pilote : le flux, les documents, le système cible, les champs critiques, la grille de gravité, les seuils de décision. Revue sécurité et protection des données avant qu'un document ne sorte de l'entreprise. | Directeur des opérations, sponsor financier, DSI | Une charte d'une page, signée |
| Semaines 1 et 2 | Mesurer la situation de départ. Tirer l'échantillon, le partager entre un jeu de mise au point et un jeu réservé, et annoter le jeu réservé. | Responsable du processus, deux annotateurs | Fiche de départ, jeu réservé annoté |
| Semaine 2 | Transmettre le jeu de mise au point au fournisseur. Ouvrir l'accès à un environnement de test du système cible et valider la correspondance des champs. | Responsable SI ou ERP | Accès de test, table de correspondance |
| Semaines 3 et 4 | Le fournisseur paramètre sur le jeu de mise au point. Votre équipe répond à ses questions. À la fin, le paramétrage est figé et sa version notée. | Fournisseur, responsable du processus | Paramétrage figé |
| Semaine 5 | Passage à l'aveugle sur le jeu réservé. Vos contrôleurs traitent la file de contrôle du fournisseur et notent leur temps. Notation contre la vérité terrain. | Responsable du processus, contrôleurs | Grille de notation remplie |
| Semaine 6 | Fonctionnement en parallèle sur le flux réel, à côté de l'équipe, avec écriture dans l'environnement de test uniquement. | Responsable du processus, DSI | Délais réels, temps de contrôle, documents sans statut |
| Semaine 7 | Compte rendu et décision au regard des seuils fixés en semaine 0. | Sponsor financier, directeur des opérations | Go, go partiel, prolongation ou no-go |
Deux semaines de mesure couvrent le cycle hebdomadaire (le retard du lundi, l'heure limite du vendredi). Si votre volume connaît une pointe de fin de mois ou de saison qui change la nature des documents, incluez-la ou tirez des documents dedans. Un fournisseur capable de montrer plus tôt une preuve de concept qui fonctionne raccourcit les semaines 3 et 4 ; il ne doit raccourcir ni la mesure de départ ni le test à l'aveugle.
Définir le périmètre : un flux, ses documents, son système cible
Un seul flux, désigné par ce qui entre et par l'endroit où il arrive. « Automatiser nos documents » ne se note pas ; « les bons de commande reçus dans la boîte commandes, saisis en commandes clients dans l'ERP » se note. Écrivez les documents inclus et exclus, le système cible et les champs exacts qui y sont écrits, et marquez les champs critiques. Trois exemples :
| Secteur | Flux | Documents | Système cible | Champs critiques |
|---|---|---|---|---|
| Logistique | Dossiers import chez un transitaire | Factures commerciales, listes de colisage et connaissements, en pièces jointes PDF des chargeurs et des transporteurs | Le logiciel de transit ou le TMS (par exemple CargoWise) | Destinataire, code SH, valeur en douane, Incoterm, poids, numéros de conteneur |
| Construction | Comparatif des offres de sous-traitants | Offres en PDF et en tableur, chacune dans sa propre présentation | Le tableau comparatif ou le logiciel d'études de prix | Inclusions et exclusions du périmètre, montant total, variantes, durée de validité de l'offre |
| Industrie et distribution | Saisie des commandes clients (ADV) | Bons de commande par e-mail, PDF, tableur ou formulaire scanné | La commande client dans l'ERP | Client, article, quantité, unité, adresse de livraison, date souhaitée, prix |
Les guides sectoriels détaillent deux de ces flux : l'automatisation de la saisie des commandes et l'automatisation des cotations de transport.
Choisir un flux que l'on peut noter
Le premier pilote doit porter sur un volume assez important pour être mesuré en quelques semaines, sur un document dont deux de vos collaborateurs s'accorderaient sur la bonne lecture, et sur un système cible que vous maîtrisez. Un flux qui repose sur le jugement (chiffrer une offre, accepter une réclamation) peut être assisté, mais il fait un mauvais premier test parce que sa vérité terrain est discutable.
Mesurer le processus actuel en deux semaines
La situation de départ est la référence de tous les chiffres du pilote : elle se mesure donc de la même façon, par document et tout compris. L'erreur classique consiste à ne chronométrer que la saisie. Le temps que coûte vraiment un document comprend aussi sa vérification, la relance pour ce qui manque (un appel au client, un e-mail au transporteur, une question au sous-traitant) et la correction de ce qui a été mal saisi.
| Mesure | Comment | Qui |
|---|---|---|
| Volume | Documents reçus par jour et par émetteur sur les deux semaines, plus les douze derniers mois tirés de la boîte de réception ou du journal du système cible, pour voir les pointes | DSI ou responsable du processus, depuis les journaux |
| Temps par document, tout compris | Chaque personne note le début et la fin de chaque document pendant deux semaines, en séparant saisie, vérification, relances pour une information manquante et corrections après saisie. Les relances et les corrections sont la partie que la démonstration d'un fournisseur ne montre jamais | Les personnes qui font le travail, sur un simple tableau partagé |
| Taux d'erreur | Revérifier, champ par champ, un tirage aléatoire de documents saisis le mois précédent, et compter les signaux en aval : modifications de commande, avoirs, relivraisons, rectifications en douane, avenants | Responsable du processus, avec la finance pour les signaux en aval |
| Qui fait le travail | Noms, fonctions et coût horaire chargé de chaque fonction (salaire, charges et frais de structure) | Sponsor financier |
Un tableau partagé avec une ligne par document et quatre colonnes de temps suffit. Demandez aux équipes de noter au fil de l'eau, pas en fin de journée, et dites-leur pourquoi : la mesure sert de point de comparaison, pas d'évaluation individuelle. Douze mois de volume tirés du journal du système diront si les deux semaines étaient normales.
Constituer un échantillon représentatif et un jeu réservé
Il n'existe pas de taille d'échantillon universelle. Ce qu'un échantillon peut dire dépend de la précision attendue, et deux chiffres le rendent concret. Un taux mesuré sur un échantillon s'accompagne d'un intervalle, qui se resserre lentement quand l'échantillon grandit. Et quand on n'observe aucune erreur critique, on peut seulement dire que le taux réel est inférieur à une borne qui ne dépend que de la taille de l'échantillon : environ 3 divisé par le nombre de documents. Les deux résultats viennent des méthodes classiques pour une proportion décrites dans le manuel NIST/SEMATECH (intervalle de Wilson ; borne binomiale exacte, ici unilatérale).
| Taille du jeu réservé | Intervalle autour d'un taux sans intervention observé de 70 % | Si aucune erreur critique n'est observée, le taux réel est |
|---|---|---|
| 100 documents | 70 % observés : taux réel entre 60,4 % et 78,1 % | Inférieur à 2,95 % |
| 200 documents | 70 % observés : entre 63,3 % et 75,9 % | Inférieur à 1,49 % |
| 300 documents | 70 % observés : entre 64,6 % et 74,9 % | Inférieur à 0,99 % |
| 400 documents | 70 % observés : entre 65,3 % et 74,3 % | Inférieur à 0,75 % |
| 1 000 documents | 70 % observés : entre 67,1 % et 72,8 % | Inférieur à 0,30 % |
Lisez-le à l'envers pour dimensionner votre jeu réservé : pour montrer que les erreurs critiques restent sous 1 % alors que vous n'en attendez aucune, il faut environ 300 documents dans le périmètre. Un jeu de 50 documents, fréquent en démonstration, ne peut rien montrer en dessous de 6 % environ.
Comment le tirer
- Prenez tous les documents reçus sur une période récente et continue, de quatre à huit semaines, et non ceux dont quelqu'un se souvient comme typiques.
- Attribuez à chacun une strate (tableau ci-dessous) et un émetteur.
- Tirez au hasard dans chaque strate en conservant les proportions réelles, puis ajoutez des documents des strates rares pour que chacune puisse être présentée à part.
- Partagez au hasard entre un jeu de mise au point (environ un tiers) sur lequel le fournisseur paramètre, et un jeu réservé (le reste) que vous gardez.
- Vérifiez que le jeu réservé contient des émetteurs présents dans le jeu de mise au point et d'autres absents : ce second groupe est ce que le système rencontrera en production.
| Strate | Contenu | Ce qu'elle vérifie |
|---|---|---|
| Simple | Un émetteur habituel, un PDF natif propre, tous les champs présents | Le cas que montre une démonstration ; la référence pour les autres strates |
| Difficile | Scans, photos, écriture manuscrite, tableaux sur plusieurs pages, plusieurs documents dans un fichier, langues mêlées | Là où la précision baisse |
| Incomplet | Un champ absent ou contradictoire : pas d'unité, deux adresses de livraison, une offre non signée, un total qui ne correspond pas aux lignes | Vérifie si le système signale ou devine |
| Formats rares | Un émetteur vu quelques fois par an, un type de document inhabituel, un format absent du jeu de mise au point | Vérifie la généralisation ; à présenter à part |
| Hors périmètre | Ce qui n'est pas le document attendu : une demande de prix dans la boîte des commandes, une confirmation de livraison, un e-mail commercial | Vérifie le classement ; un vrai document écarté à tort est une erreur critique |
La règle du jeu réservé
Le jeu réservé n'est jamais montré au fournisseur avant le test. Il lui est remis au moment du passage noté, traité une seule fois avec un paramétrage figé dont la version est notée, et les sorties reviennent dans un délai convenu. Aucun réglage entre la réception et la sortie. Si le paramétrage change ensuite, la notation suivante demande un nouveau jeu réservé, ou le changement se mesure sur le jeu de mise au point seulement.
Établir la vérité terrain
La vérité terrain est ce qui aurait dû être saisi pour chaque document, champ par champ. Ce n'est pas ce que votre équipe a saisi : les saisies passées contiennent des erreurs, et noter un fournisseur contre elles le pénalise quand il a raison.
- Qui annote : deux personnes qui font le travail aujourd'hui annotent chaque document du jeu réservé séparément, au moins sur les champs critiques.
- Comment trancher : un arbitre nommé, en général le responsable du processus, tranche chaque désaccord et note la raison. La règle est écrite avant le début de l'annotation.
- Ce que disent les désaccords : si deux personnes expérimentées divergent souvent sur un champ, le champ est ambigu. Corrigez sa définition avant de noter qui que ce soit, fournisseur ou équipe.
- Normalisation : écrivez quelles différences ne sont pas des erreurs (formats, abréviations, unités équivalentes) pour que la notation soit mécanique.
Erreurs critiques et mineures, définies avant le test
Un taux de précision unique traite un numéro de téléphone faux comme une adresse de livraison fausse. Classez les erreurs par champ et par conséquence, en semaine 0, avant qu'une seule sortie n'existe, pour que la grille ne puisse pas être ajustée au profit d'un fournisseur préféré. L'acheteur la définit ; le fournisseur peut la commenter.
| Gravité | Définition | Logistique | Construction | Distribution |
|---|---|---|---|---|
| Critique | Une valeur fausse ou absente qui engage de l'argent, des marchandises ou une position juridique, et qu'aucun contrôle ultérieur n'est sûr de rattraper. Un document perdu, écarté comme hors périmètre ou saisi deux fois. Compté par document ; une seule suffit pour classer le document en erreur critique. | Mauvais destinataire, code SH ou valeur en douane ; un numéro de conteneur faux d'un chiffre | Une exclusion ou une variante oubliée reportée dans le total comparé ; le montant d'un autre sous-traitant | Mauvais article, quantité, unité ou adresse de livraison ; une commande saisie deux fois |
| Mineure | Une valeur fausse qu'une personne corrigera dans le flux normal, pour un coût faible et connu, sans conséquence extérieure. Compté par document, valorisé au temps de correction. | Une référence chargeur mal orthographiée ; un numéro de téléphone manquant | Le nom du contact d'un sous-traitant erroné ; une date dans la mauvaise colonne du tableau | La référence interne du client tronquée ; un texte de bon de livraison coupé |
| Pas une erreur | Une valeur de même sens : mise en forme, casse, abréviation, date dans un autre format, unité correctement convertie. Normalisé avant notation, selon des règles écrites en semaine 0. | ACME SARL et ACME S.A.R.L. | 125 000,00 EUR et 125000 | 5 cartons de 6 et 30 unités, quand l'article se vend des deux façons |
| Rattrapée | Une erreur dans la sortie du système que le système a lui-même envoyée en contrôle, et que le contrôleur a corrigée. Pas une erreur échappée ; elle coûte du temps de contrôle. | Tout ce qui précède, signalé | Tout ce qui précède, signalé | Tout ce qui précède, signalé |
Donnez à chaque champ critique un coût tiré de vos historiques : ce qu'ont coûté en moyenne une relivraison, une rectification en douane, un avoir ou une erreur d'offre. Quand la conséquence ne se chiffre pas (un document de sécurité, une déclaration réglementaire), le champ est à tolérance nulle : il est toujours contrôlé, et la question devient la rapidité du contrôle, pas sa suppression.
Taux de traitement sans intervention : définition et dénominateur
Le taux de traitement sans intervention (straight-through) est le chiffre que les fournisseurs citent le plus, et le plus souvent calculé sur un dénominateur flatteur. Pour la notion générale, voir ce qu'est le traitement des commandes en continu. Pour un pilote, définissez-le précisément :
Définition
Taux de traitement sans intervention = documents passés de la réception au système cible sans aucune action humaine (ni contrôle, ni correction, ni réaiguillage, ni nouvel envoi manuel), divisés par tous les documents du périmètre reçus sur la période, y compris ceux que le système n'a pas su lire, a rejetés ou a classés à tort hors périmètre.
Vérifiez les trois façons de gonfler ce taux :
- Le dénominateur ne compte que les documents « traités » par le système, en laissant de côté ceux qu'il n'a pas su lire.
- Le taux est calculé par champ ou par page, pas par document.
- Les documents passés sans intervention mais avec une erreur sont comptés comme des réussites. Ce sont les pires : une erreur que personne n'a vue. Présentez toujours le taux d'erreurs échappées à côté du taux sans intervention.
La grille de notation
Une seule grille, la même pour chaque fournisseur et pour les saisies de votre équipe sur le jeu réservé. Chaque indicateur a sa définition, sa formule et la personne qui le mesure. Publiez les définitions avec les chiffres dans le compte rendu : un taux sans sa définition ne se compare à rien.
| Indicateur | Définition | Formule | Qui mesure |
|---|---|---|---|
| Documents dans le périmètre (N) | Documents du jeu réservé que la vérité terrain classe dans le périmètre, quel que soit leur sort dans le système | Comptage | Responsable du processus |
| Taux de traitement sans intervention | Documents arrivés dans le système cible sans aucune action humaine, à aucune étape | Documents sans intervention ÷ N | Responsable du processus, depuis le journal du système et celui des contrôleurs |
| Taux d'erreurs critiques échappées | Documents comportant au moins une erreur critique non signalée par le système, plus les documents perdus, écartés ou saisis deux fois | Critiques échappées ÷ N, avec sa borne haute à 95 % | Responsable du processus, contre la vérité terrain |
| Taux d'erreurs mineures échappées | Documents comportant au moins une erreur mineure non signalée | Mineures échappées ÷ N | Responsable du processus |
| Exactitude des champs critiques | Pour chaque champ critique, valeurs justes dans la sortie du système, avant tout contrôle | Valeurs justes ÷ valeurs présentes dans la vérité terrain, par champ | Responsable du processus |
| Rappel des signalements | Parmi les documents dont la sortie contenait une erreur, la part envoyée en contrôle par le système | Documents signalés avec erreur ÷ documents avec erreur | Responsable du processus |
| Taux de contrôle | Documents envoyés à une personne | Contrôlés ÷ N | Journal du système |
| Temps de contrôle | Minutes par document contrôlé, médiane et 90e centile | Relevé de temps des contrôleurs | Contrôleurs |
| Minutes humaines par document | Tout le temps humain : contrôle, traitement des exceptions, corrections en aval | Total des minutes humaines ÷ N | Responsable du processus |
| Documents sans statut | Documents reçus sans statut final (écrit, en attente avec un motif, rejeté avec un motif) | Reçus − documents avec statut final ; doit valoir 0 | DSI |
| Délai | De la réception à l'écriture dans le système cible, médiane et 90e centile | Horodatages | DSI |
| Coût par document | Temps humain, erreurs échappées et coût d'exploitation, par document | Voir la section sur le coût | Sponsor financier |
Temps de contrôle et de correction
L'automatisation supprime rarement la personne ; elle fait passer son travail de la saisie au contrôle. Le temps de ce contrôle décide de l'essentiel du calcul économique : mesurez-le sur vos contrôleurs, dans l'écran de contrôle du fournisseur, pendant le passage à l'aveugle et la semaine en parallèle.
- Le temps par document contrôlé, en médiane et au 90e centile : la médiane cache les documents qui prennent une demi-heure.
- Si le contrôleur voit le document source à l'endroit exact de chaque valeur, ou s'il doit le chercher.
- Le temps de correction des erreurs trouvées en aval, qui appartient au flux automatisé même s'il intervient plus tard.
- Les exceptions qui demandent un tiers (un client, un transporteur, un sous-traitant) : elles prennent le même temps avec ou sans automatisation, et se comptent des deux côtés.
Pour les commandes clients, le guide sur le traitement des exceptions de commande en ADV décrit ce que doit montrer un écran de contrôle et comment typer les exceptions.
Le coût complet par document
La licence est la ligne visible. Le pilote est le moment où les autres deviennent mesurables.
| Poste | Ce qu'il couvre | Origine du chiffre | Récurrent ou ponctuel |
|---|---|---|---|
| Licence ou abonnement | Par document, par page, par utilisateur ou forfaitaire ; minimums d'engagement et prix des dépassements ; ce qui compte comme une page ou un document | Devis | Récurrent |
| Intégration | Connexion à la boîte de réception et au système cible, travail du fournisseur et de votre DSI | Devis, estimation de la DSI | Ponctuel |
| Données de référence | Nettoyage des fichiers clients, articles, transporteurs ou du plan de codification ; tables de correspondance | Constats du pilote | Ponctuel, puis entretien |
| Temps de contrôle | Minutes mesurées par document × volume × coût horaire chargé | Pilote | Récurrent |
| Erreurs échappées | Taux mesurés × volume × votre coût par erreur critique et par erreur mineure | Pilote et vos propres historiques | Récurrent |
| Maintenance | Nouveaux émetteurs et formats, changements de règles, mises à jour du système cible : qui les fait et qui les paie | Contrat | Récurrent |
| Temps interne | Responsable du processus, DSI et annotateurs pendant le pilote et en exploitation | Vos relevés de temps | Les deux |
| Sortie | Export des données, des journaux et du paramétrage ; fonctionnement en parallèle pendant une bascule | Contrat | À la fin |
Formule
Coût par document = (coût d'exploitation annuel + coûts ponctuels répartis sur leur durée d'amortissement + heures de contrôle × coût horaire chargé + erreurs critiques échappées × coût d'une erreur critique + erreurs mineures échappées × coût d'une erreur mineure) ÷ volume annuel dans le périmètre.
Calculez le même chiffre pour le processus actuel : heures de départ × coût horaire chargé, plus les erreurs échappées de l'équipe × les mêmes coûts d'erreur. C'est le chiffre que le processus automatisé doit battre, avec les mêmes définitions des deux côtés.
Exemple chiffré : le compte rendu d'un pilote
Exemple illustratif, chiffres inventés : un négoce de matériaux de construction note deux fournisseurs et sa propre équipe sur les commandes clients
Hypothèses, toutes inventées. Le jeu réservé compte 400 documents tirés de six semaines de la boîte commandes ; la vérité terrain en classe 20 comme des non-commandes, d'où N = 380 commandes. Situation de départ : 9,0 minutes par commande pour la saisie, la vérification et les relances ; les corrections après saisie sont comptées par les lignes d'erreurs, dans les trois colonnes, pour ne pas les compter deux fois. Coût horaire chargé : 45 €. Coût d'une erreur critique, d'après les historiques de relivraisons et d'avoirs du négoce : 350 €. Une erreur mineure se corrige en 5 minutes. Le contrôle prend 4,0 minutes par commande contrôlée chez les deux fournisseurs. Tolérance fixée en semaine 0 : des erreurs critiques échappées pas plus fréquentes que celles de l'équipe sur le même jeu réservé, lues sur la borne haute à 95 %.
| Mesure | Équipe (saisies passées) | Fournisseur A | Fournisseur B |
|---|---|---|---|
| Sans intervention | Sans objet | 300 sur 380 : 78,9 % (74,6 % à 82,7 %) | 247 sur 380 : 65,0 % (60,1 % à 69,6 %) |
| Envoyées en contrôle | 380 (tout manuel) | 79 | 133 |
| Écartées à tort comme hors périmètre | 0 | 1 | 0 |
| Erreurs critiques échappées | 3 (0,79 %) | 6 (1,58 %) | 0 (borne haute 0,79 %) |
| Erreurs mineures échappées | 11 | 15 | 9 |
| Minutes humaines | 380 × 9,0 = 3 420 | 79 × 4,0 + 15 × 5 = 391 | 133 × 4,0 + 9 × 5 = 577 |
| Coût humain à 45 € de l'heure | 2 565,00 € | 293,25 € | 432,75 € |
| Erreurs critiques à 350 € pièce | 1 050,00 € | 2 100,00 € | 0,00 € |
| Corrections d'erreurs mineures à 5 minutes chacune | 11 × 5 min : 41,25 € | 15 × 5 min, dans les minutes humaines ci-dessus | 9 × 5 min, dans les minutes humaines ci-dessus |
| Coût humain et coût des erreurs | 3 656,25 € | 2 393,25 € | 432,75 € |
| Par commande (÷ 380) | 9,62 € | 6,30 € | 1,14 € |
Le taux. Le fournisseur A fait passer 300 commandes sur 380 sans intervention, soit 78,9 % ; le fournisseur B 247, soit 65,0 %. Leurs intervalles (74,6 % à 82,7 %, et 60,1 % à 69,6 %) ne se recouvrent pas : A automatise réellement davantage.
Les erreurs. A a laissé passer 6 erreurs critiques : 5 commandes saisies avec une mauvaise quantité ou une mauvaise adresse de livraison, et 1 vraie commande écartée comme non-commande. Cela fait 1,58 %, le double des 0,79 % de l'équipe (3 sur 380, en notant ses saisies passées contre la même vérité terrain). B n'en a laissé passer aucune ; zéro sur 380 situe son taux réel sous 0,79 %, ce qui atteint tout juste la tolérance.
Le coût. Les six erreurs critiques de A coûtent 2 100 €, soit 88 % de ses 2 393,25 € de coût humain et d'erreurs. Par commande, A coûte 6,30 € et B 1,14 €, contre 9,62 € pour le processus actuel. L'écart entre les deux fournisseurs, 5,16 € par commande, est ce dont le coût d'exploitation par commande de B pourrait dépasser celui de A avant que A ne devienne l'option la moins chère.
La décision. A échoue sur le seuil d'erreurs critiques, quel que soit son taux. B le franchit sur ce jeu réservé, avec une marge étroite que fixe la taille de l'échantillon : le compte rendu recommande un go pour B sur le périmètre du pilote, avec l'échantillon d'audit hebdomadaire dès le premier jour, et les champs critiques de la strate des formats rares maintenus en contrôle jusqu'à confirmation sur un échantillon plus grand. Un taux sans intervention plus élevé obtenu au prix d'erreurs que personne ne voit est un moins bon résultat, pas un meilleur.
Remplacer les hypothèses du calculateur de ROI par les valeurs du pilote
Le calculateur de ROI de l'automatisation part de valeurs d'exemple. Après un pilote, chacune a une valeur mesurée pour la remplacer :
| Champ du calculateur | Valeur du pilote à saisir |
|---|---|
| Commandes, documents ou métrés par mois | Le volume relevé pendant la mesure de départ, pour le mois que vous dimensionnez (pas le plus calme) |
| Minutes (ou heures) de travail manuel par unité | Le temps par document de la mesure de départ, tout compris : saisie, vérification, relances et corrections |
| Part traitée par l'agent | Le taux de traitement sans intervention mesuré sur le jeu réservé, avec le dénominateur défini plus haut. Mettez la borne basse de son intervalle dans le scénario prudent |
| Temps de contrôle par unité automatisée | Les minutes humaines encore passées sur les documents traités sans intervention : corrections en aval et échantillon d'audit après le lancement, divisées par leur nombre |
| Mois avant que le flux tourne, mois pour atteindre la part complète | Le plan du fournisseur après le pilote, confronté à ce qu'a montré le fonctionnement en parallèle |
| Coût unique, coût annuel | Le devis, plus l'intégration et le travail sur les données de référence ; la maintenance dans le coût annuel |
| Heures de votre équipe pendant le déploiement | Les heures relevées pendant le pilote, prolongées selon le plan de déploiement |
| Part du temps libéré qui supprime un coût | Votre décision : heures supplémentaires, intérim ou recrutement évité. Zéro si les heures deviennent de la capacité |
Deux limites à garder en tête. Le calculateur ne valorise que des heures : ajoutez à part le coût des erreurs échappées mesuré pendant le pilote, car il peut renverser le résultat, comme le montre le fournisseur A. Et il compte comme entièrement manuel tout document hors de la part sans intervention ; quand le contrôle assisté est bien plus rapide que la saisie, le gain réel est plus grand. Notez l'écart dans le dossier plutôt que de gonfler la part pour l'absorber. Pour le fret en particulier, construire le dossier ROI de l'automatisation des documents de fret détaille davantage les postes de coût.
Les critères de mise en production pour votre activité
Un seuil emprunté à la brochure d'un fournisseur ou au projet d'une autre entreprise ne dit rien de la vôtre. Fixez chacun en semaine 0, à partir de votre situation de départ et de vos coûts d'erreur :
- Erreurs critiques échappées : pas plus fréquentes que celles de votre équipe sur le même jeu réservé, ou moins si l'erreur coûte cher ; lues sur la borne haute de l'intervalle, pas sur la valeur observée.
- Documents sans statut : zéro. Chaque document atteint un statut final : écrit, en attente avec un motif, ou rejeté avec un motif. C'est une exigence de conception, pas une statistique.
- Coût par document : inférieur au coût de départ par document, toutes lignes comprises, à la borne basse du taux sans intervention.
- File de contrôle : des documents contrôlés dans le délai qu'exige votre processus (avant l'heure limite d'expédition, avant la date de remise d'une offre, avant l'échéance de confirmation au client).
- Point mort sur les erreurs : si l'automatisation économise S par document en temps humain et qu'une erreur critique coûte C, un surcroît d'erreurs critiques par document supérieur à S ÷ C efface l'économie. Dans l'exemple, B économise 8,48 € par commande avant coût d'exploitation (9,62 € − 1,14 €) ; avec des erreurs à 350 €, le surcroît d'erreurs critiques qu'il pourrait se permettre est de 2,4 %. A, à 1,58 %, montre pourquoi le seuil doit être plus strict que le point mort quand l'erreur retombe sur un client.
Le tableau de décision go/no-go
| Décision | Situation au compte rendu | Étape suivante |
|---|---|---|
| Go | Tous les seuils atteints sur le jeu réservé et en parallèle ; borne haute des erreurs critiques échappées dans votre tolérance ; aucun document sans statut ; données, journaux et paramétrage exportables | Mise en production sur le périmètre du pilote, avec l'échantillon d'audit hebdomadaire dès le premier jour |
| Go partiel | Seuils atteints pour certaines strates (émetteurs habituels, PDF natifs) et pas pour d'autres (scans, formats rares) | Traitement sans intervention pour les strates validées, tout le reste en contrôle ; nouveau test des autres plus tard sur un nouveau jeu réservé |
| Prolonger | Les valeurs observées atteignent les seuils mais l'intervalle est trop large pour trancher, en général parce que le jeu réservé était petit | Un jeu réservé plus grand ou une période en parallèle plus longue, paramétrage toujours figé. Jamais de nouvelle notation sur le même jeu réservé après réglage |
| No-go, ou contrôle imposé sur les champs critiques | Erreurs critiques échappées au-dessus de la tolérance après un cycle de réglage sur le jeu de mise au point | Arrêter, ou imposer le contrôle des champs critiques et recalculer le coût par document avec ce temps de contrôle en plus |
| No-go | Un document sans statut, ou un document écarté sans trace | Un défaut de conception, pas de réglage : corrigé et retesté avant toute autre chose |
| No-go | Coût par document, aux taux mesurés, supérieur à la situation de départ | Arrêter sur ce flux ; le pilote vous a évité le déploiement complet |
| No-go tant que le contrat ne change pas | Sorties, journaux ou paramétrage non exportables, ou conditions de sortie laissées ouvertes | À corriger dans le contrat avant signature, quels que soient les résultats |
Les responsabilités après la mise en production
Un système qui a fonctionné sur le jeu réservé dérive quand les clients changent de format, que les transporteurs ajoutent des champs ou que la liste de prix change. Décidez qui fait quoi avant la mise en production, et inscrivez la part du fournisseur dans le contrat.
| Tâche | Votre côté | Côté fournisseur | Fréquence |
|---|---|---|---|
| Changements de règles et de correspondances (nouveau client, nouveau transporteur, nouveau code, liste de prix) | Le responsable du processus décide | Le fournisseur ou votre administrateur applique, avec un journal des modifications daté | Au besoin |
| Entretien des données de référence | Responsable de l'ERP ou du système | Lit les données de référence ; n'y écrit qu'avec votre accord | En continu |
| Audit qualité : un tirage aléatoire de documents traités sans intervention, revérifiés contre leur source | Responsable du processus | Exporte le tirage avec les documents sources | Chaque semaine |
| Test de non-régression : le jeu réservé repassé après tout changement de modèle, de règle ou de paramétrage | La DSI note | Le passe avant que le changement n'arrive en production | À chaque version |
| Délai de traitement de la file de contrôle (par exemple, commandes contrôlées avant l'heure limite) | Chef d'équipe | Alerte quand la file dépasse le délai que vous fixez | Chaque jour |
| Escalade : un document sans statut, une hausse des erreurs, une panne | Une personne nommée de votre côté, avec un suppléant | Un support avec un délai de réponse écrit dans le contrat | Sur événement |
| Revue de performance au regard des seuils de mise en production | Sponsor financier | Fournit les chiffres avec leurs définitions | Chaque mois, puis chaque trimestre |
Gardez le jeu réservé. Après le lancement, il devient le test de non-régression : tout changement y est repassé et noté avec la même grille avant d'arriver en production.
Réversibilité et export des données
Réglez la sortie avant l'entrée. Cinq choses sont produites pendant le pilote et l'exploitation, et le contrat doit dire à qui appartient chacune et comment elle sort :
| Quoi | Contenu | Conditions à demander |
|---|---|---|
| Données extraites | Chaque valeur écrite, avec le document dont elle vient | À vous ; exportables à tout moment dans un format ouvert (CSV ou JSON) |
| Documents sources | Les fichiers originaux tels que reçus | À vous ; restitués ou supprimés à la fin, à votre choix |
| Journaux | Qui ou quoi a décidé chaque valeur, quand, selon quelle règle ou quelle version du paramétrage, et chaque correction humaine | À vous ; exportables, avec une durée de conservation que vous fixez |
| Paramétrage | Correspondances de champs, règles, tables de correspondance, modèles ou instructions, seuils | Exportable sous une forme lisible ; le logiciel du fournisseur reste le sien, mais les règles qui décrivent votre activité sont les vôtres |
| Vérité terrain et jeux de test | Votre jeu réservé annoté et les grilles de notation | À vous ; jamais utilisés pour entraîner quoi que ce soit au profit d'autres clients sans votre accord écrit |
Des documents comme les commandes ou les dossiers de transport contiennent des données personnelles (noms, adresses e-mail, téléphones). Lorsque le RGPD s'applique, le contrat de sous-traitance doit prévoir que le fournisseur, selon votre choix, supprime ces données ou vous les renvoie au terme de la prestation et détruit les copies existantes, et qu'il met à votre disposition les informations nécessaires pour démontrer le respect de ses obligations et permettre des audits (RGPD, article 28, paragraphe 3, points g et h). Dans l'Union, le règlement sur les données (Data Act), applicable depuis le 12 septembre 2025, encadre aussi le changement de fournisseur de services de traitement de données ; savoir si votre contrat en relève est une question pour votre conseil juridique.
La clause de sortie, en pratique
- Un préavis et une période d'assistance pendant laquelle le fournisseur continue de fonctionner le temps de la bascule.
- L'export des données extraites, des journaux et du paramétrage dans des formats ouverts, sur demande et à la fin, avec tout frais annoncé à l'avance.
- La restitution ou la suppression des documents et des données, à votre choix, avec une confirmation écrite.
- Un fonctionnement en parallèle avec le système suivant, sur le jeu réservé et sur le flux réel, avant l'arrêt de l'ancien.
Le lieu de traitement des documents, la détention des clés et le retrait des accès relèvent de la même revue ; Mirage expose ses propres réponses sur sa page sécurité.
Comment Mirage mène ses propres pilotes
Cette section décrit la démarche de Mirage, à part du protocole ci-dessus. Mirage montre une preuve de concept qui fonctionne sur un échantillon des documents du client une semaine après le premier rendez-vous. Si le client poursuit, le pilote porte sur un workflow, mené à prix fixe par des ingénieurs sur site, et le client peut s'arrêter ensuite avec la production et la comparaison en main ; l'abonnement ne commence que s'il continue. Le premier workflow arrive en production en 4 à 6 semaines. Les journaux d'audit restent sous le contrôle du client. Les conditions figurent sur la page entreprises et dans la présentation de Mirage ; le modèle de travail est décrit dans le guide du forward deployed engineering. Le protocole de ce guide s'applique à Mirage comme à tout fournisseur : demandez le passage à l'aveugle sur le jeu réservé et la grille de notation dans le périmètre du pilote.
Questions fréquentes
Le temps de mesurer la situation de départ, d'annoter un jeu réservé, de laisser le fournisseur paramétrer sur d'autres documents, de passer le jeu réservé à l'aveugle et de fonctionner quelques jours en parallèle sur le flux réel : environ sept semaines dans le plan ci-dessus. La taille de l'échantillon compte plus que le calendrier. Un fournisseur qui montre plus vite une preuve de concept qui fonctionne raccourcit les semaines de paramétrage, pas la mesure de départ ni le test à l'aveugle.
Pas pour le test noté. Des documents choisis par le fournisseur, ou qu'il a déjà vus, mesurent son meilleur cas. Tirez vous-même le jeu réservé dans une période récente du flux réel, gardez-le jusqu'au test, et donnez au fournisseur un jeu de mise au point distinct.
Rien tant que l'on ne connaît pas son unité, son dénominateur et les erreurs qu'elle compte. Précision par champ et précision par document n'ont rien à voir : avec 20 champs par document justes chacun 99 % du temps, et des erreurs indépendantes, seuls 82 % environ des documents (0,99 puissance 20) sortent avec tous leurs champs justes. Demandez le taux d'erreurs échappées par document, critique et mineur, sur votre propre jeu réservé.
Notez l'équipe sur le même jeu réservé. Il est tiré de documents passés : les valeurs réellement saisies par votre équipe sont dans le système cible. Comparez-les à la vérité terrain exactement comme la sortie du fournisseur. Les deux taux ont alors le même dénominateur et la même définition de l'erreur.
Le test à l'aveugle sur le jeu réservé, oui : des documents en entrée, des valeurs en sortie, une notation dans un tableur. Le fonctionnement en parallèle et la décision de mise en production, non : il faut un environnement de test du système cible, une revue de sécurité sur le lieu de traitement des documents et un responsable de l'intégration.
Sources et périmètre
Vérifié le . Périmètre : l'évaluation des solutions d'automatisation documentaire. Le protocole, les tableaux et l'exemple chiffré sont la méthode de Mirage, avec des chiffres inventés ; les statistiques suivent le manuel du NIST ; les deux textes européens sont cités pour ce qu'ils exigent, pas comme un conseil juridique.
- NIST/SEMATECH e-Handbook of Statistical Methods, section 7.2.4.1, Confidence intervals (en anglais) : l'intervalle de Wilson pour une proportion et les bornes binomiales exactes, utilisés pour le tableau de taille d'échantillon et les bornes de l'exemple
- CNIL, texte du RGPD, chapitre IV, article 28 : le sous-traitant supprime ou renvoie les données personnelles au terme de la prestation, au choix du responsable du traitement, et met à sa disposition les informations nécessaires pour démontrer le respect de ses obligations et permettre des audits (article 28, paragraphe 3, points g et h)
- Commission européenne, règlement sur les données (Data Act) : applicable depuis le 12 septembre 2025 ; cadre permettant aux clients de changer de fournisseur de services de traitement de données
- Mirage Metrics, À propos : la démarche de Mirage : preuve de concept une semaine après le premier rendez-vous, pilote à prix fixe après lequel le client peut s'arrêter, premier workflow en production en 4 à 6 semaines
- Mirage Metrics, Entreprises : l'arrêt possible après le pilote, avec la production et la comparaison en main ; les journaux d'audit sous le contrôle du client
Sur le même sujet
- Calculateur de ROI de l'automatisation : là où vont les valeurs du pilote
- Automatiser la saisie des commandes : le flux de commandes en détail
- Automatiser les cotations de transport : le flux de cotation en détail
- Exceptions de commande en ADV : les règles d'exception et l'écran de contrôle
- Forward deployed engineering : le modèle de travail derrière un pilote sur site
- Sécurité : où Mirage fonctionne et qui détient les données
- Entreprises : les conditions de pilote et de contrat de Mirage
Envoyez-nous les documents et la grille de notation
Envoyez un échantillon des documents du flux à évaluer et les champs qui comptent pour vous. Nous revenons avec un périmètre, les strates que nous testerions, une grille de gravité en projet et le plan du pilote, pour que vous puissiez appliquer le protocole à Mirage comme à tout fournisseur.
Vous préférez en discuter ? Réserver un appel