L’IA et la peur de la boîte noire : l’exemple du DDMRP

« Tout homme d’affaires, j’imagine, évalue le profit qu’il tirera du capital qu’il investit. C’est une règle du jeu pour ainsi dire. » C’est par ces mots que le grand innovateur Alfred Sloan, dans son ouvrage Mes années à la General Motors (1963), pose l’essence des sciences de gestion autour d’une obsession : l’anticipation de l’avenir. Prévision et planification méthodique sont ce paradigme qui structure le management des entreprises depuis toujours. Et c’est pour répondre à cet objectif que les méthodes et les outils se sont complexifiés au fur et à mesure que les environnements économiques devenaient incertains.

Mais voilà que l’Intelligence Artificielle fait la promesse, comme toute machine, de permettre à l’homme de dépasser ses propres limites. Dans le domaine de la Supply Chain, l’évolution de l’informatique depuis les années 1970 s’inscrit clairement dans ce but d’y développer un outil prévisionnel et planificateur omniscient. Dans ce secteur, la méthode MRPsup(1) (Orlicky, 1965), qui reprend les bases du contrôle budgétaire (McKinsey, 1923), structure la planification des opérations à partir de prévisions objectivées des ventes. Sont venus ensuite les ERPsup(2) pour sécuriser la disponibilité des données nécessaires, en intégrant tous les processus de l’entreprise dans un système informatique unique. Puis les APSsup(3), sortes d’ « IA faiblessup(4)» qui permettent de traiter ces données. Aujourd’hui, « les méthodes actuelles utilisées dans le développement de l’IA, qu’elles relèvent du machine learning ou du deep learning, reposent toutes sur des jeux de données nécessaires à l’entraînement en vue de construire un modèle prédictif. » (Isaac, 2020)

Mais dans le sillon du manifeste agile (Kent, et al., 2001), une voie intermédiaire prônant la simplification et l’intelligence collective est apparue en Supply Chain : celle du DDMRPsup(5) (Ptak & Chad, 2011).

La méthode se propose de rompre avec la quête du Graal de la prévision fiable au profit d’une gestion agile à mi-chemin entre flux poussés et flux tirés. Le principe est d’intégrer à l’ordonnancement et aux interdépendances de la méthode MRP une dynamique de simplification et d’amélioration continue empruntée aux méthodes du Lean management.

Il y a dans l’esprit une volonté réelle de simplification par une gestion des risques avec des niveaux restreints, et déterminés par des calculs coupés des approches probabilistes complexes nécessitant algorithmes puissants ou réseaux neuronaux. L’idée centrale est bien que la méthode soit appropriable et utilisable par des humains.

Pourquoi son émergence ? Traduit-elle un luddisme, une opposition aux nouvelles technologies lié à une perte de confiance envers les outils digitaux, ou bien une rupture de la doctrine de la prévision qui limiterait le besoin d’outil ?

En 2015 en France, une présentation du DDMRP est faite lors d’un évènement organisé par Supply Chain Magazinesup(6) devant un parterre de professionnels. Et la principale raison qui y est soulevée pour justifier cette nouvelle méthode peut se résumer ainsi : l’approvisionneur ne sait pas juger de la pertinence des préconisations de son outil. Le système semble faire des recommandations contradictoires qu’on ne peut expliquer. Or, c’est à l’approvisionneur que revient la responsabilité de suivre ou non les recommandations de la machine.

Problème donc, là ou un opérateur humain est apte à contrôler la qualité attendue d’une pièce produite par un robot industriel, ce même opérateur humain peut-il contrôler une décision prise par une machine, alors que l’existence même de celle-ci est justifiée par le fait que cet opérateur n’a lui-même n’a pas les capacités cognitives d’aboutir à cette décision ?

Cette disjonction entre la décision de l’outil et la responsabilité de l’utilisateur est la question centrale. Les défaillances du système MCAS lors des crashs des 737 Max en 2019 en sont un exemple parlant. Tant sur la question de la compréhension de l’outil par les pilotes que sur la reconnaissance des responsabilités de Boeing. La législation est depuis en marche en Europesup(7) et en Francesup(8) avec par exemple, la reconnaissance de la responsabilité des fabricants des systèmes de conduite autonome. Ce principe pourrait s’étendre à l’avenir à toutes les formes d’IA.

L’intelligibilité des machines est donc l’enjeu majeur de l’utilisation des IA dans le pilotage des organisations. Sans elle, l’entreprise cliente y abandonne inévitablement ses prérogatives décisionnelles et le fabricant risque d’engager sa responsabilité dans les résultats économiques de son client.

(1) MRP: Material Requirements Planning. Méthode de planification des besoins de production

(2) ERP: Enterprise Resource Planning. Système informatique intégré

(3) APS: Advanced Planning and Scheduling. Application de planification et de prévision des approvisionnements

(4) « Narrow AI » : Traite une tâche spécifique mieux qu’un humain (Kurzweil, 2005) et (Goertzel, 2007)

(5) DDMRP: Demand Driven Material Resource Planning. Méthode agile de gestion des approvisionnements

(6) https://www.youtube.com/watch?v=mDr-wUkM5ns

(7) RÈGLEMENT (UE) 2018/1139 DU PARLEMENT EUROPÉEN ET DU CONSEIL https://www.idit.fr/infonews/documents/3933.pdf

(8) Ordonnance n° 2021–443 du 14 avril 2021 relative au régime de responsabilité pénale applicable en cas de circulation d’un véhicule à délégation de conduite et à ses conditions d’utilisation https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000043370894

Par Frantz Frebault, Consultant Senior Square.