Éric Hazan : Face à l’IA, « le manager doit maintenir ses muscles décisionnels »

Tout d’abord, quand et comment déléguer une décision à l’IA ?

Eric Hazan (EH) – Dans notre livre, Faut-il encore décider ? La décision humaine à l’ère de l’intelligence artificielle (Flammarion), nous rappelons que le principal risque avec l’IA, c’est d’arrêter de réfléchir. Nous avons listé les situations dans lesquelles nous pouvons déléguer complètement, partiellement ou pas du tout une décision à l’IA. C’est un arbitrage délicat, car parfois, lorsque nous refusons de déléguer des tâches à l’IA, par méfiance ou par rejet, c’est nous qui sommes dans l’erreur. Dans certains cas, l’IA permet incontestablement une décision meilleure et plus rapide. Mais, dans d’autres cas, la codécision avec l’IA est indispensable. Chaque entreprise doit dresser sa propre carte des décisions.

Cette cartographie doit répondre à un niveau d’acceptabilité et de pertinence. La pertinence est élevée quand les données sont nombreuses et que nous souhaitons optimiser une métrique relativement claire. Il ne doit pas y avoir d’ambiguïté, de complexité ou de dimension humaine à prendre en compte. À l’inverse, lors d’une prise de décision managériale ou lors d’un recrutement, il n’est pas souhaitable de déléguer complètement cette décision à l’IA. Nous ne pouvons pas la réduire à un calcul mathématique. Nous devons continuer à accepter l’imperfection humaine.

Il y a aussi une question de responsabilité. Le nouveau rôle du dirigeant est de définir les règles de fonctionnement de l’IA, de sorte à toujours pouvoir en assumer les décisions. L’IA ne doit jamais devenir un alibi permettant de dire : « Ce n’est pas de ma faute, c’est la machine qui m’a dit de le faire. »

Si l’entreprise n’a pas encore dressé de cartographie des décisions, comme vous le dites, comment le manager peut-il savoir ce qu’il doit déléguer ?

EH – Le manager peut, dès aujourd’hui, s’appliquer à lui-même une cartographie miniature – décision par décision, processus par processus – en se posant trois questions successives. Premièrement, « l’objectif que je poursuis est-il clair et largement partagé ? ». « Détecter une fraude bancaire », « optimiser une tournée de livraison » : ces objectifs sont explicites, alors la délégation est possible. A l’inverse, « recruter », « promouvoir », « allouer un budget entre équipes » : ces objectifs sont plus ambigus, la codécision s’impose. Deuxièmement, « ai-je des données abondantes, fiables et représentatives ? » Sans données de qualité, l’IA ne fera qu’amplifier et rendre invisibles les biais de mes pratiques passées. Troisièmement, « les conséquences d’une erreur sont-elles réversibles ? » Une recommandation logistique erronée coûte quelques euros ; une décision judiciaire ou une frappe militaire ne se rattrape pas.

À lire aussi

Intelligence artificielle : jusqu’où va la responsabilité pénale du dirigeant ?

Ces trois tests suffisent à orienter le manager vers l’une des cinq zones du livre nommées : « territoire conquis », « marais de l’inquiétude », « vallée de la tentation », « zone interdite », ou « codécision ». Le principe est simple : commencer par les territoires conquis, où la délégation à l’IA améliore franchement les décisions, et remonter progressivement vers les décisions plus complexes. Il faut aussi ajouter une quatrième question, souvent oubliée : « les collaborateurs, les clients, les régulateurs accepteront-ils cette délégation ? » La performance technique et l’acceptabilité sociale ne se rejoignent pas forcément – un algorithme parfaitement précis peut demeurer inutilisable s’il est rejeté par ceux qu’il concerne ou par une large majorité.

Quels bénéfices majeurs le manager a-t-il à codécider avec l’IA ?

EH – A ce jour, j’identifie cinq bénéfices majeurs. La cohérence, d’abord : les jugements humains sont truffés de ce que le psychologue Daniel Kahneman appelle le « bruit » – des variances selon l’humeur, la fatigue, l’ordre des dossiers, l’identité de l’évaluateur. L’IA, elle, introduit une stabilité que nous ne sommes pas capables de tenir seuls.

Ensuite, l’échelle et la vitesse : l’IA peut traiter en quelques secondes ce qui prendrait des semaines aux individus. Troisièmement, l’explicitation forcée des critères : pour paramétrer l’algorithme, il faut mettre par écrit ce qu’on cherche à optimiser – exercice salutaire que la plupart des organisations n’ont jamais fait. Vient après, le contre-pouvoir cognitif : bien utilisée, l’IA est un formidable avocat du diable qui challenge nos intuitions, découvre les contre-exemples que nous aurions manqués, propose les hypothèses que nous n’aurions pas envisagées. La libération du temps, enfin, pour ce que le manager a de mieux que la machine : arbitrer entre valeurs incommensurables, gérer les cas singuliers, animer un collectif, porter le sens au travail, etc.

Il faut ajouter un bénéfice discret, mais massif : la codécision bien conçue permet, contrairement à l’idée reçue, de faire mieux qu’un humain seul ou que la machine seule – à condition d’assigner à l’IA les tâches où elle excelle (mémoire, cohérence, calcul, exhaustivité) et à l’humain celles où il est irremplaçable (jugement contextuel, arbitrage entre valeurs, responsabilité assumée).

Lorsqu’une réponse a été générée, à quoi doit-il rester vigilant ?

EH – Là encore, il existe des risques principaux au quotidien. Le baratin plausible – que les philosophes ont appelé le « bullshit ». Soit un grand modèle de langage optimisé pour paraître convaincant, mais pas pour dire vrai. Il produit de fausses citations, des chiffres inventés, des références inexistantes avec une assurance parfaite. Ensuite, l’autre écueil, c’est la « sycophancy » – autrement dit, la tendance à approuver ou à flatter les opinions d’autrui par intérêt, par peur du conflit ou pour plaire. L’outil, lui aussi, confirme ce que l’utilisateur suggère. Si vous formulez votre question en laissant transparaître la réponse que vous attendez, l’IA vous la servira. Il faut, donc, formuler neutrement ou demander explicitement à l’IA de contester votre position.

En langage IA, on appelle ça le LLM (Large Language Model, ndlr). Un LLM n’est pas neutre : il reflète la surreprésentation de certaines langues, de certaines époques, de certains courants intellectuels, philosophiques et politiques. Ces biais sont incorporés à son corpus d’entraînement et ne se corrigent pas par une consigne finale du type « soyez équitable ». Faire confiance à un LLM sans avoir pesé ses données d’entraînement, c’est faire confiance à un jugement dont on ignore la formation. Il est fortement probable de reproduire des biais historiques. Si vous entraînez un modèle sur vos décisions passées (recrutements, promotions, évaluations), il reproduira mécaniquement les biais de ces décisions. L’affaire COMPAS aux États-Unis en 2016 en est l’illustration parfaite.

Si l’IA décide à la place du manager, quel est le rôle du management ?

EH – Face à l’essor de l’IA, le rôle du manager ne disparaît pas : il se déplace, et vers le haut. Cinq missions demeurent et se renforcent. Pour commencer, le manager devient un architecte du processus de décision. Pour chaque famille de décisions, le manager conçoit qui – humain, IA, ou les deux ensemble – décide, à quel moment, et avec quels garde-fous. C’est un travail d’ingénierie organisationnelle inédit et plus stratégique que ce qu’on demandait autrefois à un manager. Dans un second temps, il devient aussi un définisseur d’objectifs. La fonction que l’algorithme optimise engage la vision de l’entreprise : maximiser la marge de court terme ou la valeur de long terme ? La rapidité ou l’équité ? Le manager fixe ces objectifs – ce qui suppose de les avoir explicités, débattus, hiérarchisés. C’est là le nouveau lieu de la décision, plus stratégique qu’aucune décision individuelle.

Le manager se transforme également en arbitre des cas non couverts. L’IA n’excelle, en effet, que dans les situations dont ses données rendent compte. Les cas atypiques, les signaux faibles, les nouveautés, les dilemmes moraux – tout cela revient, encore aujourd’hui, au manager. Et c’est précisément dans ces cas-là que se joue sa valeur ajoutée. En cela, comme je le disais au préalable, il est le porteur de la responsabilité en entreprise. Une décision doit toujours pouvoir être imputée à quelqu’un. C’est là, plus que dans le choix lui-même, que se loge désormais l’essentiel de son autorité.

Enfin, le manager doit se positionner en animateur du collectif humain : gérer les émotions, la motivation, la culture de l’entreprise ou d’un secteur, transmettre l’art du discernement aux plus jeunes qui sont encore en train d’apprendre un métier, développer les compétences de ses équipes, etc. Tout cela reste hors de portée des machines. En d’autres termes, la partie du management qui touche à l’humain sort renforcée par la révolution IA, et non diminuée. C’est un management qui redevient – car il n’aurait jamais dû cesser de l’être – un métier humain de jugement, d’engagement et de responsabilité.

Enfin, comment cultiver son esprit critique concrètement ?

EH – Il existe six habitudes simples, à installer dans sa pratique quotidienne :

• Comprendre a minima l’outil qu’on utilise : savoir ce qu’un modèle sait faire (interpoler dans son corpus) et ce qu’il ne sait pas faire (extrapoler dans le nouveau, garantir la vérité, être déterministe).
• Ensuite, vérifier systématiquement les faits, les chiffres, les références. Un LLM invente avec aplomb. La règle incontournable : jamais de citation, jamais de statistique, jamais de nom propre publié sans contrôle indépendant.
• Il est important de formuler ses questions de façon neutre. Ne pas suggérer la réponse attendue. Poser les alternatives de manière équilibrée.
• Demander explicitement à l’IA de contester une position, croiser plusieurs sources. Si deux LLM répondent différemment à la même question, vous êtes sur un terrain contesté – il faut alors chercher les sources primaires.
• Formaliser ses désaccords avec la machine. Chaque fois que vous décidez d’écarter la recommandation de l’IA, expliquez-vous par écrit : « qu’est-ce qui, dans votre contexte, dans votre expérience, dans les valeurs que vous portez, justifie ce désaccord ? » Cet exercice discipline le jugement et évite l’aversion réflexe.
• Cultiver, enfin, la connaissance de ses propres biais. On ne peut pas distinguer les erreurs de la machine des siennes propres si on ne connaît pas ses biais. Pour cela, il faut se ménager des espaces sans IA, des périodes où l’on décide seul, ou en dialogue avec des humains, ou encore en marchant.

À ces six habitudes, il faut ajouter une exigence organisationnelle : refonder les cursus universitaires et les parcours de formation professionnelle autour d’une double compétence : la capacité à travailler avec des systèmes intelligents d’un côté ; mais aussi, à développer des aptitudes sociales, éthiques et émotionnelles de l’autre. L’esprit critique ne peut être seulement individuel ; il doit devenir une pratique collective, partagée, transmise. C’est à cette condition qu’un manager pourra dire, dans dix ans, non pas : « j’ai suivi la recommandation du système », mais « j’ai décidé, en connaissance de cause, avec l’aide du système. »

À lire aussi

Olivier Babeau : « Les cadres qui se croyaient protégés deviennent les premières victimes de l’IA »

Pour conclure, l’esprit critique est un muscle : il s’atrophie si on ne l’utilise plus. Le pire scénario n’est pas celui de la machine qui décide à notre place ; c’est celui de l’humain qui, à force de suivre ce qu’on lui suggère de faire, oublie comment décider. Comme cela a été le cas avec Google Maps qui a atrophié notre sens de l’orientation, l’IA menace d’atrophier nos capacités de jugement si nous cessons de les exercer. Le manager doit se ménager des moments sans IA pour maintenir ses muscles décisionnels.