Lorsque les systèmes échouent, le leadership des personnes doit prévaloir

19 janvier 2024

Le long scandale de l'erreur judiciaire de Post Office au Royaume-Uni, qui est maintenant, tardivement, traité avec l'urgence et la sensibilité qui s'imposent, est un avertissement brutal des dangers d'une mise en œuvre technologique trop prometteuse sans une gouvernance adéquate.

Pendant plus d'une décennie, un système informatique défectueux, Horizon, a permis à des centaines de sous-postiers d'être accusés à tort d'erreurs comptables et de vols. Nombre d'entre eux ont été poursuivis et même emprisonnés, ce qui a entraîné de graves souffrances, car des moyens de subsistance et des réputations ont été ruinés sur la base de preuves informatiques peu convaincantes qui n'ont pas fait l'objet d'une enquête adéquate. Le système était défectueux du début à la fin.

Ce scandale révèle les ravages qui peuvent résulter d'une fragmentation des responsabilités autour de la promotion de nouvelles technologies qui ne font l'objet d'aucune surveillance pour garantir leur adéquation avec les besoins humains. 

Alors que la pression monte globalement sur les organisations pour qu'elles poursuivent leur transformation numérique, les dirigeants doivent aujourd'hui tirer les leçons de ces échecs avant de foncer tête baissée dans les projets d'automatisation et, plus récemment, d'IA, avec la planification nécessaire pour éviter des impacts néfastes et durables.

 

Vigilance nécessaire

L'un des principaux facteurs à l'origine de la débâcle susmentionnée a été l'aveuglement institutionnel de la direction et de la gouvernance de la Poste face aux preuves de plus en plus nombreuses de l'existence de failles logicielles. Malgré les symptômes croissants de divergences inexpliquées dans les comptes des succursales, les contestations des sous-chefs de poste ont été rejetées dans le cadre d'un centrisme rigide du système qui a supprimé la vérité et la transparence. 

Avec l'automatisation et l'IA qui se répandent rapidement dans les fonctions sans surveillance proportionnée, les risques s'accumulent de défaillances de gouvernance similaires, permettant aux erreurs non corrigées de se répercuter en cascade dans les chaînes de décision numérisées. 

Alors que les dirigeants s'efforcent de remplacer des rôles supplémentaires par des systèmes algorithmiques, quels sont les garde-fous qui assurent le suivi de l'alignement de ces innovations sur les besoins et les valeurs humaines en première ligne ? D'ores et déjà, la gouvernance responsable peine à rattraper le rythme de l'innovation technologique qui remodèle la société dans les coulisses du numérique.

 

Un leadership responsable

Pour tirer les leçons de ces débâcles, les dirigeants doivent s'engager à faire preuve de transparence, à diversifier leurs points de vue et à examiner minutieusement les interdépendances systémiques qui déterminent les résultats. Les dirigeants responsables doivent considérer les technologies émergentes non pas comme des boîtes à outils pratiques et clés en main, mais comme des défis permanents nécessitant une orientation collaborative entre les fonctions afin de garantir que les architectures s'adaptent pour permettre l'épanouissement de l'être humain.

L'empressement actuel à adopter des solutions technologiques comme des remèdes pratiques reflète des épisodes passés où la dépendance à l'égard de systèmes efficaces a supprimé les signaux de fragilité qui en résultaient jusqu'à ce que des crises graves éclatent. Derrière les histoires célèbres de progrès par l'innovation se cachent souvent des personnages oubliés dont les idées critiques ont été marginalisées, ce qui a entraîné la perte d'opportunités. 

Par exemple, le livre et le film hollywoodien Figures cachées - que j'ai vu pendant les fêtes de fin d'année, révèle une ingéniosité oubliée lors de la course à l'espace dans les années 1960. Le film est basé sur l'histoire vraie de Katherine Johnson, physicienne à la NASA. Son expertise mathématique s'est avérée essentielle pour vérifier les calculs orbitaux sous-tendant les trajectoires de lancement calculées par le nouvel ordinateur central IBM de l'organisation, qui produisait des résultats contradictoires.

Sans l'implication de Johnson, qui a fait le lien entre le domaine technique spécialisé et les besoins réels d'un fonctionnement sûr des fusées, les fruits de l'informatique auraient égaré l'astronomie. Mais aujourd'hui, nous sommes dans un autre univers en termes d'avancées technologiques.

À notre époque, définie par l'expansion exponentielle de l'automatisation, les systèmes algorithmiques sont prêts à se substituer à des rôles et des fonctions supplémentaires, sous réserve d'un contrôle approprié de cette intégration. À l'instar de l'exploration spatiale naissante, nous nous trouvons à l'orée d'un nouveau monde, mais celui-ci est dominé par une IA qui s'améliore d'elle-même et dont la trajectoire reste imprévisible. 

Pourtant, les risques d'une traduction fragmentée entre les spécialités techniques et les contextes humains ancrés demeurent. Aujourd'hui, un leadership responsable exige de s'engager à établir des passerelles entre les systèmes et les diverses connaissances communautaires afin d'assurer la continuité de la compréhension et de la sagesse.

 

Rétablir la confiance

En l'absence d'un leadership dédié à cette intégration, l'élévation d'un seul domaine de connaissance - qu'il s'agisse de processus techniques ou de modèles théoriques - au rang d'arbitre ultime de la vérité inhibe la capacité d'adaptation à l'incertitude qui s'annonce. 

Pour que les civilisations puissent perdurer, il faut des structures qui légitiment une diversité d'observations, qui favorisent un débat élargi et qui ancrent la prise de conscience collective dans des contextes humains bien ancrés. L'intégration de vastes traditions de sagesse avec des perspectives situationnelles spécifiques s'avère essentielle pour adapter les systèmes complexes aux risques futurs connus et inconnus et pour naviguer dans l'innovation responsable.  

Pour réparer les dommages causés pendant des années par le scandale des Postes, les victimes ont dû déployer des efforts incessants pour obliger les autorités à faire face à leur orgueil démesuré afin d'engager les réformes nécessaires pour rétablir la confiance dans des institutions aussi puissantes. Les prédictions faites il y a plusieurs décennies, selon lesquelles la discipline du marché permettrait de mettre en place des mesures de restriction fiables, sonnent aujourd'hui creux face à la responsabilité de l'humanité de redresser les torts collectifs. La tutelle de notre avenir commun exige une gouvernance engagée, prête à gérer la transparence, à naviguer dans l'incertitude et à guider les institutions avec compétence dans la transition numérique qui s'annonce.

Les dirigeants doivent être prêts à faire marche arrière lorsque les faits révèlent un préjudice, à considérer l'incertitude comme une source d'innovation et à équiper les talents pour qu'ils puissent s'exprimer dans tous les domaines de la connaissance. Il n'existe pas de structures parfaites en l'absence d'êtres humains engagés qui accomplissent le dernier kilomètre. Pour permettre un renouvellement continu, il faut distribuer le contrôle par le biais de plates-formes communes, ce qui permet d'élever la sagesse partagée. Si le leadership humain prévaut, l'avenir reste à notre portée.

Il a fallu des années d'efforts inlassables de la part des victimes pour forcer les autorités à faire face à l'orgueil démesuré à l'origine du scandale des bureaux de poste. Ce n'est qu'aujourd'hui, alors que l'erreur judiciaire est en train d'être résolue, que les réformes nécessaires peuvent commencer à rétablir la confiance dans l'institution.

Pour restaurer la foi, il faut des dirigeants prêts à admettre leurs erreurs lorsque le mal est révélé. Cela signifie qu'il faut considérer l'incertitude comme un moteur de l'innovation, tout en donnant aux gens les moyens de combler les lacunes en matière de connaissances.

Aucune institution ou entreprise ne reste solide sans la supervision et la sagesse de l'homme. L'innovation est essentielle au progrès, mais les dirigeants ne doivent pas faire une confiance aveugle à la technologie. D'autres scandales se produiront en l'absence des contrôles et des équilibres nécessaires, et c'est une mauvaise nouvelle pour l'humanité.

 

---