Par ailleurs : « La machine ne produit pas n’importe quel programme. Elle produit les paramètres du programme de traitement qui correspond à ce que l’ingénieur concepteur a programmé. »
Les deux professeurs critiquent aussi le préjugé très ancré dans les médias et l’opinion selon lequel « les machines seraient contre nous ». Cet anthropomorphisme est souvent discuté au sein de leur ouvrage tant nombre d’observateurs s’attachent à concevoir les machines comme des systèmes autonomes et hostiles. Autre attitude qu’il convient de remettre en perspective : l’IA va de manière globale résoudre tous nos problèmes. Les auteurs insistent au contraire sur la relation personnalisée que chaque acteur doit avoir avec cette technologie et non tomber dans une fascination anxiogène ou utopique de l’IA.
Cette vision « pure » de cette technologie se retrouve dans une perception de résultats supposés parfaits alors que l’IA ne peut jamais garantir qu’elle ne se trompera pas. Dans de nombreuses situations, par exemple au jeu d’échecs, c’est le choix le plus acceptable et non optimal, qui sera choisi par le programme d’IA. Les entreprises où sont conçus les programmes d’IA de demain ont-elles conscience de cette limite ? Selon les auteurs rien n’est moins sûr et ils considèrent que ce sont les interactions entre la machine et les usagers qui seront au cœur d’une bonne utilisation de l’IA.
Cette faillibilité de la machine est d’autant plus inévitable que comme l’a démontré le chercheur Charles Perrow dans les années 80, les systèmes techniques ont atteint un tel degré de sophistication qu’il est impossible de prévoir tous les accidents « normaux » qui pourraient se produire. Selon un autre chercheur, Karl Weick, c’est le facteur humain qui introduira la flexibilité nécessaire en cas d’accident.
Deux points de vue qui s’adaptent parfaitement, selon Bibard et Sabouret, aux enjeux de l’IA en particulier dans le cas d’une IA dite « faible » c’est-à-dire qui ne peut résoudre tous les problèmes.
Dernière précision, les auteurs nous indiquent que le film Vol au-dessus d’un nid de coucou a été réalisé par Stanley Kubrick. Il s’agit en fait du réalisateur Milos Forman.
L’erreur est humaine. Mais pas que.
Eric Przyswa
Eric Przyswa est consultant en affaires publiques dans le secteur du numérique, de l’industrie et des risques (risk05). Il est aussi impliqué dans des travaux éditoriaux qualitatifs. Il a été par le passé chercheur à Mines ParisTech et consultant marketing. Formation : Docteur en gestion, Dauphine et Sciences Po Paris. https://www.risk-05.com
Inscription Newsletter
