Quels sont les risques et opportunités de l'IA en entreprise ?

À l’occasion de la semaine de la qualité de vie et des conditions de travail, l’Agence régionale pour l’amélioration des conditions de travail (Aract) d’Île-de-France a organisé, en juin dernier, au sein des locaux de l’École nationale supérieure de création industrielle (ENSCI), une « Journée spéciale intelligence artificielle (IA) - Quelles opportunités et défis pour le travail de demain ? ». La première table ronde de cette journée s’est intéressée aux risques et opportunités de l’IA en entreprise.

Selon l’Aract, l’IA « est bien plus qu'une simple technologie émergente, elle redéfinit la manière dont nous travaillons, interagissons et créons de la valeur ». Elle « transforme l’organisation en profondeur » et invite « à redéfinir les tâches et compétences de chacun ». L’IA « libère du temps pour des tâches à plus haute valeur ajoutée et augmente les capacités humaines ». Toutefois, elle « bouscule le monde du travail » et « interroge aussi sur les questions éthiques et la pérennisation des emplois ».

Dans ce cadre, l’INRS a déjà réalisé, en 2022, une mission prospective sur les usages possibles de l’IA au travail et pour la santé sécurité au travail (SST). Pour Marc Malenfer, responsable de la mission veille et prospective à l’INRS, il existe « trois domaines d’usage possibles de l’IA à des fins de SST » qui sont :

• l’utilisation des outils d’IA en épidémiologie, en accidentologie, en toxicologie en vue de l’amélioration de la connaissance des risques professionnels, du croisement de bases de données et de la mise en évidence de pluri-expositions à des risques ;
• la sécurisation des lieux de travail : capteurs et caméras pour collecter des données et les exploiter de manière intelligente pour sécuriser les lieux de travail ;
• la robotique avancée : télé opération, perspectives qui permettent d’envoyer des robots dans des environnements confinés ou contaminés pour éviter d’exposer des humains à ces dangers.

Cependant, ces usages posent des « questions en matière d’éthique et de responsabilisation », notamment pour la sécurisation des lieux de travail, « que se passe-t-il quand le système est en panne ? ». Bien que l’IA permette des avancées en matière de SST, plusieurs points de vigilance sont à prendre en compte lors de l’instauration de tels systèmes. Tout d’abord, « le dialogue social est impératif ». Il faut « impliquer les opérateurs et ne pas parachuter des outils conçus hors-sol de l’entreprise sinon ça ne fonctionnera pas », affirme Marc Malenfer.

La formation est également importante afin de « comprendre le fonctionnement des outils d’IA ». Il faut « former les acteurs de l’entreprise mais aussi ceux qui développent ces outils ». En effet, « certains informaticiens n’ont jamais entendu parler des principes généraux de prévention et certains outils viennent de pays qui n’ont pas les mêmes règles qu’en France », alerte-t-il.

Une attention particulière doit être portée aux TPE/PME dans lesquelles « c’est souvent l’entreprise qui doit s’adapter à l’outil d’IA et non l’inverse ». La démarche d’installation d’un système d’IA est souvent « plus simple pour les grandes entreprises qui développent leur propre outil ». « Il ne faut pas délaisser les facteurs THO (techniques humains organisationnels), surtout organisationnels, pour lesquels il n’y a pas de capteur », rappelle Marc Malenfer.

Enfin, « les accidents du travail arrivent souvent pendant une situation inhabituelle ou imprévue », ce qui est en « forte contradiction avec les systèmes d’IA qui sont entraînés pour des situations prévues ».

En plus des usages de l’IA pour la SST, certaines entreprises l’utilisent en tant qu’outil d’aide à la décision, par exemple dans le recrutement ou l’évaluation de personnes déjà en poste. Selon Basile Guley, juriste à la Commission nationale de l’informatique et des libertés (CNIL), « l’IA ne part que de bases de données existantes et reproduit des biais s’il en existe ». Cela génère « un risque juridique fort pour une entreprise qui souhaiterait s’équiper de ces outils d’IA », martèle-t-il, et « une sorte de déresponsabilisation de la personne sans approche critique de la décision de l’IA ».Il est important de « faire attention au respect du RGPD puisque l’IA s’appuie parfois sur des données personnelles non pertinentes ou non nécessaires ».

Trois points d’attention sont à souligner pour Basile Guley : « La connaissance de la provenance des données utilisées, l’explicabilité de ces données et la transparence » puisqu’il faut « pouvoir expliquer le fonctionnement de l’outil aux collaborateurs ». Marc Malenfer ajoute, sur le sujet de l’explicabilité, que « parfois même les développeurs ne savent pas comment on arrive d’un point A à un point B avec un outil d’IA ».

« Beaucoup de challenges arrivent » en matière d’IA avec la récente publication du règlement européen sur le sujet : l’IA Act. Celui-ci « classe les usages de l’IA en catégories de risques avec des actions à déployer en fonction », explique Marc Malenfer. Pour les hauts risques identifiés par le règlement (accès à l’emploi, recrutement, évaluation des personnes déjà au sein de l’entreprise par exemple), « l’entreprise doit démontrer la transparence de l’outil ». Cela s’inscrit dans une « logique de maîtrise du risque juridique ».

Autre témoignage, celui de Mickaël Guillois, CEO d’Hapiz Marketing, entreprise d’accompagnement des entreprises dans leur transformation numérique. Concernant son organisation, il a décidé, depuis novembre 2022, « d’utiliser ChatGPT pour s’améliorer ». Ainsi, « un dialogue a été ouvert dans l’entreprise sur l’IA et le numérique ». Aujourd’hui, Hapiz Marketing utilise l’IA principalement pour trois fonctions :

• une fonction de « training » : entraînement en amont d’un rendez-vous avec un client, l’IA pose des questions qui embêtent et qui challengent, c’est une sorte de « sparing partner » ;
• une fonction « multi-experts » : création d’une équipe d’experts sur un sujet particulier pour avoir leurs avis dans une structure qui n’a pas ces ressources (psychologue, directeur commercial, artiste, juriste, etc.) ;
• une fonction « d’analyse » : pour faire parler un fichier Excel ou avoir les compétences sur les formules de calcul.

Pour Mickaël Guillois, « il n’y a pas d’expert sur l’IA aujourd’hui mais seulement des expériences à partager ». Il est nécessaire de « rassurer car l’IA peut faire peur mais aussi d’alerter les collaborateurs qui trouvent l’IA générative trop géniale ». Pour cela, il faut « rencontrer les collaborateurs afin de créer un dialogue et comprendre ce qu’ils pensent de l’IA ». Tout le monde doit « parler la même langue, en fonction de sa culture », sur le sujet de l’IA.

Comme Marc Malenfer l’évoquait précédemment, vient ensuite « une phase de formation où on apprend à utiliser l’outil, créer des prompts et des méta prompts pour travailler, et à se les approprier selon ses besoins et ses activités ». L’IA est en constante évolution. De ce fait, « un accompagnement est nécessaire dans le temps et pas seulement une formation une fois, en one shot ». Le but est de « s’acculturer en douceur et en longueur ».