L’entreprise objet de l’IA, ou l’arroseur arrosé

Par Constant RICHARD
Juriste diplômé d’un Master 2 de Droit des différends d’entreprise et du travail, Université-Nice-Côte-d’Azur
Voir le profil LinkedIn

« Comme tu as fait, il te sera fait » (1)
Abdias 1 : 15

Tout porte à croire qu’il y a une corrélation entre le déploiement de l’IA au sein de l’entreprises et sa taille. L’intégration de l’IA dans les structures pose évidemment des défis au niveau des coûts (humains et financiers) et du cadre juridique. Les grandes entreprises adoptent massivement l’IA, en raison de leur accès à des ressources humaines et financières plus importantes qui leur permettent d’investir dans ces technologies de pointe. De plus, pour ces grandes entreprises, l’utilisation de l’IA permet d’augmenter les bénéfices, ce qui justifie davantage leur engagement dans cette voie.
En revanche, les petites entreprises, bien que de plus en plus intéressées par l’IA, font face à des défis trop importants en termes de ressources et d’expertises, limitant ainsi leur capacité à adopter pleinement ces technologies.

Deux études de l’INSEE réalisées auprès de 12 000 entreprises, qui s’intitulent « Technologies de l’Information et de la Communication (TIC) et du commerce électronique » parues en 2021 (2) et 2022 (3) permettent de disposer d’éléments quantitatifs.
L’étude parue en 2021 révèle que 10% des entreprises comptant 10 salariés ou plus adoptent des systèmes interconnectés (internet des objets/IoT), avec une prédominance marquée pour les grandes entreprises (29%).
Cette disparité est d’ailleurs confirmée et affirmée dans l’étude qui est parue en 2022. Cette étude montre que les plus grandes entreprises (plus de 250 salariés) sont sur-représentées par rapport aux entreprises plus modestes (moins de 50 salariés) dans l’utilisation d’un SIA (système d’intelligence artificielle) quel que soit leur secteur d’activité. Les petites entreprises sont même sous-représentées dans l’ensemble des usages possibles de l’IA (réalisation d’analyse de langage, conversion de langage parlé en langage écrit, ou génération de langage parlé ou écrit).
Les tendances observées par une enquête du LaborIA (4) de 2023 rejoignent celles mises en évidence par les enquêtes de l’INSEE sur le développement des systèmes interconnectés et de la robotique dans les entreprises françaises. Elle montre que l’écart se creuse encore davantage, avec désormais 15% des plus petites entreprises (10 à 19 salariés) équipées en IoT, contre 57% pour les plus grandes entreprises (250 salariés et plus). Les enquêtes de 2021 et 2022 fournissent des éclairages sur les formes d’adoption de l’IA au sein des organisations, en corrélant les types d’IA utilisés avec les tailles des entreprises concernées mais ces études ne prennent pas en compte l’expérience de travail avec les SIA. Or, il est essentiel de qualifier cette expérience afin d’identifier les leviers d’action pertinents pour accompagner les évolutions du travail au bénéfice des organisations et des travailleurs.

L’utilisation sectorielle de l’IA. Si l’étude de l’INSEE publiée en 2021 (5) offre des éclairages essentiels sur l’adoption des TIC dans les entreprises, elle n’aborde pas spécifiquement le cas des SIA. Ce sont les résultats de l’enquête INSEE qui a été conduite en 2022 (6) qui sont beaucoup plus précis quant à la nature des SIA utilisés. Ces systèmes peuvent être classés en plusieurs types. Ainsi et indépendamment de la taille de l’entreprise, les SIA les plus fréquemment utilisés sont ceux réalisant des analyses de langage écrit, ceux permettant l’apprentissage automatique, ou encore ceux qui automatisent diverses tâches, voire assistent la prise de décision. Cette précision apportée par l’enquête INSEE permet une meilleure compréhension de la manière dont les entreprises intègrent les SIA dans leurs opérations. Elle souligne l’importance croissante de certaines applications spécifiques de l’IA dans le monde professionnel.

22% des entreprises de l’industrie sont équipées de robots en 2020. ©DR

L’industrie comme secteur privilégié du calcul. Les possibilités offertes par l’IA en termes de puissance de calcul et d’automatisation expliquent la prépondérance de son utilisation dans le secteur de l’industrie. 22% des entreprises de l’industrie sont équipées de robots en 2020. Les robots sont deux fois plus présents dans le secteur secondaire que dans le secteur tertiaire mais ce constat est à nuancer car même si l’industrie se positionne comme étant le secteur d’avant-garde sur le plan de l’utilisation des SIA, des secteurs comme celui des ressources humaines sont de plus en plus enclins à déployer ces technologies. La différence est qu’au bout de la chaîne industrielle, il y a la production d’un objet alors qu’au bout de la chaîne du secteur tertiaire, dans laquelle il n’y a pas à proprement parler de « produit » mais un service, de « l’humain ». Parmi les entreprises concernées par l’enquête et ayant évoqué la mise en place d’un SIA (7), 14% ont mentionné un projet en cours d’expérimentation, 18% un projet en déploiement et 68% un SIA déjà opérationnel et en usage. En observant ces chiffres de plus près il convient de noter que c’est l’industrie qui s’est adaptée le plus rapidement à l’IA, avec 86% des entreprises utilisatrices dans ce secteur ayant déjà déployé un SIA à travers toute leur structure. 12% des entreprises industrielles ont encore des SIA en cours de déploiement et seulement 2% sont encore à la phase d’expérimentation.
Il est alors possible de dresser le constat suivant : les SIA trouvent leur place dans les secteurs où les tâches peuvent être prises en charge par des algorithmes et donc par des calculs. Le déploiement de l’IA est particulièrement notable dans des secteurs d’activité tels que l’industrie et les transports, dans lesquels de nombreuses tâches nécessitent des calculs de probabilités, des calculs de risques et de chances. De plus, étant donné que ces secteurs sont déjà largement mécanisés, l’intégration de l’IA offre des perspectives en termes d’automatisation de la production. Ainsi, l’utilisation croissante des SIA dans ces domaines s’explique par leur capacité à transformer les opérations, et surtout améliorer l’efficacité des processus de production existants.

C’est ici qu’une ironie apparaît : si ces entreprises peuvent exploiter les données de leurs salariés pour améliorer leur processus décisionnel (dans le contrôle de la production ou de la performance), elles sont, elles aussi, l’objet d’attentes en matière numérique. Sous l’impulsion de réformes récentes, les grandes entreprises deviennent productrices de données pour l’administration de l’Etat (I), voire pour des organismes privés qui ont besoin d’établir des comparaisons pour noter les entreprises (II). Cette dynamique inédite de traitement à des fins de comparaison des données issues des entreprises soulève des questions importantes sur le statut juridique de ces informations. L’information au sein des entreprises est à la fois un outil et un produit de l’activité économique, qui pourrait désormais fonder des décisions de « meilleure gouvernance » dans le monde des affaires.

I-L’IA dans les procédures décisionnelles de l’Etat

Le législateur utilise l’IA pour comparer, évaluer, voire contrôler et sanctionner les entreprises dans la mise en œuvre des politiques économiques et sociales. En effet, le législateur fixe des objectifs chiffrés pour s’assurer que les entreprises atteignent les exigences qu’il leur assigne (A). S’observe alors la mise en place d’évaluation des objectifs que les entreprises doivent réaliser sous peine de sanctions, notamment en matière d’égalité professionnelle femme-homme (B).

A- Le contrôle algorithmique des entreprises par l’Etat

Les « fonctionnalités » de l’algorithme. L’algorithme est progressivement devenu l’acteur central de la réorganisation des procédures administratives, marquant une évolution dans le mode de fonctionnement des services publics. Depuis 2018, l’État a consacré près de 4 milliards d’euros à l’innovation (8), au déploiement et à la recherche dans le domaine de l’intelligence artificielle, montrant ainsi son engouement croissant pour cet outil technologique (9). L’investissement considérable de l’Etat dans l’IA a notamment donné naissance à des initiatives novatrices, telles que le logiciel «  Albert  » (10), pour gérer la fiscalité. Ce système conçu pour assister les agents de l’administration fiscale vise à améliorer le service des finances publiques tout en cherchant à simplifier et rationaliser les processus administratifs de déclaration et de contrôle (11). L’intégration de l’IA dans les processus décisionnels de l’État reflète une tendance similaire à celle observée dans le secteur privé, axée sur la quête de performance et de productivité. Bien que l’objectif ne soit pas de générer des bénéfices financiers, il s’agit là aussi de fournir un service public plus efficace et de maximiser l’utilisation des ressources disponibles. Cette transition vers l’utilisation de l’IA dans les opérations gouvernementales représente un changement majeur dans la manière dont les services publics sont conçus, ouvrant la voie à une ère de modernisation et d’efficacité accrue au sein de l’administration française.

©DR

La création d’objectifs chiffrés. L’exemple le plus emblématique du contrôle par l’administration de la mise en œuvre dans les entreprises de politiques sociales est né de la loi n° 2021-1774 du 24 décembre 2021, loi « visant à accélérer l’égalité économique et professionnelle  », loi dite «  loi Rixain ». En effet, le législateur s’est fixé comme objectif depuis une quarantaine d’année déjà, de lutter contre les discriminations au travail en favorisant l’égalité femme-homme (12). À cette fin, le législateur a multiplié l’adoption d’objectifs quantitatifs à l’adresse des entreprises. Il a ainsi fixé une obligation de représentation équilibrée entre hommes et femmes parmi les cadres dirigeants et les membres des instances dirigeantes des grandes entreprises qu’il a assorti d’une exigence de transparence. Cet objectif s’applique à toutes les entreprises qui comptent au moins mille salariés pour le troisième exercice consécutif. Conformément aux articles L. 1142-11, L. 1142-12 et L.1142-13 du Code du travail, ces entreprises sont tenues, à partir du 1er mars 2022, de publier chaque année les éventuels écarts de représentation entre hommes et femmes parmi les cadres dirigeants et les membres des instances dirigeantes. Ces données devaient être rendues publiques sur le site du ministère du Travail à partir du 1er mars 2023. Ce texte a été imaginé pour obliger les employeurs à des obligations de « reporting » des données de l’entreprise en fixant des objectifs de représentation des femmes dans les instances dirigeantes étape par étape (13). En cas de non-atteinte des objectifs, l’entreprise concernée devra définir les mesures correctives appropriées, et en cas de non-respect persistant, l’employeur s’exposera à une sanction financière pouvant atteindre 1% des rémunérations et gains.

B- Le chiffre, fondement des sanctions des inégalités professionnelles ?

Les inégalités retranscrites en chiffres. Dans le cadre de ce dispositif, les inégalités professionnelles sont analysées par des chiffres et des statistiques. Le législateur a souhaité instaurer des quotas, comme le démontre la loi « Copé-Zimmermann  » de 2011 (14) qui a mis en place des quotas de représentation des sexes dans les Conseils de surveillance des entreprises cotées en bourse. La loi Rixain réaffirme aussi la foi du législateur dans l’Index de l’égalité professionnelle qui a été créée par la loi du 5 septembre 2018 (15). S’applique désormais un système de scoring calculé sur 100 points fondé sur une logique algorithmique. Ce score repose sur l’écart de rémunération, le taux d’augmentation individuelle du salaire hors promotion, le pourcentage de salariées ayant bénéficié d’une augmentation dans l’année de leur retour de congé maternité, le nombre de salariés du sexe sous-représenté parmi les dix salariés ayant perçu les plus hautes rémunérations et l’écart de taux de promotion entre les femmes et les hommes si l’entreprise compte plus de 250 salariés (16). Un score inférieur à 75 sur 100 ouvrait d’office une négociation collective sur le sujet pour adopter dans les 3 ans des mesures adéquates mais le législateur a accéléré la mise en place de ce dispositif en adoptant la loi Rixain. Les grandes entreprises sont tenues de renseigner leurs résultats dans le cadre d’une procédure dématérialisée, et si elles n’atteignent pas leurs objectifs, elles se verront plus sévèrement sanctionnées.
L’introduction d’algorithmes pour évaluer l’engagement des entreprises dans la mise en œuvre des politiques sociales rendues prioritaires par le législateur transforme l’entreprise en une donnée, nécessaire à la connaissance de la réalité, mais qui se révèle aussi très utile pour l’évaluation. Le législateur lui-même déploie des outils numériques quantifiés de mesure sur les entreprises aux fins de comparaison et d’évaluation. L’insuffisance de résultats peut donner lieu en outre au prononcé de sanctions de la part de l’administration du travail. L’employeur est donc désormais soumis à des obligations de collecte, d’exploitation et de « reporting » de données sur la composition de son entreprise. La fixation de tels objectifs renforce, s’il en était besoin, l’idée selon laquelle les fonctionnalités des outils de l’IA sont particulièrement adaptées pour « mesurer, « comparer » et « juger » de la mise en œuvre d’objectifs chiffrés. Cela soulève la question d’une gouvernance possible du monde de l’entreprise par les chiffres, invitant l’employeur à corriger ses résultats en recherchant de façon automatisée des « profils » qui permettent d’atteindre les quotas fixés par le législateur.

II-Les entreprises au cœur des processus de notation et de « datafication »

©DR

Les grandes entreprises sont classées et comparées entre-elles par l’intermédiaire de diverses notations fondées sur la Data (A). L’accès à de très grands volumes de données change la perception de la performance, voire de la légitimité de l’entreprise sur les marchés financiers (B).

A -Notation, classement et comparaison des entreprises

La notation des entreprises. Les agences de notation utilisent des algorithmes pour établir une note qui situe le niveau de performance (économique) des entreprises. L’obtention d’une bonne note attire les investisseurs (17), ce qui explique pourquoi les employeurs se soumettent volontairement à ce système de rating (18). On peut donc dire que l’algorithme rythme les décisions stratégiques de l’employeur.
La stratégie d’entreprise est influencée par la volonté d’obtenir de « bons scores ». Tous les secteurs d’activité au sein d’une même entreprise peuvent faire l’objet d’un rating. Par exemple, le management d’une entreprise peut être « scoré » par de grands groupes internationaux tels que l’International Organization for Standardization qui émet des certifications ISO 9001 (19). De même, certaines entreprises proposent un service de notation en matière de cybersécurité (20) notamment lorsqu’elles utilisent des outils issus de l’IA (21). L’UE a également obligé les grandes entreprises à une obligation de « reporting » pour évaluer le respect des critères « ESG » qui scorent la stratégie environnementale, sociale et de gouvernance de l’entreprise (22). En 2019, les critères ESG ont été intégrés dans les stratégies d’investissement de plus d’un tiers des encours des entreprises.
Un autre système de notation issu de l’algorithme est offert par l’entreprise Early Metrics. Cette entreprise note gratuitement les « start-up » en se fondant sur plusieurs critères commerciaux (les modèles commerciaux, le positionnement sur le marché, les tendances commerciales, l’exécution de l’activité) pour ensuite vendre leurs résultats, c’est-à-dire leurs notes aux grandes entreprises qui voudraient investir (23). La notation par ces systèmes d’IA externe pose aussi la question de l’influence des algorithmes sur les stratégies des employeurs des petites entreprises qui voudraient recevoir des investissements.

Le contrôle de la « compliance algorithmique » des entreprises par les organismes privés. En matière de lutte contre la criminalité financière, les entreprises font l’objet d’une étroite surveillance. Cependant cette surveillance n’est pas exercée par l’Etat ou par les organismes internationaux. Certaines administrations (24) ainsi que le Groupe d’Action Financière (GAFI) invitent en effet les établissements financiers à prendre les mesures adéquates pour surveiller leurs clients afin notamment de lutter contre le blanchiment (25). Dans ce processus de surveillance, ces établissements sont d’ailleurs fortement incités à utiliser les IA dotées de « machine learning », ce qui permet à l’algorithme de s’entraîner seul pour devenir plus performant dans la détection des fraudes grâce à un recoupement de données extrêmement diverses. En France, l’Autorité française de contrôle Prudentiel et de Résolution (ACPR) a publié en 2020 un document de réflexion sur la gouvernance de l’IA dans le secteur financier dans lequel elle préconise notamment que l’utilisation de l’IA doit rester encadrée par l’humain et invite à la prudence en matière de cybersécurité (26). S’insinue progressivement l’idée que les entreprises doivent se « conformer » à des exigences algorithmiques si elles veulent obtenir de « bonnes notations » et maintenir leur attractivité sur le marché. Sans être obligatoires, ces systèmes privés de notation occupent une place déterminante dans la stratégie des entreprises.

La protection des données de l’entreprise. Dans certains cas la loi oblige l’entreprise à publier des données accessibles à tous mais le traitement des données des personnes morales n’est pas protégé de la même manière que celui des individus. Effectivement l’article premier du RGPD établit que le règlement ne s’applique qu’en matière de protection des données personnelles des personnes physiques. L’article 22 du même texte protège la personne concernée par le traitement des données et lui accorde le droit de ne pas faire l’objet de décisions fondées exclusivement sur un traitement automatisé. Le problème est qu’aucun texte ne semble accorder le même droit aux personnes morales qui, en plus d’être elles aussi des objets de l’algorithme soumises à la datafication, sont aussi particulièrement démunies face aux décisions de la machine.

B-La « datafication » des marchés

La nécessité de la « datafication ». L’intégration de l’IA dans le monde du travail représente une transformation profonde de la façon d’organiser, d’exécuter et de produire. Cependant, l’IA n’est au final qu’une technologie qui reproduit le raisonnement humain à partir de grands volumes d’information, le Big Data. Il s’agit d’une accélération que la société doit prendre en compte au risque d’être rapidement dépassée. La Présidente de la Commission européenne Ursula von der Leyen l’exprimait ainsi dans un discours en 2020 : « nous atteignons les limites de ce qu’il est possible de faire avec les moyens analogiques. Et cette accélération ne fait que commencer. Nous devons faire de la décennie qui s’ouvre la « décennie numérique » de l’Europe » (27).

L’accès à la donnée numérique devient un élément incontournable de la stratégie financière des entreprises.

Associée à l’outil d’IA, cette donnée numérique permet aux entreprises d’améliorer leur performance et leur productivité. Mais l’entreprise est aussi tenue de renseigner et de publier certaines données pour s’intégrer au marché. Par exemple, le règlement Taxinomie de l’UE (28) oblige les très grandes entreprises à publier des informations relatives à leur gestion (29). Ce reporting permet d’établir un système de classification au sein de l’UE qui offre aux « meilleurs élèves » un accès à des avantages sur les marchés financiers, telles que les obligations vertes (EuGB) (30).
On perçoit ainsi combien la collecte et la transformation d’informations issues du monde du travail en données numériques à des fins de publication sur le marché est essentielle pour les entreprises. C’est ce que l’on nomme aujourd’hui le processus de « datafication » (31). Le régime juridique de ces données n’est pas encore stabilisé. Alors que la donnée à caractère personnel a été conceptualisée sur le terrain de la propriété privée, celle qui est transformée et traitée à des fins de positionnement sur le marché économique n’a pas encore de statut (32).

Une révolution à plusieurs échelles. La « datafication » est un processus qui est présent à tous les niveaux de gestion : il s’immisce dans tous les processus décisionnels. L’employeur utilise les données de ses salariés pour améliorer la performance de l’entreprise ; l’Etat utilise les données des entreprises pour les contraindre ou les contrôler ; les entreprises utilisent les données des autres entreprises pour se comparer ou investir. L’usage de la donnée et l’automatisation de cet usage par l’IA change considérablement toutes les conceptions qui ont été bâties pour le monde du travail depuis la fin du XIXe siècle. L’ère de l’IA sonne le glas des méthodes de production industrielles traditionnelles qui n’ont fait que s’essouffler depuis l’apparition des premières dématérialisations et diverses formes de numérisation. Inévitablement, le droit est tenu de s’adapter à ces nouvelles possibilités technologiques en proposant tant des concepts pour saisir ce nouvel ordre numérique que des outils de régulation de celui-ci. Les structures juridiques qui s’appliquent aux rapports entre ceux qui dirigent la production, les employeurs et l’Etat, et ceux qui produisent, les salariés sont en phase de grands changements.

L’entreprise, objet d’algorithmes sur les marchés ?
L’utilisation de l’IA au sein de l’entreprise conduit inexorablement à la datafication du marché du travail. S’observe une forme de diffusion nouvelle de l’outil IA au sein des entreprises. L’IA est désormais utilisée pour évaluer l’entreprise elle-même, laquelle fait l’objet de décisions de classement et de notation par l’administration du travail et des organismes privés. L’employeur, initiateur de la datafication de ses salariés, devient à son tour un objet d’analyse algorithmique : les entreprises sont évaluées et classées par des autorités telles que l’État ou des organisations internationales, ce qui modifie là encore les stratégies et les processus de décision. L’employeur prend en compte la notation établie par un algorithme pour orienter ses décisions stratégiques. On assiste à une véritable mise en abîme du pouvoir de décision au sein des marchés, tant le marché du travail que les marchés financiers.