L’incident n’a rien d’anecdotique. Le déploiement d’outils IA en entreprise touche à des domaines sensibles : évaluation, recrutement, organisation du travail. Cela nécessite donc un cadrage précis. Voici les cinq points de vigilance à anticiper avant de recruter un algorithme dans vos équipes.
“À ce moment-là, XZ2 comprit qu’il avait gaffé” – Vue d’artiste IA
§11. Consulter les représentants du personnel
Dès qu’un outil IA impacte les conditions de travail (répartition des tâches, évaluation, planning), il doit être présenté au CSE pour consultation. Ne pas le faire expose à une suspension judiciaire du projet, voire à un délit d’entrave (pénal). Soigner cette étape, c’est aussi l’occasion d’expliquer le pourquoi et les objectifs du déploiement, et de favoriser une adoption saine de l’outil.
§22. Assurer la conformité RGPD
Comme tout logiciel RH, une IA RH traite nécessairement des données personnelles. Elle doit donc s’appuyer sur une base légale claire (le plus souvent, l’intérêt légitime de l’employeur), et respecter les principes du RGPD : minimisation des données, transparence, sécurisation, et droit à l’intervention humaine. Une analyse d’impact relative à la protection des données (AIPD) est souvent obligatoire. Elle protège juridiquement, et moralement !
§33. Identifier les biais et prévenir les discriminations
Les IA ne sont pas neutres : elles reproduisent les biais présents dans leurs données d’entraînement. Un outil de tri de candidatures peut défavoriser certains profils sans que cela soit explicite. Si une IA influence une décision RH, elle doit être auditée régulièrement pour détecter d’éventuels biais, et toujours placée sous contrôle humain. À défaut, on peut aboutir à des contentieux pour discrimination et à un rejet interne de l’outil.
§44. Clarifier la responsabilité
En cas d’erreur de l’IA ayant des conséquences dommageables (refus injustifié de promotion, licenciement abusif, décision erronée), l’entreprise reste pleinement responsable. L’argument “ce n’est pas moi, c’est l’IA” n’a aucune valeur juridique. D’où l’importance de documenter les choix techniques, de conserver les historiques de décisions et de ne jamais automatiser une décision sans recours.
§55. Former et accompagner les utilisateurs
Une IA mal comprise devient un facteur de stress ou un outil détourné. Il ne suffit pas de “mettre à disposition” une fonctionnalité : il faut accompagner son adoption, en formant les utilisateurs, en clarifiant ses limites, et en garantissant à chacun un droit d’explication et de recours.
§6Une révolution à mener toutes et tous ensemble
L’IA ne fait pas que gagner du temps ou améliorer l’efficience : elle redéfinit la façon dont les décisions sont prises dans l’entreprise. C’est pour cette raison qu’il faut lui donner un cadre solide, légalement robuste et socialement soutenable.
