Ce n’est pas parce que l’IA générative est à la mode en ce moment qu’elle doit être appliquée à toutes les applications. Mais essayez de dire cela à Workday.
Le fournisseur de plateformes de gestion d’entreprise a annoncé aujourd’hui une série de nouvelles fonctionnalités d’IA générative visant à « augmenter la productivité » et à « rationaliser les processus d’entreprise ». Bientôt, les clients de Workday seront en mesure de comparer automatiquement les contrats signés avec les contrats dans Workday pour mettre en évidence les divergences, créer des articles de gestion des connaissances personnalisés et générer des énoncés de travail pour l’approvisionnement en services.
Ces annonces ont été faites lors de Workday Rising, la conférence annuelle des clients de Workday, qui se tient cette année à San Francisco.
Certains de ces ajouts semblent réellement utiles – ou inoffensifs dans le pire des cas. Mais l’une d’entre elles inquiète quelque peu le journaliste : les plans de travail des employés générés par l’IA.
« Les managers (pourront) créer rapidement un résumé des points forts et des domaines de croissance des employés, à partir de données stockées, y compris les évaluations de performance, les commentaires des employés, les objectifs de contribution, les compétences, le sentiment des employés et plus encore », écrit Workday dans un communiqué de presse.
Je vois quelques problèmes à cela.
Des études ont montré que les IA qui analysent les textes peuvent avoir des préjugés à l’encontre des personnes qui utilisent des expressions et un langage vernaculaire qui sortent de la « norme » (c’est-à-dire la majorité).
Par exemple, certains modèles d’IA formés à la détection de la toxicité considèrent comme disproportionnellement « toxiques » les expressions de l’African-American Vernacular English (AAVE), la grammaire informelle utilisée par certains Noirs américains. Les Noirs américains ne sont pas la seule minorité à souffrir de cette situation. Dans une étude récente, une équipe de l’État de Pennsylvanie a constaté que les messages sur les médias sociaux concernant les personnes handicapées pouvaient être signalés comme plus négatifs ou toxiques par les modèles de détection du sentiment public et de la toxicité couramment utilisés.
Que se passe-t-il donc si les modèles de Workday ne parviennent pas à comprendre les nuances d’une évaluation de performance ou d’un retour d’information de la part d’un employé en raison de la manière dont ils sont rédigés, ce qui conduit les modèles à tirer des conclusions erronées au sujet d’une personne ? Bonne question.
Ensuite, il y a l’aspect « sentiment des employés ».
Les préjugés peuvent une fois de plus se manifester dans les modèles d’IA formés pour détecter le sentiment d’une phrase. Des recherches ont montré que, par exemple, les systèmes d’analyse des sentiments basés sur des textes peuvent présenter des préjugés raciaux, ethniques et sexistes – par exemple en associant les Noirs à des émotions plus négatives telles que la colère, la peur et la tristesse.
En réponse à ces préoccupations, Workday affirme être « transparent sur la façon dont ses modèles d’intelligence artificielle sont conçus » (bien qu’il ne souhaite pas révéler les données exactes utilisées pour entraîner ses modèles) et a conçu la fonction de plan de travail pour montrer aux responsables « comment les données contribuent à un point fort ou à un domaine de croissance ».
« Comme pour d’autres Jour ouvrable En raison des cas d’utilisation de l’IA générative et de notre approche humaine dans la boucle, les utilisateurs sont encouragés à examiner les résultats comme un premier projet solide qu’ils devraient modifier, itérer et finaliser », a déclaré Shane Luke, responsable de l’IA et de l’apprentissage automatique chez Workday, à TechCrunch par courrier électronique. Espérons que les managers qui utilisent Workday tiendront compte de ce conseil.
Quant aux autres nouvelles fonctionnalités d’IA générative de Workday, elles sont moins problématiques à première vue.
Les descriptions de postes générées par l’IA dans Workday exploitent les informations déjà stockées dans la plateforme, y compris les compétences requises pour un rôle et les détails de l’emplacement du poste, afin de simplifier le processus de rédaction des listes de postes. Ce journaliste a d’abord craint que Workday n’entraîne ses modèles de génération de descriptions sur la copie des employés des RH sans qu’ils le sachent ou l’autorisent, mais Luke m’a assuré que ce n’était pas le cas.
« Nous ne nous entraînons pas sur des données dédiées aux descriptions d’emploi », a-t-il déclaré. « Le jour ouvrable les clients contrôlent et configurent la façon dont leurs données sont utilisées à des fins d’IA et d’apprentissage automatique, y compris si les données sont utilisées à des fins de formation … Nous indiquons clairement à partir des champs du produit quelles données sont utilisées dans la génération, et les utilisateurs sont encouragés à évaluer les réponses en tant que premières ébauches et à appliquer leur propre jugement. «
Par ailleurs, Workday sera bientôt en mesure de créer automatiquement des avis de retard avec des recommandations sur le ton de la correspondance, en fonction du retard du client ou de la fréquence de ses retards. (Les équipes financières pourront utiliser cette fonctionnalité pour automatiser des lettres en masse, précise M. Luke). Les responsables des achats pourront également obtenir des suggestions sur les clauses pertinentes à inclure dans les contrats d’achat, en fonction du type de projet, de l’emplacement du projet et du type de produits à livrer.
Grâce à la fonction d’analyse des contrats susmentionnée, alimentée par l’IA générative, les clients de Workday seront alertés des erreurs potentielles dans les contrats et recevront des propositions de correction. Grâce à la fonction de génération d’articles de connaissance, les utilisateurs pourront rédiger des articles tels que des points de discussion pour les managers et des extraits de vidéos d’entreprise, avec des suggestions sur le ton et la longueur. (Les utilisateurs de Workday sont invités à ignorer ces suggestions).
Developer Copilot marque la première incursion de Workday dans le codage génératif, en introduisant des capacités de codage de texte à Workday Extent, sa plateforme de création d’applications personnalisées fonctionnant sur Workday. Developer Copilot – intégré dans l’app builder de Workday – fournit des suggestions de code « contextuelles » pour les applications Workday, avec du contenu et des résultats de recherche, similaires aux services de génération de code tels que GitHub Copilot et Amazon CodeWhisperer.
Et, profitant de la popularité de ChatGPT, Workday pilote un certain nombre d’expériences d’IA conversationnelle. Luke explique qu’elles « amélioreront la capacité des utilisateurs à interagir avec les informations et les tâches » d’une manière naturelle, en tirant parti des capacités de l’IA générative telles que le résumé, la recherche et le maintien du contexte.
« Nous pensons que, lorsqu’elle est utilisée de manière responsable, l’IA générative peut avoir un impact sur les résultats commerciaux », a déclaré M. Luke. « Fondamentalement, notre approche de l’IA est axée sur la collaboration entre l’homme et la machine. L’utilisateur est toujours le décideur final et le modérateur. »
Workday prévoit le lancement des nouvelles fonctionnalités d’IA générative dans les six à douze prochains mois. Malheureusement, l’entreprise n’a pas fourni de calendrier plus précis.