Parmi les phases finalement assez traditionnelles d’un projet basée sur l’IA générative, certaines se révèlent particulièrement critiques : le calcul des coûts et du RSI qui conditionnent la viabilité du projet, la préparation des données qui conditionne la fiabilité de l’IA et enfin, la conduite du changement qui conditionne l’adoption de l’IA, donc le succès à moyen et long terme.
Les différentes phases d’un projet impliquant le déploiement d’une IA générative (donc basée sur un Large Language Models (LLM)) sont celles de tout projet numérique : cadrage du périmètre d’intégration et calcul du retour sur investissement (RSI), choix des fonctionnalités, design, intégration, recette, déploiement, conduite du changement et contrôle de l’évolution du RSI. Parmi celles-ci, trois sont rendues particulièrement critiques par la nouveauté et les spécificités que représentent ce type d’IA : le calcul (et le contrôle) du RSI, la préparation des données et la conduite du changement.
La rentabilité d’un projet de chatbot ou d’agent augmenté basé sur une IA générative est particulièrement complexe à évaluer car il dépend de facteurs humains et économiques, inconnus ou évolutifs. Ainsi, une fois que la solution est déployée, on ne sait pas quel sera son degré d’adoption par les utilisateurs, ni la façon dont ils se l’approprieront. De même, le coût est très différent d’un LLM à l’autre et va probablement beaucoup évoluer. Ces incertitudes représentent l’un des principaux freins au déploiement de tels projets. Il faut d’abord les appréhender en acceptant une part de risque. Mais surtout, il est possible de calculer des fourchettes de coûts et de gains, donc de RSI, en produisant des hypothèses plausibles. Car certaines variables sont connues : tarification des différents LLM à la sollicitation, évolution du rôle des agents, accélération de certaines tâches ou encore, nombre de demandes qui seront automatisées, notamment en dehors des heures d’ouverture. D’autres incertitudes peuvent être anticipées, comme l’évolution de la réglementation. Par exemple, il faut prévoir la possibilité de collecter le consentement des utilisateurs avant d’engager un dialogue avec une IA et de traiter les refus. Forts de toutes ces hypothèses et anticipations, il s’agira en aval de surveiller attentivement l’évolution du RSI, en se fixant des étapes mensuelles, trimestrielles ou annuelles qui permettront le cas échéant d’adapter l’outil, la formation des utilisateurs ou les données.
Dans tout projet, la question de la donnée est évidemment cruciale. Elle l’est particulièrement dans un projet d’IA générative, qui suscite par nature une double incertitude : on ne sait pas à l’avance quelles questions vont poser les clients et on n’est pas absolument sûr de la pertinence des réponses, notamment à cause de la tendance des LLM à souffrir d’hallucinations. La qualité des réponses peut toutefois être pratiquement garantie, lorsque le LLM est entrainé sur des données fiables. Si bien que la préparation des données constitue l’étape la plus longue et la plus difficile d’un projet d’IA générative. Cette phase relève d’un travail minutieux, partiellement automatisable, visant à vérifier les données et leurs formats mais aussi la légitimité de l’entreprise à les exploiter, donc à les soumettre au LLM. Ainsi, on anonymisera certaines d’entre elles et on en écartera d’autres, contraires à la réglementation ou à l’éthique. On peut également dupliquer la donnée en anonymisant les informations sensibles puis vérifier le comportement de l’IA dans le périmètre choisi, et le cas échéant, affiner la donnée pour anticiper son cadrage. L’étude des résultats permet ensuite de formaliser des prompts permettant d’améliorer la qualité des futures réponses. En résumé, la qualité de la donnée et sa maîtrise en amont favorisent ce processus d’intégration, crucial pour la suite du projet.
L’IA suscite auprès des collaborateurs de nombreuses interrogations auxquelles il s’agit de répondre. On lèvera d’abord certains fantasmes en expliquant que l’IA ne va pas remplacer les compétences humaines mais qu’il s’agit essentiellement d’un outil qui va accompagner les collaborateurs à mieux faire leur métier, voire à monter en compétences. C’est d’autant plus vrai qu’une bonne partie des projets visent d’abord à accompagner et « augmenter » les agents, plutôt qu’à répondre directement aux clients. Il s’agit ensuite d’expliquer aux utilisateurs comment tirer le meilleur parti de l’IA.
La conduite du changement proprement dite comprend trois phases. Tout d’abord, on diffuse en interne et dans une totale transparence, le futur périmètre d’intervention de l’IA, afin de gagner la confiance des collaborateurs. Pour faciliter cette communication tout au long du projet, on peut nommer des ambassadeurs qui centraliseront les retours utilisateurs durant la phase de formation. En phase de recette métier, on valide l’implémentation et on éprouve la future utilisation de l’IA. Cette phase permet d’anticiper quelques correctifs avant la mise en production et d’adapter la troisième et dernière phase. Dédiée à l’accompagnement et à la formation, celle-ci permet de transformer le quotidien des collaborateurs et de finaliser les derniers préparatifs avant le lancement. Elle est cruciale pour l’adoption de l’outil, sa mise en épreuve technique et la pré-évaluation de son RSI.