L’IA face à l’épreuve de mise en production

Deux expertes en intelligence artificielle et un directeur informatique ont confronté leurs expériences, du prototype à la valeur pour les métiers, lors d’une table ronde du forum Cybersécurité-IA au salon Tech Solutions mercredi dernier. Fournir une productivité réelle aux équipes, des services fiables, durables, inclusifs et évolutifs ne coule pas de source.

Les entreprises multiplient les pilotes IA mais industrialisent plus rarement ces projets. Forte de ce constat, Céline Rousselot, Architecte produit IA responsable et membre du Cefcys, défend une IA inclusive. Elle estime que la valeur d’un service automatisé doit être vérifiée par chacun plutôt que décrétée : « Un produit performant mais non adopté n’a pas de valeur pour l’utilisateur. »

Néanmoins, tout pilote abandonné n’est pas synonyme d’échec. C’est une source d’informations utiles, estime-t-elle. Son prototype Alfred, destiné aux personnes isolées ou en situation de handicap, conserve les données sensibles en local, chiffre les échanges avec les LLM externes et préserve ainsi l’autonomie et les données confidentielles de l’utilisateur.


Soigner les rôles et l’observabilité

Face aux risques de fuites de données réglementées et de propriété intellectuelle, Leila Kaoutar-Benachour, Consultante IA chez Deep, plaide pour une stratégie IA alignée sur celle de l’entreprise et souligne l’importance de former les équipes. Les cas d’usage doivent être priorisés selon leur valeur pour les métiers, les rôles précisément définis et l’observabilité des agents soignée. Leila pointe un coût caché pouvant grimper avec le temps : si on ne forme plus de développeurs ou d’administrateurs juniors, la perte de compétences deviendra pénalisante, au départ en retraite des ingénieurs et techniciens seniors.

Youssef Bennour, Directeur IT de Telehouse rappelle que le shadow AI succède au phénomène shadow IT. Il recommande une alternative fiable aux IA publiques, via l’hébergement de serveurs dédiés sur les infrastructures de l’entreprise. A ce propos, il invite à « répartir les données sensibles sur des équipements de l’entreprise avec des modèles à poids ouverts, mais le coût est alors déplacé vers l’équipe. Définir une brique de contrôle et de gouvernance des données dès le début du projet permet de confier plus de tâches à l’IA, » observe-t-il.

Gare aux validations sans réflexion

Concernant la place de l’humain vis-à-vis des réponses de l’IA, Leila suggère une vérification par échantillons en cas d’enjeux faibles, mais une double vérification pour les sujets critiques, tels que l’octroi d’un crédit bancaire. Les agents développés chez Deep simplifient les analyses et l’édition de tableaux de bord en finance ainsi qu’en Ressources Humaines. L’efficacité opérationnelle sera au rendez-vous, à condition de bien attribuer le contrôle humain à la fin du processus.

« On est capable à présent d’automatiser 90% des activités d’une équipe de support technique de premier niveau en charge de services managés. Mais il est nécessaire de former les équipes au pilotage des agents automatisés et de prévoir un plan de perfectionnement et de reconversion professionnelle, » ajoute Leila.

Céline prévient qu’une validation de façade, en mode réflexe, pourra s’avérer pire que l’absence de validation des résultats produits par l’IA. « Cette validation machinale devient une faille de sécurité et un risque pour l’entreprise. D’où l’importance de conserver un esprit critique sur les réponses. »

Les trois intervenants s’accordent sur une méthode consistant à partir du besoin des métiers et non d’une technologie à la mode. Ils recommandent d’inclure une validation humaine dans le flux de travail avec les agents IA, de soigner la gouvernance, le contrôle et la traçabilité des usages comme autant de leviers de conformité réglementaire et d’autonomie.

Auteur de l’article : la Rédaction

Journaliste et fondateur de l'agence éditoriale PulsEdit, Olivier Bouzereau pilote la rédaction de DCloudNews. Il coordonne la communauté open source OW2, conçoit des services et contenus en ligne, des conférences et formations pour les professionnels du numérique, des médias et de la santé. Profil LinkedIn.