Deux expertes IA et un directeur informatique ont confronté leurs expériences, du prototype à la valeur pour les métiers, lors d’une table ronde du forum Cybersécurité-IA au salon Tech Solutions mecredi dernier. Fournir une productivité réelle aux équipes, des services fiables, durables, inclusifs et évolutifs ne coule pas de source.
Les entreprises multiplient les pilotes IA mais industrialisent plus rarement ces projets. Forte de ce constat, Céline Rousselot, Architecte produit IA responsable et membre du Cefcys, défend une IA inclusive. Elle estime que la valeur d’un service automatisé doit être vérifiée par chacun plutôt que décrétée : « Un produit performant mais non adopté n’a pas de valeur perçue par l’utilisateur. »
Néanmoins, un pilote abandonné n’est pas un échec, mais une source d’informations utiles, estime-t-elle. Son prototype Alfred, destiné aux personnes isolées ou en situation de handicap, conserve les données sensibles en local, chiffre les échanges avec les LLM externes et préserve ainsi l’autonomie et la vie privée de l’utilisateur.
Soigner les rôles et l’observabilité
Leila Kaoutar-Benachour, Consultante IA chez Deep, plaide pour une stratégie IA alignée sur celle de l’entreprise. Les cas d’usage devraient être priorisés selon leur valeur pour les métiers, les rôles précisément définis et l’observabilité des agents soignée. Leila pointe un coût caché pouvant grimper dans le temps : si on ne forme plus de développeurs ou d’administrateurs juniors, la perte de compétences deviendra pénalisante, dès le départ en retraite des seniors.
Youssef Bennour, Directeur IT de Telehouse rappelle que le shadow AI succède au phénomène shadow IT. Il recommande une alternative fiable aux IA publiques, via l’hébergement de serveurs sur les infrastructures de l’entreprise. Il invite donc à répartir les données sensibles sur des clusters rapatriés sur site, quitte à conserver des usages courants en mode SaaS. Il souligne enfin l’importance de former les équipes aux risques de fuites de données réglementées et de propriété intellectuelle.
Gare aux validations sans réflexion
Concernant la place de l’humain dans le contrôle des réponses de l’IA, Leila suggère une vérification par échantillons en cas d’enjeux faibles, mais une double vérification pour les sujets critiques tels que l’octroi d’un crédit bancaire. Céline ajoute qu’une validation de façade, en mode réflexe, pourra s’avérer pire que l’absence de validation.
Automatisable à 90%, le support technique de premier niveau pousse les prestataires à réviser leur modèle économique et leurs contrats, tout en contribuant à réduire le nombre d’incidents. Les trois intervenants s’accordent sur une méthode consistant à partir du besoin et non d’une mode technologique éphémère. Ensuite, il recommandent d’inclure la validation humaine dans le flux de travail avec les agents, de soigner la gouvernance et la traçabilité comme leviers de conformité et d’autonomie.
