Les agents et usages IA doivent être bien cadrés


En entreprise, tous les modèles de langage et toutes les demandes ne sont pas légitimes, confirme Sébastien Comte, RSSI de Nubevia. Il précise comment cadrer l’assistant, l’agent autonome et l’accès aux données confidentielles.

Quelles sont les missions du RSSI de Nubevia ?

Sébastien Comte : Ma mission consiste à assurer la sécurité au sens large du terme, donc la gouvernance, la conformité et la sécurité opérationnelle de l’ensemble des entités du groupe.

Nubevia vient de lancer sa plateforme AIFlow au Pôle Alpha de Sophia-Antipolis. La cybersécurité est-elle une facette importante de cette offre ?

Sébastien Comte

Sébastien Comte : Tout à fait. Les plateformes IA sont des sujets sensibles au niveau de la sécurité, notamment au niveau des usages, mais aussi au niveau des menaces qui peuvent apparaître, externes et internes.

L’approche à adopter passe-t-elle par une qualification et une classification préalable des données ?

Sébastien Comte : Quand on confie de la donnée à une IA, elle ne connaît pas sa valeur. Donc il est important de bien cloisonner ses données et de les classifier. Il faut faire de ces étapes un préalable à l’utilisation et à l’ingestion d’informations et de documents internes dans un moteur IA.

La sécurisation de l’IA passe-t-elle également par de nouveaux contrôles d’accès ?

Sébastien Comte : Oui, surtout avec l’IA agentique et ses agents autonomes mis à la disposition des utilisateurs. Pour améliorer leur sécurité, on doit contraindre l’IA à ne pas exécuter certaines actions, à ne pas toujours répondre aux demandes de l’utilisateur. On doit effectuer des contrôles pour vérifier si la requête est conforme ou pas aux règles de l’entreprise. En cas de non-conformité, on demandera à l’IA de ne pas la traiter, ou de la traiter différemment.

Quand on choisit une plateforme IA, quel critère pèse le plus : la cybersécurité ou son coût, la facturation au token pouvant grimper très vite ?

Sébastien Comte : En effet, l’IA peut coûter très cher. Donc, l’aspect financier détermine, dès le départ, ce que l’on peut faire ou pas. Avec un budget trop serré, l’utilisateur va retenir une IA grand public, sans pouvoir en assurer la sécurité. Il y a un budget minimum à consacrer pour garantir une sécurité, pour pouvoir exécuter ses propres modèles et en contrôler l’usage.

Est-ce que Nubevia aide ses clients à innover avec l’IA de façon sûre et maîtrisée ?

Sébastien Comte : De l’IA mutualisée au cluster dédié, nous offrons quatre espaces distincts. Sur le volet sécurité, nous travaillons avec chaque client sur son harnais et ses guardrails (glissières de sécurité). Cet outillage composé d’agents et de processus de sécurité aide à préciser le contexte d’usages légitimes pour l’entreprise. Il vient encadrer les demandes faites à l’IA.

Une DSI qui innoverait avec plusieurs fournisseurs d’IA peut-elle fixer un cadre qui sera respecté partout ?

Sébastien Comte :  Lorsqu’on veut innover avec l’IA, les utilisateurs doivent prendre gare aux données transmises, se limiter à un usage raisonné, garder le contrôle de l’intention. Personne ne devrait confier toute sa vie à un chatbot. L’entreprise doit être capable d’arrêter certains usages, dès que la confidentialité n’est pas au rendez-vous.

Proposez-vous une aide au choix selon le cas d’usage ?

Sébastien Comte : Tout à fait. On va étudier le contexte du client et lui conseiller un niveau de confidentialité. D’une part, l’IA a besoin de demandes très précises pour apporter des réponses pertinentes. D’autre part, l’entreprise doit superviser les données et documents confidentiels transmis. Pour les clients du secteur de la défense ou de la santé par exemple, nous veillons à ne pas laisser sortir aucune donnée sensible sur Internet.

Auteur de l’article : la Rédaction

Journaliste et fondateur de l'agence éditoriale PulsEdit, Olivier Bouzereau pilote la rédaction de DCloudNews. Il coordonne la communauté open source OW2, conçoit des services et contenus en ligne, des conférences et formations pour les professionnels du numérique, des médias et de la santé. Profil LinkedIn.