Les agents IA orchestrés en workflow provoquent une captation des connaissances et processus. La perte de contrôle ne tient plus de la dystopie. Comment l’éviter ?
Si les débats autour de la souveraineté numérique et de la captation de données se multiplient, c’est qu’une menace plus inquiétante que les cyberattaques plane sur la généralisation des usages IA, ses agents en réseau s’immiscant derrière tous nos écrans et capteurs de montres, smartphones, PC, autos et TV connectés.
Géants de l’IA et hyperscalers se renforcent
Dans une course effrénée à la domination technologique, les géants de l’intelligence artificielle et les hyperscalers entretiennent de puissants muscles invisibles, capables de coordonner des tâches complexes à une vitesse fulgurante. Ces workflows d’agents IA siphonnent les données et processus exposés en ligne. Leur promesse ? Une efficacité inégalée pour l’entreprise, mais à quel prix pour le citoyen, et pour l’économie ?
David Chavalarias, directeur de recherches au CNRS et auteur de « Toxic Data : comment les réseaux manipulent nos opinions » (Ed. Flammarion) révèle la subversion 2.0 des big tech. Selon lui, les algorithmes de recommandations des plateformes sociales sont au cœur d’une redoutable économie du clic. L’utilisateur connecté déroule sans fin de courtes vidéos sur ses thèmes favoris, puis encourage ses amis à les consommer, au point d’altérer leur raisonnement. Ce pouvoir hypnotique profite, avant tout, à la plateforme et à ses annonceurs.
Songez aux 14 millions de profils actifs sur LinkedIn dont une grande proportion de développeurs partagent leurs codes sources sur GitHub, également acquis par Microsoft. Avis, tutos et enquêtes express les mènent tour à tour vers Visual Studio, co-pilot, Azure DevOps, Teams, Microsoft365. Plus efficace qu’une publicité !
Tout en congédiant 6 000 salariés de plus (lire la dépêche Reuters), l’éditeur de Redmond déclare qu’il va investir davantage dans l’IA. De quoi faire regretter aux Softies l’inoffensif Clippy, premier chatbot maladroit de la suite bureautique MS-Office 97, tant décrié à sa sortie.
L’IA fait main basse sur le capital intellectuel
L’e-Commerce a bouleversé nos réflexes d’achat, et l’ERP (Progiciel de Gestion Intégrée) a structuré nos processus internes ; leur percée s’est parfois heurtée à la finesse des langages métiers, à la coopération des équipes, à une forme de résistance au changement.
Les agents IA promettent d’automatiser nos tâches quotidiennes en 24/7, d’agir de façon autonome grâce aux modèles linguistiques distants, adroits et bien renseignés. Leurs facultés créent une dépendance accrue aux acteurs qui contrôlent et maintiennent ces modèles, ainsi que l’accès sécurisé à leurs API. Les freins d’hier sont déjà contournés. Mais faute de résultats pertinents, il ne saurait y avoir de confiance dans l’IA.
Les hyperscalers – Amazon Web Services, Alibaba Cloud, Google Cloud, Microsoft Azure – ne se contentent plus de fournir des infrastructures de calcul et de stockage. Ils façonnent des écosystèmes où chaque décision, chaque idée, chaque clic est capturé, analysé et monétisé. Leurs agents IA synchronisent des flux de données à grande échelle, redéfinissant la notion même de productivité ; ils orchestrent une captation de valeurs avec un appétit insatiable.
Cette ruée vers l’automatisation pourrait vider nos entreprises de leur substance, transformant les employés en simples contrôleurs d’exécution d’algorithmes. Les savoir-faire locaux, les cultures et identités régionales pourraient être englouties dans cet océan de flux numériques. Les défenseurs de l’IA veulent y voir une révolution comparable à l’invention de l’imprimerie pour la littérature, capable de démocratiser l’accès à l’expertise.
L’open source comme alternative raisonnée
Les précédentes révolutions numériques ont, elles aussi, promis monts et merveilles. Elles ont surtout créé une poignée de leaders et fait disparaître de multiples PME. Les agents IA bien orchestrés sont susceptibles de bousculer ETI et grands comptes, en intégrant l’ensemble de la chaîne de valeur dans une nouvelle chorégraphie parfaitement huilée. Mais à quel coût ?
La boîte de Pandore est ouverte. Un nouveau visage de l’économie mondiale apparaît sous nos yeux, où les valorisations boursières des pionniers de l’IA s’envolent. Ce changement d’ère ne laisse personne indifférent. Entre fascination pour un avenir hyper-efficace et crainte d’un monde éphémère où l’humain et son environnement sont relégués au second plan, le débat fait rage. Surentraînées et surexploitées, les IA publiques forment une bombe à retardement dont le compte à rebours a déjà commencé. Elles sont inexplicables et injustifiables.
Sont-elles inéluctables ? L’alternative raisonnée pour une IA de confiance ne résidera pas dans le prochain catalogue d’un nouvel hyperscaler, fût-il européen. Elle exige une architecture privée – ou un cloud hybride – pour héberger nos données sensibles, avec des efforts pour les classer, les protéger soigneusement, avant de nourrir des modèles d’IA hébergés sur des sites de confiance. Des briques open source interopérables, interchangeables, transparentes et auditables s’imposent.
Selon une étude du cabinet PAC menée auprès de 550 décideurs répartis sur cinq pays, développer une IA de confiance passe par la combinaison de techniques de chiffrement et de respect de la vie privée (51%), par des processus assurant l’éthique et la gouvernance (40%), des caractéristiques interprétables, explicables (35%), et l’implémentation d’outils de tests et de validation (32%).
A noter que le gouvernement français vient de faire sienne l’approche open source comme standard pour ses propres projets, adoptant ainsi la charte open source des nations-unis (https://unite.un.org/fr/news/france-becomes-first-government-endorse-un-open-source-principles-joined-19-organizations). La preuve qu’un choix stratégique reste encore possible.
Crédits illustrations : Flammarion et DALL·E 3
