Veille Stratégique et IA Générative : Un équilibre entre innovation et sécurité

Dans le tournant “Intelligence Artificielle Générative” que sont en train de négocier les acteurs du secteur et des métiers de la veille et de l’intelligence économique, le juste équilibre est à rechercher, trouver et maintenir entre :

• L’innovation fonctionnelle, l'enrichissement des expériences de veille et d'analyse, les gains de productivité
• Les risques de sécurité liés aux informations sensibles, les biais d’entrainement, les risques d’erreur et d’hallucination, de perte de confiance dans l'information
• Les impacts sur les métiers et postes des veilleurs, et plus généralement les impacts sociétaux et environnementaux associés, passés et à venir.

Chez EspritsCollaboratifs, nous avons fait plusieurs choix et compromis structurants autour de l’intégration de l’intelligence artificielle générative dans Curebot afin d’enrichir notre outil de veille stratégique tout en respectant nos valeurs et visions fondamentales d’un monde numérique responsable, éthique et au service du développement de l’intelligence humaine et collective.

La veille stratégique au prisme de la souveraineté numérique : notre choix d'auto-hébergement

Pour un éditeur d’outil de veille stratégique, il existe deux grandes façons d’intégrer de l’IA générative dans sa plateforme :

• l'utilisation immédiate, relativement simple et peu couteuse des APIs de fournisseurs reconnus
• le développement de sa propre infrastructure d’IA ; un projet complexe, requérant des compétences avancées et impliquant des charges financières importantes

Malgré les avantages techniques et financiers apparents des APIs externes, le choix de l'auto-hébergement a toujours été une évidence pour garantir la souveraineté numérique et la sécurité informationnelle de nos clients, éloignant ainsi leurs données stratégiques de juridictions non-européennes.

Utiliser les APIs d’IA génératives d'éditeurs américains (OpenAI, Copilote, Gemini, Claude, Bard...) s'oppose fondamentalement aux principes d'intelligence économique et de sécurité des informations. En exploitant ces APIs, les utilisateurs des plateformes de veille stratégique risquent de divulguer involontairement des informations sensibles. Les requêtes effectuées par un salarié, l’exposition de ses intérêts spécifiques, le partage des ressources externes ayant retenues son intérêt ou même des documents internes, potentiellement confidentiels, la demande de soutien à la formulation d’un point de vue, d’un commentaire, d’un paragraphe …

…. Exposant ainsi ces données et centres d’intérêts au regard indiscret de la justice américaine, bras armé du gouvernement américain pour soutenir la compétitivité des entreprises états-uniennes.

De la même manière que les entreprises ont pris conscience des risques liés aux usage de moteurs de recherches américains ou de l'importance de privilégier l'hébergement de leurs données stratégiques sur des clouds européens, il est tout autant crucial pour les entreprises, notamment françaises, de veiller à ce que leurs salariés n’exposent pas d’informations confidentielles ou réglementées. Et donc, de ne choisir que des fournisseurs qui s’engagent à ne pas se reposer sur des services et API d'intelligence artificielle américains ou dont les serveurs sont régis par des lois étrangères.

Veille stratégique, IA et Open Source : le choix de l’autonomie

Pour consolider notre autonomie et celle de nos clients dans la veille stratégique, nous avons opté pour un modèle Open Source français. Cette approche prévient les risques liés à la dépendance vis-à-vis de tiers, comme la fermeture soudaine d'APIs ou l'augmentation des tarifs, des événements déjà observés dans l'industrie et qui menacent la continuité des activités de veille.

Veille stratégique et IA : transparence, contrôle utilisateur

Bien que les IAs génératives soient le parfait exemple d’une boîte noire algorithmique, nous continuerons d’apporter un niveau maximum de transparence et de contrôle aux utilisateurs de notre plateforme de veille, comme nous avons souhaité le faire avec l’introduction des algorithmes de clustering de vaste corpus de ressources. Nous mettrons progressivement à leur disposition des paramètres personnalisables, comme l'indicateur de créativité, de rôle endossé, ou encore de langue cible.

Dans notre roadmap liée à l’intelligence artificielle générative, nous prévoyons de marquer les contenus générés exclusivement par notre IA générative et les contenus générés conjointement par un utilisateur, soutenu par notre Assistant Curebot afin de rendre le plus transparent possible l’usage des IAs dans l’outil de veille stratégique.

Veille et IA : une nécessaire sensibilisation aux risques

Au travers des interfaces que nous proposons, nous nous engageons également à sensibiliser nos utilisateurs aux erreurs potentielles et aux limites de l'IAG.

Dans notre accompagnement, nos consultants pourront vous soutenir dans une démarche de sensibilisation des salariés aux enjeux de confiance et sécurité informationnelle à l’heure des IAs génératives.

Nous sommes, par ailleurs, convaincus que les professionnels de l’information ont un rôle majeur à jouer dans cette sensibilisation, de par leurs compétences et les rôles de garant d’une information fiable sur laquelle l’organisation peut se reposer pour prendre leurs décisions ; au même titre que la sensibilisation des salariés aux risques Cyber est devenue une responsabilité des directions Sécurité.

Veille stratégique renforcée par l'IA : assistance et valorisation du rôle humain

Notre objectif est de renforcer le rôle des professionnels de la veille stratégique, non pas en remplaçant leur expertise, ou en annulant le besoin de mener leurs activités, mais au contraire en facilitant, encourageant et stimulant le travail d’analyse humaine. Ces apports d’IA génératives peuvent, nous en sommes convaincus, bénéficier à l’ensemble des salariés d’une entreprise.

L'Assistant Curebot est conçu pour aider à toutes les étapes, de la synthèse à la formulation des idées, en passant par la structuration de la pensée, l’éveil de l’esprit critique, la recommandation de recherches d’informations complémentaires et l'animation des réseaux de veille et d’analyse.

Vers une intégration complète de l'IA dans la veille stratégique

Nous sommes convaincus que l'IA générative peut apporter un soutien précieux à chaque étape du cycle de la veille stratégique. Notre défi est de créer des interfaces et des prompts qui maximisent cette assistance, de rendre actionnable les fruits des analyses humaines soutenues par de l’IA et de rester vigilants quant aux erreurs, aux biais et aux risques liés à l'utilisation de l'IA.