L’intelligence artificielle est partout. Elle fascine, interroge et transforme nos organisations à une vitesse sans précédent.
Dans les entreprises, les initiatives IA se multiplient. Les opportunités semblent infinies et les objectifs restent parfois flous, tandis que les questions de gouvernance, de responsabilité et de maîtrise sont souvent reléguées au second plan.
Dans cet article, Alexandre Ney, Head of Innovation & Digital Solutions, vous invite à découvrir un cas client fictif inspiré de tendances, d’études et de signaux. Cette projection nous transporte en 2040 pour explorer les conséquences de nos décisions.
Cette histoire rappelle qu’avec l’IA, chaque décision prise aujourd’hui laisse une empreinte qui pourrait se faire sentir pendant des décennies.
Qu’est-ce que la gouvernance IA et pourquoi devient-elle un sujet clé en 2026 ?
La gouvernance IA, c’est le cadre qu’une organisation met en place pour définir :
- comment l’IA peut être utilisée,
- par qui,
- et avec quelles règles.
Elle comprend aussi les responsabilités, les processus de contrôle et la gestion des risques. C’est précisément ce que mettent en avant l’ISO et le NIST.
2026 constitue un vrai point de bascule. Ce n’est plus seulement un sujet de bonnes pratiques internes : la gouvernance de l’IA est en train de devenir un sujet institutionnel, réglementaire et opérationnel.
Trois éléments très concrets permettent de l’expliquer.
1️⃣ La gouvernance de l’IA devient un sujet international à part entière.
Les 6 et 7 juillet 2026, Genève a accueilli la première session du Dialogue mondial des Nations Unies sur la gouvernance de l’IA. Il s’agit de la première plateforme de l’ONU réunissant les 193 États membres, mais aussi entreprises, chercheurs, société civile et communauté technique autour de cette question.
Parmi les thèmes officiellement discutés : sécurité des systèmes, droits humains, transparence, responsabilité, supervision humaine et compatibilité entre les différentes approches de gouvernance.
2️⃣ La réglementation commence à produire des obligations concrètes.
Dans l’Union européenne, le 2 août 2026 marque une étape majeure dans l’application de l’AI Act : les autorités disposent désormais de pouvoirs d’exécution pour plusieurs dispositions, et les obligations de transparence concernant certains systèmes d’IA sont notamment applicables.
L’AI Act est une réglementation ; la gouvernance IA est l’organisation mise en place par une entreprise pour encadrer ses propres usages de l’IA. Une bonne gouvernance peut donc notamment servir à identifier les systèmes utilisés, déterminer quelles règles leur sont applicables et assurer leur conformité à l’AI Act. D’ailleurs, une entreprise suisse n’est pas nécessairement hors du champ de l’AI Act, tout comme elle ne l’est pas forcément du RGPD.
3️⃣ La Suisse est elle aussi en train de construire son cadre.
Le Conseil fédéral a chargé plusieurs départements de préparer d’ici fin 2026 un projet de réglementation, notamment autour de la transparence, de la protection des données, de la non-discrimination et de la surveillance.
👉 Si les outils IA vous intéressent, consultez nos articles sur Microsoft Copilot, sur l’intégration entre AI Builder et Copilot Studio ou encore sur l’utilisation de Copilot.
Quand l’absence de gouvernance IA devient un risque pour l’entreprise
Revenons à la fiction.
Camille Berthier prend ses fonctions de Directrice Générale de Terra Vitae le 4 octobre 2040. Elle a 47 ans. Elle dirigeait jusqu’alors les opérations italiennes de la coopérative. Le Conseil l’a rappelée en urgence après la démission du précédent dirigeant.
Terra Vitae est une coopérative biodynamique fondée en 2021 par 28 fermes du Plateau suisse pour mutualiser la traçabilité Demeter et la commercialisation B2B vers les restaurateurs étoilés. 19 ans plus tard :
- 187 fermes adhérentes en Suisse, Autriche et Italie du Nord,
- 242 salariés au cœur de la coopérative,
- 290 millions de CHF de chiffre d’affaires.
Le 15 janvier 2041, Camille convoque le conseil.
« Nous ne savons plus pourquoi nous prenons les décisions que nous prenons. »
— Camille Berthier, DG de Terra Vitae, Conseil du 15 janvier 2041.
Le détail qu’elle présente est plus précis et plus brutal.
CE QUE CAMILLE A TROUVÉ EN CENT JOURS
- 387 agents IA en production. Aucune cartographie à jour ne les recense.
- 73 % des décisions opérationnelles sont prises sans validation humaine.
- Aucun salarié actuel n’a participé à la conception du système central, les ingénieurs initiaux ont tous quitté la coopérative entre 2030 et 2034.
- Le dernier audit complet de la couche IA date de 2031.
- Trois contrats stratégiques ont été reconduits automatiquement à perte. Cumul : -4 M CHF.
- Un régulateur européen vient d’ouvrir une enquête pour non-conformité à l’AI Act, applicable aux exports vers l’UE (transparence et supervision humaine).
- Trois fournisseurs SaaS détiennent les modèles qui gouvernent 60 % des décisions opérationnelles, en sortir coûterait 12 M CHF et dix-huit mois.
Le Conseil donne à Camille 90 jours pour produire un plan de restructuration crédible. À défaut, Terra Vitae passera sous administration.
L’incident n’a pas eu lieu un mardi à 3h du matin. Terra Vitae a glissé pendant 14 ans, en pleine confiance, dans une zone d’opacité dont personne ne mesurait l’avancée.
Quatre décisions qui ont fragilisé la gouvernance IA de Terra Vitae
L’histoire de Terra Vitae n’est pas une histoire d’incompétence.
Entre 2026 et 2030, Terra Vitae a fait ce que la plupart des coopératives de sa taille ont fait : déployer l’IA partout, vite, en réponse à des urgences métier. 8 agents en 2026. 95 en 2030. Plus de 300 en 2035.
Chaque déploiement résolvait un problème immédiat :
- météo,
- irrigation,
- traçabilité,
- reporting B2B,
- support client.
Chaque déploiement créait une dépendance que personne n’a pris le temps de cartographier.
Quatre décisions ont scellé le destin de Terra Vitae.
Décision n°1 : laisser chaque direction métier déployer ses agents IA
La décision partait d’une bonne intention : la DSI était débordée, et on a laissé le marketing, les achats, la logistique et la finance choisir leurs propres outils sans qu’aucune instance ne centralise. En 2040, la coopérative tourne sur 6 clouds différents et 4 protocoles incompatibles, sans cartographie d’ensemble.
Les agents IA ne se parlent pas, sauf lorsqu’ils s’activent involontairement les uns les autres, et personne ne sait alors qui a déclenché quoi.
Décision n°2 : signer des contrats IA sans anticiper la réversibilité et la propriété
Personne n’a négocié de clause de réversibilité, d’export des historiques de prompts ni de propriété sur les modèles affinés. À l’arrivée, 3 fournisseurs détiennent les clés d’un système que Terra Vitae ne possède pas.
Décision n°3 : ne pas versionner ni documenter les prompts
À l’époque, les prompts étaient considérés comme des « fichiers techniques » éphémères, jamais reliés à des spécifications métier ni accompagnés d’un historique.
Quand les développeurs initiaux sont partis, la totalité d’entre eux avant 2034, les prompts sont devenus du folklore.
Personne, en 2040, ne sait pourquoi l’agent de pricing applique un coefficient de 0,847 sur les marchés du Sud, mais il l’applique depuis 11 ans.
Décision n°4 : ne pas former les dirigeants aux enjeux de l’IA
C’est la décision la plus discrète et la plus lourde de conséquences. Le COMEX dépendait entièrement de ce que la DSI lui expliquait, qui dépendait elle-même des fournisseurs.
Quand les arbitrages stratégiques se sont présentés en 2028, en 2030 puis en 2033, la chaîne de décision se nourrissait d’une information qu’aucun dirigeant ne pouvait contre-expertiser.
Ce que Terra Vitae révèle des enjeux de gouvernance IA en 2026
Terra Vitae est une fiction, sa trajectoire ne l’est pas. Trois signaux mesurés aujourd’hui suffisent à dessiner sa courbe.
1️⃣ Gartner, août 2025 : 40 % des applications d’entreprise intégreront des agents IA d’ici fin 2026, contre moins de 5 % en 2025.
C’est la courbe d’adoption la plus rapide jamais mesurée, toutes technologies confondues. Mais 40 % des projets agentiques seront annulés d’ici fin 2027, coûts qui s’emballent, valeur business floue, contrôle des risques insuffisants. La marche d’escalier est partout. Les rambardes, nulle part.
2️⃣ McKinsey, State of AI 2025 : seules 6 % des organisations interrogées tirent un impact EBIT supérieur à 5 % de leurs investissements IA. Et ces 6 % ont un point commun : elles ont redessiné leurs processus métier avant de déployer la technologie. Pas après. La différence n’est pas la techno. C’est l’ordre dans lequel on construit les choses.
3️⃣ DORA 2025 (Google Cloud, 5 000 professionnels interrogés) résume la mécanique en une phrase :
« AI doesn’t fix a team; it amplifies what’s already there. »
— DORA 2025 — État de l’ingénierie logicielle assistée par IA.
L’IA ne corrige pas une organisation qui ne fonctionne pas. Elle amplifie ses dysfonctionnements, plus vite, à plus grande échelle, et avec moins de visibilité. Terra Vitae est ce que devient une organisation qui amplifie ses failles sans jamais corriger la base.
💡 La bonne nouvelle ? Cette base se corrige, avec quatre piliers que nous mettons en œuvre chez Qim info.
Les quatre piliers d’une gouvernance IA maîtrisée
Chaque pilier répond à l’une des quatre décisions qui ont coulé Terra Vitae.
Aucun n’est facultatif. Tous se déploient ensemble, ou aucun ne tient.
Stratégie : cartographier et prioriser les cas d’usage IA
Avant tout déploiement,
- on construit l’inventaire des cas d’usage,
- on les hiérarchise par valeur métier et par niveau de risque,
- et l’on tranche surtout la question que personne n’aime poser : qu’est-ce qu’on choisit délibérément de ne PAS automatiser et pourquoi ?
C’est la question qui aurait sauvé Terra Vitae et c’est aussi celle que confirme McKinsey : les organisations qui réussissent commencent par redessiner leurs processus, avant de déployer la technologie. La cartographie n’est pas un livrable de consultant, c’est l’annexe du contrat moral entre la direction générale et la DSI.
Technologie : encadrer les agents IA par l’architecture
Un agent IA ne devrait pas se contenter d’être « bien configuré » : son cadre doit être inscrit dans l’infrastructure elle-même, là où un prompt ne peut pas le contourner. C’est l’esprit du zero-trust appliqué aux agents, et il repose sur trois principes qui, eux, ne changeront pas, même si les outils qui les portent évolueront :
1- Une identité et une authentification fortes. Chaque agent dispose d’une identité vérifiable, de droits explicites et de droits d’accès à durée de vie limitée, exactement ce qu’on attend aujourd’hui d’un humain ou d’un service. Les briques du moment s’appellent OAuth ou SPIFFE/SPIRE, demain ce seront d’autres. Le principe, lui, reste : aucun agent n’agit sans identité ni mandat.
2- Une communication standardisée et auditable. Les agents se coordonnent par des protocoles ouverts plutôt que par des intégrations sur mesure, ce qui rend chaque échange traçable et remplaçable. Le protocole A2A en est l’illustration actuelle ; ce qui compte est de ne dépendre d’aucun dialecte propriétaire.
3- Un accès aux outils et aux données passant par une interface contrôlée. Un agent n’attaque jamais un système directement : il passe par une couche qui expose ce qu’il a le droit de faire, et journalise le reste. C’est le rôle que joue aujourd’hui un protocole comme MCP. La technologie changera ; le principe d’un point de passage unique et observable restera.
Concrètement : un agent d’achats ne peut pas modifier le calendrier de production. Non parce qu’un prompt le lui interdit, mais parce que
- son identité ne lui en donne pas le droit
- et que l’interface ne lui en offre pas la possibilité.
Méthodologie : assurer la traçabilité des prompts et des décisions
Chaque prompt en production est versionné comme du code, chaque décision automatisée est journalisée, horodatée, rejouable et chaque agent est défini en YAML avec des droits explicites, des outils autorisés listés et un cycle de vie géré.
C’est ce que DORA 2025 appelle le spec-driven development : la spécification métier est écrite avant de coder l’agent, et l’agent peut être audité contre cette spécification à tout moment. Faute de cette discipline, vous automatisez vos mauvaises pratiques à grande échelle et vous découvrez le problème quand il est trop tard.
Processus et humains : organiser la supervision humaine de l’IA
Trois métiers émergent dans toute organisation qui réussit le passage à l’IA agentique et aucun ne figurait dans les fiches de poste en 2024.
- L’architecte d’intention formalise en amont ce que l’entreprise souhaite, dans un langage que l’agent peut exécuter et que l’humain peut auditer.
- Le superviseur qualité révise les décisions et le code produits par les agents pour les filtrer.
- Le responsable d’escalade définit, contractualise et fait respecter les seuils à partir desquels un agent DOIT s’arrêter et appeler un humain.
Goldman Sachs a engagé ce mouvement dès juillet 2025 : des milliers d’agents déployés aux côtés de 12 000 développeurs, sans suppression de postes avec à la clef :
- +40 % de productivité,
- –15 % de bugs en production.
Comment garder la maîtrise de ses systèmes IA dans le temps ?
Anticiper aujourd’hui ce qui sera nécessaire demain
À chaque dirigeant que nous rencontrons, nous posons la même question.
Dans dix ans, vos décisions seront pilotées par un système. Qu’aurez-vous fait aujourd’hui pour qu’il reste lisible par les vôtres ?
En 2026, personne chez Terra Vitae ne s’est posé cette question. Ni ses dirigeants, ni ses concurrents, ni le reste du marché : tous avaient trop à faire pour s’arrêter sur une dystopie qui paraissait improbable.
- L’architecture que vous construisez aujourd’hui,
- vos cartographies,
- vos contrats,
- vos prompts versionnés,
- vos rôles humains repositionnés,
sont la seule réponse qui tienne. Tout le reste est une promesse de fournisseur.
Comment évaluer votre gouvernance IA aujourd’hui ?
Posez-vous 5 questions très concrètes :
- Savez-vous quels systèmes et agents IA sont actuellement utilisés dans l’entreprise ?
- Chaque système IA a-t-il un responsable humain clairement identifié ?
- Les droits d’accès, décisions et évolutions des systèmes sont-ils traçables ?
- Savez-vous quelles données et quels fournisseurs interviennent dans chaque cas d’usage ?
- Avez-vous défini les situations dans lesquelles une validation humaine est obligatoire ?
FAQ
Pourquoi mettre en place une gouvernance IA en entreprise ?
Mettre en place une gouvernance IA permet d’encadrer les usages de l’intelligence artificielle avant qu’ils ne se multiplient de manière incontrôlée.
L’objectif est de limiter les risques de sécurité, de non-conformité, de dépendance aux fournisseurs ou de décisions opaques, tout en permettant aux équipes d’innover.
Qui est responsable de la gouvernance de l’IA dans une entreprise ?
La gouvernance de l’IA n’est pas du ressort d’un seul service.
- La direction doit définir le cadre et assumer les décisions liées aux risques,
- les responsabilités opérationnelles sont réparties entre les équipes concernées.
Le NIST AI RMF explicite que les rôles, les responsabilités et les lignes de communication liés aux risques IA doivent être documentés et que la direction exécutive prend la responsabilité des décisions relatives aux risques associés au développement et au déploiement de l’IA.
Et le CDF suisse formule en avril 2026 le principe très clairement : avec l’IA agentique, « la responsabilité incombe toujours à l’humain ».
💡 Nuance importante : nous parlons ici de responsabilité organisationnelle dans la gouvernance. Ce n’est pas la même question que déterminer qui est juridiquement responsable.
Sources mobilisées
- Gartner — 40 % des applications d’entreprise intégreront des agents IA d’ici 2026 (août 2025) • 40 % des projets agentiques annulés d’ici 2027 (juin 2025) • « agent washing » : ~130 fournisseurs réels sur des milliers (IT Symposium, déc. 2025).
- DORA 2025 — Google Cloud, State of AI-assisted Software Development. 5 000 professionnels. Sept capacités fondamentales. dora.dev
- McKinsey State of AI 2025 — Les « AI high performers » (6 % des répondants) ont trois fois plus de chances d’avoir redessiné leurs workflows avant le déploiement IA.
- Goldman Sachs — Marco Argenti, CTO, juillet 2025 : milliers d’agents IA + 12 000 développeurs. +40 % time-to-deliver, –15 % bugs post-release.
- Linux Foundation • A2A Protocol — Standard Agent-to-Agent, 2026, porté par 150+ organisations dont Atlassian, Salesforce, SAP.
- AI Act européen — Règlement (UE) 2024/1689. Obligations de transparence et de supervision humaine pour les systèmes IA à haut risque (entrée en vigueur des dispositions clés : juin 2026).
Terra Vitae est une coopérative biodynamique fictive. Toutes les sources et données chiffrées citées sont réelles et publiquement vérifiables.
