Global AI Trust, Risk, and Security Management (AI TRiSM) Rapport d'analyse de la taille, de la part et des tendances du marché – Aperçu de l'industrie et prévisions à 2033

Quelle est la taille du marché et le taux de croissance de la confiance, du risque et de la gestion de la sécurité en matière d'IA

• Selon l'analyse de Data Bridge Market Research, le marché de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM) a été évalué à2,70 milliards de dollars en 2025et devrait atteindre7,64 milliards de dollars en 2033, croissance à unTCAC de 13,90 % de 2026 à 2033.
• Le marché connaît une croissance constante due à la demande croissante de déploiement fiable et responsable de l'IA, à l'augmentation des exigences réglementaires, à l'augmentation des risques de cybersécurité et à l'adoption de solutions de gouvernance, de surveillance des modèles, de protection de la vie privée et de gestion des risques dans l'ensemble des entreprises.
• La complexité croissante et le déploiement généralisé des modèles d'IA, conjugués à des exigences plus strictes en matière de transparence, de sécurité et de conformité, obligent les organisations à adopter des solutions TRiSM d'AI de pointe. Explicabilité, ModelOps, protection des données et technologies de sécurité des applications d'IA sont de plus en plus intégrés dans les environnements d'IA d'entreprise, permettant aux organisations de gérer les risques des modèles, de protéger les données sensibles et de maintenir des opérations d'IA fiables.

Taille du marché et prévisions

• Valeur du marché mondial (2025): 2,70 milliards de dollars
• Valeur marchande prévue (2033) : 7,64 milliards de dollars
• Prévisions CAGR (2026-2033): 13,90%
• Région phare en 2025 : Amérique du Nord
• Région de croissance la plus rapide: Asie Pacifique

Quelles sont les principales tendances du marché de la confiance, du risque et de la gestion de la sécurité (AI TRiSM)

• L'Amérique du Nord a dominé le marché de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM) avec la plus grande part de revenus de 31,3 % en 2025, appuyée par la présence d'entreprises technologiques de premier plan, l'infrastructure avancée de l'IA et l'adoption croissante de solutions de gouvernance et de sécurité de l'IA.
• On s'attend à ce que l'Asie-Pacifique soit la région qui connaît la croissance la plus rapide, avec un TCAC de 25,6 % entre 2026 et 2033, alimenté par l'adoption rapide de l'IA, l'expansion de l'infrastructure numérique, l'intensification de la réglementation et l'augmentation des investissements dans des technologies d'IA fiables et sûres.
• Le segment des solutions a dominé le marché avec une part de 69,5 % en 2025, sous l'effet de la demande croissante des entreprises pour la gouvernance intégrée de l'IA, le suivi des modèles, la sécurité, la protection de la vie privée, l'explicabilité et les capacités de gestion des risques
• Les services sont le type de composante qui connaît la croissance la plus rapide et qui devrait enregistrer un TCAC de 24 %, en raison de l'augmentation de la demande de consultation, de mise en oeuvre, d'intégration, de services gérés et de la surveillance continue des risques d'IA.
• Le segment de l'explication a dominé la catégorie de type avec une part des revenus de 36,9 % en 2025, sous l'impulsion d'une demande croissante de prise de décision transparente et interprétable en matière d'IA.
• En 2025, le marché sur site représentait 55 % de la part de marché, en raison des exigences des organisations en matière de contrôle accru des modèles sensibles d'IA, des données propriétaires et des infrastructures de sécurité.
• Le segment de détection et d'atténuation des biais est la catégorie d'application qui connaît la croissance la plus rapide, avec un TCAC de 24,5 %, en raison des préoccupations croissantes concernant l'équité et les résultats discriminatoires générés par les systèmes d'IA.

Étendue du rapport et segmentation du marché de la confiance, du risque et de la gestion de la sécurité en matière d'IA

Quelle est la tendance clé sur le marché de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM)

• Les organisations adoptent de plus en plus la gouvernance et la surveillance continues de l'IA pour gérer la fiabilité, l'explication, l'équité, la protection de la vie privée, la sécurité et le rendement tout au long du cycle de vie de l'IA.
• Par exemple, en mars 2025, le NIST a publié sa Taxonomie Adversarial Machine Learning, qui couvre les attaques incluant l'évasion, l'empoisonnement, la vie privée et les risques d'abus dans les systèmes prédictifs et générateurs d'IA, renforçant les approches normalisées de la sécurité et de la gestion des risques d'IA.
• Le déploiement rapide d'agents générateurs d'IA et d'IA augmente la demande de surveillance en temps réel, de protection contre les injections rapides, d'évaluation des modèles, de contrôles d'accès et de détection automatisée des risques dans les environnements d'IA d'entreprise.
• Les organisations intègrent de plus en plus la gouvernance de l'IA aux programmes de cybersécurité et de conformité afin de créer des contrôles centralisés pour l'inventaire des modèles, l'évaluation des risques, les rapports réglementaires et la gestion responsable de l'IA.
• Par exemple, en janvier 2025, le NIST a publié des recherches sur le détournement d'agents de l'IA, soulignant l'injection rapide indirecte comme un risque de sécurité et soulignant la nécessité d'évaluer et d'atténuer les vulnérabilités des agents de l'IA de plus en plus autonomes.
• Au fur et à mesure que les entreprises développent les déploiements d'IA génériques et mandataires, on s'attend à ce que la surveillance continue, la gouvernance automatisée et les contrôles de sécurité intégrés deviennent des composantes essentielles des stratégies d'IA TRiSM, renforçant ainsi l'IA fiable en tant qu'exigence fondamentale pour l'adoption d'une entreprise.

Quels sont les principaux moteurs du marché de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM)

• L'expansion rapide des modèles générateurs d'IA et de fondation a considérablement augmenté la demande de capacités TRiSM d'IA qui peuvent gérer les hallucinations, les biais, l'exposition à la vie privée, les attaques contradictoires, l'utilisation abusive de modèles et les vulnérabilités en matière de sécurité dans les déploiements d'entreprise.
• Par exemple, en mars 2025, le NIST a finalisé sa Taxonomie Adversariale d'apprentissage automatique, en identifiant des approches d'attaque et d'atténuation pour l'IA prédictive et génératrice, y compris l'empoisonnement, l'évasion, la vie privée et les attaques abusives.
• Les gouvernements et les autorités de réglementation établissent des exigences plus strictes en matière de gouvernance, de transparence, de sécurité et de gestion des risques, obligeant les organisations à mettre en oeuvre des technologies qui documentent, évaluent, surveillent et contrôlent continuellement les systèmes d'IA.
• Par exemple, en août 2026, la majorité des règles de la loi de l'UE sur l'IA sont devenues applicables, ce qui a entraîné l'application de dispositions applicables concernant la transparence, l'IA à usage général, la gouvernance et l'alphabétisation en matière d'IA, ce qui a accru la demande des entreprises en matière de conformité et de capacités de gouvernance.
• Avec l'intégration croissante de l'IA dans des processus opérationnels et des systèmes autonomes de grande valeur, les organisations continueront d'investir dans des capacités intégrées de confiance, de risque, de sécurité et de conformité, ce qui rendra l'IA TRiSM essentielle pour un déploiement évolutif et responsable de l'IA.

Quels sont les facteurs qui remettent en cause la croissance du marché de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM)

• Les implémentations de TRiSM d'IA peuvent nécessiter des investissements importants dans des plates-formes de gouvernance spécialisées, des technologies de cybersécurité, une infrastructure de surveillance des modèles, du personnel qualifié et des essais continus, ce qui augmente le coût global du déploiement d'IA d'entreprise.
• Ces exigences de mise en oeuvre peuvent particulièrement mettre en péril les petites et moyennes organisations qui n'ont pas d'équipes spécialisées en gouvernance de l'IA, d'expertise en cybersécurité et de ressources pour l'évaluation continue des modèles et la gestion de la conformité.
• · Par exemple, en juillet 2025, le NIST a documenté les défis de sécurité liés à l'injection rapide, aux hallucinations, à l'exposition aux données et à l'accès non autorisé pendant le développement de son chatbot, démontrant la complexité de la sécurisation des applications d'IA tout au long de leur cycle de vie de déploiement.
• L'évolution rapide de la situation des menaces accroît encore la complexité opérationnelle du fait que les systèmes d'IA exigent une surveillance et une mise à jour continues plutôt que des contrôles de sécurité ponctuels, ce qui augmente les coûts récurrents et les besoins en ressources des organisations.
• Par exemple, en juin 2026, le NIST a signalé que les garde-corps fixes de l'IA ne sont pas universellement robustes contre les impulsions contradictoires adaptatives, soutenant la nécessité d'une surveillance continue et de mises à jour de sécurité.
• La complexité de la mise en œuvre, les besoins récurrents en matière de suivi, les pénuries de compétences spécialisées et l'évolution rapide des menaces liées à l'IA continuent d'entraver l'adoption, en particulier parmi les organisations qui ne disposent pas de ressources suffisantes, malgré le besoin croissant de systèmes d'IA fiables et sûrs.

Comment le marché de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM) est-il segmenté

Le marché de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM) est segmenté en fonction des composantes, du type, du déploiement, de l'application et de l'utilisateur final.

• Par composante

Sur la base de la composante, le marché AI TRiSM est segmenté en solutions et services. Le segment des solutions a dominé le marché avec une part de 69,5 % en 2025, en raison de la demande croissante des entreprises pour la gouvernance intégrée de l'IA, le suivi des modèles, la sécurité, la vie privée, l'explicabilité et les capacités de gestion des risques. Les solutions TRiSM d'IA permettent aux organisations d'établir des contrôles centralisés tout au long du cycle de vie de l'IA et d'évaluer continuellement le rendement et les risques des modèles. Ils sont de plus en plus intégrés aux plateformes existantes de cybersécurité, de gouvernance des données et de conformité. Le déploiement croissant de l'IA générative accroît encore la demande de capacités automatisées d'évaluation et de suivi des modèles. Les organisations préfèrent aussi des solutions logicielles évolutives qui peuvent être déployées sur plusieurs applications d'IA.

Le segment des services devrait enregistrer la croissance la plus rapide à un TCAC de 24 % au cours de la période de prévision, en raison de la demande croissante de consultation, de mise en oeuvre, d'intégration, de services gérés et de surveillance continue des risques d'IA. De nombreuses organisations ne disposent pas des compétences spécialisées nécessaires pour mettre en place des cadres complets de gouvernance de l'IA. Les fournisseurs de services aident les entreprises à évaluer les risques liés à l'IA, à élaborer des politiques de gouvernance, à valider les modèles et à maintenir la conformité réglementaire. L'introduction rapide de la réglementation sur l'IA accroît encore la demande de services de conseil et de conformité spécialisés. L'adoption croissante de l'IA générative et de l'IA agentique crée également une demande de tests de modèles et d'évaluations de sécurité continus.

• Par type

Sur la base du type, le marché AI TRiSM est segmenté en explicabilité et ModelOps. Le segment Explicabilité a dominé le marché avec une part de 36,9 % en 2025, soutenue par une demande croissante de prise de décision transparente et interprétable en matière d'IA. Les outils d'explication permettent aux organisations de comprendre comment les modèles d'IA génèrent des prévisions et des recommandations. Ces capacités sont particulièrement importantes dans les industries réglementées comme l'ISBC, les soins de santé et le gouvernement, où les organisations doivent faire preuve de responsabilité. De plus en plus de préoccupations concernant les biais algorithmiques et la prise de décisions opaques en matière d'IA augmentent l'adoption. L'explicitabilité appuie également la validation des modèles, la vérification et la gouvernance responsable de l'IA tout au long du cycle de vie des modèles.

Le segment ModelOps devrait enregistrer la croissance la plus rapide à un TCAC de 25 % au cours de la période de prévision, en raison de l'adoption croissante de modèles d'IA dans des environnements d'entreprise complexes. ModelOps fournit des capacités de déploiement, de surveillance, de gestion et de gestion des modèles d'IA tout au long de leur cycle de vie opérationnel. Les organisations ont de plus en plus besoin d'une surveillance continue pour déceler la dérive des modèles, la dégradation des performances, les vulnérabilités en matière de sécurité et les risques de conformité. L'expansion rapide de l'apprentissage automatique et des applications d'IA génératrices augmente le nombre de modèles nécessitant une gestion centralisée du cycle de vie. L'intégration de ModelOps avec les MLOps, la gouvernance des données et les plateformes de cybersécurité augmente encore son applicabilité. Comme les entreprises étendent l'IA des projets pilotes aux environnements de production,

• Par déploiement

Sur la base du déploiement, le marché AI TRiSM est segmenté en locaux et en cloud. Le segment sur site a dominé le marché avec une part de 55 % en 2025, en raison des exigences des organisations pour un contrôle accru des modèles d'IA sensibles, des données propriétaires et des infrastructures de sécurité. Le déploiement sur site permet aux entreprises de maintenir des capacités de gouvernance et de sécurité de l'IA dans leur propre environnement informatique. Cette approche est particulièrement pertinente pour les industries réglementées qui traitent des informations confidentielles et des applications d'IA critiques pour la mission. Les organisations peuvent également personnaliser les contrôles de sécurité en fonction des politiques internes et des exigences de conformité. Les préoccupations concernant la souveraineté des données et l'accès des tiers continuent d'appuyer l'adoption sur place

Le segment cloud devrait enregistrer la croissance la plus rapide à un TCAC de 31 % au cours de la période de prévision, appuyé par une demande croissante d'infrastructures de gouvernance de l'IA évolutives et flexibles. Les entreprises peuvent déployer rapidement des capacités de surveillance et de sécurité basées sur le cloud sans faire d'investissements importants dans le matériel dédié. Les plateformes Cloud facilitent également la surveillance centralisée des modèles d'IA opérant sur plusieurs sites et unités commerciales. De plus en plus, l'adoption de modèles d'AI en tant que service et de fondations élargit le marché du traitement. Le déploiement Cloud permet de mettre à jour fréquemment les logiciels à mesure que les menaces d'IA et les exigences réglementaires évoluent.

• Par demande

Sur la base de l'application, le marché AI TRiSM est segmenté en gouvernance et conformité, détection et atténuation des biais, sécurité et détection des anomalies, et gestion de la vie privée. Le segment de la gouvernance et de la conformité a dominé le marché avec une part de 35 % en 2025, sous l'effet d'un examen réglementaire de plus en plus approfondi de l'intelligence artificielle. Les organisations ont besoin de cadres de gouvernance pour établir la responsabilité, la documentation, la classification des risques, la surveillance et la conformité tout au long du cycle de vie de l'IA. L'évolution de la réglementation encourage les entreprises à tenir des inventaires et des évaluations détaillés de leurs systèmes d'IA. Les plateformes de gouvernance aident également les organisations à établir des politiques régissant le déploiement responsable et sécurisé de l'IA. La demande est particulièrement forte parmi les institutions financières, les organismes de santé et les organismes gouvernementaux.

Le segment de détection et d'atténuation des biais devrait enregistrer la croissance la plus rapide à un TCAC de 24,5 % au cours de la période de prévision, en raison des préoccupations croissantes concernant l'équité et les résultats discriminatoires générés par les systèmes d'IA. Les organisations évaluent de plus en plus les ensembles de données et les modèles de biais démographiques et algorithmiques potentiels. Les technologies de détection de partialité aident les entreprises à identifier les résultats injustes avant que les modèles d'IA ne soient déployés dans des applications critiques. L'utilisation croissante de l'IA dans le recrutement, le prêt, l'assurance, les soins de santé et la prise de décisions des clients augmente l'importance de l'évaluation de l'équité. Les initiatives de réglementation et d'AI responsable encouragent également les organisations à documenter et à atténuer les biais algorithmiques.

• Par Utilisateur final

Sur la base de l'utilisateur final, le marché AI TRiSM est segmenté en IT & télécommunications, BFSI, fabrication, vente au détail & e-commerce, soins de santé, gouvernement, médias et divertissement, et autres. Le segment de l'informatique et des télécommunications a dominé le marché avec 36 % de parts en 2025, grâce au déploiement étendu de l'IA et de l'apprentissage automatique dans l'infrastructure technologique, le service à la clientèle, la cybersécurité et la gestion de réseau. Ces organisations traitent de grandes quantités de données et exploitent des environnements complexes d'IA nécessitant une sécurité et une gouvernance continues. De plus en plus, l'adoption de l'automatisation génératrice d'IA et d'IA crée des exigences supplémentaires pour la surveillance des modèles et la gestion des risques. Les entreprises de télécommunications utilisent également l'IA pour optimiser les réseaux, détecter les fraudes et analyser les clients.

Le segment des soins de santé devrait enregistrer la croissance la plus rapide à un TCAC de 24 % au cours de la période de prévision, en raison de l'utilisation croissante de l'IA pour le diagnostic, le soutien à la décision clinique, la découverte de médicaments, l'imagerie médicale et la gestion des patients. Les organismes de santé ont besoin d'une solide gouvernance de l'IA parce que des modèles inexacts, biaisés ou opaques peuvent influer sur les décisions cliniques et les résultats des patients. De plus en plus d'attention réglementaire à l'IA des soins de santé augmente le besoin de transparence, de validation, de confidentialité et de surveillance continue des modèles. L'utilisation croissante de données sensibles sur les patients renforce également la demande de gestion de la vie privée et de la sécurité. Les solutions AI TRiSM peuvent aider les organismes de santé à établir la responsabilité et à évaluer le rendement du modèle tout au long du déploiement.

Quelle région détient la plus grande part du marché de la confiance, du risque et de la gestion de la sécurité (AI TRiSM)

• L'Amérique du Nord a dominé le marché de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM) avec la plus grande part de revenus de 31,3 % en 2025, appuyée par la présence d'entreprises technologiques de premier plan, l'infrastructure avancée de l'IA et l'adoption croissante de solutions de gouvernance et de sécurité de l'IA.
• La région bénéficie également d'exigences strictes en matière de gouvernance de l'IA, d'une forte adoption de plates-formes d'IA génératives et d'entreprises, et d'une utilisation croissante des solutions de TRiSM de l'IA à travers les services financiers, les soins de santé, la technologie et les applications gouvernementales. L'accent accru mis sur la transparence de l'IA, la cybersécurité, la conformité réglementaire et le déploiement responsable de l'IA continue de renforcer la position de leadership de l'Amérique du Nord sur le marché mondial.

US AI Trust, Risk, and Security Management (AI TRiSM) Aperçu du marché

Le marché américain de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM) connaît une forte croissance en raison de l'augmentation des investissements dans les technologies responsables de l'IA, de la cybersécurité, de la gouvernance de l'IA et de l'intelligence artificielle d'entreprise. L'écosystème technologique mature du pays, ainsi que l'adoption croissante de l'IA génératrice, de modèles de fondation et d'applications commerciales alimentées par l'IA, stimulent la demande dans les secteurs des services financiers, des soins de santé, de la technologie et du gouvernement. En outre, l'accent mis de plus en plus sur la transparence de l'IA, la conformité réglementaire, la sécurité des modèles et le déploiement responsable de l'IA accélère l'adoption de solutions de TRiSM d'IA dans toutes les entreprises.

Asia-Pacific AI Trust, Risk, and Security Management (AI TRiSM) Aperçu du marché

Le marché de la gestion de la confiance, du risque et de la sécurité (AI TRiSM) en Asie-Pacifique devrait connaître une croissance rapide, en raison de l'adoption accrue de l'IA, de l'expansion de l'infrastructure numérique et de l'augmentation des investissements dans la gouvernance et la cybersécurité de l'IA dans des pays comme la Chine, l'Inde et le Japon. Une prise de conscience accrue des risques liés à l'IA, une concentration accrue sur la réglementation et une demande croissante de systèmes d'IA sûrs et fiables appuient l'expansion du marché régional. En outre, la présence croissante d'entreprises technologiques et l'adoption par les entreprises de l'IA générative accélèrent le déploiement de l'IA TRiSM dans les domaines financier, médical, manufacturier et public.

Japan AI Trust, Risk, and Security Management (AI TRiSM) Aperçu du marché

Le marché japonais de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM) connaît une croissance constante en raison de l'augmentation des investissements dans l'IA responsable, la cybersécurité et la gouvernance d'entreprise de l'IA. Les entreprises technologiques, les institutions financières, les fabricants et les organismes de recherche adoptent de plus en plus des solutions TRiSM pour la surveillance des modèles, l'évaluation des risques, la protection des données et la conformité à l'IA. De plus, l'intégration croissante de l'IA génératrice et du pays met l'accent sur le développement de l'IA digne de confiance et axé sur l'homme contribue davantage à la croissance du marché.

China AI Trust, Risk, and Security Management (AI TRiSM) Aperçu du marché

Le marché chinois de la confiance, des risques et de la gestion de la sécurité (AI TRiSM) augmente rapidement, en raison de l'adoption croissante de l'IA, de l'expansion de l'infrastructure numérique et de l'accent croissant mis par le gouvernement sur la gouvernance et la cybersécurité de l'IA. Le déploiement croissant d'applications génératrices d'IA, d'apprentissage automatique et d'applications alimentées par l'IA dans les secteurs commercial, manufacturier, financier et public stimule considérablement la demande du marché. En outre, l'augmentation des investissements dans la recherche sur l'IA, l'accent mis de plus en plus sur la sécurité des données et la gouvernance des algorithmes, et les progrès technologiques rapides font de la Chine l'un des marchés les plus dynamiques pour l'IA TRiSM au niveau mondial.

UK AI Trust, Risk, and Security Management (AI TRiSM) Aperçu du marché

Le marché britannique de la gestion de la confiance, du risque et de la sécurité en matière d'IA (AI TRiSM) connaît une croissance soutenue, soutenue par l'adoption croissante de la gouvernance de l'IA, de la cybersécurité et des technologies d'IA responsables dans toutes les entreprises. L'augmentation des investissements dans l'infrastructure de gestion des risques liés à l'IA et la demande croissante de solutions d'IA transparentes, sûres et conformes contribuent à la croissance du marché. De plus, l'intégration de l'explicabilité, du suivi des modèles, de la gestion de la vie privée et des technologies de sécurité de l'IA améliore la gouvernance d'entreprise de l'IA, plaçant le Royaume-Uni comme un pôle d'innovation clé dans l'industrie de l'IA TRiSM.

Allemagne AI Trust, Risk, and Security Management (AI TRiSM) Aperçu du marché

Le marché allemand de la confiance, des risques et de la gestion de la sécurité (AI TRiSM) est en expansion constante en raison de la forte base industrielle du pays, des capacités technologiques avancées et de l'adoption croissante de solutions d'IA dignes de confiance. Les entreprises, les institutions financières, les fabricants et les organismes de recherche utilisent de plus en plus les technologies TRiSM d'IA pour la gouvernance, l'évaluation de modèles, la sécurité et les activités de conformité réglementaire. Les progrès continus dans le domaine de la surveillance de l'IA, de l'explication, de la protection des données et des technologies de cybersécurité, ainsi que la forte concentration de la réglementation sur l'IA responsable et la confidentialité des données, stimulent davantage la croissance du marché en Allemagne.

Quelles sont les meilleures entreprises du marché de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM)

L'industrie de la confiance, du risque et de la gestion de la sécurité (AI TRiSM) est principalement dirigée par des entreprises bien établies, notamment :

• Société IBM(États-Unis)
• Microsoft Corporation(États-Unis)
• Institut SAS Inc. (États-Unis)
• Cisco(États-Unis)
• Réseaux Palo Alto, Autres. (États-Unis)
• Oracle (États-Unis)
• Accenture (Irlande)
• Deloitte Touche Tohmatsu Limited (Royaume-Uni)
• ServiceNow, Inc. (États-Unis)
• BigID, Inc. (États-Unis)
• OneTrust LLC (États-Unis)
• DataRobot, Inc. (États-Unis)
• Credo.AI Corp. (États-Unis)
• HiddenLayer, Inc. (États-Unis)
• ModelOp, Inc. (États-Unis)
• FairNow, Inc. (États-Unis)
• I.A. holistique (Royaume-Uni)
• Google LLC (États-Unis)
• Amazon.com, Inc. (États-Unis)
• NVIDIA Corporation (États-Unis)

Quels sont les derniers développements sur le marché de la confiance en AI, du risque et de la gestion de la sécurité (AI TRiSM)

• En mars 2025, le NIST a publié «Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Migrations», qui fournit des conseils pour identifier, traiter et gérer les risques d'attaques contradictoires contre l'IA et les systèmes d'apprentissage automatique.
• En janvier 2025, IBM et e& ont annoncé une collaboration pour lancer une solution de gouvernance de l'IA intégrant la gestion automatisée des risques, la surveillance de la conformité et les capacités de performance en temps réel. La solution est conçue pour aider les organisations à gouverner les systèmes d'IA tout en s'attaquant aux risques réglementaires et opérationnels tout au long du cycle de vie de l'IA. Cette évolution met en lumière l'intégration croissante de la gouvernance de l'IA, de la gestion des risques et du suivi continu dans les environnements technologiques de l'entreprise.
• En janvier 2025, le Centre de normes et d'innovations de l'IA a mené des expériences initiales pour faire progresser l'évaluation des risques de détournement d'agents de l'IA, en mettant l'accent sur l'injection rapide indirecte et la nécessité d'évaluations de sécurité continues et adaptatives.
• En août 2024, la loi européenne sur l'intelligence artificielle est entrée en vigueur, établissant des règles harmonisées pour l'IA fiable dans toute l'Union européenne. La législation a introduit un cadre axé sur les risques pour les systèmes d'IA qui peuvent affecter la santé, la sécurité, les droits fondamentaux et d'autres intérêts de la société, ce qui accroît les exigences en matière de gouvernance, de transparence, de gestion des risques et de conformité. Cette étape réglementaire renforce la demande des entreprises en matière de capacités TRiSM d'IA qui appuient l'évaluation des risques d'IA et la conformité à la réglementation.
• En octobre 2021, Credo AI a émergé d'une plateforme de gouvernance de l'IA conçue pour aider les organisations à gérer les risques éthiques et réglementaires associés à l'IA. La plateforme a fourni un dossier vérifiable couvrant les données et les décisions relatives au développement, aux essais, au déploiement et au suivi de l'IA. Ce développement a marqué une première poussée commerciale vers des plateformes dédiées de gouvernance et de gestion des risques de l'IA, soutenant l'évolution du marché de l'IA TRiSM.

SKU-76817