La gouvernance est le plus grand defi au déploiement de l’IA d’après le dernier rapport de DLA Piper

DLA Piper vient de publier son rapport intitulé « AI Governance : Balancing Policy, Compliance, and Commercial Value », qui traite de corrélation entre l'intelligence artificielle, la gouvernance et les risques. Ce rapport va au-delà du discours ambiant pour révéler comment les organisations déploient concrètement des programmes d'IA et les défis auxquels elles sont confrontées. Il partage également l'expertise de la pratique internationale Intelligence Artificielle de DLA Piper sur la manière de débloquer de manière responsable, éthique et commerciale la valeur de l'IA.

Bien que le potentiel de transformation de l'IA semble illimité, il comporte néanmoins des risques. Le rapport de DLA Piper souligne le rôle essentiel d'une bonne gouvernance afin de débloquer le potentiel de l’IA dans un paysage réglementaire fragmenté. Les préoccupations concernant l'utilisation responsable de l'IA ont augmenté parallèlement à son adoption, incitant les décideurs politiques et les régulateurs du monde entier à mettre en place des règles pour faire face aux défis sociétaux, techniques et commerciaux. Une gouvernance efficace permet d'aligner le risque et ls bénéfices, la conformité et l’intérêt commercial, ainsi que la création de valeur.

Principales conclusions du rapport :

Déploiement de l'IA :

• 96% des entreprises sondées ont déployé l'IA, et 72% d’entre elles utilisent des outils et des solutions externes ;
• Actuellement, l'IA est le plus souvent déployée pour les services aux clients (59%) et la recherche & développement/développement de produits (57%) ;
• 45% considèrent l'IA comme essentielle à la manière dont leur organisation crée de la valeur, et 41% prévoient que leur activité principale deviendra obsolète du fait de l’IA si elles ne mettent pas en place une stratégie d’adoption.

Défis et risques liés à l'IA :

• Pour 99% des répondants, l'établissement et la mise en œuvre d'une bonne gouvernance, fait partie des défis prioritaires dans le déploiement de l’IA ;
• Pour 96% des répondants, s'assurer que les initiatives en matière d'IA respectent les directives réglementaires est un défi clé ;
• Près de la moitié des répondants (43%) ont interrompu, suspendu ou annulé leurs projets d'IA en raison de problèmes relatifs aux données personnelles (48%) ou à un manque de cadre de gouvernance (37%)

Gouvernance de l'IA :

• La moitié des répondants (49%) souhaitent débloquer la valeur de l'IA, en ligne avec leurs propres valeurs, et 65% ont résilié leurs contrats avec des fournisseurs d'IA pour des raisons éthiques ;
• Plus de la moitié des répondants excluent les équipes juridiques et de conformité de leurs processus décisionnels en matière d'IA ;
• Plus d'un tiers (36%) des personnes interrogées ne sont pas certaines d’être en conformité avec la législation actuelle sur l’IA, tandis que 39% sont dans le flou quant à l'évolution de la réglementation.

Paul Allen, associé et global Co-chair de la pratique IPT chez DLA Piper, déclare : « À une époque marquée par des discours emphatiques sur l'IA, notre rapport dévoile les vérités cruciales, les défis et les opportunités qui façonnent le paysage de l'IA. L'IA est présente dans tous les secteurs, promettant un avantage concurrentiel presque illimité. Au milieu de cet engouement général, nous explorons les risques commerciaux et les préoccupations croissantes concernant l'utilisation responsable et conforme de l'IA. »

Jeanne Dauzier, associée et global Co-Chair de la pratique IA au sein du groupe IPT de DLA Piper, ajoute : « Pour débloquer le potentiel de l'IA, les organisations doivent distinguer les préoccupations réelles des risques théoriques. Notre rapport souligne le rôle essentiel d'une bonne gouvernance dans le déploiement d’une stratégie IA, afin de concilier risques et bénéfices, conformité et intérêts commerciaux, pour, in fine, créer de la valeur en accord avec les valeurs de l’organisation. »

Le rapport contient également les réflexions et recommandations stratégiques de divers associés de la pratique IA de DLA Piper sur des sujets inhérents à l’IA tels que la propriété intellectuelle, le droit du travail, les contrats avec les fournisseurs et les divergences réglementaires mondiales. Il met également en lumière des spécificités sectorielles.

NB - Quelques chiffres clés :

• 83 % des entreprises estiment que leur approche en matière de gouvernance de l'IA est plus ou moins efficace. Cependant, plus d'un tiers (36%) ne sont pas confiants dans leur conformité à la loi actuelle, et 39% ne sont pas clairs sur l'évolution de la réglementation de l'IA.
• Plus de la moitié (52%) excluent les équipes juridiques et de conformité de la prise de décision en matière d'IA, ne les considérant pas comme des facilitateurs.
• 99% des répondants considèrent la gouvernance comme un défi majeur en matière d'IA.
• 67% des répondants considèrent leur propre utilisation de l'IA comme leur plus grand risque interne.
• Un tiers (32%) des répondants considèrent l'utilisation de l'IA par leurs partenaires, leurs fournisseurs et leurs prestataires de services comme leur plus grand risque externe.
• 47% des répondants estiment que la conformité réglementaire de leurs fournisseurs d'IA est moyenne ou mauvaise, 34% estiment que les pratiques de protection des données de leurs fournisseurs sont moyennes ou mauvaises, et 34% estiment que la transparence en matière de propriété intellectuelle et de création est moyenne ou mauvaise.
• 40% des répondants étaient plus ou moins confiants dans le respect, par leurs fournisseurs, des obligations contractuelles relatives au traitement de l'information, 60% en ce qui concerne le traitement de l'information, et 35% en ce qui concerne la gestion légale de l'information.
• Près de la moitié (43%) des répondants ont été contraints de mettre en pause, d'annuler ou de d’abandonner leurs projets d'IA : 48% d'entre eux citent des problèmes de protection des données personnelles, 37% un manque de cadres de gouvernance, 37% des problèmes de propriété des données, 35% des préoccupations des clients, 33% la disponibilité de meilleures technologies, et 29% des préoccupations des employés.
• Un tiers (32%) des répondants ont fait l'objet d'une amende ou d'une enquête réglementaire liée à l'IA ; la protection des données est un facteur clé dans 71% de ces cas, la concurrence dans 56%, la sécurité des produits dans 49%, et l'emploi dans 39%.
• 96% des répondants déploient l'IA sous une forme ou une autre, avec 72% faisant appel à des fournisseurs externes et 22% adoptant une approche mixte d'achat et de développement.
• 57% des répondants utilisent l'IA pour développer de nouvelles offres de produits, et 52% utilisent l'IA pour attirer de nouveaux clients grâce à des campagnes marketing et publicitaires plus personnalisées et ciblées.
• En ce qui concerne les applications actuelles de l'IA, 59% des répondants utilisent actuellement l'IA pour le service client (par exemple : les chatbots) ; 57% pour la R&D et le développement de produits ; 54% pour les opérations ou la chaîne d'approvisionnement ; 52% pour le marketing et la publicité.
• En ce qui concerne les applications futures de l'IA, 82% des répondants prévoient d'utiliser l'IA dans le marketing et la publicité ; 79% dans les opérations et la chaîne d'approvisionnement ; 75% dans le service client ; 70% dans la R&D et le développement de produits.
• 55% des répondants voient l'IA comme une source d'avantage concurrentiel, et 45% estiment que l'IA est essentielle à la manière dont leur organisation crée de la valeur pour les clients, les actionnaires et les employés.
• 41% des répondants estiment que leur activité principale pourrait devenir obsolète si elle n'adopte pas l'IA.
• Les répondants ont identifié les défis les plus courants en matière d'IA comme étant : l’adoption d’une bonne gouvernance (99%), la compréhension de la propriété intellectuelle qui sera créée et la manière de la protéger (97%), la supervision des projets d'IA dans le respect des directives réglementaires (96%), l'obtention de l'adhésion des parties prenantes pertinentes (96%), la gestion des attentes (95%) et de surmonter la crainte de ne pas respecter les réglementations ou de s'exposer à des risques (95%).