Gouvernance de l'intelligence artificielle (3ème partie) : cadres réglementaires et normes

Avec ce troisième volet de notre série sur la gouvernance de l’intelligence artificielle, nous entrons dans un monde de cadres normatifs et de publications réglementaires. On en viendrait presque à regretter le Far-West de la gouvernance des données, où l’absence de normes nous a permis pendant des années de faire n’importe quoi !
Car en matière de gouvernance de l’IA, c’est finalement le contraire et, soyons sérieux, c’est une bonne nouvelle, à condition que ces cadres soient appliqués.

La situation peut être résumée ainsi :

Depuis plusieurs années, et en particulier depuis la vague dite du « big data », l’apprentissage machine et l’apprentissage profond se sont développés, dans le domaine académique, mais aussi beaucoup dans des secteurs d’activité tels que la banque (pour déterminer les droits au crédit), dans la finance (pour la détection de fraudes), dans l’industrie (pour la détection de non-qualité ou la maintenance prédictive) ; mais aussi dans l’aéronautique, la distribution, et même dans le secteur public.
Alors bien sûr, on a constaté des erreurs, des biais, des discriminations, mais chacun était conscient de cela et cherchait à corriger ses modèles pour éviter ces tendances.
Sans que l’on ait besoin de normes ou de cadres, ou très peu, l’autorégulation était la règle.

Avec le développement de l’intelligence artificielle générative, qui a touché en quelques mois le grand public, lors du lancement de ChatGPT, le monde a pris conscience de l’impact que cette technologie allait avoir sur notre vie, personnelle, sociale et professionnelle.
Ajoutons que la manière de faire de certains fournisseurs est critiquable comme OpenAI, peu soucieux dans ses données d’apprentissage de respecter la propriété des contenus. Ou tout simplement de savoir – comme nous l’avons vu dans le premier article de cette série – comment leurs modèles étaient entrainés !
La puissance financière des joueurs de l’IA aujourd’hui (les GAFAM, Nvidia, OpenAI…) fait craindre pour les conséquences du développement de ces technologies.

Du coup, tout le monde s’est emparé du sujet ! La grande mode des douze derniers mois, a été de pondre des règles, des normes d’utilisation, des guides, tout en étant bien incapables de les accompagner de méthodes de contrôle et de sanctions éventuelles dans la plupart des cas.

A ce capharnaüm s’ajoute la compétition mondiale qui conduit chaque grande région à se positionner par rapport aux autres. Comme dans le domaine des données personnelles, l’Europe tente de protéger le citoyen, l’Amérique du Nord privilégie le business, et la Chine place le gouvernement au cœur de son action.

Dans ma formation sur la gouvernance de l’IA, nous consacrons un chapitre entier à l’identification et la compréhension de l’impact de ces normes sur une entreprise qui souhaite développer différentes formes d’IA. Que dois-je connaitre ? Que dois-je respecter ? Sur quels cadres m’appuyer pour aller dans la bonne direction ?

Pour résumer le sujet, voici quelques cadres et normes qui pourraient s’appliquer à vous ; en tous cas, dont la lecture vous aidera à y voir plus clair… ou pas.
Car honnêtement, le langage politico-juridique déployé dans ces documents rebutera le plus motivé des lecteurs. Il suffit pour en juger de regarder le poids, ou le nombre de pages de ces documents, pour se rendre compte de leur imbuvabilité. Alors bien sûr, cela va nourrir de nombreux cabinets de conseil et d’avocats, qui vont se charger de vous l’expliquer et de vous aider à les mettre en place.

Commençons justement par un contre-exemple : la CNIL est un modèle en la matière, car les documents qu’elle a publiés sont clairs, synthétiques, et compréhensibles ! Bravo à la CNIL pour ce travail !

Lire la suite sur https://www.decideo.fr