Les 7 critères de la définition juridique de l'intelligence artificielle.
Définir juridiquement les IA utilisées permet de les utiliser sereinement.
Définir juridiquement l’intelligence artificielle est essentiel afin de déterminer si l’AI Act (le règlement européen sur l’intelligence artificielle) s’applique. Tous les algorithmes ne sont pas à nécessairement qualifiables en tant qu’intelligence artificielle (dans le sens juridique du terme).. Pour une entreprise cette qualification juridique est importante, des obligations doivent être respectées pour l’utilisation et le développement de systèmes et de modèles d’intelligence artificielle.
Définition technique et définition juridique de l’intelligence artificielle
La définition juridique de l’IA découle de son approche technique. En effet, pour définir juridiquement une IA, il est indispensable de prendre en considération les éléments techniques.
Définition technique : Quelle est la définition officielle de l'IA ?
Une intelligence artificielle est un programme informatique cherchant à imiter l’intelligence humaine par le biais d’un programme algorithmique.
L’intelligence artificielle est toutefois difficile à définir précisément au vu de sa nature complexe, de sa constante évolution et de son usage multiple. Il s’agit toujours d’un domaine scientifique en pleine recherche ! De Chatgpt aux voitures autonomes en passant par les algorithmes de recommandation des plateformes et réseaux sociaux, l’usage de cette technologie ne se résume pas à un seul secteur.
Le fonctionnement de l’intelligence artificielle repose sur des algorithmes capables de traiter d’énormes quantités de données et de s’améliorer dans le temps.
Cette définition et ces notions clés sont reprises dans la définition juridique de l’AI ACT, qui s’appuie sur des éléments techniques précis.
Quelle est la définition juridique de l'IA?
L’IA Act définit un système d’IA en son article 3. Il s’agit d’un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels. Cette définition est complexe. Pour y apporter de la clarté, Acmai Avocat l’a décortiquée en 7 critères.
7 critères de la définition juridique de l’intelligence artificielle
Dans cette définition proposée par l’AI Act, plusieurs éléments se dégagent. Plus précisément, sept critères clés peuvent être identifiés.
Critère 1 : Système automatisé
L’utilisation d’une machine/ d’un système automatisé constitue un critère fondamental pour qualifier un système d’IA. Par machine/ système automatisé on entend : l’ensemble des composants matériels et logiciels nécessaires au fonctionnement du système. Les composants matériels incluent :
Les éléments matériels: la mémoire, le processeur ou les dispositifs de stockage
Les composants logiciels : les programmes ou codes exécutés par la machine.
Ce premier critère est particulièrement logique, car une IA ne peut exister ni fonctionner indépendamment d’un support matériel et logiciel. Le cycle de vie complet d’un système d’IA de sa conception à son exécution doit ainsi être intégré à une machine.
Ce critère met également en évidence le fait qu’une IA repose principalement sur des opérations informatiques réalisées à partir de machines techniques.
Critère 2 : Niveau d’autonomie
Le degré d’autonomie d’un système constitue un élément central dans la qualification juridique d’une IA. Elle s’apprécie en fonction du degré d'intervention humaine dans le fonctionnement du système.
Plus cette intervention est faible, plus le système sera considéré comme autonome.
Il convient donc d’évaluer le degré d'intervention humaine ou d’implication humaine. Il n’est pas nécessaire qu’un système d’IA soit totalement dépourvu d’intervention humaine pour être qualifié comme autonome. Il existe des systèmes dans lesquels les instructions initiales sont fournies manuellement mais dont le traitement ou le résultat présente une certaine forme d’indépendance. Dans ce cas, malgré l’existence d’une intervention humaine, le système est tout de même défini comme une intelligence artificielle.
Ainsi un système peut être qualifié d’IA même si son fonctionnement n’est pas intégralement autonome. Pour cela il doit faire preuve d’une capacité suffisante à fonctionner de manière indépendante au moins pour certaines tâches ou pour certaines étapes de son raisonnement.
Critère 3 : Capacité d’adaptation
L’adaptabilité désigne la faculté d’un algorithme à apprendre de manière autonome ( self learning) et à produire des effets différents en fonction de son utilisation. Un système qui s’adapte peut produire des réponses différentes à une même question en fonction du contexte dans lequel une question est posée ou une tâche est donnée. Il peut également évoluer dans le temps grâce à l’expérience acquise depuis son déploiement.
Cette adaptation ne constitue pas une condition essentielle pour définir une intelligence artificielle. Elle représente plutôt un axe de réflexion utile pour affiner la compréhension de ce qu’est une IA.
En conséquence, un algorithme n’a pas nécessairement besoin de s’adapter grâce à une évolution de ses connaissances après son déploiement pour être qualifié de système d’intelligence artificielle.
Critère 4 : Objectifs explicites ou implicites
Selon la définition juridique de l’IA, l’IA peut avoir un ou plusieurs objectifs explicites ou implicites.
Lorsque l'objectif est explicite, il est directement codé dans le système.
Lorsque l’objectif est implicite, il est déduit par le système en fonction des données d'entraînement ou de l’interaction avec son environnement.
Les objectifs sont également internes au système et peuvent être différents de la finalité prévue pour le système d’intelligence artificielle.
Critère 5 : Inférence du système
Un système d’IA se reconnaît par sa capacité à inférer c'est-à-dire à comprendre comment il est possible pour lui de produire un résultat à partir d’une donnée d’entrée. Cette caractéristique est essentielle à la reconnaissance d’une IA car c’est ce qui la distingue des logiciels traditionnels.
Un logiciel n’a pas pour fonction d’apprendre à tirer des conclusions comme l’IA mais plutôt de suivre un protocole strict conçu par l’humain.
Au contraire, l’IA peut par exemple apprendre à comment répondre à une question ou à une tâche et à le faire de manière efficace et adaptée à la situation et au contexte de son utilisation
Ce n’est donc pas un logiciel avec des règles fixes mais plutôt une technologie qui s’adapte.
Les techniques d’IA permettant l’inférence sont diverses. Voici quelques exemples des techniques d'apprentissage les plus courantes :
Apprentissage supervisé : il s’agit d’ une méthode ou le modèle apprend à partir de données qualifiées, chaque donnée entrant dans le système est associée à une sortie attendue. Cette méthode d’apprentissage est courante, elle permet notamment de classer les images.
Apprentissage non supervisé : il s’agit d’ une méthode où les données ne sont pas qualifiées et où lIA doit apprendre par elle-même à force de reconnaître certains mécanismes et motifs..Apprentissage par renforcement : il s’agit d’ une méthode où l’IA est récompensée ou réprimandée en fonction de ses actions. L’IA apprend donc petit à petit, au travers de son expérience, en cherchant à être récompensée. On retrouve principalement cette méthode pour la personnalisation des contenus.
Critère 6 : Impact significatif sur les personnes utilisatrices
Il est important de définir l’impact que l’intelligence artificielle a sur l’environnement qui l’entoure. En effet, l’intelligence artificielle a une capacité à générer des résultats pouvant influencer son environnement.
Il existe 4 catégories de résultats impactant l’environnement :
La prédiction : estimation de valeur inconnue à partir de données connues ,
Le contenu : la création de nouveaux éléments,
Les recommandations : suggestion personnalisée,
La décision : décision entièrement automatisée de l’IA.
Par exemple, lorsqu’une IA est utilisée pour décider de retenir ou non la candidature d’une personne à un poste, son pouvoir décisionnel est significatif.
Critère 7 : Interaction avec un environnement physique ou virtuel
Cet élément de définition sert à démontrer que l’IA n’est pas un simple outil passif. Pour être définie juridiquement comme une intelligence artificielle, il est nécessaire que le système exerce un impact tangible. Cet impact peut avoir lieu dans le monde virtuel ou réel.
Il peut par exemple s’agir d’une machine qui se déplace ou bien d’une fonction faisant apparaître une image sur un écran.
Définir juridiquement les IA utilisées par l’entreprise est indispensable à leur utilisation.
Les IA exclues de la définition juridique de l’intelligence artificielle
L'AI Act n’a pas pour volonté de réguler tous les systèmes automatisés. Il se concentre sur ceux qui présentent un certain niveau d’autonomie décisionnelle, de complexité et d’apprentissage. A ce titre, il exclut les méthodes traditionnelles ou déterministes comme :
Les algorithmes statistiques simples ne reposant pas sur des techniques d’apprentissage automatique,
Les systèmes d’optimisation mathématique,
Le traitement simple de données.
Ces systèmes sont considérés comme dépourvus d’intelligence au sens de l’AI Act car ils ne mettent pas en œuvre les mécanismes détaillés précédemment.
La qualification juridique du système d’IA est essentielle à la mise en place de sa régulation. Ce n’est que si la technologie en cause est qualifiée d’intelligence artificielle que l’AI Act s’applique.
Acmai Avocat accompagne les entreprises développant et utilisant des intelligences artificielles ou autres logiciels à analyser si l’AI s’applique à leurs projets.
