Le 6 février 2025, la Commission européenne a publié des lignes directrices sur la définition des systèmes d'IA dans le cadre de l'IA Act (Règlement (UE) 2024/1689). Retrouvez les autres définitions de l'IA Act dans notre glossaire des 68 définitions de l'IA Act à connaître.

Pourquoi une définition claire d’un système d’intelligence artificielle (IA) ?

La définition claire d'un système d'IA est le socle de l'IA Act. En effet, sans une compréhension précise de ce qu'est un système d'IA, il est impossible d'appliquer les obligations réglementaires de l'IA Act.  Or, les lignes directrices IA publiées par la Commission le 6 février 2025 répondent à ce besoin en explicitant le concept juridique et en fournissant des exemples pratiques et opérationnels.

Quels sont les objectifs des lignes directrices sur la définition d’un système IA ?

 Ces lignes directrices sont particulièrement importantes. Elles aident les parties prenantes - fournisseurs, déployeurs, utilisateurs, autorités nationales - à déterminer si un système logiciel entre dans le champ d'application de l'IA Act. Bien qu'elles ne soient pas juridiquement contraignantes, elles offrent une interprétation précieuse de la Commission, évolutive en fonction des retours pratiques. Elles facilitent également l'application des règles en clarifiant la frontière entre une IA et un logiciel traditionnel.

La définition d’une système d’IA dans l’IA Act

L'article 3(1) de l'IA Act définit un système d'IA comme :

Un système basé sur une machine qui est conçu pour fonctionner avec différents niveaux d'autonomie et qui peut faire preuve d'adaptabilité après déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à part des entrées qu'il reçoit, comment générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels en imitant des capacités cognitives humaines.

La définition d’un système d’IA se décompose  en 7 critères clés

• Un système basé sur une machine ...
• qui est conçu pour fonctionner avec différents niveaux d'autonomie
• qui peut faire preuve d'adaptabilité après déploiement
• et qui, pour des objectifs explicites ou implicites...
• déduit, à partir des entrées qu'il reçoit, comment générer des sorties
• ces sorties pouvant être des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer des environnements physiques ou virtuels.

L’analyse détaillée de ces 7 critères clés et des exemples

Les sept critères principaux de la définition d'un système d'IA ne sont pas nécessairement présents tout au long du cycle de vie, certains  peuvent être présent à une étape du cycle de vie et ne plus l'être à une autre étape du cycle de vie.

Un système basé sur une machine

Tout système d'IA est développé et exécuté sur une machine. Lc terme "machine" comprend les composants matériels et logiciels. De fait, le fonctionnement des systèmes d'IA nécessite l'intervention de "machines". Ce premier critère inclut tout logiciel, qu'il soit autonome ou intégré dans un dispositif matériel (ex : robots, voitures autonomes).  Cela vise aussi un algorithme de recommandation sur une plateforme de streaming. L'expression "basé sur des machines" signifie que les systèmes doivent être pilotés par le calcul et s'appuyer sur des opérations mécaniques. Cette expression recouvre donc une très grande variété de systèmes informatiques.

Le niveau d’autonomie d’un système : une condition nécessaire

Ce second critère implique que le système dispose d'une capacité à fonctionner avec une certaine indépendance vis à vis de l'intervention humaine. Mais aussi  des capacités à fonctionner sans intervention humaine directe, même partielle (human outside the loop). Cet élément définitionnel permet de distinguer un système de pilotage automatique  d'un logiciel nécessitant des commandes manuelles. Ce dernier ne peut être considéré comme une système d'IA. La combinaison des notions "d'autonomie", "d'inférence" et la notion "d'interaction homme-machine" (l'implication humaine ou l'intervention humaine) sont déterminantes pour la qualification d'un système d'IA.

Le capacité d’un système à faire preuve  d’une adaptabilité après déploiement : une condition facultative et non décisive

Le considérant 12 de l'IA act précise que la notion d"adaptabilité fait référence aux capacités d'auto-apprentissage. Ce troisième critère clé implique que le système d'IA basé sur une machine peut s'adapter après déploiement.

Les objectifs explicites ou implicites

Le système d'IA est conçu pour fonctionner selon  un ou plusieurs  objectifs qui peuvent être explicites mais aussi implicites.

La génération de résultats à l’aide de techniques d’IA

Ce cinquième élément clé complète les quatre premiers éléments clés. Le système basé sur une machine pourra être qualité de système d'IA s'il peut produire des outputs comme des prédictions, des décision ou du contenus.

Les sorties pouvant influencer les environnements physiques ou virtuels 

Le sixième élément de la définition d'un système d'IA figurant à l'article 3(1) de l'IA Act est que le système déduit "comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions "susceptibles d'influencer les environnements physiques ou virtuels.  Quatre catégories de résultats sont mis en avant : les prédictions, le contenu, les recommandations et les décisions.

Appréhendons ensemble chacune de ces catégories de résultats :

Les prédictions. Une prédiction est une estimation de valeur inconnue (la sortie) à partir de valeurs connues fournies. au système (l'entrée).  Les systèmes d'IA utilisant l'apprentissage automatique sont capables de générer des prédictions. Ces prédictions révèlent des schémas complexes dans les données. Les systèmes d'ia peuvent réaliser des prédictions précises dans des environnements hautement dynamiques et complexes. A titre d'exemple, les systèmes d'IA dans les voitures autonomes, sont conçus pour faire des prédictions en temps réel, dans un environnement complexe et dynaymique au fil de l'eau, avec de multiples interactions et avec un nombre très important de situations et de prise de décisions.

Le contenu. Un contenu est ce qui a été généré par un système d'IA, qu'il s'agisse de texte, d'images, de vidéos, de musique ou d'autres formes de production. Pour la génération de contenu, les systèmes d'IA utilisent de plus en plus des transformateurs pré-entraîné génératif (les fameux GPT's).

Les recommandations. Les recommandations sont des suggestions d'actions, de produits ou de services spécifques aux utilisateurs, en fonction de leurs préférences, de leurs comportements ou d'autres données saisies.

Les décisions. Il s'agit ici des conclusions ou des choix de solutions effectuées directement par le système d'IA. Le plus souvent, un système d'IA qui produit une décision qui automatise des processus traditionnellement gérés par le jugement humain, sans aucune intervention humaine.

La capacité à générer des résultats et le type de résultats que le système d'IA peut générer sont essentiels à la compréhension de la fonctionnalité et de l'impact d'un système d'IA.

L'interaction des résultats avec les environnements.

Ce septième et dernier élément clé de la définition d'un système d'IA est que les résultats "peuvent influencer les environnnements physiques ou virtuels" en ayant un rôle actif sur lesdits environnements. Pour que ce 7ème élément soit rempli, il faut que l'influence d'un système d'IA puisse s'exercer à la fois sur des objects physiques tangibles (par exemle, un bras robotique) et sur des environnements virtuels, notamment des espaces numériques, des flux de données ou des écosystèmes logiciels.

Le système d'IA peut aussi stimuler des processus humains comme l'apprentissage, la perception ou la résolution de problèmes. A titre d'exemple, la reconnaissance faciale par comparaison avec une base de données statique (cette dernière ne sera pas considérée comme un système d'IA).

La distinction entre système d’IA et systèmes logiciels traditionnels

Quels sont les critères de différenciation ?

Les lignes directrices IA de la Commission fournissent une méthodologie permettant de distinguer les systèmes d'IA des systèmes logiciels non-IA, qui sont hors du champ d'application de l'IA Act. En effet, le considérant 12 de l'AI Act précise que les systèmes d'IA se distinguent des "systèmes logiciels traditionnels ou des approches de programmation plus simples" ou "des systèmes qui sont basés sur des règles définies uniquement par des personnes physiques pour exécuter automatiquement des opérations".

En outre l'annexe 1 de l'IA Act liste les approches comme l'apprentissage automatique, la logique floue et les systèmes experts comme des techniques d'IA.

La notion d'autonomie permet également de distinguer les systèmes d'IA des systèmes logiciels traditionnels. A titre d'exemple, les systèmes basés sur des régles prédéfinies (ex : les tableurs) ne sont pas des systèmes d'IA, contrairement aux modèles adaptatifs.

Deux exemples pratiques permettent de comprendre la différence :

- un modèle de détection de fraude bancaire s'adaptant grace à l'autonomie aux nouvelles données peut être qualité de système d'IA ;

- a contrario un filtre anti-spam basé sur des mots statiques ou fixes ne sera pas qualifié de système d'IA.

L'utilisation de techniques d'IA  et de la notion d'autonomie pour distinguer les systèmes d'IA des systèmes traditionnels aboutissent à des cas limites.

L’existence de cas limites

Il n'existe aucune détermination automatique ni aucune liste exhaustive de tous les systèmes qui relèvent de la définition de l'article 3(1) de l'IA Act ou en dehors de la définion d'un système d'IA. Le fait qu'il n'existe pas de liste exhautive permet conformément au considérant 12 de l'IA Act que la notion de "système d'IA" puisse être définie avec la flexibilité nécessaire pour s'adapter aux évolutions des technologies dans le domaine de l'IA. Il existe aussi de très nombreux cas limites qui sont :

- les systèmes hybrides : un logiciel combinant des règles fixes et l'apprentissage  peut être partiellement utilisé avec un système d'IA ;

- les outils logiciels : un système logiciel produisant des calculs statistiques basiques (ex : un système produisant des calculs de régression linéiare sans apprentissage) ne sera pas considéré comme un système d'IA.

Les systèmes n’entrant pas dans la définition d’un système d’IA

Compte tenu de l'interaction dans la définition d'un système d'IA  des critères clés relatifs à l'autonomie, l'interaction homme-machine ainsi qu'au degré d'indépendance d'action, il est possible d'identifier les systèmes ne remplissant pas les critères de la définition et qui sont donc hors du champ d'application de l'IA Act.

Les systèmes conçus pour fonctionner uniquement avec une intervention humaine manuelle complète

La première catégorie de système hors du champ d'application de la défintion de système d'IA concerne les systèmes qui sont basés sur des règles définies uniquement par des personnes physiques pour leur exécution automatique.

Les systèmes d’amélioration de l’optimisation mathématique

 Ces systèmes ainsi que ceux utilisés pour accélérer les méthodes d'optimisation traditionnelles (telles que les méthodes de régression linéaire ou logistique) ne relèvent pas de la définition  d'un système d'IA. Cela concerne les modèles basés sur l'apprentissage automatique qui approximent des fonctions ou des paramètres dans les problèmes d'optimisation tout en maintenant les performances.

Les systèmes qui entrent dans cette catégorie sont :

- les systèmes qui accélerent les tâches d'optimisation par des approximations, des  heuristiques ou des stratégies de recherche  apprises ;

- les systèmes basés sur la physique qui utilisent des techniques d'apprentissage automatique, pour améliorer les performances de calcul, en accélérant les simulations ou en estimant des pramètres, intégrés ensuite à des modèles physiques ;

- les systèmes de télécommunication par satellite utilisés pour optimiser l'allocation de la bande passante et la gestion des ressources.

Les systèmes de traitement de données de base

Il s'agit de systèmes qui suivent des instructions ou des opérations prédéfinies et explicites. Ces systèmes exécutent des tâches à partir de saisies ou de règles manuelles sans aucun apprentissage, raisonnement ou modélisation à aucun stade de leur cycle de vie.

Les systèmes basés sur des heuristiques classiques

Les heuristiques fonctionnent sur des approches basées sur des règles, ou sur la reconnaisance de formes ou des stratégies d'essais-erreurs plutôt que par un apprentisage basé sur des données. Les systèmes heuristiques classiques peuvent toutefois appliquer des algorithmes prédéfinis pour dériver des solutions.

Les systèmes de prédiction simples

Il s'agit dans cette catégorie de tous les systèmes basés sur des machines dont les performances peuvent être obtenues via une règle d'apprentissage statistique de base. A titre d'exemple, on retrouve dans cette catégorie les systèmes de prévisions financières (d'analyse comparitive de base) utilisés pour prédire les cours futurs des actions, utilisant un estimateur avec la stratégie "moyenne" pour établir une prédiction de base ( tel que le prix moyen historique). Figure aussi dans cette catégorie, les systèmes d'estimation statique, tels que les systèmes de temps de réponse du support client basé sur une estimation statique pour prédire le temps de résolution moyen à partir de données antérieures).

Sources :

Lignes directrices IA de la Commission européenne sur la définition d'un système d'IA.