La Fresque de l’IA – AI Act, quelles obligations juridiques pour l’entreprise qualifiée de déployeur ?

« Petit guide » de mise en conformité de vos entreprises !

L’AI Act de l’Union Européenne qui devrait bientôt entrer en vigueur, établit des directives pour les déployeurs de systèmes d’IA à haut risque, tels que les modèles d’IA générative.

Selon l’AI Act, est considéré comme déployeur : « une personne physique ou morale, une autorité publique, une agence ou un autre organisme utilisant un système d’IA sous son autorité, sauf si le système d’IA est utilisé dans le cadre d’une activité personnelle non professionnelle ».

En tant que déployeur, vous devez mettre en place des mesures techniques et organisationnelles appropriées pour garantir l’utilisation des systèmes d’IA générative conformément aux instructions du fournisseur.

Par exemple, une équipe de marketing utilisant une IA pour générer des contenus doit configurer l’IA selon les recommandations pour éviter des erreurs ou des contenus inappropriés. Elle doit également former ses employés à l’utilisation correcte de l’IA.

Ensuite, la surveillance humaine doit être assurée par des personnes compétentes, formées et autorisées à intervenir si nécessaire.

Prenons l’exemple d’une banque utilisant une IA pour évaluer la solvabilité des clients : elle doit avoir des analystes financiers capables de revoir et ajuster les décisions prises par l’IA, notamment en cas de refus de crédit basé sur des données erronées.

Les déployeurs doivent également contrôler les données d’entrée et le fonctionnement du système. Les données utilisées doivent être pertinentes et représentatives, et le fonctionnement de l’IA doit être régulièrement contrôlé. Elle doit également surveiller les résultats pour éviter toute discrimination.

Le déployeur devra également informer les travailleurs et les personnes affectées par l’IA de son utilisation.

En effet, avant d’introduire une IA pour évaluer les performances des employés, une entreprise doit informer ses salariés sur la manière dont l’IA fonctionnera et comment les résultats seront utilisés dans le cadre de leurs évaluations de performance.

Enfin, les déployeurs doivent conserver les journaux d’activité de l’IA pendant au moins six mois et coopérer avec les autorités en cas de contrôle.

Sans surprise, une attention particulière doit être portée à la protection des données personnelles.

N’oubliez-pas le RGPD !

Les déployeurs doivent toujours veiller à ce que l’utilisation des systèmes d’IA soit conforme au Règlement Général sur la Protection des Données. Cela inclut la réalisation d’analyses d’impact relatives à la protection des données pour évaluer et atténuer les risques pour les droits et libertés des individus.

En conclusion, par le simple fait d’utiliser une IA sous votre autorité, plusieurs obligations vont vous incomber. Soyez-en conscient !

Vous découvrez La Fresque de l’IA ? Il s’agit d’un atelier collaboratif de sensibilisation et de formation aux impacts économiques, sociaux, environnementaux, éthiques, cybers et culturels de l’IA générative via l’identification de cas d’usage pertinents et de conditions de succès à mettre en œuvre dans on quotidien professionnel.