Formation / Sensibilisation / Conseil IA (en savoir plus)

La Fresque de l’IA – Bienfaisance et non-malfaisance, quand l’éthique prend le relai du droit !

À la suite d’une récent article sur le principe de transparence et l’effet boîte noire des modèles d’IA générative, il est essentiel de se pencher sur d’autres principes éthiques, au-delà des aspects purement juridiques.

Saviez-vous que le terme « éthique » vient du grec « ethos », signifiant coutume ou comportement, et a évolué pour désigner ce qui concerne les mœurs et la science comportementale ?

Le droit, avant de légiférer, s’appuie souvent sur une base éthique pour formuler ses règles et lois.

Cependant, l’éthique s’inscrit dans un environnement dont nous ne maîtrisons pas tous les contours, notamment avec l’IA générative qui évolue si rapidement que le droit peine à en saisir toutes les conséquences et responsabilités.

Face à cette situation, deux principes clés émergent : le principe de bienfaisance et celui de non-malfaisance.

Pourquoi l’IA doit-elle être développée pour maximiser l’utilité sociale ?

L’IA générative devrait servir l’intérêt de la personne humaine et de son environnement.

Poussons un peu plus loin le principe de bienfaisance : l’IA ne devrait-elle pas être accessible à tous plutôt qu’être contrôlée par quelques entreprises ?

Actuellement, les plus grands modèles d’IA sont détenus par des entreprises américaines en mode propriétaire, ce qui semble compromettre ce principe…

En ce qui concerne le principe de non-malfaisance, les systèmes d’IA générative ne doivent ni nuire ni porter atteinte à la personne humaine, protégeant ainsi la dignité et l’intégrité mentale et physique.

Comment prévenir les risques de manipulation mentale et protéger les droits fondamentaux des individus ?

L’AI Act classe les modèles d’IA selon leur niveau de risque, interdisant ceux qui portent atteinte aux droits fondamentaux, comme le système de crédit social chinois.

Ces principes montrent bien la complexité de la régulation des modèles d’IA générative.

Lorsque le droit est dépassé, l’éthique prend le relais pour déterminer des principes fondateurs.

Mais une question demeure : ces principes européens peuvent-ils vraiment s’imposer face à l’accélération fulgurante de l’IA générative ?

Vous découvrez La Fresque de l’IA ? Il s’agit d’un atelier collaboratif de sensibilisation et de formation aux impacts économiques, sociaux, environnementaux, éthiques, cybers et culturels de l’IA générative via l’identification de cas d’usage pertinents et de conditions de succès à mettre en œuvre dans on quotidien professionnel.