{"id":11921,"date":"2022-03-18T15:44:30","date_gmt":"2022-03-18T14:44:30","guid":{"rendered":"https:\/\/golem.ai\/?p=11921"},"modified":"2022-04-22T10:51:23","modified_gmt":"2022-04-22T08:51:23","slug":"ia-ethique-enjeux","status":"publish","type":"post","link":"https:\/\/miralia.ai\/en\/blog\/ia-ethique-enjeux","title":{"rendered":"Qu’est-ce qu’une IA \u00e9thique ?"},"content":{"rendered":"

Aujourd\u2019hui, les algorithmes d\u2019IA sont pr\u00e9sents partout et au quotidien dans notre vie. La cr\u00e9ation d\u2019un contenu personnalis\u00e9 sur les r\u00e9seaux sociaux, la conduite automatique, l\u2019\u00e9laboration automatique d\u2019un diagnostic m\u00e9dical ou encore une conversation avec un chatbot, sont des exemples concrets de cas d\u2019usages de l\u2019IA qui sont devenus \u201cnormaux\u201d. L\u2019utilisation de ces technologies se multiplient, entra\u00eenant une quantit\u00e9 de donn\u00e9es astronomiques \u00e0 g\u00e9rer et une consommation \u00e9nerg\u00e9tique importante, qui soul\u00e8ve de nombreuses questions li\u00e9es \u00e0 l\u2019\u00e9thique. Mais alors, comment d\u00e9finir l\u2019\u00e9thique dans l\u2019IA ? Quels sont ses enjeux et ses limites ? Retour sur le webinar organis\u00e9 par Numeum au sujet de la place de l\u2019\u00e9thique dans l\u2019IA, une table ronde anim\u00e9e par des experts dans ce domaine, \u00e0 laquelle C\u00e9lia Doreau, associ\u00e9e et CSO chez Golem.ai \u00e0 particip\u00e9.<\/h3>\n\n\n\n

Les enjeux \u00e9thiques fondamentaux de l\u2019IA<\/h2>\n\n\n\n

La notion d\u2019\u00e9thique dans l\u2019IA passe par une remise en question constante et profonde de la technologie, ainsi que de ses impacts<\/strong> sur les individus et la soci\u00e9t\u00e9. L\u2019objectif est de trouver un juste \u00e9quilibre entre performances et inclusivit\u00e9, afin de cr\u00e9er une IA au service de l\u2019humain et du bien commun. Pour encadrer le sujet, il existe des label IA<\/strong>, propos\u00e9s par diff\u00e9rents organismes comme Adelia<\/a><\/strong> (bas\u00e9 sur 44 crit\u00e8res sp\u00e9cifiques en termes d\u2019IA \u00e9thique) ou Numeum<\/a><\/strong> par exemple. Ces labels permettent de certifier la qualit\u00e9 \u00e9thique<\/strong> d’une technologie.<\/p>\n\n\n\n

\u00ab Les innovations viennent de la diversit\u00e9, il faut souvent \u00eatre \u00e0 contre-courant de ce qui se fait traditionnellement. Proposer un angle plus humain, plus inclusif lorsque l\u2019on d\u00e9veloppe de nouveaux services ou technologies devient un avantage. Cela permet de d\u00e9tenir des outils diff\u00e9renciants\u2026 et donc de se diff\u00e9rencier. \u00bb<\/em><\/p>C\u00e9lia Doreau, CSO et associ\u00e9e chez Golem.ai<\/strong><\/cite><\/blockquote>\n\n\n\n

Le CNIL dans son rapport publi\u00e9 en 2017, aborde une r\u00e9flexion sur les enjeux \u00e9thiques des algorithmes et de l\u2019IA qui \u00e0 permis de d\u00e9gager 2 principes fondamentaux<\/strong> :<\/p>\n\n\n\n

Le principe de loyaut\u00e9<\/strong> : \u201cTout algorithme, qu\u2019il traite ou non des donn\u00e9es personnelles, doit \u00eatre loyal envers ses utilisateurs.\u201d<\/p>\n\n\n\n

Le principe de vigilance<\/strong> : \u201cIl s\u2019agit d\u2019organiser une forme de questionnement r\u00e9gulier, m\u00e9thodique et d\u00e9lib\u00e9ratif \u00e0 l\u2019\u00e9gard de ces objets mouvants.\u201d<\/p>\n\n\n\n

T\u00e9l\u00e9chargez notre livre blanc<\/strong><\/a><\/p>\n\n\n\n

\"\"<\/a><\/figure><\/div>\n\n\n\n

l\u2019IA symbolique nativement \u00e9thique<\/strong> <\/h2>\n\n\n\n

Contrairement au machine learning (ML) ou au deep learning (DL), l\u2019IA symbolique est, de par son approche et son essence, une technologie \u00e9thique. La transparency<\/strong> est l\u2019une de ses caract\u00e9ristiques fondamentales. Elle est explainable<\/a><\/strong> dans toutes les \u00e9tapes de traitement d\u2019une donn\u00e9e, il n\u2019y a donc pas d\u2019effet \u201cbo\u00eete noire\u201d pouvant entra\u00eener des bias<\/a><\/strong>, des discriminations ou des exclusions par exemple. Cette singularit\u00e9 permet d\u2019expliquer les erreurs, de justifier les d\u00e9cisions, et de d\u00e9montrer les r\u00e9sultats de l\u2019IA, aussi bien pour les concepteurs, que les utilisateurs de cette technologie.<\/p>\n\n\n\n

The souverainet\u00e9<\/strong> est aussi un aspect propre \u00e0 l\u2019IA symbolique. La protection<\/a><\/strong>, le stockage, l\u2019exploitation et l\u2019utilisation des donn\u00e9es confidentielles des clients sont encadr\u00e9es par le projet europ\u00e9en de loi RGPD. Cette r\u00e9glementation permet de pr\u00e9server la souverainet\u00e9 des clients et des donn\u00e9es, vis-\u00e0-vis des organismes propri\u00e9taires de cette technologie. Par ailleurs, certains secteurs comme la sant\u00e9, la d\u00e9fense ou le transport ont besoin d\u2019un contr\u00f4le int\u00e9gral de la technologie qu\u2019ils utilisent.<\/p>\n\n\n\n

Enfin, la frugalit\u00e9<\/a><\/strong> est l\u2019un des atouts majeur et diff\u00e9renciant de l\u2019IA symbolique. De nos jours, on estime que l’entra\u00eenement d\u2019une IA de type machine learning consomme pas moins de 300 tonnes de CO2 (\u00e9quivalent \u00e0 125 vols New-York \/ P\u00e9kin) pour \u00eatre op\u00e9rationnel. De son c\u00f4t\u00e9, l\u2019IA symbolique dot\u00e9e d\u2019une intelligence inn\u00e9e, \u00e0 l\u2019inverse n\u2019a pas besoin d’entra\u00eenement pour \u00eatre performante, elle produit donc un impact \u00e9nerg\u00e9tique relativement faible.<\/p>\n\n\n\n

\"\"<\/a><\/figure><\/div>\n\n\n\n

D\u00e9couvrez tous les sujets de notre s\u00e9rie sur l\u2019IA \u00c9thique :<\/h2>\n\n\n\n