{"id":12159,"date":"2022-03-25T16:14:54","date_gmt":"2022-03-25T15:14:54","guid":{"rendered":"https:\/\/golem.ai\/?p=12159"},"modified":"2022-04-22T10:51:07","modified_gmt":"2022-04-22T08:51:07","slug":"ia-ethique-livreblanc","status":"publish","type":"post","link":"https:\/\/miralia.ai\/en\/blog\/ia-ethique-livreblanc","title":{"rendered":"Livre Blanc : \u201cLes 5 piliers de l\u2019\u00e9thique de l\u2019IA\u201d"},"content":{"rendered":"

Parfois consid\u00e9r\u00e9e comme un sujet philosophique ou abstrait, l\u2019\u00e9thique nous appara\u00eet plus concr\u00e8te que jamais avec la popularisation de l\u2019intelligence artificielle. Dans un monde o\u00f9 l\u2019IA fait de nos d\u00e9cisions des m\u00e9caniques syst\u00e9matiques : il n\u2019y a plus d\u2019excuses. Les lignes de codes semblent s\u2019adresser \u00e0 nous : quelle d\u00e9cision dois-je prendre ? Et ces d\u00e9cisions ont une port\u00e9e \u00e9thique. D\u00e9couvrez notre livre blanc \u201cLes 5 piliers de l\u2019\u00e9thique de l\u2019IA<\/a>\u201d, un ouvrage qui t\u00e9moigne la possibilit\u00e9 d\u2019une IA qui int\u00e8gre des aspects technologiques, sociaux, \u00e9thiques et \u00e9cologiques. Ce document a pour but de vulgariser l\u2019\u00e9thique dans l\u2019IA, dont l\u2019utilisation doit \u00eatre possible pour tous et au service de la plan\u00e8te.<\/em><\/h3>\n\n\n\n

<\/p>\n\n\n\n

Intelligence artificielle et explicabilit\u00e9<\/h2>\n\n\n\n

<\/p>\n\n\n\n

Notre s\u00e9rie d\u2019interviews sur l\u2019\u00e9thique de l’IA d\u00e9bute avec Killian Vermersch, CTO chez Golem.ai, qui aborde diff\u00e9rents sujets autour de l\u2019explicabilit\u00e9<\/a><\/strong> de l\u2019IA. \u00c0 travers cet \u00e9change, notre expert donne la d\u00e9finition de ce qu\u2019est une solution d\u2019IA explicable. Dans le cadre d\u2019un projet d’intelligence artificielle, l\u2019explicabilit\u00e9 se doit d\u2019\u00eatre pr\u00e9sente \u00e0 toutes les \u00e9tapes du traitement d\u2019une information, auquel cas, cela biaise l\u2019ensemble du processus. <\/p>\n\n\n\n

\u201cEn somme, une solution d\u2019IA explicable c\u2019est permettre aux concepteurs comme aux utilisateurs d\u2019utiliser une solution totalement transparente en termes de d\u00e9cision.\u201d<\/em> <\/p>Killian Vermersch CTO & Co-fondateur chez Golem.ai<\/strong><\/cite><\/blockquote>\n\n\n\n

Il \u00e9voque l\u2019importance d\u2019utiliser une solution d\u2019IA explicable aussi bien pour les utilisateurs que pour les clients. Cette dimension est primordiale dans certains secteurs d\u2019activit\u00e9s comme la sant\u00e9, le droit ou la d\u00e9fense. Les solutions d\u2019IA ayant une approche symbolique<\/a><\/strong> sont nativement explicables, \u00e0 l\u2019inverse des solutions ayant une approche connexionniste<\/strong>, qui ne sont pas totalement transparentes. Chez Golem.ai, on parle \u201cd\u2019explicability by design\u201d.<\/p>\n\n\n\n

<\/p>\n\n\n\n

Intelligence artificielle et protection des donn\u00e9es<\/h2>\n\n\n\n

La suite de notre s\u00e9rie IA \u00e9thique se poursuit avec Marie-Justine Chassagne, Lead Business Analyst et DPO chez Golem.ai. Sp\u00e9cialiste de la protection des donn\u00e9es<\/a><\/strong> dans l\u2019IA, c\u2019est un sujet qui soul\u00e8ve de nombreuses probl\u00e9matiques. Prot\u00e9ger les donn\u00e9es clients repr\u00e9sente un enjeu l\u00e9gislatif et de confiance pour les entreprises. Les secteurs de la d\u00e9fense<\/a><\/strong>, de la banque<\/a><\/strong> ou de l\u2019assurance<\/a><\/strong> sont sensiblement concern\u00e9s par la confidentialit\u00e9 des donn\u00e9es. <\/p>\n\n\n\n

Qu\u2019est ce qu\u2019une IA respectueuse des donn\u00e9es ? Chez Golem.ai, nous avons fait le choix d\u2019une IA transparent<\/strong>, qui fonctionne without training.<\/strong>, avec tr\u00e8s peu de donn\u00e9es et configurable<\/strong> facilement. <\/p>\n\n\n\n

\u201cUne IA respectueuse des donn\u00e9es doit permettre deux choses : \u00eatre explicable dans chacune de ses d\u00e9cisions, et frugale en fonctionnant avec peu voire pas de donn\u00e9es personnelles.<\/em>\u201d<\/p>Marie-Justine Chassagne<\/strong><\/cite><\/blockquote>\n\n\n\n

\u00c9tant d\u00e9l\u00e9gu\u00e9e \u00e0 la protection des donn\u00e9es (DPO) chez Golem.ai, elle a un r\u00f4le partag\u00e9 entre une dimension technique et juridique. C\u2019est un m\u00e9tier qui demande d\u2019avoir une parfaite connaissance des projets clients, de leurs besoins et une app\u00e9tence pour faire de la veille sur les sujets GDPR<\/a><\/strong>.<\/p>\n\n\n\n

T\u00e9l\u00e9chargez notre livre blanc<\/strong><\/a><\/p>\n\n\n\n

\"\"<\/a><\/figure><\/div>\n\n\n\n

Intelligence artificielle : savoir expliquer les biais<\/h2>\n\n\n\n

On continue avec les bias<\/a><\/strong> li\u00e9e \u00e0 l\u2019utilisation de l\u2019IA, un sujet trait\u00e9 par Jean-Denis Garo, Head of marketing chez Golem.ai. Il existe diff\u00e9rents biais de l\u2019IA qui peuvent \u00eatre cognitifs, de discrimination ou de raisonnement par exemple. G\u00e9n\u00e9ralement, les biais sont du fait de l\u2019humain ou de la composition des data<\/a><\/strong> utilis\u00e9es. L\u2019IA symbolique, contrairement \u00e0 l\u2019IA connexionniste, permet d’identifier les biais rencontr\u00e9s et de les corriger facilement. <\/p>\n\n\n\n

\u201cSi les biais cognitifs ne sont g\u00e9n\u00e9ralement pas conscients, la source principale de biais reste donc l\u2019humain, et ce quelque soit le type d\u2019IA utilis\u00e9e (symbolique ou connexioniste).\u201d<\/em><\/p>Jean-Denis Garo<\/strong><\/cite><\/blockquote>\n\n\n\n

Il faut aussi insister sur les dangers li\u00e9s aux biais d\u2019information, qui sont cr\u00e9\u00e9s par les algorithmes de personnalisation et la publicit\u00e9 cibl\u00e9e sur les m\u00e9dias sociaux. L\u2019effet \u00ab\u00a0bo\u00eete noire\u00a0\u00bb et le manque de transparency<\/strong> de l\u2019IA connexionniste favorisent la propagation et la multiplication de ces biais. Au contraire, l\u2019IA symbolique qui ne s\u2019appuie pas sur une approche statistique est une technologie transparente, dont la compr\u00e9hension<\/strong><\/a>, le fonctionnement et les r\u00e9sultats sont explicables<\/strong>.<\/p>\n\n\n\n

<\/p>\n\n\n\n

Frugalit\u00e9, le chemin vers une green IA<\/h2>\n\n\n\n

Dans cette interview, Ludovic Fleury, VP Engineering chez Golem.ai, parcourt le sujet de la frugalit\u00e9<\/a> <\/strong>de l\u2019IA. Les nouvelles technologies (intelligence artificielle, cryptomonnaie, NFT, IoT, \u2026) ont un co\u00fbt \u00e9nerg\u00e9tique cons\u00e9quent qui entra\u00eene une multiplication des probl\u00e9matiques li\u00e9s \u00e0 la consommation d\u2019\u00e9nergie. L\u2019universit\u00e9 du Massachusetts estime que les entra\u00eenements lourds des algorithmes connexionnistes consomment pr\u00e8s de 300 tonnes de CO2 pour \u00eatre op\u00e9rationnels, sans aucun b\u00e9n\u00e9fice direct. Une r\u00e9alit\u00e9 qui n\u2019est pas du tout en ad\u00e9quation avec la responsabilit\u00e9 environnementale<\/strong> que doivent adopter les entreprises de nos jours.<\/p>\n\n\n\n

\u201cDe plus, la frugalit\u00e9 est un terme pr\u00e9f\u00e9rable \u00e0 celui de sobri\u00e9t\u00e9 car il implique non pas de r\u00e9duire ou d\u2019arr\u00eater de produire mais bien de repenser nos mod\u00e8les techniques afin d\u2019en limiter les impacts n\u00e9gatifs sur l\u2019environnement tout en assurant la continuit\u00e9 de performance de ces derniers.\u201d<\/em><\/p>Ludovic Fleury<\/strong><\/cite><\/blockquote>\n\n\n\n

Les DSI sont des acteurs importants en termes de changement et d’innovation dans les entreprises. En ce sens, le choix d’une IA frugale, performante sans entrainements, et explicable permet de d\u00e9gager un co\u00fbt \u00e9nerg\u00e9tique tr\u00e8s faible. Aujourd\u2019hui, l\u2019innovation est plus que jamais synonyme de responsabilit\u00e9. <\/p>\n\n\n\n

\"\"<\/a><\/figure><\/div>\n\n\n\n

Intelligence artificielle et souverainet\u00e9<\/h2>\n\n\n\n

Dans le domaine de la tech, la souverainet\u00e9<\/a><\/strong> est un sujet d\u2019actualit\u00e9 r\u00e9current. Une probl\u00e9matique qui se pose aussi naturellement pour l\u2019intelligence artificielle, un sujet d\u00e9cortiqu\u00e9 par Guillaume Navarre, CCO et cofondateur chez Golem.ai. La souverainet\u00e9 de l’IA d\u00e9signe le fait d\u2019avoir une ma\u00eetrise totale en mati\u00e8re de protection <\/strong>andutilisation<\/strong> de ses donn\u00e9es. De plus, la crise sanitaire du COVID-19 a accentu\u00e9 l\u2019importance de la souverainet\u00e9 des \u00e9tats dans le secteur technologique et le num\u00e9rique. <\/p>\n\n\n\n

\u201cEn sommes, c\u2019est le fait de mettre \u00e0 disposition des utilisateurs, des outils logiciels ou informatiques qui ne d\u00e9pendent pas de fa\u00e7on critique d\u2019acteurs tiers, afin d\u2019\u00e9viter des conflits de loyaut\u00e9.\u201d<\/em><\/p>Guillaume Navarre<\/strong><\/cite><\/blockquote>\n\n\n\n

Pour prot\u00e9ger l\u2019ind\u00e9pendance technologique<\/strong>, la Commission Europ\u00e9enne a r\u00e9cemment mis en place un projet de r\u00e9glementation, afin de favoriser une IA de confiance et d\u2019excellence, essentielle dans des secteurs comme la sant\u00e9, le transport ou l\u2019\u00e9nergie. Les entreprises doivent orienter le choix de leur IA, en fonction de crit\u00e8res techniques et \u00e9thiques qui doivent permettre l\u2019ind\u00e9pendance, la confidentialit\u00e9 et la protection des donn\u00e9es. <\/p>\n\n\n\n

<\/p>\n\n\n\n

D\u00e9couvrez tous les sujets de notre s\u00e9rie sur l\u2019IA \u00c9thique :<\/h2>\n\n\n\n