{"id":7728,"date":"2021-05-05T09:11:06","date_gmt":"2021-05-05T07:11:06","guid":{"rendered":"https:\/\/golem.ai\/blog\/ia-ethique-explicable\/"},"modified":"2026-02-17T16:50:30","modified_gmt":"2026-02-17T15:50:30","slug":"ia-ethique-explicable","status":"publish","type":"post","link":"https:\/\/miralia.ai\/en\/blog\/ia-ethique-explicable","title":{"rendered":"Intelligence artificielle et explicabilit\u00e9"},"content":{"rendered":"

Les sujets d\u2019inclusion num\u00e9rique, de confiance, de respect des libert\u00e9s individuelles<\/strong> s\u2019imposent \u00e0 nos agendas citoyens, ils se traduisent chez Miralia par des actes concrets. D\u00e9couvrez comment, entre les principes moraux, les lois, les questions environnementales, se manifeste l\u2019\u00e9thique dans notre conduite quotidienne<\/strong> chez Miralia et celle de notre IA en particulier. Aujourd’hui, nous abordons l’explicabilit\u00e9 avec une interview de Killian Vermersch CTO<\/strong> chez Miralia.<\/h3>\n

1 \u2013 Qu\u2019est-ce qu\u2019une solution d\u2019intelligence artificielle explicable ?<\/h2>\n

Avant tout, il est important de comprendre que l\u2019explicabilit\u00e9<\/strong> se doit d\u2019\u00eatre pr\u00e9sente \u00e0 toutes les \u00e9tapes du traitement d\u2019une information dans le cadre d\u2019un projet d\u2019intelligence artificielle. Il suffit qu\u2019une des \u00e9tapes du traitement ne le soit pas, comme l\u2019extraction textuelle<\/strong> par exemple, pour que l\u2019ensemble du processus, par contamination, ne soit pas explicable.<\/p>\n

Pour certaines \u00e9tapes c\u2019est simple, comme l\u2019ouverture d\u2019un document par exemple. Mais d\u00e8s qu\u2019il s\u2019agit de configurer une intelligence artificielle, certaines couches dites statistiques rendent ce proc\u00e9d\u00e9 presque impossible. C\u2019est le cas du machine learning<\/strong>. Bas\u00e9e sur des exemples, cette technique d\u2019apprentissage est r\u00e9gie par la ressemblance vis-\u00e0-vis d\u2019exemples pass\u00e9s. Souvent, le score de fiabilit\u00e9 d\u00e9termine la r\u00e9ussite (en g\u00e9n\u00e9ral un pourcentage). \u00c0 l\u2019inverse, une approche dite symbolique<\/strong>, d\u00e9termine un r\u00e9sultat pr\u00e9cis et explicable par rapport \u00e0 son contexte. Le texte expliquant une d\u00e9cision pourra \u00eatre affich\u00e9 directement \u00e0 l’utilisateur.<\/p>\n

Et d\u2019ailleurs, en parlant d\u2019utilisateur, il est important d\u2019avoir une explicabilit\u00e9 technique native<\/strong>, mais qu\u2019elle soit \u00e9galement visible par les utilisateurs des solutions dans son interface visuelle. En sommes une solution d\u2019IA explicable c\u2019est permettre aux concepteurs comme aux utilisateurs d\u2019utiliser une solution totalement transparente en termes de d\u00e9cision.\u00a0<\/p>\n

T\u00e9l\u00e9chargez notre livre blanc<\/strong><\/a><\/p>\n

\n
\"\"<\/a><\/figure>\n<\/div>\n

2 – Est-elle importante pour les entreprises ?<\/h2>\n

L\u2019explicabilit\u00e9 est toujours importante, mais pas toujours pour les m\u00eames raisons. Dans le cas d\u2019une soci\u00e9t\u00e9 de service, il est normal de pouvoir fournir aux clients des explications<\/strong> dans le cas d\u2019une erreur de commande par exemple.\u00a0<\/p>\n

Mais dans d\u2019autres cas comme l\u2019analyse de rapports d\u2019expertises m\u00e9dicaux<\/span><\/a><\/strong>, la compagnie effectue des remboursements aupr\u00e8s de clients ayant subi des dommages personnels. Pour d\u00e9finir si un remboursement doit \u00eatre effectu\u00e9, et quel en sera le montant, l\u2019ensemble de ce document est \u00e9tudi\u00e9<\/strong> avec minutie, comme les s\u00e9quelles par exemple. Le risque d\u2019erreur se doit d\u2019\u00eatre inexistant ! Il est impossible voir ill\u00e9gal de refuser un remboursement sous pr\u00e9texte qu\u2019un algorithme aurait donn\u00e9 un score 0,7 alors qu\u2019il faudrait 0,8, \u00e7a ne serait pas entendable par le client.<\/p>\n

L\u2019explicabilit\u00e9 est donc plus qu\u2019importante notamment sur certains secteurs comme la sant\u00e9, le droit ou la d\u00e9fense o\u00f9 la s\u00e9curit\u00e9 des donn\u00e9es<\/strong> est primordiale. D\u2019ailleurs certains projets d\u2019IA ont \u00e9t\u00e9 annul\u00e9s ou ont \u00e9chou\u00e9 pour ces raisons, et l\u2019explicabilit\u00e9 est une chance suppl\u00e9mentaire pour leur permettre d\u2019exister et de performer.<\/p>\n

\"\"<\/a><\/p>\n

3 – Comment garantir l\u2019explicabilit\u00e9 sur l\u2019ensemble des projets ?<\/h2>\n

D\u2019abord il y a des principes comme le fait de ne jamais inclure de statistiques dans nos projets d\u2019intelligence artificielle<\/strong>. C\u2019est d\u2019ailleurs une demande que nous recevons r\u00e9guli\u00e8rement tant l\u2019approche (machine learning) est connue par nos prospects et clients.<\/p>\n

De plus, d\u2019apr\u00e8s nos tests, int\u00e9grer ce proc\u00e9d\u00e9 n’am\u00e9liore pas la qualit\u00e9 de nos r\u00e9sultats. Et m\u00eame si nous l\u2019int\u00e9grions dans une seule des \u00e9tapes de conception d\u2019une solution d\u2019IA, nous perdrions au sens scientifique toute forme de d\u00e9montrabilit\u00e9<\/strong>. Par contamination une nouvelle fois, une \u00e9tape n\u2019\u00e9tant pas explicable rendrait le processus complet inexplicable.\u00a0<\/p>\n

Pour faire en sorte que cette approche, presque philosophique, s’int\u00e8gre et se maintienne\u00a0au sein de Golem.ai, nous portons beaucoup d\u2019attention avec les \u00e9quipes techniques et syst\u00e8mes \u00e0 la bonne gestion du pilotage des donn\u00e9es<\/strong>, \u00e0 la qualit\u00e9 de l\u2019environnement dans lequel elles \u00e9voluent ou encore les sauvegardes qui seront effectu\u00e9es. Par ailleurs, c\u2019est un suivi r\u00e9gulier que nous faisons aussi avec les \u00e9quipes charg\u00e9es de l\u2019exp\u00e9rience client, pour que cette explicabilit\u00e9 soit aussi visible par les utilisateurs<\/strong> de nos solutions.<\/p>\n

En r\u00e9sum\u00e9, l\u2019explicabililit\u00e9 reste certes native chez nous de par notre approche technologique, mais je m\u2019assure \u00e9galement qu\u2019au sein des toutes les \u00e9quipes cette vision soit concr\u00e8te mais surtout comprise et visible par nos utilisateurs.<\/p>\n

4 – Une derni\u00e8re observation ?<\/h2>\n

A noter, l\u2019explicabilit\u00e9 prend de plus en plus d\u2019importance dans la presse et les m\u00e9dias, mais aussi au sein des distributeurs. Par exemple un g\u00e9ant de l\u2019IA, a d\u00e9di\u00e9 une \u00e9quipe enti\u00e8re ayant pour r\u00f4le de s\u2019assurer de l\u2019int\u00e9gration de l\u2019explicabilit\u00e9 dans les projets. C\u2019est une bonne chose mais c\u2019est aussi un aveu assez fort sur les probl\u00e9matiques du machine learning<\/strong> et plus largement des approches connexionnistes<\/strong>.<\/p>\n

L\u2019approche symbolique permet ainsi nativement de pallier ces probl\u00e8mes. De la m\u00eame mani\u00e8re que nous parlons dans la cybers\u00e9curit\u00e9 de \u201csecurity by design\u201d, chez Miralia nous parlons \u201cd\u2019explicability by design<\/strong>\u201d.\u00a0<\/p>\n\n\n

Pour en savoir plus, d\u00e9couvrez les autres sujets de notre s\u00e9rie sur l\u2019IA Ethique :<\/strong><\/h3>\n\n\n\n