{"id":16225,"date":"2023-01-20T18:26:25","date_gmt":"2023-01-20T17:26:25","guid":{"rendered":"https:\/\/golem.ai\/?p=16225"},"modified":"2023-04-05T15:29:58","modified_gmt":"2023-04-05T13:29:58","slug":"chatgpt-utilisations-limites","status":"publish","type":"post","link":"https:\/\/miralia.ai\/en\/blog\/technologie\/chatgpt-utilisations-limites","title":{"rendered":"ChatGPT : R\u00e9volution ou simple avanc\u00e9e technologique ?"},"content":{"rendered":"

Depuis son lancement en novembre dernier, ChatGPT, l\u2019outil d\u00e9velopp\u00e9 par OpenAI a beaucoup fait parler de lui dans la presse et sur les r\u00e9seaux sociaux. Capable de (pratiquement) r\u00e9pondre \u00e0 tout, il impressionne autant qu\u2019il inqui\u00e8te. Ce mod\u00e8le bas\u00e9 sur la technologie GPT-3.5 a connu un vif succ\u00e8s \u00e0 tel point que moins d\u2019une semaine apr\u00e8s son lancement, plus de 1 million d\u2019utilisateurs avaient d\u00e9j\u00e0 test\u00e9 la version b\u00eata.<\/em><\/strong><\/p>\n\n\n\n

\u00c0 l\u2019heure o\u00f9 nous \u00e9crivons ces lignes, l\u2019outil a tellement de succ\u00e8s que son r\u00e9seau est satur\u00e9 et qu\u2019il est tr\u00e8s difficile d\u2019y avoir acc\u00e8s. L\u2019occasion peut \u00eatre de prendre du recul et de se poser la question : S\u2018agit-il d\u2019une r\u00e9elle technologie disruptive ou d\u2019une simple avanc\u00e9e technologique ?<\/strong><\/p>\n\n\n\n

Dans cet article, nous allons essayer de comprendre comment cette technologie fonctionne, mais aussi ses limites pour expliquer ses impacts positifs et n\u00e9gatifs sur notre environnement.<\/p>\n\n\n\n

Qu\u2019est-ce que ChatGPT ?<\/h2>\n\n\n\n

ChatGPT (Generative Pre-trained Transformer) est un mod\u00e8le de traitement de langage<\/strong> d\u00e9velopp\u00e9 par OpenAI. Il est bas\u00e9 sur une architecture de r\u00e9seaux de neurones appel\u00e9e Transformer, qui a \u00e9t\u00e9 th\u00e9oris\u00e9e et introduite pour la premi\u00e8re fois en 2017 dans un article scientifique intitul\u00e9 \u00abAttention Is All You Need<\/a>\u00bb.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Le mod\u00e8le de ChatGPT est construit \u00e0 partir d\u2019un pr\u00e9-entra\u00eenement, qui consiste \u00e0 utiliser une grande quantit\u00e9 de donn\u00e9es pour apprendre en amont les r\u00e8gles grammaticales, les contextes et les connaissances s\u00e9mantiques n\u00e9cessaires pour comprendre le langage. Il a \u00e9t\u00e9 entra\u00een\u00e9 sur des millions de textes, tels que des articles de presse, des livres et des pages web, pour acqu\u00e9rir ces connaissances jusqu\u2019en 2022.<\/p>\n\n\n\n

Afin d\u2019\u00eatre le plus performant possible, le mod\u00e8le d\u2019apprentissage compte pas moins de 175 milliards de param\u00e8tres<\/strong> d\u2019apprentissage. En comparaison, le mod\u00e8le Turing-NLG de Microsoft comptait 17 milliards de param\u00e8tres, soit 10 fois moins.<\/p>\n\n\n\n

\"\"
(comparatif des mod\u00e8les par param\u00e9trage, source<\/a>)<\/figcaption><\/figure>\n\n\n\n

The use cases<\/strong> \u00e0 l\u2019utilisation de ChatGPT sont multiples. \u00c9tant un mod\u00e8le entra\u00een\u00e9 sur des textes et des r\u00e8gles de grammaire, ChatGPT g\u00e9n\u00e8re des r\u00e9ponses textuelles<\/strong>.  <\/p>\n\n\n\n

Dans la mesure o\u00f9 les mod\u00e8les de Machine Learning d\u00e9pendent en grande partie des donn\u00e9es en entr\u00e9e (c\u2019est le fameux adage \u201cGarbage In, Garbage Out\u201d), l’augmentation du nombre de param\u00e8tres d’apprentissage permet de mieux g\u00e9rer cette quantit\u00e9 de donn\u00e9es impressionnante. <\/p>\n\n\n\n

Jusqu’\u00e0 pr\u00e9sent les chatbots<\/strong> pouvaient souffrir d’une r\u00e9putation o\u00f9 leur \u00ab\u00a0intelligence\u00a0\u00bb et leur faible taux de pertinence \u00e9taient d\u00e9cri\u00e9s. Cet entra\u00eenement massif est coupl\u00e9 \u00e0 des nouvelles techniques d’apprentissage qui ont modifi\u00e9 profond\u00e9ment le rendu \u00ab\u00a0humain\u00a0\u00bb des r\u00e9ponses de chatGPT.
Dans ce contexte. ChatGPT est une r\u00e9elle r\u00e9volution dans son domaine, un changement de paradigme<\/strong>, tant d\u2019un point de vue technologique<\/strong> que de la mise en valeur de sa technologie par son accessibilit\u00e9<\/strong>.<\/p>\n\n\n\n

Quels sont les cas d\u2019usage de ChatGPT ?<\/h2>\n\n\n\n

Le mod\u00e8le Chat GPT d\u00e9velopp\u00e9 par OpenAI permet de r\u00e9pondre \u00e0 diff\u00e9rents cas d\u2019usage, parmi lesquels figurent :<\/p>\n\n\n\n

G\u00e9n\u00e9ration de contenu personnalis\u00e9 <\/strong><\/h3>\n\n\n\n

Ayant \u00e9t\u00e9 entra\u00een\u00e9 sur des millions de textes au pr\u00e9alable, ChatGPT peut g\u00e9n\u00e9rer des contenus personnalis\u00e9s avec pr\u00e9cision en fonction d\u2019un sujet pr\u00e9\u00e9tabli. Il peut \u00e9crire des articles de blogs<\/strong>, des scripts<\/strong>, des histoires<\/strong> ou bien m\u00eame des paroles de chanson <\/strong>en fonction du style demand\u00e9. <\/p>\n\n\n\n

Dans l\u2019industrie, cela repr\u00e9sente une avanc\u00e9e technologique non n\u00e9gligeable. En effet, cette technologie va pouvoir \u00e0 terme simplifier le travail des humains en les assistant dans la g\u00e9n\u00e9ration de r\u00e9ponse personnalis\u00e9e.<\/p>\n\n\n\n

La traduction simultan\u00e9e<\/strong><\/h3>\n\n\n\n

Le mod\u00e8le d\u00e9velopp\u00e9 par OpenAi peut aussi traduire et corriger<\/strong> for<\/strong> textes<\/strong>, son entra\u00eenement s’\u00e9tant fait sur plusieurs langues<\/strong>, il peut comparer les diff\u00e9rentes langues et g\u00e9n\u00e9rer de nouveaux textes dans des langues diff\u00e9rentes en corrigeant les fautes d\u2019orthographe. <\/p>\n\n\n\n

De plus ChatGPT est capable de g\u00e9n\u00e9rer du texte dans plusieurs langues en simultan\u00e9, en utilisant des mod\u00e8les d’entra\u00eenement sp\u00e9cifiques pour chaque langue. Cette caract\u00e9ristique de l\u2019outil peut trouver de nombreuses applications notamment pour les entreprises internationales qui communiquent dans diff\u00e9rentes langues en m\u00eame temps. <\/p>\n\n\n\n

G\u00e9n\u00e9ration de code<\/strong><\/h3>\n\n\n\n

ChatGPT peut \u00eatre utilis\u00e9 pour g\u00e9n\u00e9rer du code informatique<\/strong> \u00e0 partir de descriptions de programmes \u00e9crites en langage naturel<\/strong>. L’observation des exemples de codes qui lui ont \u00e9t\u00e9 soumis lors de son entra\u00eenement lui permet de r\u00e9soudre des probl\u00e8mes de programmation communs. Il est \u00e9galement possible d’extrapoler \u00e0 partir de ces exemples de codes, m\u00eame si ses connaissances de certains sch\u00e9mas de programmation sont parfois d\u00e9j\u00e0 obsol\u00e8tes.<\/p>\n\n\n\n

<\/p>\n\n\n\n

Il y a beaucoup d\u2019autres applications de ChatGPT en cours de d\u00e9veloppement dans des domaines vari\u00e9s o\u00f9 la compr\u00e9hension et la g\u00e9n\u00e9ration de textes sont cruciales. Nous constatons que de nombreuses applications sont possibles \u00e9tant donn\u00e9 qu\u2019il se base sur un corpus de texte consid\u00e9rable<\/strong>. La mani\u00e8re dont il g\u00e8re les informations permet de faire gagner du temps \u00e0 son utilisateur, ainsi ce dernier peut se concentrer sur des t\u00e2ches o\u00f9 l\u2019intelligence et la r\u00e9flexion humaines sont n\u00e9cessaires.<\/p>\n\n\n\n

De nombreuses applications de cette technologie devraient voir le jour ces prochains mois, avec l\u2019ouverture de cette technologie \u00e0 l\u2019industrie, de nombreuses entreprises vont s\u2019approprier cet agent conversationnel et trouver des applications propres \u00e0 leurs secteurs pour faciliter le travail des collaborateurs et optimiser la performance des entreprises<\/strong>. <\/p>\n\n\n\n

Quelles sont les limites de ChatGPT ?<\/h2>\n\n\n\n

ChatGPT est un outil puissant  pour la compr\u00e9hension et la g\u00e9n\u00e9ration de textes, et le produit d\u00e9velopp\u00e9 par OpenAI a un tr\u00e8s fort potentiel pour l\u2019industrie. Cependant certaines limites li\u00e9es \u00e0 son utilisation apparaissent d\u00e9j\u00e0 :<\/p>\n\n\n\n

La scalabilit\u00e9<\/strong><\/h3>\n\n\n\n

La scalabilit\u00e9 est un enjeu crucial pour l’utilisation de ChatGPT dans l’industrie, car de nombreuses applications n\u00e9cessitent la capacit\u00e9 de g\u00e9rer de nombreuses requ\u00eates, avec des volumes de texte \u00e9lev\u00e9s. Sans une API officielle<\/strong> pour ChatGPT, il est difficile pour les d\u00e9veloppeurs de l’int\u00e9grer dans des syst\u00e8mes ou des applications existants. <\/p>\n\n\n\n

Cela limite \u00e9galement la capacit\u00e9 des d\u00e9veloppeurs \u00e0 cr\u00e9er des applications qui peuvent g\u00e9rer des volumes \u00e9lev\u00e9s de trafic comme des syst\u00e8mes de r\u00e9ponse automatique<\/strong> pour les entreprises, ou des assistants virtuels pour les particuliers. <\/p>\n\n\n\n

\u00c0 ce jour, plusieurs entreprises travaillent d\u00e9j\u00e0 sur des applications utilisant ChatGPT en attendant qu’une API officielle ne soit d\u00e9ploy\u00e9e. <\/p>\n\n\n\n

ChatGPT a un potentiel \u00e9norme pour l’industrie, les limites li\u00e9es \u00e0 sa scalabilit\u00e9 sont un obstacle majeur pour son utilisation dans des applications commerciales \u00e0 grande \u00e9chelle. Les prochains mois seront cruciaux, l\u2019entreprise californienne devant apporter une r\u00e9ponse \u00e0 ces questions pour pouvoir ouvrir son produit \u00e0 des perspectives industrielles.<\/p>\n\n\n\n

L\u2019impact \u00e9cologique<\/strong><\/h3>\n\n\n\n

L’impact \u00e9cologique est un autre probl\u00e8me li\u00e9 \u00e0 l’utilisation de ChatGPT, car le mod\u00e8le n\u00e9cessite des quantit\u00e9s massives de donn\u00e9es<\/strong> pour \u00eatre entra\u00een\u00e9, ce qui entra\u00eene des co\u00fbts \u00e9nerg\u00e9tiques importants. <\/p>\n\n\n\n

Nous constatons que la quantit\u00e9 d’\u00e9nergie n\u00e9cessaire au pr\u00e9 entrainement du mod\u00e8le GPT-3, qui est pourtant inf\u00e9rieure \u00e0 GPT-3.5 utilis\u00e9 par ChatGPT, est d\u00e9j\u00e0 consid\u00e9rable. Cela repr\u00e9sente 552.1 tonnes de CO2 rien que pour la phase d’entra\u00eenement de l’algorithme. Si nous prenons l\u2019exemple d\u2019une \u00e9tude r\u00e9cente men\u00e9 par Greenly sur un million d\u2019emails trait\u00e9s, le mod\u00e8le GPT-3 produit 240 tonnes KgCO2e.<\/p>\n\n\n\n

\"\"
Article de presse : la sobri\u00e9t\u00e9 des algorithmes de reconnaissance du langage en question : source<\/a><\/figcaption><\/figure>\n\n\n\n

Pour entra\u00eener un mod\u00e8le de cette envergure, il faut des centaines de millions d’heures de calcul<\/strong> sur des superordinateurs, qui consomment une grande quantit\u00e9 d’\u00e9nergie. Ce probl\u00e8me est encore plus important pour les mod\u00e8les de derni\u00e8re g\u00e9n\u00e9ration tels que GPT-4, bien plus complexes que GPT-3. <\/p>\n\n\n\n

Il est important de noter que cette technologie est encore jeune et que les cons\u00e9quences de son utilisation sur l’environnement sont encore \u00e0 surveiller de pr\u00e8s. Certaines entreprises de recherche et de d\u00e9veloppement de l’IA \u00e9tudient actuellement des solutions pour r\u00e9duire l’impact \u00e9cologique<\/strong> de l’entra\u00eenement des mod\u00e8les utilisant le machine learning.<\/p>\n\n\n\n

L’absence d\u2019explicabilit\u00e9 dans ses d\u00e9cisions <\/strong><\/h3>\n\n\n\n

Utilisant des math\u00e9matiques tr\u00e8s complexes en plusieurs couches, il est tr\u00e8s compliqu\u00e9 pour l\u2019utilisateur de savoir comment l\u2019outil de Machine Learning ChatGPT a pris une d\u00e9cision. Cette incapacit\u00e9 de retrouver le raisonnement est commun\u00e9ment appel\u00e9e l\u2019effet de \u201cboite noire\u201d<\/strong> dans le domaine de l\u2019intelligence artificielle et soul\u00e8ve des probl\u00e8mes de gouvernance<\/strong> and risque \u00e0 la prise de d\u00e9cision<\/strong>.<\/p>\n\n\n\n

Sovereignty<\/strong><\/h3>\n\n\n\n

The <\/strong>souverainet\u00e9<\/strong><\/a> <\/strong>de la technologie est un enjeu crucial pour l’utilisation de ChatGPT et d’autres outils utilisant l\u2019intelligence artificielle<\/strong> par apprentissage. Comme ChatGPT est d\u00e9velopp\u00e9 et entra\u00een\u00e9 par une entreprise priv\u00e9e, il y a des pr\u00e9occupations quant \u00e0 la mani\u00e8re dont les donn\u00e9es utilis\u00e9es pour entra\u00eener le mod\u00e8le sont collect\u00e9es et utilis\u00e9es. <\/p>\n\n\n\n

Par ailleurs, il existe d\u00e9j\u00e0 sur le march\u00e9 des IA qui contournent ses limites technologiques de part leur conception. En effet, la solution Inboxcare<\/strong><\/a> d\u00e9velopp\u00e9e par Golem.ai<\/strong><\/a> permet une totale transparency<\/strong> dans sa prise de d\u00e9cision et \u00e9vite l\u2019effet \u00ab bo\u00eete noire \u00bb. Etant bas\u00e9e sur une approche symbolique<\/strong>, la solution ne se base pas sur un mod\u00e8le d\u2019entrainement ce qui lui permet d\u2019\u00eatre explainable<\/strong>, frugale<\/strong><\/a> and facilement op\u00e9rationnelle<\/strong> pour les entreprises. Cela repr\u00e9sente un r\u00e9el avantage pour les soci\u00e9t\u00e9s notamment dans le secteur de l\u2019assurance<\/a>, du e-commerce\/retail<\/a>, du transport et de la logistique<\/a> and the secteur de la d\u00e9fense<\/a>.<\/p>\n\n\n\n

De plus, Microsoft est actuellement en pourparlers avec OpenAI et serait pr\u00eat \u00e0 investir 10 Milliards de dollars dans la soci\u00e9t\u00e9 cofond\u00e9e par Sam Altman, ce qui soul\u00e8ve encore plus la question de la souverainet\u00e9 et de la centralisation des informations, au mains d\u2019entreprises am\u00e9ricaines. <\/p>\n\n\n\n

Pour conclure<\/strong><\/h2>\n\n\n\n

Chat GPT constitue une r\u00e9elle r\u00e9volution dans le secteur des agents conversationnels<\/strong> et nous verrons quelles seront les utilit\u00e9s et les cas d\u2019usages pour l\u2019industrie dans les mois \u00e0 venir. M\u00eame si le mod\u00e8le d\u00e9velopp\u00e9 par la soci\u00e9t\u00e9 californienne impressionne par la pr\u00e9cision de ses r\u00e9ponses, avec des cas d\u2019usages compr\u00e9hensibles pour le grand public, il est n\u00e9cessaire de rester vigilant quant \u00e0 la v\u00e9racit\u00e9 des informations qu\u2019elle g\u00e9n\u00e8re.<\/p>\n\n\n\n

La technologie utilis\u00e9e par OpenAI se base sur du machine learning, consommatrice de beaucoup d’\u00e9nergie en p\u00e9riode de build et de run <\/strong> et par cons\u00e9quent a un impact environnemental.<\/strong><\/p>\n\n\n\n

Utilisant pas moins de 175 milliards de param\u00e8tres pr\u00e9\u00e9tablis et des millions de donn\u00e9es en entr\u00e9e, ses mod\u00e8les vou\u00e9s \u00e0 se d\u00e9velopper consommeront de plus en plus d\u2019\u00e9nergie et auront un impact de plus en plus n\u00e9gatif sur l\u2019environnement \u00e0 comparer au mod\u00e8le utilis\u00e9 par Golem.ai<\/a> qui produit 1000 fois moins de KgCO2e.<\/strong><\/p>\n\n\n\n

Le CEO d\u2019Open Ai, Sam Altman, vient de diffuser la nouvelle version de son mod\u00e8le GPT-4<\/strong>, qui ne cesse de faire parler de lui tant par la performance que par les applications qui en d\u00e9couleront. Sujet \u00e0 suivre dans un prochain article ! <\/p>\n\n\n\n

Sources : <\/p>\n\n\n\n