Les limites de ChatGPT

Il y a quelques semaines, on a testé l’IA d’OpenAI, voir notre premier article consacré à ChatGPT. En creusant un peu, on a découvert la face obscure du bot, le revers de la médaille, l’anguille sous roche…

Premières limites du bot : celles reconnues par son créateur

La plateforme OpenAi vous avertit des limites actuelles du robot conversationnel, dès la première page de connexion :

• La base de données dans laquelle ChatGPT puise ses informations s’arrête en septembre 2021.
• Les réponses ne sont pas à considérer comme objectives et peuvent être erronées.
• Le robot conversationnel peut occasionnellement produire des contenus tendancieux, voire donner des instructions dangereuses (dixit OpenAI). 

Les autres limites de ChatGPT

La qualité des contenus

Si vous êtes un professionnel de la rédaction, vous verrez que la qualité des écrits produits est globalement moyenne. Les articles sont une synthèse de tout ce qui existe sur le web, d’ailleurs on sent le côté « agrégation » de contenus, et côté style, on peut trouver à redire.

Un manque cruel de personnalité

Si le bot propose plusieurs styles d’écriture, les contenus manquent tout de même de personnalité, d’humour et de finesse. Bref, tout ce que vous pouvez retrouver dans nos articles, bande de petits veinards ! Après tout ChatGPT n’est qu’un robot, et s’il est plus évolué que d’autres, il l’est quand même moins qu’un humain :).

Un outil pour le SEO (Search Engine Optimization) ???

Google a d’ores et déjà annoncé qu’il mettrait à l’index les contenus produits par les IA. Le moteur de recherches déclare savoir distinguer un contenu produit par une IA de celui produit par un humain, et procéder à un déréférencement de ceux rédigés par les bots. A voir… En attendant, mieux vaut éviter de confier l’optimisation SEO de ses contenus à ChatGPT.

Mais, peux-tu remplacer l’humain, GPT ?

C’est la question directe qu’on lui a posée et voici sa réponse :

En tant que modèle de langue, je suis capable de générer du contenu à partir de données d'entrée, mais je ne peux pas remplacer complètement l'humain. Bien que je puisse traiter des informations rapidement et de manière efficace, je n'ai pas la capacité de ressentir des émotions ou d'avoir des interactions sociales de la même manière que les êtres humains. (…) Cependant, je ne peux pas remplacer l'expérience et la subjectivité humaine dans de nombreux domaines, comme la créativité artistique, l'empathie et la prise de décision éthique.

On se disait bien aussi :)

Pourtant, les spécialistes de Goldman Sachs estiment à 300 millions la perte d’emplois liée à l’usage de ChatGPT dans les entreprises.

En mars 2023, le Journal du Net a effectué un test, en demandant au bot, quels métiers il serait capable d’exercer en étant aussi efficace qu'un humain, il répond : conseiller bancaire, conseiller RH,  journaliste, planificateur d’évènements, scénariste, coach de vie, réceptionniste, community manager, rédacteur publicitaire, etc.

Un peu mytho le bot, non ?

La question de la propriété intellectuelle et du droit d’auteur

Dans l’article 3 des conditions générales d’utilisation de la plateforme, OpenAI mentionne le transfert de tous les droits du contenu (terme encore à définir) à l’utilisateur. Peut-on l’utiliser librement dans un but commercial ? Oui, s’il est mentionné que le contenu a été généré par le robot et qu’il ne soit pas illégal, haineux, menaçant, harcelant, diffamatoire, vulgaire, obscène, violent, incitant à la violence, raciste, sexiste, discriminatoire, trompeur ou malveillant.

Et si c’était le cas ? Qui serait responsable ?

La question du droit d’auteur et de la responsabilité du tort causé à autrui reste encore à trancher. D’autant plus, si le contenu initial a été modifié par l’homme. Pour le moment, le robot n’est pas très bien encadré par la loi, et plusieurs zones d’ombre subsistent, en termes de droits et de protection des données.

L’Italie, premier pays européen à interdire ChatGPT. D’autres pourraient suivre

Le 31 mars 2023, l’Italie a annoncé l’interdiction immédiate du robot conversationnel, qu’elle accuse de ne pas respecter le RGPD.
Le commissaire allemand à la protection des données s’est lui aussi exprimé, et n’exclut pas de suivre la décision italienne.
Depuis, le Comité européen de la protection des données (CEDP) a décidé de créer un groupe de travail dédié au robot conversationnel, afin d’examiner les questions sur les menaces de ChatGPT (sécurité, vie privée et emploi).
En France, la Commission nationale de l'informatique et des libertés (CNIL) déclare, dans le même temps, procéder à l’instruction de plusieurs plaintes.

Que peut devenir ChatGPT ?

Un cas d’école certainement, pour le reste, l’avenir nous le dira. 100 millions d'utilisateurs utilisent chaque mois ChatGPT et le robot évolue en se nourrissant des interactions avec eux. En termes d’application, il pourrait surtout permettre à Bill Gates de défier Google rapidement. L’intégration du chatbot dans Bing révolutionnerait le moteur de recherches de Microsoft qui gagnerait des parts de marché.

Les questions que l’on peut encore se poser

Quelle place a-t-on envie de donner aux IA ?
En termes de véracité et d’objectivité des informations, le chatbot est-il capable de croiser les informations et de blacklister les fake news ?
Quid de la qualité de la base de données dans laquelle puise ChatGPT ? On peut par exemple s’interroger sur l’objectivité des informations dont se nourrit le robot utilisé dans un pays totalitaire.
Pas mal de zones d’ombre restent encore à éclaircir. Nous ne sommes encore qu’au stade de la découverte de ChatGPT.

À suivre…

Parution : 28/04/2023