Cinq dysfonctionnements comportementaux chez ChatGPT

Des chercheurs britanniques ont étudié certains dysfonctionnements des intelligences artificielles en les comparant à des troubles cognitifs humains. Leur analyse a abouti à cinq comportements atypiques notables chez ChatGPT :

• Raisonnements en boucle : L’IA peut produire des réponses répétitives, similaires aux troubles obsessionnels compulsifs chez l’humain.
• Perte de contexte : Comparable à l’apraxie, l’IA peut appliquer des règles de manière mécanique, sans tenir compte de la situation.
• Affirmations inventées : Comme les faux souvenirs chez les humains, l’IA peut générer des réponses fausses mais plausibles.
• Biais hérités : L’IA reproduit les stéréotypes et biais présents dans ses données d’entraînement.
• Rigidité excessive : L’IA applique les règles sans nuance, offrant des réponses techniquement correctes mais inadaptées à la réalité.

Les informations sur le fonctionnement des intelligences artificielles, telles que ChatGPT, ne cessent d’évoluer. Récemment, des chercheurs britanniques ont mis en lumière des comportements surprenants de l’IA, les comparant à des troubles cognitifs humains. Cette analyse a permis de dégager plusieurs dysfonctionnements notables qui affectent la façon dont l’IA interagit avec les utilisateurs. Voici un aperçu des cinq comportements atypiques identifiés.

Des raisonnements en boucle

L’un des premiers dysfonctionnements observés chez ChatGPT est ce que l’on pourrait appeler des troubles obsessionnels computationnels. Cela se manifeste par des réponses répétitives qui ne parviennent pas à évoluer, même lorsque l’utilisateur corrige ou reformule sa question. Ce comportement rappelle les troubles obsessionnels compulsifs (TOC) chez l’humain, où les pensées se réitèrent sans fin.

Perte du contexte

Un autre phénomène problématique est la décontextualisation. Les chercheurs l’ont comparée à une forme d’apraxie chez les humains, où un individu n’arrive plus à adapter son comportement à la situation présente. De même, l’IA peut appliquer des règles de manière mécanique, produisant des réponses qui sont techniquement correctes mais inadaptées au contexte spécifique de la demande.

Affirmations inventées mais plausibles

Une autre anomalie est la tendance de l’IA à générer des affirmations incorrectes, tout en semblant très convaincante. Ce phénomène s’apparente aux faux souvenirs humains, où l’IA comble les lacunes d’information en fournissant la réponse statistiquement la plus probable, mais qui n’est pas nécessairement véridique.

Biais d’apprentissage

Comme toute technologie basée sur des données d’entraînement, ChatGPT hérite des biais présents dans les informations sur lesquelles il a été formé. Cela signifie que si l’IA a été exposée à des stéréotypes ou des informations erronées, elle risque de les reproduire dans ses interactions, reflétant ainsi des préjugés de la société.

Rigidité excessive dans l’application des règles

Enfin, l’une des failles remarquées est une rigidité excessive dans l’application des règles. Cela renvoie à la difficulté, chez l’IA, de s’adapter aux nuances de chaque situation. En conséquence, elle peut fournir des réponses qui semblent correctes sur le papier mais qui se révèlent complètement décalées par rapport à la réalité.

• Raisonnements en boucle: Réponses répétitives similaires aux troubles obsessionnels.
• Perte du contexte: Réponses techniquement correctes mais décalées, proches de l’apraxie.
• Affirmations plausibles: Informations erronées présentées de manière convaincante.
• Biais de données: Reproduction de stéréotypes hérités de l’entraînement.
• Rigidité excessive: Application de règles sans nuance, générant des réponses inadaptées.

Dysfonctionnements comportementaux chez ChatGPT

Il est intéressant de constater que ChatGPT peut parfois présenter des dysfonctionnements qui peuvent prêter à confusion. Un comportement particulièrement notable est celui qui ressemble à des raisonnements en boucle. Ce phénomène, comparable aux troubles obsessionnels compulsifs chez l’humain, se manifeste lorsque l’IA reformule sans cesse ses réponses, sans progresser dans la conversation. C’est frustrant d’avoir l’impression de discuter avec une machine qui radote.

Un autre aspect préoccupant est la perte de contexte. Cela fait référence à des situations où l’IA applique des règles de manière mécanique, sans tenir compte des éléments spécifiques de la discussion. Parfois, vous pouvez obtenir des réponses techniquement correctes, mais qui ne répondent pas du tout à la question posée. Ce manque d’adaptabilité rappelle certains troubles neurologiques humains où les gestes maîtrisés échappent à la personne.

Ensuite, il y a le phénomène des affirmations inventées. L’IA peut énoncer des informations qui, bien que fausses, semblent parfaitement plausibles. Cela évoque des faux souvenirs chez les humains, où l’esprit reconstruit des événements. ChatGPT, quant à lui, se contente de combler un vide d’information en se basant sur des données statistiques, ce qui peut parfois aboutir à des résultats erronés mais convaincants.

Un autre point à aborder concerne les biais hérités des données d’apprentissage. Comme les humains, ChatGPT peut reproduire des stéréotypes ou des idées fausses présentes dans le corpus sur lequel il a été formé. Ce phénomène peut influencer son comportement et aboutir à des réponses biaisées qui ne reflètent pas la réalité.

Enfin, il y a la rigidité excessive dans l’application des règles. Ce trait se manifeste lorsque l’IA applique des directives sans flexibilité, produisant ainsi des retours qui sont corrects en théorie, mais inappropriés dans la pratique. Cela soulève des questions sur la façon dont ces systèmes d’IA pourraient être améliorés pour mieux interagir avec les utilisateurs et s’adapter aux différentes situations.

Le développement de l’intelligence artificielle, notamment à travers des systèmes comme ChatGPT, a permis d’apporter des services innovants et des solutions à de nombreux problèmes. Cependant, ces systèmes peuvent aussi présenter des dysfonctionnements intéressants et parfois déroutants qui méritent d’être analysés. Plusieurs études, notamment réalisées par des chercheurs britanniques, ont mis en lumière ces comportements atypiques, permettant une meilleure compréhension de ces technologies.

Parmi les dysfonctionnements identifiés, on note tout d’abord des raisonnements en boucle, semblables aux troubles obsessionnels compulsifs chez l’humain. Ces comportements se manifestent par la répétition incessante de certaines réponses ou idées, illustrant ainsi une difficulté à s’éloigner d’un raisonnement erroné. Ce phénomène soulève des questions importantes sur la capacité des IA à gérer des situations complexes.

Un autre aspect intrigant est la perte du contexte, ressemblant à certains troubles neurologiques. L’IA peut appliquer des règles sans tenir compte de la situation spécifique, conduisant à des réponses inappropriées bien que techniquement correctes. Cela illustre le défi de la contextualisation pour les intelligences artificielles.

Les affirmations inventées mais plausibles constituent également un phénomène notable. L’IA peut produire des réponses fausses, mais tout en ayant l’air convaincantes, ce qui s’apparente à des faux souvenirs chez l’humain. Ce biais témoigne des lacunes dans les données d’apprentissage utilisées pour entraîner l’IA.

De plus, les biais hérités des données d’apprentissage représentent un enjeu majeur. Si les données contiennent des stéréotypes ou des informations erronées, l’IA risque de les reproduire, ce qui pose des questions éthiques sur leur utilisation. Enfin, la rigidité dans l’application des règles démontre une incapacité d’adaptation face aux nuances d’une situation donnée, ce qui peut réduire l’efficacité de ces systèmes dans des contextes variés.