Signification de termes courants utilisés dans l’IA : de travail dégénératif à régurgitation

L’intelligence artificielle (« IA ») fait désormais partie intégrante de la stratégie et des outils d’entreprise ainsi que du processus de prise de décision opérationnelle.

Parallèlement, un vocabulaire de termes techniques et un jargon de plus en plus étoffés ont émergé et sont fréquemment utilisés dans les discussions avec les fournisseurs, les évaluations internes, les cadres de gouvernance et les échanges avec les autorités de réglementation. Ce bulletin fournit un ensemble structuré de définitions conçu pour démystifier le jargon relatif à l’IA couramment utilisé dans les contextes commerciaux.

Chaque terme est expliqué en mots simples et faciles à comprendre ainsi qu’à l’aide d’exemples illustrant comment ces phénomènes peuvent survenir dans des contextes organisationnels réels.

1. Travail dégénératif

Le travail dégénératif désigne du contenu généré par l’IA qui, au premier coup d’œil, semble soigné et professionnel, mais manque de précision, de pertinence ou de cohérence interne. L’utilisation combinée des mots « travail » et « dégénératif » (ou de faible qualité) décrit un contenu qui semble exact, mais n’a aucune valeur informative. Bien que ce contenu puisse sembler utilisable au premier abord, il nécessite souvent une correction ou une reformulation importantes par des humains, ce qui entraîne une charge de travail accrue plutôt que des gains d’efficacité.

Par exemple, un employé utilise un système d’IA pour rédiger une proposition de projet exhaustive en vue d’une réunion avec un client. Le document paraît bien formaté et le langage semble professionnel, mais lorsque des collègues l’examinent, ils se rendent compte que l’IA a inclus des recommandations génériques qui ne correspondent pas au secteur d’activité du client, des statistiques de marché fabriquées et des conclusions contradictoires. L’équipe doit passer plusieurs heures à réécrire la proposition à partir de zéro, ce qui a, en essence, doublé la charge de travail.

2. Oubli catastrophique

L’oubli catastrophique, également appelé « interférence catastrophique », décrit un mode d’échec des réseaux neuronaux au sein duquel les capacités acquises précédemment se dégradent rapidement lorsque le modèle est entraîné sur de nouvelles tâches ou de nouveaux ensembles de données. Cela se produit lorsqu’un modèle de réseau neuronal utilise des paramètres communs à différentes tâches et que l’optimisation de ces paramètres pour un nouvel objectif peut involontairement écraser des représentations essentielles aux tâches antérieures.

Le résultat n’est pas une perte graduelle de performance, mais un déclin abrupt et souvent radical de la précision des fonctions antérieures, en particulier dans les scénarios d’apprentissage séquentiel ou continu. Par exemple, une entreprise déploie un modèle d’IA pour classer les demandes de soutien de clients par type de problème, ce qui obtient des résultats d’une grande précision.

Le même modèle est ensuite réentraîné pour accorder la priorité aux demandes en fonction de la valeur à vie de la clientèle. Après le réentraînement, le système commence à mal classer les demandes par type de problème parce que les représentations internes des caractéristiques ont été modifiées pour optimiser la priorisation plutôt que la classification. Le modèle a catastrophiquement oublié comment effectuer sa tâche initiale.

3. Fabulation

La fabulation se produit lorsqu’un système d’IA génère des résultats qui sont partiellement fondés sur des informations réelles, mais qui contiennent des inexactitudes en raison d’une mauvaise interprétation, d’une synthèse inadéquate ou d’une extrapolation incorrecte. Contrairement à l’hallucination, la fabulation ne comporte pas de renseignements entièrement fabriqués. Au lieu de cela, elle combine des données authentiques avec des détails erronés, produisant des résultats qui semblent cohérents et crédibles tout en étant substantiellement incorrects.

La fabulation est alors particulièrement difficile à détecter et potentiellement plus nuisible dans un contexte professionnel. Par exemple, on demande à un assistant virtuel alimenté par l’IA destiné au secteur juridique de fournir des renseignements sur une affaire judiciaire spécifique. Il cite une décision réelle de la Cour suprême, indiquant le nom et l’année exacts.

Cependant, il décrit incorrectement la décision, attribuant un argument d’une opinion dissidente à la décision majoritaire, et cite de façon inexacte le juge qui a présidé dans l’affaire. L’affaire existe, mais l’IA a inventé des détails, mélangeant des éléments de différentes opinions et créant un résumé plausible, mais inexact, qui pourrait induire en erreur un avocat qui se prépare pour un procès.

4. Dégénérescence

La dégénérescence (ou « IA dégénérative ») fait référence au déclin progressif de la qualité des modèles d’IA qui se produit lorsque les modèles sont continuellement entraînés sur des données générées par d’autres systèmes d’IA plutôt que sur des données originales générées par des humains ou des sources primaires. Cette boucle de rétroaction récursive fait perdre au modèle sa fidélité aux distributions du monde réel au fil du temps.

Les résultats deviennent de plus en plus uniformes, faussés et sujets aux erreurs, car les inexactitudes subtiles introduites dans les premières générations sont amplifiées lors des cycles d’apprentissage subséquents. Par exemple, une entreprise de contenu éducatif utilise l’IA pour générer des questions pratiques, qui sont ensuite publiées en ligne. D’autres systèmes d’IA récupèrent ce contenu et l’utilisent comme données d’apprentissage pour leurs propres modèles.

Ces systèmes d’IA de deuxième génération produisent des versions légèrement déformées des questions, qui sont à nouveau publiées et utilisées par les modèles de troisième génération. Après plusieurs itérations, les questions perdent la diversité et la nuance du contenu original créé par des humains.

5. Distorsion

La distorsion se réfère aux inexactitudes ou aux fausses représentations dans les résultats générés par l’IA qui modifient la substance, l’importance ou la signification des informations sous-jacentes. Elle peut découler d’une omission sélective, d’un calcul numérique erroné, d’une présentation biaisée ou d’une attribution incorrecte. Bien que les données utilisées comme source puissent être réelles, les résultats générés par l’IA s’écartent de la précision factuelle ou logique d’une manière qui peut induire en erreur les décideurs.

Par exemple, un système d’IA chargé de résumer un rapport de résultats trimestriels met en évidence la croissance des revenus tout en omettant les risques divulgués relatifs aux perturbations de la chaîne d’approvisionnement. Il arrondit également les marges projetées à la hausse en interprétant à tort les prévisions basées sur des scénarios comme des résultats confirmés. Le résumé qui en résulte présente une image financière déformée qui sous-estime les risques opérationnels et liés aux marchés.

6. Hallucination

L’hallucination est un mode d’échec dans lequel un système d’IA génère du contenu qui manque d’éléments d’ancrage vérifiables, mais le présente avec assurance et cohérence interne. Ces résultats peuvent comprendre des faits, entités, références ou événements fabriqués. Les hallucinations sont particulièrement problématiques, car elles semblent souvent être plausibles et faire autorité, surtout pour les utilisateurs non initiés.

Par exemple, une équipe responsable de l’approvisionnement demande à un assistant d’IA de trouver les normes internationales applicables à un type spécifique d’équipement industriel. L’IA donne une description détaillée d’une norme qui n’existe pas, fournissant entre autres un numéro de norme et le nom de l’organisme émetteur. La mise en forme et la terminologie semblent légitimes, mais la norme est fabriquée dans son intégralité.

7. Mémorisation

On parle de mémorisation en apprentissage automatique lorsqu’un modèle reproduit des exemples d’apprentissage spécifiques plutôt que d’apprendre des tendances généralisées qui appuient l’inférence sur de nouvelles données. Ce comportement peut susciter d’importantes préoccupations en matière de confidentialité, de propriété intellectuelle et de protection des données lorsque l’IA a recours à des renseignements sensibles ou exclusifs.

Par exemple, un grand modèle de langage (« GML ») est entraîné sur un ensemble de données qui comprend des milliers de dossiers médicaux. Plus tard, lorsqu’un chercheur fournit le nom partiel d’un patient et une date tirés des données d’entraînement, le modèle génère le dossier médical complet, y compris les diagnostics, les médicaments prescrits et les renseignements personnels qui figuraient dans l’ensemble de données d’entraînement.

Le modèle a mémorisé cet exemple d’apprentissage spécifique plutôt que d’apprendre des schémas généraux de connaissances médicales, ce qui pourrait exposer des renseignements personnels sur la santé de patients et démontrer l’incapacité du GML à généraliser les données.

8. Perception erronée

Ce terme fait référence aux erreurs qui surviennent lorsqu’un système d’IA interprète incorrectement des données d’entrée réelles, ce qui entraîne des conclusions ou des résultats erronés. Contrairement à l’hallucination, la perception erronée comporte de véritables données d’entrée qui sont mal interprétées en raison d’une ambiguïté contextuelle, d’une pondération fautive des caractéristiques ou de limites dans l’interprétation sémantique.

Bien que ce terme ne soit pas aussi formellement établi dans la littérature sur l’IA que des termes comme « hallucination », il apparaît dans les discussions sur les défaillances des systèmes d’IA et la qualité de l’information. Par exemple, un robot conversationnel de service à la clientèle alimenté par l’IA reçoit le message suivant : « Je suis incapable d’accéder à mon compte ».

L’IA perçoit à tort cela comme une demande de fermeture de compte plutôt qu’un problème de soutien technique, car elle a incorrectement interprété les mots « incapable d’accéder » comme une réticence plutôt qu’une incapacité. Le robot conversationnel lance la procédure de fermeture de compte, ce qui crée des problèmes importants pour le client, qui avait simplement besoin d’une assistance pour réinitialiser son mot de passe. L’IA a mal interprété l’intention et le contexte de la demande du client.

9. Dogmatisme

Ce terme décrit la tendance des systèmes d’IA à présenter des conclusions spéculatives ou incertaines avec une confiance excessive, souvent sans reconnaître les hypothèses, les limites des données ou les autres résultats possibles. Bien qu’il ne s’agit pas d’un terme technique officiel, il illustre une critique importante de la façon dont les systèmes d’IA et leurs défenseurs font parfois des affirmations trop sûres qui dépassent leurs connaissances ou leurs capacités réelles.

Par exemple, un dirigeant d’entreprise interroge un système d’IA sur l’impact économique potentiel d’une modification réglementaire proposée. Au lieu de reconnaître les facteurs d’incertitude ou de fournir un éventail de scénarios, l’IA fournit des déclarations catégoriques comme « Cette réglementation réduira assurément le produit intérieur brut de 2,3 % au cours des six prochains mois », présentant la prédiction comme des résultats certains malgré l’imprévisibilité inhérente aux systèmes économiques et le manque de données concernant ladite réglementation.

L’IA produit des affirmations péremptoires, faisant des déclarations autoritaires au-delà de ce que les données probantes justifient.

10. Répétition de requête

La répétition de requête est une technique d’invite dans le cadre de laquelle la même requête est répétée au sein d’une seule entrée afin d’améliorer la performance du modèle pour certaines tâches, en particulier de classification ou de rappel factuel. Cette technique exploite les mécanismes d’attention dans les modèles de langage causaux en renforçant les jetons pertinents et en réduisant la sensibilité aux effets de l’ordre des jetons.

Par exemple, un chercheur soumet une question à choix multiples à un système d’IA : « Quel élément a le numéro atomique 79? A) Argent. B) Or. C) Cuivre. D) Platine. » À l’aide de la rédaction de requêtes standard, le modèle peut atteindre une précision de 65 % pour des questions semblables. Le chercheur utilise ensuite la technique de la répétition de requête, soumettant la même question deux fois de suite : « Quel élément a le numéro atomique 79? A) Argent. B) Or. C) Cuivre. D) Platine. Quel élément a le numéro atomique 79? A) Argent. B) Or. C) Cuivre. D) Platine. » Grâce à cette technique de répétition, la précision pourrait s’améliorer à plus de 80 % sans augmenter la longueur de la réponse ou le temps d’attente pour obtenir celle-ci.

11. Régurgitation

On parle de régurgitation lorsqu’un système d’IA reproduit du contenu d’entraînement tel quel ou presque tel quel, sans offrir de transformation, de synthèse ou de valeur analytique significative. Le système se contente essentiellement de « recracher » du contenu mémorisé sans transformation, compréhension ou contribution originale, fonctionnant davantage comme un mécanisme de copier-coller de pointe plutôt qu’un système de raisonnement intelligent. Bien que liée à la mémorisation, la régurgitation met expressément l’accent sur la reproduction mécanique et non critique du contenu d’entraînement.

Par exemple, un étudiant demande à un assistant de rédaction alimenté par l’IA de l’aider à analyser Hamlet de Shakespeare. Au lieu de fournir une analyse ou une synthèse originale, l’IA produit des paragraphes presque identiques à des passages provenant de sites Web de critique littéraire populaires qui faisaient partie de ses données d’entraînement, y compris des expressions spécifiques et des exemples, voire la même séquence d’arguments. L’IA s’est contentée de régurgiter des commentaires existants plutôt que de générer de nouvelles perspectives ou de faire preuve d’une compréhension du texte.

Conclusion

Les systèmes d’IA influencent de plus en plus la façon dont les organisations analysent l’information, prennent des décisions et communiquent en interne et en externe. La terminologie utilisée pour décrire le comportement de l’IA joue désormais un rôle essentiel dans l’évaluation, la gouvernance et la gestion de ces systèmes.

En éclaircissant la signification de ces termes couramment utilisés, ce bulletin vise à fournir aux chefs d’entreprise et aux professionnels un aperçu du vocabulaire nécessaire pour communiquer avec autrui lorsqu’ils discutent des technologies d’IA. Nous espérons que cette clarté conceptuelle aidera les organisations à exercer un contrôle plus efficace sur l’utilisation et le déploiement de leurs systèmes d’IA.

À propos de l’auteur

Amir Kashdaran est associé en protection de la vie privée chez McMillan.