Pourquoi les gens parlaient à ELIZA, une intelligence artificielle

Les gens parlaient avec ELIZA parce que ses réponses pouvaient sembler pertinentes et chaleureuses, même si le programme ne comprenait pas le sens de ce qu’on lui écrivait. Il appliquait des règles pour donner l’impression d’une conversation, et sa façon de répondre pouvait amener certaines personnes à lui prêter une capacité de compréhension.

En résumé :

• ELIZA appliquait des règles et des schémas écrits par son créateur ; il n’apprenait pas de ce que lui disait chaque utilisateur.
• Les questions ouvertes et la répétition de mots pouvaient inciter la personne à compléter le sens des réponses prévues.
• Un chatbot à règles peut répondre aux situations prévues, mais ne peut pas, à lui seul, traiter ce qui sort du cadre de ces règles.
• Une réponse convaincante ne prouve pas que le système interprète l’intention ou le contexte ; pour l’évaluer, il faut regarder ce qu’il fait des informations, pas seulement la façon dont il s’exprime.

La différence entre tenir une conversation et exécuter un processus aide à déterminer quelles tâches un agent d’IA peut prendre en charge dans une PME. Découvrez les secteurs d’activité de UTIO.

En quoi ELIZA se distinguait-elle d’une machine qui apprend ?

ELIZA appliquait des règles écrites par son créateur pour reconnaître certaines structures et transformer des phrases. Le programme n’apprenait pas à partir des échanges avec chaque utilisateur. À l’inverse, un système d’apprentissage repère des régularités dans des exemples pendant son entraînement et adapte son comportement à partir de ces exemples. Cela ne signifie pas pour autant qu’il apprend de chaque conversation.

La différence tient à la manière dont la réponse est obtenue. Avec ELIZA, le comportement dépendait d’instructions définies à l’avance : si le texte correspondait à un modèle, le programme appliquait la règle associée. Dans le cas contraire, ses possibilités étaient limitées.

Un système entraîné à partir d’exemples peut généraliser des modèles qui n’ont pas été définis sous forme de règles individuelles. Cela dit, repérer des modèles ne revient pas à comprendre comme une personne. Pour évaluer un agent dans une PME, il importe de vérifier s’il suit le processus prévu et à quel moment il doit passer le dossier à une personne. Pour intégrer des capacités d’IA dans un produit, vous pouvez consulter l’API d’IA de UTIO.

Comment ELIZA générait-elle des réponses sans comprendre ce qu’elle disait ?

ELIZA générait des réponses en repérant des mots ou des structures reconnaissables dans le texte et en leur appliquant des règles de transformation : elle pouvait reprendre des éléments de la phrase ou renvoyer une question prévue, mais elle ne vérifiait ni ce que la personne voulait dire ni si sa réponse était adaptée à l’ensemble du contexte.

Le mécanisme dépendait des éléments prévus par ses règles. Si une phrase correspondait à un schéma reconnu, le programme pouvait la transformer en une autre structure et répondre. Cela lui permettait de poursuivre l’échange tant qu’il trouvait des schémas qu’il savait traiter ; cela ne lui permettait pas de déduire une nouvelle intention ni de résoudre une contradiction par lui-même.

La différence se voit lorsque la conversation sort du cadre prévu. Une réponse peut sembler adaptée parce qu’elle reprend ou reformule des mots, sans que le programme en ait vérifié le sens. Lorsque vous évaluez un agent WhatsApp, demandez-vous quelle tâche il effectue avec chaque message et ce qu’il fait lorsqu’il ne dispose pas d’une règle ou d’informations suffisantes. La fluidité, à elle seule, ne prouve pas la compréhension.

Pourquoi certaines personnes ont-elles eu l’impression qu’ELIZA les comprenait ?

ELIZA pouvait sembler compréhensive parce qu’elle répondait à certaines phrases par des questions ouvertes ou reprenait les mots de l’utilisateur. Ces procédés donnaient de la continuité au dialogue. Cette impression décrit une réaction possible à son style de réponse ; elle ne prouve ni que toutes les personnes l’ont ressentie ni que le programme comprenait ce qu’on lui racontait.

Une personne peut interpréter une question ouverte comme une marque d’intérêt et apporter elle-même le contexte que la réponse n’a pas interprété. Répéter un mot peut aussi donner l’impression que l’échange suit un fil.

Cela explique une impression possible, mais ne permet pas d’affirmer que tous les utilisateurs se sont sentis compris ni de généraliser à partir d’une anecdote. Sans source historique précise, il est plus juste de décrire le mécanisme que d’attribuer une expérience commune à un groupe.

Pour évaluer un agent actuel, distingue le ton de la tâche : vérifie quelle information il recueille et quelle action il exécute. Les cas clients d’UTIO présentent, entreprise par entreprise, le besoin, ce qui a été mis en place et la tâche que l’agent effectue aujourd’hui.

Quelle différence entre tenir une conversation et la comprendre ?

Tenir une conversation consiste à produire des réponses qui s’enchaînent avec ce que quelqu’un vient de dire ; la comprendre suppose d’interpréter ce que cette personne veut, les informations qu’elle apporte et les conséquences d’une réponse ou d’une action. Une réponse fluide ne prouve donc pas, à elle seule, que le programme a compris l’intention ni le contexte.

Pour évaluer un agent, vérifiez ce qu’il fait quand une demande est ambiguë ou qu’il lui manque des informations. Demande-t-il des précisions ? Indique-t-il de quelle donnée il a besoin ? S’arrête-t-il s’il ne peut pas répondre avec suffisamment de certitude ? Ces signes permettent d’évaluer son comportement plutôt que de juger uniquement le ton de ses réponses.

Dans le service client, répondre à une question ne suffit pas : la réponse doit aussi tenir compte du processus et des données pertinentes. La verticale du support permet d’explorer un cas d’usage concret. Pour évaluer un agent, vérifiez quelles informations il consulte, quelles actions il peut effectuer et à quel moment il doit passer la main à une personne.

Questions fréquentes

Qui a créé ELIZA ?

ELIZA a été créée par Joseph Weizenbaum, professeur au MIT, qui avait rejoint l’institution en 1963. Il l’a développée entre 1964 et 1966. Les archives numériques du MIT conservent la liste complète de son code source, écrit en langage MAD-SLIP, avec Weizenbaum comme auteur.

Qu’était le script DOCTOR d’ELIZA ?

DOCTOR était un script d’ELIZA. Dans son article de 1966, Weizenbaum explique qu’un script est un ensemble de mots-clés et de règles de transformation associé à un type de conversation. Les scripts de l’époque répondaient plus ou moins comme un psychothérapeute rogerien. La liste du code conservée par le MIT se termine par le script DOCTOR.

ELIZA était-elle le premier chatbot ?

ELIZA est souvent considérée comme le premier chatbot, même si cette priorité n’est pas incontestable : la notice nécrologique de Weizenbaum publiée par le MIT le décrit comme « peut-être le premier exemple » de ce qu’on appelle aujourd’hui un chatbot. Ce qui est documenté, c’est qu’il l’a créée au MIT dans les années 1960, à partir de règles écrites et sans apprentissage.

L’effet ELIZA signifie-t-il qu’une machine comprend les personnes ?

Non. L’« effet ELIZA » tire son nom du programme de Weizenbaum. Il décrit la tendance des personnes à attribuer de la compréhension et de l’intelligence à un système informatique en fonction de sa manière de converser. C’est une réaction de la personne qui l’utilise, pas une capacité de la machine : une réponse qui semble fluide ne prouve pas que le programme ait compris quoi que ce soit.

Découvrez quelles tâches concrètes un agent IA peut effectuer dans une PME.

Sources

• ELIZA wins Peabody Award — MIT CSAIL — 2022-03-24
• Computer conversations, 1965 — MIT Libraries
• ELIZA—A Computer Program For the Study of Natural Language Communication Between Man and Machine — Communications of the ACM — 1966-01-01
• Joseph Weizenbaum, professor emeritus of computer science, 85 — MIT News — 2008-03-10
• World’s first chatbot restored on the world’s first time-sharing system — UMBC — 2024-12-28
• The Limits of Computation: Joseph Weizenbaum and the ELIZA Chatbot — Weizenbaum Journal of the Digital Society — 2023-11-06
• ELIZA: A program for simulating understanding and intelligence — Weizenbaum-Institut
• Casos de clientes: agentes de IA en producción | UTIO — UTIO