Intelligence Artificielle : mieux la comprendre pour mieux l'utiliser

Intelligence ? Non: données !

Un modèle de langage basé sur l’IA (comme ChatGPT), est souvent perçu comme "intelligent". Il peut écrire des poèmes, expliquer des concepts scientifiques, ou résoudre des problèmes mathématiques. Ces prouesses alimentent l’idée qu’il s’agit d’une machine pensante.

Cependant, il est crucial de comprendre que ces modèles n'ont pas de conscience, de réflexion ou d’intuition. Ils reposent uniquement sur des calculs probabilistes pour prédire les mots les plus appropriés dans une phrase. Son "intelligence" est donc purement mécanique, basée sur des données et des algorithmes.

Pour mieux comprendre les modèles comme ChatGPT, il est utile de se plonger dans les bases de la data science et du machine learning (apprentissage automatique). Ces disciplines reposent sur deux étapes principales : l’entraînement et l’inférence.

1. L’entraînement : apprendre à partir des données
   Lors de cette phase, le modèle "apprend" en analysant des quantités gigantesques de données textuelles. Il cherche à identifier des relations entre les mots et à comprendre comment ils s’enchaînent dans une phrase.
   Exemple : Si le modèle rencontre souvent des phrases comme "Le ciel est bleu", il apprend que "bleu" est un mot très probable après "Le ciel est".
   En répétant ce processus sur des milliards de phrases, le modèle devient capable de prédire des mots de manière de plus en plus précise. Cette étape demande des ressources informatiques considérables et peut durer des semaines, voire des mois.

2. L’inférence : générer des réponses
   Une fois entraîné, le modèle passe à la phase d’inférence. C’est le moment où il est utilisé pour répondre à des questions ou produire du texte. Contrairement à l’entraînement, cette étape est rapide : le modèle applique ce qu’il a appris pour générer des prédictions en temps réel.
   Exemple : Quand un utilisateur demande "Pourquoi le ciel est bleu ?", ChatGPT s’appuie sur les schémas appris pendant l’entraînement pour produire une réponse cohérente.

Il est important de bien comprendre cette différence entre apprendre (l’entraînement) et appliquer ce qui a été appris (l’inférence).

Les hallucinations des LLM : des réponses parfois fantaisistes

Un phénomène bien connu des LLM est leur tendance à produire des réponses erronées qui semblent pourtant plausibles. Ces erreurs sont appelées hallucinations.

Les hallucinations se produisent lorsque le modèle n’a pas de données suffisantes ou pertinentes pour répondre précisément à une question. Dans ces cas, il "invente" une réponse, en restant fidèle aux schémas statistiques qu’il a appris.

Exemple :

Question : "Quel est le plus grand désert de la Terre ?"

Réponse correcte : "Le désert Antarctique."
Hallucination possible : "Le Sahara." 

Cela ne veut pas dire que le modèle "ment", mais simplement qu’il n’a pas de mécanisme pour vérifier ses réponses. Il se contente de générer une suite de mots qui semble cohérente. Les hallucinations montrent pourquoi il est crucial d’utiliser ces modèles avec discernement. Ils sont de puissants outils d’aide, mais ne doivent pas être considérés comme des sources d’information infaillibles.

Plusieurs stratégies peuvent être employées pour réduire ce phénomène et rendre les réponses plus fiables :

1. S’appuyer sur des documents de confiance
   En fournissant une base de connaissances validée – comme des articles scientifiques, des encyclopédies ou des textes de référence – le modèle est guidé par des sources précises. Cela réduit considérablement le risque d’inventer des informations.
   En d’autres termes, au lieu de puiser uniquement dans ses schémas statistiques, le modèle est "encadré" par ces documents.  Cependant, cela nécessite de mettre en œuvre des techniques sophistiquées pour retrouver en temps réel les passages clés qui correspondent précisément au contexte de la demande de l’utilisateur, un défi technique important pour garantir la pertinence des informations fournies.

2. Donner des instructions structurées
   Une autre manière d’améliorer la précision des réponses est de rédiger des instructions claires et bien structurées pour guider le modèle dans sa tâche. Cette approche, appelée prompt engineering, consiste à formuler les requêtes de manière à réduire l’ambiguïté.
   Bien que cette méthode puisse améliorer la fiabilité, elle reste complexe à maîtriser. Trouver les bons mots et structurer les instructions de façon optimale nécessite des compétences spécifiques et une bonne compréhension du fonctionnement des modèles.

Ce sont précisément ces deux stratégies qui sont implémentées dans Archi ! 

Conclusion : une intelligence… statistique

Les LLM comme ChatGPT représentent une avancée technologique impressionnante. Leur capacité à analyser et générer du langage est fascinante, mais elle reste purement statistique. Ils n’ont ni conscience, ni compréhension, ni capacité de jugement et sont encore loin de la véritable intelligence humaine. Ces outils doivent donc être utilisés avec discernement. Savoir comment ils fonctionnent et connaître leurs limites – notamment les hallucinations – est essentiel pour éviter de tomber dans le piège des fantasmes associés à l’intelligence artificielle. 

La prochaine fois que vous utiliserez ChatGPT, souvenez-vous : derrière les mots, il n’y a pas de pensée et encore moins de conscience, seulement des mathématiques.

Note : cet article, à destination des collégiens et lycéens, a été corédigé avec une IA 🤝. Rédaction des instructions : 1 min (humain); génération du brouillon : 2 min (IA); correction et enrichissement : 30 min (humain)