L'essentiel
- Un modèle de langage peut inventer références, citations et chiffres avec la même assurance que des faits exacts.
- Ses performances en calcul et en logique restent inégales : un résultat chiffré doit être recalculé.
- Ses réponses portent les biais de ses données d'entraînement et appellent une lecture critique.
Les affirmations inventées
Des références, des citations et des chiffres inexistants sont produits avec la même assurance que des informations exactes. C'est une propriété du procédé, non un défaut corrigible par une simple mise à jour.
Le raisonnement
Les performances en calcul et en logique formelle se sont améliorées, mais restent inégales et difficiles à anticiper. Un résultat chiffré doit être recalculé par un autre moyen.
Les biais
Les données d'entraînement portent les biais des textes disponibles. Les résultats varient selon la langue, le sujet et la manière dont la question est posée, ce qui appelle une lecture critique systématique. Pour limiter ces écueils, voir comment écrire de bonnes instructions.