Les modèles d'IA générative utilisent des probabilités pour générer du texte, ils peuvent donc donner de fausses informations. Ce concept est connu sous le nom d'hallucination de l'IA.
Certains outils d'IA sont plus susceptibles d'halluciner que d'autres. Par exemple, GPT-4 (le la version la plus récente de ChatGPT Plus, et Microsoft Copilot) s'est amélioré et est moins enclin aux hallucinations. Selon OpenAI, il est "40 % plus susceptible de produire des réponses factuelles que GPT-3.5 dans nos évaluations internes".
Les modèles liés à internet ou des bases de données académiques sont également moins susceptibles de provoquer des hallucinations. Mais ils ne sont pas parfaits et il est important de toujours évaluer les résultats.
Les stratégies suivantes peuvent vous aider à déterminer l'exactitude du contenu généré par l'IA.
Recherchez d'autres sources fiables pour corroborer les affirmations de l'IA. Essayez de trouver d'autres sources qui couvrent le même sujet, ou même le contexte d'origine d'une réponse de l’outil IA (ce sont les principes F et T de la méthode SIFT [voir aussi SIFT method en anglais]) pour l’évaluation d’information. Si un outil d'IA est basé sur des données probantes, il peut fournir des liens vers des sources que vous pouvez utiliser pour vérifier ces réponses.
Vous pouvez demander à un outil d'IA générative de citer ses sources, mais il est connu pour créer de fausses citations très convaincantes.
Ils peuvent même créer des citations comportant le noms de chercheurs qui étudient le sujet lié à votre demande. Cependant, l'article cité peut ne pas exister ou ne pas provenir de la revue qu'il cite. Ces citations inventées sont des exemples d'hallucination de l'IA.
Voici quelques étapes à suivre pour confirmer la véracité des citations :
Entrer le titre de la publication ( par exemple, le titre d'un livre ou d'un article) sur le site web de la bibliothèque de l'Université d'Alberta ou effectuer une recherche dans un moteur de recherche tel que Google.
Si vous ne trouver pas la publication demandez à l'outil d'IA de fournir des détails supplémentaires pour essayer de la trouver ou confirmer qu’il s’agit d'une hallucination. Par exemple, "Pouvez-vous fournir un ISBN, un ISSN ou un DOI pour cette publication ?"
Si la référence existe, consulter le document original pour vérifier que les informations fournies par l'outil d'IA aient été résumées correctement.
Si vous avez besoin d'informations récentes sur un événement ou un nouveau développement dans le domaine de la recherche, certains outils d'IA générative peuvent ne pas disposer de ces informations dans leurs ensembles de données. En avril 2024, lorsqu'on lui a demandé si ses données d'entraînement étaient récentes, ChatGPT (GPT-3.5) a répondu qu'il disposait de données d'entraînement allant jusqu'à janvier 2022 et qu'il n'avait pas la possibilité d'accéder à des informations plus récentes.
L'utilisation d'un outil dont le contenu est fondée sur des données probantes peut vous aider à générer du contenu lié aux informations et aux événements d'actualité.
Cette page a été adaptée de Evaluating Information Sources: Generative AI and ChatGPT avec l'autorisation de la bibliothèque de l'Université de la Colombie-Britannique.