Peut-on faire confiance à l'IA ?

Tu te poses des questions sur l'intelligence artificielle ? Par exemple, d'où viennent ses réponses à tes prompts et que valent-elles ? Elles semblent claires, mais sont-elles fiables ? Dans Ma vie avec l'IA, Théo et Servo répondent à tes interrogations sur la confiance à leur accorder.

Faut-il se méfier de l'IA ?

En tant qu'intelligence artificielle, l'IA est conçue pour être utile et fiable. Mais elle est surtout programmée pour trouver les mots qui, statistiquement, ont le plus de chance de se trouver ensemble.

Techniquement, l'IA ne peut pas mentir, elle n'est pas conçue pour différencier le vrai du faux. C'est pourquoi, quand elle fournit une information erronée, certains appellent cela une « hallucination »... La qualité des réponses de l'intelligence artificielle dépend de ses données sources :  comme les sites web, les livres en ligne, les articles ou les vidéos qu'elle consulte. Il y a dans tout cela des informations non vérifiées.

L'empoisonnement de l'intelligence artificielle

Il suffit de 0,001 % de données erronées (1 sur 100 000) pour parvenir à biaiser une IA... On appelle cela l'empoisonnement des données. Si quelqu'un connaît les sources sur lesquelles l'IA s'entraîne et tire ses données, il peut les inonder de contenus toxiques et fausser son développement. Il arrive également que du marketing promotionnel soit inséré dans ses données sources, pour que l'intelligence artificielle partage une publicité comme si c'était une information factuelle. L'IA reste un outil d'aide dans les tâches quotidiennes et tu es responsable de la vérification de ce qu'elle dit.

👉Tu veux en savoir plus ? Regarde les autres vidéos de Ma vie avec l'IA.