Aujourd'hui, on découvre

1. Le test : vrai ou généré ?
2. Pourquoi l'IA « hallucine » (et a l'air si sûre d'elle)
3. La carte du faux : erreur, satire, désinformation, deepfake
4. La méthode S.T.O.P. — vérifier en 4 réflexes
5. Zoom deepfakes : les indices… et leurs limites
6. Activité : vous êtes la rédaction !
7. La charte du partage responsable

Le test : vrai ou généré ?

Je vais vous montrer 6 images.

Pour chacune, votez à main levée :

• VRAIE photo
• Image générée par IA

Pas de triche, pas de zoom sur l'écran du voisin.
On compte les points à la fin !

Verdict du test

Presque tout le monde s'est trompé au moins une fois.
C'est normal — et c'est le point de départ de la séance.

Il y a trois ans, on repérait une image IA en une seconde.
Aujourd'hui, même les experts hésitent.

La bonne question n'est plus :
« Est-ce que je peux VOIR la différence ? »

Mais : « Comment je VÉRIFIE ? »

Souvenez-vous de la Session 3…

Une IA de langage fait UNE chose :

Prédire la suite la plus probable d'un texte.

Elle ne consulte pas une « base de vérités ».
Elle ne sait pas ce qui est vrai — elle sait ce qui est plausible.

Plausible ≠ Vrai ← la phrase la plus importante du jour

Le perroquet lecteur

Imaginez un perroquet qui a lu toute la bibliothèque.

• Il parle magnifiquement bien
• Il connaît des millions de phrases
• Mais demandez-lui un livre qui n'existe pas…

Il vous en inventera un — titre crédible, auteur crédible,
éditeur crédible. Son travail : produire du crédible.
Pas vérifier le vrai.

C'est ce qu'on appelle une hallucination.

Démonstration en direct

Demandons à un chatbot :

1. La biographie d'une personne inventée
2. « Cite-moi 3 articles scientifiques sur [sujet pointu] »

Puis… vérifions ses réponses.

Spoiler : au moins une référence risque
de ne pas exister. Avec un titre parfaitement crédible.

3 raisons de rester vigilant

1. Elle prédit, elle ne sait pas
   → plausible ≠ vrai

2. Elle a une date de coupure
   → ses connaissances s'arrêtent quelque part

3. Elle veut vous plaire
   → entraînée à répondre, rarement à dire « je ne sais pas »

L'IA ne « ment » pas : mentir demande une intention.
Elle se trompe avec assurance — nuance importante !

La fausse précision

Qu'est-ce qui rend une hallucination si convaincante ?

• Une date précise : « en 1987 »
• Un nom propre : « Marcel Dupreuil »
• Un détail concret : « aux Éditions du Vieux Clocher »

La fausse précision est le costume préféré du faux.

La forme sérieuse d'une réponse ne prouve rien.

Le faux a plusieurs visages

Question : lequel est le plus dangereux ?

Réponse nuancée

• La désinformation volontaire est la plus toxique…
• …mais une erreur partagée un million de fois fait autant de dégâts.

Peu importe l'origine :
c'est le PARTAGE qui donne sa puissance au faux.

Et la satire ? Aucun problème… tant qu'elle est identifiable.
Le souci : la capture d'écran qui circule sans le nom du site.

S.T.O.P. — vos 4 réflexes

S — Source

Qui publie ? Le site/compte est-il identifiable, ancien, fiable ?

T — Traces

D'autres médias sérieux en parlent-ils ?

O — Origine

D'où viennent l'image, la citation, le chiffre ?

P — Pause

Émotion forte ? C'est le signal : attendez avant de partager.

S comme Source

Questions à se poser :

• Ce média/compte existe-t-il vraiment ?
• Y a-t-il une page « À propos », des auteurs identifiés ?
• Le compte a-t-il été créé il y a 3 jours ?
• L'adresse du site est-elle bizarre ? (sante-choc-info.biz )

Une info sans source, c'est une rumeur avec un beau costume.

T comme Traces

Le recoupement — l'arme n°1 des journalistes :

Un scoop ÉNORME repris par aucun média connu ?
Alerte maximale.

Un événement majeur est toujours couvert par
plusieurs médias indépendants.

« Personne n'en parle sauf ce compte » =
signal d'alerte, pas preuve de complot.

O comme Origine

Pour une image suspecte :

• Recherche d'image inversée (Google Images, TinEye, Lens)
• On découvre souvent… une vieille photo recyclée
  dans un faux contexte !

Pour une citation :

• Cherchez-la entre guillemets dans un moteur de recherche
• Qui l'a dite ? Quand ? Où ? Dans quel contexte ?

P comme Pause (le plus important !)

La désinformation est conçue pour déclencher :

• la colère
• la peur
• l'indignation
• l'enthousiasme (« trop beau pour être vrai »)

L'émotion court-circuite la réflexion.
Ressentir une émotion forte = LE signal de faire une pause.

Votre superpouvoir : 30 secondes d'attente.

Entraînons-nous ensemble

« URGENT Le collège X remplace tous ses profs
par des IA dès septembre ! Partagez vite !!! »

• S : site inconnu, pas de page « À propos »
• T : aucun média n'en parle — pour un tel scoop ?!
• O : photo issue d'une banque d'images
• P : peur + urgence + « partagez vite »

Verdict : intox. Quatre drapeaux rouges sur quatre.

Les indices visuels classiques

À observer sur une image ou vidéo suspecte :

• Mains et doigts étranges, bijoux asymétriques
• Textes illisibles en arrière-plan (enseignes, affiches)
• Reflets et ombres incohérents
• Arrière-plans « fondus », détails répétés
• Peau trop lisse, dents trop régulières

Les indices audio et vidéo

• Synchronisation lèvres/son imparfaite
• Respiration absente, intonation plate (voix clonées)
• Clignements d'yeux rares ou mécaniques

Quelques secondes de votre voix suffisent
aujourd'hui pour la cloner.

L'avertissement qui compte

Ces indices vieillissent VITE.

Les modèles récents corrigent les mains, les reflets,
les clignements…

La leçon durable n'est pas la liste d'indices.
C'est le réflexe : vidéo spectaculaire
→ vérifier la source AVANT d'y croire.

Vos yeux vous trahiront un jour. Votre méthode, non.

Se protéger concrètement

L'arnaque à la voix clonée : un « proche » appelle,
voix paniquée, demande d'argent urgente…

Le mot de code familial :
convenez d'un mot secret avec vos proches
pour vérifier un appel d'urgence suspect.

Simple, gratuit, efficace.
Parlez-en à la maison dès ce soir !

Et les détecteurs d'IA ?

« Il existe des outils qui détectent les contenus IA, non ? »

• Oui… mais ils se trompent souvent, dans les deux sens
• Un vrai texte peut être accusé d'être « IA »
• Un deepfake soigné peut passer au travers

Aucun outil ne remplace la vérification de source.
S.T.O.P. > n'importe quel détecteur.

Le jeu de la rédaction

Vous êtes la rédaction du journal « Le Vérificateur ».

En équipes de 3-4 : trois dépêches arrivent.
Pour chacune, décidez :

• PUBLIER
• VÉRIFIER ENCORE
• REJETER

Justifiez chaque verdict avec S.T.O.P. — 4 min par dépêche !

Le barème du rédacteur en chef

• Publier une intox : -10 points
  (vous trompez vos lecteurs)

• Rejeter une vraie info : -5 points
  (vous privez vos lecteurs du vrai)

• Vérifier encore : 0 point
  (prudence honnête… mais un journal doit décider !)

Rejeter le vrai coûte aussi des points.
L'esprit critique ≠ tout rejeter !

Debrief : le piège du poulpe

La dépêche « incroyable mais vraie » a-t-elle été rejetée ?

C'est le dividende du menteur :

Si le public croit que « tout peut être truqué »,
alors les menteurs peuvent nier… même les vraies preuves.

L'esprit critique, ce n'est pas tout rejeter.
C'est vérifier avec méthode.

La charte du partage responsable

Avant de partager, je m'engage à :

1. Faire S.T.O.P. si l'info me fait réagir fort
2. Vérifier la source avant de croire une vidéo choc
3. Ne pas partager dans le doute — ne rien faire, c'est déjà agir
4. Corriger un proche avec bienveillance (en privé)
5. Signaler les contenus trompeurs sur les plateformes

Choisissez UN engagement et écrivez-le.

Les 5 idées à retenir

1. L'IA générative produit du plausible, pas du vrai
2. Le faux a plusieurs visages : erreur, satire, désinformation, deepfake
3. S.T.O.P. : Source · Traces · Origine · Pause
4. Les indices de deepfakes vieillissent ; le réflexe de vérifier, non
5. Vérifier avant de partager, c'est protéger les autres