title: "Applied AI — Session 3 : Le langage des machines"
author: "Yann Isola"
theme: "Applied AI Débutant"
palette: ["#1A2230", "#0F7A6C", "#B4612A", "#E9F6F3", "#F4F7F6"]

Slide 1 — Titre

Le langage des machines

Applied AI — Niveau Débutant · Session 3

Yann Isola

Aujourd'hui, on ouvre le capot : comment une IA « lit »-elle vraiment vos messages ?

Slide 2 — La question choc

Quand vous écrivez « Bonjour ! » à une IA…

…est-ce qu'elle lit votre message ?

(Débattez 2 minutes avec votre voisin)

Slide 3 — La réponse

NON.

Elle ne voit jamais vos mots.

Elle voit… des nombres.

« Bonjour ! »  →  [ 14085 , 0 ]   →   calculs  →  [ 3992, 618, … ]  →  « Salut ! … »

Numéros illustratifs — chaque modèle a les siens

Slide 4 — Au programme

1. L'ordinateur ne comprend rien (et pourtant…)
2. Les tokens : le texte en morceaux
3. Les embeddings : la carte des mots
4. La fenêtre de contexte : la mémoire de travail
5. Les hallucinations : quand l'IA invente
6. La température : le curseur créativité
7. Labo : jouez avec les paramètres !

Slide 5 — Tout est nombre

Un ordinateur = une calculatrice ultra-rapide

• Il ne connaît que les nombres
• Texte, images, musique → tout devient des nombres
• La lettre « A » ? Pour la machine : 65 (code ASCII*)

*ASCII = American Standard Code for Information Interchange : un vieux standard qui donne un numéro à chaque lettre.

Métaphore de la journée : l'IA est un touriste avec un dictionnaire de nombres et une calculatrice géniale.

Slide 6 — Les tokens

Token = un morceau de texte traité d'un coup

Texte	Tokens possibles
chat	chat → 1 token
intelligence	intelli + gence → 2 tokens
aujourd'hui	aujourd + ' + hui → 3 tokens
	même les emojis sont découpés !

Le découpage exact varie selon les modèles.

Slide 7 — Pourquoi découper ?

3 raisons

1. Trop de mots — conjugaisons, pluriels, mots nouveaux : impossible de tout numéroter
2. Effet LEGO — re + faire, dé + mont + er : les briques se recombinent
3. Mots inconnus — « schtroumpfologie » ? Pas de panique : on le découpe en morceaux connus

Slide 8 — Le vocabulaire

Chaque token a un numéro fixe

• Le modèle possède une grande liste : son vocabulaire
• Taille typique : 30 000 à 200 000 tokens
• « chat » = toujours le même numéro (pour un modèle donné)
• Le modèle ne voit jamais vos lettres — seulement la liste des numéros

Fun fact : le français coûte souvent plus de tokens que l'anglais (les modèles ont surtout lu de l'anglais)

Slide 9 — Mini-jeu : le tokeniseur humain

À vous ! Découpez comme une IA :

• ordinateur
• incroyablement
• parapluie
• chatbot
• refaire

En binômes, 5 minutes. Il n'y a pas UNE bonne réponse — chaque modèle a son découpage !

Slide 10 — Le problème du numéro

Le token n° 9846 = « chat »… et alors ?

Un numéro ne dit rien du sens.

Comment la machine sait-elle que
chat ressemble à chien
mais pas à brouette ?

→ Les embeddings !

Slide 11 — Les embeddings

Des mots transformés en coordonnées

Comme Paris et Lyon sur une carte de France…
mais la carte représente le SENS, pas la géographie.

Mots proches en sens = points voisins sur la carte

     roi •         • reine
   homme •         • femme

  chien • • chat
        • hamster        • pizza
                         • sushi

Slide 12 — La magie de l'arithmétique des mots

roi − homme + femme ≈ reine

La direction « masculin → féminin » est une flèche sur la carte !

À vous de deviner :

• Paris − France + Italie ≈
• manger − nourriture + boisson ≈

Intuition issue des anciens modèles de mots (word2vec, 2013). Les IA modernes font plus complexe, mais l'idée reste : sens = position.

Slide 13 — En vrai : pas 2 dimensions…

…mais des centaines, voire des milliers !

• Nous : incapables d'imaginer une carte en 1000D
• La machine : elle calcule ça sans effort
• Pour la regarder, on écrase la carte en 2D

Démo : la carte des mots interactive → webpage/index.html

Slide 14 — Pause

De retour dans 10 minutes

Question à méditer : de combien de choses pouvez-vous vous souvenir en même temps ?

Slide 15 — La fenêtre de contexte

La « mémoire de travail » de l'IA

• Tout ce que l'IA garde « en tête » d'un coup : votre conversation, vos documents, ses réponses
• Mesurée en tokens
• À chaque message, l'IA relit tout ce qui tient dans la fenêtre… et rien d'autre

Slide 16 — L'analogie de la table

Vous faites vos devoirs sur une petite table : 10 feuilles maximum.
Une 11ᵉ feuille arrive ? Une ancienne tombe.

• Sur la table = l'IA le voit
• Tombé de la table = oublié

Conséquence : conversation très longue → l'IA peut oublier le début !

Slide 17 — Tailles de fenêtres

De plus en plus grandes

• Hier : quelques milliers de tokens
• Aujourd'hui : jusqu'à des millions pour certains modèles
• 1 million de tokens ≈ plusieurs gros romans

Astuces quand l'IA perd le fil :

1. Redonner un résumé des points clés
2. Ou repartir sur une nouvelle conversation propre

Chiffres qui évoluent très vite !

Slide 18 — Les hallucinations

Quand l'IA invente… avec assurance

Hallucination = information fausse ou inventée, présentée comme vraie :

• Un livre qui n'existe pas
• Une citation fabriquée
• Une date déformée
• Des chiffres précis… sortis de nulle part

Slide 19 — Pourquoi l'IA invente-t-elle ?

Elle calcule le token suivant le plus probable

• Elle est entraînée à produire du texte plausible, pas du texte vrai
• « Je ne sais pas » est rarement la suite la plus probable…
• Comme un élève qui n'a pas révisé mais rédige avec aplomb

« L'IA est une machine à produire du plausible, pas du vrai. Souvent les deux coïncident. Pas toujours. »

Slide 20 — Les 4 réflexes anti-hallucination

1. Vérifier ailleurs les faits importants (dates, chiffres, noms, citations)
2. Se méfier du trop précis et invérifiable
3. Demander les sources… et les contrôler (l'IA peut aussi inventer des sources )
4. Règle des enjeux : santé, argent, devoirs notés → on vérifie TOUJOURS

Slide 21 — La température

Le curseur du hasard

« Le ciel est… »

Token suivant	Probabilité
bleu	60 %
gris	25 %
magnifique	10 %
en fromage	0,1 %

• Basse : presque toujours « bleu » — sage, prévisible
• Moyenne : parfois « gris », « magnifique »
• Très haute : un jour… « en fromage » !

Slide 22 — Quelle température pour quoi ?

Tâche	Température
Traduction, résumé, calculs	Basse
E-mails, rédaction	Moyenne
Brainstorming, poésie, idées folles	Haute

Les chatbots grand public ne laissent souvent pas régler la température… mais on peut l'imiter : « réponds de façon très classique » vs « sois audacieux ! »

Slide 23 — Labo : à vous de jouer !

En binômes, sur la page interactive :

1. Testez la même question en froid / moyen / chaud
2. Trouvez le mot français qui coûte le plus de tokens
3. Trouvez la paire de mots la plus surprenante sur la carte

Restitution : votre découverte préférée en une phrase !

Slide 24 — Les 6 phrases à retenir

1. L'ordinateur calcule avec des nombres, il ne comprend pas les mots
2. Le texte est découpé en tokens, chacun a un numéro
3. Les embeddings = la carte du sens : proche en sens = proche en coordonnées
4. La fenêtre de contexte = mémoire de travail, grande mais limitée
5. L'IA produit du plausible, pas du vrai → on vérifie !
6. La température = le curseur entre prévisible et créatif

Slide 25 — La prochaine fois…

Session 4

Maintenant qu'on sait comment la machine lit…
…on va apprendre à lui parler pour obtenir exactement ce qu'on veut !

Merci ! Place au quiz

Applied AI — Yann Isola