1/18
Choisir une surface LLM
Chat, recherche, code et voix — le même modèle, quatre politiques de contexte différentes.
Notes du présentateur
Ouvrez en nommant la tension que la session résout : on compare des produits alors que la décision qui compte est ce qui entre dans la fenêtre de contexte. Promettez une règle de sélection pour la fin.
2/18
La question derrière chaque surface
Qu’y a-t-il réellement dans la fenêtre de contexte en ce moment ?
Notes du présentateur
Demandez à main levée : qui sait lister ce qu’il y avait dans la fenêtre de sa dernière requête ? Presque personne. Cet écart, c’est la session.
3/18
Une surface est une politique de contexte
- Chat simple : flux de tokens autonome, borné par une date de coupure
- Recherche : des passages récupérés sont injectés
- Code : des fichiers du dépôt sont injectés
- Documents : un corpus téléversé est injecté
Notes du présentateur
Dessinez la fenêtre au tableau et ajoutez physiquement chaque source en la nommant. Laissez le schéma affiché toute la session.
4/18
Choisir n’est pas cliquer
Sélectionner une surface décide ce qui occupe la fenêtre — une décision d’ingénierie, pas une préférence d’interface.
Notes du présentateur
C’est la phrase à répéter. Si les participants ne retiennent qu’une ligne, que ce soit celle-ci.
5/18
Défaillance 1 : le rappel périmé
Sans recherche, le modèle répond depuis des paramètres figés au moment de l’entraînement.
Notes du présentateur
Insistez : l’aisance n’est pas de la calibration. Le ton assuré est identique que le fait soit actuel ou vieux de trois ans.
6/18
Atelier A — l’expérience de la coupure
Même question, deux surfaces. Notez les deux réponses, puis ouvrez chaque citation.
Notes du présentateur
20 minutes en binôme. Circulez et poussez les gens à ouvrir réellement les sources plutôt qu’à lire l’extrait cité.
7/18
Défaillance 2 : le résumé infidèle
- Quelles sources ont été trouvées ?
- Quels passages ont été sélectionnés ?
- Le résumé leur est-il fidèle ?
Notes du présentateur
Débriefez l’atelier A ici. Demandez précisément qui a trouvé une affirmation étayée par aucune source citée — il y a toujours au moins un binôme.
8/18
Une citation est une promesse, pas une preuve
L’affirmation n’est vérifiée que lorsqu’un humain ouvre la source.
Notes du présentateur
Anticipez l’objection « c’est lent ». Réponse : vous n’avez à vérifier que les affirmations sur lesquelles vous allez agir.
9/18
La recherche est un échange, pas une amélioration
| Surface | Risque supprimé | Risque ajouté |
|---|---|---|
| Sans recherche | Bruit des sources, latence, coût | Rappel périmé ou fabriqué |
| Avec recherche | Obsolescence | Mauvaises sources, résumé infidèle |
| Exécution de code | Erreur de calcul mental | Programme faux, hypothèse cachée |
Notes du présentateur
Donnez un contre-exemple où la recherche est le mauvais choix : un fait stable et bien connu où elle n’ajoute que latence et source médiocre.
10/18
Défaillance 3 : le calcul non vérifié
Quand une surface exécute du code, l’arithmétique devient exacte — et un nouvel artefact apparaît.
Notes du présentateur
Enchaînez sur l’atelier B. Le passage du « nombre prédit » au « programme exécuté » est le saut conceptuel.
11/18
Lire le programme, pas le nombre
- Quelles lignes ont été retenues ?
- Comment les valeurs nulles ou mal formées ont-elles été traitées ?
- Quelle colonne a réellement été utilisée ?
Notes du présentateur
Ces trois questions attrapent la majorité des erreurs silencieuses en calcul délégué.
12/18
Atelier B — le calcul délégué
Un agrégat, une extrapolation. Lisez les deux programmes avant de lire l’un ou l’autre résultat.
Notes du présentateur
20 minutes en binôme. Gardez un jeu de données minuscule pour que cela ne devienne pas une séance de débogage.
13/18
Arithmétique exacte, monde supposé
Une régression parfaitement calculée suppose quand même que la tendance se poursuive. Les données ne peuvent pas le dire.
Notes du présentateur
Débriefez l’atelier B. Exigez que l’hypothèse soit écrite à côté du chiffre chaque fois qu’il est rapporté.
14/18
Le contexte est facturé au compteur
Attention et décodage croissent avec les tokens retenus dans la fenêtre — payés à chaque tour.
Notes du présentateur
Utilisez l’outil tokenizer en direct ici. Montrez le document complet, puis l’extrait qui aurait suffi à répondre.
15/18
Bornez ce que vous collez
L’extrait qui répond à la question représente en général une petite fraction du document joint.
Notes du présentateur
Faites rapporter leur ratio par deux ou trois participants après l’atelier C. L’écart est systématiquement plus grand qu’attendu.
16/18
La persistance est une surface de confidentialité
- La mémoire transporte un état d’une session à l’autre
- Les instructions personnalisées s’appliquent silencieusement à chaque tour
- Les configurations enregistrées s’accumulent par défaut
Notes du présentateur
Auditez un panneau mémoire en direct au projecteur, avec un compte jetable. Jamais un compte personnel.
17/18
La règle de sélection
Choisir la surface la moins coûteuse capable de répondre correctement, puis effectuer la vérification que cette surface exige.
Notes du présentateur
C’est le livrable de la session. Faites-la noter par les participants avant la diapositive de clôture.
18/18
Limite honnête
- Les fonctions grand public changent tous les mois ; toute comparaison est datée
- Cette session enseigne des critères de choix, pas un palmarès
- L’effort de vérification croît avec les conséquences d’une erreur
Notes du présentateur
Terminez sur l’attribution : le cadrage suit la conférence publique de Karpathy, reformulée et adaptée ici. Renvoyez les participants à l’original pour son traitement complet.