Guide du professeur — Session 6 🟢

« L’IA et l’éthique »

Programme : Applied AI — Niveau Débutant (dès 12 ans, grand public) Instructeur : Yann Isola Durée conseillée : 2 h (adaptable 1 h 30 – 2 h 30) Prérequis : Sessions 1 à 5 (notions : IA, apprentissage automatique, données, IA générative, deepfakes)

1. Objectifs pédagogiques

À la fin de la session, chaque participant doit être capable de :

Expliquer avec ses propres mots pourquoi une IA peut être biaisée (« l’IA apprend des données ; si les données sont biaisées, l’IA sera biaisée »).
Citer au moins 3 exemples concrets de biais dans l’IA (reconnaissance faciale, recrutement, publicité ciblée).
Décrire d’où viennent les données qui entraînent les IA — souvent de nous ! — et nommer 4 types de données personnelles collectées.
Expliquer ce qu’est le consentement et ce que le RGPD (Règlement Général sur la Protection des Données) garantit en Europe.
Définir le problème de la « boîte noire » et expliquer pourquoi la transparence est cruciale (santé, justice, banque).
Débattre de la question de la responsabilité (ex. : voiture autonome) en distinguant les différents acteurs possibles.
Situer l’impact environnemental de l’IA (énergie, eau, CO2) avec des ordres de grandeur. ⚠
Nuancer le rapport IA/travail : métiers transformés, métiers menacés, métiers créés — l’IA comme outil, pas comme remplaçant.
Citer l’AI Act européen ⚠ et ses 4 niveaux de risque (inacceptable, haut, limité, minimal).
Participer à un débat structuré (« tribunal de l’IA ») en argumentant une position, même si ce n’est pas la sienne.

⚠ Contenu volatile : les chiffres de consommation énergétique, l’état d’application de l’AI Act, et les exemples d’actualité évoluent. Vérifiez avant chaque session (15 min de veille). Les sections marquées ⚠ sont à re-vérifier en priorité.

2. Vue d’ensemble et fil rouge

Fil rouge de la session : « L’IA n’est ni gentille ni méchante : c’est un miroir. Elle reflète nos données, nos choix… et nos défauts. Aujourd’hui, on apprend à regarder dans ce miroir avec un œil critique. »

C’est LA session citoyenne du programme. Pas de technique nouvelle : on mobilise tout ce qui a été vu (données, apprentissage, génération) pour poser la question « est-ce bien ? est-ce juste ? qui décide ? ». Le moment fort est le Tribunal de l’IA : un débat théâtralisé où les participants plaident pour ou contre un usage de l’IA.

Posture du prof — règle d’or : sur les dilemmes éthiques, vous n’imposez jamais LA bonne réponse. Vous animez, vous relancez, vous exigez des arguments. Beaucoup de questions de cette session n’ont pas de réponse unique — et c’est exactement ce qu’il faut que les participants ressentent.

Déroulé minuté (base 2 h)

Temps	Séquence	Format
0:00 – 0:10	Accroche : « L’IA peut-elle être injuste ? »	Discussion
0:10 – 0:30	Les biais : d’où viennent-ils ? Exemples réels	Exposé + simulateur de biais (page web)
0:30 – 0:45	Vie privée & consentement : nos données, le RGPD	Exposé + vérificateur de vie privée (page web)
0:45 – 0:55	La boîte noire : transparence et confiance	Exposé + discussion
0:55 – 1:05	Pause	—
1:05 – 1:15	Responsabilité : le cas de la voiture autonome	Mini-débat éclair
1:15 – 1:25	Environnement + travail : les deux impacts	Exposé ⚠
1:25 – 1:35	Les lois : RGPD + AI Act, les 4 niveaux de risque ⚠	Exposé
1:35 – 1:55	Activité : le Tribunal de l’IA (exercice 3)	Débat structuré + cartes dilemmes (page web)
1:55 – 2:00	Synthèse + quiz (ou quiz à la maison)	Quiz

3. Contenu détaillé, séquence par séquence

3.1 Accroche (10 min) — « L’IA peut-elle être injuste ? »

Lancez avec une histoire vraie, racontée simplement :

« Une grande entreprise a construit une IA pour trier les CV et trouver les meilleurs candidats. Après quelques mois, on a découvert un problème : l’IA écartait presque systématiquement les CV de femmes. Personne ne lui avait dit de faire ça. Alors… d’où venait le problème ? »

Laissez chercher. Réponses attendues (à faire émerger) :

« Elle a appris sur d’anciens CV » — c’est exactement ça
« Quelqu’un l’a programmée méchamment » ❌ — non, personne n’a codé « rejette les femmes »
« Elle est bête » — partiellement : elle ne comprend pas, elle imite

Révélez la clé de la session : l’entreprise avait recruté surtout des hommes pendant 10 ans. L’IA, entraînée sur ces données historiques, en a déduit que « bon candidat = profil masculin ». Elle a même appris à pénaliser des mots comme « équipe féminine de… ».

💡 Phrase à retenir de la session : « Une IA n’est jamais plus juste que les données qui l’ont nourrie. »

Piège pédagogique à éviter : ne pas transformer la session en « l’IA c’est le mal ». Le message est : l’IA est un outil puissant ; comme tout outil puissant, il faut des règles, de la vigilance et des citoyens qui comprennent.

3.2 Les biais dans l’IA (20 min)

Le mécanisme (à expliquer avec l’analogie du cuisinier)

« Imaginez un apprenti cuisinier qui apprend uniquement en regardant un seul chef. Si ce chef sale trop ses plats, l’apprenti salera trop aussi — sans jamais se demander si c’est bon. L’IA, c’est cet apprenti : elle reproduit ce qu’on lui montre, y compris les défauts. »

Chaîne logique à écrire au tableau :

Monde imparfait → données imparfaites → IA qui apprend ces imperfections → décisions imparfaites… à grande échelle et très vite.

Le point crucial : le biais n’est pas une « panne ». L’IA fonctionne parfaitement — elle reproduit fidèlement ce qu’elle a vu. C’est ça qui est piégeux.

Trois exemples réels à raconter

Reconnaissance faciale : des études (notamment celle de la chercheuse Joy Buolamwini au MIT) ont montré que certains systèmes de reconnaissance faciale se trompaient beaucoup plus souvent sur les visages de femmes à peau foncée que sur les visages d’hommes à peau claire — parfois moins de 1 % d’erreur pour les uns, plus de 30 % pour les autres. Pourquoi ? Les photos d’entraînement contenaient surtout des visages d’hommes clairs de peau. Conséquences réelles : des personnes innocentes ont été arrêtées à cause d’une mauvaise identification.
Recrutement : l’exemple de l’accroche (le trieur de CV qui défavorisait les femmes). L’entreprise a fini par abandonner l’outil.
Publicité ciblée : des études ont montré que des annonces pour des emplois bien payés (dirigeants, ingénieurs) étaient montrées plus souvent aux hommes qu’aux femmes ; ou que des publicités pour des crédits coûteux ciblaient davantage certains quartiers. L’algorithme reproduit et amplifie des stéréotypes existants.

Démo : le simulateur de biais (page web, onglet 1)

Ouvrez webpage/index.html, onglet « Simulateur de biais ». Les participants entraînent une mini-IA de tri de candidatures en choisissant les données d’entraînement (équilibrées ou déséquilibrées) et observent en direct comment les prédictions deviennent injustes.

Script d’animation :

Premier passage : données équilibrées → l’IA sélectionne selon les compétences. Tout va bien.
Deuxième passage : données déséquilibrées (historique 90 % étoiles) → l’IA se met à favoriser les étoiles même moins compétentes.
Question au groupe : « L’IA a-t-elle changé ? Non. Qu’est-ce qui a changé ? Les données. »

Questions de relance :

« Qui choisit les données d’entraînement ? » (des humains — donc des choix humains)
« Comment corriger ? » (données plus diverses, tests réguliers, équipes variées, audits)

Nuance importante à donner

Les biais peuvent être corrigés — pas parfaitement, mais beaucoup : diversifier les données, tester l’IA sur tous les groupes, avoir des équipes de conception diverses, faire auditer les systèmes. C’est un métier qui se développe (voir séquence travail).

3.3 Vie privée et consentement (15 min)

D’où viennent les données ? Souvent… de nous !

Question au groupe : « Selon vous, avec quoi a-t-on entraîné les IA qui reconnaissent des visages, écrivent des textes, recommandent des vidéos ? »

Faites la liste ensemble :

📸 Nos photos publiées sur les réseaux sociaux
✍️ Nos textes : posts, commentaires, avis, blogs
🔍 Nos recherches sur internet
👆 Nos clics et notre temps de visionnage (ce qu’on regarde, combien de temps, ce qu’on ignore)
📍 Notre position (GPS du téléphone)
🎤 Parfois notre voix (assistants vocaux)

💡 Formule choc : « Si c’est gratuit, c’est souvent que vos données sont le paiement. » (À nuancer : ce n’est pas toujours vrai, mais c’est un bon réflexe de questionnement.)

Le consentement

Question clé : « Vous a-t-on demandé la permission ? »

En théorie oui : les fameuses « conditions générales d’utilisation » qu’on accepte… sans les lire. Fait amusant : les lire entièrement pour tous nos services prendrait des semaines par an.
En pratique : le consentement est souvent flou, caché, ou « tout ou rien » (accepte ou n’utilise pas le service).

Le RGPD — notre bouclier européen

RGPD = Règlement Général sur la Protection des Données (en vigueur en Europe depuis 2018). À présenter comme une liste de droits concrets :

Droit	En clair
Droit d’accès	« Montrez-moi les données que vous avez sur moi »
Droit de rectification	« Corrigez ce qui est faux »
Droit à l’effacement	« Supprimez mes données » (le « droit à l’oubli »)
Consentement explicite	On doit me demander clairement, pas me piéger
Consentement des mineurs	Avant 15 ans (en France), accord des parents nécessaire pour beaucoup de services

Les entreprises qui ne respectent pas le RGPD risquent des amendes énormes (jusqu’à 4 % de leur chiffre d’affaires mondial). En France, le gendarme des données s’appelle la CNIL (Commission Nationale de l’Informatique et des Libertés).

Démo : le vérificateur de vie privée (page web, onglet 2)

Ouvrez l’onglet « Vérificateur de vie privée ». Chaque participant coche ce qui correspond à son propre téléphone (applis installées, autorisations accordées). La page calcule un « profil d’exposition » et donne des conseils concrets. Pas de culpabilisation : l’objectif est la prise de conscience, pas la peur. C’est aussi la base de l’exercice 2 (audit à la maison).

3.4 La transparence : le problème de la « boîte noire » (10 min)

L’image à utiliser

« Imaginez un distributeur automatique bizarre : vous insérez votre dossier, une lumière clignote, et il sort un papier “REFUSÉ”. Vous demandez pourquoi. La machine ne répond pas. Personne — même pas ses fabricants — ne peut expliquer précisément pourquoi. C’est ça, une boîte noire. »

Pourquoi c’est le cas techniquement (version simple) : les grosses IA modernes font leurs calculs à travers des millions (ou milliards) de « réglages internes » ajustés automatiquement pendant l’apprentissage. Aucun humain n’a écrit de règle du type « si X alors refuse ». Le résultat marche souvent très bien… mais l’explication précise de chaque décision est très difficile à donner.

Pourquoi c’est grave dans certains domaines

Posez la question : « Dans quels cas est-ce qu’on a VRAIMENT besoin de savoir pourquoi ? »

🏥 Santé : « L’IA dit que vous n’avez pas besoin de ce traitement. » Pourquoi ? Un médecin doit pouvoir vérifier.
⚖️ Justice : dans certains pays, des IA aident à évaluer le « risque de récidive ». Décider de la liberté de quelqu’un sans explication ? Inacceptable.
🏦 Banque : « Crédit refusé. » Sans raison, impossible de contester ou de corriger sa situation.

Le principe qui en découle (et qu’on retrouve dans les lois) : plus une décision a d’impact sur une vie humaine, plus on doit exiger d’explication et de contrôle humain. On appelle « IA explicable » le domaine de recherche qui essaie d’ouvrir la boîte noire.

3.5 La responsabilité : qui est coupable ? (10 min)

Le mini-débat éclair de la voiture autonome

Scénario à présenter : « Une voiture autonome, en mode conduite automatique, ne détecte pas un piéton et cause un accident. Qui est responsable ? »

Faites voter à main levée entre :

🧑 Le “conducteur” (il était au volant, devait-il surveiller ?)
🏭 Le constructeur (c’est son logiciel qui a échoué)
💻 Les développeurs de l’IA (ils ont écrit le code)
🤖 L’IA elle-même (piège : une IA n’est pas une personne juridique — elle ne peut être ni jugée ni punie)
🏛️ L’État (il a autorisé ces voitures sur la route)

Points à faire émerger :

L’IA ne peut pas être responsable : pas de conscience, pas de patrimoine, pas de personnalité juridique. La responsabilité est toujours humaine ou d’entreprise.
La réponse dépend du niveau d’autonomie promis : si le constructeur dit « gardez les mains sur le volant », le conducteur garde une part de responsabilité ; s’il vend une autonomie totale, la responsabilité glisse vers lui.
C’est un chantier juridique en cours dans le monde entier ⚠ — les lois s’écrivent en ce moment même. Vos participants voteront un jour sur ces sujets !

💡 Parallèle simple : si un chien mord quelqu’un, on ne juge pas le chien — on se tourne vers le maître. Pour l’IA : on se tourne vers ceux qui la conçoivent, la vendent et l’utilisent.

3.6 L’impact environnemental (5–7 min) ⚠

Chiffres d’ordre de grandeur (à vérifier avant la session, ils évoluent vite ⚠) :

Entraîner un très grand modèle d’IA peut consommer autant d’électricité que des centaines de foyers pendant un an, avec des émissions de CO2 comparables à plusieurs vols transatlantiques (certaines estimations parlent de dizaines à centaines de tonnes de CO2 pour un seul entraînement). ⚠
Utiliser l’IA compte aussi : une requête à un gros modèle génératif consomme sensiblement plus d’énergie qu’une recherche web classique. Multiplié par des milliards de requêtes par jour… ⚠
L’eau : les centres de données doivent être refroidis, souvent avec de l’eau. ⚠

À nuancer (toujours les deux faces) :

Les acteurs travaillent sur des modèles plus sobres et des centres de données alimentés en énergies renouvelables. ⚠
L’IA peut aussi aider l’environnement : optimiser les réseaux électriques, prévoir la météo, surveiller la déforestation, améliorer l’agriculture.

Question de discussion : « Est-ce que ça vaut le coup d’utiliser une grosse IA pour générer un mème rigolo ? Et pour aider à découvrir un médicament ? Où met-on le curseur ? » (Pas de bonne réponse — c’est un arbitrage.)

3.7 Le travail et l’automatisation (5–7 min)

Structure en trois colonnes au tableau :

🔄 Métiers transformés	⚠️ Tâches menacées	✨ Métiers qui apparaissent
Médecin (aidé au diagnostic)	Saisie de données répétitive	Spécialiste des instructions à l’IA (« prompt ») ⚠
Graphiste (outils génératifs)	Traduction basique	Auditeur d’algorithmes / testeur de biais
Prof (supports personnalisés)	Tri de documents standard	Délégué à la protection des données (métier créé par le RGPD !)
Développeur (assistants de code)	Réponses clients très simples	Éthicien de l’IA

Messages clés :

L’histoire se répète : l’ordinateur a fait disparaître des métiers (dactylo) et en a créé bien plus (tout le numérique). L’IA suivra probablement un chemin comparable — mais plus vite, ce qui rend la formation continue cruciale.
La bonne formule : « L’IA ne va probablement pas prendre votre métier. Mais quelqu’un qui sait utiliser l’IA pourrait le transformer. » D’où l’intérêt… de ce cours 😉.
L’IA comme outil, pas comme remplaçant : dans la plupart des métiers, l’IA enlève les tâches répétitives et laisse à l’humain le jugement, la relation, la créativité, la responsabilité.

3.8 Les règles et les lois : l’AI Act (10 min) ⚠

L’Europe a adopté en 2024 ⚠ la première grande loi au monde spécifiquement sur l’IA : l’AI Act (« loi sur l’IA »). Son application se déploie progressivement sur plusieurs années ⚠. Idée géniale à retenir : classer les usages de l’IA par niveau de risque — comme une pyramide.

La pyramide des risques (à dessiner au tableau)

Niveau	Exemples	Règle
🔴 Inacceptable	Notation sociale généralisée des citoyens, manipulation des personnes vulnérables, certaines surveillances biométriques de masse	INTERDIT
🟠 Haut risque	IA pour le recrutement, le crédit bancaire, la justice, les examens, les dispositifs médicaux	Autorisé sous conditions strictes : tests, transparence, contrôle humain, documentation
🟡 Risque limité	Chatbots, images générées, deepfakes	Obligation de transparence : dire clairement que c’est une IA / un contenu généré
🟢 Risque minimal	Filtre anti-spam, IA de jeu vidéo, recommandations basiques	Libre (bonnes pratiques encouragées)

Astuce mémoire : plus l’IA touche à la vie des gens (liberté, argent, santé, éducation), plus elle monte dans la pyramide.

Faites deviner : donnez des exemples et demandez au groupe de les classer. (« Une IA qui note vos copies au bac ? » → haut risque. « Une IA qui vous propose une playlist ? » → minimal. « Un gouvernement qui donne des points de bon citoyen ? » → inacceptable.)

Rappel du duo réglementaire européen : RGPD = protège les données ; AI Act = encadre les usages de l’IA. Ils se complètent.

3.9 Activité phare : le Tribunal de l’IA (20 min)

Objectif : vivre un vrai débat éthique structuré, argumenter une position imposée (pas forcément la sienne — c’est le meilleur exercice d’esprit critique qui existe).

Le cas à juger (recommandé) : « Le collège Jules-Verne veut utiliser une IA pour noter les copies et prédire les résultats des élèves. Faut-il l’autoriser ? »

(Cas alternatifs dans l’onglet « Dilemmes » de la page web : caméras à reconnaissance faciale au collège, IA médicale sans médecin, chatbot ami virtuel…)

Organisation (structure de tribunal)

Répartir les rôles (2 min) :
- ⚖️ Un·e ou trois juges (dont le prof si groupe jeune)
- 🟢 Équipe défense (pour l’IA de notation) : 3–5 personnes
- 🔴 Équipe accusation (contre) : 3–5 personnes
- 👥 Le reste : jury (vote à la fin)
Préparation (5 min) : chaque équipe prépare 3 arguments. Distribuer les fiches d’aide (exercice 3).
Plaidoiries (2 min par équipe, chronométrées) : défense, puis accusation.
Droit de réponse (1 min chacune).
Questions du jury (3 min).
Vote du jury + verdict motivé des juges (3 min). Utilisez l’onglet « Dilemmes » de la page web pour faire voter et afficher les résultats.
Débrief (3 min) — le plus important : « Qu’est-ce qui était difficile ? Avez-vous changé d’avis ? Que faudrait-il comme garanties pour que ce soit acceptable ? »

Arguments que les équipes peuvent trouver (pour vous aider à relancer)

Défense (pour) : notation plus rapide, mêmes critères pour tous (pas de prof fatigué ou de tête du client), détection précoce des élèves en difficulté, profs libérés pour accompagner.

Accusation (contre) : biais possibles (l’IA apprend d’anciennes notes… déjà biaisées ?), boîte noire (comment contester sa note ?), données sensibles d’enfants (RGPD !), prédiction = étiquette qui enferme (« l’IA a dit que tu échoueras »), l’AI Act classe l’éducation en haut risque.

Le twist final à révéler au débrief : ce cas n’est pas de la science-fiction. Des systèmes de notation automatique ont déjà été utilisés — et contestés. Au Royaume-Uni en 2020, un algorithme avait attribué les notes d’examens finaux annulés (Covid) : il avait défavorisé les élèves des lycées défavorisés, provoqué des manifestations (« F*** the algorithm ! ») et fini abandonné. La vraie vie a déjà jugé ce procès.

3.10 Synthèse et quiz (5 min)

Les 5 idées à faire reformuler par les participants :

Une IA n’est jamais plus juste que ses données (biais).
Nos données valent de l’or ; le RGPD nous donne des droits dessus.
Plus une décision d’IA impacte une vie, plus on doit exiger transparence et contrôle humain.
La responsabilité est toujours humaine — jamais celle de l’IA.
L’AI Act classe les IA par niveau de risque : du interdit 🔴 au libre 🟢.

Quiz (10 questions) en classe ou à la maison. Corrigé commenté dans quiz/quiz.md.

4. Matériel et préparation

Vidéoprojecteur + slides/slides.md
Page web webpage/index.html testée (fonctionne hors ligne, aucun compte requis)
Fiches du Tribunal imprimées (exercice 3) ou affichées
⚠ Veille 15 min : état de l’AI Act, chiffres énergie récents, exemple d’actualité frais (il y en a toujours un !)
Un exemple d’actualité local/récent pour l’accroche si possible

5. Adaptations

Public 12–14 ans : privilégier les exemples école/téléphone/réseaux sociaux ; simplifier l’AI Act à « interdit / très surveillé / doit prévenir / libre » ; Tribunal en version courte (plaidoiries d’1 min).
Public adulte : creuser RGPD (droits concrets, CNIL, comment exercer un droit d’accès), IA au travail (droits des salariés, IA et RH = haut risque), et l’actualité réglementaire ⚠.
1 h 30 : couper le mini-débat voiture autonome (le mentionner en 2 min) et réduire le Tribunal à 15 min.
2 h 30 : faire deux procès (deux cas différents) en inversant les rôles — spectaculaire pour montrer qu’on peut argumenter les deux camps.

6. Pièges et questions difficiles

Question piège	Réponse suggérée
« Donc l’IA est raciste/sexiste ? »	L’IA n’a ni opinion ni intention. Elle reflète les biais présents dans ses données et chez ses concepteurs. Le mot juste est « biaisée », et ça se mesure et se corrige — c’est notre responsabilité.
« À quoi bon le RGPD si les géants font ce qu’ils veulent ? »	Ils ont déjà payé des amendes de plusieurs centaines de millions, voire milliards d’euros ⚠, et modifié leurs pratiques en Europe. Imparfait, mais loin d’être inutile — l’Europe a inspiré des lois similaires ailleurs.
« L’IA va prendre tous les jobs, non ? »	Personne ne le sait avec certitude. L’histoire des technologies suggère transformation plutôt que disparition — mais plus rapide cette fois. La meilleure protection : comprendre et savoir utiliser ces outils.
« Pourquoi ne pas tout interdire, ce serait plus simple ? »	Interdire tout, c’est aussi renoncer aux bénéfices (santé, accessibilité, science) et laisser d’autres pays décider des règles à notre place. Tout l’enjeu est le tri : c’est la logique de la pyramide de l’AI Act.
« Une IA peut-elle aller en prison ? »	Non. Pas de personnalité juridique, pas de conscience, pas de corps. On juge les humains et entreprises derrière elle.

7. Pour aller plus loin (prof)

Documentaire Coded Bias (sur les travaux de Joy Buolamwini) — sous-titres FR disponibles.
Site de la CNIL : ressources pédagogiques gratuites sur les données personnelles, très adaptées aux jeunes.
Texte de l’AI Act vulgarisé (résumés officiels de la Commission européenne). ⚠
L’affaire des notes au Royaume-Uni (2020) : chercher « Ofqual algorithm 2020 » — parfait pour préparer le débrief du Tribunal.