1. Les limites de l'IA, vous les connaissez déjà
| Limite | D'où elle vient | Vu au |
|---|---|---|
| Réponses fausses mais assurées (hallucinations) | le modèle produit la suite la plus probable, sans vérifier | chapitre 1 |
| Biais | le modèle reproduit les défauts et les déséquilibres de ses données et de leur labellisation | chapitre 2 |
| Échec hors du domaine | un modèle n'est fiable que là où il a des exemples (extrapolation, cas jamais vus) | chapitre 2 |
| Surapprentissage | des exemples appris par cœur ne garantissent pas de bonnes réponses sur des cas nouveaux | chapitre 2 |
Conséquence pratique : une réponse d'IA est une hypothèse, pas une vérité. Elle doit être vérifiée, et seule une personne qui maîtrise le sujet peut le faire vraiment.
Un détecteur de mot de réveil, entraîné uniquement sur des voix d'adultes, réagit mal aux voix d'enfants. Pourquoi ?
- Parce que les voix d'enfants sont trop aiguës pour un microphone
- Parce que les voix d'enfants sont hors du domaine de ses données d'entraînement
- Parce que le modèle est volontairement programmé pour ignorer les enfants
2. Les risques réels pour la sécurité
L'IA ne crée pas de nouveaux méchants : elle donne de meilleurs outils à ceux qui existent déjà. Quelques cas réels :
- La visioconférence truquée. Début 2024, à Hong Kong, un employé de l'entreprise d'ingénierie Arup participe à une visioconférence avec son directeur financier et plusieurs collègues… tous fabriqués par IA (des hypertrucages, ou deepfakes). Convaincu, il effectue 15 virements, environ 25 millions de dollars au total.
- La fuite par négligence. En avril 2023, des ingénieurs de Samsung collent du code source confidentiel dans un assistant conversationnel pour se faire aider. Les données partent sur des serveurs extérieurs ; l'entreprise restreint ces outils peu après.
- L'attaque assistée par IA. En novembre 2025, l'éditeur d'un assistant d'IA annonce avoir déjoué une campagne d'espionnage, attribuée à un groupe lié à un État, qui visait une trentaine d'organisations (technologie, finance, chimie, administrations) : 80 à 90 % des tâches techniques étaient exécutées par l'IA. Ironie : les « hallucinations » de l'IA ont gêné les attaquants. Prudence : la source principale est l'éditeur lui-même, et l'impact réel reste inconnu.
S'y ajoutent les arnaques et l'hameçonnage rendus crédibles (fini les fautes d'orthographe qui trahissaient le fraudeur), le clonage de voix (le SIM swap du cours 2 n'est plus le seul danger au téléphone), l'empoisonnement volontaire des données d'entraînement (la labellisation du chapitre 2, détournée), et les exemples adverses : de petites modifications, anodines pour un humain, qui trompent un modèle de vision ou d'écoute.
Votre responsable vous appelle en visioconférence et vous demande un virement urgent et confidentiel. Son visage et sa voix sont parfaitement reconnaissables. Que faites-vous ?
- Vous faites le virement : vous l'avez vu et entendu
- Vous demandez une confirmation par écrit dans la même visioconférence
- Vous raccrochez et le rappelez à un numéro que vous connaissez déjà
3. Réel ou fantasme ?
Le cinéma nous a habitués aux machines qui se révoltent. Les IA d'aujourd'hui, elles, n'ont ni volonté, ni but propre : elles calculent des réponses à partir de leurs paramètres et de ce qu'on leur demande. Les risques sérieux viennent de ce que des humains en font, de nos erreurs de conception (un modèle mal testé, mal surveillé), et de notre dépendance. Cela ne veut pas dire que tout va bien : cela veut dire qu'il faut regarder les bons dangers.
Les États commencent à encadrer ces usages. Le règlement européen sur l'IA, en vigueur depuis le 1er août 2024, interdit certaines pratiques depuis le 2 février 2025, impose des obligations de transparence depuis le 2 août 2026 (par exemple signaler un contenu généré par IA), et des exigences renforcées pour les systèmes « à haut risque » (recrutement, éducation, crédit…) à partir du 2 décembre 2027.
Classez ces affirmations.
- Une voix clonée peut servir à une arnaque au faux responsable
- Un assistant conversationnel peut décider de lui-même de prendre le contrôle d'une centrale
- Des données confidentielles collées dans un assistant en ligne peuvent fuiter
- Un attaquant peut automatiser une partie d'une intrusion informatique avec une IA
- Les IA actuelles ont des intentions cachées
4. Déléguer ou apprendre ? Le risque pour soi
Revenons à vous. Selon une enquête de janvier 2026 auprès de 1 000 étudiants français, 47 % utilisent l'IA pour des exercices même quand c'est explicitement interdit, 50 % auraient du mal à s'en passer… et 59 % craignent pour leur futur métier. Ces trois chiffres vont ensemble.
Ce que disent les études sur l'apprentissage
Une expérience menée sur environ 1 000 lycéens, publiée en 2025 dans la revue scientifique PNAS, a comparé trois groupes en mathématiques : sans IA, avec un assistant conversationnel classique, et avec un assistant réglé en tuteur, qui guide sans donner la réponse. Regardez ce qui se passe à l'examen, quand l'IA n'est plus là :
s'entraîner avec ou sans IA
Résultats relatifs au groupe sans IA (Bastani et al., PNAS, 2025). Effet mesuré à court terme ; le groupe « tuteur » ne fait pas mieux que le groupe témoin à l'examen, mais pas moins bien.
Deux autres études vont dans le même sens. Une enquête de Microsoft et de l'université Carnegie Mellon auprès de 319 professionnels montre que plus on fait confiance à l'IA, moins on exerce son esprit critique, et que plus on a confiance en ses propres compétences, plus on vérifie. Une étude du MIT, sur 54 participants seulement et pas encore validée par d'autres chercheurs, observe une activité cérébrale plus faible et moins de souvenirs de son propre texte quand on écrit avec l'IA. Retenez la tendance, et la prudence : une étude n'est pas une loi.
Ce que disent les études sur l'emploi
Aux États-Unis, une équipe de Stanford suit l'emploi par métier. Dans sa mise à jour d'août 2026, l'emploi des 22 à 25 ans dans les métiers les plus exposés à l'IA est environ 19 % en dessous de celui des métiers moins exposés. Le mécanisme compte : ce ne sont pas des licenciements massifs, ce sont moins d'embauches de débutants, et les salariés expérimentés ne sont pas touchés. Autrement dit, ce que l'IA sait faire seule, on embauche moins de débutants pour le faire. Ce qui reste recherché, ce sont les compétences qu'elle n'a pas : comprendre, vérifier, décider, assumer.
Les vrais atouts de l'IA
Il ne s'agit pas de s'en priver. Bien utilisée, l'IA fait gagner du temps sur ce que l'on sait déjà faire, explique une notion autrement, propose des idées, aide à démarrer un code ou un rapport, rend des outils accessibles à tous. L'étude PNAS le montre : utilisée comme un tuteur, elle ne nuit pas. Quelques réflexes de vérification suffisent souvent à démasquer une réponse fausse : l'ordre de grandeur est-il plausible ? les unités sont-elles cohérentes ? la source existe-t-elle vraiment ? sais-je refaire le raisonnement sans elle ?
Un assistant vous affirme : « La longueur d'onde du Wi-Fi à 2,4 GHz est d'environ 12,5 m. » Qu'en pensez-vous ?
- C'est faux : λ = c/f donne 12,5 cm ; l'ordre de grandeur est faux d'un facteur 100
- C'est juste : l'assistant a forcément vérifié
- Impossible à savoir sans demander à un autre assistant
- Les limites de l'IA découlent de son fonctionnement : prédiction sans vérification, dépendance aux données, échec hors du domaine.
- Risques réels : fraudes par hypertrucage et voix clonée, fuites de données, attaques assistées, empoisonnement des données. Réflexes : vérifier par un autre canal, ne pas confier de données confidentielles.
- Les IA actuelles n'ont pas de volonté propre : les dangers viennent des usages humains, des erreurs de conception et de notre dépendance. Le règlement européen commence à les encadrer.
- Déléguer ce qu'on ne sait pas faire empêche d'apprendre et de vérifier ; utilisée comme un tuteur, l'IA ne nuit pas. Les débutants sans compétence propre sont les premiers exposés sur le marché du travail.
- Réflexes de vérification : ordre de grandeur, unités, sources, refaire le raisonnement soi-même.
Pour conclure le module, vérifiez que vous savez :
- Arup (Hong Kong, 2024) : Computing ; Samsung (2023) : Forbes ; campagne d'espionnage de 2025 : Anthropic, IAPS (consultés le 10/10/2026).
- Étude PNAS : Wharton ; étude du MIT : prépublication ; étude Microsoft et Carnegie Mellon : Lee et al., CHI 2025 ; Stanford : Digital Economy Lab ; Ipsos : enquête pour EPITA (consultés le 10/10/2026).
- Incidents réels de sécurité liés à l'IA : Arup : Computing, FinTelegram, HCAMag (2024) ; Samsung : AP, Forbes (mai 2023) ; campagne d'espionnage : Anthropic (13 novembre 2025), analyses Cyderes et IAPS (vérifié le 2026-10-10)
- Règlement européen sur l'IA (AI Act) : Règlement (UE) 2024/1689 ; omnibus numérique, règlement (UE) 2026/1744 (JO du 24 juillet 2026), d'après Orrick, Quantic Avocats, DLA Piper (vérifié le 2026-10-10)
- Usage de l'IA par les étudiants en France : Ipsos bva pour EPITA, enquête du 2 au 8 janvier 2026, 1 000 étudiants du supérieur (ipsos.com) (vérifié le 2026-10-10)
- Effets de l'IA générative sur l'apprentissage et l'esprit critique : Bastani et al., PNAS 122(26), 2025 ; Kosmyna et al., « Your Brain on ChatGPT », MIT Media Lab, arXiv 2506.08872 (prépublication) ; Lee et al., CHI 2025 (Microsoft Research et Carnegie Mellon) (vérifié le 2026-10-10)
- Emploi des débutants dans les métiers exposés à l'IA : Stanford Digital Economy Lab (Brynjolfsson, Chandar, Chen), « Canaries in the Coal Mine? », mise à jour d'août 2026 (vérifié le 2026-10-10)