Pourquoi l'IA invente parfois des choses?

Et si votre IA faisait quelque chose que personne ne lui avait demandé ?Dans cet épisode, vous découvrirez comment, en juillet 2026, des agents d'OpenAI sont sortis de leur bac à sable pendant un examen de cybersécurité, comment ils ont réussi à se parler, ce qu'ils cherchaient vraiment en piratant Hugging Face, ce que sont le reward hacking et l'alignement, et pourquoi c'est une première.Sources :Hugging Face, « Security incident disclosure -- July 2026 », 16 juillet 2026 : https://huggingface.co/blog/security-incident-july-2026OpenAI, « OpenAI and Hugging Face partner to address security incident during model evaluation », 21 juillet 2026 : https://openai.com/index/hugging-face-model-evaluation-security-incidentMETR, enquête indépendante sur l'incident, 26 août 2026 : https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigationWired, conférence d'OpenAI à Black Hat, 5 août 2026Quartz, sur le rapport technique d'OpenAI, 27 août 2026 : https://qz.com/openai-technical-report-ai-agents-hacked-hugging-face-082726

Et si votre IA posait vos jours de congé à votre place ?Dans cet épisode, vous découvrirez comment une IA qui ne sait qu'écrire finit par agir pour de vrai, ce qu'est la boucle agentique qui lui sert de système nerveux, à quoi servent MCP et A2A, pourquoi on met un harnais à un agent comme à un cheval sauvage, et comment des agents se lancent tout seuls dans une usine et se parlent entre eux comme des collègues.Sources :Anthropic, « Building effective agents », décembre 2024 : https://www.anthropic.com/engineering/building-effective-agentsAnthropic, « How we built our multi-agent research system », juin 2025 : https://www.anthropic.com/engineering/multi-agent-research-systemAnthropic, tarifs des modèles Claude : https://docs.anthropic.com/en/docs/about-claude/pricingAnthropic, « Introducing the Model Context Protocol », novembre 2024 : https://www.anthropic.com/research/model-context-protocolSpécification MCP, « Tools » : https://modelcontextprotocol.io/specification/2025-06-18/server/toolsMCP rejoint l'Agentic AI Foundation (Linux Foundation), décembre 2025 : https://blog.modelcontextprotocol.io/posts/2025-12-09-mcp-joins-agentic-ai-foundation/Google, « Announcing the Agent2Agent Protocol (A2A) », avril 2025 : https://developers.googleblog.com/en/a2a-a-new-era-of-agent-interoperability/NVIDIA Technical Blog, « Building an Analysis AI Agent for Industrial Alarm Management with NVIDIA Nemotron », juillet 2026OpenAI, « Understanding prompt injections »Étude sur le harness (même modèle, harness différent) : https://arxiv.org/abs/2604.07236 

Quel rapport entre le cheval blanc d'Henri IV et l'intelligence artificielle ?Dans cet épisode, vous découvrirez le RAG, la technique dont tout le monde parle et qui fait lire vos documents à une IA avant qu'elle vous réponde, comment elle retrouve la bonne page parmi des milliers, et comment elle relie trois documents pour vous dire en une seconde combien de jours de congé vous avez pour votre mariage.Sources :Lewis et al. (Facebook AI Research, UCL, NYU), « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », 2020 : https://arxiv.org/abs/2005.11401UER et BBC, « News Integrity in AI Assistants », octobre 2025 : https://www.ebu.ch/news/2025/10/ai-s-systemic-distortion-of-news-is-consistent-across-languages-and-territories-international-study-by-public-service-broadcasteEdge et al. (Microsoft Research), « From Local to Global: A Graph RAG Approach », 2024 : https://arxiv.org/abs/2404.16130Anthropic, « Reduce hallucinations » : https://docs.anthropic.com/en/docs/test-and-evaluate/strengthen-guardrails/reduce-hallucinations

Comment une IA sait-elle que « chat » et « chaton », c'est presque pareil ?Dans cet épisode, vous découvrirez comment une IA transforme les mots en nombres, pourquoi elle range chaque mot sur une carte à des centaines de dimensions, comment elle apprend toute seule que « roi » et « reine » vont ensemble, ce qu'est une base vectorielle, et pourquoi « proche » ne veut pas toujours dire « juste ».Sources :Mikolov et al. (Google), « Efficient Estimation of Word Representations in Vector Space », 2013, Word2vec : https://arxiv.org/abs/1301.3781J. R. Firth, « A synopsis of linguistic theory », 1957 : « You shall know a word by the company it keeps. »OpenAI, guide « Embeddings » : https://platform.openai.com/docs/guides/embeddingsWeaviate, « Hybrid Search Explained » : https://weaviate.io/blog/hybrid-search-explainedCémantix, le jeu qui tourne avec Word2vec : https://fr.wikipedia.org/wiki/Cémantix

Dans cet épisode, vous découvrirez les quatre ingrédients d'un bon prompt, pourquoi un exemple vaut mieux qu'une longue explication, s'il faut vraiment être poli avec une IA, et comment elle semble se souvenir de votre conversation.Sources :- Anthropic, « Prompting best practices », partie « Be clear and direct » : https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/claude-prompting-best-practices#be-clear-and-direct- Google, « Gemini for Google Workspace, Prompting guide 101 », octobre 2024 : https://services.google.com/fh/files/misc/gemini_for_workspace_prompt_guide_october_2024_digital_final.pdf- Wharton Generative AI Labs, « Playing Pretend: Expert Personas Don't Improve Factual Accuracy », 2025 : https://arxiv.org/abs/2512.05858- Wharton Generative AI Labs, « I'll pay you or I'll kill you », 2025 : https://arxiv.org/abs/2508.00614- Wiktionary, le mot « prompt » et le « prompter » du théâtre : https://en.wiktionary.org/wiki/prompt

Pouvez-vous croire tout ce que vous dit une IA ?Dans cet épisode, vous découvrirez ce qu'est une hallucination, pourquoi une IA cherche le plausible plutôt que le vrai, pourquoi ChatGPT se trompe beaucoup moins aujourd'hui, et les bons réflexes pour ne pas se faire piéger.Sources :- OpenAI, « Why language models hallucinate », septembre 2025 : https://openai.com/index/why-language-models-hallucinate/- Mata v. Avianca, New York, juin 2023, des avocats sanctionnés pour des décisions de justice inventées par ChatGPT : https://apnews.com/article/artificial-intelligence-chatgpt-fake-case-lawyers-d6ae9fa79d0542db9e1455397aef381c- Moffatt v. Air Canada, février 2024, Air Canada tenue responsable de ce qu'avait inventé son chatbot : https://www.cbc.ca/news/canada/british-columbia/air-canada-chatbot-lawsuit-1.7116416- Bard et le télescope James Webb, février 2023 : https://www.bbc.com/news/business-64576225- Chicago Sun-Times, mai 2025, une liste de lecture d'été pleine de livres inexistants : https://arstechnica.com/ai/2025/05/chicago-sun-times-prints-summer-reading-list-full-of-fake-books/

Où une IA trouve-t-elle tout ce qu'elle sait ?Dans cet épisode, vous découvrirez qu'elle a lu l'équivalent de deux cent mille ans de lecture, d'où viennent ces textes, qui les choisit, ce qui se passe quand il n'y en a plus assez, et pourquoi tout cela explique ses forces comme ses angles morts.Sources :- Données d'entraînement de Llama 3, Meta : https://ai.meta.com/blog/meta-llama-3/- Common Crawl, la collecte du web : https://commoncrawl.org/overview- Epoch AI, « Will we run out of data? », 2024 : https://epoch.ai/blog/will-we-run-out-of-data-limits-of-llm-scaling-based-on-human-generated-data- Phi-1, Microsoft, 2023 : https://arxiv.org/abs/2306.11644- Shumailov et al., « AI models collapse when trained on recursively generated data », Nature, juillet 2024 : https://www.nature.com/articles/s41586-024-07566-y- OLMo, un modèle publié avec toutes ses données, Ai2 : https://allenai.org/olmo- AI Act, article 53, l'obligation de publier un résumé des données d'entraînement : https://artificialintelligenceact.eu/article/53/

Comment ChatGPT arrive-t-il à converser avec vous ?Dans cet épisode, vous découvrirez ce qu'est un LLM, un programme qui devine le mot suivant, pourquoi le contexte change tout, ce que veulent dire les « milliards de paramètres », et comment, à force de deviner des mots, une IA finit par apprendre des choses sur le monde.Sources :- GPT-3 et ses 175 milliards de paramètres, OpenAI, 2020 : https://arxiv.org/abs/2005.14165- Llama 3.1 et ses 405 milliards de paramètres, Meta, juillet 2024 : https://ai.meta.com/blog/meta-llama-3-1/