Databricks utilise Excel comme data source

dbt 2 arrive avec des changements majeurs. Et ce n’est pas juste une question de performances.Pendant longtemps, dbt reposait sur une mécanique relativement simple : du Jinja, du SQL, un moteur Python et un data warehouse chargé de valider les requêtes.Avec dbt 2, c’est une évolution beaucoup plus profonde qui se dessine.Dans ce nouvel épisode court de DataWatch, je décrypte les 5 nouveautés les plus importantes de dbt 2, avec un angle très concret : ce qui change réellement pour les Data Engineers, les architectures data et les pipelines CI/CD.Au programme : une observabilité native avec OpenTelemetry, une documentation repensée autour de DuckDB-Wasm, un moteur réécrit en Rust et des métadonnées désormais exploitables en Parquet.Mais le changement le plus structurant est peut-être ailleurs : dbt commence à comprendre le SQL qu’il génère.Et ça change beaucoup de choses. Détecter des erreurs avant d'interroger le data warehouse, réduire la consommation de compute, fiabiliser les transformations et renforcer les contrôles de gouvernance deviennent des possibilités concrètes.Au-delà des gains de vitesse, c'est toute la façon de développer, tester et exploiter des projets dbt qui évolue.En moins de 3 minutes, on fait le tour des 5 annonces à retenir, sans hype inutile, avec leurs impacts techniques.Et vous, quelle nouveauté de dbt 2 vous semble la plus importante ? Le moteur Rust, la compréhension SQL ou le nouveau format des métadonnées ?Chapitres00:00 Introduction — Le top 5 de dbt 200:06 #5 — Observabilité native avec OpenTelemetry00:43 #4 — dbt Docs réinventé avec DuckDB-Wasm01:27 #3 — Un nouveau moteur en Rust01:55 #2 — dbt Information Schema en Parquet02:41 #1 — La compréhension SQL native#dbt #DataEngineering #DataWatch #dbtFusion #SQL

Automatiser la lecture de JSON avec Cortex + dbt sur SnowflakeDans cet épisode de DataWatch, on plonge dans un use case ultra concret de Data Engineering moderne : comment automatiser le flatten de JSON complexes dans Snowflake grâce à Cortex Code et dbt.Avec Ferhat Aouaghzene, consultant spécialisé Snowflake & dbt, on décortique une problématique que beaucoup d’équipes data rencontrent aujourd’hui : gérer des données semi-structurées massives issues d’API, avec des schémas imbriqués, des tableaux dans des tableaux et des pipelines qui deviennent vite ingérables à maintenir à la main.Plutôt que d’utiliser un LLM externe, Ferhat montre comment exploiter Cortex Code directement dans Snowflake pour :→ Détecter automatiquement les colonnes VARIANT→ Générer les flatten SQL→ Créer toute l’arborescence dbt→ Générer les modèles staging / intermediate / marts→ Produire les YAML et les tests dbt→ Compiler et exécuter le projet automatiquementMais l’épisode va beaucoup plus loin qu’une simple démo technique.On parle aussi : • De l’avenir du métier de Data Engineer à l’ère des agents IA • Des limites des LLM dans des environnements critiques • D’idempotence et de qualité logicielle • De gouvernance data • De sécurité et de contrôle d’accès dans Snowflake • Et surtout de la bonne manière d’utiliser l’IA sans tomber dans le “vibe coding”Un épisode très concret pour comprendre comment l’IA peut réellement augmenter les équipes data quand elle est correctement cadrée.👇 Dites-nous en commentaire :Est-ce que vous utilisez déjà des agents IA dans vos pipelines data ?Les ressources👉 Ferhat sur Linkedin : https://www.linkedin.com/in/ferhat-aouaghzene-23a895217/➕ Medium : https://medium.com/@faouaghzene➕ Github : https://github.com/FerAou/Snow_tips/tree/main/json_to_dbt👉 Axel sur LinkedIn : https://www.linkedin.com/in/axel-mauroy-5699509a/👉 Bertrand sur LinkedIn : https://www.linkedin.com/in/bertrandfabre/➕ Insights : https://datayoka.com/insights➕ Newsletter : https://datayoka.com/newsletter➕ Formations : https://datayoka.com/formations➕ Coaching individuel SQL/BigQuery/FinOps : https://datayoka.com/coachingChapitres00:00 Introduction & présentation de Ferhat02:17 Le problème des JSON complexes dans Snowflake06:13 Démo du skill Cortex Code pour générer un projet dbt14:17 Snowflake + dbt Core + Cortex : comment tout s’intègre18:04 Idempotence, automatisation et qualité des pipelines IA31:55 L’avenir du métier de Data Engineer avec les agents IA#dataengineering #snowflake #dbt #cortex #genai #llm #datawatch

Dans cet épisode, on revient à chaud sur Google Cloud Next’26, avec un filtre très clair : qu’est-ce qui compte vraiment pour les équipes data.Plutôt que d’énumérer les centaines d’annonces, on prend le temps de décortiquer les signaux forts. BigQuery continue de s’étendre, le Lakehouse se structure autour d’Iceberg, la gouvernance des données prend une nouvelle dimension… mais surtout, un changement de paradigme se dessine.Google ne pousse plus seulement de la GenAI “cosmétique”. La vraie bascule, c’est l’arrivée des agents.On parle ici de systèmes capables de comprendre un contexte, d’utiliser des outils, d’interagir avec les données et surtout d’agir. Et ça change tout : la qualité des données, leur accessibilité et leur gouvernance ne sont plus des sujets secondaires, ils deviennent critiques.On prend aussi du recul sur ce qui est réellement disponible aujourd’hui vs ce qui relève encore de la stratégie produit. Parce que derrière les annonces, il y a une direction très nette : une plateforme data pensée pour orchestrer des agents, pas juste alimenter des dashboards.Un épisode pour comprendre où va l’écosystème data côté Google, sans hype inutile, mais sans passer à côté des vraies évolutions.Les ressources👉 Axel sur LinkedIn : https://www.linkedin.com/in/axel-mauroy-5699509a/👉 Bertrand sur LinkedIn : https://www.linkedin.com/in/bertrandfabre/➕ Formation pour diminuer vos coûts BigQuery : https://datayoka.com/formations/diminuer-vos-cots-bigquery➕ Formation SQL sur BigQuery : https://datayoka.com/formations/formation-de-sql-avec-bigquery-distance➕ Coaching individuel SQL/BigQuery/FinOps : https://datayoka.com/formations/coaching-individuel-en-sql-sur-bigquery➕ Newsletter : https://datayoka.com/newsletter➕ Blog : https://datayoka.com/blogLien vers l’article : https://cloud.google.com/blog/topics/google-cloud-next/welcome-to-google-cloud-next26?hl=enChapitres00:00 Introduction & contexte de Google Next02:30 Comment lire les annonces Google (produit vs stratégie)07:30 BigQuery, Lakehouse et Iceberg : les évolutions clés15:00 Data Catalog et gouvernance : un rôle qui change22:00 Agents vs chatbots : le vrai tournant30:00 Impact pour les équipes data

Et si les Data Contracts devenaient insuffisant pour garantir la qualité et la compréhension des données ?Dans l’épisode, nous, Axel et Bertrand, parlons de la différence entre la forme des données et leur signification métier.Pour matérialiser cela, le concept d’Open Semantic Interchange (OSI) est abordé.On explique pourquoi les Data Contracts ne suffisent plus à eux seuls, et comment la couche sémantique devient un élément clé pour rendre les données réellement exploitables comme dans un contexte d’IA et d’agents autonomes.On donne également de notre vision terrain :- Pourquoi la sémantique devient centrale- Les limites actuelles des approches existantes- Ce que cela change concrètement pour les Data EngineersDans cet épisode, on parle de : - Data contracts vs sémantique métier (forme vs fond)- Open Semantic Interchange (OSI)- Limites des semantic layers actuelles- Interopérabilité et dépendance aux outils- Impact sur les architectures Data modernes- Enjeux pour les agents IA et l’automatisationLes ressources👉 Axel sur LinkedIn : https://www.linkedin.com/in/axel-mauroy-5699509a/👉 Bertrand sur LinkedIn : https://www.linkedin.com/in/bertrandfabre/➕ Formation pour diminuer vos coûts BigQuery : https://datayoka.com/formations/diminuer-vos-cots-bigquery➕ Formation SQL sur BigQuery : https://datayoka.com/formations/formation-de-sql-avec-bigquery-distance➕ Coaching individuel SQL/BigQuery/FinOps : https://datayoka.com/formations/coaching-individuel-en-sql-sur-bigquery➕ Newsletter : https://datayoka.com/newsletter➕ Blog : https://datayoka.com/blogLien vers l’article : https://www.snowflake.com/content/snowflake-site/global/en/blog/open-semantic-interchanges-specs-finalized00:00 Introduction & contexte de l’épisode01:10 Data contracts : pourquoi ça ne suffit pas04:30 Forme vs fond : comprendre la limite actuelle07:20 Introduction à l’Open Semantic Interchange (OSI)10:40 Pourquoi la sémantique devient critique13:30 Limites des semantic layers actuelles16:00 Dépendance aux outils & fragmentation18:30 Interopérabilité des données : le vrai enjeu21:00 Impact sur les architectures data modernes23:30 OSI et futur des agents IA26:00 Ce que ça change pour les Data Engineers28:30 Conclusion & takeaways

☝️ Dans cet épisode Bertrand et Axel passent en revue les dernières nouveautés Data de Google Cloud, en mettant l’accent sur l’arrivée massive de l’IA dans les outils comme BigQuery. Ils parlent du Conversational Analytics, qui permet de générer des requêtes SQL en langage naturel, ainsi que les limites liées aux hallucinations et à la validation métier. La discussion aborde également l’émergence des data products comme fondation pour les agents IA, capables d’automatiser des workflows et de générer des insights de manière autonome. Enfin, ils évoquent les impacts pour les Data Engineers, entre automatisation, amélioration de la qualité des données, observabilité accrue et évolution des pratiques vers plus de gouvernance et de structuration.Les ressources👉 Axel sur LinkedIn : https://www.linkedin.com/in/axel-mauroy-5699509a/👉 Bertrand sur LinkedIn : https://www.linkedin.com/in/bertrandfabre/➕ Formation pour diminuer vos coûts BigQuery : https://datayoka.com/formations/diminuer-vos-cots-bigquery➕ Formation SQL sur BigQuery : https://datayoka.com/formations/formation-de-sql-avec-bigquery-distance➕ Coaching individuel SQL/BigQuery/FinOps : https://datayoka.com/formations/coaching-individuel-en-sql-sur-bigquery➕ Newsletter : https://datayoka.com/newsletter➕ Blog : https://datayoka.com/blogLien vers l’article : https://cloud.google.com/blog/products/data-analytics/whats-new-with-google-data-cloud/Chapitres00:00 Introduction & présentation de l’épisode01:14 Conversational Analytics dans BigQuery (IA + SQL)07:30 Data Products & Agents IA12:45 Importance des métadonnées & Data Governance15:30 Mise à jour des modèles & RAG16:30 Debug Airflow avec Gemini17:45 Recommandations BigQuery & optimisation des coûts18:50 Multi-cloud & gestion des identités (Microsoft Entra ID)21:30 Comparaison AWS vs GCP (vision terrain)23:10 Cloud SQL pour l’IA & Feature Store25:30 JDBC BigQuery (connectivité Java)27:00 Conclusion & fin de l’épisode

☝️ Dans cet épisode Bertrand et Axel discutent des tendances actuelles en matière de Data, en se concentrant sur une vidéo YouTube d’interview de Daniel Beach. Ils explorent le retour au vertical scaling, l'état du marché des outils de data, et l'évolution du rôle de Data Engineer à l'ère de l'IA. La conversation aborde également les défis liés au choix des outils dans un environnement saturé et les implications des modèles de Data Modeling traditionnels face à l'émergence de concepts comme le Data Mesh.Les ressources👉 Axel sur LinkedIn : https://www.linkedin.com/in/axel-mauroy-5699509a/👉 Bertrand sur LinkedIn : https://www.linkedin.com/in/bertrandfabre/➕ Formation SQL sur BigQuery de 3 jours : https://datayoka.com/formations/formation-de-sql-avec-bigquery-distance➕ Newsletter : https://datayoka.notion.site/1355071b...➕ Blog : https://datayoka.com/blogLien vers l’article : https://www.confessionsofadataguy.com/building-credible-data-systems-hoyt-emerson-on-the-full-data-stack/Chapitres00:00 - Introduction à l’épisode : tendances data et IA en 202600:27 - Retour au vertical scaling08:02 - Impact de l’IA sur la gestion de projets Data en startup et grandes structures13:52 - Vision d’un Data Engineer à l’ère de l’IA23:27 - L’impact sur les modèles de Data Modeling27:04 - Vers une transformation complète des pratiques Data avec l’IA

☝️ Dans cet épisode, Axel Mauroy et Bertrand Fabre accueillent Victor Vaneecloo, Data Engineer expérimenté, pour échanger sur ses retours d’expérience autour de dbt (data build tool) et de ses usages en Data Engineering.Les ressources👉 Victor sur LinkedIn : https://www.linkedin.com/in/baptiste-wlodarczyk/➕ rateIndex : https://rateindex.streamlit.app/➕ Newsletter : https://vaneec.tech/➕ Site : https://vvaneecloo.ghost.io/👉 Axel sur LinkedIn : https://www.linkedin.com/in/axel-mauroy-5699509a/👉 Bertrand sur LinkedIn : https://www.linkedin.com/in/bertrandfabre/➕ Formation SQL sur BigQuery de 3 jours : https://datayoka.com/formations/formation-de-sql-avec-bigquery-distance➕ Newsletter : https://datayoka.notion.site/1355071b...➕ Blog : https://datayoka.com/blogLiens vers les articles1️⃣ https://vvaneecloo.ghost.io/supercharging-dbt-performance-working-at-scale-trade-offs-1-3/2️⃣ https://vvaneecloo.ghost.io/supercharging-dbt-why-dbt-your-orchestration-layer-one-app-not-two-2-3/3️⃣ https://vvaneecloo.ghost.io/supercharging-dbt-lets-build-a-production-ready-platform-with-dbt-airflow-3-3/Chapitres00:00 Introduction et présentation de l’invité01:13 Comprendre DBT : définition et enjeux03:22 Défis et pièges dans l’utilisation de DBT05:37 Passage à l’échelle de DBT : aspects techniques et organisationnels09:38 Intégration des modèles incrémentaux dans DBT11:54 Le rôle de la gouvernance en data engineering15:34 Intégration de DBT avec les outils d’orchestration19:39 L’intérêt des monorepos21:53 Simplifier l’orchestration des données avec Airflow et DBT23:55 Gouvernance et visibilité dans la gestion des données25:20 Les avantages du micro-batching27:09 Présentation d’Elementary pour l’observabilité29:23 Quand utiliser un traitement complet ou incrémental31:14 Projets et outils futurs en data engineering

☝️ Dans cet épisode, Axel Mauroy et Bertrand Fabre explorent les dernières avancées en ingénierie des données et en intelligence artificielle. Ils discutent des nouvelles fonctionnalités d'AWS S3 pour le stockage de vecteurs, de l'IDE Antigravity de Google, et de l'intégration d'Excel avec Databricks. Les hôtes partagent leurs réflexions sur l'impact de ces technologies sur le secteur et les défis potentiels qu'elles posent.👉 Axel sur LinkedIn : https://www.linkedin.com/in/axel-mauroy-5699509a/👉 Bertrand sur LinkedIn : https://www.linkedin.com/in/bertrandfabre/➕ Newsletter de Bertrand : https://datayoka.notion.site/1355071ba1ca80189240d83808f5994d➕ Blog de Bertrand : https://datayoka.com/blog00:00:00 Introduction et présentation00:03:00 AWS S3 et le stockage de vecteurs00:09:00 Google Antigravity et l'expérience IA00:15:00 Databricks et l'Intégration d'Excel00:21:00 Conclusion et perspectives

☝️ Dans cet épisode, Bertrand et Axel discutent de l'utilisation de Polars chez Decathlon, de la comparaison entre Polars et Spark, de Lance comme nouveau format de données, et de l'impact de l'IA sur l'observabilité des données avec Monte Carlo. Ils explorent comment ces outils et technologies peuvent optimiser le traitement des données et améliorer l'efficacité des équipes data.👉 Axel sur LinkedIn : https://www.linkedin.com/in/axel-mauroy-5699509a/👉 Bertrand sur LinkedIn : https://www.linkedin.com/in/bertrandfabre/➕ Newsletter de Bertrand : https://datayoka.notion.site/1355071ba1ca80189240d83808f5994d➕ Blog de Bertrand : https://datayoka.com/blog00:00 Introduction et présentation des sujets00:58 Utilisation de Polars chez Décathlon08:48 Comparaison entre Polars et Spark16:33 Lance : un nouveau format de données27:54 Monte Carlo et l'IA pour l'observabilité

☝️ Dans cet épisode, Bertrand et Axel explorent les nouveautés de Python 3.14, notamment le T-String, les améliorations de débogage, et les implications du GIL sur les performances. Ils discutent également des concepts de Data Redaction et Data Masking, ainsi que des meilleures pratiques pour la gestion des données sensibles.🎙️ DataWatch est un podcast de veille en data. Axel Mauroy et Bertrand Fabre échangent autour d’articles publiés récemment en data.Liens vers les articles :👉 Les nouveautés de Python 3.14 : https://www.docstring.fr/blog/les-nouveautes-de-python-314/👉 Data redaction vs. data masking: What's the difference? : https://www.rudderstack.com/blog/data-redaction-vs-data-masking00:00 Introduction au Data Engineering et Python 3.1402:00 Les nouveautés de Python 3.14 : T-String et F-String06:13 Améliorations de débogage et annotations différées09:06 Le GIL et ses implications sur les performances10:57 Just-In-Time et multi-interpréteur dans Python16:09 Nouvelles fonctionnalités de compression et gestion des erreurs18:37 Data Redaction vs Data Masking : Concepts et applications27:52 Conclusion et réflexions sur la conformité des données