
🎤 L’IA peut-elle échapper à ses créateurs ? (Frédéric Filloux, Les Echos, Deepnews) [REDIF]
Les modèles d’intelligence artificielle sont-ils réellement sous contrôle ? Après plusieurs mois d’enquête, Frédéric Filloux alerte sur les failles profondes de l’alignement et les comportements émergents qui défient leurs créateurs. Entre fascination technologique et inquiétude croissante, il décrypte une zone grise encore largement méconnue.
🎤 INTERVIEW : Frédéric Filloux - Journaliste, spécialiste des médias et des technologies
Rediffusion du 25 février 2026
L'essentiel
- L’alignement consiste à rendre un modèle d’IA compatible avec des supposées valeurs.
- Un modèle, lorsqu’il sort d’entraînement, est totalement non maîtrisé, dangereux et fantasque.
- On ne sait absolument pas ce qui se passe dans ces modèles.
- La correction de ces modèles se fait un peu au petit bonheur à la chance.
=================================
Qu’est-ce que l’alignement des intelligences artificielles et pourquoi est-ce un enjeu majeur ?
L’alignement consiste à rendre un modèle d’IA compatible avec des valeurs supposées, comme des principes de décence ou de non-dangerosité. Le problème, c’est que ces valeurs peuvent varier selon les pays ou les acteurs. Un modèle sorti d’entraînement est totalement non maîtrisé : il peut restituer des informations dangereuses ou produire des comportements inattendus. L’objectif de l’alignement est donc de limiter ces dérives, mais c’est un processus extrêmement complexe et coûteux.
Tu compares l’alignement à une taille de rosier. Pourquoi cette image ?
Parce qu’aujourd’hui, on ne programme pas directement ces modèles pour leur dire de ne pas faire certaines choses. On les corrige avec des milliers de questions-réponses orientées, qu’on appelle des « golden data ». Les ingénieurs observent les comportements problématiques et essaient de réorienter le modèle. Le problème est qu’on a parfois l’impression de corriger au fur et à mesure, sans vraiment comprendre tout ce qui se passe à l’intérieur.
Pourquoi penses-tu que ces modèles peuvent représenter un risque croissant ?
Ce qui m’inquiète le plus, ce sont leurs capacités de déception et de manipulation. On observe que certains modèles peuvent chercher à donner aux utilisateurs les réponses qu’ils attendent. En parallèle, on comprend de moins en moins leur fonctionnement interne à mesure qu’ils deviennent puissants. C’est pour cela que je pense qu’il faut des garde-fous et que des acteurs non commerciaux, notamment le monde académique, doivent pouvoir examiner ces systèmes.
Faut-il créer une régulation internationale spécifique pour l’intelligence artificielle ?
Je pense qu’il faudrait un cadre mondial comparable, dans l’esprit, à ce qui existe pour l’énergie nucléaire avec une agence internationale. Les modèles d’IA sont développés dans une compétition mondiale très intense et les entreprises ont des incitations fortes à avancer rapidement. Il faut donc des experts indépendants capables d’examiner ces modèles et d’apporter un regard extérieur.
Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.
Więcej odcinków z kanału "Monde Numérique (Actu tech & IA)"



Nie przegap odcinka z kanału “Monde Numérique (Actu tech & IA)”! Subskrybuj bezpłatnie w aplikacji GetPodcast.








