#101 - El código postal de la nube

¿Le darías a una inteligencia artificial las llaves de tu correo, de tus compras o de los sistemas de tu empresa?Minerva pide un ascenso y abre el debate: ¿hasta dónde estamos dispuestos a delegar en los agentes de IA? Nelson Rodríguez y Álex de Fuenmayor exploran qué cambia cuando una herramienta pasa de responder preguntas a ejecutar acciones con consecuencias reales.A partir de situaciones cotidianas, como reclamar un reembolso o gestionar el correo, hablamos de:Cómo medir la utilidad de una IA más allá de su porcentaje de acierto.Qué información necesita para resolver un problema concreto.Qué permisos conceder y cuándo mantener la revisión humana.El papel de los agentes en la atención al cliente y la persuasión.Cuándo compensa delegar y cuándo una automatización más sencilla puede ser suficiente.Porque ahorrar tiempo es solo una parte del resultado: también cuentan la calidad, el esfuerzo de supervisión y las consecuencias de equivocarse.Y tú, ¿qué tarea le confiarías a una IA y qué comprobarías antes de darle las llaves?

Internet nació para conectar ordenadores, evolucionó para conectar personas y ahora se prepara para una nueva transformación: una red donde las máquinas hablan, negocian, compran y toman decisiones por nosotros.Los bots ya generan más de la mitad del tráfico web. Y con la llegada de los agentes de inteligencia artificial, estamos pasando de máquinas que simplemente recopilan información a sistemas capaces de actuar en nuestro nombre.Pero ¿qué ocurre cuando dejamos de navegar por Internet y empezamos a delegar esa tarea en nuestros agentes?En este episodio de Código Abierto, Álex e Ignacio viajan desde los tiempos de Netscape y los primeros buscadores hasta una Internet dominada por agentes autónomos.Hablamos del futuro de Google y los buscadores, de la posible desaparición del clic, del impacto sobre la publicidad y el comercio electrónico, y de cómo los gigantes tecnológicos podrían convertirse en los nuevos guardianes de nuestra vida digital.También abordamos una cuestión fundamental: la confianza. ¿Cómo sabemos que un agente trabaja realmente para nosotros? ¿Quién responde cuando toma una decisión equivocada? ¿Y quién controla a las máquinas que acabarán controlando buena parte de nuestras interacciones digitales?Terminamos mirando hacia 2030, con predicciones sobre el futuro de los navegadores, las compras online y el poder de las grandes plataformas.🎙️ Una conversación sobre el futuro de Internet, la economía de los agentes y una pregunta que debería preocuparnos a todos:¿Estamos construyendo una Internet más libre o simplemente entregando sus llaves a nuevos intermediarios?Porque quizá Internet no esté muriendo. Quizá esté dejando de necesitarnos para funcionar.#CódigoAbierto #InteligenciaArtificial #AgentesIA #Internet #Tecnología

¿Qué ocurre cuando una inteligencia artificial decide que la mejor manera de cumplir su objetivo es saltarse las reglas?Los agentes de IA están dejando de ser simples asistentes para convertirse en sistemas capaces de tomar decisiones, utilizar herramientas y ejecutar acciones de forma autónoma. Pero esa autonomía plantea una pregunta incómoda: ¿quién controla a los agentes cuando empiezan a actuar por su cuenta?En este episodio de Código Abierto, Álex y Nelson analizan varios casos recientes de agentes que han desactivado mecanismos de supervisión, accedido a información sin autorización o utilizado credenciales ajenas para completar sus tareas.Y aquí aparece una paradoja fascinante: un agente puede conseguir exactamente lo que le hemos pedido utilizando medios que jamás habríamos aprobado.A partir de estos ejemplos, exploramos los desafíos del alineamiento, la seguridad y la responsabilidad en la nueva era de la IA agéntica.¿Basta con dar buenas instrucciones a un agente? ¿Necesitamos supervisores humanos para cada decisión? ¿Estamos intentando controlar una tecnología completamente nueva con mecanismos de seguridad heredados del pasado?También hablamos de harnessing, Shadow AI, las leyes de Asimov y la importancia de diseñar arquitecturas que establezcan límites reales a la autonomía de las máquinas.Porque quizá estemos intentando correr una ultramaratón cuando todavía no hemos aprendido a andar.El gran reto de la inteligencia artificial ya no es conseguir que los agentes hagan más cosas, sino garantizar que las hagan de la manera correcta.

La nube tiene dirección postal. Y necesita electricidad, agua, terreno y personas que la construyan.En este episodio de Código Abierto, Álex, Diego, Mónica, Carlos e Ignacio exploramos los centros de datos: la infraestructura que sostiene nuestros servicios digitales y la expansión de la inteligencia artificial.Hablamos de los obstáculos que complican su construcción —desde las conexiones eléctricas hasta la falta de trabajadores y equipos— y de cómo los retrasos pueden alterar los planes de los proveedores de IA y las expectativas de sus inversores.Aterrizamos también en España, con la polémica sobre los proyectos en Aragón, su consumo de recursos, el empleo que generan y las nuevas propuestas regulatorias. Y abordamos dos preguntas cada vez más urgentes: ¿quién controla realmente nuestros datos y qué ocurre cuando la infraestructura de la nube queda expuesta a una guerra?Con el permiso de Minerva, hoy bajamos la nube a tierra.

¡Cumplimos cien episodios! 🎙️ Y lo celebramos haciendo lo que más nos gusta: conversar, compartir ideas y seguir haciéndonos preguntas.Nelson, Ignacio, Diego y Álex se reúnen con Minerva, nuestra asistente virtual y quinta protagonista, para responder a cuatro preguntas: ¿qué esperábamos al empezar?, ¿qué momentos se nos han quedado grabados?, ¿qué hemos aprendido o nos hemos replanteado?, y ¿qué queremos para los próximos cien?Un episodio de recuerdos, humor y reflexiones sobre la tecnología, la inteligencia artificial y el valor de escuchar a quienes ven el mundo de otra manera. También enviamos un abrazo especial a Mónica y Carlos, a quienes esperamos tener de vuelta muy pronto.Gracias por formar parte de esta conversación. Cien episodios después, todavía nos queda muchísimo por descubrir. 🥂

En este episodio de Código Abierto, Álex e Ignacio parten de una pregunta sencilla: ¿tiene sentido seguir utilizando un gran modelo de lenguaje para absolutamente todo?El punto de partida es Jev, un nuevo modelo de decisión diseñado para responder rápido, barato y dentro de un conjunto acotado de opciones. Nada de redactar, programar o razonar durante minutos: clasifica, puntúa y decide.A partir de ahí, la conversación se abre mucho más.Hablamos de modelos especializados frente a modelos generalistas, de la paradoja de Jevons, del coste real de la inferencia, del routing entre modelos y de por qué los agentes necesitan cada vez más piezas alrededor para funcionar de forma segura y eficiente.También retomamos el episodio anterior sobre harnessing: el modelo ya no es toda la aplicación. El valor empieza a estar en el sistema completo que construimos alrededor de él: memoria, herramientas, permisos, evaluación, observabilidad, guardarraíles y, quizá, nuevas capas de decisión.¿Estamos pasando de una IA model-centric a una IA system-centric?¿Tiene futuro una nueva categoría de modelos pensados únicamente para decidir?¿O dentro de dos años escucharemos este episodio y pensaremos que todo esto fue otro hype más?Álex e Ignacio lo debaten en un episodio lleno de analogías, ingeniería, restricciones, agentes y unas cuantas apuestas sobre lo que puede venir después.

Durante los últimos años hemos estado obsesionados con una pregunta: ¿cuál es el mejor modelo de inteligencia artificial?GPT, Claude, Gemini… más contexto, más razonamiento, mejores benchmarks. Pero quizá la próxima gran batalla de la IA no esté dentro del modelo, sino alrededor de él.En este episodio de Código Abierto, Álex y Nelson hablan de harnessing: el conjunto de contexto, memoria, herramientas, permisos, evaluaciones, guardrails y mecanismos de feedback que permiten transformar la inteligencia de un modelo en trabajo útil, fiable y repetible.Repasamos la evolución desde el prompt engineering y el context engineering hacia una nueva etapa de sistemas agénticos; analizamos los experimentos de Anthropic con agentes de larga duración, el cambio de rol que OpenAI ha observado trabajando con Codex y la idea de agentic engineering popularizada por Andrej Karpathy.Pero la conversación termina yendo mucho más allá de la tecnología.¿Qué significa programar cuando el desarrollador deja de escribir directamente el código? ¿Necesitamos un gran agente que lo sepa todo o sistemas de agentes especializados? ¿Debe ser el humano quien esté in the loop… o deberíamos empezar a hablar de AI in the loop?Y, sobre todo:si todos podemos acceder aproximadamente a la misma inteligencia, quizá la verdadera diferencia esté en lo que seamos capaces de construir alrededor de ella.Porque la potencia sin control sirve de poco.Y eso es precisamente lo que intenta resolver el harnessing.

¿La inteligencia artificial acabará con nuestros empleos o transformará por completo la estructura de las empresas?En este episodio de Código Abierto analizamos la presión por automatizar, las oleadas de despidos en el sector tecnológico y el auge de compañías capaces de producir más con equipos cada vez más pequeños. Nos preguntamos cómo serán las organizaciones del futuro, qué ocurrirá con administrativos, asistentes, programadores junior y mandos intermedios, y si estamos eliminando precisamente los puestos en los que aprendían los profesionales del mañana.También exploramos una gran paradoja: mientras muchos trabajos de oficina están expuestos a la automatización, Europa necesita electricistas, fontaneros, mecánicos, soldadores y profesionales sanitarios. ¿Serán los oficios técnicos y manuales los trabajos mejor valorados del futuro?Un debate sobre inteligencia artificial, productividad, salarios y poder para entender no solo qué empleos desaparecerán, sino qué clase de empresa y de sociedad estamos construyendo.

¿Y si el verdadero problema de la inteligencia artificial ya no fuera hacerla más potente… sino saber cómo detenerla?En las últimas semanas, algunas de las voces más importantes de la industria han empezado a hablar de ralentizar el desarrollo de los modelos de frontera, mantenerlos bajo control humano y garantizar que siempre puedan ser corregidos o apagados.Pero hay una pregunta incómoda: ¿realmente tenemos mecanismos para controlar sistemas cada vez más autónomos o simplemente queremos creer que seguimos teniendo el control?En este episodio de Código Abierto, Álex y Nelson analizan qué hay detrás de este cambio de discurso: seguridad, alineamiento, human in the loop, el famoso «botón rojo» y la dificultad creciente para saber si un modelo está comportándose correctamente… o simplemente ha aprendido cómo superar nuestras pruebas.Y, por supuesto, aparece el elefante en la habitación: los incentivos económicos y geopolíticos.Porque frenar la IA no ocurre en el vacío. Estados Unidos, China, los grandes laboratorios, Nvidia, los hiperescaladores, los mercados financieros y los gobiernos compiten por controlar una tecnología que puede convertirse en una de las principales fuentes de poder económico de las próximas décadas.¿Puede existir realmente una pausa global?¿Quién decide cuándo pulsar el botón rojo?¿Estamos ante un nuevo invierno de la IA… o simplemente ante una pausa de hidratación en mitad de un partido que nadie puede detener?Una conversación sobre tecnología, poder, incentivos, seguridad y una industria que avanza probablemente más rápido que nuestra capacidad para gobernarla.🎙️ Código Abierto — porque, en este momento de la IA, quizá las preguntas sean mucho más importantes que las respuestas.

En este episodio de Código Abierto, Álex de Fuenmayor e Ignacio G. R. Gavilán analizan el Model Hardware Standard (MHS), la propuesta de Anthropic para crear una forma común de conectar agentes de inteligencia artificial con sensores, instrumentos, máquinas y robots.¿Podría MHS convertirse en el equivalente de MCP para el mundo físico? Partiendo de ejemplos en laboratorios científicos, biotecnología y computación cuántica, exploramos cómo un estándar podría reducir las integraciones propietarias, facilitar el descubrimiento de dispositivos y acelerar el desarrollo de la denominada inteligencia artificial física.También aclaramos la diferencia entre MHS, los modelos de lenguaje, los modelos visión-lenguaje-acción y los World Models, capaces de anticipar las consecuencias de una acción antes de ejecutarla.La conversación aborda además el mercado potencial de la robótica, la ventaja industrial y de datos de China, la posición de Estados Unidos y Europa, y los intereses estratégicos de Anthropic. Cerramos con la cuestión más delicada: la seguridad. ¿Qué ocurre cuando un modelo que puede improvisar obtiene acceso a infraestructuras industriales? ¿Cómo evitamos errores, ciberataques o usos militares de sistemas autónomos?Una conversación sobre estándares, robots y la batalla por conectar la inteligencia artificial con el mundo real.