Cuando la IA se equivoca y nadie lo nota
Hub 02/06/2026
Cuando un sistema falla de forma evidente, lo ves. El dashboard se rompe, el número no cuadra, alguien llama. Pero hay otro tipo de error mucho más difícil de detectar: el que se produce en silencio, con total apariencia de normalidad. La IA, cuando se equivoca, se equivoca de una forma muy segura. El sistema sigue funcionando, sigue generando outputs, sigue dando respuestas. Y tú sigues tomando decisiones basadas en esas respuestas.
Este es el problema que nadie quiere discutir cuando se habla de inteligencia artificial aplicada al negocio.
Llevamos años viendo cómo la conversación sobre IA gira casi siempre alrededor de los modelos: cuál es más potente, cuál razona mejor, cuál escala más. Es una conversación legítima, pero incompleta. Porque el modelo no decide nada por sí solo. Lo que decide es la combinación del modelo con los datos que lo alimentan. Y sobre esa segunda parte se habla mucho menos.
En el mundo del retail y el e-commerce esto se ve con especial claridad. Las empresas llevan años acumulando datos con la misma lógica con la que algunas personas acumulan objetos en casa: por si acaso. Lo llamo el síndrome de Diógenes del dato. Tienes mucho dato, pero no tienes capacidad para consumirlo ni sabes para qué sirve cada cosa. Y entonces llega la promesa de la IA, que supuestamente va a ordenar ese caos. Pero la IA no ordena el caos: lo amplifica. Un modelo potente sobre datos de baja calidad no produce mejores decisiones; produce decisiones erróneas con más velocidad y más convicción.
La pregunta que deberíamos hacernos antes de cualquier inversión en IA no es "¿qué modelo usamos?" sino "¿sobre qué dato vamos a usarlo?". Y la respuesta realista, en la mayoría de las empresas con las que trabajamos, es que ese dato no está en buenas condiciones. No porque nadie se haya preocupado, sino porque mantener datos fiables a escala es mucho más difícil de lo que parece. Sacar cien productos de Amazon en un momento puntual es trivial. Sacar un millón de productos, tres veces al día, durante un año, con una tasa de error mínima, es otro juego completamente distinto. Y esa diferencia es la que se infravalora sistemáticamente.
Hay otra conversación que también se evita: la del mantenimiento. Existe la idea bastante extendida de que mantenimiento es lo que haces cuando algo se rompe. Un parche, un arreglo, soporte. Yo lo veo de otra manera. El mantenimiento forma parte del producto, no es soporte. Los sistemas de datos viven en un entorno que cambia constantemente: los sitios web se modifican, los formatos cambian, las plataformas actualizan sus estructuras. Un sistema que no está diseñado para anticipar esos cambios no es fiable, es un sistema que funciona hasta que deja de funcionar. Y cuando falla, lo nota el cliente antes que tú.
Diseñar con esa mentalidad cambia cómo construyes. No buscas la solución perfecta para hoy; buscas una que pueda reconstruirse correctamente cuando el entorno cambie. Ser adaptable no es tener respuesta para todo hoy. Es la capacidad de construir la respuesta correcta mañana.
Me hicieron una pregunta en una conversación reciente que me pareció muy bien planteada: si mañana desaparecieran todos los modelos de IA, ¿qué capacidades seguirían siendo imprescindibles? La respuesta es la de siempre: saber qué medir, construir sistemas para medirlo de forma fiable, y tomar decisiones basadas en esa medición. Lo que cambia con la IA es la velocidad a la que un dato malo puede propagarse por toda tu cadena de decisiones.
El reto no es tecnológico en el fondo. Es de criterio. Saber qué datos necesitas, con qué frecuencia, con qué nivel de calidad, y para qué decisiones concretas. El dato que no te genera una acción es una pérdida de tiempo. Y esa claridad, en un momento en el que todo el mundo corre a implementar agentes y automatizaciones, es más escasa y más valiosa que cualquier modelo.
Escribo esto después de una conversación en el podcast de Ecommerce News en la que intentamos hablar de todo esto con la honestidad que el tema merece. Si te interesa profundizar, está disponible para escuchar. Pero la reflexión que me llevo es más simple: antes de preguntarte qué hace tu IA, pregúntate sobre qué datos está trabajando.
ESCUCHA EL PODCAST AQUÍ
Este es el problema que nadie quiere discutir cuando se habla de inteligencia artificial aplicada al negocio.
Llevamos años viendo cómo la conversación sobre IA gira casi siempre alrededor de los modelos: cuál es más potente, cuál razona mejor, cuál escala más. Es una conversación legítima, pero incompleta. Porque el modelo no decide nada por sí solo. Lo que decide es la combinación del modelo con los datos que lo alimentan. Y sobre esa segunda parte se habla mucho menos.
En el mundo del retail y el e-commerce esto se ve con especial claridad. Las empresas llevan años acumulando datos con la misma lógica con la que algunas personas acumulan objetos en casa: por si acaso. Lo llamo el síndrome de Diógenes del dato. Tienes mucho dato, pero no tienes capacidad para consumirlo ni sabes para qué sirve cada cosa. Y entonces llega la promesa de la IA, que supuestamente va a ordenar ese caos. Pero la IA no ordena el caos: lo amplifica. Un modelo potente sobre datos de baja calidad no produce mejores decisiones; produce decisiones erróneas con más velocidad y más convicción.
La pregunta que deberíamos hacernos antes de cualquier inversión en IA no es "¿qué modelo usamos?" sino "¿sobre qué dato vamos a usarlo?". Y la respuesta realista, en la mayoría de las empresas con las que trabajamos, es que ese dato no está en buenas condiciones. No porque nadie se haya preocupado, sino porque mantener datos fiables a escala es mucho más difícil de lo que parece. Sacar cien productos de Amazon en un momento puntual es trivial. Sacar un millón de productos, tres veces al día, durante un año, con una tasa de error mínima, es otro juego completamente distinto. Y esa diferencia es la que se infravalora sistemáticamente.
Hay otra conversación que también se evita: la del mantenimiento. Existe la idea bastante extendida de que mantenimiento es lo que haces cuando algo se rompe. Un parche, un arreglo, soporte. Yo lo veo de otra manera. El mantenimiento forma parte del producto, no es soporte. Los sistemas de datos viven en un entorno que cambia constantemente: los sitios web se modifican, los formatos cambian, las plataformas actualizan sus estructuras. Un sistema que no está diseñado para anticipar esos cambios no es fiable, es un sistema que funciona hasta que deja de funcionar. Y cuando falla, lo nota el cliente antes que tú.
Diseñar con esa mentalidad cambia cómo construyes. No buscas la solución perfecta para hoy; buscas una que pueda reconstruirse correctamente cuando el entorno cambie. Ser adaptable no es tener respuesta para todo hoy. Es la capacidad de construir la respuesta correcta mañana.
Me hicieron una pregunta en una conversación reciente que me pareció muy bien planteada: si mañana desaparecieran todos los modelos de IA, ¿qué capacidades seguirían siendo imprescindibles? La respuesta es la de siempre: saber qué medir, construir sistemas para medirlo de forma fiable, y tomar decisiones basadas en esa medición. Lo que cambia con la IA es la velocidad a la que un dato malo puede propagarse por toda tu cadena de decisiones.
El reto no es tecnológico en el fondo. Es de criterio. Saber qué datos necesitas, con qué frecuencia, con qué nivel de calidad, y para qué decisiones concretas. El dato que no te genera una acción es una pérdida de tiempo. Y esa claridad, en un momento en el que todo el mundo corre a implementar agentes y automatizaciones, es más escasa y más valiosa que cualquier modelo.
Escribo esto después de una conversación en el podcast de Ecommerce News en la que intentamos hablar de todo esto con la honestidad que el tema merece. Si te interesa profundizar, está disponible para escuchar. Pero la reflexión que me llevo es más simple: antes de preguntarte qué hace tu IA, pregúntate sobre qué datos está trabajando.
ESCUCHA EL PODCAST AQUÍ
