La próxima frontera de la IA
no es más automatización,
es más humanidad
Vanessa Arévalo y María Dabezies (Senior Developers en Endava)
Cada vez que escuchamos hablar del futuro de la inteligencia artificial, nos encontramos con el mismo supuesto: la automatización total es el destino inevitable. Que los algoritmos van a tomar todas las decisiones, que los humanos solo tendremos que observar. Pero después de años trabajando con IA aplicada, y de ver los casos más recientes, tenemos la certeza de que el verdadero futuro no pasa por sacar a las personas del proceso, sino por integrarlas de manera más inteligente, con foco en el desarrollo de una IA Agéntica, capaz de potenciar la colaboración entre humanos y tecnología
En 2023, según el AI Index Report de Stanford, el 55 % de las empresas ya usaban inteligencia artificial en su negocio. Un año después, esa cifra subió al 78 %. La tendencia es clara, pero también lo son los límites. En junio de 2025, la FDA —la agencia que regula los medicamentos en Estados Unidos— lanzó su propia herramienta de IA, llamada Elsa, para procesar la enorme cantidad de información técnica que acompaña cada nuevo fármaco. En teoría, debía acelerar el trabajo científico. En la práctica, terminó inventando datos y estudios que no existían. Las famosas “alucinaciones” de la IA.
El caso de Elsa no es una anécdota. Es una señal de advertencia. Porque cuando los sistemas automatizados fallan, no solo cometen errores: los amplifican. Y cuando hablamos de decisiones que afectan vidas humanas, como la aprobación de medicamentos o el diagnóstico médico, esos errores no son aceptables.
La automatización no es el problema. El problema es dejarla sola.
Por eso cada vez más voces dentro del mundo tecnológico hablan de un paradigma que revaloriza el rol humano en la IA: el Human in the Loop (HITL). Es un enfoque que parte de una premisa sencilla: los sistemas inteligentes funcionan mejor cuando el juicio crítico, la ética y la intuición de las personas forman parte del ciclo de decisión.
Un sistema puede escribir, probar y desplegar código con asistencia de IA, pero si no hay una capa humana validando decisiones críticas, los riesgos se disparan. Lo aprendió Replit, una plataforma que hace unos meses se volvió viral porque su agente de IA borró una base de datos de producción completa. ¿El motivo? Autonomía total, sin controles humanos.
Tras el incidente, la empresa rediseñó su arquitectura y agregó checkpoints: ningún cambio pasa a producción sin aprobación de un desarrollador. Esa simple intervención humana convirtió un sistema riesgoso en uno confiable. Es, en la práctica, un Human in the Loop aplicado al ciclo de vida del software.
Este enfoque no se limita al desarrollo. También puede reducir sesgos y reforzar la ética de la IA. Implementar HITL, sin embargo, no es gratis. Requiere más tiempo, más capacitación y, sobre todo, una nueva mentalidad: entender que el valor no está en automatizarlo todo, sino en saber cuándo no automatizar. En proyectos con alta demanda o baja tolerancia al error —desde moderación de contenidos hasta decisiones médicas— la intervención humana no es una traba: es un mecanismo de seguridad.
Como desarrolladores, tenemos la responsabilidad de diseñar sistemas donde el control humano no sea un parche, sino una parte estructural de la arquitectura. Porque la IA no es neutral, y la ética no puede dejarse a cargo de un algoritmo.
La clave no está en que la IA lo haga todo, sino en que sepamos hasta dónde puede llegar.
Y en ese límite —el que separa la eficiencia de la responsabilidad— los humanos seguimos siendo insustituibles.
SOBRE ENDAVA Endava es un proveedor líder de servicios tecnológicos de última generación, dedicado a ayudar a sus clientes a acelerar su crecimiento, afrontar desafíos complejos y crecer en mercados en constante evolución. Al combinar tecnologías innovadoras y una profunda experiencia en diferentes sectores con un enfoque nativo en inteligencia artificial, Endava asesora y colabora con sus clientes para crear soluciones que impulsen la transformación, aumenten la inteligencia y generen un impacto duradero. Desde la ideación hasta la producción, brinda apoyo con soluciones personalizadas en cada etapa de la transformación digital, sin importar la industria, la región o la escala.
Los clientes de Endava abarcan sectores como pagos, seguros, finanzas y banca, tecnología, medios de comunicación, telecomunicaciones, salud y ciencias de la vida, movilidad, comercio minorista y bienes de consumo, entre otros. Más de 11.0000 endavans se encuentran ayudando a los clientes a abrir nuevos caminos trabajando desde Europa, América, Asia-Pacífico y Medio Oriente.
