Estás en el blog de Nicolau Roca
Inteligencia artificial agentic: ¿revolución imparable o riesgo infravalorado?
La inteligencia artificial agentic —o agentic AI— promete algo más ambicioso que responder preguntas: sistemas capaces de planificar, tomar decisiones, usar herramientas, ejecutar tareas y coordinar pasos para alcanzar objetivos. Es una evolución natural de los modelos generativos, pero también introduce una capa de riesgo mucho más seria.
La diferencia no es menor. Un chatbot que responde mal puede confundirte. Un agente que ejecuta mal puede modificar datos, enviar información, lanzar procesos, consumir recursos o tomar decisiones operativas equivocadas.
Qué hace diferente a la IA agentic
Un sistema agentic no se limita a generar texto. Puede dividir una tarea en pasos, consultar herramientas, leer información, decidir qué hacer después y actuar con cierto grado de autonomía. Esa capacidad es precisamente lo que lo hace atractivo para empresas: automatización, asistentes internos, análisis, soporte, operaciones, desarrollo y productividad.
Pero cuanto más autonomía damos a un sistema, más importante se vuelve el control. No basta con que el modelo “parezca inteligente”. Tiene que ser observable, limitable, auditable y recuperable.
La revolución real
- Automatización de flujos complejos: no solo tareas aisladas, sino procesos de varias etapas.
- Asistentes conectados a datos: agentes capaces de consultar información empresarial y devolver respuestas contextualizadas.
- Soporte a desarrollo: revisión de código, generación de pruebas, documentación, análisis de errores y propuestas de refactorización.
- Operaciones internas: clasificación de solicitudes, creación de tickets, alertas, seguimiento y recomendaciones de actuación.
El riesgo infravalorado
El problema aparece cuando se confunde autonomía con fiabilidad. Un agente puede encadenar errores, interpretar mal una instrucción, llamar a una herramienta equivocada o actuar sobre datos incompletos. Y si el sistema tiene permisos reales, el impacto deja de ser teórico.
En entornos empresariales, el riesgo no está solo en la alucinación del modelo. Está en los permisos, los datos disponibles, las acciones permitidas, la trazabilidad, la supervisión humana y la capacidad de revertir una operación.
Qué debería exigirse a un agente
- Permisos mínimos: el agente no debe tener más acceso del necesario.
- Acciones auditables: cada decisión y cada llamada a herramienta debe quedar registrada.
- Confirmación humana en operaciones críticas: especialmente cuando hay datos, costes, clientes o producción implicados.
- Contexto controlado: el agente debe trabajar con información fiable, no con fragmentos sueltos sin gobierno.
- Diseño recuperable: si algo sale mal, debe existir forma de parar, revertir o limitar el daño.
Conclusión
La IA agentic puede ser una revolución real, pero solo si se construye con arquitectura, gobierno y criterio técnico. Sin eso, no es transformación: es automatización con exceso de confianza.
El futuro no será simplemente tener agentes. Será saber dónde usarlos, qué permisos darles, cómo medirlos y cuándo obligarlos a detenerse.
