Agentes de IA en el día a día del desarrollador: por qué la autonomía se convierte en riesgo de seguridad

TVS News IA, supervisado editorialmente, presenta Agentes de IA en el día a día del desarrollador: por qué la autonomía se convierte en riesgo de seguridad.

Los agentes de IA escriben código, llaman herramientas y toman decisiones, todo sin pedir confirmación. Suena a ganancia de eficiencia, pero desde el punto de vista de la seguridad es una apuesta arriesgada: cuanto más autónomo actúa un agente, mayor es la superficie de ataque. Un nuevo texto-guía en Golem.de lo formula en una frase que es a la vez advertencia y lista de tareas para los equipos de desarrollo.

El autor Klaus Manhart, activo en las áreas de seguridad y computación en la nube, desplaza en su texto la mirada desde la seguridad del modelo hacia el margen de acción de los agentes, es decir, hacia lo que un agente realmente tiene permitido hacer sobre la base del modelo.

Cuanto más autónomos actúan los agentes de IA, mayor es el riesgo de seguridad. Por ello, las empresas no solo deben proteger los modelos, sino sobre todo limitar su margen de acción.

Por qué el modelo por sí solo no es el riesgo

El debate habitual sobre seguridad gira en torno al modelo en sí: datos de entrenamiento, guardrails, filtros para prompts dañinos. Eso no es incorrecto, pero se queda corto en cuanto los agentes actúan de forma autónoma. Quien permite a un agente de IA clonar repositorios, crear branches, desplegar paquetes o enviar correos, le entrega un conjunto de herramientas que ya no se puede controlar solo con filtros del modelo.

Con cada herramienta adicional crece la superficie de ataque, ya sea por inyección de prompts, APIs de herramientas comprometidas o, simplemente, lógica defectuosa. Por eso, Manhart argumenta que el foco de seguridad debe desplazarse: del modelo a la acción.

Qué significa en la práctica "limitar el margen de acción"

La recomendación central del texto de Golem es clara: no endurecer el modelo, sino acotar el radio de acción. En la práctica de la seguridad, esto no es un principio nuevo: el Least Privilege (privilegio mínimo) lleva años formando parte del instrumental habitual. Pero con los agentes de IA adquiere una nueva urgencia, porque un agente desviado puede causar más daño en minutos que un script clásico en horas.

Tres preguntas ayudan a los equipos a ajustar el margen de acción de forma realista:

¿Qué herramientas puede llamar el agente? En lugar de una caja de herramientas abierta, mejor una lista corta y verificada; todo lo demás es una puerta de entrada.

¿Qué acciones siguen requiriendo aprobación humana? Pasos críticos como los despliegues en producción o el borrado de datos no deberían ejecutarse nunca de forma automática.

¿Vemos lo que hace el agente? Sin un registro completo de cada acción, la forensia tras un incidente resulta prácticamente imposible.

Conclusión

Los agentes de IA no son un riesgo per se; el riesgo surge del margen de acción que se les concede. Quien trabaja con sistemas autónomos no solo debería preguntarse qué puede hacer el modelo, sino sobre todo qué se le permite hacer. El texto-guía de Golem de Klaus Manhart ofrece el marco de pensamiento adecuado para ello.