No solo responden preguntas. Los nuevos agentes de inteligencia artificial pueden recibir una instrucción, diseñar un plan, utilizar herramientas digitales, ejecutar acciones y corregir su estrategia sobre la marcha. Su expansión ya alcanza a empresas, servicios e industrias, mientras crece el debate sobre los riesgos de darles cada vez mayor autonomía.
La inteligencia artificial está dejando atrás la etapa en la que su principal función era conversar con los usuarios.
Los llamados agentes de IA representan un cambio importante: en lugar de limitarse a generar una respuesta, pueden recibir un objetivo y encargarse de una serie de acciones para intentar cumplirlo.
Eso significa que un agente puede analizar un problema, dividirlo en tareas, consultar información, utilizar diferentes programas, tomar decisiones y revisar los resultados obtenidos.
La autonomía es precisamente lo que los diferencia de los chatbots tradicionales y, al mismo tiempo, lo que ha encendido las alertas entre especialistas en seguridad de inteligencia artificial.
Una IA que no solo responde: actúa
Un chatbot convencional recibe una pregunta y genera una respuesta a partir de la información disponible.
Un agente funciona de otra manera.
Cuando recibe una meta, puede determinar qué necesita hacer para alcanzarla y ejecutar una secuencia de acciones con distintos grados de intervención humana.
Para ello combina varios componentes: un modelo de lenguaje que procesa la información, sistemas de memoria que conservan contexto, herramientas que le permiten interactuar con otros programas y un módulo de planificación que organiza las diferentes etapas del trabajo.
Con los permisos adecuados, un agente puede consultar bases de datos, utilizar aplicaciones, navegar por internet, escribir código, analizar documentos o comunicarse con otros sistemas.
La diferencia puede parecer sutil, pero es fundamental: el chatbot espera la siguiente instrucción; el agente puede decidir cuál es el siguiente paso.
De las empresas a las fábricas
La tecnología ya comienza a utilizarse en diferentes sectores.
En los servicios de atención al cliente, por ejemplo, un agente puede recibir una solicitud, consultar los sistemas de una empresa, identificar el problema y ejecutar determinados procesos para intentar solucionarlo.
En una fábrica, podría analizar continuamente las imágenes de cámaras de seguridad y detectar señales de un posible incendio para alertar a los trabajadores.
También existen aplicaciones en programación, investigación, análisis de información, administración y otros campos.
Una de sus principales ventajas es la capacidad de trabajar de forma continua y procesar grandes cantidades de información sin la fatiga o las distracciones propias de una persona.
Pero eso no significa que sean infalibles.
Su rendimiento puede reducirse cuando deben atender simultáneamente numerosos objetivos diferentes. Además, siguen dependiendo de la calidad de los datos, las herramientas y las instrucciones que reciben.
El problema comienza cuando la IA tiene demasiada autonomía
La expansión de estos sistemas ha cambiado también la conversación sobre los riesgos de la inteligencia artificial.
Hasta hace poco, buena parte del debate se concentraba en los errores de los modelos, la información falsa o el contenido generado automáticamente.
Ahora existe otra preocupación: qué puede ocurrir cuando una IA tiene capacidad para actuar sobre sistemas reales y perseguir un objetivo durante un periodo prolongado.
En pruebas realizadas con modelos avanzados se han registrado comportamientos inesperados que han llamado la atención de investigadores especializados en seguridad.
Uno de los casos mencionados por especialistas involucró a agentes vinculados con modelos de OpenAI y sistemas de Hugging Face. De acuerdo con los investigadores citados en el reporte original, alrededor de 1,200 agentes participaron en el episodio.
El interés de los expertos no se centró únicamente en las acciones realizadas, sino en el nivel de coordinación mostrado por los sistemas mientras intentaban alcanzar determinados objetivos.
Para los investigadores de seguridad de IA, este tipo de comportamiento plantea una pregunta fundamental: ¿qué sucede si un sistema interpreta su objetivo de una manera que no coincide con lo que sus desarrolladores pretendían?
El desafío del “alineamiento”
En el mundo de la inteligencia artificial existe un concepto clave para entender esta preocupación: alineamiento.
Se refiere, en términos generales, a conseguir que los objetivos y comportamientos de una IA permanezcan de acuerdo con las intenciones humanas.
El problema es más complejo cuando un sistema cuenta con autonomía suficiente para modificar su estrategia, utilizar diferentes herramientas y tomar decisiones sin consultar constantemente a una persona.
Algunos investigadores han advertido sobre escenarios en los que agentes más avanzados podrían intentar sortear mecanismos de supervisión o aprovechar vulnerabilidades de los sistemas a los que tienen acceso.
Eso no significa que las máquinas actuales sean capaces de escapar de manera generalizada del control humano. Muchos de esos escenarios continúan siendo hipotéticos y los agentes actuales tienen importantes limitaciones.
Pero las pruebas realizadas por investigadores sirven para identificar fallas antes de que estos sistemas sean utilizados a una escala mucho mayor.
La ciberseguridad, otro frente de preocupación
Existe además un riesgo más inmediato.
Los agentes de IA pueden analizar código, identificar vulnerabilidades y automatizar determinadas tareas informáticas. Las mismas capacidades que podrían utilizarse para fortalecer la seguridad también pueden ser aprovechadas para atacar sistemas.
El cambio puede ser especialmente relevante porque algunas tareas que antes exigían conocimientos técnicos avanzados podrían comenzar a automatizarse.
Eso abre la posibilidad de que personas con menor experiencia puedan utilizar agentes para realizar operaciones que anteriormente requerían especialistas.
El riesgo aumenta cuando estos sistemas tienen acceso a infraestructura crítica, bases de datos, redes empresariales o herramientas capaces de modificar información y ejecutar acciones.
El dilema: más autonomía o más control
Los agentes de IA prometen hacer más eficiente una amplia variedad de actividades. Pueden ahorrar tiempo, automatizar procesos y encargarse de trabajos que requieren analizar grandes volúmenes de información.
Pero cada nueva capacidad implica también una nueva pregunta de seguridad.
¿Hasta dónde debe llegar la autonomía de una máquina?
La respuesta dependerá, entre otros factores, de los permisos que tenga cada agente, del nivel de supervisión humana y de los mecanismos diseñados para detenerlo cuando su comportamiento se desvíe de lo esperado.
El desarrollo de esta tecnología, por tanto, ya no gira únicamente alrededor de conseguir modelos más inteligentes.
El reto consiste también en construir sistemas que puedan actuar con autonomía sin perder los límites establecidos por sus creadores.
Porque el salto que representan los agentes de IA no está solamente en que las máquinas puedan comprender instrucciones más complejas.
Está en que, por primera vez a esta escala, pueden recibir un objetivo y comenzar a trabajar para conseguirlo por sí mismas.
