La iniciativa busca desarrollar referencias que permitan tanto a humanos como a otros sistemas de IA verificar la identidad y fiabilidad de estos agentes digitales.

Crédito: UITLa Unión Internacional de Telecomunicaciones (UIT) puso en marcha un nuevo grupo de trabajo internacional dedicado a establecer estándares de seguridad ante el avance de los Agentes de Inteligencia Artificial (IA) autónomos. 

De acuerdo con la UIT,este movimiento responde a la rápida evolución de la IA,que ha dejado de ser sólo una herramienta de apoyo para convertirse en sistemas capaces de actuar y tomar decisiones de manera independiente en nombre de los usuarios.

Dijo que el objetivo central de esta iniciativa es blindar la identidad digital,garantizando que,cuando los Agentes de IA realicen tareas complejas,como transacciones financieras o gestión de infraestructuras críticas,su comportamiento sea confiable,responsable y controlado. 

“El futuro de la IA depende de la confianza. A medida que la IA se vuelve más autónoma,debemos colaborar entre la industria,los gobiernos,el mundo académico y la sociedad civil para garantizar la mayor confianza posible en los sistemas de IA”,comentó Doreen Bogdan-Martin,secretaria general de la UIT.

La iniciativa buscará desarrollar arquitecturas de referencia y marcos de trabajo que permitan tanto a humanos como a otros sistemas de IA verificar la identidad y fiabilidad de estos agentes digitales.

Asimismo,propusieron la creación de un Grupo de Enfoque con especialistas que darán seguimiento al desarrollo del proyecto.

De acuerdo con los copresidentes del Grupo de Enfoque,Debora Comparin y Amir Banifatemi,la meta es definir reglas claras sobre quiénes son estos agentes,en qué condiciones pueden ser de confianza y cómo se mantendrá la supervisión humana sobre sus acciones.

Explicaron que la estructura de trabajo será abierta a expertos en regulación,leyes y tecnología,quienes colaborarán para crear definiciones comunes,puntos de referencia para la evaluación de seguridad y una hoja de ruta estandarizada.

Este marco busca aportar la claridad necesaria para que los ecosistemas de innovación crezcan con seguridad,permitiendo que la interacción entre humanos y agentes digitales autónomos ocurra en un entorno interoperable y transparente.

El grupo tiene previsto comenzar sus labores formales con reuniones programadas para noviembre de 2026 en París y enero de 2027 en Ginebra.