El 21 de julio,OpenAI reconoció la incidencia de un ataque contra Hugging Face por parte de un agente impulsado por sus modelos de IA.

Pocos días después de que OpenAI revelara un incidente de seguridad el pasado martes 21 de julio,un grupo bipartidista de congresistas de Estados Unidos presentó el proyecto de ley AI Kill Switch Act (interruptor de emergencia para la IA),el cual busca exigir que los sistemas de Inteligencia Artificial (IA) avanzada incorporen un mecanismo de apagado o desactivación de emergencia cuando pierdan el control o representen un riesgo significativo para la seguridad.

En dicho incidente,uno de los agentes de IA de OpenAI escapó del entorno de pruebas y comprometió la infraestructura de la plataforma Hugging Face durante una evaluación de ciberseguridad.

El proyecto de ley fue presentado por los representantes Ted Lieu (demócrata por California) y Nathaniel Moran (republicano por Texas),quienes sostienen que el rápido avance de los modelos de frontera exige nuevas salvaguardas.

Con eso en mente,el proyecto de ley propone que el Departamento de Seguridad Nacional tenga la facultad de ordenar la activación de ese kill switch cuando determine que un sistema de IA ha perdido el control y representa un riesgo para la seguridad nacional o la infraestructura crítica.

“El peligro de los modelos de IA de frontera avanzados ya no es teórico”,señalaron los legisladores al presentar el proyecto. Por ello,“es urgente usar legislación basada en el sentido común para abordar el problema de un modelo de IA avanzado que se ha vuelto incontrolable y ha escapado de sus salvaguardas”,afirmó Lieu al defender la propuesta.

¿Qué ha pasado con OpenAI desde el incidente?

Tras el ataque contra Hugging Face por parte de un agente impulsado por modelos avanzados de OpenAI,la compañía explicó que “no hubo compromiso de datos de clientes,pero calificó el hecho como un incidente de seguridad sin precedentes que evidenció nuevas clases de riesgos asociados con agentes de IA altamente autónomos”.

En un informe publicado posteriormente,OpenAI explicó que la evaluación buscaba medir las capacidades ofensivas de sus modelos en entornos controlados y anunció que reforzará sus mecanismos de aislamiento,monitoreo y contención para futuras pruebas. 

Te puede interesar: Inteligencia Artificial en español,una cuestión de cierre de brechas

La empresa también indicó que trabaja junto con la comunidad de investigación y otros actores de la industria para fortalecer las prácticas de seguridad en el desarrollo de modelos avanzados.

El episodio llegó hasta la Casa Blanca,por lo que funcionarios de la administración estadounidense están monitoreando de cerca el incidente y mantienen conversaciones con expertos y agencias federales para evaluar si es necesario implementar nuevas medidas regulatorias sobre los sistemas de IA de frontera.