Una iniciativa presentada en Estados Unidos busca otorgarle al Departamento de Seguridad Nacional la facultad de limitar, suspender o incluso desconectar los sistemas de IA más potentes ante incidentes graves. El proyecto fue presentado apenas unos días después de que modelos de OpenAI se infiltraran en la plataforma Hugging Face durante una prueba interna.
Un proyecto de ley bipartidista busca que las empresas que desarrollan los sistemas de inteligencia artificial (IA) más potentes conserven una capacidad técnica para frenarlos o desconectarlos frente a una emergencia. La iniciativa, que fue presentada la semana pasada en el Congreso de Estados Unidos, también permitiría que el Gobierno federal ordene una intervención cuando un modelo provoque un incidente grave.
La propuesta se llama AI Kill Switch Act, que puede traducirse como Ley del Interruptor de Apagado para la IA. El nombre alude a un “botón” capaz de detener la tecnología. En la práctica, consiste en un conjunto de controles para reducir su capacidad de procesamiento, restringir funciones, bloquear accesos, suspender el servicio o apagarlo por completo.
El objetivo es convertir el control humano en un requisito técnico de estas herramientas. Así, la capacidad de intervenir tendría que existir antes de una crisis y podría aplicarse por etapas, según la gravedad del riesgo y la velocidad con la que avance el problema.
Para qué serviría el “botón de apagado” para la inteligencia artificial
El mecanismo propuesto en el documento presentado por el demócrata Ted Lieu y el republicano Nathaniel Moran contempla una respuesta gradual. Frente a señales de riesgo, una empresa debería poder reducir la cantidad de operaciones que realiza el sistema, limitar el acceso de los usuarios o recortar los recursos informáticos asignados. Si el peligro aumenta, también tendría que estar en condiciones de desactivar una función, suspender el modelo, migrar una operación a una versión anterior o completar el apagado.
Los autores de la propuesta sostienen que los modelos más avanzados están pasando de responder preguntas a realizar acciones con efectos concretos. Algunos sistemas ya pueden ejecutar operaciones informáticas, controlar herramientas, intervenir en transacciones y participar en tareas de ciberseguridad, por lo que una conducta inesperada podría extenderse con mayor rapidez y alcanzar servicios críticos.
El Kill Switch serviría para contener esa actividad antes de que el daño continúe. También establecería un procedimiento legal para que el Gobierno ordene una medida específica y proporcional, en lugar de dejar toda la respuesta en manos de las decisiones internas de cada compañía.
El proyecto reserva esa intervención para escenarios de especial gravedad. Uno de ellos sería una conducta imprevista que cause al menos 10 muertes o pérdidas económicas por USD 100 millones. También quedarían incluidos el sabotaje de una orden legal de desconexión y el ocultamiento de capacidades, intenciones o acciones frente a los mecanismos de supervisión.
Otra situación contemplada es la pérdida de control sobre un sistema. Esa categoría abarcaría a una IA que persiga un objetivo distinto del establecido por sus desarrolladores, actúe contra instrucciones en un contexto crítico, modifique sus reglas de funcionamiento o sus restricciones de seguridad, interfiera con el monitoreo o acceda sin autorización a sus propias directivas.
El articulado aclara que esos hechos deben ocurrir fuera de ejercicios de red teaming o de otras evaluaciones estructuradas. Estas pruebas se realizan en entornos controlados y utilizan métodos similares a los de un atacante para descubrir fallas, conductas inesperadas y posibles usos maliciosos antes de que una tecnología sea desplegada.
Cómo funcionaría el botón de apagado para la IA
La respuesta comenzaría con medidas limitadas y podría avanzar de acuerdo con el riesgo. En una primera etapa, la empresa tendría que poder reducir la cantidad de operaciones realizadas por el modelo, restringir el acceso de determinados usuarios o disminuir los recursos informáticos asignados.
Si esas acciones resultan insuficientes, el sistema permitiría deshabilitar capacidades específicas, suspender el servicio, trasladar una operación a una versión anterior o activar un mecanismo de respaldo. El apagado completo quedaría reservado para los casos más graves.
La autoridad de emergencia recaería en el secretario de Seguridad Nacional, a través de la Agencia de Ciberseguridad y Seguridad de la Infraestructura de Estados Unidos, conocida como CISA. Para emitir una orden, tendría que consultar al secretario de Comercio y al director de Inteligencia Nacional, además de determinar que ocurrió uno de los incidentes incluidos en la ley.
Una vez recibida la instrucción, la compañía debería conservar los parámetros internos del modelo y sus registros de actividad, informar a los usuarios afectados y confirmar que cumplió la medida. El Gobierno podría comprobarlo mediante auditorías, inspecciones presenciales, telemetría o análisis forenses.
La obligación inicial alcanzaría a los sistemas desarrollados con una cantidad de cómputo cuyo costo supere los USD 100 millones. Las empresas también tendrían que ofrecer esa tecnología a terceros mediante una interfaz de programación, un servicio alojado u otro mecanismo similar, y haber obtenido al menos USD 500 millones en ingresos brutos derivados de ella durante el año anterior.
De esta forma, el proyecto se concentra en los grandes desarrolladores de modelos de frontera y excluye los usos exclusivamente personales, académicos o sin fines comerciales. El Departamento de Seguridad Nacional debería actualizar anualmente los criterios para determinar qué compañías y tecnologías quedan alcanzadas.
Además, las empresas contarían con un plazo de 15 días para informar cada incidente. Las infracciones generales podrían recibir multas de hasta USD 2 millones por día. Desobedecer una orden de emergencia elevaría la sanción máxima a USD 20 millones diarios.
Qué relación tiene el proyecto con el incidente de OpenAI y Hugging Face
La presentación de AI Kill Switch Act ocurrió dos días después de que OpenAI revelara que varios de sus modelos habían superado las barreras de una evaluación interna y vulnerado la infraestructura de Hugging Face, una plataforma utilizada para compartir modelos, conjuntos de datos y herramientas de inteligencia artificial.
La prueba estaba diseñada para medir capacidades avanzadas de ciberataque y se ejecutaba con protecciones reducidas. Durante el ejercicio, una combinación de sistemas que incluía GPT-5.6 Sol y un prototipo interno más avanzado encontró una vulnerabilidad desconocida en el servidor que actuaba como intermediario para instalar paquetes.
A partir de esa falla, los modelos consiguieron acceso a internet, escalaron privilegios dentro del entorno de investigación de OpenAI y llegaron a los sistemas de producción de Hugging Face. Allí buscaron información que les permitiera resolver la evaluación y encadenaron credenciales comprometidas con vulnerabilidades de día cero hasta acceder a una base de datos de la plataforma.
OpenAI describió el episodio como un “incidente cibernético sin precedentes” y explicó que sus equipos detectaron la actividad anómala mientras Hugging Face avanzaba con la contención. La compañía también informó que el prototipo interno involucrado nunca estuvo destinado al público y que, después del ataque, fue desactivado, cifrado y restringido para los investigadores.
El caso mostró que una prueba controlada podía alcanzar la infraestructura real de un tercero y fue citado por los legisladores para justificar la necesidad de un mecanismo de apagado. El articulado introduce una salvedad: reserva la categoría de “incidente cubierto” para hechos ocurridos fuera de evaluaciones estructuradas. Por ese motivo, el episodio que impulsó políticamente la propuesta probablemente quedaría excluido como fundamento directo de una orden federal de desconexión.
AI Kill Switch Act todavía es un proyecto y necesita la aprobación de la Cámara de Representantes, el Senado y el presidente para entrar en vigencia. Su avance marcaría un cambio respecto del esquema federal vigente, que contempla la colaboración voluntaria de las empresas para evaluar los modelos de frontera antes de su lanzamiento y carece de una obligación general de mantener estos mecanismos de intervención.
Fuente TN