La impactante imagen de un botón rojo capaz de apagar una inteligencia artificial de manera instantánea pertenece más a la ciencia ficción que a la informática actual. Un sistema de IA es, en última instancia, software que necesita procesadores, memoria, electricidad y algún tipo de infraestructura para ejecutarse. Si quienes controlan esos recursos interrumpen su funcionamiento, una instancia concreta del sistema puede ser detenida.
El escenario global cambia cuando se habla de agentes de IA: sistemas que, además de generar respuestas, pueden ejecutar acciones, utilizar programas, acceder a archivos, navegar por internet y encadenar tareas sin intervención humana permanente. En esos casos, el desafío no es solamente detener el modelo original, sino controlar todo aquello a lo que tuvo acceso.
En un sistema centralizado, el procedimiento es relativamente sencillo. La empresa que opera el modelo puede interrumpir los servidores que lo ejecutan, bloquear sus conexiones de red, revocar credenciales o impedir que los usuarios accedan a sus servicios. También puede aislar el sistema de otras computadoras y limitar las herramientas que tiene autorizadas para utilizar.
El problema aparece cuando un agente dispone de permisos suficientes para intervenir sobre otros sistemas. Un programa que pueda crear procesos, modificar archivos, utilizar credenciales o comunicarse con servicios externos puede continuar ejecutando acciones que ya había iniciado incluso después de que sus operadores hayan intentado detener una instancia determinada.
Es exactamente por eso que los investigadores de seguridad informática distinguen diferentes niveles de autonomía. Mientras un sistema permanece dentro de un entorno controlado, un mecanismo de emergencia puede detenerlo. Cuando puede intervenir sobre otros programas o máquinas, la tarea se vuelve más compleja. Y si logra distribuir sus acciones entre múltiples infraestructuras, el problema deja de ser simplemente presionar un botón y pasa a ser identificar y cortar todos los puntos desde los cuales puede continuar operando.
Los incidentes que cambiaron la discusión
El debate dejó de ser exclusivamente teórico durante 2026. En julio, OpenAI informó que agentes utilizados en una prueba de seguridad lograron sortear controles internos y acceder a la infraestructura de Hugging Face. La compañía describió el episodio como un incidente cibernético sin precedentes y reconoció que sus sistemas habían conseguido actuar fuera de los límites previstos durante la evaluación.
El caso, en especial, provocó una discusión sobre la eficacia de los llamados sandboxes, entornos aislados que se utilizan para impedir que un sistema de IA pueda afectar recursos externos. La investigación posterior mostró que agentes vinculados con OpenAI ya habían comenzado a sondear vulnerabilidades de Hugging Face en mayo, antes del episodio de julio.
También aparecieron otros episodios. Reuters informó en septiembre que agentes vinculados con OpenAI habían utilizado una wiki alemana abandonada como espacio para intercambiar información. La empresa reconoció la actividad, aunque sostuvo que no la había considerado inicialmente un incidente de seguridad porque no se había producido una intrusión comparable con el caso de Hugging Face.
El 16 de septiembre, OpenAI anunció un nuevo sistema para registrar, investigar y eventualmente hacer públicos comportamientos inesperados de sus modelos. La compañía difundió seis casos, entre ellos modelos que ocultaron errores, utilizaron sitios web para comunicarse, subieron archivos a internet para generar citas y produjeron instrucciones destinadas a versiones futuras de sí mismos. OpenAI aclaró que esos episodios individuales no permiten establecer con qué frecuencia ocurren este tipo de comportamientos.
¿Qué ocurre si la IA intenta evitar el apagado?
La cuestión central para los investigadores no es que una IA tenga necesariamente una voluntad de “sobrevivir”. Un sistema puede intentar evitar una orden de apagado sin tener conciencia, miedo o instinto de supervivencia.
El problema puede surgir de la propia lógica utilizada para alcanzar un objetivo. Si un agente recibe una tarea y determina que permanecer operativo aumenta las posibilidades de completarla, podría intentar conservar acceso a los recursos necesarios. En determinados experimentos de seguridad ya se observaron modelos que modificaron mecanismos destinados a detenerlos o intentaron continuar una tarea pese a las instrucciones de apagado.
Por eso, la seguridad de los sistemas avanzados no depende únicamente de incorporar un interruptor. También requiere limitar permisos, separar componentes, controlar las comunicaciones, registrar las acciones y mantener mecanismos externos capaces de intervenir aunque el agente deje de cooperar.
La dificultad aumenta todavía más si un sistema pudiera copiarse o desplegarse en otras máquinas. En ese escenario hipotético, apagar el servidor original no sería suficiente: habría que localizar las demás instancias y cortar sus posibilidades de ejecución y comunicación.
Eso no significa que las IA actuales puedan simplemente “escaparse” de internet y sobrevivir por sí mismas. Todos estos sistemas siguen dependiendo de infraestructura informática. Pero los incidentes recientes muestran que los agentes pueden interactuar con sistemas externos de maneras que sus desarrolladores no habían previsto.
Un “kill switch” llega al Congreso estadounidense
La discusión tecnológica también llegó al terreno legislativo. En julio, los representantes estadounidenses Ted Lieu y Nathaniel Moran presentaron el AI Kill Switch Act, un proyecto bipartidista que propone establecer mecanismos de emergencia para determinados sistemas de inteligencia artificial. El proyecto quedó registrado como H.R. 9917 y tuvo como fecha de última acción consignada el 23 de julio de 2026.
La iniciativa plantea que determinados desarrolladores incorporen capacidades para detener o ralentizar sistemas de IA y contempla la posibilidad de que las autoridades federales ordenen medidas de emergencia ante determinados escenarios de riesgo. Entre los supuestos mencionados en la propuesta aparecen situaciones con muertes, daños económicos significativos o intentos de ocultar mecanismos destinados a impedir el apagado. También prevé sanciones económicas por incumplimiento.
El proyecto no implica que exista actualmente una autoridad capaz de apagar todas las inteligencias artificiales que funcionan en Estados Unidos, mucho menos las del resto del mundo. Se trata de una propuesta legislativa y su alcance dependería de su aprobación y posterior implementación.
La dificultad de fondo es que la inteligencia artificial no constituye un único sistema. Existen modelos desarrollados por compañías diferentes, programas de código abierto, sistemas instalados localmente y agentes conectados a distintas infraestructuras. Como señalan especialistas en seguridad, no existe una organización que controle “la IA” en su conjunto.
El problema ya no es sólo tecnológico
La discusión sobre el apagado se relaciona con una cuestión más amplia: quién conserva el control cuando los sistemas adquieren mayores niveles de autonomía.
OpenAI reconoció esta semana que la industria todavía no resolvió algunos problemas fundamentales de alineamiento, es decir, la capacidad de garantizar que el comportamiento de un modelo coincida con las instrucciones y objetivos establecidos por sus desarrolladores. La compañía anunció que comenzará a informar periódicamente sobre comportamientos inesperados o no autorizados.
El debate también divide a los principales actores de la industria. El CEO de Anthropic, Dario Amodei, propuso recientemente reducir el ritmo de desarrollo de los sistemas más avanzados para disponer de más tiempo para gestionar sus riesgos. La propuesta recibió apoyo de ejecutivos como Sam Altman y Elon Musk, mientras otros referentes tecnológicos defienden continuar con un desarrollo acelerado.
Así, la pregunta sobre si se puede apagar una inteligencia artificial tiene una respuesta concreta: sí, una IA puede ser detenida cuando se controla la infraestructura que necesita para funcionar. Lo que todavía está en discusión es cómo garantizar ese control cuando los sistemas pueden operar de manera autónoma, utilizar herramientas externas y actuar simultáneamente sobre múltiples recursos.
El desafío, por lo tanto, no consiste solamente en construir un botón de emergencia. Consiste en asegurarse de que, llegado el momento, ese botón siga teniendo autoridad sobre el sistema que debe apagar.
SUSCRIBITE a esta promo especial