Una de las compañías más influyentes del sector de la inteligencia artificial encendió una señal de alarma sobre el futuro de esta tecnología al proponer una medida que hasta hace poco parecía impensada: una pausa coordinada a nivel global en el desarrollo de los sistemas más avanzados.
La iniciativa fue impulsada por Anthropic, la firma estadounidense creadora del chatbot Claude, que advirtió sobre la posibilidad de que los modelos de IA alcancen en los próximos años una capacidad de automejora tal que les permita desarrollar versiones cada vez más sofisticadas de sí mismos sin intervención humana directa.
Según planteó la empresa, la velocidad de los avances tecnológicos está comenzando a superar la capacidad de la sociedad y de los investigadores para comprender plenamente sus consecuencias. Por ese motivo, propuso establecer mecanismos que permitan ralentizar temporalmente la carrera por desarrollar sistemas cada vez más potentes y ganar tiempo para evaluar sus implicancias.
La preocupación gira en torno a un concepto conocido como “automejora recursiva”. Se trata de un escenario en el que una inteligencia artificial no sólo colabora en su propio perfeccionamiento, sino que llega a diseñar y construir a su sucesora. Para los especialistas de Anthropic, esa posibilidad obligaría a replantear las formas de supervisión y control que hoy existen sobre estas herramientas.
La compañía sostuvo además que cualquier pausa debería ser adoptada de manera simultánea por los principales laboratorios del mundo para evitar ventajas competitivas o desarrollos paralelos. En ese sentido, propuso avanzar en sistemas capaces de verificar que todos los actores involucrados respeten las mismas reglas.
La advertencia estuvo acompañada por datos internos que muestran el acelerado crecimiento de estas tecnologías. De acuerdo con la firma, a comienzos de 2025 Claude participaba en menos del 10% del código utilizado por la propia empresa. Actualmente, el chatbot ya genera más del 80%, una evolución que consideran representativa de la velocidad con la que la IA está ampliando sus capacidades.
La propuesta abrió un nuevo capítulo en el debate global sobre la regulación del sector. OpenAI, una de las principales competidoras de Anthropic, sostuvo que las decisiones sobre límites, controles y mecanismos de supervisión deben quedar en manos de los gobiernos democráticos y no depender de una sola compañía o grupo de interés.
Las advertencias también llegaron desde el ámbito académico. Investigadores de la Universidad de Toronto señalaron recientemente que herramientas de inteligencia artificial podrían utilizarse para desarrollar programas capaces de propagarse de un dispositivo a otro de manera autónoma, generando nuevos desafíos en materia de seguridad informática.
Mientras la competencia entre empresas acelera el desarrollo de modelos cada vez más potentes, crece también la discusión sobre cuáles deberían ser los límites de una tecnología que ya transforma múltiples aspectos de la vida cotidiana y cuyo potencial futuro todavía resulta difícil de dimensionar.
SUSCRIBITE a esta promo especial