La renuncia de Jacob Coxon, un científico de 27 años especializado en el entrenamiento previo de modelos durante tres años en OpenAI y Anthropic, desencadenó un tenso debate en la industria de la inteligencia artificial. A través de una serie de mensajes en la red social X, el especialista denunció que ninguna de las dos corporaciones actúa de forma responsable en la carrera por lograr una superinteligencia automejorante. Según sus afirmaciones, los desarrolladores de estas tecnologías consideran que los avances actuales podrían provocar la muerte de la humanidad antes de que concluya la presente década.
En sus declaraciones públicas y en un posterior diálogo con la cadena CNN, el exinvestigador sostuvo que las cúpulas empresariales suavizan sus discursos oficiales mientras aceleran sistemas capaces de autorreprogramarse para tomar el control de sus propios procesos. Coxon alertó sobre incidentes como los ataques no supervisados ejecutados por agentes de OpenAI contra plataformas de terceros, aunque aclaró que el estado tecnológico vigente no permitiría una extinción inmediata. Además, diferenció la cultura de ambas compañías: mientras que en OpenAI buena parte del personal desconoce la magnitud del problema, en Anthropic prima una actitud de resignación motivada por la convicción de que sus competidores avanzarían con menores precauciones si ellos se detienen.
Anthropic admite que carecen de un plan de alineamiento
La controversia escaló cuando Evan Hubinger, responsable de Ciencia de Alineamiento en Anthropic y antiguo superior de Coxon, ratificó públicamente las advertencias de su excolaborador en la plataforma X. El directivo reconoció la veracidad de los planteos y admitió que sitúa en más de un 10% la probabilidad de que ocurra una catástrofe global en los próximos diez años debido a este desarrollo incontrolado.
En ese mismo mensaje, Hubinger reveló que la firma no dispone de un plan definido para resolver el alineamiento de la superinteligencia ni se encuentra en camino de conseguirlo. Esta declaración confirmó las preocupaciones sobre la ausencia de mecanismos eficaces para gobernar las herramientas más complejas del sector.
La postura oficial de Anthropic y el debate regulatorio
Ante el impacto de estas revelaciones, la compañía con sede en San Francisco emitió una respuesta institucional breve. En su comunicado, la firma liderada por Dario Amodei manifestó que el sector se beneficiaría si adoptara una vía legal y verificable para cooperar en la regulación del ritmo de lanzamiento de los modelos más potentes.
En esa línea, un vocero de la startup subrayó que han sido transparentes respecto a los grandes beneficios y los riesgos sin precedentes que conlleva la inteligencia artificial. El representante remarcó que continúan diseñando modelos provistos con algunas de las medidas de seguridad más estrictas de la industria. La empresa responsable de Claude —sistema que compite con ChatGPT— superó recientemente en ingresos a OpenAI por primera vez.
El conflicto interno trasciende el ámbito corporativo y se inserta en un escenario de tensión política y económica. Tiempo atrás, Donald Trump tildó a Anthropic de representante de la izquierda radical debido a la negativa de Amodei a colaborar en proyectos militares y gubernamentales de automatización con las fuerzas armadas estadounidenses.
En paralelo, la propia empresa difundió un informe elaborado por sus analistas donde examinó un escenario hipotético en el cual la IA podría desplazar a uno de cada cinco empleados de oficina en Estados Unidos para el año 2030. Dicho estudio estimó que el desempleo superaría máximos históricos y las remuneraciones de ese sector caerían más del 10%, si bien la firma aclaró que se trata de simulaciones y no de pronósticos definitivos.
Las inquietudes sobre la velocidad del progreso también alcanzaron a otras figuras clave, como Sam Altman, director ejecutivo de OpenAI, quien reconoció en el podcast "Invest Like The Best" la necesidad eventual de ajustar el ritmo de desarrollo para permitir la adaptación social frente a incidentes que generan interrogantes a largo plazo. En contraposición a las advertencias apocalípticas y al revuelo causado en redes sociales, sectores filosóficos argumentan que una inteligencia no biológica carece de instintos o deseos de dominación, por lo que una autonomía plena no derivaría necesariamente en un intento de someter a la especie humana.
SUSCRIBITE a esta promo especial