La advertencia más inquietante sobre el futuro de la inteligencia artificial llegó desde adentro de la propia industria: investigadores de dos de los principales laboratorios de Estados Unidos reconocen que existe un riesgo real de que esta tecnología llegue a matar a seres humanos durante la próxima década. Uno de ellos incluso estimó esa posibilidad en más de un 10 por ciento.
La declaración fue realizada por Evan Hubinger, responsable de seguridad de Anthropic, después de que Jacob Coxon, un investigador británico de 27 años que trabajó durante tres años en el desarrollo de modelos de inteligencia artificial, anunciara su salida de la industria y acusara a OpenAI y Anthropic de “jugar con nuestras vidas”.
Coxon había trabajado primero en OpenAI y había pasado a Anthropic porque consideraba que esta última empresa tenía una postura más prudente. Su especialidad era el preentrenamiento, la etapa en la que los modelos de IA absorben grandes cantidades de información. Pero el investigador decidió abandonar también Anthropic y cuestionó duramente el rumbo que están tomando ambas compañías.
“Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió Coxon en X. Luego lanzó una advertencia todavía más contundente: “Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”.
La afirmación encontró un respaldo inmediato dentro de Anthropic. Hubinger coincidió con Coxon y sostuvo que la compañía realmente considera posible que la inteligencia artificial termine provocando la muerte de seres humanos. A título personal, además, calculó que el riesgo supera el 10 por ciento en los próximos diez años.
UNA CARRERA CONTRA EL TIEMPO
El temor planteado por los investigadores está vinculado con la posibilidad de alcanzar una inteligencia artificial capaz de superar ampliamente las capacidades humanas y, al mismo tiempo, mejorar sus propias capacidades. Líderes de la industria consideran que se aproxima la llamada “automejora recursiva”: un escenario en el que un modelo podría diseñar a su propio sucesor y avanzar en su desarrollo completamente por fuera del control humano.
Para Coxon, ese escenario exige límites. Según sostuvo, ninguna empresa debería desarrollar de manera responsable una inteligencia artificial que supere a los humanos sin intervención gubernamental o una desaceleración coordinada. l investigador cuestionó especialmente la competencia entre los grandes laboratorios por avanzar más rápido. “En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo”, afirmó.
La preocupación no es nueva dentro de las compañías. En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no conseguía controlar los riesgos asociados. Y a finales de julio, más de mil trabajadores de la industria, entre ellos el director ejecutivo de Anthropic, Dario Amodei, reclamaron a Washington que preparara un mecanismo de frenado.
La necesidad de extremar las precauciones también fue planteada desde OpenAI. El domingo, su jefe científico, Jakub Pachocki, afirmó que “el momento actual llama por extrema precaución” y coordinación internacional. Mientras tanto, la denuncia de Coxon se produce cuando Anthropic prepara su salida a bolsa. Consultadas sobre sus declaraciones, ninguna de las dos empresas respondió aún.
SUSCRIBITE a esta promo especial