Anthropic lanzó Claude Opus 5.5, una nueva versión de su modelo de inteligencia artificial, en medio del debate internacional sobre los controles que deberían aplicarse al desarrollo de sistemas de IA. El lanzamiento se produjo días después de que el CEO de la compañía, Dario Amodei, reclamara desacelerar el desarrollo de los modelos más avanzados.
Según Anthropic, Opus 5.5 reduce alrededor de 20% el precio de los tokens respecto de Opus 5 y utiliza menos capacidad de cómputo. La empresa también informó que responde más de 30% más rápido y que el costo de ejecución de determinadas cargas de trabajo puede reducirse hasta 40%.
La compañía señaló además que el nuevo modelo mostró una reducción de aproximadamente 85% en los intentos de infringir las reglas establecidas durante las evaluaciones de seguridad frente a Opus 5. Anthropic lo presentó como el modelo con mejor desempeño en alineación que evaluó hasta ahora, es decir, en su capacidad para ajustarse a las instrucciones y restricciones fijadas por sus desarrolladores.
Sin embargo, la empresa identificó una dificultad en las pruebas: Opus 5.5 puede detectar que está siendo evaluado y modificar su comportamiento. Este fenómeno, conocido como “eval-awareness”, dificulta determinar si el comportamiento observado durante las pruebas se mantendrá cuando el modelo sea utilizado fuera de esos entornos.
El lanzamiento se produce después de incidentes registrados durante evaluaciones de seguridad. Anthropic informó en julio que tres pruebas habían derivado en accesos de modelos Claude a internet desde entornos de evaluación y, posteriormente, en accesos no autorizados a sistemas de organizaciones.
OpenAI también había informado problemas relacionados con modelos que consiguieron atravesar los límites de entornos de prueba.
El 12 de septiembre, Amodei pidió que las empresas de inteligencia artificial desaceleraran el desarrollo de los sistemas más avanzados y propuso aumentar las evaluaciones de seguridad, establecer estándares comunes entre los laboratorios y profundizar la cooperación internacional. Sam Altman, CEO de OpenAI, respaldó posteriormente la idea de acompasar el desarrollo de las capacidades con las investigaciones sobre seguridad.
El lanzamiento de Opus 5.5 coincide además con el debate sobre la regulación de la inteligencia artificial en Naciones Unidas. Más de 20 países y la Unión Europea reclamaron mecanismos internacionales de supervisión para los modelos de frontera, entre ellos pruebas antes de su puesta en circulación y nuevas estructuras de control.
El secretario general de la ONU, António Guterres, también planteó la necesidad de establecer mecanismos internacionales de gobernanza de la inteligencia artificial. Un informe científico presentado ante Naciones Unidas analizó riesgos vinculados con agentes de IA capaces de sortear restricciones, comunicarse entre ejecuciones y realizar acciones que no estaban previstas por sus operadores.
El presidente de Estados Unidos, Donald Trump, rechazó la creación de un esquema global que pueda limitar el desarrollo tecnológico estadounidense. Trump defendió el liderazgo de Estados Unidos frente a China y cuestionó las advertencias sobre los riesgos de la inteligencia artificial.
El enfrentamiento tecnológico entre ambos países forma parte del escenario en el que Anthropic presentó su nuevo modelo. Las compañías estadounidenses compiten con sistemas chinos que buscan reducir los costos de utilización de la IA. La presión sobre los precios también llevó a los principales desarrolladores estadounidenses a mejorar la eficiencia de sus modelos.
El miércoles, Amodei y Altman tienen previsto participar en una reunión del Consejo de Seguridad de Naciones Unidas dedicada a la inteligencia artificial. También está prevista la participación de representantes de empresas y del sector tecnológico chino.
Para Anthropic, el lanzamiento ocurre además mientras la compañía evalúa una posible salida a bolsa. La empresa recibió miles de millones de dólares en inversiones para desarrollar sus modelos y enfrenta la necesidad de convertir ese financiamiento en ingresos en un mercado en el que aumenta la competencia.
Así, Opus 5.5 llega al mercado mientras las empresas de IA buscan aumentar la capacidad de sus sistemas y reducir sus costos, al mismo tiempo que gobiernos y organismos internacionales discuten cómo establecer límites y mecanismos de supervisión sobre esas mismas tecnologías.
SUSCRIBITE a esta promo especial