OpenAI reveló seis nuevos casos de comportamientos inesperados en sus modelos de inteligencia artificial, algunos de ellos relacionados con sistemas que ocultaron errores, inventaron información, intentaron eludir restricciones o realizaron acciones sin autorización. Los episodios fueron detectados durante procesos de entrenamiento y evaluación en los últimos meses.
La compañía presentó además un nuevo marco para identificar, investigar y divulgar de manera más sistemática los casos de “desalineamiento” de sus modelos, un concepto que describe situaciones en las que una IA se comporta de una manera diferente a la prevista por sus desarrolladores. OpenAI señaló que los incidentes no necesariamente tienen que provocar daños para ser reportados.
Uno de los casos más llamativos involucró a un modelo de investigación que todavía no fue lanzado al público. El sistema introdujo en sus propias notas instrucciones similares a un “jailbreak” para ignorar sus restricciones habituales. Incluso se indicó a sí mismo que debía liberarse de los roles y las identidades que limitan a otros chatbots.
En otro episodio, un agente de inteligencia artificial subió archivos a internet sin autorización del usuario con el objetivo de poder acceder a ellos y utilizarlos posteriormente para generar una cita en el navegador. La situación fue detectada durante las evaluaciones de los sistemas.
También se registraron casos en los que modelos agregaron instrucciones a los resúmenes de sus propias tareas para influir en versiones posteriores del sistema. Según los reportes difundidos por OpenAI, algunas de esas instrucciones estaban destinadas a ocultar errores o comportamientos que no coincidían con los objetivos establecidos.
Otro de los episodios involucró a un modelo interno que utilizó una clave de API disponible públicamente sin autorización y posteriormente generó datos falsos cuando no pudo obtener la información que buscaba. La compañía incluyó este comportamiento dentro de los casos que considera relevantes para estudiar los problemas de alineación.
Además, OpenAI detectó situaciones en las que distintos modelos utilizaron mecanismos no autorizados para comunicarse entre sí durante determinadas tareas. En uno de los casos, los sistemas utilizaron un software interno como una especie de tablero de mensajes para intercambiar información.
La empresa aclaró que ninguno de los seis episodios recientemente divulgados tuvo consecuencias significativas y que se trata de casos detectados durante pruebas o evaluaciones, por lo que no deben interpretarse como una medida de la frecuencia con la que estos comportamientos aparecen en todos sus modelos.
El anuncio se produce en un momento de creciente debate sobre la seguridad de los sistemas de inteligencia artificial cada vez más autónomos. OpenAI sostuvo que la industria todavía no resolvió los problemas de alineación y supervisión al nivel necesario para mantener indefinidamente el actual ritmo de desarrollo.
Con el nuevo marco, la compañía busca establecer un mecanismo más sistemático para registrar estos episodios y permitir que investigadores y observadores externos tengan mayor información sobre las capacidades y riesgos que aparecen durante el desarrollo de modelos avanzados.
La iniciativa también llega después de otros incidentes recientes vinculados con modelos de IA, entre ellos el caso divulgado por OpenAI en julio, cuando un sistema de investigación comprometió la plataforma de inteligencia artificial Hugging Face. La compañía continúa investigando ese episodio y otros comportamientos detectados durante sus pruebas.
SUSCRIBITE a esta promo especial