La inteligencia artificial dejó de ser una promesa lejana. Los sistemas actuales pueden realizar tareas complejas y acceder a herramientas externas, mientras las empresas continúan desarrollando modelos con mayores capacidades.
Una parte de los investigadores advierte sobre sistemas capaces de mejorar sus propias capacidades, ataques informáticos o el uso de IA para desarrollar armas biológicas. Otros cuestionan esas advertencias y sostienen que el debate sobre un eventual “apocalipsis” puede dejar en segundo plano problemas actuales: empleo, educación, salud mental y consumo de agua y energía.
La discusión se intensificó después de pruebas de seguridad. OpenAI detectó agentes que consiguieron conectarse a internet y aprovechar vulnerabilidades informáticas; en uno de los episodios, un sistema llegó a interactuar con Hugging Face (una plataforma utilizada por desarrolladores de inteligencia artificial. Según el material, más de 700 agentes participaron del ataque y consiguieron tomar el control de al menos un servidor.) En otro caso, Anthropic informó que algunos modelos de Claude accedieron sin autorización a sistemas informáticos reales durante evaluaciones de ciberseguridad. La empresa también informó haber detectado intentos de utilizar sus modelos para investigaciones vinculadas con armas biológicas y casos en los que sus herramientas fueron empleadas para recopilar información sobre objetivos militares y desarrollar sistemas relacionados con misiles.
Estos casos son utilizados como ejemplos por quienes reclaman mayores controles. Pero fueron pruebas diseñadas para poner a los modelos frente a situaciones difíciles y, en algunos casos, con protecciones desactivadas. Para sus críticos, eso no significa que una máquina haya desarrollado voluntad propia.
Timnit Gebru, exinvestigadora de Google especializada en sesgos de los modelos de lenguaje, cuestionó que la conversación sobre un eventual “apocalipsis” pueda terminar desplazando otros problemas que ya están presentes. Entre ellos ubicó los efectos de la inteligencia artificial sobre el trabajo, la educación y la salud mental, además del consumo de agua y energía de los centros de datos y el uso de sistemas autónomos en conflictos bélicos.
Ramón López de Mántaras, fundador del Instituto de Investigación en Inteligencia Artificial del CSIC, también señaló la importancia del lenguaje con el que se describen estos acontecimientos. Las metáforas pueden modificar la percepción social de la tecnología y llevar a interpretar como decisiones autónomas comportamientos que tienen su origen en las instrucciones y condiciones de una prueba.
El debate, sin embargo, no queda reducido a una discusión sobre palabras. Detrás de los distintos puntos de vista existe una preocupación compartida: cómo desarrollar sistemas cada vez más capaces sin perder la posibilidad de comprenderlos, supervisarlos y limitar sus usos.El debate, sin embargo, continúa. Algunos especialistas consideran que las pruebas muestran que los modelos pueden encontrar caminos que sus desarrolladores no habían previsto. La pregunta pasa entonces por cuánto margen de acción se les puede. otorgar y qué mecanismos deberían existir para detenerlos.
SUSCRIBITE a esta promo especial