Evitar una “catástrofe”: quién le pone el “cascabel” a la IA

La primera cumbre global sobre seguridad en torno a la inteligencia artificial (AI) logró que Estados Unidos y China, dos potencias rivales especialmente enfrentadas en el ámbito tecnológico, se hayan alineado con buena parte de la comunidad internacional para alertar sobre las amenazas potencialmente “catastróficas” de la nueva tecnología.

Hasta 29 gobiernos, incluida la Unión Europea, se dieron cita ayer en un encuentro auspiciado por el Reino Unido en el que debaten hasta hoy, junto a representantes de las principales empresas tecnológicas globales, planes para identificar y mitigar los riesgos de la IA.

El resultado más tangible de la cumbre es una declaración conjunta en la que los países participantes, entre los que se incluyen España, Alemania, Francia, Brasil, la India y Canadá, entre otros, se comprometen a impulsar la cooperación internacional para evitar los peores augurios en torno a los nuevos sistemas inteligentes.

Los líderes políticos perciben peligros inmediatos como la capacidad de la nueva tecnología para generar desinformación, pero alertan especialmente sobre futuros riesgos “existenciales” para el conjunto de la humanidad.

Las amenazas van desde facilitar ataques informáticos a una escala no vista hasta ahora y dar las claves a grupos terroristas para fabricar armas biológicas, hasta la posibilidad de llegar a perder el control de un sistema autónomo, cuyos objetivos podrían comenzar a divergir de los que habían previsto los humanos.

“Ante el veloz e incierto ritmo de los cambios en la IA, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente”, subrayan los países en el comunicado conjunto.

LE PUEDE INTERESAR

Los escenarios a los que nos podría conducir la Inteligencia Artificial

LE PUEDE INTERESAR

Fuerte cruce entre Massa y Milei en redes por el tema de los órganos

La cumbre de seguridad impulsada por el Reino Unido tendrá continuidad en el futuro. Corea del Sur acogerá una “minicumbre” virtual dentro de seis meses, mientras que Francia será la anfitriona de un nuevo encuentro internacional en el plazo de un año.

Elon Musk alerta del riesgo

A la cumbre en Blentchley Park (centro de Inglaterra), el enclave donde se decodificaban los mensajes secretos nazis durante la Segunda Guerra Mundial, asistieron responsables de las principales empresas tecnológicas que iniciaron la revolución en el sector.

OpenAI, Google DeepMind, Anthropic, Meta y Microsoft, entre otras, participan en los debates con académicos y políticos, muchos de ellos a puertas cerradas, para tratar de establecer una visión común sobre los retos que se presentan.

Una de las estrellas de la cumbre es el fundador de Tesla y propietario de la red social X, Elon Musk, que durante la primera jornada de la cumbre estuvo en gran parte de los debates y alertó que la IA es uno de los principales peligros que afronta la humanidad.

“Por primera vez, estamos en una situación en la que hay algo que va a ser más listo que el más listo de los humanos”, dijo el magnate estadounidense.

“No está claro si podemos, de hecho, controlar algo como eso, pero creo que debemos aspirar a guiarlo hacia una dirección que sea beneficiosa para la humanidad”, agregó Musk, que apostó por crear un “árbitro independiente” que vele por la seguridad en el desarrollo de la IA.

Los organizadores de la cumbre quieren centrar el diálogo en la “IA de frontera”, los modelos que todavía se están desarrollando y que podrían presentar amenazas “existenciales”, pero todavía hipotéticas e indefinidas.

Sin embargo, algunas voces en la cumbre llamaron a poner el foco en peligros inmediatos más acuciantes. Entre ellas, la vicepresidenta de Estados Unidos, Kamala Harris, que subrayó le necesidad de velar por que el uso de los actuales sistemas de inteligencia artificial generativa no afecten de manera desproporcionada a los colectivos más vulnerables.

“Cuando una persona mayor es expulsada de su plan de salud debido a un fallo en un algoritmo de IA, ¿no es eso existencial para él? Cuando una mujer se ve amenazada por una pareja abusiva con fotografías ultrafalsas (‘deepfake’) ¿no es eso existencial para ella?”, dijo Harris.