Alerta por la IA: desde la ONU piden regularla

La inteligencia artificial (IA) tiene un enorme potencial, pero representa graves riesgos si no se regula, advirtió el Secretario General de la Organización de las Naciones Unidas (ONU), António Guterres, al Consejo de Seguridad, en el marco de la semana de alto nivel de la 80.ª sesión de la Asamblea General.

“La IA ya no es un horizonte lejano: está aquí, transformando la vida diaria, el espacio informativo y la economía global a una velocidad vertiginosa”, dijo Guterres durante el debate de alto nivel del Consejo sobre las implicaciones de seguridad de esta tecnología en la transformación de la guerra.

La reunión fue convocada por la República de Corea (presidenta del Consejo durante el mes de septiembre) y contó con la participación de jefes de Estado y de Gobierno, entre ellos Lee Jae Myung, Presidente de la República de Corea, quien la presidió.

“La pregunta no es si la IA influirá en la paz y seguridad internacionales, sino cómo daremos forma a esa influencia”, indicó el jefe de la ONU y consideró que, usada de manera responsable, la IA puede ayudar a anticipar la inseguridad alimentaria, apoyar las operaciones de desminado y detectar brotes de violencia antes de que se salgan de control.

“Pero sin salvaguardias, también puede ser militarizada,” advirtió, señalando el uso de la IA para dirigir ataques en conflictos recientes, ciberataques contra infraestructuras críticas y el uso de deepfakes capaces de alimentar la polarización o descarrilar la diplomacia.

Guterres subrayó que “la capacidad de fabricar y manipular audio y video amenaza la integridad de la información, alimenta la polarización y puede desencadenar crisis diplomáticas” y que “el destino de la humanidad no puede quedar en manos de un algoritmo.”

LE PUEDE INTERESAR

Spotify limita abusos de la inteligencia artificial

LE PUEDE INTERESAR

Amazon paga un monto millonario por una demanda

Prioridades

El Secretario General de la ONU estableció cuatro prioridades para los gobiernos: mantener el control humano sobre el uso de la fuerza, crear marcos normativos globales coherentes, proteger la integridad de la información y cerrar lo que denominó la “brecha de capacidad en materia de Inteligencia Artificial” entre los países ricos y los pobres.

“Reitero mi llamado a prohibir los sistemas de armas autónomas letales que operan sin control humano, con miras a concluir un instrumento jurídicamente vinculante para el próximo año,” afirmó Guterres.

También insistió en que las decisiones relacionadas con las armas nucleares “deben quedar en manos de los seres humanos, no de las máquinas.”

El Secretario General destacó medidas ya en marcha, como la creación de un panel científico independiente sobre IA y un nuevo diálogo global sobre gobernanza de la IA.

“Estas iniciativas buscan conectar la ciencia, las políticas y la práctica; ofrecer a cada país un lugar en la mesa; y reducir la fragmentación,” explicó.

Ampliar el acceso

Yejin Choi, investigadora senior en el Instituto de Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford, advirtió al Consejo de Seguridad que el avance actual en Inteligencia Artificial está demasiado concentrado en pocas empresas y países.

“Cuando solo unos pocos tienen los recursos para desarrollar y beneficiarse de la IA, dejamos al resto del mundo esperando en la puerta,” señaló la investigadora.

También agregó: “Expandamos lo que puede ser la inteligencia, y permitamos que todos y en todas partes tengan un papel en su construcción.”

Actuar sin demora

Guterres concluyó advirtiendo que la ventana de oportunidad para una regulación efectiva de la Inteligencia Artificial se está cerrando rápidamente.

“Desde el control de armas nucleares hasta la seguridad aérea, la comunidad internacional ha sabido responder ante tecnologías que podrían desestabilizar nuestras sociedades: estableciendo reglas, construyendo instituciones y defendiendo la dignidad humana,” afirmó.

“La ventana para moldear la IA —por la paz, la justicia y la humanidad— se está cerrando. Debemos actuar sin demora.”, concluyó el dirigente.