El Parlamento Europeo decidió regular el uso de la IA

El Parlamento Europeo aprobó ayer una ley para regular el uso de la Inteligencia Artificial (IA) en la Unión Europea (UE), dando inicio a una delicada negociación con los representantes de los 27 países del bloque.

La normativa aprobada con 499 votos a favor, 28 en contra y 93 abstenciones regulará la IA según el nivel de riesgo: cuanto mayor sea para los derechos o la salud de las personas, por ejemplo, mayores serán las obligaciones de los sistemas tecnológicos. La lista de alto riesgo incluye la IA en infraestructura crítica, educación, recursos humanos, orden público y gestión de la migración.

El Parlamento Europeo agregó condiciones antes de que se cumpla la clasificación de alto riesgo, incluida la posibilidad de dañar la salud, la seguridad, los derechos fundamentales o el medio ambiente.

Sistemas automáticos

Así, los eurodiputados incluyeron en el paquete la prohibición al uso generalizado de sistemas automáticos de reconocimiento facial en lugares públicos. En la normativa los legisladores incluyeron previsiones sobre la prohibición de los sistemas de IA de vigilancia biométrica, reconocimiento de emociones y vigilancia predictiva.

Por la normativa, la UE podrá autorizar el uso de esos dispositivos de IA para reconocimiento facial en apoyo al combate al crimen, aunque los detalles específicos aún deberán ser negociados con los países del bloque. También define requisitos especiales para los sistemas de IA generativa, como ChatGPT y DALL-E, capaces de producir texto, imágenes, código, audio y otros medios, e incluyen la obligación de informar a los usuarios que una máquina, no un ser humano, produjo el contenido.

Los planes originales de la UE para regular el uso de la IA se remontan a 2021, pero el asunto se volvió urgente después que ChatGPT irrumpió recientemente en escena, poniendo de relieve el vertiginoso desarrollo del sector.

Los Riesgos de la manipulación

La difusión de imágenes falsas en redes sociales, creadas a partir de aplicaciones basadas en IA, como Midjourney, ha alertado sobre los riesgos de manipulación de la opinión pública y los peligros para la democracia.

Por esa razón, científicos europeos pidieron una moratoria en el desarrollo de los sistemas más potentes, hasta que estén mejor regulados por ley. A partir de ahora, se iniciarán de inmediato, posiblemente en las próximas horas, negociaciones directas con los 27 países del bloque, con la idea de tener un acuerdo sellado para finales de año. Sin embargo, incluso si se alcanzara ese objetivo, la normativa no entraría en vigor hasta 2026, por eso la UE necesitará negociar un marco provisional y voluntario con las empresas que desarrollan IA.