El director ejecutivo de Meta, Mark Zuckerberg, rechazó la idea de ralentizar el desarrollo de la inteligencia artificial (IA) y sostuvo que los mecanismos del mercado, la presión de los usuarios y los riesgos legales ya constituyen incentivos suficientes para que las empresas desarrollen sistemas más seguros.
La postura fue expresada el martes 15 de septiembre en una publicación en X, en medio de un debate creciente entre los principales referentes de la industria tecnológica sobre la velocidad con la que avanzan los modelos de IA. Zuckerberg se mostró contrario a establecer frenos adicionales al desarrollo y defendió un esquema basado principalmente en la competencia y la responsabilidad de las propias compañías.
Según el CEO de Meta, los usuarios no tendrán interés en utilizar modelos que no respondan a sus necesidades o que no actúen de acuerdo con sus preferencias. Por eso, consideró que los laboratorios de investigación tienen un incentivo económico para mejorar la confianza y la capacidad de sus sistemas para ajustarse a los objetivos de las personas.
Zuckerberg señaló que la confianza y la denominada “alineación” se están convirtiendo en factores centrales para diferenciar a los distintos modelos y agentes de inteligencia artificial. En ese marco, sostuvo que las empresas que no logren generar confianza entre los usuarios podrían quedar en desventaja frente a sus competidores.
El empresario también planteó que los riesgos legales funcionan como otro límite al desarrollo de estas tecnologías. Argumentó que los laboratorios enfrentan responsabilidades si sus modelos provocan daños y que, por esa razón, tienen incentivos para reducir los riesgos antes de poner nuevos sistemas a disposición del público.
Como parte de su propuesta, Zuckerberg defendió la intervención de evaluadores y asesores independientes para analizar los sistemas desarrollados por las compañías. Consideró que la contratación de especialistas externos para evaluar los modelos debería convertirse en una práctica habitual de la industria, sin que eso implique necesariamente reducir el ritmo general de innovación.
Para respaldar su posición, mencionó el caso de Meta y su sistema de inteligencia artificial Muse AI, equipado con agentes personalizados. Según Zuckerberg, la compañía decidió retrasar durante varios meses su lanzamiento para reforzar las medidas de seguridad. El CEO sostuvo que Meta tomó esa decisión como parte de sus procedimientos internos y no como consecuencia de una exigencia dirigida a sus competidores.
La discusión enfrenta así dos enfoques dentro de la industria. Mientras algunos ejecutivos consideran necesario reducir temporalmente el ritmo de desarrollo de los sistemas más avanzados para evaluar sus posibles riesgos, otros sostienen que la competencia tecnológica debe continuar y que los mecanismos de seguridad pueden incorporarse durante el proceso de desarrollo.
Entre quienes pidieron avanzar con mayor cautela se encuentra Dario Amodei, CEO de Anthropic, una de las compañías dedicadas al desarrollo de modelos de IA. Durante el último fin de semana, Amodei planteó la necesidad de desacelerar el desarrollo de sistemas avanzados ante la posibilidad de que sus capacidades aumenten más rápido que los mecanismos disponibles para controlarlos.
La posición de Amodei recibió el respaldo de otros referentes del sector, entre ellos Sam Altman, CEO de OpenAI; Elon Musk, fundador de xAI y responsable del asistente Grok; Satya Nadella, CEO de Microsoft; y Demis Hassabis, CEO de Google DeepMind. El planteo refleja la preocupación de parte de la industria por los riesgos asociados con sistemas cada vez más autónomos y capaces de ejecutar tareas complejas.
En paralelo, OpenAI, Anthropic y Google plantearon el martes la creación de una organización autorreguladora integrada por empresas del sector. La propuesta toma como referencia el funcionamiento de FINRA, una organización privada que supervisa el mercado de valores estadounidense bajo la supervisión de la Comisión de Bolsa y Valores (SEC).
El objetivo de ese esquema sería establecer estándares comunes para el desarrollo y la evaluación de sistemas de inteligencia artificial sin trasladar todo el control al Estado. La iniciativa se ubica en el centro del debate sobre qué mecanismos deberían utilizarse para supervisar una tecnología que avanza en áreas como agentes autónomos, generación de contenidos, programación, investigación y automatización de tareas.
La discusión también está vinculada con la política tecnológica de Estados Unidos. El presidente Donald Trump se ha pronunciado en contra de una mayor regulación gubernamental de la IA y sostiene que imponer restricciones podría afectar la capacidad del país para competir con China. En ese contexto, criticó a quienes expresan dudas sobre el avance de la tecnología y defendió el liderazgo estadounidense en el sector.
Zuckerberg coincidió con la idea de evitar mayores frenos regulatorios, aunque puso el acento en la responsabilidad de las propias empresas. Para el CEO de Meta, la combinación entre competencia, demanda de los usuarios, evaluaciones independientes y posibles consecuencias legales puede generar incentivos para mejorar la seguridad sin detener el desarrollo de nuevos modelos.
El debate continúa abierto mientras las principales compañías tecnológicas compiten por desarrollar sistemas de IA con mayores capacidades. El eje de la discusión ya no pasa solamente por qué pueden hacer estos modelos, sino también por quién debe establecer los límites, cómo deben evaluarse sus riesgos y qué grado de control corresponde a las empresas, organismos privados y gobiernos.
SUSCRIBITE a esta promo especial