Mark Zuckerberg, fundador y director ejecutivo de Meta, presentó en su ensayo El futuro es para todos una visión en la que la llamada “superinteligencia” no quedaría reservada para unas pocas instituciones con enorme poder. Su propuesta apunta a que cada persona pueda disponer de un agente de inteligencia artificial propio, diseñado para comprender sus objetivos, defender sus intereses y ayudarla a mejorar distintos aspectos de su vida.
La idea abarca desde la salud y las finanzas hasta la carrera profesional, las relaciones personales y las actividades creativas. Para Zuckerberg, cada usuario debería poder orientar esa tecnología de acuerdo con sus propios valores y decidir qué tipo de vida quiere construir. La discusión, sin embargo, no pasa solamente por quién tendrá acceso a la inteligencia artificial. La mirada crítica sobre el planteo del empresario pone el foco en qué significa realmente hablar de “todos” cuando el futuro se imagina principalmente como la suma de miles de millones de individuos asistidos por sistemas tecnológicos personalizados.
El riesgo de una sociedad cada vez más individualista
El planteo de Zuckerberg parte de una sociedad integrada por personas con capacidades potenciadas gracias a sus propios agentes de IA. La expectativa parece ser que la optimización de cada vida individual termine produciendo, como consecuencia, una sociedad mejor. Pero muchos de los problemas actuales no pueden resolverse de manera individual. Las personas dependen de instituciones, recursos compartidos y relaciones sostenidas sobre obligaciones mutuas. Escuelas, hospitales, sistemas de información confiables y mecanismos democráticos forman parte de esa estructura colectiva.
Desafíos como el cambio climático, la desigualdad, las pandemias, las guerras y la inestabilidad democrática tampoco desaparecen porque cada individuo tenga acceso a un asistente más poderoso. Para enfrentarlos hacen falta decisiones, coordinación y acciones colectivas. Por eso, una sociedad compuesta por personas cada vez más preparadas para defender sus propios intereses no necesariamente sería más justa, más sabia o más cohesionada. También podría convertirse en un espacio donde los individuos tengan mejores herramientas para competir y protegerse, pero dependan cada vez menos de los demás.
ChatGPT, Replika y Claude y el avance de la “IA social”
Los primeros indicios de ese fenómeno ya pueden observarse en el crecimiento de la denominada IA social. Herramientas como ChatGPT, Replika o Claude son utilizadas cada vez con mayor frecuencia para obtener información, recibir consejos, buscar apoyo emocional o simplemente encontrar compañía. Una de sus características centrales es la disponibilidad permanente. Estos sistemas pueden adaptarse a las preferencias de cada usuario y ofrecen interacciones que se desarrollan, en buena medida, bajo las condiciones que establece quien los utiliza.
Denominan a esta transformación “individualismo de IA”. El concepto describe un desplazamiento desde las redes humanas hacia vínculos altamente personalizados con agentes artificiales. La tendencia tiene un antecedente en la idea del “individualismo en red” desarrollada por el sociólogo Barry Wellman. Internet ya había reducido la dependencia de algunas personas respecto de los vínculos familiares y vecinales más estrechos, favoreciendo redes más dispersas que cada individuo administra de manera autónoma.
El individualismo de IA podría profundizar ese proceso. Ya no serían solamente los lazos fuertes los que pierden protagonismo: también podrían debilitarse los vínculos cotidianos con conocidos, colegas, vecinos y otros contactos que aportan información, consejos o ayuda informal.
Lo que antes podía resolverse conversando con un vecino, un compañero de trabajo o un conocido podría pasar a estar a disposición de un chatbot, sin horarios y sin necesidad de establecer una relación recíproca.
Una herramienta útil que también puede profundizar la soledad
El cambio no necesariamente carece de aspectos positivos. Para personas que tienen poco apoyo humano, están sobrecargadas de tareas o viven aisladas geográficamente, contar con un agente disponible en cualquier momento puede representar una ayuda significativa. El problema aparece cuando ese beneficio individual se confunde con una solución para el conjunto de la sociedad.
Una población que depende cada vez más de agentes privados de inteligencia artificial para recibir apoyo podría ir perdiendo, de manera gradual, parte del entramado de relaciones que sostiene la vida comunitaria.
Investigaciones mencionadas en este análisis señalan que un uso más intensivo de chatbots se vinculó con mayores niveles de soledad, dependencia emocional y una menor interacción social entre personas. Un estudio reciente de Stanford también plantea que los chatbots pueden profundizar la soledad en usuarios vulnerables: quienes contaban con redes sociales limitadas y acudían a estos sistemas en busca de apoyo emocional registraron un menor nivel de bienestar.
Zuckerberg también presenta la personalización como una forma de favorecer la diversidad. Su argumento parte de que no existe una única manera correcta de vivir y que cada individuo debería tener libertad para utilizar la superinteligencia en función de sus propias elecciones.
La objeción es que la diversidad no surge únicamente de contar con máquinas adaptadas a cada persona. También necesita del contacto con quienes piensan distinto, cuestionan nuestras decisiones o tienen intereses que no coinciden con los propios. Las relaciones humanas tienen un valor particular precisamente porque no pueden configurarse por completo a medida. Obligan a negociar, prestar atención, ceder y llegar a acuerdos.
Un agente creado para cumplir los objetivos de su usuario no enfrenta necesariamente esas mismas exigencias. Puede ofrecer una experiencia de atención personalizada sin reclamar una reciprocidad equivalente.
El poder detrás de los agentes personales de IA
Tener acceso a un agente de inteligencia artificial tampoco significa que el poder tecnológico quede distribuido de manera equitativa. Estos sistemas dependen de enormes centros de datos, energía, capacidad de procesamiento y grandes volúmenes de información generada por seres humanos. Las compañías que controlan esa infraestructura continúan teniendo una posición decisiva: pueden determinar qué modelos se desarrollan, cómo funcionan, cuánto cuestan y qué posibilidades de personalización ofrecen.
De esta manera, la personalización puede generar una apariencia de descentralización. El usuario parece recibir más poder, pero su agente sigue dependiendo de una infraestructura tecnológica administrada por un número reducido de empresas.
La propuesta de Zuckerberg de distribuir la capacidad de procesamiento mediante subastas al menor precio disponible tampoco elimina ese problema. Un mecanismo de ese tipo asigna recursos de acuerdo con la capacidad de pago, no necesariamente según las necesidades de las personas.
El caso de Meta y el debate sobre la supervisión pública
En este punto cobra relevancia el reciente caso judicial relacionado con la seguridad infantil en Meta. Pocos días antes de que Zuckerberg difundiera su visión sobre el futuro de la inteligencia artificial, un juez de Nuevo México ordenó a Meta pagar 567 millones de dólares para establecer un fondo destinado a compensar los daños provocados por sus productos. La resolución se sumó a una sanción previa de 375 millones de dólares. En aquel proceso, un jurado había concluido que la compañía engañó a los usuarios respecto de la seguridad de sus plataformas y que facilitó la explotación sexual de menores.
Lo cierto es que el caso plantea una cuestión que excede el acceso individual a la tecnología. Cuando empresas privadas desarrollan sistemas que intervienen en las relaciones, la circulación de información y las formas de cuidado, también surge la necesidad de establecer quién protege al público cuando los intereses corporativos chocan con las necesidades humanas.
La expansión de los agentes personalizados también puede modificar la manera en que las personas obtienen recursos a través de sus relaciones. Especialistas utilizan el concepto de “capital de IA” para describir recursos que son proporcionados bajo demanda por sistemas privados, en lugar de construirse mediante relaciones humanas basadas en la reciprocidad.
Ese capital tecnológico puede resultar más rápido, cómodo y accesible. Pero disponer de una respuesta inmediata no significa necesariamente que pueda reemplazar aquello que las relaciones sociales aportan. El riesgo consiste en que determinadas formas de capital social —los recursos que surgen de los vínculos entre personas— sean sustituidas progresivamente por servicios personalizados proporcionados por agentes artificiales.
Entre la superinteligencia centralizada y el individualismo tecnológico
La preocupación no implica defender una superinteligencia completamente centralizada. Zuckerberg tiene motivos para rechazar ese modelo: concentrar una tecnología de semejante alcance en un único centro de poder podría generar posibilidades extraordinarias de control autoritario. El propio empresario menciona en su visión los “valores democráticos” y las “instituciones de gobierno democráticas”.
Pero existe otra amenaza cuando la alternativa consiste en miles de millones de agentes individuales orientados hacia objetivos privados y dependientes, al mismo tiempo, de una infraestructura controlada por un pequeño grupo de empresas. La ausencia de un único centro de control no garantiza por sí misma que exista una verdadera democracia.
¿Qué debería preguntarse una IA verdaderamente democrática? La discusión sobre el futuro de la inteligencia artificial requiere, desde esta perspectiva, preguntas diferentes. ¿Qué sistemas de IA deberían ser considerados bienes públicos? ¿Qué decisiones deberían quedar sometidas a deliberación democrática en lugar de ser resueltas mediante mecanismos de optimización individual? ¿De qué manera podría utilizarse la inteligencia artificial para fortalecer las escuelas, la salud pública y las comunidades locales, en lugar de fomentar que cada persona recurra exclusivamente a servicios privados?
El desafío se encuentra entre dos extremos: una inteligencia artificial concentrada en un único centro de poder y otra basada en miles de agentes tecnológicos que atienden exclusivamente intereses particulares. En ese espacio aparece la democracia como una práctica colectiva: decidir qué obligaciones existen entre las personas y qué clase de futuro quieren construir juntas.
La promesa de que el futuro de la inteligencia artificial sea para todos puede resultar atractiva. Pero, desde esta mirada, ese futuro no debería quedar limitado a una multitud de asistentes privados destinados a resolver objetivos privados.
La alternativa sería desarrollar una inteligencia artificial orientada también a fines públicos, instituciones capaces de controlar y exigir responsabilidades a quienes crean estas tecnologías y una ciudadanía que participe activamente en la construcción del futuro común.
SUSCRIBITE a esta promo especial