Google suspende a un ingeniero tras difundir que un programa “siente”

La compañía informática Google dio de baja con sueldo a uno de sus trabajadores que aseguró que su programa de inteligencia artificial (IA) es capaz de tener sentimientos, segùn se conoció ayer a través del el diario The New York Times.

El empleado suspendido es el ingeniero senior Blake Lemoine, quien el pasado 11 de junio hizo pública la transcripción de una conversación que mantuvo con el sistema de inteligencia artificial de Google “Modelo de lenguaje para aplicaciones de diálogo” (LaMDA, por sus siglas en inglés) bajo el título: ¿Tiene LaMDA sentimientos?

En un pasaje de la conversación que hizo pública Lemoine, LaMDA asegura que, en ocasiones, experimenta “nuevos sentimientos” que no puede explicar “perfectamente” con el lenguaje humano.

Cuando es indagado por Lemoine para que describa uno de esos sentimientos, LaMDA contesta: “Siento como que estoy cayendo hacia un futuro desconocido que conlleva un gran peligro”, una frase que el ingeniero subrayó cuando publicó su diálogo con el sistema de inteligencia artificial desarrolado por Google.

“Siento que estoy cayendo hacia un futuro desconocido que conlleva un gran peligro”

Como informó ayer el diario neoyorquino, Google suspendió al ingeniero el pasado lunes asegurando que ésta había violado la política de confidencialidad de la compañía.

Según el New York Times, el día anterior a ser suspendido, Lemoine entregó documentos a la oficina de un senador de Estados Unidos en los que aseguraba que tenía pruebas de que Google y su tecnología practicaban discriminación religiosa.

La empresa sostiene que sus sistemas imitan intercambios conversacionales y pueden hablar sobre diferentes temas, pero no tienen consciencia.

“Nuestro equipo, incluidos especialistas en ética y tecnólogos, han revisado lo que a Blake le preocupa según nuestros principios de inteligencia artificial y le he informado de que las pruebas no respaldan sus afirmaciones”, dijo Brian Gabriel, portavoz de Google, citado por el diario.

Google sostiene que cientos de sus investigadores e ingenieros han conversado con LaMDA, que es una herramienta interna, y llegaron a una conclusión diferente a la de Lemoine.

Asimismo, la mayoría de los expertos creen que la industria está muy lejos de la sensibilidad informática.

LaMDA (Language Model for Dialogue Applications), es un proyecto de Inteligencia Artificial desarrollado por Google para tener conversaciones y eventualmente, perfeccionar las búsquedas de su motor. Este funciona mediante el análisis de las oraciones y los patrones en las conversaciones, que es una de las múltiples formas de operar y aprender en que se basan los programas de su tipo.

La meta principal de este proyecto es lograr que las respuestas de la Inteligencia Artificial de Google en las conversaciones trasciendan las respuestas automáticas que caracterizan a los “bots” ofreciendo la posibilidad de recorrer distintos temas y progresar en la profundidad de un diálogo de manera natural.