Las “alucinaciones” de la IA: el factor clave que le resta confianza

Las “alucinaciones” de la Inteligencia Artifical (IA) generativa, esas que presentan una buena estructura pero transmiten datos erróneos, pronto serán cosa del pasado, según vaticina Peter Lee, de Microsoft.

Lee tiene en Microsoft la tarea de “ver el futuro” de la tecnología para su empresa, y dice que en un “futuro próximo” se terminará uno de los grandes quebraderos de cabeza para la inteligencia artificial.

Según indica el vicepresidente Corporativo de Investigación e Incubaciones de Microsoft, hay un “área gris entre la imaginación y la capacidad de hacer conjeturas informadas” de la IA, pero que las tasas de “alucinaciones” están disminuyendo constantemente gracias a distintas técnicas.

Estas “alucinaciones” no solo hacen que los usuarios desconfíen de las respuestas de la IA, sino que ha abierto casos judiciales por difamación.

DERECHOS DE AUTOR VS LA IA

Otro quebradero de cabeza para los chatbots -como Bing de Microsoft, que usa la tecnología GPT de OpenAI- es que respeten los derechos de autor en sus respuestas.

Los escritores George R.R. Martin, John Grisham y Elin Hilderbrand, entre otros, han denunciado a la tecnológica OpenAI -compañía en la que Microsoft ha invertido 13.000 millones de dólares- por violar sus derechos de autor y por un “robo sistemático a escala masiva” de sus obras.

LE PUEDE INTERESAR

Postres tradicionales: hechos en casa

LE PUEDE INTERESAR

Agenda de la semana

Esta no es la única denuncia de este tipo a la que se enfrenta OpenAI. Este año, la humorista Sarah Silverman y los autores Christopher Golden y Richard Kadrey demandaron a OpenAI y Meta por infringir los derechos de autor para entrenar GPT-4 y Llama 2.

Lee, que lleva 13 años trabajando en el gigante tecnológico, apunta que estas causas judiciales son “excepcionalmente importantes” y que es clave que se resuelvan.

“Lo que veo en la trayectoria (de la IA) es que los modelos futuros no incluirán en su entrenamiento datos protegidos por derechos de autor en absoluto”, apunta.

En agosto, OpenAI dijo que los propietarios de páginas web ahora pueden bloquear su rastreador web, para no permitir que su contenido sea usado para adiestrar su LLM.

Varias páginas, incluidos editores de noticias como The New York Times, lo han hecho y han impedido así que OpenAI extraiga sus datos.

UN ASISTENTE PERSONAL PARA CADA PERSONA

El objetivo de Microsoft, al igual que el de otros gigantes de la tecnología como Google con su chatbot Bard, es que los usuarios hagan de la IA generativa su asistente personal para ayudarles a organizar su vida: desde crear listas de la compra en el orden en el que los artículos están en el supermercado, hasta crear PowerPoint o páginas webs desde un texto.

Lee apunta que aunque se trate solo de una máquina y no se pueda decir que “esté pensando”, los resultados de la IA generativa “muestran cierta capacidad de razonamiento”.

También apunta que podría ser de inmensa utilidad para los médicos y las enfermeras para tratar a sus pacientes, ya que señala que GPT4 -tecnología disponible en Bing y en GPT plus de Open IA- puede “observar las decisiones del médico y darle una segunda opinión, verificar errores y quizás mostrar otras cosas que el médico no vio”.

No obstante, Lee, que también estudia cómo definir un código de conducta para la IA en la Academia Nacional de Medicina de Estados Unidos, anota que se preocupó cuando a tan solo unos días del lanzamiento de ChatGPT, en noviembre de 2022, empezó a recibir correos de médicos que le contaban que ya estaban usando la tecnología en sus diagnósticos.

“Eso nos emocionó mucho, pero también nos preocupó mucho”, recuerda Lee, ya que cree que pese a ser una “tecnología nueva, poderosa y única” debe de haber una regulación antes de que se use esa tecnología en la medicina como cualquier otra herramienta.

En este sentido el experto comparó esta tecnología con el alambre de cobre antes de que se descubriera la bombilla.

“Es muy difícil pensar en cómo regular ese cable de cobre. Sabemos que vamos a necesitar regulaciones, sabemos que tendrán que ser estándares para la instalación y el cableado, los materiales, etc. Pero es difícil desarrollar eso sin entender qué hay al final de esos cables”, añadió. (EFE)