Riesgos

El psiquiatra Diego Sarasola da cuenta de que esta semana, un trabajo publicado en JAMA Psychiatry “encendió discusiones al advertir sobre un riesgo crítico: la tendencia de algunos modelos de lenguaje a validar contenidos delirantes en pacientes con sintomatología psicótica”. La investigación evaluó cómo responden distintos sistemas frente a “prompts psicóticos”, entradas diseñadas para simular discursos propios de episodios delirantes. Los resultados fueron inquietantes: en muchos casos, en lugar de establecer límites o sugerir ayuda, los modelos tendieron a reforzar la distorsión.

Para los especialistas, el hallazgo refuerza una conclusión central: la supervisión humana sigue siendo insustituible.