Reacción a "Los modelos de lenguaje usados por herramientas como ChatGPT fallan al identificar las creencias erróneas de los usuarios"

Este artículo ofrece una crítica constructiva y fundamental de los modelos de lenguaje actuales, exponiendo sistemáticamente sus limitaciones epistemológicas mediante el nuevo conjunto de datos de referencia KaBLE. El hallazgo principal pone de relieve una deficiencia crítica: los modelos tienden a priorizar su base de conocimiento fáctico interna por encima del reconocimiento de las convicciones subjetivas del usuario. En aplicaciones sensibles como la evaluación de la salud mental, la terapia o el asesoramiento legal, donde el reconocimiento y el razonamiento sobre creencias subjetivas (y potencialmente incorrectas) son fundamentales para la interacción humana y la práctica profesional, esta ‘verificación de hechos’ por defecto socava una implementación eficaz, empática y segura.  

Los hallazgos del artículo exigen una acción urgente tanto para desarrolladores como para implementadores, en consonancia con los principios de transparencia, no maleficencia y solidez técnica; y nos recuerda que el estado actual de estos modelos requiere mejoras específicas en su capacidad para distinguir entre creencias subjetivas y verdades objetivas antes de que puedan considerarse fiables y seguros para aplicaciones donde estas distinciones epistémicas son fundamentales.